Так называемая Нарвская культура стала одним из компонентов в этногенезе прибалтийских народов.

Поселение на этом месте впервые упоминается в 1171 году в Новгородской летописи. В начале XIII века оно было известно как село Нарвия.

Крепость в Нарве была основана датчанами 30 ноября 1223 года. В первой половине XIV века Нарве даны права города. С 1223 по 1346 гг. Нарва принадлежала Дании, а затем до 1558 года. − Ливонскому ордену. В это время строится замок Германа (13-15 вв.), являющийся наглядным свидетельством стратегической важности города.

В 1492 году для борьбы с Ливонией напротив Нарвы князем московским Иваном III была построена Ивангородская крепость. Во время Ливонской войны Нарва была взята сначала русскими войсками (11 мая 1558 года), а затем войсками Швеции (в 1581 году).

С попытки отвоевать Нарву Пётр I начал Северную войну. Русская армия осадила Нарву, но 19 (30) ноября 1700 года была разбита шведскими войсками (см. Битва при Нарве). Лишь 9 августа 1704 года русские войска взяли Нарву (см. Осада Нарвы).

После основания крепостей Кронштадт и Свеаборг Нарва утратила своё стратегическое значение. К середине XIX века Нарва стала крупным центром текстильной промышленности благодаря основанию Кренгольмской мануфактуры. Среди учредителей мануфактуры были: Лев Герасимович Кноп, Козьма Терентьевич Солдатенков, Алексей Иванович Хлудов, Ричард Васильевич Барлов, Эрнст Федорович Кольбе[2].

С 4 марта по 28 ноября 1918 года город был оккупирован германскими войсками. Во время Гражданской войны в России (Освободительная война Эстонии) 27 ноября 1918 года Красная Армия оккупировала Нарву и развернула наступление вглубь Эстонии. 29 ноября 1918 года в Нарве была провозглашена Эстляндская трудовая коммуна. 18 января 1919 года войска Эстонской Республики освободили город. С января 1919 года находилась в составе Эстонской Республики, с 21 июля 1940 года — Эстонской ССР, вошедшей 6 августа 1940 года в состав СССР.

Во время Второй мировой войны с августа 1941 года была оккупирована немецкими войсками. Освобождена 26 июля 1944 года в ходе Нарвской операции. Во время войны Старый город Нарвы сильно пострадал и, как и многие города СССР, по окончании войны восстановлен был не полностью.

С 1991 года после распада СССР находится в составе Эстонской Республики.