В восточной части города, на холме Линнамяги (эст. Linnamägi, Городская гора) стоят развалины Отепяского епископского замка XIII века. Замок был построен на месте городища эстов, которое впервые упоминается в русских летописях в 1116 году под именем Медвежья Голова. Учёные полагают, что поселение на горе Лиммамяги существовало уже 2000 лет назад, а археологические находки на месте относятся ко второй половине первого тысячелетия н. э. Первоначальное название поселения неизвестно, но учёные склоняются к мнению, согласно которому имя было связано с головой медведя. Немцы в своих хрониках название городища не переводили и вплоть до XIX века в качестве названия замка, а позже и посёлка, использовали немецкую транскрипцию Оденпе (нем. Odenpäh) не дошедшего до нас древнеэстонского названия места.

20 сентября 1876 года Тартуское Эстонское сельскохозяйственное общество провело в церковном поместье первую Эстонскую сельскохозяйственную выставку.

4 июня 1884 года в Отепяской церкви был освящён первый эстонский флаг. Поэтому при церкви имеется «Комната эстонского флага» и памятная доска об освящении эстонского флага. Недалеко от церкви есть также памятник эстонскому фольклористу, языковеду и общественному деятелю Якобу Хурту (1839—1907).

1 апреля 1936 года посёлок Отепя стал городом. В 2010 году стал местом проведения Чемпионата Европы по биатлону.