Перші поселення на території, яку зараз займає Охтирка, виникли близько 3000 років тому.
Заселяли її осілі землеробсько-скотарські племена скіфів.
У період Київської Русі тут були слов’янські городища — прикордонні укріплення, пізніше зруйновані монголо-татарським ордами. Майже на 400 років залишалися спустошеними широкі родючі приворсклянські степи «Дике поле».
Занепокоєний нескінченними набігами татар, московський уряд вимушений був будувати міцний прикордонний заслін. Засновували фортеці і поселялися вздовж лінії для її оборони не лише московське служиле військо, а й переселенці з Правобережної України, котрі тікали від спольщення і католицизму. Переселенці оселялися на нових місцях слободами, звідки й отримав назву край — Слобідська Україна.
Просування біженців на схід непокоїло й польський уряд, в 1641 році, поляки, на місці слов’янського городища, на горі Охтир, закладають прикордонну засіку проти крайнього західного флангу Білгородської засічної лінії. Офіційно визнаною датою його заснування вважають 29 вересня 1641 року.
За часів Української революції влада у місті змінювалась кілька разів і щоразу це супроводжувалось розстрілами і грабунками. Охтирку спершу зайняли австро-німецькі війська. Їм на зміну прийшли війська Директорії, згодом — Червона армія, Добровольча армія Денікіна.
У 1923 році Охтирка стає центром Богодухівського округу, з 1925 року — центром Охтирського району Харківського округу, з 1932 — райцентром Харківської області, а з 1939 — Сумської.
Під час організованого радянською владою Голодомору 1932—1933 років померло щонайменше 2 746 жителів міста.
14 жовтня 1941 року радянські війська з боєм відступили з Охтирки.
У період німецької окупації в місті діяв партизанський загін, під командуванням І.Ю. Горобця.
25 серпня 1943 року в результаті завершальних боїв Курської битви Охтирка була звільнена 27 армією під командуванням генерал-лейтенанта С. Г. Трофименка.
Відкриття в 1957 році родовища нафти й газу дало поштовх до створення нових підприємств. З 1961 року веде свою історію Охтирський нафтопромисловий район, що охоплює велику площу на території трьох областей і за своєю потужністю займає перше місце в Україні, де є поклади нафти і блакитного палива. Нині тут видобувається 50 % української нафти.
У 1975 році Охтирка отримала статус міста обласного підпорядкування.
