Prvi značajniji tragovi o postojanju naselja na mjestu današnjeg grada, dosežu do vremena rimske imperije. Jedna od najvažnijih rimskih magistrala (Salona-Servitium), koja je preko zapadne Bosne povezivala Jadransko more sa Savom i Panonijom, prolazila je ovim krajem (Mliništa - Pecka - Štrbina - Podrašnica - Rogolji - Busija - Jovana voda -Trijebovo - Hanovi - Bočac). Postojalo je još nekoliko puteva prema Šipovu, Kotoru i Jezeru. Raskrsnica tih puteva je bilo naselje "LEUSABA", smješteno u podnožju Grabeža, iz kojeg će se kasnije razviti današnji Mrkonjić Grad.

Integracijom stanovništva iz Majdana i Oćuna sa drevnim naseljem Varcarevom nastaje Novi grad (na turskom Jendže kasaba). Od tog perioda, naselje počinje da se širi i uvećava sve do današnjih dana. Veliki preporod grad doživljava 1593. godine kada Krzlaraga-rodom Đukanović, podiže svoju zadužbinu (vakuf) na Kolobari (mjesto na kojem se danas nalazi spomenik Kralju Petru I Karađorđeviću), džamiju, 24 dućana, vodovod, pekaru, biblioteku, te osniva fond za unapređenje zanatstva i trgovine. Uspostavljanjem vakufske zadužbine grad dobija ime Varcarev vakuf, a zatim Varcar vakuf.

Ovaj naziv ostaje sve do 1924. godine kada grad dobija današnji naziv Mrkonjić Grad. U znak zahvalnosti za učestvovanje u prvom bosansko-hercegovačkom ustanku protiv turaka 1875. godine, Kralju Petru I Karađorđeviću-Mrkonjiću, pored toga što grad nosi njegovo ime, stanovništvo podiže spomenik, koji će biti rušen i podizan u nekoliko navrata.

Značajniji datum u istoriji grada je 25. novembar 1943. godine. Tog dana je održano I zasjedanje ZAVNOBiH-a, na kojem je odlučeno da Bosna i Hercegovina postane šesta federalna jedinica tadašnje Jugoslavije.

Poslijeratni period obilježava razvoj opštine u svim segmentima privrednog i društvenog života. Grad i sela se elektrificiraju, grade se putevi, vodovodi, škole, ambulante, biblioteka, muzej, pozorište, moderan hotel. Osnivaju se i prve radne organizacije iz kojih će kasnije nastati velike fabrike; Tvornica vijaka (400 radnika), Manjača (380 radnika), Lisina (260 radnika) i Mladost (1100 radnika).
 
Prva srednja škola je osnovana 1961. godine pod nazivom Gimnazija.
U novijoj istoriji grad trpi veliko razaranje tokom posljednjeg rata (1992-1995.g.). Povratkom stanovništva na ovo područje počinje njegovo obnavljanje koje traje još uvijek.