Први значајнији трагови о постојању насеља на мјесту данашњег града, досежу до времена римске империје. Једна од најважнијих римских магистрала (Salona-Servitium), која је преко западне Босне повезивала Јадранско море са Савом и Панонијом, пролазила је овим крајем (Млиништа - Пецка - Штрбина - Подрашница - Рогољи - Бусија - Јована вода -Тријебово - Ханови - Бочац). Постојало је још неколико путева према Шипову, Котору и Језеру. Раскрсница тих путева је било насеље "LEUSABA", смјештено у подножју Грабежа, из којег ће се касније развити данашњи Мркоњић Град.

Интеграцијом становништва из Мајдана и Оћуна са древним насељем Варцаревом настаје Нови град (на турском Јенџе касаба). Од тог периода, насеље почиње да се шири и увећава све до данашњих дана. Велики препород град доживљава 1593. године када Крзларага-родом Ђукановић, подиже своју задужбину (вакуф) на Колобари (мјесто на којем се данас налази споменик Краљу Петру I Карађорђевићу), џамију, 24 дућана, водовод, пекару, библиотеку, те оснива фонд за унапређење занатства и трговине. Успостављањем вакуфске задужбине град добија име Варцарев вакуф, а затим Варцар вакуф.

Овај назив остаје све до 1924. године када град добија данашњи назив Мркоњић Град. У знак захвалности за учествовање у првом босанско-херцеговачком устанку против турака 1875. године, Краљу Петру I Карађорђевићу-Мркоњићу, поред тога што град носи његово име, становништво подиже споменик, који ће бити рушен и подизан у неколико наврата.

Значајнији датум у историји града је 25. новембар 1943. године. Тог дана је одржано I засједање ЗАВНОБиХ-а, на којем је одлучено да Босна и Херцеговина постане шеста федерална јединица тадашње Југославије.

Послијератни период обиљежава развој општине у свим сегментима привредног и друштвеног живота. Град и села се електрифицирају, граде се путеви, водоводи, школе, амбуланте, библиотека, музеј, позориште, модеран хотел. Оснивају се и прве радне организације из којих ће касније настати велике фабрике; Творница вијака (400 радника), Мањача (380 радника), Лисина (260 радника) и Младост (1100 радника).
 
Прва средња школа је основана 1961. године под називом Гимназија.
У новијој историји град трпи велико разарање током посљедњег рата (1992-1995.г.). Повратком становништва на ово подручје почиње његово обнављање које траје још увијек.