Afyonkarahisar ilinin bulunduğu toprakları ilkin Hitit İmparatorluğu'nun sınırları içinde görüyoruz. Sonra Frig ve Lidya'lılara geçen bölge, M.Ö.6. Yüzyılda tüm Anadolu ile birlikte Pers egemenliğine geçiyor. Büyük İskender ile Makedonya İmparatorluğuna katılan topraklar, onun ölümünden sonra parçalanıyor. İskender'in generalleri Anadolu'ya paylaşmak için savaşa girişiyorlar.
Bundan sonra Afyonkarahisar topraklarında Selevkos ve Bergama Krallığı hüküm sürmekte. Roma İmparatoru I.Kanstantin zamanında, yöre Roma'ya bağlanıp halkı Hıristiyanlaştırılmaya çalışılıyor. Roma'nın ikiye ayrılmasından sonraki dönemde bölgeyi Bizans'ın egemenliğinde buluyoruz. M.S. 5. Yüzyılda Bizans İmparatoru Zenon, Afyonkarahisar yöresinde, Sasani'lerle savaşa tutuşuyor. 7. Yüzyılda Müslümanlığın birleştirdiği Arapların gözü Bizans'ın başkenti İstanbul'da. Bizans başkenti almak için yola çıkan Araplar, 739 yılında Afyonkarahisar kapılarına kadar geliyorlar. İslam inanışına göre; Battal Gazi, Bizans'la yapılan bu savaşlar sırasında şehit düşmüştür.
1071 zaferinden sonra Anadolu Türklere açılmış, Kutalmış oğlu Süleyman Şah emrindeki Türkler, tüm Batı Anadolu'yla birlikte Afyonkarahisar yöresini de fethetmişlerdir. Bizansı korumak ve kutsal toprakları geri almak isteyen Batı devletlerinin orduları, I. Haçlı seferiyle kısa bir süre yeniden Türklere katılması Selçuklu Sultanı Alaaddin Keykubat dönemine rastlar. Keykubat, Afyonkarahisar'a ayrı bir değer vermiş, kenti onarttırıp, kalesini yeniden düzenletmiştir.
13. yüzyılın sonlarına doğru Afyonkarahisar, Türk beylikleri arasında güçlü bir durumda bulunan Germiyanoğulları'nın buyruğuna girmiştir. Yıldırım Beyazıt'ın 1390 yılında Osmanlı topraklarına kattığı Afyonkarahisar, O'nun 1402'de Timur'a yenilmesinden sonra yeniden Germiyanoğullarına verildi. Osmanlıların kısa sürede kendilerini toparlayıp, güçlenmeleri Germiyanoğulları'nın barışçıl yollar aramasına neden oldu. Devrim Sultan, Osmanlı sarayına gelin verildi. Germiyanoğlu 2. Yakup'un ölümünden sonra da, bu beyliğin tüm topraklarıyla birlikte Afyonkarahisar da Osmanlılara katıldı. O yıllarda adı Karahisar-ı Sahip olan Afyonkarahisar ve yöresi, İmparatorluğun 14 sancağından biri durumuna girdi. Anadolu beylerbeyliğine bağlı olan sancağın merkezi Kütahya idi. Tanzimattan sonra Hüdavendigar Valiliği kurulunca beş sancakla birlikte Afyonkarahisar'da bu merkeze bağlandı. 1917 yılında Bursa'ya bağlı mutasarrıflık olan Afyonkarahisar, bu tarihte, bağımsız mutasarrıflığa dönüştürüldü.
XVII. yüzyılda Celali isyanları, 1833 yılında Kavalalı Mehmet Ali Paşa istilasıyla kara günler yaşayan Afyonkarahisar, en karanlık günleri 1921'deki I. Dünya Savaşı sonuyla, Kurtuluş Savaşı sonu arasında yaşadı. I. Dünya Savaşı sonrasında bütün Batı Anadolu kentleri gibi Afyonkarahisar da Yunanistan tarafından istila edildi. 28 Mart 1921'de kente giren Yunan birlikleri bilinemeyen bir nedenle 10 gün sonra çıkıp gittiler. 13 Temmuz 1921'de yeniden girdikleri kentte 1 yıl 1 ay 25 gün kaldılar. Afyonkarahisar, Büyük taarruzun ikinci günü 27 Agustos 1922'de düşman işgalinden kurtuldu. İşgal sırasında harabeye çevrilen kent, bozguna uğramış düşman ordular tarafından iyice yakılıp, yıkıldı. Büyük Taarruzun en büyük savaşları Afyonkarahisar ve Kütahya illerinin sınırlarında yapılmıştır. Mustafa Kemal'in yönettiği, Kocatepe Savaşı olarak bilinen ve Türk ordularına zaferi müjdeleyen, ünlü savaş da Afyonkarahisar ili sınırları içinde gerçekleştirildi. Türklerin 1. ordusuyla 2. ordusu arasında sıkıştırılan düşman birlikleri burada yok edildiler. Bu nedenle Afyonkarahisar, Kurtuluş Savaşımızın simgesi olmuş kentlerimizden biridir.