Karaman, tarihin eski çağlarmdan beri önemli bir yerleşim yeri olarak öne çıkmış şehirlerimizden biridir. Eski ismi "Larende" olan bu şehir, Anadolu Selçuklulan Devleti'nin yılalışı sırasında Karamanoğullan'nın başkenti olmuştur. Hakimiyeti iki asırdan fazla süren bu beylik, Anadolu Türklüğünün bânisi ve koruyucusu olarak önemli hizmetler gerçekleştirmiştir. Karamanoğlu Mehmed Bey'in Türk dilini korumak için çıkarttığı; "Bugünden sonra divanda, dergdhda, bargâhta, mecliste ve meydanda Türkçe'den başka dil kullatulmayacakur" tarzındaki fermanı bu hizmetlerin en büyüklerinden biri olarak asırlar boyunca tesirini devam ettirmiştir.
Karamanoğullan'mn Larende'yi merkez alarak Ankara'dan Antalya'ya, Kayseri'den Isparta'ya kadar uzanan büyük bir coğrafya üzerinde ve o zamanın şartlanna göre çok yüksek bir rakam sayılan iki milyondan fazla nüfusa hakim oldukları bilinmektedir. Onlar kendi hakimiyetlerinin devamı için zaman zaman Osmanlılarla da karşı karşıya gelmişler ve neticede Fatih Sultan Mehmed zamanında tamamen Osmanlılara katılmışlardır.
Yer altı ve yer üstü zenginlikleriyle her dönem ilgi odağı olan bu şehir Osmanlılar zamanında Karaman eyalet merkezi olarak vazife görmüş, Türkiye Cumhuriyeti kurulduktan sonra da Konya'ya bağlı bir ilçe olmuştur. 15 Haziran 1989 tarihinde, hak ettiği şekilde il olmuş ve civarındaki yine önemli yerleşim yerlerinden Ermenek ilçesi de kendisine bağlanmıştır.