Karaman İl Jandarma Komutanlığı; 1989 yılında Merkez, Ermenek, Ayrancı ve Kazımkarabekir ilçeleri ile faaliyetine başlamış, 1992 yılında Başyayla ve Sarıveliler İlçe J.K.lıkları teşkil edilmiş, 2005 yılında Sarıveliler-Göktepe, 2012 yılında İl Merkez-Kızılyaka ve 2013 yılında İl Merkez-Kılbasan, Sudurağı ve Yeşildere J.Krk.K.lıkları kapatılmıştır.Kapatılan İl Merkez-Yeşildere J.Krk.K.lığı tekrar, Ermenek-Güneyyurt J.Krk.K.lığı ise ilk kez teşkil edilmiş olup; 03.01.2019 tarihinden itibaren faaliyetlerine başlamışlardır.