Yapılan araştırmaların sonuçlarına göre eski bir yerleşim alanı olan yöre, İÖ 9. yüzyılda Urartular'ın egemenliği altındaydı. Daha sonra Medler ile Persler'in yönetimine giren yörede Gürcüler ile Ermeniler'in atası sayılan halklar yaşıyordu. İÖ 1. yüzyılda Ermeni yönetici Dikran yöreyi de egemenlik alanına kattı. İS 1. yüzyıldan sonra Romalılar ile Part-lar arasında el değiştiren yöre 3. yüzyılda Sa-saniler'in eline geçti. 7. yüzyıldan sonra Bizanslıların ve Araplar'ın egemenliğine giren yöreye 11. yüzyılda Türkmenler gelmeye başladı. Daha sonra Gürcüler'in yönetimine giren bu topraklar 13. yüzyılda Moğollar'ın saldırısına uğradı ve 14. yüzyılda Timur'un eline geçti. Karakoyunlular, Akkoyunlular ve Safe-viler tarafından da yönetilen yöre 1534'te Osmanlı Devleti'ne bağlandı. Yüzyıllarca Çıldır Eyaleti sınırlan içinde kalan yöre, birçok kez Ruslar'ın ve Safeviler'in saldırısına uğradı. Bir bölümü de Kars Eyaleti sınırları içinde kalan yöre 1828 ve 1855'te Ruslar tarafından işgal edildi. Daha sonra Erzurum vilayetinin Çıldır sancağına bağlanan bu topraklar 1876'da gene Ruslar'ın işgaline uğradı. İşgal, 1917 Ekim Devrimi'nden sonra Rus ordularının çekilmesiyle sona erdi. Sancak olarak yönetilmeye başlayan Ardahan, çevresindeki Batum ve Kars sancaklarıyla birlikte Elviye-i Selâse adıyla anılıyordu. Ruslar'ın çekilmesinden sonra bu toprakların İngiliz desteğindeki Ermeniler tarafından işgal edilmesini Önlemek amacıyla Sovyet tipi yerel yönetimler kuruldu. Ama Kars Milli İslam Şûrası İngilizler, Ardahan Milli İslam Şûrası da Gürcüler tarafından işgal edildi. 1921'de işgalden kurtulan Ardahan, öbür sancaklarla birlikte Cumhuriyet'in ilanından hemen sonra il yapıldıysa da 1926'da ilçe yapılarak Kars iline bağlandı.