4. yüzyılın ortalarında Ankara, imparatorluğun tatil mekanı haline geldi. Constantinople Doğu Roma'nın merkezi olduktan sonra imparatorlar, 4. ve 5. yüzyıllarda dinlenmek üzere İstanbul Boğazı'nın nemli havası yerine, Ankara'nın daha kuru dağlık atmosferini tercih etmişlerdir. II. Theodosius (408-450) yazları sarayını Ankara'ya taşımaktadır. Ankara'da çıkarılan kanunlar, onun orada geçirdiği zamanları kanıtlamaktadır.
Şehrin askeri, özellikle de lojistik önemi uzun Bizans devri boyunca sürdü. Ankara 6.yüzyıldan sonra birçok kez türlü Arap ordularının eline geçse de, 11. yüzyılın sonuna kadar Bizans İmparatorluğu'nun önemli bir yanyolu olmayı sürdürmüştür.