Deniz Kuvvetleri Komutanlığı Karargah Binası’nın temeli 6 Ağustos 1956 tarihinde dönemin Deniz Kuvvetleri Komutanı Oramiral Sadık ALTINCAN tarafından atılmıştır.

Binanın tamamının kesin bitiş ve teslim tarihi 10 Temmuz 1961‘dır. Ancak bina muhtelif aşamalardan geçerek genel olarak 1960 yılı sonu itibariyle iskan edilebilecek hale gelmiştir. 1961 yılının Ocak ayında dönemin Milli Savunma Bakanı Merhum Emekli Orgeneral Sn. Fahri ÖZDİLEK tarafından verilen bir emirle söz konusu binaya Deniz ve Hava Kuvvetleri Karargahlarının müştereken yerleşmeleri karar altına alınmıştır.
Deniz Kuvvetleri Komutanlığı Karargahı Milli Savunma BakanlığŸı binasında işgal etmiş olduğŸu 54 oda ve Bakanlığın girişindeki barakalar ile Konur Sokak’ta bir apartmanın katlarında bulunan bir kısım daire ve grupları ile 15 Ekim -31 Ekim 1961 tarihleri arasında yeni karargah binasına nakledilerek yerleştirilmiştir.Hava Kuvvetleri KomutanlığŸı Karargah binası inşasının tamamlandığŸı 1985 yılına kadar bu bina Hava Kuvvetleri ile müşterek kullanılmıştır.
17 Ağustos 1999 Marmara Depremini takiben Deniz Kuvvetleri Komutanlığı Karargah Binasının Depreme Karşı takviye edilmesi kararlaştırılmıştır. Deprem takviyesi ve ek yeni bina yapılması amacıyla Sahil Güvenlik Komutanlığına ait Devlet Mahallesi Merasim Sok.10 numaralı Çankaya/Ankara’da bulunan Yeni Karargah Binası ve müştemilatı geçici olarak Deniz Kuvvetleri KomutanlığŸı kullanımına verilmiştir. Deniz Kuvvetleri Komutanlığı Karargahı geçici olarak Komutanlık ve Başkanlıklar kısmı olmak üzere iki bloktan oluşan Sahil Güvenlik KomutanlığŸı yeni binasına 10 Aralık 2003 tarihi itibariyle taşınmıştır.
Deniz Kuvvetleri KomutanlığŸı Karargahı Binası Deprem Takviye İnşaatının geçici kabulu 21-30 Eylül 2005 tarihleri arasında, kesin kabulü ise 13-17 Mart 2006 tarihleri arasında tamamlanmıştır. Yeni karargah binasına taşınma faaliyetleri 2005 yılının Kasım ayı içerisinde gerçekleşmiştir.Bina, mevcut haliyle çevreye daha uyumlu bir hale getirilmiş ve Deniz Kuvvetleri KomutanlığŸının ihtiyaçlarına 40-50 yıl daha hizmet vermesi sağlanmıştır.
Deniz Kuvvetleri KomutanlığŸı Karargah binası, İnönü Bulvarında, kuzeyinde Ankara-Eskişehir Devlet Karayolu ve Genelkurmay Başkanlığı Karargahı, güneyinde M.S.B.lığına tahsisli arazi ve Genelkurmay Askeri Tarih ve Stratejik Etüt (ATASE) Daire Başkanlığı, doğŸusunda Dikmen Caddesi ve T.B.M.M., batısında da Hava Kuvvetleri Komutanlığı Karargah binası ile çevrili mevkide bulunmaktadır.