Gölcük ve yöresinin çok eski zamanlara kadar uzanan tarihi bir geçmişi bulunmaktadır . Halıdere mevkiinde bulunan Lahitin ve Yazlık bölgesinde bulunan ılıca hamamının Roma dönemine , Şirinköy civarında bulunan kervansaray ile Saraylı mevkiinde bulunan hamam kalıntılarının Osmanlı dönemine ait olduğu bilinmektedir.
Ayrıca Saraylı Köyü' nde tarihi Roma ve Bizans mezarları bulunmaktadır. Örcün Köyü'nde II. Beyazıd devrinde bu yörede yaşamış olan ve halk arasında 'Sultan Baba' olarak bilinen bir Türk- İslam büyüğünün mezarı vardır.
Kıyısı bataklıklarla kaplı olan yörede Osmanlı döneminde önemli bir yerleşim yoktu. 1878 Harbinden sonra çoğunlukla Artvin yöresinden gelenler ormanlık kesimdeki köylere yerleştiler.
İlçenin tarihi , 1924 yılında Bahriye Vekaleti' nin kurulup Gölcük'ün tersane bölgesi olarak seçilmesiyle başlamıştır. Kurulan tersanede ilk olarak 1. Dünya Savaşı' nda mayına çarparak yara alan Yavuz Zırhlısı'nın onarımı yapıldı. Gemi 1927 yılında havuza indirildi. 1933 yılında Donanma Ana Üssü'nün Gölcük'te kurulmasına karar verildi. Bundan sonra askeri fabrikaların , atölyelerin , tesislerin, işçi evlerinin yapılmasıyla birlikte sahil boyunda yoğun yerleşim başladı. İlçenin adının , tersanenin kurulup , Yavuz Zırhlısının havuzlandığı bölgedeki gölden geldiği söylenmektedir.
09.06.1936 yılında kabul edilen 3012 sayılı Kanun ile ilçe olan Gölcük sınırları içerisinde zamanla Gölcük Belediyesi dışında ( 6 ) belediye daha oluşturulmuş ancak, 22.03.2008 tarihinde yayımlanan 5747 sayılı Kanun ile Değirmendere, Halıdere, Ulaşlı, İhsaniye, Yazlık, Hisareyn Beldeleri kaldırılarak Gölcük Belediyesine bağlanmıştır. Böylece 7 olan belediye sayısı 1 düşürülmüştür.