Mustafa Kemal Paşa Yalova’yı çok seviyor ve zaman zaman burada satın aldığı Baltacı Çiftliği’ne gelerek çadırda kalıyordu. Daha sonra Termal Oteli’nin karşısında bir köşk yapılmasını istedi. İki katlı küçük köşk, 1929 yılında inşa edildi. Bu köşkü meşhur eden şey ise, ertesi yıl raylar üzerinde yana kaydırılması oldu. Bu olay, Ahmet Akyol’un Atatürk ve Yalova adlı kitabında şöyle anlatılıyor: Atatürk, bir gün köşke geldiğinde, çalışanlar yandaki çınar ağacının dalının köşkün çatısına vurduğunu, çatı ve duvara zarar verdiğini söyleyerek çınarın köşke doğru uzanan dalını kesmek için izin istediler. Atatürk ise, çınar ağacının kesilmesi yerine, binanın raylar üzerinde biraz ileriye alınmasını emretti. Bu görev, İstanbul Belediyesi’ne verildi… Önce, bina çevresindeki toprak büyük bir dikkatle kazılarak temel seviyesine inildi. İstanbul’dan getirilen tramvay rayları binanın temeline yerleştirildi. Santim santim yapılan çalışmalar sonunda bina, temelin altına sokulan raylar üzerine oturtuldu. Atatürk, zaman zaman bu çalışmaları izliyordu. Belediye Fen İşleri, 7 Ağustos 1929 Perşembe günü Yalova’ya bir gezi düzenledi. Bu geziye İstanbul’da bulunan bütün mimar ve mühendisler davet edildi... 8 Ağustos 1930 Cuma günü saat 15.00 civarında yürütme çalışması başladı… Köşkü yürütme işlemi iki safhada yapıldı. 8 Ağustos 1930 Cuma günü, öncelikle yapının teras bölümü kaydırıldı. Geri kalan iki gün içinde de, ana binanın raylar üzerinde yürütülmesi işlemi tamamlandı ve bina 5 metre kadar doğuya kaydırıldı.* Böylelikle köşk yıkılmaktan, çınar ağacı da kesilmekten kurtuldu. * Kaydırma işlemi 11 Ağustos günü tamamlanmıştır.