Cumhuriyet kurulduktan sonra Türkiye’nin çağdaşlaşma çabalarına katkı sağlamak üzere ele alınan konulardan biri de müzik eğitimiydi. Mustafa Kemal, modern bir insanın hayatında müziğin sahip olduğu yeri, 1925 yılında İzmir Kız Öğretmen Okulu’nda yaptığı konuşmada şöyle dile getiriyordu: Hayatta müzik lazım mıdır? Hayatta müzik lazım değildir. Çünkü hayat müziktir. Müzik ile alakası olmayan varlıklar insan değildir. Eğer söz konusu olan hayat insan hayatı ise, müzik kesinkes gereklidir. Müziksiz hayat zaten mevcut olamaz. Müzik hayatın neşesi, ruhu, sevinci ve her şeyidir. Atatürk, 1934 yılında, müzik ve sahne sanatlarının gelişmesini sağlayacak bir konservatuvarın kurulması için çalışmalara başlanmasını istedi. Ülkedeki müzik kurumlarının yeniden yapılandırılması için danışman olarak incelemelerde bulunmak ve konservatuvarın kuruluş esaslarını belirlemek amacıyla, ünlü besteci Prof. Paul Hindemith davet edildi. Hindemith, 6 Nisan 1935 tarihinde Türkiye’ye gelerek çalışmalarına başladı. Atatürk’ün da yakın ilgisine mazhar olan Hindemith, çalışmalarını bir rapor haline getirdi. Onun önerisine göre kurulacak konservatuvar, bir serbest müzik okulu (Devlet Konservatuvarı), bir öğretmen okulu (Musiki Muallim Mektebi) ve bir tiyatro okulundan oluşacaktı. Bu raporun ardından, konservatuvarın tiyatro ve opera bölümünü kurmak üzere Almanya’dan Prof. Carl Ebert getirildi. Ankara Devlet Konservatuvarı, 6 Mayıs 1936 tarihinde resmen kuruldu. Ayrı bir binası olmadığı için önce Musiki Muallim Mektebi içinde faaliyete geçen ve ilk öğrencilerini Musiki Muallim Mektebi öğrencilerinden alan konservatuvar, 1 Kasım 1936 tarihinde öğrenime başladı.