Карл Густав Шмітт був сином Алоїса Шмітта, тому їхній зв’язок насамперед ґрунтується на родинних стосунках між батьком і сином. Алоїс Шмітт, відомий як німецький композитор і педагог, відіграв важливу роль у формуванні Карла Густава як музиканта, а їхня родина була тісно пов’язана зі світом музики.
Карл Густав Шмітт також навчався у свого батька у Франкфурті-на-Майні, де отримав перші професійні знання та музичні навички. Як учитель, Алоїс передав синові основи музичної освіти, що згодом вплинуло на становлення Карла Густава як композитора та диригента, і ця освітня взаємодія стала важливою частиною їхніх стосунків.