Toivo Kärki syntyi 3.12.1915 Pirkkalassa (nykyisen Nokian alueella). Hänen isänsä [[Frans Kärki]] oli pappi, syntyjään [[Vesilahti|Vesilahdelta]], ja äitinsä Ester oso.s. Kurvinen, jonka isä oli [[ilomantsi]]lainen lähetyssaarnaaja [[Pietari Kurvinen]] (jonka äidinäiti oli runonlaulaja ja kansanparantaja [[Mateli Kuivalatar]]). Sisaruksia Toivolla oli kuusi: Usko (s. 1912), Lahja (s. 1913), Armo (s. 1914), Rauha (s. 1918), Voitto ja Ilo (myöh. Ilmari, s. 1925).<ref>{{Kirjaviite|Tekijä= Niiniluoto, Maarit – Kärki, Toivo |Nimeke= Siks oon mä suruinen |Vuosi= 1982 |Kappale= |Sivu= 25–26 |Selite= |Julkaisija= Tammi |Tunniste= ISBN 951-30-5435-7 }}</ref> Lapsuutensa ja nuoruutensa Toivo vietti ensin [[Töysä]]ssä, sitten [[Laihia]]lla, jossa hän myös tapasi tulevan vaimonsa Tuulikki Leikkaan. Hän soitti pianoa jo pienestä pitäen ja opiskeli musiikkia sekä teoriassa että varsinkin käytännössä, muun muassa urkurina. Vuonna 1928 hän kuuli [[Louis Armstrong]]ia ja innostui peruuttamattomasti amerikkalaisesta jazzista. Koulunsa hän kävi Tampereella kirjoittaen Klassillisesta Lyseosta ylioppilaaksi vuonna 1933.
