Rossin puoliso on [[Lausunta|lausuntataiteilija]] Matti Kaarlejärvi. Heidän vuosien ajan salassa pitämänsä suhde paljastui [[Itsenäisyyspäivän vastaanotto|itsenäisyyspäivän vastaanotolla]] vuonna 2015, kun [[Yleisradio|Ylen]] selostaja kertoi Kaarlejärven olevan Rossin puoliso.<ref>{{Verkkoviite|osoite=https://www.savonsanomat.fi/paikalliset/3022401|nimeke=Markku Rossi ja Matti Kaarlejärvi: Elämämme vaiherikkain vuosi takana|julkaisu=Savon Sanomat|ajankohta=2016-12-06|viitattu=2022-06-28|ietf-kielikoodi=fi}}</ref><ref>{{Verkkoviite|osoite=https://www.is.fi/linnanjuhlat/art-2000004897201.html|nimeke=Kansanedustaja Markku Rossi ja Matti Kaarlejärvi ensimmäistä kertaa yhdessä Linnassa – toimittajan lipsahdus paljasti salatun suhteen|tekijä=Niina Enqvist|julkaisu=Ilta-Sanomat|ajankohta=2016-12-06|viitattu=2022-06-28|ietf-kielikoodi=fi}}</ref><ref>{{Verkkoviite|osoite=https://www.hs.fi/sunnuntai/art-2000002873673.html|nimeke=Kansanedustaja Markku Rossi työnnettiin kaapista – homo-sanaa hän ei vielä saa suustaan|tekijä=Katja Kuokkanen HS|julkaisu=Helsingin Sanomat|ajankohta=2015-12-20|viitattu=2022-06-28|ietf-kielikoodi=fi}}</ref> He [[rekisteröity parisuhde|rekisteröivät parisuhteensa]] muutamaa päivää myöhemmin joulukuussa 2015 ja [[Samaa sukupuolta olevien avioliitto Suomessa|avioituivat]] 1.3. maaliskuuta 2017<ref>{{Verkkoviite|Osoite=https://www.savonsanomat.fi/paikalliset/3086660|Nimeke=Parisuhde: Markku Rossi virallisti suhteensa Matti Kaarlejärven kanssa|Tekijä=Shecter, Helka|Julkaisu=Savon Sanomat|Ajankohta=13.12.2015|Viitattu=13.12.2015}}</ref><ref>{{Verkkoviite | Osoite = http://www.mtv.fi/uutiset/kotimaa/artikkeli/kansanedustaja-rossin-riemukas-tviitti-kahden-kullan-paiva-lahdessa-mm-kultaa-ja-mina-menin-naimisiin/6330980 | Nimeke = Kansanedustaja Rossin riemukas tviitti: "Kahden kullan päivä: Lahdessa MM-kultaa ja minä menin naimisiin!" | Julkaisu = MTV Uutiset | Ajankohta = 1.3.2017 | Viitattu = 1.3.2017 }}</ref> heti [[Samaa sukupuolta olevien avioliitto Suomessa|samaa sukupuolta olevien avioliitot]] mahdollistavan lain astuttua voimaan<ref>{{Verkkoviite|osoite=https://www.is.fi/kotimaa/art-2000005107000.html|nimeke=Tasa-arvoinen avioliittolaki astuu voimaan – onko huomenna ruuhkaa maistraateissa?|tekijä=Petri Turunen|julkaisu=Ilta-Sanomat|ajankohta=2017-02-28|viitattu=2022-06-28|ietf-kielikoodi=fi}}</ref>.
[[Sotilasarvo|Sotilasarvoltaan]] Rossi on [[yliluutnantti]] (2004).
