Andropovin perheen taustasta on ollut paljon väitettä <ref name="Aktürk2012">{{cite book|last=Aktürk|first=Şener|title=Regimes of Ethnicity and Nationhood in Germany, Russia, and Turkey|url=https://books.google.com/books?id=YAUhAwAAQBAJ|date=12 November 2012|publisher=Cambridge University Press|isbn=978-1-139-85169-5}}</ref> Virallisen elämäkerran mukaan Andropov syntyi Nagutskajassa (nykypäivän Stavropol Kraissa,[[Nagurskaja|Nagutskaja]]<nowiki/>ssa Venäjällä) 15. kesäkuuta 1914.<ref name="jessup">{{cite book|last=Jessup|first=John E.|title=An Encyclopedic Dictionary of Conflict and Conflict Resolution, 1945–1996|year=1998|publisher=Greenwood Press|location=Westport, CT|page=25|url=https://www.questia.com/read/106899354/an-encyclopedic-dictionary-of-conflict-and-conflict}} {{Subscription required|via=Questia}}</ref><ref>{{cite book|title=A Dictionary of Political Biography|year=1998|publisher=Oxford University Press|page=15|chapter-url=https://www.questia.com/read/34683400/a-dictionary-of-political-biography|last=Kavanagh|first=Dennis|accessdate=31 August 2013|chapter=Andropov, Yuri}}{{Subscription required|via=Questia}}</ref> Hänen isänsä Vladimir Konstantinovitš Andropov oli rautatyöntekijä ja taustaltaan [[Donin kasakat|doninkasakka]] joka kuoli lavantautiin[[lavantauti]]<nowiki/>in vuonna 1919. Hänen äitinsä Jevgenia Karlovna Fleckenstein (yksikään virallisista lähteistä ei maininnut nimeään) oli koulun opettaja, joka kuoli vuonna 1931.<ref name="Century Communism 2010">A Dictionary of 20th Century Communism. Edited by Silvio Pons and Robert Service. Princeton University Press. 2010.</ref><ref name="mlech">[[Leonid Mlechin]]. ''[https://www.sovsekretno.ru/articles/id/1920 Yuri's childhood and other mysteries from the life of the Chairman]'' article from the Sovershenno Sekretno newspaper № 5, 2008 ({{ru}})</ref> Jevgenia syntyi [[Rjazanin kuvernementti|Rjazanin kuvernement]]issä kaupunkilaisperheeseen joka hylkäsi hänet [[Suomen kansalaisuus|Suomen kansalais]]en[[Moskova|, Moskova]]ssa asuneen [[Juutalaiset|juutalais]]en kellosepän Karl Franzevits Fleckensteinin ovelle; hän ja hänen vaimonsa Eudokia Mikhailovna Fleckenstein adoptioi hänet lapseksi.<ref name="itogi">{{cite journal|last=Babichenko|first=Denis|script-title=ru:Легендарная личность|trans-title=Legendary Personality|journal=Itogi|date=3 October 2005|issue=40|language=Russian|pages=30–34|url=http://www.itogi.ru/Paper2005.nsf/Article/Itogi_2005_10_01_23_1219.html}}</ref><ref name="sovietlife">{{cite journal|year=1983|title=Biography of Yuri Andropov|journal=Soviet Life|issue=323|page=1B|url=https://commons.wikimedia.org/wiki/File:Soviet_Life,_1983-08,_%E2%84%96_323.pdf|accessdate=19 August 2013}}</ref>
Andropov suoritti opintonsa Rybinskin Teknisen keskuksen vesiliikenteen osastolla. Hän liittyi [[Komsomol]]iin vuonna 1930. Hänestä tuli puolueen täysjäsen vuonna 1939. Hän oli [[Karjalais-suomalainen neuvostotasavalta|Karjalais-suomalaisen sosialistisen neuvostotasavallan]] Komsomolin ensimmäinen sihteeri vuosina 1940–1944. [[Toinen maailmansota|Toisen maailmansodan]] aikana Andropov organisoi partisaanitoimintaa Itä-Karjalassa. Sodan jälkeen vuonna 1951 hän muutti Moskovaan ja liittyi puolueen sihteeristöön.<ref name="SP"/>
