Urodził się 11 marca 1924 r. w Udavské, w archidiecezji koszyckiej, w ówczesnej Czechosłowacji. Studiował teologię w Bratysławie. W 1945 r. wyjechał do Rzymu, gdzie kontynuował studia na Papieskich Uniwersytetach Laterańskim i Gregoriańskim. Uzyskał doktoraty z teologii, prawa kanonicznego oraz nauk społecznych.
Przejęcie władzy przez komunistów w Czechosłowacji uniemożliwiło mu powrót do ojczyzny. 12 marca 1949 r. przyjął w Rzymie święcenia kapłańskie. W latach 1950-1965 pełnił funkcję ekonoma, prorektora, a następnie rektora Papieskiego Kolegium św. Jana Nepomucena. W latach 1962-1966 był oficjałem w Kongregacji Nauki Wiary. Od 1970 r. do 1978 r. wykładał na Papieskim Uniwersytecie Gregoriańskim. W 1974 r. został podsekretarzem Kongregacji ds. Biskupów. W 1979 r. Jan Paweł ii mianował go sekretarzem generalnym Światowego Synodu Biskupów; 12 lipca tegoż roku został arcybiskupem tytularnym Doclea. Sakry udzielił mu sam Ojciec Święty 15 września 1979 r. Na zawołanie wybrał słowa: «Ut Ecclesia aedificetur».
W kwietniu 1985 r. objął funkcję proprefekta Kongregacji ds. Ewangelizacji Narodów. Miesiąc później Papież wyniósł go do godności kardynalskiej. Jednocześnie został prefektem tej Kongregacji — kierował nią do 2001 r.
Odbył wiele podróży do krajów misyjnych, przyczyniając się m.in. do utworzenia nowych diecezji, budowy nowych kościołów, seminariów, ośrodków edukacyjnych i zdrowotnych; wyjeżdżał także w celu przygotowywania wizyt papieskich. W kwietniu 1990 r. towarzyszył Janowi Pawłowi ii w jego podróży do Czechosłowacji. W latach 2001-2007 był przewodniczącym Papieskiego Komitetu ds. Międzynarodowych Kongresów Eucharystycznych.
Jest autorem wielu książek z zakresu duchowości i historii Kościoła. Był najstarszy z grona kardynałów. Zmarł 8 sierpnia 2022 r. w Rzymie, w wieku 98 lat.