Počeo je svoju dugu karijeru u međunarodnim institucijama 1958. kao savjetnik za UNESCO, a 1959. je bio imenovan na čelo Visokog povjereništva Ujedinjenih naroda za izbjeglice (HCR). Imenovan je Visokim povjerenikom 1965. kada je imao 32 godine i 12 godina je ostao na čelu te organizacije.
Godine 1978. je bio kandidat za nasljednika Kurta Waldheima na mjestu glavog tajnika UN-a i dobio je više glasova od Javiera Pereza de Cuellara, ali sovjetski veto je blokirao njegov izbor.
Bio je koordinator Ujedinjenih Naroda za obnovu Afganistana 1988. i u rujnu 1990. je postao koordinator humanitarne pomoći u Zaljevu, što je obavljao do prosinca 1991.