Ordenado sacerdote, ocupó diversos cargos en la diócesis de Belluno. Durante estos años realizó una gran labor catequética. En 1958 Juan XXIII lo nombró obispo de Vittorio Véneto y lo consagró en la Basílica de San Pedro. Durante once años concedió gran importancia a la vida parroquial construyendo nuevos templos, impulsando la labor del Seminario, atendiendo de una manera muy cercana a los sacerdotes y ayudando al establecimiento de una misión en Burundi, con el envío de sacerdotes y viajando a la misma en 1966.

Estuvo presente en las cuatro sesiones del Vaticano II. En diciembre de 1969, Pablo VI lo nombró Patriarca de Venecia y en 1973 fue nombrado cardenal. En estos años escribió una serie de artículos muy originales que posteriormente se publicaron en el libro “Ilustrísimos Señores”. Fue una manera muy sencilla de acercarse al pueblo.

Al morir Pablo VI, en el cónclave y a la novena votación fue elegido Papa. Adoptó, en recuerdo agradecido a los papas anteriores, el sobrenombre de Juan Pablo. Durante su breve pontificado, pronunció ocho discursos y asistió a cuatro audiencias generales. Le causó un profundo dolor la muerte repentina, en su propio despacho, del metropolita de Leningrado Nikodim. Días después, el 29 de septiembre de 1978, su secretario particular lo encontró muerto en su habitación. Un infarto acabó con su vida. Su pontificado fue, como manifestó el cardenal Confalonieri, «un diálogo amoroso entre un padre y sus hijos». La muerte del “Papa de la sonrisa” fue llorada por el mundo entero.