Les premières années de son ministère sacerdotal ont été consacrées au monde des jeunes. Il a en effet été pendant cinq ans aumônier de lycée (de 1963 à 1968), puis pendant cinq autres années membre d'une équipe de prêtres chargés des jeunes (de 1968 à 1973).
En 1973, il devient directeur adjoint de la catéchèse, puis, en 1977, responsable du Centre de pastorale sacramentelle.
En 1982, il est nommé délégué général pour le monde scolaire et universitaire et en 1983, vicaire général du diocèse de Paris.
Nommé évêque auxiliaire de l'archevêque de Paris le , il est consacré le suivant par le cardinalLustiger, archevêque de Paris. Le , il est nommé évêque coadjuteur de Poitiers. Il en devient évêque titulaire le , jour du décès de Joseph Rozier, et devient archevêque de Poitiers le . Ayant atteint la limite d'âge de 75 ans, il présente sa démission au pape Benoît XVI qui l'accepte le .
Au sein de la Conférence des évêques de France, il a été responsable de la Commission sociale des évêques de France et membre du Conseil permanent. Il est actuellement membre du Comité «Études et projets».
«La religion catholique n'a de rôle présentable que politique.», Albert Rouet Le Nouvel observateur,
«L'islam ne doit pas être une excuse pour nous détourner de nos propres dysfonctionnements.», Albert Rouet, , Jeune Afrique[1]
«L'Église est menacée de devenir une sous-culture. Ma génération était attachée à l'inculturation, la plongée dans la société. Aujourd'hui, le risque est que les chrétiens se durcissent entre eux, tout simplement parce qu'ils ont l'impression d'être face à un monde d'incompréhension. Mais ce n'est pas en accusant la société de tous les maux qu'on éclaire les gens.», Albert Rouet, Le Monde,
Vous avez fait de moi un évêque heureux (entretiens avec Albert Rouet réalisés par Marc Taillebois et Éric Boone). Editions de l'Atelier, 2011.
Vers une Église de la confiance (ouvrage collectif avec Carole Benoist, Loïc Buthaud, Thomas Duranteau, Stéphane Marcireau, Sylvain Marmasse, Jean-Yves Meunier et Bertrand Parisot). Paris: Éditions Bayard, 2011