Au nom du Père et du Fils et du Saint Esprit. La paix soit avec vous.

Je vous souhaite à tous la bienvenue et je vous remercie pour votre présence ce matin. Vous provenez de nombreux pays, et apportez avec vous une grande variété de questions et de perspectives. Dans le même temps, je crois que vous partagez un certain sentiment de malaise en ce qui concerne le développement de l’intelligence artificielle. Nous reconnaissons la direction que nous devrions prendre, mais nous ne faisons pas assez pour aller de l’avant. Je vous suis reconnaissant de partager vos préoccupations ainsi que vos idées et propositions pour l’avenir. Ce sont les premiers fruits d’une approche transdisciplinaire, qui est de plus en plus nécessaire si nous voulons affronter la complexité des grands défis de notre époque.

L’Académie pontificale pour la vie, qui a organisé cette rencontre, est bien consciente des défis qui se présentent partout où la dignité humaine est menacée. À ce propos, en s’adressant aux dirigeants du G7, le Pape François a décrit l’intelligence artificielle comme «un outil fascinant et redoutable», et a affirmé qu’aucune machine ne devrait jamais se voir confier la décision d’ôter la vie à un être humain (cf. Discours à la session du G7 sur l’intelligence artificielle, 14 juin 2024). Ces paroles n’ont rien perdu de leur actualité. Dans l’Encyclique Magnifica Humanitas, j’ai tenté d’aborder ces questions de façon plus approfondie. Je voudrais vous soumettre aujourd’hui cinq considérations en particulier.

Tout d’abord, l’avenir de l’intelligence artificielle n’est pas prédéterminé. En tant que technologie développée par des êtres humains, son avenir dépend des choix que nous faisons. Nous avons donc la responsabilité de guider, changer et, si nécessaire, rejeter ses applications (cf. nn. 97, 104). La question décisive n’est alors pas simplement «Qu’est-ce que l’IA peut faire?» mais plutôt «À quoi devrait-elle servir?». Ceux qui considèrent son développement uniquement comme une course à remporter risquent de se concentrer uniquement sur la ligne d’arrivée, en oubliant ceux qui sont restés derrière. Un système fiable qui sert la personne humaine revêt une plus grande valeur qu’un système exceptionnellement puissant, mais dont les conséquences ne peuvent pas être suffisamment prévues ni contrôlées. 

Deuxièmement, les machines sont des outils, pas des personnes. «Les prétendues intelligences artificielles ne vivent pas d’expérience, ne possèdent pas de corps, ne connaissent ni la joie ni la douleur, ne mûrissent pas dans la relation, ne savent pas de l’intérieur ce que signifient l’amour, le travail, l’amitié, la responsabilité» (n. 99). Aujourd’hui, certains proposent d’accorder à ces systèmes des droits, voire une personnalité juridique. Une telle approche risque d’occulter la responsabilité humaine et de laisser les éventuelles victimes face à une entité sans visage.

Troisièmement, certaines décisions ne doivent jamais être déléguées. Lorsqu’une personne est inscrite sur une liste de personnes suspectes ou insérée dans une banque de données de contrôle aux frontières, elle risque d’être réduite à une simple donnée. Les décisions qui affectent la vie humaine, la liberté et l’usage de la force doivent toujours rester soumises à un contrôle humain efficace, informé et responsable (cf. nn. 198-200). Pour cette raison, l’intelligence artificielle doit être «désarmée» (n. 110) et j’encourage les États qui se réuniront à Genève en novembre à prendre des mesures concrètes en vue d’interdire les armes létales autonomes.

Quatrièmement, les technologies intelligentes doivent être orientées vers le bien commun. «La justice passe aujourd’hui aussi par l’accès aux bienfaits de l’innovation: soins, connaissances, outils, opportunités» (n. 161). En effet, elles ne doivent jamais devenir des fins en elles-mêmes ou servir uniquement les intérêts de quelques privilégiés. Au contraire, leur développement devrait promouvoir la solidarité et la participation à divers niveaux de la communauté mondiale, en garantissant que les bénéfices et les progrès sont partagés de façon équitable, en particulier avec ceux qui en ont le plus besoin (cf. nn. 71-72). 

Enfin, je voudrais souligner un défi, sans doute le plus urgent. Nous connaissons déjà un grand nombre des principes éthiques qui devraient guider le développement de l’intelligence artificielle. Ce dont nous avons besoin aujourd’hui sont des institutions capables de mettre en pratique ces principes, en particulier des institutions internationales efficaces en mesure de préserver le bien commun global (cf. n. 64). Cela nécessite des normes communes, un contrôle indépendant et des mécanismes clairs de responsabilité, afin que les décisions relatives au développement et à l’utilisation de l'IA puissent être examinées, contestées si nécessaire, et accompagnées de remèdes appropriés pour tout dommage causé (cf. nn. 105, 107).

Chers amis, avec ces pensées, je vous remercie une fois de plus pour vos contributions précieuses dans ce domaine et je vous encourage à persévérer dans vos effort, en travaillant ensemble dans un esprit de dialogue et de responsabilité partagée pour le bien commun. Je vous accompagne de mes prières et je donne de tout cœur à chacun de vous ma bénédiction. Merci. 

_______________________

L'Osservatore Romano