Les chatbots changent-ils le visage de la religion ? Trois chefs religieux aux prises avec l'IA

« Write un sermon dans la voix d’un rabbin d’environ 1 000 mots qui relie la partie de la Torah Vayigash à l’intimité et à la vulnérabilité. Citez la bourse de Brené Brown sur la vulnérabilité. C’est ce que le rabbin Joshua Franklin a mis dans ChatGPT, dont il a utilisé les résultats pour prononcer un sermon aux fidèles du Centre juif des Hamptons en décembre 2022.

Le sermon proposé par le chatbot parlait de Joseph, le fils de Jacob et un prophète de la foi abrahamique. Il a cité un livre de Brown, un professeur spécialisé dans les sujets d’intimité, pour définir la vulnérabilité comme « la volonté de se montrer et d’être vu lorsque nous n’avons aucun contrôle sur le résultat ». Être vulnérable pourrait signifier « nous sommes capables de former des liens plus profonds et plus significatifs avec ceux qui nous entourent », a écrit le chat bot.

Ce n’était pas le plus grand sermon, pensa Franklin, mais c’était passable. Et c’était son propos. L’ironie du discours écrit par l’IA sur la vulnérabilité et la connexion humaine était qu’il lui manquait exactement ce qu’il prêchait : la vulnérabilité humaine et l’émotion.

« Il y avait en fait un peu de contenu », a-t-il déclaré. « Et la congrégation pensait qu’il avait été écrit par d’autres rabbins célèbres. Mais si je dois prêcher sur la vulnérabilité et l’intimité, je partagerais quelque chose de moi-même en tant que modèle de vulnérabilité. Et c’est quelque chose que l’intelligence artificielle et ChatGPT ne peuvent pas faire.

L’adoption généralisée de l’IA générative et de grands modèles de langage sous la forme de chatbots comme ChatGPT a laissé peu d’espaces intacts, y compris les communautés religieuses.

En plus des chatbots généralisés, qui peuvent fournir des réponses conversationnelles à des questions ou des invites théologiques en utilisant des informations extraites de l’ensemble d’Internet, des chatbots religieux plus spécialisés ont vu le jour. L’un d’eux, HadithGPT, donne des conseils ancrés dans les textes islamiques.

Ensemble, le phénomène est l’un des chefs religieux comme Franklin qui se sont sentis obligés de considérer l’utilité potentielle ainsi que les ramifications potentielles.

« C’est un développement majeur », a déclaré Franklin. « Ce serait comme si je commentais comment Internet va changer le visage du judaïsme. »

D’autres chefs religieux à qui le Guardian a parlé n’écrivent peut-être pas encore leurs sermons à l’aide de chatbots, mais ont également évalué les impacts de l’adoption rapide de l’utilisation de chatbots IA pour répondre aux questions sur la religion. Le sentiment retentissant est que ce n’est pas exactement une circonstance nouvelle.

Appelez-le « Rabbi Google » comme Franklin l’a appelé ou « Sheikh Google » comme Jihad Turk, le président fondateur de Bayan Islamic Graduate School, une institution d’enseignement supérieur sur les études islamiques, l’a appelé, mais les gens se sont tournés depuis longtemps vers Internet. pour obtenir des réponses sur les subtilités et les complexités de la religion.

« Dans une certaine mesure, ce n’est qu’une autre itération de la façon dont les gens pourraient considérer l’opinion à suivre », a déclaré Turk.

« En tant que personne qui a longtemps été imam d’une communauté, je recevais souvent des appels téléphoniques de membres de la communauté qui avaient une question liée à la position de l’islam sur X, Y ou Z après avoir fait certaines de leurs propres recherches qui pourraient inclure Googler, parler à des amis et à d’autres universitaires », a déclaré Turk. « Il y a donc beaucoup d’appels de jugement qui sont faits par des individus de toute façon. »

Mais ChatGPT et les chatbots qui utilisent de grands modèles de langage peuvent avoir des problèmes de précision car ils donnent la priorité aux réponses qui ont un flux conversationnel plutôt qu’à celles qui sont précises, selon Beth Singler, professeure assistante en religions numériques à l’Université de Zurich. Cela pourrait poser un problème particulier pour les religions comme le judaïsme et l’islam qui ont un fort dévouement aux sources textuelles.

« C’est une préoccupation en soi qu’il y ait une réforme des connaissances théologiques qui ont été partagées avec tant de précision et de patience pendant des centaines d’années, car ChatGPT est une sorte de réponses hallucinantes », a-t-elle déclaré. « C’est une machine à corrélation. Ce n’est pas une machine à trouver des connaissances. Ce qu’il fait, c’est qu’il prédit la probabilité du mot suivant.

HadithGPT, par exemple, utilise des hadiths ou les récits des paroles et de la vie du prophète Mahomet pour répondre aux questions sur l’islam. Ses réponses sont accompagnées d’un avertissement : les réponses sont générées par l’IA et peuvent ne pas être exactes, indique-t-il. « L’islam se transmet de cœur à cœur et il est important d’apprendre et de consulter de vrais érudits islamiques pour des informations plus précises. »

Même avec cette clause de non-responsabilité, une personne moyenne peut ne pas avoir accès à un véritable érudit qu’elle peut consulter, ce qui facilite le recours exclusif à Sheikh Google ou à des services comme HadithGPT, déclare Turk. Le matériel source manque également de beaucoup de contexte généralement pris en compte pour répondre aux questions islamiques, a-t-il ajouté. Cela inclut la couche humaine d’analyse des hadiths et la considération d’autres textes comme le Coran, ainsi que les opinions savantes et la jurisprudence islamique. Différentes écoles de pensée donnent également du poids à différentes coutumes et traditions, a-t-il déclaré.

« Les hadiths sont muets sur beaucoup de questions qui sont de nature plus contemporaine, a déclaré Turk. « C’est beaucoup plus compliqué que ce que disent les hadiths en noir et blanc. »

D’autres religions comme le bouddhisme sont moins centrées sur les textes et plus centrées sur la pratique, ce qui rend la religion « située de manière unique pour ignorer » la prolifération des chatbots, selon le révérend Angel Kyodo Williams, un prêtre bouddhiste zen en Californie.

« Il y a une centralité de la pratique qui prend tout le texte et le met de côté et dit, peu importe combien vous lisez, peu importe ce que vous obtenez d’un chatbot », a déclaré Williams. « Ce n’est pas la réponse. La réponse est dans votre vie : ressentez-vous la vérité de ces mots que vous prononcez ? Et si vous ne le faites pas, c’est vraiment la seule mesure.

Les inquiétudes concernant une dépendance excessive à une IA de plus en plus sophistiquée ont fait craindre des pertes d’emplois dans tous les secteurs, même parmi les principaux dirigeants de l’IA et de la technologie. Mais il y a un peu d’optimisme parmi les chefs religieux comme Williams. Bien que les chatbots puissent libérer les gens pour qu’ils puissent faire plus de « choses fonctionnellement humaines » parce qu’ils ne passent pas de temps à rechercher des informations provenant de diverses sources, Williams pense qu’ils aspireront toujours à une connexion humaine.

« Rien ne remplacera le sens profond de ce désir que nous devons être connectés et ce que cela ressent chez un véritable enseignant », a-t-elle déclaré.

Franklin, qui pense qu’il pourrait utiliser ChatGPT comme outil pour l’aider à écrire des sermons, est d’accord. « Les gens vont se rendre compte que les êtres humains ne sont plus les meilleurs pourvoyeurs d’informations », a-t-il déclaré. « Mais ce qu’ils peuvent faire qui les rend distinctement humains, ce sont ces choses qui relèvent précisément du domaine de la religion et de la spiritualité. »