Un conseiller municipal de la ville de Porto Alegre, au Brésil, a entrepris de rédiger une proposition de loi en utilisant ChatGPT. Cela n’a pas manqué de susciter des réactions, et pour cause : il a fait adopter son texte sans que ses collègues ne se doutent de rien.

C’est un fait, ces derniers mois, vous lisez probablement régulièrement des contenus rédigés, au moins en partie, par une IA sans le savoir. Si le texte brut qui ressort de ChatGPT est souvent peu exploitable en tant que tel, il suffit parfois de le retravailler correctement pour qu’il fasse illusion.

C’est, en substance, ce qu’a voulu prouver Ramiro Rosario à ses collègues. Ce conseiller municipal de la ville de Porto Alegre, au Brésil, a récemment présenté une proposition de loi visant à empêcher la ville de facturer les contribuables pour remplacer les compteurs de consommation d’eau lorsque ces derniers sont volés. Cette ordonnance a été adoptée avec une grande facilité par les 36 représentants du conseil municipal en octobre dernier.

Révélation choc

Ce n’est qu’au début de ce mois de novembre que Ramiro Rosario a révélé le pot aux roses à ses collègues : ce texte, qu’ils ont adopté sans difficulté, a été intégralement rédigé par ChatGPT. Le conseiller municipal a même expliqué à l’ Associated Press qu’il n’avait réalisé « aucun changement » au texte proposé par l’intelligence artificielle.

« Si je l’avais dit avant, la proposition n’aurait même pas été soumise au vote », a-t-il estimé. « Il serait injuste pour la population de courir le risque que le projet ne soit pas approuvé simplement parce qu’il a été écrit par l’intelligence artificielle ».

Des réactions surprenantes

Lorsqu’il a découvert la situation, Hamilton Sossmeier, le président du conseil municipal de Porto Alegre, a tout d’abord été choqué. Il a déclaré aux médias locaux qu’il s’agissait pour lui d’un « dangereux précédent ». Mais il s’est ravisé au bout de quelques jours : « J’ai changé d’avis », a-t-il déclaré l’Associated Press. « J’ai commencé à me renseigner plus en profondeur et j’ai vu que, malheureusement ou heureusement, c’est en train de devenir une tendance ».

Utiliser ChatGPT ainsi, est-ce jouer avec le feu ?

Dans le cas de Ramiro Rosario et de la ville de Porto Alegre, il semble que l’implication de ChatGPT dans l’écriture d’un texte de loi soit finalement plutôt bien passé. Mais ce n’est pas toujours le cas : des précédents ont déjà démontré que mal utiliser l’intelligence artificielle d’OpenAI pouvait avoir des conséquences gravissimes sur des situations et des personnes. On se rappelle de l’histoire de cet avocat qui a utilisé ChatGPT pour gagner du temps dans une affaire, et totalement sabordé son dossier… et sa crédibilité.

« Il n’est peut-être pas toujours possible de tenir compte des nuances et des complexités de la loi. Étant donné que ChatGPT est un système d’apprentissage automatique, il peut ne pas avoir le même niveau de compréhension et de jugement qu’un avocat humain lorsqu’il s’agit d’interpréter les principes juridiques et le précédent. Cela pourrait conduire à des problèmes dans des situations où une analyse juridique plus approfondie est nécessaire », estime Andrew Perlman, doyen à la faculté de droit de l’Université de Suffolk. Pour lui, ChatGPT pourrait bien « présager un changement encore plus important que l’avènement d’Internet », à condition d’être réellement maîtrisé par les personnes qui l’utilisent. C’est finalement toujours la même rengaine depuis Rabelais : science sans conscience n’est que ruine de l’âme.