« IA constitutionnelle » : une nouvelle ère pour l’intelligence artificielle

Publié le 30 déc. 2023 à 9:00

« Nous voulons que l’intelligence artificielle soit inoffensive, honnête et
utile » : c’est le mantra de Daniela Amodei, présidente d’Anthropic. Avec
son frère Dario, PDG, cette ancienne assistante au Congrès a fait de la
start-up qu’ils ont fondée en 2021
un des principaux concurrents d’Open AI, leur précédent employeur. La différence ? Le duo veut développer des
modèles plus sûrs et moins biaisés, grâce à une approche appelée « IA
constitutionnelle ».

Leur chatbot, Claude, possède les mêmes compétences que ChatGPT, mais il a
été entraîné à partir d’une liste de principes (la « Constitution »)
inspirés de divers textes, dont la Déclaration universelle des droits de
l’homme. Cette promesse d’une IA sous contrôle, et les bons résultats
obtenus par Claude 2, ont séduit Amazon et Google,
qui se sont engagés à injecter des milliards de dollars
dans Anthropic. De quoi faire oublier qu’un de leurs premiers financeurs
était
Sam Bankman-Fried, le prince déchu des cryptos. La route vers une IA plus « honnête » n’est
pas un long fleuve tranquille…

Le plus : les inquiétudes croissantes provoquées par une IA sans limites.

Le moins : les principes résisteront-ils à la pression des financeurs ?

Quelles clés pour s’adapter dans un environnement complexe ?

Comment réagir face aux défis de la transition énergétique ? Comment se
positionner dans un environnement économique et politique instable ?
Comment exploiter au mieux les opportunités d’innovation dans chaque
secteur ? Au quotidien, à travers nos décryptages, enquêtes, chroniques,
revues de presses internationales et éditos, nous accompagnons nos abonnés
en leur donnant les clés pour s’adapter à un environnement complexe.

Je découvre les offres



Source : lesechos.fr

➡️ ACCÉDER A CHAT G P T EN FRANCAIS EN CLIQUANT ICI ! ⬅️

Veuillez vous connecter pour laisser un commentaire.