La quête de l’intelligence artificielle (IA) prend un nouveau tournant, grâce à l’essor des modèles open source. Dernièrement, des chercheurs ont réussi à reproduire DeepSeek pour moins de 30 dollars. Aujourd’hui, des équipes venues des universités de Stanford et de Washington ont franchi une nouvelle étape en créant un modèle d’IA capable de raisonner, imitant les performances de l’outil o1 de ChatGPT et R1 de DeepSeek pour un coût inférieur à 50 dollars, comme le rapporte TechCrunch.

Une technique à la fois reconnue et controversée

Pour réaliser cette prouesse, les chercheurs ont mis à profit un modèle open source déjà existant, qu’ils ont perfectionné par le biais d’un processus de « distillation ». Cette méthode consiste à entraîner un modèle d’IA à partir des réponses produites par un autre modèle, ce qui permet d’extraire ses capacités de raisonnement. Cette approche a récemment été à l’ordre du jour, OpenAI accusant même DeepSeek d’avoir eu recours à cette technique pour perfectionner son IA.

Pour aller plus loin
La menace d’un million de dollars d’amende et jusqu’à 20 ans de prison pour les utilisateurs de DeepSeek.

Dans leur étude, les chercheurs précisent avoir formé leur modèle sur une base de 1 000 questions ciblées, en s’inspirant aussi de la méthode de distillation utilisée par Gemini, l’IA de Google. Cette approche pourrait se révéler illégale, selon TechCrunch, car les politiques de Google interdisent explicitement toute tentative de rétro-ingénierie visant à développer des services concurrents. Reste à déterminer si cette restriction s’applique toujours dans un cadre académique.

Vers une accessibilité accrue de l’IA

Le modèle d’IA développé, que les chercheurs ont nommé s1, permet de tirer plusieurs enseignements importants pour l’industrie. D’abord, il prouve qu’il est désormais facile d’accéder à des outils d’IA avancée à moindres frais. Ensuite, les résultats montrent que la technique de distillation, combinée à un temps de réponse différé, dépasse en précision les méthodes de reinforcement, jusqu’alors les plus reconnues. Cependant, cette méthode se limite pour le moment à la duplication de modèles existants, sans capacité à engendrer de nouvelles créations.

Pour ceux qui souhaitent en savoir plus, tous les tests effectués pour concevoir cette IA sont disponibles sur GitHub. Vous y trouverez également les données et le code utilisés pour son entraînement.