Son nom s’est répandu comme une traînée de poudre en quelques semaines. Lancé fin novembre, le chatbot ChatGPT permet de générer des réponses détaillées aux questions Et les capacités de cet outil de la start-up OpenAI, qui a été « entraînée » par la quantité de données collectées sur Internet, vont vous rendre fou. La capacité d’écrire un poème, de répondre à une idée, d’élever l’esprit scientifique d’un enfant de cinq ans, de faire une recette avec ce qui reste au réfrigérateur ou d’écrire un programme de code complexe – le tout dans un quelques secondes – cette invention. très intéressant
“C’est le plus gros modèle, en termes de paramètres et de données utilisées. Et d’un point de vue technique, c’est sans aucun doute le meilleur modèle”, a déclaré Marie-Alice Blete, conceptrice de logiciels et ingénieure de données, experte en intelligence artificielle. , chez Worldline. Et si le moteur de chat autour de ChatGPT prend le relais, c’est parce qu’il s’agit du premier chatbot accessible au public. “Pour l’essentiel, les progrès de l’intelligence artificielle restent dans le monde scientifique. Là, tout le monde peut utiliser l’interface, et tout le monde la possède. Il y a eu un effet boule de neige, en fait un parfait exemple”, explique l’expert.
Aucune source, aucune vérité
Mais comme dans toute relation amoureuse, lorsque la lune de miel se termine, le ciel s’assombrit. Après quelques semaines d’effervescence, certains experts alertent sur la fiabilité des réponses fournies par ChatGPT. “C’est un générateur de documents qui fonctionne très bien, mais qui ne garantit pas la véracité des informations envoyées”, explique Amélie Cordier, directrice scientifique de Once for All.
D’abord parce que les données saisies dans l’appareil expireront en 2021. Ensuite parce que ce robot ne peut pas chercher en direct sur le Web, explique Virginie Mathivet, directrice du département Data Science and Technology chez TeamWork. “L’appareil n’inclut pas les données des derniers mois, il ne se met pas à jour. Donc, si vous lui demandez qui a remporté la Coupe du Monde de la FIFA au Qatar, il ne pourra pas répondre. Dans d’autres cas, les réponses qu’il donne peut-être tort, comme le prévient Marie-Alice Blete : “C’est un mensonge. J’ai fait le test en posant la question et sur la réforme des retraites. Ses explications étaient correctes, mais au final la réponse était fausse car il se basait sur des chiffres de 2021 “.
Surtout quand le bot paraphrase ses réponses sans citer ses sources. « C’est le reflet direct d’Internet. Et tout se trouve sur Internet, les sites réels et les sites non fiables”, a-t-il poursuivi. “Mais lorsque vous effectuez une recherche sur Google, vous savez si le site que vous consultez est réel ou non ou Là, il est impossible de connaître la source des informations fournies par l’outil”, a poursuivi Marie-Alice Blete. Comme l’a rappelé l’expert, le but de ChatGPT n’est pas “d’apporter la meilleure réponse à une question, la plus précise en se basant sur faits, mais la réponse la plus précise peut être trouvée sur Internet ».
Le défi de la création
Pour empêcher la propagation de fake news, les habitants de Californie ont mis en place des garde-fous sur certains sujets, selon l’expert : « Quand vous posez des questions sur la météo, vous recevez des réponses qui ne sont pas climatosceptiques. Mais à d’autres fins, moins que maintenant, il y aura des fake news”.
Ce qui inquiète davantage les experts, c’est que les réponses ne seront pas les mêmes selon la façon dont vous modifierez votre question. “J’ai demandé à l’appareil quelles méthodes peuvent être utilisées pour guérir la dépression. J’ai reçu une réponse détaillée, avec des explications acceptables. Je lui ai demandé comment l’électricité peut guérir la dépression. . Et j’ai définitivement obtenu une réponse qui m’explique que c’est une bonne méthode. C’est dangereux de se tromper de questions”, prévient Virginie Mathivet.
Pour Katya Lainé, fondatrice et PDG de Talkr.ai – éditeur français indépendant et fournisseur de Bot, plateforme et technologie d’IA conversationnelle – l’enjeu est d’apprendre aux gens à utiliser l’outil. “C’est comme un outil, il faut savoir s’en servir. Pour conduire une voiture, on donne le permis avant, là, il faut savoir s’en servir”, a-t-il ajouté. Pour la poésie, la cuisine ou les e-mails, il y a peu de problèmes, explique l’expert, mais il faut être très prudent avec les questions scientifiquement correct, mais pas automatique . Il est très important de vérifier les informations auprès d’une source fiable”.
Adaptations appropriées
Et les principaux objectifs de ce conseil sont les étudiants et les étudiants. Quelques semaines après son lancement, l’impact de ChatGPT se fait déjà sentir dans le monde de l’éducation. Craignant une vague de tricherie, notamment sur les “devoirs”, huit universités australiennes ont annoncé qu’elles modifieraient leurs examens, indiquant que l’utilisation des connaissances intellectuelles des étudiants serait restreinte. Car l’outil, capable de développer un essai sur n’importe quel sujet, de la physique quantique à la littérature scandinave, produit des articles “uniques”. En d’autres termes, deux étudiants ne peuvent pas soumettre la même tâche, ce qui rend difficile pour les enseignants de voir l’utilisation de ChatGPT. « Si un seul élève l’utilise, c’est difficile à identifier. Mais si dix échantillons sont utilisés, même s’ils ne sont pas identiques, ce seront les mêmes que la production”, précise Marie-Alice Blete.
Et les limites se font sentir très vite, estime Virgine Mathivet : “Ça peut aider ou guider l’élève dans ses devoirs, mais ça ne suffit pas pour toutes ses études. Il y a des outils comme Wikipédia, ou Google”. La peur est réapparue avec l’arrivée de Wikipédia, Amélie Cordier se souvient : « Aujourd’hui, toutes les informations sont à portée de main. L’enseignement doit s’adapter aux outils à disposition des élèves. Et laisser les élèves apprendre à s’en servir et voir les possibilités », m’a dit.
Pour l’expert, qu’il soit dans l’enseignement ou dans d’autres domaines, ce robot – et toutes les connaissances artificielles – pose problème. « Certaines entreprises sont obligées de s’adapter, mais ce n’est pas forcément une mauvaise chose. Quand Excel est arrivé, il n’a pas remplacé les comptables, il s’est juste adapté. »
