ChatGPT (Generative pre-trained transformer) est un agent conversationnel alimenté par une Intelligence Artificielle (IA), mis à disposition du grand public gratuitement.
C’est un modèle, conçu par la société OpenAI qui exploite les Large Language Models (LLM) et qui a été entraîné sur de grandes quantités de textes afin de pouvoir en générer de manière autonome.
Ceux-ci permettent de mieux générer des réponses, parfois très convaincantes, en utilisant un langage naturel semblable à celle de l’humain.
Lorsque vous saisissez un « texte d’entrée » (ou prompt), le modèle algorithmique va analyser ce texte et utiliser ses connaissances préalablement acquises pour générer du contenu en réponse. En poursuivant la conversation, vous pouvez affiner la réponse, la faire corriger, l’améliorer…
Mais attention, ChatGPT n’est pas capable de raisonner. Vérifier la véracité des contenus proposés est indispensable, car il ne sait pas différencier le vrai du faux.
https://twitter.com/reseau_canope/status/1613905460192575488
Éléments à prendre en compte
OpenAI est une entreprise américaine spécialisée dans le raisonnement artificiel. Elle a été fondée en 2015 sous forme d’une association à but non lucratif puis est devenue en 2019 à but lucratif avec une valorisation en 2023 de 29 milliards de dollars. Microsoft, début 2023, a annoncé investir plusieurs milliards de dollars dans Open AI pour pouvoir l’intégrer dans ses produits et services.
Aussi performant soit-il, ChatGPT présente aussi des faiblesses, répertoriées sur la page Wikipédia. Sa capacité à donner parfois de fausses informations, avec beaucoup d’assurance, n’est pas la moindre.
Second écueil, selon l’académie des sciences, “la qualité des textes produits ou la fluidité des conversations avec ChatGPT ont tendance à nous faire croire que l’information donnée -autrement dit le fond- est forcément juste”.
Ensuite, “les phases d’apprentissage reflètent implicitement une certaine vision du monde. Celle que portent les données utilisées et l’usage qui en est permis par ceux qui développent et perfectionnent le chatbot”.
Autrement dit, “on apprend par rapport à ce qui fait consensus”. Quid alors de la disruption, de la création, de la découverte ? D’autres questions vont aussi se poser, comme celles de la mention des sources, de la propriété intellectuelle… Sans parler des coûts et des impacts environnementaux de l’usage de tels systèmes d’intelligence artificielle qui sont très énergivores à grande échelle.
Enfin, selon Olivier Ertzscheid, enseignant-chercheur en sciences de l’information et de la communication, la balance entre les effets de crispation ou de rejet (“tout le monde va tricher’, “ça va tuer tel ou tel métier”) et d’enthousiasme irénique (“tout va changer”) autour de ChatGPT est un indicateur assez précieux de la manière dont notre société regarde l’arrivée de ces technologies qui, comme jamais auparavant aucune d’entre elles dans notre histoire contemporaine à l’exception des moteurs de recherche, impacte massivement et durablement notre rapport à la langue, à l’écrit, au vraisemblable. Ce qui se joue autour de ChatGPT c’est principalement, pour reprendre une formule de Foucault, la renégociation de l’un des principaux “régime de vérité” de nos sociétés : la capacité de produire des énoncés assertifs (ou d’en déléguer la production sans supervision apparente).
Pour conclure, les risques que nous avons relevés au service de l’enseignement public genevois concernent en grande partie une mauvaise utilisation de l’outil :
- Propager des informations et des concepts erronés
- Se heurter à la barrière de la prétendue expertise
- Inciter à la paresse intellectuelle.
- Ne pas pouvoir détecter le plagiat
- Aggraver les inégalités
- Accentuer la perte de valeur de l’enseignement
Les opportunités sont à la fois d’ordre technique et éthique :
- Aider à la préparation d’une séquence d’enseignement
- Faciliter la correction des travaux d’élèves
- Interroger le savoir
Le rôle des enseignantes et enseignants se révélera donc d’autant plus essentiel dans l’accompagnement des élèves. - Redonner de la valeur à l’enseignement
Potentialités éducatives
d’après les travaux de Margarida Romero – Usages pédagogiques des TIC : de la consommation à la cocréation participative (2016)
https://www.innovation-pedagogique.fr/article273.html
Pour en savoir plus
Dossier sur l’intelligence artificielle (IA) :
https://drne.region-academique-bourgogne-franche-comte.fr/dossiers-intelligence-artificielle/
« Concrètement le modèle de langage GPT-3 utilise le corpus Common Crawl, une base de donnée “ouverte” qui récupère (crawle) des milliards de mots issus de pages web et de liens, de manière aléatoire, puis les analyse et les “modélise” à l’aide de l’algorithme BPE qui va, grosso modo permettre d’effectuer sur ce corpus une première opération de tokenisation permettant une analyse lexicale et sémantique des unités collectées. GPT-3 s’appuie aussi sur un autre corpus, WebText2, qui lui agrège de la même manière des milliards de mots à partir des URL envoyés sur Reddit avec un score minimum de 3. GPT-3 s’appuie également sur deux autres corpus (Books1 et Books2) ainsi que sur une extraction de pages Wikipedia. Voilà pour les corpus “linguistiques” qui s’apparentent donc déjà eux-mêmes à différents agencements collectifs d’énonciation, ceux de Wikipédia n’obéissant ni aux mêmes règles ni aux mêmes processus que ceux issus de Reddit, là encore différ(a)nts de ceux issus du web de manière aléatoire.
S’adresser à ChatGPT-3 c’est mettre à l’épreuve une immensité que l’on pense être suffisante pour détenir des réponses à chacune de nos questions. »
https://affordance.framasoft.org/2023/01/gpt-3-cest-toi-le-chat/