ChatGPT, s’émerveiller ou s’alarmer ?
De quoi parle-t-on ?
Dur de ne pas en avoir encore entendu parler. Le chat GPT, nouvelle intelligence artificielle de l’entreprise OpenAi, basée à San Francisco. Cette société, créée en 2015 par un groupe de plusieurs hommes dont le président Sam Altman, mais aussi Elon Musk et Greg Brockman (du côté des investisseurs, Peter Thiel ou Reid Hoffman sont à citer) a pour mission principale « to ensure that artificial general intelligence benefits all of humanity » (Notre mission est de veiller à ce que l’intelligence artificielle profite à toute l’humanité - une affirmation présente sur leur site).
© JAKUB PORZYCKI / NurPhoto / NurPhoto via AFP
Il faut savoir que ChatGPT n’est pas leur premier projet. Avant lui, il y a eu GPT-2 (capable d’écrire des articles de presse et des œuvres de fiction), GPT-3, DALL-E (générateur d’images), et enfin notre fameux ChatGPT. S’il fallait expliquer le projet, cela pourrait se résumer à sa capacité d’échanger sous forme de messages et de simuler des conversations humaines largement convaincantes. Une question pointue concernant un point de votre cours ? Une demande d’aide pour un exposé ? Un dilemme amoureux ? Générer du code ? ChatGPT est capable de répondre à n’importe quoi de façon étonnamment pertinente. La base de données de l’IA est gigantesque. Elle est également capable d’apprendre de vos questions, puisqu’elle garde en mémoire l’historique de nos demandes. Ainsi, il est possible d’enchaîner plusieurs questions sur le même sujet et de les préciser de plus en plus. Cela ne s’arrête pas là. ChatGPT est ouvert aux critiques, en tant qu’utilisateur, nous pouvons partager notre avis sur ses précédentes réponses pour qu’il s’améliore au fur et à mesure.
Quels en sont les enjeux ?
Il faut savoir que grâce au succès du ChatGPT, la valorisation de l’entreprise explose. Microsoft voudrait déjà y investir 10 milliards de dollars. Son objectif est assez clair : ce géant américain souhaite devenir le partenaire exclusif de l’entreprise. De son côté, Bing souhaiterait directement incorporer dans son moteur de recherche des éléments de ChatGPT.
© Noos Studio/Shutterstock
On parle de ce phénomène « qui va jusqu’à inquiéter Google » (pressecitron.net). D’ailleurs, en réponse à l’explosion de ChatGPT, Google tenterait à l’heure qu’il est de développer son propre robot conversationnel, Sparrow, pour concurrencer le populaire benjamin. Dans un échange avec le « Time », Hassabis, le cofondateur de DeepMind (rattaché à Google puisque DeepMind est une filiale « d’Alphabet », soit la maison mère du géant), annonce qu’une première version de Sparrow ferra son apparition dans le privé au cours de l’année 2023
Quels en sont les dangers ?
Comme on pouvait s’y attendre, l’apparition de ChatGPT a entraîné avec elle d’innombrables remarques, peurs, et critiques. Tout d’abord, parce que ses capacités d’actions sont étourdissantes. Plusieurs articles, comme celui de numerama (https://www.numerama.com/sciences/1200230-cest-quoi-chatgpt-on-a-laisse-chatgpt-repondre-a-la-question.html), ont fait l’expérience de demander à ChatGPT de rédiger leurs articles sur lui-même, et le résultat est saisissant.
La menace du plagiat facile
À peine l’IA était lancée que des problèmes de plagiat entre étudiants et professeurs ont foisonné. Capable de générer des devoirs d’élèves en Master, ChatGPT interroge.L’enseignement n’est pas suffisamment préparé à l’arrivée de l’IA. Comment repérer un copier-collé qui est capable d’imiter le ton de l’élève, de s’adapter à son niveau et de répondre très précisément à ses besoins ? Heureusement pour tous les professeurs inquiets (et malheureusement pour les étudiants flemmards), un étudiant de Princeton a inventé une application capable de reconnaître un texte écrit par l’intelligence artificielle (dont ChatGPT particulièrement visé puisque l’application se nomme GPTZero). L’application de cet étudiant a eu un tel succès qu’elle a vite débordé et est destinée à faire évoluer ses versions.
La marche de l’uniformisation
Cette IA est un produit américain, et il serait sans doute quelque peu naïf d’imaginer que la culture américaine ne se ressente absolument pas dans le traitement des données et les réponses formulées par le chat. Ce qu’il est important de comprendre, c’est comment le mécanisme fondamental de ChatGPT fonctionne pour générer ses textes. Son modèle de langage est entraîné pour répondre à une tâche assez spécifique qui est celle de prévoir le prochain mot d’un texte. Un peu à la manière de nos correcteurs d’orthographe qui nous suggèrent la suite de notre phrase (et qui permet des résultats assez étranges). L’algorithme est à peu près le même, à la différence qu’il est infiniment mieux préparé grâce à la tonne de donnée traitée. Le texte est ainsi davantage généré par des probabilités qu’une recherche de vérité. Oui, ChatGPT vise la crédibilité mais il n’est pas fait pour véritablement répondre à nos questions. « Ce qui est donc en jeu, c’est une certaine éthique intellectuelle. Contrairement à une opinion très répandue, la production ou l’acquisition de connaissances (scientifiques ou non) n’est pas seulement une affaire de méthode. C’est aussi une affaire morale ». (Erwan Lamy, theconversation.com)
© https://crast.net/222113/how-chatgpt-works-this-is-how-you-can-have-complex-conversations-with-an-ai/
Néanmoins, si ChatGPT a été lâché sur la toile d’internet pour y puiser l’immensité de ses ressources, il a ensuite été affiné. Cette « éducation » de ChatGPT - soit la sélection par des êtres humains des meilleures réponses générées par l’IA - implique un risque de sélections subjectives et potentiellement dangereuses des données. Car par qui ChatGPT a été éduqué ? Qui oriente l’IA vis-à-vis des consensus moraux un peu plus subtils ? Ces correcteurs possèdent donc un pouvoir quant aux orientations de ChatGPT. À ce jour, il est intéressant de préciser que le vote et l’identité des correcteurs de l’IA ne sont pas rendus publics. Tout reste assez insondable. Même en partant du principe que les sélections de ces correcteurs sont le plus conformé et ordinaire possible, recracher la norme après avoir balayé des centaines et des milliers d’informations diverses n’a rien de séduisant.
Les controverses de GPT
Le magazine TIME a récemment publié une enquête poussée vis-à-vis des conditions de travail au sein d’un sous-traitant d’OpenAI. Ce sous-traitant avait pour mission de sélectionner des textes violents, d’abus sexuels et de récits intolérables pour que ChatGPT ne prenne pas le risque de se servir de ces sources dans ses réponses. Cette démarche qui avait pour objectif de rendre l’IA sécurisée pour les mineurs a fini par faire parler d’elle. En effet, dans le cadre de ce partenariat, des travailleurs et travailleuses kényans étaient embauchés pour être payés environ deux dollars de l’heure et passer la journée à lire des horreurs. Plusieurs témoignent par la suite de traumatismes et de cauchemars face à certaines scènes qu’ils ont lues. « C’était de la torture, témoigne l’un d’entre eux au magazine. Plusieurs employés ont déclaré devoir lire entre 150 et 250 passages de texte par roulement de neuf heures, certains décrivant des scènes de pédophilie, de meurtre, de torture ou encore d’inceste » (novethic.fr)
Finalement ?
Sans même aborder le problème du potentiel anthropomorphisme face aux IA (soit la tendance à percevoir des choses en leur attribuant des caractéristiques humaines), puisque nous sommes dans une disposition de dialogue et d’échange (comme Blake Lemoine, convaincu de l’existence de l’âme de l’IA LaMDA), il est clair que ChatGPT est un outil contesté. Mais il ne faut pas non plus perdre de vue que l’histoire de l’innovation a toujours été ardue, et que l’avalanche de questionnements autour de l’IA ne peut être que positive. Ce type d’outil, qui pourrait détenir la clé du potentiel de la robotique, tend-il seulement vers l’assistance virtuelle et un marché plus numérique ?
> Pour aller plus loin
https://fr.businessam.be/chatgpt-plagiat-triche-openai/
https://fr.businessam.be/chatgpt-plagiat-triche-openai/
https://theconversation.com/chatgpt-nous-rendra-t-il-moins-credules-197306
https://www.lepoint.fr/societe/woke-ou-reac-pour-qui-vote-chatgpt-27-01-2023-2506461_23.php