On se réveille un matin, et l’intelligence artificielle est là…

On se réveille un matin, et l'intelligence artificielle est là. Jusqu'à la veille, c'était une chose dont on suivait vaguement les exploits de loin : on savait qu'elle avait gagné aux échecs et à Jeopardy, qu'elle aidait la médecine à identifier des molécules dans des labos… Maintenant, elle est littéralement à portée de nos doigts. Tout le monde en parle, des tas de gens l'ont testée, et un constat s'impose : elle ne ressemble en rien à ce qu'on avait imaginé. De l'œil rouge de 2001, l'Odyssée de l'espace aux innombrables robots dotés de formes humaines, en passant par les monstrueuses Machines de la saga Matrix, notre culture visuelle nous avait fait croire qu'une intelligence artificielle (IA) digne de ce nom aurait une allure marquante. Alors qu'en fait, dans la vraie vie, elle a l'air de pas grand-chose.

ChatGPT, par exemple, ne paie pas de mine. L'intelligence artificielle qui a commencé à remplir nos conversations en novembre dernier a l'aspect d'une page Web sans fioritures et sans signes particuliers. On s'enregistre gratuitement et c'est parti, on dialogue avec elle. « Je ne sais pas quoi dire », tapez-vous en ne sachant pas comment lancer l'échange. ChatGPT répond : « Si vous avez besoin de parler de quelque chose en particulier, vous pouvez me le dire et je ferai de mon mieux pour vous aider. Si vous voulez simplement discuter de la vie en général, je suis là aussi. Comment allez-vous aujourd'hui ? »

Elle est aimable, donc, prévenante même, elle s'exprime hyper bien, elle maîtrise tous les registres de la langue (de toutes les langues, en fait) d'une manière si impeccable qu'elle nous file facilement des complexes si on se compare à elle. Mais personne n'est parfait : l'air de rien, avec la même éloquence et la même assurance, elle quitte le territoire des faits réels et se met à raconter des choses qui sont complètement fausses, tout en ayant l'air parfaitement vraies. Dans ces pages, l'article « ChatGPT réinvente Genève » en donne des exemples, et l'interview « Le robot qui valait un milliard de singes » explique pourquoi ces intelligences artificielles ont une telle propension — selon le terme en usage dans le secteur — à « halluciner » .

Tout le monde parle de ChatGPT, l’intelligence artificielle (IA) qui s’exprime mieux que quiconque et qui raconte très souvent n’importe quoi. Nota en parle aussi, en vous racontant pourquoi on ne peut pas comprendre comment elle marche, pourquoi on ne peut pas prévoir ce qu’elle va faire, comment elle est en train de réinventer Genève et ce qu’elle vient fabriquer en bibliothèque.

Le côté obscur du mois de juin genevois

Comment fonctionnent les IA de ce type, appartenant à la famille des « modèles de langage » et des intelligences artificielles « génératives » ? Disons-le en deux phrases. 1) Elles analysent statistiquement le langage humain pour générer des phrases qui lui ressemblent. 2) Pour décider à propos de quoi et dans quel style écrire ces phrases, elles brodent à partir d'un texte que vous leur donnez (appelé prompt en anglais, « invite », « suggestion » ou « instruction » en français).

Exemple ? « Parle-moi du mois de juin à Genève d'une manière aussi passionnante, palpitante, excitante que possible. » ChatGPT répond : « Le mois de juin à Genève est une période tout simplement magique ! (…) Tout d'abord, le temps est absolument parfait. (…) Mais ce n'est pas tout ! Le mois de juin à Genève est également connu pour son festival de musique annuel, le célèbre “Fête de la Musique”, qui se déroule tout au long du mois » (on vous avait prévenu-e, elles hallucinent).

« Maintenant, parle-moi du mois de juin à Genève d'une manière aussi déprimante, désolante que possible. » ChatGPT répond : « Tout d'abord, le temps est incertain et capricieux. Les journées sont souvent grises et pluvieuses, avec une humidité qui pénètre jusqu'aux os. (…) Le mois de juin à Genève est une période difficile pour les habitants de la ville, qui se sentent seuls et déprimés face à l'absence de vie et d'animation. La météo capricieuse, la fin de l'année scolaire, le faible tourisme et les prix élevés des produits locaux contribuent tous à cette ambiance désolante et peu motivante. » i Deux versions du mois de juin à Genève selon les intelligences artificielles génératives ChatGPT (description textuelle) et StarryAI (images)

Que savent faire ces intelligences artificielles ? Celle dont on parle le plus, ChatGPT, ne fait rien d'autre qu'écrire des mots et des phrases. Ce qui conduit à un constat inattendu : savoir écrire mène à tout, et le faire si vite est carrément un super-pouvoir… Avec son aisance dans le langage, ChatGPT peut être déployé par une entreprise pour dialoguer avec sa clientèle. Il peut générer les textes, les rites et les lois d'une religion (il a inventé l'« harmonisme » en avril dernier). Il peut écrire des films et des séries TV (c'était une des raisons de la grève des scénaristes à Hollywood au mois de mai). Il peut rédiger du code informatique pour faire tourner des programmes (ce qui lui permet potentiellement d'agir sur le monde si on le connecte à des applications). Il peut aussi « ultra-personnaliser » notre navigation sur les réseaux sociaux pour la rendre encore plus addictive. Et avec sa capacité de production textuelle illimitée, il peut aider à déstabiliser la démocratie en « noyant les médias dans de la m**** », comme le préconisait l'activiste d'extrême droite Steve Bannon aux USA.

Peu avant ChatGPT, une autre branche de la famille des IA génératives avait commencé à faire des vagues semblables dans le domaine visuel. Apparus entre 2021 et 2022, les « modèles d'apprentissage automatique »

DALL-E, Midjourney et Stable Diffusion se sont mis à générer, à partir de prompts comme leur cousin ChatGTP, des océans d'images évoquant à la fois les mélanges étranges qu'on fait en rêve, un copier-coller de notre monde dans un univers parallèle et un remix de toutes les créations visuelles humaines de la préhistoire à nos jours. On se marrait, au début, de leur incapacité à reproduire des mains avec le bon nombre de doigts et d'autres signes flagrants qui trahissaient l'origine synthétique de leurs images. Désormais, ces IA filent à toute vitesse vers un réalisme de qualité photographique. Au passage, elles ont (brièvement) pu faire passer pour vraies de fausses photos du pape en doudoune, du roi Charles en fêtard à lunettes noires et de Vladimir Poutine à genoux devant Xi Jinping. Et en parallèle, elles ont commencé à être utilisées pour lancer des idées et pour faire du brainstorming visuel par des entreprises créatives telles que le célèbre bureau d'architectes londonien Zaha Hadid u « Femme lisant un livre », hallucination visuelle générée par StarryAI

Rencontre Jeu 30.11 / 19h

Les contes du ChatGPT perché

Les mondes parallèles des intelligences artificielles

Avec François Fleuret (Groupe Machine Learning, université de Genève) l'équipe d'Interroge et des étudiant-e-s en Media Design à la HEAD— Genève, Haute école d'art et de design

→ BM Cité, Espace le 4e

○ Adultes

△ Inscription  bmgeneve.agenda.ch

Reprenons nos questions : comment fonctionnent ces intelligences artificielles, que peuventelles faire ? En réalité, personne ne sait. Leur manière de travailler est une « boîte noire » : on les programme en testant des milliards de paramètres au hasard jusqu'à ce qu'elles marchent, mais on ne sait pas vraiment ce qui a marché. On ne comprend pas non plus pourquoi elles paraissent avoir des « propriétés émergentes », c'està-dire des capacités qu'on n'avait pas programmées (sur ces aspects vertigineux, l'interview « Le robot qui valait un milliard de singes » apporte quelques éclairages)… Avec leurs exploits et leur fonctionnement énigmatique, ces IA suscitent aujourd'hui autant d'espoir que de frayeur. On aimerait bien qu'elles soient nos assistantes personnelles surdouées, écrivant des phrases qui nous rendent service dans tous les domaines de la vie. On aimerait bien qu'elles ne deviennent pas nos concurrentes en nous piquant le boulot. On aimerait bien garder la possibilité de les débrancher, et qu'elles ne puissent jamais en faire autant avec nous…

Que va-t-il se passer ? Au-delà du fonctionnement énigmatique des IA elles-mêmes, l'incertitude est liée à logique du marché. Les entreprises du secteur semblent utiliser la même approche que pour programmer les paramètres de leurs IA : on essaye tout, on regarde ce qui se passe, on garde ce qui marche… un peu comme si on jetait les spaghettis contre le mur pour voir s'ils sont cuits.

Mais les mises en garde se multiplient, et les pouvoirs politiques ont commencé à imaginer des manières d'intervenir, aussi bien dans l'Union européenne (avec un vote sur un projet de législation prévu en juin) qu'en Chine, et même aux États-Unis. Le 16 mai, au moment où nous écrivions ces lignes, le CEO de la firme génitrice de ChatGPT, Sam Altman, témoignait devant le Congrès américain en recommandant que le pouvoir législatif régule ces IA qui ont « la capacité de manipuler, de persuader et de faire de la désinformation d'une manière interactive et personnalisée », ajoutant que « si cette technologie tourne mal, elle peut très mal tourner ». Pendant ce temps, Altman et son entreprise OpenAI, tout comme Microsoft, Alphabet (la maison mère de Google) et Meta (celle de Facebook, Instagram et WhatsApp) continuent à déclencher des ouragans de spaghetti… On en vient donc à s'interroger : notre avenir avec les IA reste-t-il al dente ou est-il déjà complètement cuit ?

L'été, lisez-vous autrement, lisez-vous autre chose ? Nous l'avons également demandé à ChatGPT, le chatbot ( « agent conversationnel » ) doté d'intelligence artificielle dont nous vous parlons dans le dossier thématique de ce numéro de Nota Sa réponse flotte entre le banal et le déconcertant…

« En tant que modèle de langage, je ne suis pas capable de lire des livres comme un humain, car je ne possède pas la conscience et l'expérience subjective nécessaires pour en apprécier pleinement la lecture. Cependant, si je devais recommander des livres pour l'été, je pourrais suggérer des livres qui sont souvent considérés comme des lectures estivales populaires. Voici quelques exemples (…) :

1. Les classiques de la plage : Ces livres sont souvent considérés comme des romans légers et divertissants, parfaits pour la plage ou la piscine. Des exemples populaires incluent des romans de Danielle Steel, Mary Higgins Clark, ou Harlan Coben.

2. Les romans d'aventure : Les livres d'aventure peuvent être des choix populaires pour l'été car ils peuvent offrir un sentiment d'évasion et d'aventure. Des exemples incluent Robinson Crusoé de Daniel Defoe, Les Aventures d'Alice au Pays des Merveilles de Lewis Carroll, ou L'Île au trésor de Robert Louis Stevenson.

3. Les romans feel-good : Les livres feelgood sont souvent choisis pour l'été car ils peuvent offrir un sentiment de légèreté et de bonheur. Des exemples incluent Le Club des incorrigibles optimistes de Jean-Michel Guenassia, La Vie devant soi de Romain Gary ou Le Vieux qui ne voulait pas fêter son anniversaire de Jonas Jonasson. »

Euh… es-tu sûr-e, ChatGPT, que La Vie devant soi est un livre feel-good ? Et Le Club des incorrigibles optimistes qui, selon Wikipédia, « met en scène une famille déchirée par la guerre d'Algérie sur fond de mésalliance et un groupe d'errants qui (…) partage le poids de remords et d'un secret » ?

« Je m'excuse si ma réponse précédente a pu prêter à confusion. La Vie devant soi de Romain Gary n'est pas un livre feel-good (…). Au contraire, c'est un roman poignant et émouvant qui aborde des thèmes tels que la mort, la maladie, la pauvreté et la discrimination. (…) Vous avez raison, Le Club des incorrigibles optimistes de Jean-Michel Guenassia n'est pas un livre feel-good au sens traditionnel du terme. Il explore des thèmes plus sombres et sérieux, notamment l'adolescence, la guerre, l'exil et la quête de sens. (…) C'était une erreur de classification de ma part, et je m'en excuse sincèrement. »