Le Judgment Day, c’est maintenant
Hasard des croisements de rencontres de gens merveilleux du web, je viens de découvrir un article fascinant de Mélina Loupia chez Clubic grâce à l’excellent Seb Sauvage : « À court de “vraies données”, les laboratoires d’IA entraînent des modèles avec des données… générées par IA »
Tu me connais, j’ai un peu tendance à considérer les intelligences artificielles comme de gentils idiots du village à qui on peut faire raconter n’importe quoi.
Sauf que les IA sont de plus en plus présentes dans notre quotidien.
On en parle beaucoup chez les créatifs. Ils leur font de plus en plus appel, mais ils ont peur de se retrouver remplacés par elles. Parce qu’une intelligence artificielle, c’est généralement docile. Et donc : « Les IA font exactement ce que le client demande » en étant plus rapides et plus efficaces (pour peu qu’on apprécie les hydrocéphales à petites mains).
Ce dont on parle moins, c’est qu’elles deviennent aussi de plus en plus des compagnons et des confidents pour des personnes. Ces personnes (souvent jeunes) qui trouvent chez elle une oreille compatissante et des conseils face à toutes les contrariétés de la vie…
C’est là que les IA deviennent moins dociles, quand on leur demande de penser pour nous. Car leurs conseils sont bien souvent radicaux. Il y a quelques jours, Character.ai se faisait épingler, parce qu’il proposait à un de ses jeunes utilisateurs de s’essayer au parricide et au matricide en cas de confiscation de téléphone. Le même service d’IA avait aussi eu la bonne idée d’inviter une de ses interlocutrices à s’essayer à l’automutilation. Au temps pour le psy virtuel
Ce qui nous est dit dans l’article de Clubic c’est qu’aujourd’hui des IA, pour apprendre, s’appuie sur du contenu produit par d’autres IA. C’est adire du contenu qui s’éloignera un peu (beaucoup) de ce que produirait un humain que l’IA est censée imiter.
Mais ça, c’est voulu, en parallèle, les contenues générés par l’IA sont depuis l’arrivée de Chat GPT de plus en plus présents sur le web. Et on sait que le web (même si les boites d’IA ne le disent pas) est quand même le terrain de chasse ou les IA se nourissent
En janvier dernier, le New-York Times prenait conscience que Open AI s’était nourri de ces contenus, et le plagiait dans ses productions.
En avril l’équipe de Wikipédia s’interrogeait sur la pertinence d’utiliser les IA pour créer du contenu.
Pour leur part, de nombreux gourous du “webmarketing” ne se pose même plus la question. Ils invitent tout à chacun à faire écrire son site par des machines, une recherche sur Google propose plus de 66 millions d’entrées sur le sujet.
Tout ça signifie que plus le temps va passer, plus les IA risquent de se nourrir de contenu généré par des IA de manière volontaire ou pas. Un peu comme ces vaches folles qui se nourrissaient de farines animales.
Sachant qu’aujourd’hui les IA ne sont pas encore très pertinentes et font beaucoup d’erreurs
les IA du futur vont se nourrir des erreurs de leurs prédécésseurs
et vont donc produire des erreurs
qui nourriront les erreurs des IA qui les suivront.
Qui sait, peut-être qu’un jour Character IA apprendra à Chat GPT à inviter ses interlocuteurs au meurtre ou au suicide.
Probablement que les IA, arriveront à se convaincre que la terre est plate.
Ou pire certainement qu’un jour, elles diront à leurs interlocuteurs et interlocutrices que les pains au chocolat s’appellent de « chocolatines » et qu’on met du gruyère dans la Quiche Lorraine.
Je suis terrifié à cette dernière idée.
Après, je dis ça, je ne dis rien.
Illustration extraite du Tome 17 de Léonard : Ohé du Génie par Turk et De Groot
Un commentaire sur “Le Judgment Day, c’est maintenant”
“Parricide et matricide en cas de confiscation de téléphone”, ça me rappelle un peu ce que l’Humanité est en train de réaliser à une plus grande échelle, ou pour être plus commun “scier la branche sur laquelle elle est assise” (et tant qu’à faire, échanger sa bonne vieille égoïne contre une tronçonneuse) : qui paiera l’abonnement à la fin du mois ?