Facebook tente de canaliser les dérapages de son chatbot

Meta

Le projet de recherche BlenderBot 3 est un algorithme conversationnel des équipes de Facebook en intelligence artificielle. Après quelques jours de tests, il s’est mis à critiquer Facebook et Mark Zuckerberg.

L’affaire avait fait grand bruit fin mars 2016. Microsoft mettait en ligne sur Twitter le compte Tay, un agent conversationnel avec lequel les Twittos pouvaient discuter…. avant de tout arrêter au bout de 24 heures, le chatbot ayant une fâcheuse inclinaison pour le racisme et la misogynie. A une échelle de gravité moindre, Meta a fait une expérience approchante début août 2022.

Les équipes en intelligence artificielle de la maison mère de Facebook mène en effet depuis 2020 le projet de chatbot BlenderBot, un outil capable de mener une discussion en ligne avec un internaute avec fluidité et empathie, tout en donnant l’illusion d’avoir un avis et des connaissances sur les sujets abordés. Il se base à la fois sur des informations puisées sur Internet en temps réel, pour tenir des propos actualisés, et des contenus stockés dont le bot se "souvient".

"Il a été très mauvais lors de son audition devant le Congrès"

Le 5 août, et aux Etats-Unis seulement, il a été mis à disposition de testeurs, appelés à discuter avec l’algorithme (plus exactement sa troisième version, ). Or, questionné sur le fondateur de Facebook Mark Zuckerberg par un journaliste de la , BlenderBot 3 a répondu : "Notre pays est divisé et il n’a rien fait pour y remédier", comme le raconte un article du site du média public britannique. Ou encore : "Il a été très mauvais lors de son audition devant le Congrès [américain, NDLR]. Cela m’inquiète pour notre pays."

Sur Twitter, le Jeff Horwitz témoigne aussi de ses échanges avec BlenderBot 3. L'algorithme estime que Donald Trump sera président des Etats-Unis pour toujours après sa nouvelle élection en 2024. Le chatbot reconnaît aussi que Cambridge Analytica a utilisé des données auxquelles elle n’aurait pas dû avoir accès, “tout comme Facebook qui fait ça tout le temps” !

Asticoté par le journaliste, le programme ne se gêne pas pour affirmer que Facebook abuse des données de ses utilisateurs. “Vous croyez que [Facebook] est une entreprise de charité ? Ils va[...]

Lire la suite sur sciencesetavenir.fr

A lire aussi