Falske oplysninger narrede bots – En ny form for forførelse af online publikationer

Les bots sont de plus en plus utilisés pour remplacer les auteurs humains dans les publications en ligne. Mais cette tendance offre également une nouvelle opportunité : piéger les bots. Hier, des utilisateurs de Reddit sur le subreddit World of Warcraft ont parfaitement réalisé cette idée en publiant de fausses informations sur le forum, réussissant ainsi à tromper un site web qui semblait scraper leurs publications. Le 20 juillet, l’utilisateur de Reddit kaefer_kriegerin a posté un message exprimant son enthousiasme pour l’arrivée imminente d’un nouveau joueur de WoW nommé Glorbo. Mais Glorbo est en réalité fictif, et l’auteur a clairement indiqué son intention de le créer en tête de son message en écrivant : “Je veux juste vraiment que certains grands sites d’actualités alimentés par des bots publient un article à ce sujet.”

Une blague qui a dépassé les limites

Et parce que l’IA et le contexte ne se mélangent pas bien (pour le moment), le bot brillant du site The Portal a repris l’arrivée de Glorbo comme une véritable nouvelle. Le site géré par l’application de jeu social Z League a depuis supprimé l’article. L’auteur présumé a produit un nombre presque inhumain de 87 articles le 20 juillet. La plupart de son travail consiste à résumer les réactions des fans aux jeux et aux annonces connexes, ce qui peut facilement être extrait de tous les forums de fans. Par curiosité, j’ai cherché l’auteur sur LinkedIn mais je n’ai pas réussi à le trouver. Une recherche sur Google n’a donné que des articles sur Z League et aucun autre travail.

Nous avons contacté Z League pour savoir si The Portal utilise des outils d’agrégation alimentés par IA, mais nous n’avons pas encore reçu de réponse.

Un rappel des limites de l’IA

Les grandes entreprises de presse ont été critiquées pour avoir remplacé les auteurs humains par l’intelligence artificielle, et l’affaire Glorbo met en évidence l’incapacité de l’IA à penser de manière critique et à faire preuve de scepticisme. Récemment, il a été rapporté que Google avait développé et proposait activement un outil capable de rédiger des articles d’actualités. Il n’est pas clair si The Portal utilise l’intelligence artificielle pour publier des centaines d’articles par jour, mais Wowhead rapporte qu’un autre article basé sur un message Reddit créé pour piéger les robots a également été supprimé. L’auteur de cet article a publié pas moins de 118 articles le 20 juillet.

Source : Mashable