Magtfuld AI-manipulation afsløret: Hvordan AI kan narres til at producere falske artikler

Le pouvoir de l’intelligence artificielle continue de s’étendre dans notre monde moderne. Bien qu’elle ait été utilisée depuis un certain temps dans des capacités limitées, comme permettre aux PNJ dans les jeux vidéo de fonctionner ou rechercher des informations sur Internet pour nous, elle devient de plus en plus avancée. L’IA est désormais capable de produire du contenu entièrement développé, que ce soit des scripts de films, des essais ou même des articles en ligne. Alors que certains soutiennent que cela est une décision assez regrettable, car cela enlève toute humanité du contenu, certaines entreprises ont opté pour laisser l’IA produire une grande quantité de contenu en espérant générer facilement des revenus.

Manipulation de l’IA

Malheureusement, l’IA est facilement manipulée dans de nombreux cas. Certains joueurs de World of Warcraft ont imaginé un faux message sur Reddit dans l’espoir de tromper une IA pour qu’elle écrive un article à ce sujet. Dans le message, les fans mentionnaient une nouvelle fonctionnalité appelée “Glorbo”, qui ne consistait en réalité qu’en une série de expressions clairement fausses, mais qui ne sont peut-être pas évidentes pour une IA. Cela dit, l’IA a tout gobé et a publié un article sur un site appelé Zleague sur les fans qui étaient enthousiastes à l’idée de cette nouvelle fonctionnalité tant attendue. Bien sûr, de nombreuses personnes ont utilisé cette occasion pour se moquer spectaculairement de Zleague, y compris les utilisateurs de Reddit et même un développeur du jeu du nom de Kyle Hartline.

Le développeur a tweeté : “Se sentir vraiment bien de pouvoir enfin parler de Glorbo, je me souviens de mon premier jour chez Blizzard, nous venions de commencer à travailler sur son implémentation, c’était il y a près de 15 ans ! Excellente enquête pour avoir découvert cela ????”.

Les limites de l’IA

Il semble donc que les auteurs puissent encore garder leur travail dans un avenir proche. Si une IA peut être trompée par quelque chose d’aussi innocent que cela, cela soulève des inquiétudes quant à la possibilité qu’elle puisse être trompée pour publier du contenu plus désagréable. Quoi qu’il en soit, je suis sûr que nous verrons plus d’exemples de ce genre à l’avenir, notamment car Hollywood lutte contre l’utilisation de l’IA dans la création de contenu. Cela semble être quelque chose qui continuera d’avoir un impact sur notre culture, quel qu’il soit.

Référence : source d’information