IA facilement manipulable : les conséquences pour les écrivains

La montée en puissance de l’intelligence artificielle (IA) dans notre monde ne fait aucun doute. Bien qu’elle existe depuis un certain temps dans des capacités limitées, telles que les IA permettant aux personnages non joueurs (PNJ) dans les jeux de fonctionner, de rechercher des informations sur Internet pour nous, etc., elle devient de plus en plus avancée. L’IA est désormais capable de produire du contenu entièrement développé, que ce soit des scénarios de films, des essais ou même des articles en ligne. Alors que certains soutiennent que c’est une décision assez regrettable car cela enlève toute humanité au contenu, certaines entreprises ont commencé à laisser l’IA écrire des tonnes de contenu pour elles dans l’espoir de générer de l’argent facilement.

La manipulation facile de l’IA

Malheureusement, l’IA est facilement manipulable dans de nombreux cas. Certains joueurs de World of Warcraft sur Reddit ont élaboré un faux message sur Reddit dans l’espoir de tromper une IA pour qu’elle écrive un article à ce sujet. Dans le message, les fans ont mentionné une nouvelle fonctionnalité appelée “Glorbo”, qui ne mentionnait en réalité rien d’autre qu’une série de phrases évidemment fausses, mais qui ne seraient peut-être pas aussi évidentes pour une IA. Cela étant dit, l’IA a été dupée et a publié un article sur un site web appelé Zleague sur les fans qui s’enthousiasmaient pour cette fonctionnalité tant attendue. Bien sûr, de nombreux utilisateurs de Reddit, ainsi qu’un développeur du jeu nommé Kyle Hartline, ont utilisé cela pour critiquer sévèrement Zleague. C’est tellement génial de pouvoir enfin parler de Glorbo, je me souviens de mon premier jour chez Blizzard, nous venions de commencer à travailler sur l’implémentation, c’était il y a près de 15 ans !

Excellent travail pour avoir retracé cela ????

Source : Comicbook.com

Les conséquences pour les écrivains

Ainsi, il semble que les écrivains pourront probablement conserver leur emploi dans un avenir prévisible. Si une IA a été trompée par quelque chose d’aussi innocent que cela, cela soulève des inquiétudes quant à sa capacité à être manipulée pour publier du contenu plus désagréable. Quoi qu’il en soit, je suis sûr que nous verrons plus d’exemples de choses comme celle-ci à l’avenir, surtout compte tenu du fait qu’Hollywood lutte contre l’utilisation de l’IA dans la création de contenu. Il semble que cela continuera d’avoir un impact sur notre culture, quelles que soient les circonstances.