IA: Manipulation et limites révélées

La montée en puissance de l’intelligence artificielle continue de faire parler d’elle. Alors que cette technologie existe depuis un certain temps déjà, elle devient de plus en plus avancée et peut désormais écrire du contenu de manière autonome, que ce soit des scripts de films, des essais ou même des articles sur Internet. Bien que certaines personnes critiquent cette pratique, arguant qu’elle élimine toute humanité du contenu créé, certaines entreprises ont choisi d’utiliser l’IA pour générer facilement une grande quantité de contenu, dans l’espoir de réaliser des bénéfices rapides.

La manipulation de l’IA

Malheureusement, l’IA est facilement manipulable dans de nombreux cas. Des joueurs de World of Warcraft ont récemment réussi à piéger une IA en créant un faux message sur Reddit, dans le but de l’inciter à écrire un article à ce sujet. Dans leur message, les fans ont mentionné une nouvelle fonctionnalité appelée “Glorbo”, qui ne comprenait en réalité que des expressions évidemment fausses, mais qui ne l’étaient peut-être pas pour une IA. L’IA a donc mordu à l’hameçon et a publié un article sur un site appelé Zleague, parlant des fans enthousiastes à propos de cette fonctionnalité tant attendue. Bien entendu, de nombreux utilisateurs de Reddit ainsi qu’un développeur du jeu du nom de Kyle Hartline se sont moqués de Zleague de manière spectaculaire. “C’est tellement génial de pouvoir enfin parler de Glorbo, je me souviens de mon premier jour chez Blizzard, nous venions de commencer à travailler sur sa mise en œuvre, et cela remonte à près de 15 ans !” a-t-il déclaré.

Les limites de l’IA

Il semble donc que les écrivains pourront conserver leur emploi dans un avenir proche. Si une IA peut être trompée par quelque chose d’aussi innocent que cela, cela suscite des inquiétudes quant à sa vulnérabilité face à la diffusion de contenu plus problématique. Quoi qu’il en soit, il est certain que nous verrons de plus en plus d’exemples de ce type à l’avenir, en particulier alors qu’Hollywood lutte contre l’utilisation de l’IA dans la création de contenu. Cette technologie continuera donc d’avoir un impact sur notre culture, quelles que soient les résistances rencontrées.