Combattre la désinformation

La société technologique américaine OpenAI, qui a développé l’application ChatGPT, a annoncé de nouveaux outils pour lutter contre la désinformation à la lumière des nombreuses élections qui auront lieu cette année dans plus de 50 pays à travers le monde. Ils ont également annoncé qu’ils n’autoriseraient pas l’utilisation de leurs outils dotés d’intelligence artificielle générative dans le cadre de campagnes politiques.

« Nous voulons garantir que notre technologie ne soit pas utilisée d’une manière qui pourrait compromettre les processus démocratiques », a déclaré lundi OpenAI dans un article de blog.

Ils ont ajouté qu’ils s’efforçaient toujours de comprendre l’efficacité de leurs outils pour persuader les gens individuellement et qu’ils ne permettraient à personne de créer des applications de campagne politique et de lobbying en les utilisant tant qu’ils n’auraient pas plus d’informations.

L’annonce d’OpenAI intervient à la lumière des élections de cette année dans de nombreux pays démocratiques du monde, dont l’Inde et les États-Unis. La désinformation alimentée par l’intelligence artificielle fait partie des plus grands risques mondiaux à court terme, a averti le Forum économique mondial dans son rapport de la semaine dernière, selon l’agence de presse française AFP.

« Nous voulons garantir que notre technologie ne soit pas utilisée d’une manière qui pourrait compromettre les processus démocratiques. »

OpenAI

La peur de la désinformation électorale existe depuis des années, mais la disponibilité générale de puissants générateurs de texte et de photos alimentés par l’IA a accru la menace, surtout si les utilisateurs ne peuvent pas facilement savoir si le contenu qu’ils voient est complètement faux ou falsifié.

OpenAI a annoncé qu’il travaillait sur des outils permettant d’attribuer de manière fiable le texte créé avec ChatGPT. Ils souhaitent également permettre aux utilisateurs de déterminer plus facilement si une image ou une photo a été créée avec leur programme génératif Dall-E 3.

En particulier, l’extraordinaire succès du générateur de texte ChatGPT a déclenché une révolution mondiale dans le domaine de l’intelligence artificielle au cours de l’année écoulée, mais il a également suscité des avertissements selon lesquels de tels outils peuvent inonder Internet de désinformation et influencer les électeurs. Bien qu’une grande partie de ce contenu soit de mauvaise qualité, les experts affirment que la désinformation alimente encore davantage une crise de confiance dans les institutions politiques.