Geoffrey Hinton a attiré l’attention des médias en mai de cette année, lorsqu’il a annoncé son départ du géant américain de la technologie Google après une décennie de travail. Il l’a fait pour parler plus librement des risques de l’IA après que le lancement de ChatGPT ait déclenché une vague d’adoption de l’IA à l’échelle mondiale. Un éminent scientifique dans le domaine de l’intelligence artificielle, qui travaille par ailleurs à l’Université canadienne de Toronto, a pris la parole il y a quelques jours lors de la conférence technologique internationale Collision à Toronto, rapporte l’agence de presse française AFP.

L’intelligence artificielle va-t-elle tenter de prendre le relais ?

« Avant que l’IA ne soit plus intelligente que nous, je pense que les personnes qui la développent devraient être encouragées à faire beaucoup d’efforts pour comprendre comment elle pourrait essayer de prendre le contrôle. » a déclaré Hinton, entre autres. « À l’heure actuelle, 99 personnes très intelligentes tentent d’améliorer l’IA, et une seule personne très intelligente essaie de trouver un moyen de l’empêcher de prendre le dessus. Peut-être devrions-nous être plus équilibrés. » Le scientifique a illustré la situation actuelle. Dans le même temps, face aux critiques qu’il exagère, il souligne que les risques liés à l’intelligence artificielle devraient être pris plus au sérieux. « Je pense qu’il est important que les gens comprennent que ce n’est pas de la science-fiction, que ce n’est pas de l’alarmisme, » il a dit et a ajouté : « Il s’agit d’un risque réel auquel nous devons réfléchir et déterminer à l’avance comment y faire face.« 

Inégalités croissantes et fausses nouvelles

Dans le même temps, Hinton s’est dit préoccupé par le fait que l’intelligence artificielle pourrait aggraver les inégalités, dans la mesure où la croissance de la productivité résultant de son utilisation bénéficierait aux riches et non aux travailleurs. « Bl’abomination ne s’adressera pas à ceux qui font le travail. Cela conduira à ce que les riches deviennent encore plus riches, et non les pauvres, ce qui est très mauvais pour la société. » a-t-il déclaré. Il a également souligné le problème des fausses nouvelles générées par des robots qui utilisent une technologie similaire à ChatGPT. Dans cette optique, il espère que tous les contenus générés par l’intelligence artificielle pourront être correctement signalés. « Par exemple, il est très important d’essayer de marquer comme faux tout ce qui est faux. Si nous pouvons techniquement faire cela, je ne sais pas. » il a dit.

Trop tôt pour parler des conséquences désastreuses

Cependant, le Parlement européen a récemment approuvé le point de départ des négociations sur la loi sur l’intelligence artificielle, dans laquelle il prône un contrôle plus strict de l’intelligence artificielle. Les systèmes d’IA devraient notamment protéger la santé, la sécurité, les droits fondamentaux et la démocratie. Des systèmes comme ChatGPT devraient cependant avertir que le contenu est généré par l’intelligence artificielle.

Lors de la conférence où Hinton a pris la parole, une grande attention a été accordée aux opportunités apportées par l’intelligence artificielle ou aux outils basés sur cette technologie, parmi lesquels ChatGPT a enregistré le plus d’intérêt. Sarah Guo, qui investit par exemple dans des startups, estime qu’il est prématuré de parler des conséquences désastreuses de l’intelligence artificielle. Ce faisant, elle s’est appuyée sur une déclaration qu’il avait faite il y a quelque temps André Ngun autre expert bien connu en IA : disant qu’il ne s’inquiète pas du mal de l’IA pour la même raison, il ne s’inquiète pas de la surpopulation sur Mars, sur laquelle nous n’avons même pas encore mis les pieds.

Lors de la conférence, ils ont également discuté de la question de savoir si les géants actuels dans le domaine de l’intelligence artificielle générative – Microsoft avec OpenAI et Google – se retrouveraient à l’avenir sans véritable concurrence, ou si de nouveaux acteurs émergeraient qui, avec leurs modèles et leurs innovations, va élargir ce domaine.