Geoffrey Hinton

Hinton a attiré l’attention des médias en mai de cette année lorsqu’il a annoncé son départ du géant américain de la technologie Google après une décennie de travail. Il l’a fait pour pouvoir parlé plus librement des risques de l’intelligence artificielleaprès le lancement de ChatGPT, une vague d’adoption de l’IA a été déclenchée à l’échelle mondiale.

C’est un éminent scientifique dans le domaine de l’intelligence artificielle qui travaille à l’Université canadienne de Toronto. a pris la parole lors d’une conférence technologique internationale il y a quelques jours Collision à Toronto, rapporte l’agence de presse française AFP.

« Avant que l’intelligence artificielle ne soit plus intelligente que nous, je pense que ceux qui la développent devraient être encouragés à qu’ils ont déployé beaucoup d’efforts pour comprendre comment elle pourrait essayer de prendre le contrôle, » a déclaré Hinton, entre autres.

« À l’heure actuelle, 99 personnes très intelligentes tentent d’améliorer l’IA, et une seule personne très intelligente essaie de comprendre comment l’empêcher de prendre le contrôle – peut-être devrions-nous être plus équilibrés », le scientifique a illustré la situation actuelle.

Dans le même temps, face aux critiques qu’il exagère, il souligne qu’il faudrait prendre plus au sérieux les risques liés à l’intelligence artificielle. « Je pense qu’il est important que les gens comprennent que ce n’est pas de la science-fiction, que ce n’est pas un discours alarmiste », dit-il et ajouta : « Il s’agit d’un risque réel auquel nous devons réfléchir et découvrir à l’avance », a-t-il ajouté. Comment y faire face« .

Dans le même temps, Hinton s’est dit préoccupé par le fait que l’intelligence artificielle pourrait aggraver les inégalités, dans la mesure où la croissance de la productivité résultant de son utilisation bénéficierait aux riches et non aux travailleurs. « La richesse n’ira pas à ceux qui font le travail. Cela conduira à ce que les riches deviennent encore plus riches, et non les pauvres, et c’est très mauvais pour la société », il a dit.

Il a également prévenu au problème des fausses nouvelles générées par les robots, qui utilisent une technologie similaire à ChatGPT. Dans cette optique, il espère que tous les contenus créés avec l’intelligence artificielle pourront être correctement étiquetés. « Il est très important, par exemple, d’essayer de signaler comme faux tout ce qui est faux. Si nous pouvons techniquement le faire, je ne sais pas », il a dit.

Le Parlement européen a récemment approuvé le point de départ des négociations pour la loi sur l’intelligence artificielle, dans lequel il plaide pour un contrôle plus strict de l’intelligence artificielle. Les systèmes d’IA devraient notamment protéger la santé, la sécurité, les droits fondamentaux et la démocratie. Des systèmes comme ChatGPT devraient cependant avertir que le contenu est généré par l’intelligence artificielle.

Lors de la conférence où Hinton a pris la parole, une grande attention a été portée au contraire opportunités apportées par l’intelligence artificielle ou des outils qui s’appuient sur cette technologie, parmi lesquels ChatGPT suscite le plus d’intérêt.

Sarah Guoqui traite de l’investissement dans les startups, par exemple, je pense que c’est parler des conséquences désastreuses de l’intelligence artificielle est prématuré. Ce faisant, elle s’est appuyée sur une déclaration qu’il avait faite il y a quelque temps André Ngun autre expert bien connu dans le domaine de l’intelligence artificielle : dire oui il ne craint pas que l’IA devienne mauvaise pour la même raison, il ne se soucie pas de la surpopulation de Mars, sur laquelle nous n’avons même pas encore mis les pieds.

Lors de la conférence, ils ont également discuté de la question de savoir si les géants actuels dans le domaine de l’intelligence artificielle générative – Microsoft avec OpenAI et Google – resteraient sans réelle concurrence à l’avenir, ou si cependant, de nouveaux acteurs émergeront qui élargiront encore ce domaine avec leurs modèles et leurs innovations.