Nous ne pouvons plus imaginer la vie moderne sans ordinateurs, Internet et appareils intelligents. Mais le développement de l’intelligence artificielle (UI) a récemment connu une telle accélération que même les créateurs eux-mêmes ont plaidé pour son ralentissement. Parmi eux se trouvent le premier homme de Tesla, Elon Musk, et le co-fondateur d’Apple, Steve Wozniak. Nous avons demandé un commentaire au philosophe Jonas Miklavčič, qui étudie les aspects éthiques des nouvelles technologies et de l’intelligence artificielle à la Faculté de théologie.
La lettre appelant à un arrêt temporaire du développement de l’interface utilisateur a été publiée par le Future of Life Institute, pour lequel Musk travaille en tant que consultant externe. Il a été signé par plus d’un millier de personnes, dont plusieurs employés de la filiale d’intelligence artificielle de Google DeepMind, rapporte STA.
« Les systèmes d’intelligence artificielle dotés d’une intelligence humaine compétitive peuvent présenter un grand risque pour la société et l’humanité », indique la lettre. Si des personnes qui ont gagné des milliards grâce au développement de l’interface utilisateur et qui n’ont par ailleurs montré aucune préoccupation éthique le défendent, cela signifie quelque chose. Par exemple, Musk a été l’un des premiers investisseurs dans OpenAI et a siégé à son conseil d’administration pendant plusieurs années, et sa société automobile Tesla développe des systèmes d’intelligence artificielle qui aident à alimenter la technologie des véhicules sans conducteur, entre autres.
« Les systèmes d’intelligence artificielle dotés d’une intelligence rivalisant avec l’homme peuvent présenter un grand risque pour la société et l’humanité. »
Nous avons besoin de meilleurs fusibles
Le pionnier canadien de l’intelligence artificielle Yoshua Bengio a averti lors d’une conférence de presse virtuelle à Montréal que la société n’est pas prête pour cet outil puissant et ses possibles abus, a rapporté l’agence de presse française AFP.
« Ralentissons. Assurons-nous de développer de meilleures garanties », a déclaré le pionnier canadien de l’assurance-chômage Yoshua Bengio, appelant à un débat international approfondi sur l’intelligence artificielle et ses implications, comme il l’a dit dans le monde avec l’énergie nucléaire et les armes nucléaires.
Ils étaient préoccupés par le développement de ChatGPT
ChatGPT a fait beaucoup de progrès dans le domaine des réponses intelligentes dans sa dernière version. PHOTOS : capture d’écran
Ils s’inquiétaient de la puissance de la dernière version du programme GPT-4 d’OpenAI, qui est pris en charge par Microsoft. Maintenant, avec l’aide de l’intelligence artificielle, il est capable de générer des textes basés sur les invites les plus courtes. « Par conséquent, nous appelons tous les laboratoires d’IA à suspendre immédiatement la formation de systèmes d’IA plus puissants que GPT-4 pendant au moins six mois », ont écrit les signataires. Ils ont appelé les gouvernements à imposer un moratoire si les entreprises n’étaient pas d’accord.
Ces six mois, selon les auteurs de la lettre, devraient être utilisés pour développer des protocoles de sécurité, des systèmes de gestion de l’IA et rediriger la recherche vers la fourniture de systèmes d’IA plus précis, plus sûrs, fiables et loyaux.
Miklavčič : La réflexion ne rattrape pas le développement
Jonas Miklavčič, chercheur en éthique et nouvelles technologies. PHOTOS : capture d’écran
Jonas Miklavčič, qui étudie les aspects éthiques du développement des nouvelles technologies et de l’interface utilisateur à la Faculté de théologie, a déclaré que le problème réside dans le développement rapide de l’interface utilisateur. La réflexion ne peut suivre le développement. « La pause dans le développement ultérieur pourrait en effet être l’occasion de déterminer les normes éthiques et juridiques de leur utilisation dans le temps. Même si cette lettre ouverte n’entraîne pas un arrêt du développement pour les six prochains mois, elle est relativement importante car le public , qui a désormais conscience que l’intelligence artificielle est déjà là aujourd’hui, prévient que ses enjeux éthiques sont aussi déjà là.En tout cas, il semble encourageant que parmi les signataires de la lettre figurent également certains développeurs eux-mêmes, par exemple des chercheurs du laboratoire DeepMind . »
Quel sera l’avenir de la technologie ?
L’avenir de la technologie a également été abordé dans l’émission Reflektor, où le professeur de la Faculté de génie électrique de Ljubljana, le Dr Marko Jankovec, a expliqué que la technologie se développe en fait d’elle-même, c’est pourquoi son développement est exponentiel. Ce qui ressemblait à de la science-fiction il y a un an est déjà là. Bien que cela nous facilite souvent la vie, cela peut aussi entraîner de graves problèmes éthiques.
« Expert en café. Fier fan de voyages. Pionnier des médias sociaux. Ninja de la culture pop. Fanatique de zombies. Expert de la bière. »
