L'intelligence artificielle pourrait constituer une menace "plus urgente" pour l'humanité que le changement climatique, a déclaré Geoffrey Hinton, pionnier de l'IA, dans une interview accordée à Reuters.Geoffrey Hinton, largement connu comme l'un des "parrains de l'IA", a récemment annoncé qu'il quittait Alphabet après une décennie passée au sein de l'entreprise, expliquant qu'il souhaitait s'exprimer sur les risques de la technologie sans que cela n'affecte son ancien employeur.
Les travaux de M. Hinton sont considérés comme essentiels au développement des systèmes d'IA contemporains. En 1986, il a cosigné l'article fondateur "Learning representations by back-propagating errors", une étape importante dans le développement des réseaux neuronaux qui sous-tendent la technologie de l'IA. En 2018, il a reçu le prix Turing en reconnaissance de ses avancées en matière de recherche.
Mais il fait désormais partie d'un nombre croissant de leaders technologiques qui s'inquiètent publiquement de la menace que pourrait représenter l'IA si les machines parvenaient à être plus intelligentes que les humains et à prendre le contrôle de la planète.
"Je ne voudrais pas dévaloriser le changement climatique. Je ne voudrais pas dire : "Vous ne devriez pas vous inquiéter du changement climatique". C'est aussi un risque énorme", a déclaré M. Hinton. "Mais je pense que cette question pourrait s'avérer plus urgente."
Il a ajouté : "En ce qui concerne le changement climatique, il est très facile de recommander ce qu'il faut faire : il suffit d'arrêter de brûler du carbone. Si vous faites cela, les choses finiront par s'arranger. Dans le cas du changement climatique, ce qu'il faut faire n'est pas du tout clair".
OpenAI, soutenue par Microsoft, a donné le coup d'envoi d'une course à l'armement technologique en novembre, en mettant à la disposition du public le chatbot ChatGPT, alimenté par l'IA. Il est rapidement devenu l'application à la croissance la plus rapide de l'histoire, atteignant 100 millions d'utilisateurs mensuels en deux mois.
En avril, Elon Musk, PDG de Twitter, s'est joint à des milliers de personnes pour signer une lettre ouverte appelant à une pause de six mois dans le développement de systèmes plus puissants que le GPT-4 récemment lancé par OpenAI.
Parmi les signataires figuraient Emad Mostaque, PDG de Stability AI, des chercheurs de DeepMind, propriété d'Alphabet, et d'autres pionniers de l'IA, Yoshua Bengio et Stuart Russell.
Si M. Hinton partage l'inquiétude des signataires, qui craignent que l'IA ne constitue une menace existentielle pour l'humanité, il n'est pas d'accord avec l'idée d'interrompre la recherche.
"C'est totalement irréaliste", a-t-il déclaré. "Je suis de ceux qui pensent qu'il s'agit d'un risque existentiel et qu'il est suffisamment proche pour que nous travaillions très dur dès maintenant et que nous consacrions beaucoup de ressources à déterminer ce que nous pouvons faire à ce sujet."
Dans l'Union européenne, un comité de législateurs a répondu à la lettre de M. Musk en demandant au président américain Joe Biden d'organiser un sommet mondial sur l'orientation future de la technologie avec la présidente de la Commission européenne Ursula von der Leyen.
Début mai, la commission a adopté une série de propositions historiques concernant l'IA générative, qui obligeraient les entreprises comme OpenAI à divulguer tout matériel protégé par des droits d'auteur utilisé pour entraîner leurs modèles.
Entre-temps, M. Biden s'est entretenu avec un certain nombre de dirigeants d'entreprises d'IA, dont Sundar Pichai, PDG d'Alphabet, et Sam Altman, PDG d'OpenAI, à la Maison-Blanche, promettant une "discussion franche et constructive" sur la nécessité pour les entreprises d'être plus transparentes au sujet de leurs systèmes.
"Les leaders de la technologie sont ceux qui comprennent le mieux le problème, et les politiciens doivent être impliqués", a déclaré M. Hinton. "Cela nous concerne tous, nous devons donc tous y réfléchir."
Source : Reuters
Et vous ?
Quel est votre avis sur le sujet ? Trouvez-vous que les préoccupations de M. Hinton sont pertinentes et fondées ? Êtes-vous d'accord avec l'avis de M. Hinton selon lequel il est "irréaliste" d'interrompre la recherche en IA ? Selon vous, l'IA devrait-elle faire l'objet d'une réglementation et d'une orientation mondiale comme le préconisent certains législateurs ?Voir aussi
Geoffrey Hinton, une des figures de proue de l'apprentissage profond, quitte Google pour être libre de parler des dangers de l'IA dont la désinformation et l'élimination des humains par les robots L'UE envisagerait des règles très strictes pour les chatbots dans le cadre de son projet de loi sur l'IA elle devrait exiger la divulgation de l'utilisation du matériel protégé par le droit d'auteur ChatGPT a enregistré une augmentation de 83 % en termes de trafic Web, et rivalise désormais avec Bing, la France est la 5è source de trafic pour le chatbot d'OpenAI, selon Similarweb Elon Musk et un groupe d'experts en IA demandent à tous les laboratoires d'IA d'interrompre la formation de systèmes d'IA plus puissants que le GPT-4, citant des risques pour la société 
Envoyé par Anthony
