L'ancien PDG de Google, Eric Schmidt a annoncé mercredi qu'il lançait une initiative visant à faire progresser l'intelligence artificielle (IA) et à se préparer aux "conséquences involontaires" que la technologie pourrait présenter au fur et à mesure de son évolution. Dans le cadre de cette initiative, il a décidé d'engager 125 millions de dollars sur les cinq prochaines années. Le projet, baptisé AI2050, est lancé par l'intermédiaire de l'organisation philanthropique du couple, Schmidt Futures, qui finance des entreprises ayant pour but de faire progresser la société.La justice basée sur l'IA, le contrôle de la fusion nucléaire à l'aide de l'IA, les assistants numériques personnels, les puces cérébrales permettant de contrôler les ordinateurs avec la pensée, etc., et les robots chirurgiens sont autant de cas d'utilisation possibles de l'IA. Mais il reste encore de nombreux défis à relever pour les chercheurs. Par exemple, dans le cas de la justice, certains proposent de faire appel à l’apprentissage automatique (ML) pour réduire les décisions parfois biaisées des juges, mais le problème est que les données nécessaires pour l'entraînement de l'IA-juge pourraient être biaisées dès le départ. Ce qui soulève de nombreuses inquiétudes.
Eric Schmidt, ancien PDG de Google
Les plus notables concernent les questions éthiques sur l'opacité des algorithmes et les éventuels biais qui pourraient porter sur le genre, l'orientation sexuelle, la race, etc. C'est justement l'un des "problèmes critiques" de l'intelligence artificielle auxquels l'ancien PDF de Eric Schmidt veut faire face. En parallèle à son éditorial publié dans le New York Times mercredi exprimant ses inquiétudes concernant le retard des États-Unis vis-à-vis de la Chine sur le déploiement de la 5G, Schmidt a annoncé qu'il prévoit d'investir 125 millions de dollars dans la recherche sur l'intelligence artificielle par le biais de son entreprise philanthropique Schmidt Futures.
L'annonce, faite à travers le site Web de la fondation Schmidt Futures, indique que le financement, qui sera administré dans le cadre d'une initiative baptisée AI2050, visera à soutenir les universitaires travaillant sur des "problèmes difficiles" en matière d'intelligence artificielle. « L'IA va nous amener à repenser ce qu'"être humain" signifie. Alors que nous traçons la voie vers un avenir avec l'IA, nous devons nous préparer aux conséquences involontaires qui pourraient en découler », a déclaré Schmidt. Il a pris l'exemple des perturbations actuelles que les technologies comme Internet et les médias sociaux ont entraînées dans la société.
« Aux premiers jours d'Internet et des médias sociaux, personne ne pensait que ces plateformes seraient utilisées pour perturber des élections ou pour façonner chaque aspect de nos vies, de nos opinions et de nos actions. Des leçons comme celles-ci font qu'il est encore plus urgent d'être prêt à aller de l'avant. L'intelligence artificielle peut être une force massive pour le bien de la société, mais il est temps de s'assurer que l'intelligence artificielle que nous construisons a les intérêts humains au cœur », a déclaré Schmidt, qui a également présidé la Commission nationale américaine sur l'intelligence artificielle de 2018 à 2021.
Le projet AI2050 sera coprésidé par Schmidt et James Manyika, responsable de la technologie et de la société chez Google. Il est un conseiller non rémunéré de Schmidt Futures depuis 2019. Des versements seront effectués à des universitaires individuels au cours des cinq prochaines années. Stuart Russell, universitaire de Berkeley, et Rediet Abebe sont parmi les premiers boursiers nommés. Abebe étudie comment l'IA peut aider à mesurer et à atténuer les inégalités socio-économiques, tandis que Russell étudie la programmation probabiliste dans le but d'améliorer l'"interprétabilité", la sécurité prouvable et les performances de l'IA.
Toutefois, Abebe a annoncé plus tard qu'elle avait refusé le prix et la bourse et qu'elle avait demandé que son nom soit retiré de la liste des candidats. Jon Crowcroft, informaticien à l'université de Cambridge, a déclaré que l'argent devrait être utilisé pour financer les chercheurs qui tentent de rendre l'IA plus durable. Il a ajouté que de nombreux géants technologiques se concentrent trop sur le développement d'énormes modèles d'IA qui sont très coûteux à former, et qui posent ensuite des problèmes d'interprétation. Crowcroft a également déclaré qu'il aimerait que l'on investisse davantage pour rendre les systèmes d'IA interprétables.
Selon certains critiques, en l'état actuel des choses, les hommes ne savent pas comment ou pourquoi bon nombre des IA les plus avancées d'aujourd'hui prennent les décisions qu'elles prennent. En outre, alors qu'il présidait la Commission nationale américaine sur l'intelligence artificielle, l'organisme a constaté que les États-Unis sont drastiquement sous-préparés à l'ère de l'IA. Dans un rapport de 756 pages, la commission a averti que la Chine pourrait bientôt remplacer les États-Unis en tant que "superpuissance de l'IA" dans le monde et a déclaré qu'il y avait de graves implications militaires à prendre en compte.
De son côté, Manyika a dressé une liste de travail des "problèmes difficiles" que l'initiative vise à résoudre. « Ce que nous voulons faire, c'est simultanément maximiser le potentiel de hausse, tout en atténuant les risques de baisse. Pour atteindre ces deux objectifs, il est primordial de développer une IA plus performante et plus générale qui soit sûre et qui gagne la confiance du public, de s'assurer que l'IA est techniquement performante et ne nuit pas aux personnes, et que les systèmes d'IA qui sont développés restent alignés et compatibles avec la façon dont les humains les ont conçus », a déclaré Manyika.
« Parmi les exemples spécifiques de choses que nous devons réussir, citons l'intelligibilité et l'"explicabilité", la partialité et l'équité, la toxicité des résultats, la mauvaise spécification des objectifs, les systèmes à l'avantage prouvé et la compatibilité avec l'homme », a-t-il ajouté. Enfin, pour accélérer le développement de l'IA, des chercheurs en IA ont même déclaré en mars dernier qu'il n'y avait guère d'intérêt à imposer des réglementations strictes sur son développement à ce stade, car la technologie n'en est qu'à ses débuts et la paperasserie ne fera que ralentir les progrès dans ce domaine.
Source : Schmidt Futures
Et vous ?
Quel est votre avis sur le sujet ?Voir aussi
La justice par apprentissage automatique : la Chine a créé un « procureur » doté d'une intelligence artificielle, capable d'inculper des personnes pour des crimes avec une précision de 97 % La France bannit les IA de prédiction des comportements des juges. Les technologies de justice prédictive sont-elles une menace pour la société ? Le Parlement européen a voté en faveur d'une interdiction totale de la surveillance biométrique de masse par les forces de l'ordre 
