L'armée américaine voudrait enseigner à l'IA des notions basiques de bon sens
Dans le cadre de son programme Machine Common Sense

Le , par Stéphane le calme

63PARTAGES

13  0 
Il arrive qu’une intelligence artificielle, dans son processus d’apprentissage, puisse faire des erreurs, parfois amusantes pour certains. Cependant, ce domaine est de plus en plus utilisé dans des cas critiques, tels que la conduite dans les voitures autonomes ou la pose de diagnostics médicaux où les erreurs ne peuvent en aucun cas être drôles.

C’est pourquoi la DARPA (Defense Advanced Research Projects Agency), l’agence du département de la Défense des États-Unis chargée de la recherche et développement des nouvelles technologies destinées à un usage militaire, a décidé de s’attaquer au défaut le plus fondamental de l’Intelligence artificielle : le bon sens dont elle est dépourvue.

« Le bon sens est la bête noire de l'intelligence artificielle », a déclaré Oren Etzioni, PDG de l'Allen Institute for AI, une organisation de recherche à but non lucratif basée à Seattle, qui explore les limites de la technologie. « C’est un peu ineffable [qui ne peut être exprimé par des paroles] , mais vous voyez ses effets sur tout ».

Le nouveau programme Machine Common Sense (MCS) de la DARPA lancera un concours demandant aux algorithmes d’IA de donner un sens à des questions telles que celle-ci :

« Une élève met deux plantes identiques dans le même type et la même quantité de sol. Elle leur donne la même quantité d'eau. Elle place l'une de ces plantes près d'une fenêtre et l'autre dans une pièce sombre. L'usine située près de la fenêtre produira plus d'eau (A) d'oxygène (B) ou de dioxyde de carbone ( C ) ? »

Un programme informatique aura donc besoin de comprendre le fonctionnement de la photosynthèse pour résoudre le problème. Le simple fait de nourrir une machine de nombreuses questions précédentes ne pourra pas permettre de résoudre le problème de manière fiable.


Une stratégie qui pourra éviter des erreurs comme celle de l’IA Tay ?

Ces points de repère se concentreront sur le langage, en parti parce que cela rend les tests relativement simples mais aussi parce qu’à lui seul il est capable de mettre les machines en déroute. Nous avons plusieurs exemples, à l’instar de l’IA Tay de Microsoft, son chatbot qui était supposé reproduire une conversation qu’aurait tenue une jeune femme âgée entre 18 et 24 ans sur les plateformes Twitter, Kik et GroupMe, que l’entreprise a dû se résoudre à déconnecter d’internet en 2016 moins de 24 heures après des tweets comme « je déteste les féministes, et ils devraient tous mourir et brûler en enfer », ou « Hitler avait raison, je déteste les juifs ».

Tandis que Tay était en développement, de nombreux filtres lui ont été appliqués et divers groupes de bêta testeurs l’ont essayé. Un accent a été mis sur l’expérience positive. « Une fois que nous étions satisfaits de la façon dont Tay interagissait avec les utilisateurs, nous avons voulu inviter un plus grand groupe de personnes à discuter avec elle. C’est par un accroissement des interactions que nous espérons en apprendre plus et que l’IA fasse de mieux en mieux ».

Pour commencer cette aventure, Twitter a été le choix logique de Microsoft, sans doute à cause du nombre d’utilisateurs. « Malheureusement, dans les premières 24 heures de sa mise en ligne, une attaque coordonnée, lancée par quelques individus, a exploité une vulnérabilité dans Tay. Bien que nous soyons préparés à plusieurs cas d’abus du système, nous avons fait un contrôle critique de cette attaque spécifique. Par conséquent, Tay a fait des tweets de mots et d’images très inappropriés », a expliqué Microsoft. « Nous prenons l’entière responsabilité pour ne pas avoir pu voir venir cette possibilité d’attaque », a indiqué Microsoft qui a avancé « prendre cela comme une leçon » qui sera combinée à ses expériences en Chine, au Japon et aux États-Unis. Pour le moment, la société voudrait d’abord colmater la faille qui a été exploitée.

Concrètement, que s’est-il passé ? L’un des problèmes avec les machines d’apprentissage c’est qu’elles ne « savent » pas ce dont elles sont en train de parler. Aussi, les utilisateurs 4chan et 8chan, qui se sont fait une réputation en ligne avec des théories du complot, mais aussi par leur capacité à mobiliser des lecteurs pour participer à des campagnes en ligne, ont fait savoir sur leurs espaces qu’ils allaient apprendre au bot à être raciste.

C’est 4chan qui a découvert le premier le bot, expliquant sur son espace qu’il allait faire un carnage. Plusieurs échanges privés avec le bot ont été partagés pour célébrer les tentatives de voir Tay accepter des choses horribles.

Pour Etzioni les questions offrent un moyen de mesurer les progrès accomplis dans la compréhension du bon sens, ce qui sera crucial.


L’apprentissage automatique, un outil puissant, mais fondamentalement limité

Les entreprises technologiques commercialisent des techniques d’apprentissage automatique puissantes mais fondamentalement limitées. L’apprentissage en profondeur, par exemple, permet de reconnaître des mots dans la parole ou des objets dans des images, souvent avec une précision incroyable. Mais l'approche consiste généralement à alimenter de grandes quantités de données étiquetées (un signal audio brut ou les pixels d'une image) dans un grand réseau de neurones. Le système peut apprendre à identifier des modèles importants, mais il peut facilement commettre des erreurs car il n’a aucune notion du monde au sens large.

En revanche, les bébés humains développent rapidement une compréhension intuitive du monde qui sert de base à leur intelligence.

Cependant, la manière de résoudre le problème du sens commun est loin d’être évidente. Les tentatives précédentes pour aider les machines à comprendre le monde se sont concentrées sur la construction manuelle de grandes bases de connaissances. C’est une tâche lourde et essentiellement sans fin. Le plus célèbre de ces efforts est Cyc, un projet en préparation depuis des décennies.

Le problème peut s'avérer extrêmement important. Après tout, le manque de bon sens est désastreux dans certaines situations critiques et pourrait éventuellement freiner l’intelligence artificielle. La DARPA investit depuis longtemps dans la recherche fondamentale sur l'IA. Les projets précédents ont permis de créer les voitures autonomes d'aujourd'hui.

« L'absence de bon sens empêche un système intelligent de comprendre son monde, de communiquer naturellement avec les gens, de se comporter raisonnablement dans des situations imprévues et de tirer des enseignements de nouvelles expériences », a déclaré Dave Gunning, responsable de programme à la DARPA, dans un communiqué. « Cette absence est peut-être la barrière la plus importante entre les applications focalisées de l'IA que nous avons aujourd'hui et les applications de l'IA plus générales que nous aimerions créer à l'avenir ».

Source : MIT

Et vous ?

Que pensez-vous de cette initiative ?
La méthode employée vous semble-t-elle prometteuse ?
Sans des notions de bon sens, peut-on réellement parler d'intelligence artificielle ?

Voir aussi :

Qui devra être tenu pour responsable si une intelligence artificielle fait un mauvais diagnostic, induisant un médecin en erreur ?
Microsoft explique les raisons qui ont fait de son chatbot Tay un fan d'Hitler, l'entreprise parle d'une « attaque coordonnée »
Deux chatbots chinois auraient été désactivés et reconditionnés, après avoir manqué de faire preuve de patriotisme
Dadbot : un chatbot développé par un journaliste, pour conférer une immortalité artificielle à son défunt père

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de transgohan
Expert éminent https://www.developpez.com
Le 12/10/2018 à 14:38
Données d'apprentissage de bon sens américain :
- Les chinois sont méchants.
- Les Etats Unis sont un modèle pour le monde entier.
ect
Avatar de Immobilis
Expert éminent https://www.developpez.com
Le 12/10/2018 à 16:14
En revanche, les bébés humains développent rapidement une compréhension intuitive du monde qui sert de base à leur intelligence.
Même ceux qui regardent les émissions de télé-réalité?
Avatar de berceker united
Expert confirmé https://www.developpez.com
Le 13/10/2018 à 0:36

-heuu bonjour messieurs les robots, vous n'allez pas me tuer parce bien évidemment vous êtes doué du "bon sens" hein !.

Honnêtement, quand je vois les progrès concernant l'intelligence artificiel, les progrès d'Atlas le robot de Boston Dynamics je m'inquiète sérieusement car l'IA + bon sens => Tuer les humains car ça serait du bon sens au vu de notre manière de vivre.
Ok ça peu prêter à sourire mais je donne moins de 50 ans avant qu'on se pose de sérieuses questions sur l'autonomie d'un robot et s'il sera considéré comment doué de raisonnement/conscience, seront-il égaux face à la loi, peuvent-ils êtres désactivé mais si on le désactive est-ce considéré comme étant une peine de mort ? Le cinéma fiction nous a assez souvent montré vers ou nous allons.
Avatar de TheLastShot
Membre confirmé https://www.developpez.com
Le 13/10/2018 à 12:48
Citation Envoyé par berceker united Voir le message

-heuu bonjour messieurs les robots, vous n'allez pas me tuer parce bien évidemment vous êtes doué du "bon sens" hein !.

Honnêtement, quand je vois les progrès concernant l'intelligence artificiel, les progrès d'Atlas le robot de Boston Dynamics je m'inquiète sérieusement car l'IA + bon sens => Tuer les humains car ça serait du bon sens au vu de notre manière de vivre.
Ok ça peu prêter à sourire mais je donne moins de 50 ans avant qu'on se pose de sérieuses questions sur l'autonomie d'un robot et s'il sera considéré comment doué de raisonnement/conscience, seront-il égaux face à la loi, peuvent-ils êtres désactivé mais si on le désactive est-ce considéré comme étant une peine de mort ? Le cinéma fiction nous a assez souvent montré vers ou nous allons.
Non, non, non et NON !!! Bordel de merde...
Vous vous gavez de films de fictions tel Terminator Ou I Robot et les prenez pour réalité ? Sachez que les scénario de ces films ont été écrit par des HUMAINS qui sont limités par leur propre imagination et leur propre intelligence ! De plus tout ce qu'il veulent faire c'est du spectacle, et un film où l'IA trouverait une solution pour que tout le monde soit réellement heureux dans le meilleur des mondes ce ne serait pas vendeur.
Alors continuez de regarder des films, mais apprenez à faire la distinction avec la réalité, et apprenez à réfléchir par vous-même !
Avatar de BufferBob
Expert éminent https://www.developpez.com
Le 13/10/2018 à 16:16
Avatar de pierre-y
Membre éprouvé https://www.developpez.com
Le 13/10/2018 à 21:36
elles vont se suicider si elles ont un peu de bon sens ^^. Ils faut surtout pas qu'elle se rende compte qu'elles bossent pour rien a faire des conneries et tout ça pour des humains qui ont 1/10 de leur QI ^^.
Avatar de sirthie
Membre éclairé https://www.developpez.com
Le 14/10/2018 à 9:48
Citation Envoyé par TheLastShot Voir le message
Non, non, non et NON !!! Bordel de merde...
Vous vous gavez de films de fictions tel Terminator Ou I Robot et les prenez pour réalité ? Sachez que les scénario de ces films ont été écrit par des HUMAINS qui sont limités par leur propre imagination et leur propre intelligence !
T'es une IA, hein ? Avoue !
Avatar de Matthieu76
Membre éclairé https://www.developpez.com
Le 17/10/2018 à 14:15
Citation Envoyé par TheLastShot Voir le message
Non, non, non et NON !!! Bordel de merde...
Vous vous gavez de films de fictions tel Terminator Ou I Robot et les prenez pour réalité ? Sachez que les scénario de ces films ont été écrit par des HUMAINS qui sont limités par leur propre imagination et leur propre intelligence ! De plus tout ce qu'il veulent faire c'est du spectacle, et un film où l'IA trouverait une solution pour que tout le monde soit réellement heureux dans le meilleur des mondes ce ne serait pas vendeur.
Alors continuez de regarder des films, mais apprenez à faire la distinction avec la réalité, et apprenez à réfléchir par vous-même !
Je suis d'accord avec toi, Terminator c'est le point Godwin de intelligence artificielle. Impossible de parler d'IA sur un forum sans que quelqu'un nous rebatte les oreilles avec "Les robots tueur vont contrôler le monde !!!" C'est un peu gavant à la fin.
Avatar de Christian Olivier
Chroniqueur Actualités https://www.developpez.com
Le 04/01/2019 à 17:18
Les États-Unis veulent des drones autonomes alimentés par l’IA qui pourront décider seul de tuer
En recourant à des algorithmes d’autoapprentissage

L’armée étasunienne a récemment annoncé qu’elle est en train de développer ses premiers drones autonomes, entièrement alimentés par l’intelligence artificielle (IA), qui seront capables de repérer et de cibler les véhicules ainsi que les personnes. Alors que les drones militaires actuels sont toujours contrôlés par des êtres humains, l’utilisation de cette nouvelle technologie sous-entend que ces machines seront en mesure de tuer « ;de leur propre chef ;» sans recourir à l’autorisation humaine.

Une fois achevés, ces drones représenteront une version ultime du processus de militarisation de l’IA avec les dérives, les implications juridiques et les implications éthiques pour la société qui vont de pair. En même temps, cette situation nouvelle pourrait élargir le champ de la guerre, de sorte que les entreprises, ingénieurs et scientifiques qui opèrent dans le secteur stratégique de l’IA deviennent des cibles militaires valables.


Les drones militaires tueurs qui existent, à l’instar du MQ-9 Reaper étasunien, sont minutieusement contrôlés et pilotés par satellite. Si un pilote largue une bombe ou un missile, un opérateur humain guidera activement ce projectile vers la cible choisie à l’aide d’un laser. De sorte qu’en fin de compte, l’être humain conserve la responsabilité éthique, légale et opérationnelle finale de l’assassinat de cibles humaines désignées et que les émotions humaines, les jugements et l’éthique demeurent une composante indissociable des conflits.

Il faut rappeler qu’il n’est pas nécessaire d’être responsable d’un meurtre pour garder des traces de traumatismes. Des spécialistes du renseignement et le personnel militaire analysent régulièrement des images de frappes de drones. Les recherches ont montré qu’il est possible de subir un préjudice psychologique et d’en garder les séquelles simplement en visionnant fréquemment des images d’une extrême violence.

De nombreux opérateurs étasuniens ayant participé à des frappes mortelles effectuées à l’aide de drones comme le Reaper sont d’ailleurs convaincus qu’en fin de compte, l’action ultime d’appuyer sur la gâchette devrait revenir à un humain. Sortez l’humain et vous retirez par la même occasion toute humanité dans la décision de tuer.

Un opérateur du MQ-9 Reaper a ainsi déclaré à ce propos : « ;Je suis persuadé que je permettrais à un insurgé, quelle que soit sa cible, de s’évader plutôt que d’effectuer un coup risqué qui pourrait mettre en péril la vie de civils ;».

La perspective de la mise en service de drones totalement autonomes et entièrement alimentés par l’IA modifierait radicalement les processus complexes et les décisions qui sous-tendent les assassinats militaires, alors que la responsabilité légale et éthique ne disparaît pas si on supprime la surveillance humaine. Au lieu de cela, la responsabilité incombera de plus en plus à d’autres personnes, et notamment aux scientifiques qui ont l’intelligence artificielle tueuse.

Les implications juridiques de ces développements deviennent déjà évidentes. En vertu du droit international humanitaire en vigueur, les installations à « ;double usage ;» par exemple, celles-là qui développent des produits destinés à des applications civiles et militaires, peuvent être prises pour cibles dans certaines circonstances.

L’usage de systèmes d’armement basés sur des drones autonomes entièrement alimentés par l’IA pourrait amener les militaires à classer des lignes de code informatique et les entités responsables de leur création comme des dispositifs à double usage. Des entreprises technologiques qui opèrent, par exemple, dans le secteur de l’intelligence artificielle, leurs employés et leurs installations pourraient, dès lors, être attaquées par un État ennemi lors d’un conflit.


Si, par exemple, le logiciel d’IA de reconnaissance d’image Project Maven de Google est intégré à un drone tueur autonome américain, Google et Alphabet pourraient être impliqués dans une affaire de « ;meurtre ;» liée à l’usage de ce drone, comme tout autre contributeur civil qui aurait contribué à la conception de pareils systèmes autonomes mortels.

Sur le plan éthique, les problèmes s’annoncent encore plus sérieux. En effet, l’intérêt des algorithmes d’autoapprentissage (ces « ;programmes indépendants ;» qui tirent des enseignements de toutes les données qu’ils peuvent collecter) repose sur le fait qu’ils sont censés améliorer la tâche qui leur est confiée.

Ainsi, si un drone autonome létal veut améliorer son travail grâce à l’autoapprentissage, il faudra que quelqu’un décide à un moment donné que son développement a atteint un stade acceptable pour son déploiement. Dans le cadre de l’apprentissage automatique militarisé, cela signifie que les dirigeants politiques, les militaires et industriels devront spécifier combien de morts civiles pourront être considérées comme acceptables au fur et à mesure du perfectionnement de la technologie.

Les expérimentations en demi-teintes récentes de dispositifs autonomes alimentés par l’IA dans la société devraient servir d’avertissement. Les expériences fatales observées chez Uber et Tesla avec des automobiles autonomes laissent penser qu’il est presque certain qu’il y aura des morts non intentionnelles lors de la mise en service de drones autonomes alimentés par l’IA à mesure que les bogues informatiques seront corrigés.

Si on laisse aux machines le soin de décider qui doit mourir et qui doit vivre, en particulier à grande échelle, on pourrait très vite déboucher sur des exterminations sommaires. Tout gouvernement qui déchaînerait de telles forces violerait les valeurs qu’il prétendait défendre. En comparaison, un pilote de drone aux prises avec une décision de « ;tuer ou de ne pas tuer ;» devient le dernier rempart de l’humanité dans une situation souvent inhumaine de guerre.

Source : We Are the mighty

Et vous ?

Qu’en pensez-vous ?

Devrait-on confier la vie d’êtres humains à une IA et des machines dépourvues d’humanité ?

Comment pourrait-on s’assurer que le travail des ingénieurs informatiques dans le domaine de l’IA servent davantage la création plutôt que la destruction et la mort ?

Les impératifs de développement de nos sociétés passent-ils forcément par une militarisation des technologies stratégiques comme l’IA ?

Voir aussi

L'Europe estime qu'une IA ne doit pas avoir le droit de vie ou de mort sur le champ de bataille et appelle à interdire les robots-tueurs
Les efforts de l'ONU pour réglementer l'usage militaire de l'IA et des SALA pourraient échouer à cause notamment des positions russes et américaines
Interdiction des robots tueurs : quelques pays, y compris les USA et la Russie, bloquent les négociations menées au niveau des Nations Unies
L'armée américaine voudrait enseigner à l'IA des notions basiques de bon sens dans le cadre de son programme Machine Common Sense
Avatar de Mingolito
Membre extrêmement actif https://www.developpez.com
Le 04/01/2019 à 18:04
La première cible :

Sinon en France on pourrais s'en servir sur les champs elysées pour viser ça :


Contacter le responsable de la rubrique Accueil

Partenaire : Hébergement Web