Developpez.com

Le Club des Développeurs et IT Pro

Project Maven : Google a fait appel aux travailleurs de la gig economy pour entraîner son IA

Dont l'usage est militaire

Le 2019-02-05 07:27:16, par Stéphane le calme, Chroniqueur Actualités
Des millions de travailleurs de la gig economy du monde entier vivent maintenant de ce qu’on appelle des sites Web de crowdfunding - un travail qui relève du crowdsourcing ou de la division de tâches en minuscules portions à répartir sur un grand nombre de personnes. Les sites paient à peine 1 dollar de l’heure pour permettre aux utilisateurs d’accomplir des tâches brèves et répétitives, telles que l’identification de motifs sur des images et la production de critiques de produits.

La gig economy signifie, littéralement, l’économie des petits boulots. Le terme, très populaire aux États-Unis, désigne principalement les plateformes collaboratives comme Uber ou Deliveroo qui n’emploient pas des salariés, mais travaillent avec des micro-entrepreneurs (anciennement autoentrepreneurs, qui exercent une entreprise individuelle sous le régime fiscal de la microentreprise.)

Selon un nouveau rapport publié par The Intercept, Google a embauché des employés de la gig economy pour l'aider à mettre en place un programme controversé d'intelligence artificielle que la société avait associé au Pentagone.

Envoyé par The Intercept
Certains de ces travailleurs de la gig economy aidaient inconsciemment à renforcer les capacités de drones sur les champs de bataille du Pentagone.

Le travail a été effectué dans le cadre d'une initiative du ministère de la Défense appelée Project Maven. L'année dernière, The Intercept a annoncé que le Pentagone avait discrètement fait appel à Google dans le cadre du projet de développement d'un programme d'intelligence artificielle destiné à aider les analystes de la Force aérienne à trier rapidement les milliers d'heures de vidéo de drones et à choisir des cibles sur le champ de bataille.

Cependant, le programme d'intelligence artificielle doit apprendre à être capable de distinguer les objets sur les vidéos - et pour que le programme puisse apprendre, il faut que quelqu'un l'enseigne. C’est ici qu’entrent sur scène les travailleurs de la gig economy, chargez de fournir le libellé initial des données d’image - identifiant correctement les parties d’une image - permettant au programme d’intelligence artificielle de Google de distinguer les bâtiments, les images, les arbres et d’autres objets. Le rôle des travailleurs de la gig economy a suscité peu d'attention.

The Intercept affirme avoir obtenus des courriels qui montrent que peu après que Google eût signé l'accord avec l'armée, le géant de la technologie a commencé à travailler pour étiqueter un ensemble d'images satellites capturées par une technologie connue sous le nom d'imagerie animée à grande échelle. En octobre 2017, Google a envoyé à une société appelée CrowdFlower - qui a ensuite pris le nom de Figure Eight - des images brutes contenant des instructions relatives à l'étiquetage des données. Le projet d’étiquetage des données a commencé à montrer des résultats rapidement au cours du mois suivant, alors que les ingénieurs élaboraient de meilleures directives à l’intention des travailleurs de la gig economy pour enseigner à l’intelligence artificielle l’identification des objets.

Le projet Maven, avec l'aide des travailleurs de la gig economy, a été conçu pour permettre aux responsables du Pentagone de procéder à une « analyse en temps quasi réel » et de « cliquer sur un bâtiment pour voir tout ce qui lui est associé », y compris des personnes et des véhicules, selon des documents obtenus par The Intercept.


Selon The Intercept, ces travailleurs ne savaient pas à qui leur travail était destiné ni ce à quoi ils contribuaient.

Envoyé par The Intercept
Will Pleskow, responsable de compte chez Figure Eight, a confirmé le rôle de sa société dans l’initiative Project Maven lors d’un entretien avec The Intercept lors du AI Summit, un salon destiné aux entreprises du secteur de l’apprentissage automatique. Pleskow a déclaré que les travailleurs effectuant l'étiquetage des données, appelés « contributeurs », ne savaient pas qu'ils travaillaient pour Google ou pour l'armée, ce qui n'est pas un arrangement inhabituel.

« Nos clients ont la possibilité de montrer qui ils sont. La plupart du temps, cela reste anonyme », a déclaré Pleskow. Il a ajouté que son entreprise effectuait des tâches d'étiquetage d'image similaires pour améliorer la qualité de la technologie des véhicules autonomes, tels que les voitures sans conducteur.

Plusieurs travailleurs de Figure Eight ont déclaré à The Intercept qu'il n'était pas inhabituel de laisser les travailleurs dans l'ignorance à propos de la manière dont les résultats de leur chaîne de montage de données sont utilisés.

« Les contributeurs à la plateforme Figure Eight ne sont pas informés des destinataires des données », a déclaré un ancien animateur de groupe, qui utilisait son pseudonyme lorsque The Intercept a contacté des médias sociaux. « Habituellement, on leur donne une raison pour laquelle ils effectuent une tâche, telle que "Dessinez des boîtes autour d’un certain produit pour aider les machines à le reconnaître", mais ils ne savent rien de la société qui reçoit les données ».
En juin dernier, Google avait annoncé sa décision de ne pas renouveler son contrat avec le ministère de la Défense, car il concernait le projet Maven après que plus de 3 000 employés eurent signé une pétition pour protester contre son implication dans cette initiative. L'accord devrait se terminer en mars 2019.

Source : The Intercept

Et vous ?

Qu'en pensez-vous ?

Voir aussi :

Google lance Cloud Firestore, une base de données de documents NoSQL sans serveur, serait-elle meilleure que Firebase ?
Après Facebook, c'est Google qui fait aussi passer Screenwise Meter, une application de collecte de données, sur les périphériques iOS
La fermeture de Google+ pour les comptes grand public est prévue le 2 avril 2019, Google révèle aussi quand les données seront supprimées
Google fait ses premiers pas vers la suppression des URL telles qu'on les connait sur le web avec déjà 2 projets en cours d'élaboration
Google Chrome 72 est disponible pour Windows, macOS, Linux et Android : zoom sur les nouveautés
  Discussion forum
126 commentaires
  • Ryu2000
    Membre extrêmement actif
    Envoyé par Bill Fassinou
    Selon le média allemand Deutsche Welle (DW), en tout, 30 pays souhaitent une interdiction totale de l'utilisation des robots tueurs dans le cadre de cette campagne, ainsi que le Parlement européen. Par ailleurs, en mars 2019, plusieurs militants de 35 pays s’étaient réunis à Berlin pour demander l'interdiction des armes autonomes meurtrières. Ces militants engagés contre l’utilisation des armes autonomes veulent attirer l’attention des pays non encore engagés et surtout l’Allemagne dans la perspective de nouvelles négociations sur ces armes à Genève.
    Ce serait chouette qu'on interdise aux états d'utiliser des robots contre leur peuple, par contre quand c'est la guerre il n'y a plus de règle.

    ONU. Soixante-dix ans après les Conventions de Genève, les violations du droit international humanitaire qui ravagent la vie des civils en temps de guerre illustrent un échec catastrophique
    En Somalie, la crise des droits humains et humanitaire reste également l’une des plus graves au monde. Toutes les parties au conflit, et notamment les États-Unis, ont commis des violations du droit international relatif aux droits humains et du droit international humanitaire. Bien qu’ayant intensifié les frappes aériennes dans leur guerre opaque en Somalie ces deux dernières années, les États-Unis ont refusé d’admettre que leurs frappes avaient fait des victimes parmi les civils jusqu’à ce qu’une enquête d’Amnesty International les y force.

    Israël a, à de nombreuses reprises, pris pour cible des civils et des biens de caractère civil lors d’opérations militaires à Gaza depuis 2008, causant une destruction de grande ampleur et faisant de nombreux morts parmi les civils. Entre mars 2018 et mars 2019, Israël a eu recours à une force meurtrière contre des manifestants palestiniens, faisant au moins 195 morts, dont des secouristes, des journalistes et des enfants. Des groupes armés palestiniens ont procédé à des tirs aveugles de roquettes en direction de quartiers civils d’Israël, faisant plusieurs morts.
    Les pays peuvent signer toutes les conventions que vous voulez, les puissances militaire comme les USA et Israël continueront de développer des armes en secret. Quoi que parfois les pays sortent d'un traité officiellement :
    Traité sur les forces nucléaires à portée intermédiaire
    Depuis 2007, Vladimir Poutine le met en cause à plusieurs reprises comme desservant les intérêts de la Russie face au développement de missiles par la Chine et au déploiement de systèmes de défense antimissile par les États-Unis. En octobre 2018, Donald Trump annonce son intention de retirer les États-Unis de ce traité. Les négociations menées avec la Russie ne débouchant sur aucun accord, Washington confirme formellement le 1er février 2019 que les États-Unis suspendent leurs obligations en vertu du traité FNI et entament le processus de retrait du traité FNI d'une durée de six mois. Moscou réplique le lendemain en annonçant à son tour se retirer de ce traité. Le retrait américain est officiel le 2 août 2019.
    Il est probable que les armes autonomes jouent un rôle lors de la prochaine guerre mondiale. Les gouvernements investissent beaucoup dans l'IA militaire.
    L’armée américaine investit 2 milliards de dollars dans l’intelligence artificielle
    La Darpa, prestigieuse agence de recherche de l’armée, veut développer des machines qui seront « comme des collègues » pour les militaires.
    IA et informatique quantique : les Etats-Unis posent 1 milliard $ sur la table
    Les États-Unis annoncent un investissement d’un milliard de dollars dans l’intelligence artificielle et l’informatique quantique. L’objectif ? Rester leader technologique, devant la Chine, notamment dans le domaine militaire…
  • tmcuh
    Membre habitué
    Idée intéressante d'utiliser des petites mains pour faire avancer la reconnaissance d'objets... parler d'intelligence serait quand même un gros mot qui fait toujours débat.

    Dommage que Google ne veut pas prendre parti à celà car je pense qu'il a beaucoup à y gagner tant sur le plan technologique, que de reconnaissance "The Brand".
    Ce qui est rigolo c'est que les chinois n'ont aucune éthique de ce genre et donc seront les plus avancés d'ici peu et c'est là que les choses sérieuse commenceront
  • Ryu2000
    Membre extrêmement actif
    Envoyé par tmcuh
    Idée intéressante d'utiliser des petites mains pour faire avancer la reconnaissance d'objets...
    Perso ça me fait penser aux clodos utilisé par Aperture Science dans Portal 2.
    Test Subject
    According to GLaDOS, Aperture Science's annual bring-your-daughter-to-work day "is the perfect time to have [one's daughter] tested", suggesting Test Subjects are (at least partially) chosen among daughters of Aperture employees. Other popular Aperture Science Test Subject gathering methods include paying homeless people insignificant wages, forcing employees to participate in tests, picking up orphans from orphanages or transferring psychiatric patients from Aperture-branded mental institutions. Compared to early testing phases, when Aperture seems to have hired the best of the best (such as "astronauts" "war heroes" and "olympians", Aperture later shows both increasing issues with test subject quality and apparent investigations into the whereabouts of failed test subjects.
    Parfois on retrouve de la science-fiction dystopique dans la réalité.

    Envoyé par tmcuh
    Dommage que Google ne veut pas prendre parti à celà
    Google était très content de collaborer avec le gouvernement (ça devait être bien payé), mais quelques employés ont protesté, démissionné, et tout ça, du coup Google a fait marche arrière. (c'est possible que le programme continu en secret, c'est juste que l'image publique de Google était grillé, alors il fallait essayer de redorer le blason).

    Envoyé par tmcuh
    Ce qui est rigolo c'est que les chinois n'ont aucune éthique de ce genre et donc seront les plus avancés d'ici peu et c'est là que les choses sérieuse commenceront
    Ouais il parait que l'IA va jouer un grand rôle dans la prochaine guerre mondiale qui arrive.

    Envoyé par Stéphane le calme
    Le projet Maven, avec l'aide des travailleurs de la gig economy, a été conçu pour permettre aux responsables du Pentagone de procéder à une « analyse en temps quasi réel » et de « cliquer sur un bâtiment pour voir tout ce qui lui est associé », y compris des personnes et des véhicules, selon des documents obtenus par The Intercept.
    Ça me fait peur un tel niveau de surveillance. Officiellement ils vont dire que c'est pour lutter contre le terrorisme, ou ce genre de connerie, mais en pratique ce sera peut-être autre chose.
  • Envoyé par Ryu2000
    Ce serait chouette qu'on interdise aux états d'utiliser des robots contre leur peuple, par contre quand c'est la guerre il n'y a plus de règle.

    ONU. Soixante-dix ans après les Conventions de Genève, les violations du droit international humanitaire qui ravagent la vie des civils en temps de guerre illustrent un échec catastrophique

    Les pays peuvent signer toutes les conventions que vous voulez, les puissances militaire comme les USA et Israël continueront de développer des armes en secret. Quoi que parfois les pays sortent d'un traité officiellement :
    Traité sur les forces nucléaires à portée intermédiaire

    Il est probable que les armes autonomes jouent un rôle lors de la prochaine guerre mondiale. Les gouvernements investissent beaucoup dans l'IA militaire.
    L’armée américaine investit 2 milliards de dollars dans l’intelligence artificielle
    Je me coucherais moins bête, mais je ne suis pas sûr de pouvoir dormir après avoir lu ceci...
  • tanaka59
    Inactif
    Bonsoir,

    L'Autriche veut des règles éthiques sur l'utilisation des robots tueurs dotés d'IA sur le champ de bataille

    Quel est votre avis sur le sujet ?
    De la part d'un pays "bien pensant" comme l'Autriche c'est louable ... et perdu d'avance. Les USA , la Russie , Israel , Chine, et j'en passe ne vont pas attendre des législations de "bien pensant" ...

    De forme rectangulaire et avec des marches de char, son sommet est équipé de capteurs, de caméras et d'un espace pour les armements. Cependant, la caractéristique la plus unique du Carmel se trouve à l'entrée de la trappe arrière, qui mène vers un espace rempli d'équipements que l'on trouve le plus souvent dans la chambre d'un “adolescent”.
    Le Carmel israelien me fait bien rire ... la réutilisation de vieux M113 avec un armement "neuf" rien de révolutionnaire ... Éventuellement "l'automatisation" de roulement et du tir .

    Les robots tueur devraient-ils être interdits ?
    On se réveille un peu tard . Dans la logique oui. Dans la réalité c'est bien plus compliqué. Puis bon les "robots tueurs" et autres armes , mêmes des automates "tueurs" ne dates pas d'hier ...

    Envoyé par Ryu2000
    Ce serait chouette qu'on interdise aux états d'utiliser des robots contre leur peuple, par contre quand c'est la guerre il n'y a plus de règle.
    Exactement , faites ce que je dis pas ce que je fais quoi ...

    ONU. Soixante-dix ans après les Conventions de Genève, les violations du droit international humanitaire qui ravagent la vie des civils en temps de guerre illustrent un échec catastrophique

    Envoyé par Ryu2000
    Les pays peuvent signer toutes les conventions que vous voulez, les puissances militaire comme les USA et Israël continueront de développer des armes en secret. Quoi que parfois les pays sortent d'un traité officiellement :
    Comme d'hab , l'UE et sa bien pensance ... pendant ce temps nos allier/ennemis prennent de l'avance ... USA , Russie, Chine ...

    Envoyé par Ryu2000
    Il est probable que les armes autonomes jouent un rôle lors de la prochaine guerre mondiale. Les gouvernements investissent beaucoup dans l'IA militaire.
    Hé beh oui , des sommes délirantes même !

    Envoyé par Jesus63
    Je me coucherais moins bête, mais je ne suis pas sûr de pouvoir dormir après avoir lu ceci...
    En librairie parfois je zieute des revues comme "défence internationale" ou alors des sites spécialisés qui parlent des armées du monde. On serait étonné de voir par moment , les décisions même discrètes de certains pays ...
  • squizer
    Membre actif
    Envoyé par Bill Fassinou
    le pays affirme que seuls les humains doivent décider des questions de vie ou de mort
    Depuis quand les humains sont réellement capable d'une telle décision ?

    A travers toute la planète la notion même de vie ou de mort n'est pas unique.
    Rien qu'au US d'un état à un autre les conclusions sur la vie et la mort d'une personne sont différentes.

    Au moins avec une IA j'aurais l'impression d'une équité; Que si je pose mon arme celui en face ne vas pas me tirer dessus par nervosité.
  • marsupial
    Expert éminent
    Les britanniques prévoient un quart de leurs effectifs en robots autonomes à l'horizon 2025(source zdnet). Dans une telle proportion, quid de la sécurité dans ce beau projet ?
  • stigma
    Membre expérimenté
    Apocalypse 9-10
  • byrautor
    Membre éclairé
    Juridiquement contraignante
    : j'aime le terme ! (qui satisfait l'esprit)
  • Ryu2000
    Membre extrêmement actif
    Envoyé par tanaka59
    Comme d'hab , l'UE et sa bien pensance ... pendant ce temps nos allier/ennemis prennent de l'avance ... USA , Russie, Chine ...
    Il doit y avoir des pays membre de l'UE qui sont en train d'augmenter leur budget militaire.
    L'armée française voit son budget poursuivre sa remontée en puissance
    En hausse pour la troisième année consécutive, le budget de la défense équivaut à un plan de relance pour l'industrie de la défense.
    L’Allemagne portera ses dépenses militaires à 2% du PIB d’ici 2031, promet Mme Kramp-Karrenbauer

    De toute façon je crois que les USA (OTAN) ont demandé aux autres pays d'augmenter leur budget militaire.
    Otan : les USA demandent aux pays de l'UE d'augmenter leurs budgets militaires
    La troisième guerre mondiale approche il faut se préparer un minimum. Même les Suisses préparent leur défense (parce que des gens vont essayer d'entrer en Suisse et il faut les en empêcher) : L'armée devrait obtenir 24 milliards pour 2020-2024.

    Envoyé par tanaka59
    Hé beh oui , des sommes délirantes même !
    La FED créer des dollars à l'infini, les USA jouent avec un cheat code, quand t'as l'argent illimité tu peux injecter des milliards et des milliards sans aucune limite.