Developpez.com

Le Club des Développeurs et IT Pro

Google, Microsoft, Facebook, IBM et Amazon s'allient pour promouvoir et faire avancer les discussions sur l'IA,

Un conseil de sécurité de l'IA ?

Le 2016-09-29 16:19:09, par Michael Guilloux, Chroniqueur Actualités
L’intelligence artificielle est de plus en plus présente dans notre quotidien, mais ses enjeux divisent. D’une part, nous avons ceux qui la voient comme une menace, peut-être à juste titre ou par manque d’information, et d’autre part, ceux qui pensent au contraire qu’elle serait plus utile que dangereuse pour l’humanité.

Au niveau européen, la question est déjà en train d’être étudiée alors que la Commission des affaires juridiques du Parlement européen a mis sur pied un groupe de travail sur la robotique et l’intelligence artificielle (IA). L’objectif est de mettre en place des règles de droit civil relatives à la robotique et à l’IA.

Des propositions ont été faites au Parlement européen et devraient être discutées le 12 décembre prochain en séance plénière. En attendant cette date, cinq géants mondiaux de la technologie, déjà engagés dans l’intelligence artificielle ont décidé de s’allier pour promouvoir l’IA à travers une organisation à but non lucratif baptisée Partnership on AI. Il s’agit d’Amazon, Google / DeepMind, Microsoft, Facebook et IBM. Partnership on AI, comme indiqué sur son site officiel, a été créé pour « étudier et formuler les meilleures pratiques sur les technologies d'IA, pour faire avancer la compréhension de l'IA par le public, et servir de plateforme ouverte pour la discussion et l'engagement autour de l'intelligence artificielle et de son impact sur les personnes et la société. »

La mission de cette alliance se décline en trois principaux objectifs :

  • soutenir la recherche et recommander les meilleures pratiques dans divers domaines, en particulier l'éthique, la confidentialité, la fiabilité et la collaboration entre les hommes et les systèmes d'intelligence artificielle ;
  • créer une plateforme pour permettre aux chercheurs en intelligence artificielle et acteurs clés de communiquer directement et ouvertement les uns avec les autres sur les questions pertinentes ;
  • faire avancer la compréhension et sensibiliser le public sur l'IA et ses avantages et coûts potentiels.

En d’autres termes, Partnership on AI serait une sorte de « conseil de sécurité » de l’IA qui pourrait diriger et orienter les débats sur l’intelligence artificielle, notamment sur les questions épineuses de l’éthique et de la confidentialité, en définissant par exemple les limites à ne pas franchir, et celles qui pourraient être outrepassées. Au passage, chacune des cinq entreprises dispose d’un siège au conseil d’administration de Partnership on AI : Ralf Herbrich, directeur du Machine Learning chez Amazon ; Mustafa Suleyman, responsable de l’Intelligence artificielle appliquée chez Google DeepMind ; Yann LeCun, directeur de Facebook AI Research ; Francesca Rossi, chercheur au Watson Research Centre (IBM) ; et Eric Horvitz, directeur de Microsoft Research à Redmond.

Cinq autres sièges au conseil d’administration seront attribués à des membres non affiliés aux entreprises à l’origine de l’initiative. Apple, qui est également intéressé par l’intelligence artificielle est toutefois absent de cette alliance. D’après le quotidien Business Insider, la firme de Tim Cook aurait refusé de se joindre au groupe, probablement à cause de sa politique de sécurité et de confidentialité distinctive dans le milieu de l’IT. Mais le directeur de Microsoft Research s’attend à ce que le fabricant d’iPhone rejoigne l’initiative : « Nous avons discuté avec Apple et ils sont enthousiasmés par l'initiative. J'espère, à titre personnel, qu'ils nous rejoindront », a-t-il déclaré.

Source : Partnership on AI, Business Insider

Et vous ?

Que pensez-vous de ce partenariat autour de l’IA ?

Voir aussi :

Vers un statut juridique, des droits d'auteur et un salaire pour les robots ? Des suggestions du projet du Parlement européen sur la robotique
Les robots et IA pourraient bientôt payer des cotisations sociales, un projet de loi de la commission des affaires juridiques du Parlement européen
  Discussion forum
15 commentaires
  • TiranusKBX
    Expert confirmé
    @Belooh dans les domaines que vous citez les robots ne sont pas le problème mais les dirigeants qui sacrifient le plus possible à main d'oeuvre pour des machines(vus que les machines elles de demande pas d'augmentation) histoire de faire un maximum de profit, mais une trop grande automatisation entraine aussi des problème, tel qu'une moins grande flexibilité de la production ou des catastrophes industrielles si il n'y a pas suffisamment d'humain pour superviser le tout. Le grand problème est le modèle hyper capitalisme ne faisant que broyer les hommes pour le profit des actionnaires des patrons de grands groupes
  • Zirak
    Inactif
    Envoyé par Michael Guilloux

    • soutenir la recherche et recommander les meilleures pratiques dans divers domaines, en particulier l'éthique, la confidentialité, la fiabilité et la collaboration entre les hommes et les systèmes d'intelligence artificielle ;
    • créer une plateforme pour permettre aux chercheurs en intelligence artificielle et acteurs clés de communiquer directement et ouvertement les uns avec les autres sur les questions pertinentes ;
    • faire avancer la compréhension et sensibiliser le public sur l'IA et ses avantages et coûts potentiels.

    Venant d'un partnership des 5 ou 6 plus grosses sociétés du monde qui ont fondé un grosse partie de leur business model en ne respectant pas ces notions (à part IBM), y'a que moi que cela fait sourire ?
  • Zirak
    Inactif
    Envoyé par Grogro
    Et en français maintenant ?
    C'est côtelette que tu ne comprends pas ?

    Edit: pour ton bon plaisir, et que tu arrives à comprendre la phrase :

    Venant d'un partenariat des 5 ou 6 plus grosses sociétés du monde qui ont fondé un grosse partie de leur modèle d'affaire en ne respectant pas ces notions (à part IBM), y'a que moi que cela fait sourire ?

    Ca ira comme ça, ou vous n'aimez tellement pas les USA et l'anglais, qu'il faut aussi que je change ma signature ?
  • psychadelic
    Expert confirmé
    Envoyé par Zirak
    Venant d'un partnership des 5 ou 6 plus grosses sociétés du monde qui ont fondé un grosse partie de leur business model en ne respectant pas ces notions (à part IBM), y'a que moi que cela fait sourire ?
    Moi non plus ça ne me plais pas trop.

    Le réalité de ce "Partnership on AI" sera de favoriser et préserver leurs intérêts financiers et n'aura que peu à voir avec la moindre notion d'éthique.
  • Zirak
    Inactif
    Envoyé par Matthieu Vergne
    Peu importe ce qu'on en espère, ce n'est qu'une initiative, et non une autorité. Si ce qu'ils en sortent donne de bonnes choses, les gens les suivront, sinon non. En l'occurrence, rien n'empêche d'autres de lancer une autre initiative allant à leur encontre si on estime qu'ils font du mauvais boulot.
    Tout à fait, et il est encore beaucoup trop tôt pour dire s'ils font/feront du bon ou du mauvais boulot, je ne me permettrais pas de porter un jugement à ce niveau dès maintenant.

    Mais vu les termes employés, et les sociétés concernées, j'ai juste trouvé le propos un peu cocasse.
  • ZenZiTone
    Membre expert
    En d’autres termes, Partnership on AI serait une sorte de « conseil de sécurité » de l’IA qui pourrait diriger et orienter les débats sur l’intelligence artificielle, notamment sur les questions épineuses de l’éthique et la confidentialité, en définissant par exemple les limites à ne pas franchir, et celles qui pourraient être outrepassées.
    Envoyé par Zirak
    Venant d'un partnership des 5 ou 6 plus grosses sociétés du monde qui ont fondé un grosse partie de leur business model en ne respectant pas ces notions (à part IBM), y'a que moi que cela fait sourire ?
    Ca m'a fait tiquer aussi ! D'un autre côté, ce serait les différents états (UE, USA, etc..) qui en aurait été à l'origine ma réaction aurait été la même
  • Zirak
    Inactif
    Envoyé par Grogro

    C'est donc si compliqué que cela de parler sa propre langue ?
    Et donc quand tu parles tous les jours, tu dis "fin de semaine", et jamais "week-end" ? Tu ne mets jamais ta voiture au "parking", mais sur un emplacement de stationnement ? Etc. Etc. ? Même au boulot, tu n'emplois que les termes francisés pour tous les termes techniques et autres (donc tu n'utilises jamais les mots bug, spam, e-mail ou mail, etc etc ) ?

    A la limite, je peux comprendre Jipété qui tient à ce que cela soit écrit sans faute, mais commencer à venir souler les gens pour 1 ou 2 anglicismes, faut vraiment avoir du temps à perdre.

    Surtout que dans 99,99% des messages de ce forum, tout le monde parle de "business model" et pas de "modèle d'affaire", de "ROI" et non de "RSI", etc etc... Donc pourquoi ce besoin soudain de venir me faire une réflexion là-dessus ?

    On a bien compris que vous n'aimiez pas les USA, l'OTAN, l'UE, l'anglais, et tout le reste, mais c'est comme la religion, gardez ça pour chez vous, et venez pas faire chier les autres avec ça.

    Edit:

    Envoyé par Grogro
    En un acronyme comme en mille mots : PEBKAC.

    En version non diplomatique : "use your brain, stupid!"
    Envoyé par Grogro
    Allons plus loin, s'il s'agit de résoudre la problématique du tiers de confiance, une blockchain peut-elle émerger pour remplacer cette autorité ?
    etc etc.

    Dans tes prochains messages, merci de parler exclusivement français.
  • Matthieu Vergne
    Expert éminent
    Et le 4 février il y aura un workshop sur l'IA, l'éthique et la société, durant la conférence AAAI 2017 :
    http://www.aaai.org/Workshops/ws17wo...shops.php#ws02

    Je ne doute pas qu'on y trouvera certains d'entre eux. Hélas, je serais dans un autre workshop (W12) pour présenter une publication, donc je ne pourrais pas y participer.

    Pour les curieux, jeudi il y a aussi eu un panel ACM en ligne sur le sujet :
    https://event.on24.com/eventRegistra...epage=register
  • Lcf.vs
    Membre éclairé
  • Matthieu Vergne
    Expert éminent
    Peu importe ce qu'on en espère, ce n'est qu'une initiative, et non une autorité. Si ce qu'ils en sortent donne de bonnes choses, les gens les suivront, sinon non. En l'occurrence, rien n'empêche d'autres de lancer une autre initiative allant à leur encontre si on estime qu'ils font du mauvais boulot.