Mark Zuckerberg est passé devant le Sénat américain
Le patron de Facebook promet une IA pour mieux trier les contenus à caractère haineux

Le , par Coriolan, Chroniqueur Actualités
Hier, le PDG de Facebook a comparu devant le Sénat américain pour donner plus d’explications sur le scandale « Cambridge Analytica » qui continue de faire la une des médias dans le monde entier. Pour préparer cette audition, Facebook n'a pas lésiné sur les moyens, en embauchant notamment une équipe du cabinet d’avocats WilmerHale ainsi que des consultants pour que le patron de la société ne soit pas piégé durant cette audition.

Mark Zuckerberg, PDG de Facebook


Devant la barre, Mark Zuckerberg a subi un interrogatoire intense de plusieurs heures. Vêtu de son costume et souriant calmement, le PDG de Facebook a tenu à afficher dès le début un ton apologétique, admettant pour la première fois que sa société est responsable du contenu publié sur la plateforme, un changement d’une grande signification pour le réseau social qui s’est toujours considéré comme étant une technologie neutre.

En ce qui concerne l’affaire « Cambridge Analytica », Mark Zuckerberg a informé que les 87 millions de personnes affectées sont bel et bien des victimes.

« Sénateur, je pense que oui, ils n’auraient pas aimé voir leurs informations vendues à Cambridge Analytica par un développeur, » a dit Zuckerberg. « Cela est arrivé et c’est arrivé sous nos yeux. »

Mark Zuckerberg a profité de l’audience pour rapporter les différents changements introduits par Facebook depuis le début du scandale, notamment un contrôle plus accru des campagnes de publicité et le support de la langue birmane.

Du côté des sénateurs, ils ont profité de l’occasion pour bien faire comprendre au PDG que suite à ce scandale, il n’est plus juste que Facebook continue à amasser les données sur sa plateforme dans le but de gagner de l’argent.

Un sénateur républicain en particulier a vivement attaqué Zuckerberg avec ses remarques. Il a évoqué notamment les conditions d’utilisation ridicules, complexes et le fait qu’elles soient tout simplement inintelligibles pour les utilisateurs.

« Il y a quelques impuretés dans Facebook, » dit-il. « Je ne veux pas avoir à voter pour réguler Facebook, mais grand dieu, je le ferai. Cela dépend de vous, votre contrat d’utilisation est ridicule. »

Un autre sénateur, démocrate cette fois, s’est demandé si Facebook allait laisser à certains utilisateurs le choix de payer pour l’utilisation du service au lieu de s'appuyer seulement sur la publicité pour engranger les revenus. Autrement dit, est-il possible que Facebook soit payant et sans pub ? Au début, Zuckerberg semble rejeter cette possibilité, en défendant le business model de Facebook et a informé que le réseau social ne sera jamais payant.

« Si on ne veut pas afficher de pub, nous aurons toujours besoin d’un type de business model, » a dit Zuckerberg. « Nous pensons qu’offrir un service basé sur la publicité est le moyen le plus aligné avec notre mission de connecter tout le monde. »

Cependant, le PDG a dit à une sénatrice qu’il y aura toujours une version gratuite de Facebook, ce qui laisse présager qu’il y aura peut-être une version payante et sans publicité dans le futur.

Quelques fois lors de l’audition, les choses ont pris une drôle de tournure, comme lorsqu’un sénateur a demandé au PDG comment Facebook arrive-t-il à maintenir un business model où les utilisateurs n’ont rien à payer pour votre service ? Mark Zuckerberg, l’air de rien, a répondu : « Nous affichons des pubs, sénateur. »

Concernant la vente de données aux annonceurs, Zuckerberg assure que les informations des utilisateurs de Facebook ne sont jamais vendues. L'entreprise vend aux annonceurs une possibilité de cibler des profils en fonction d'informations que Facebook possède, mais dont il conserve la propriété.

Il a également confirmé que si un utilisateur décide de supprimer ses données, elles ne pourront plus être utilisées par la société. Toutefois, Zuckerberg a admis ne pas savoir combien de temps il faut pour que ces données disparaissent une fois pour toutes des serveurs de Facebook quand l’utilisateur décide de supprimer son compte.

Ces explications, bien que bien énumérées par le PDG, n’ont pas semblé convaincre certains sénateurs. Douteux, un sénateur républicain de l’État du Texas a rappelé à Zuckerberg que si Facebook ne vend pas les données, c’est qu’il les loue !

Un autre sénateur a attaqué la question qui possède réellement les données. « Je ne pense pas que nous possédons réellement nos propres données, sinon nous aurions eu notre part des profits. »

Globalement, Mark Zuckerberg a bien géré cette audition, en tenant à garder un ton calme malgré l’énorme pression sur ses épaules. En bourse, Facebook a réalisé sa meilleure séance depuis deux ans. Les investisseurs semblent apprécier la manière avec laquelle le patron du réseau social a répondu aux différentes questions et accusations des sénateurs américains.


L’intelligence artificielle pour mieux trier les contenus à caractère haineux

Confronté par les sénateurs sur la capacité de Facebook à repérer et empêcher la propagation de discours à caractère haineux sur sa plateforme, Zuckerberg a maintes fois informé qu’une intelligence artificielle sera mise en place pour mieux trier les contenus à caractère haineux ou raciste. Toutefois, il faudra attendre encore quelques années pour que cette solution soit au point.

Facebook cherche à améliorer sa capacité à détecter les discours haineux, mais Zuckerberg rappelle qu’il faudra attendre au moins dix autres années avant que la société ait réellement une intelligence artificielle capable d’agir seule.

Cette nouvelle promesse de Zuckerberg pour rassurer les utilisateurs risque de coûter cher sur le long terme, surtout si elle ne se concrétise pas. Mais le patron de Facebook pense que les choses sont désormais différentes, l’approche sur la responsabilité de la société est en train de changer, a informé Zuckerberg.

« Nous devons avoir une perception plus proactive sur le contrôle de l’écosystème », dit-il.

En partie, Zuckerberg a fait référence ici aux discours haineux et les multitudes de façons avec lesquelles sa plateforme a été exploitée pour propager la désinformation. Cette question a particulièrement poussé un sénateur à demander au PDG quelles sont les mesures que Facebook compte entreprendre pour améliorer sa capacité à définir ce qu’est un discours haineux et ce qui ne l’est pas.

« Un discours haineux est l’un des plus durs [à déterminer], » a dit Zuckerberg. « Déterminer si quelque chose constitue un discours haineux est très nuancé linguistiquement. Vous devez comprendre ce qui constitue une insulte et si quelque chose est haineuse, et pas seulement en anglais… »

Si Facebook s’efforce à développer des outils IA pour signaler tout contenu haineux, Zuckerberg admet néanmoins qu’on est encore loin avant de voir ces outils opérationnels, « Aujourd’hui, nous ne sommes pas encore à ce stade », dit-il.

Il serait intéressant de voir comment l’IA de Facebook va décider si un contenu a un caractère haineux ou non, une tâche qui s’est avérée fastidieuse et fort difficile même pour les humains. Si un humain ne peut pas décider ce qui est un discours haineux, qu’est-ce qui laisse porter à croire qu’une IA peut le faire ? Affaire à suivre !

Pour le moment, Facebook continue de s'appuyer sur l’aide des utilisateurs pour signaler les contenus offensifs. Zuckerberg a dit que d’ici la fin de 2018, Facebook va employer près de 20 000 personnes pour travailler sur la sécurité et l’évaluation des contenus.

Source : The Washington Post - Inverse

Et vous ?

Que pensez-vous des arguments présentés par Mark Zuckerberg ?
Avez-vous été convaincus par ses réponses ?
Pensez-vous que l'IA pourra aider à faire face à la désinformation et la propagation de discours haineux ?

Voir aussi :

CONSENT Act : en réponse au scandale Cambridge Analytica, des sénateurs US lancent un projet de loi pour renforcer la protection de la vie privée
Scandale C.A. : des employés de Facebook mécontents souhaiteraient être mutés vers la division Instagram ou WhatsApp, pour des raisons d'éthique


Vous avez aimé cette actualité ? Alors partagez-la avec vos amis en cliquant sur les boutons ci-dessous :


 Poster une réponse Signaler un problème

Avatar de hotcryx hotcryx - Membre extrêmement actif https://www.developpez.com
le 11/04/2018 à 12:39
Pourtant créer un algorithme qui détecterait un discours haineux ne doit pas être tellement difficile.
Ils n'ont pas des psychologues chez FB?
Avatar de SofEvans SofEvans - Membre expérimenté https://www.developpez.com
le 11/04/2018 à 12:54
Citation Envoyé par hotcryx Voir le message
Pourtant créer un algorithme qui détecterait un discours haineux ne doit pas être tellement difficile.
Ils n'ont pas des psychologues chez FB?
Le problème n'est pas uniquement dans la détection de discours haineux mais aussi dans la détection de faux positif et vrai négatif : Faire un algorithme bidon pourrait amener une montagne de faux positif à trier (ce qui est presque impossible), et faire un simuli d'IA pourrait amener beaucoup de vrai négatif (quand on est en colère, on peut avoir un discours borderline).
Avatar de diabolos29 diabolos29 - Membre confirmé https://www.developpez.com
le 11/04/2018 à 13:30
Citation Envoyé par hotcryx Voir le message
Pourtant créer un algorithme qui détecterait un discours haineux ne doit pas être tellement difficile.
Je ne trouve pas que ce soit un problème facile. C'est même probablement l'un des plus compliqués car le langage naturel est parsemé de contre-sens logiques, de nuances, de non-dits, il ne se limite pas à une langue, peut utiliser des codes propres à un groupe, etc... Dans le cas d'un discours qui se veut haineux, l'auteur peut être d'un côté ou de l'autre de la limite acceptable. Il va de soit que cette limite est variable selon la région du monde où tu la considère. L'auteur peut aussi intentionnellement vouloir masquer ses intentions réelles, miser sur le double sens, proposer deux niveaux de lecture, etc...
Avatar de VivienD VivienD - Membre chevronné https://www.developpez.com
le 11/04/2018 à 13:52
Citation Envoyé par SofEvans Voir le message
Le problème n'est pas uniquement dans la détection de discours haineux mais aussi dans la détection de faux positif et vrai négatif : Faire un algorithme bidon pourrait amener une montagne de faux positif à trier (ce qui est presque impossible), et faire un simuli d'IA pourrait amener beaucoup de vrai négatif (quand on est en colère, on peut avoir un discours borderline).
Citation Envoyé par diabolos29 Voir le message
Je ne trouve pas que ce soit un problème facile. C'est même probablement l'un des plus compliqués car le langage naturel est parsemé de contre-sens logiques, de nuances, de non-dits, il ne se limite pas à une langue, peut utiliser des codes propres à un groupe, etc... Dans le cas d'un discours qui se veut haineux, l'auteur peut être d'un côté ou de l'autre de la limite acceptable. Il va de soit que cette limite est variable selon la région du monde où tu la considère. L'auteur peut aussi intentionnellement vouloir masquer ses intentions réelles, miser sur le double sens, proposer deux niveaux de lecture, etc...
D'autant plus que la notion même de "discours haineux" est des plus floues...

P.S.: Cela étant, +1 à vous deux.
Avatar de psychadelic psychadelic - Membre expert https://www.developpez.com
le 11/04/2018 à 13:59
Citation Envoyé par hotcryx Voir le message
Pourtant créer un algorithme qui détecterait un discours haineux ne doit pas être tellement difficile.
Ils n'ont pas des psychologues chez FB?
Ben si, ça fait partie des problèmes les plus ardus. les linguistes se battent encore sur les modèles grammaticaux, sémantiques, etc...
Sans oublier que sur fB on peut s'exprimer sur toutes les langues de la terre, et même d'ailleurs, puisque certain ont des pages en Elfique (les fan de Tolkien) et d'autres en Klingon.

il y a aussi un usage intensif de toutes sortes d'argots parfois même limités à petites communautés
Avatar de Francky Francky - Membre émérite https://www.developpez.com
le 11/04/2018 à 17:57
Scandale Cambridge Analytica : les données des utilisateurs collectées à travers l'application de quiz contenaient également des messages privés,
a déclaré Facebook

Facebook a annoncé à San Francisco que la firme Cambridge Analytica récoltait indument les données de profil public de 87 millions de ses utilisateurs. Il vient maintenant ajouter que les données récoltées allaient au-delà et incluaient également les messages privés des utilisateurs.


Ce lundi, le réseau social a commencé à informer les personnes dont les données pourraient avoir été compromises par la firme Cambridge Analytica par le biais d’une application développée par le chercheur Aleksandr Kogan. Il déclarait dans ses notifications que même si les informations récoltées se limitaient généralement à ce qui figure sur les profils publics des gens, un petit nombre de personnes partageaient aussi des informations relatives à leur historique Facebook, leurs publications et même les messages.

La huée de Cambridge Analytica a commencé lorsque The New York Times et d’autres ont rapporté le mois dernier que l'application de quiz avait recueilli des informations des utilisateurs de Facebook. Le réseau social ne donne pas de précision sur le nombre de messages de privés recueillis, mais déclare qu’il prenait des mesures aussi larges que possible lorsqu’il envoyait des notifications aux utilisateurs concernés.

La façon dont Marc Zuckerberg abordera ce sujet publiquement lors des audiences sera suivie de près. Le réseau social est confronté à de véritables soucis de réglementation et de confidentialité des données.

Mardi, dans une interview, M. Kogan a déclaré que les messages privés ont été recueillis chez un nombre restreint de personnes, voire « quelques milliers », cela dans le cadre d’une recherche académique menée à l'Université de Cambridge en 2013 et au premier semestre de 2014, mais jamais fournis à Cambridge Analytica. Il ajoute que les messages étaient conservés en toute sécurité dans son laboratoire universitaire dont l’accès était réservé à un petit groupe de personnes.

M. Kogan soutient de long en large l’idée selon laquelle son application Facebook ne recueillait que les données de quelques milliers d’utilisateurs qui avaient rempli son questionnaire. Il ajoute que pendant ses prestations chez Cambridge Analytica, son application recueillait des données des utilisateurs, mais n’y incluait pas les messages privés. Seuls les noms, les dates de naissance, les lieux, et les pages que les utilisateurs avaient aimées étaient inclus.


Source : The New York Times

Et vous ?

Que pensez-vous de cette situation à laquelle est confronté le réseau social Facebook ?

Voir aussi

Mark Zuckerberg est passé devant le Sénat américain, le patron de Facebook promet une IA pour mieux trier les contenus à caractère haineux
Scandale C.A : Mark Zuckerberg fait parvenir une copie du témoignage qu'il fera demain à son audition devant le Congrès
Scandale CA : Facebook estime à plus de 87 millions les comptes concernés par le profilage, et annonce des mesures pour mieux protéger les données
Zuckerberg auditionné par des commissions du Congrès US, sauront-ils rester impartiaux sachant qu'ils ont reçu des dons de Facebook ?
Avatar de Namica Namica - Membre expérimenté https://www.developpez.com
le 12/04/2018 à 1:22
En fait, il n'y a pas que des applis malveillantes telles celle de Cambridge Analytica. Il y a aussi le tracking des internautes (membres de FB ou pas) par les outils de FB.
Citation Envoyé par http://plus.lesoir.be/150506/article/2018-04-11/des-sites-web-des-autorites-flamandes-emploient-le-pixel-espion-de-facebook
Des sites web des autorités flamandes emploient le pixel espion de Facebook

Sept sites internet d’institutions dépendant des autorités flamandes utilisent le pixel espion Facebook - un outil mis à disposition par le réseau social américain qui permet de suivre les visiteurs d’une page web et par la suite de les recibler avec des publicités -, ressort-il d’une réponse de la ministre flamande de la Fonction publique, Liesbeth Homans (N-VA) à une question de la députée Katia Segers (SP.A), relayée mercredi par le quotidien De Standaard.

Selon la ministre, les sites web de Sport Vlaanderen, Toerisme Vlaanderen, Toegankelijk Vlaanderen, Vlaams Centrum voor Agro, De Lijn, de Vlaamse Milieumaatschappij et Kind en Gezin recourent à l’outil d’analyse pixel.

Toerisme Vlaanderen a contesté l’emploi de cette fonctionnalité et De Standaard n’en a en effet trouvé aucune trace sur son site.

Par contre, le quotidien a non seulement trouvé le pixel Facebook sur le site de Kind en gezin, mais aussi quatre autres ’trackers’ mis à disposition par le géant américain. Aucune mention de ces outils ne figure cependant dans la déclaration de confidentialité du site, contrairement aux règles en la matière. La société de transport en commun De Lijn ne mentionne pas non plus son recours à de tels outils sur son site.

D’après Katia Segers, l’utilisation du pixel espion Facebook par des sites d’organes dépendant des autorités est «inacceptable». «Le gouvernement flamand facilite une pratique qui a été condamnée par un tribunal pour violation des lois sur la vie privée», a-t-elle déploré.

L’élue socialiste reconnait toutefois que son propre parti emploie lui aussi le pixel Facebook sur son site officiel. Elle affirme l’avoir signalé à plusieurs reprises et indique qu’une alternative est actuellement recherchée. «Les partis politiques doivent montrer l’exemple, mais cela vaut aussi sans aucun doute pour les autorités», conclut-elle.
Le problème est connu depuis longtemps (voir https://fr.wikipedia.org/wiki/Max_Schrems), mais il faut un scandale pour que ça bouge.
Avatar de Malick Malick - Community Manager https://www.developpez.com
le 12/04/2018 à 2:55
Scandale C.A. : Facebook lance son programme « Data Abuse Bounty » pour récompenser les signalements d’abus de données,
les primes peuvent atteindre 40 000 $ USD

Suite au récent scandale de Cambridge Analytica qui continue de faire la une des médias, le célèbre réseau social vient de porter à l'attention du public le lancement de son nouveau programme dénommé « Data Abuse Bounty ». Ce dernier, selon le réseau social, rentre dans le cadre de sa volonté de protéger davantage les données des utilisateurs et est conçu pour récompenser les personnes qui signalent une mauvaise utilisation des données par les développeurs d'applications.

« C'est dans le cadre de nos efforts pour découvrir plus rapidement les abus potentiels dans l'utilisation des données des utilisateurs que ce programme a été lancé il y a de cela quelques semaines . Le programme « Data Abuse Bounty », inspiré par le programme existant de chasse aux bogues (bounty bug) que nous utilisons pour découvrir et résoudre les problèmes de sécurité, nous aidera à identifier les cas de violations de nos règles et politiques, a déclaré Facebook dans son annonce. » En effet, selon le célèbre réseau social le nouveau programme vient à son tour compléter le programme existant de signalement de bogues qui est lui aussi basé sur un système de récompenses, car il « suit les données » même si la cause principale n’est pas une faille de sécurité dans un code Facebook.

Facebook ajoute que les personnes qui sont à l'origine de ces activités malveillantes ont la possibilité de recueillir les données des utilisateurs pour ensuite les utiliser de façon abusive. C'est donc en cela que le programme « Data Abuse Bounty » est mis en œuvre pour lutter et se prémunir contre ces abus.


Poursuivant son argumentaire, Facebook précise qu'à travers ce programme, il récompensera les personnes qui auront connaissance des cas où une application de la plateforme Facebook recueille et transfère les données des personnes à une tierce partie pour être vendues ou utilisées pour des escroqueries ou des manipulations politiques. Cependant, les dénonciateurs devront fournir des preuves avérées sur les informations qu'ils vont transmettre. Cela dit, une récompense d'un moment pouvant aller jusqu'à 40 000 dollars USD sera versée aux personnes qui porteront ce genre d'informations à la connaissance de la société. « Tout comme le programme Bounty Bug, nous récompenserons en fonction de l'impact de chaque rapport. Bien qu'il n'y ait pas de maximum, les rapports de bogue à fort impact pourront être récompensés par une somme pouvant même atteindre 40 000 dollars, cela au profit des personnes qui les auront portés à notre attention », a précisé Facebook.

Le réseau social explique qu'aucun détail ne sera laissé en rade en précisant qu'un examen approfondi et minutieux sera effectué sur l'ensemble des rapports légitimes qu'il recevra. Après cela, il va s'en suivre une réponse dans les plus brefs délais lorsqu'une menace avérée sera identifiée au sein desdits rapports. Si l'abus de données est confirmé, Facebook annonce qu'un certain nombre de mesures vont être prises notamment :

une fermeture de l’application de la plateforme qui a commis l’infraction ;
la tenue d’un audit judiciaire des systèmes associés, voire intenter une action en justice ;
un audit judiciaire de l’entreprise qui a en charge la vente ou bien l'achat des données.

« Nous paierons la personne qui a signalé le problème, et nous alerterons ceux que nous croyons être affectés », ajoute Facebook lors de son annonce.

Facebook invite les utilisateurs à signaler les abus de données remplissant le formulaire du Programme de signalement d’abus de données.

Source : Newsroom Facebook - Data Abuse Bounty Program

Et vous ?

Que pensez-vous de ce nouveau programme de récompense des signalements d’abus de données ?

Voir aussi

Scandale C.A. : les données des utilisateurs collectées par l'application de quiz contenaient également des messages privés
Mark Zuckerberg est passé devant le Sénat américain, le patron de Facebook promet une IA pour mieux trier les contenus à caractère haineux
Scandale C.A : Mark Zuckerberg fait parvenir une copie du témoignage qu'il fera demain à son audition devant le Congrès
Scandale CA : Facebook estime à plus de 87 millions les comptes concernés par le profilage, et annonce des mesures pour mieux protéger les données
Zuckerberg auditionné par des commissions du Congrès US, sauront-ils rester impartiaux sachant qu'ils ont reçu des dons de Facebook ?
Avatar de Namica Namica - Membre expérimenté https://www.developpez.com
le 12/04/2018 à 3:19
Ah bien zut alors, maintenant, c'est le client qui devra faire la chasse à ceux qui exploitent ses propres données, alors qu'il ne sait même pas à qui FB les a vendues ?
Euh pardon, FB ne vend pas les données perso et ne les communique pas (sauf à ses filiales of course), ce sont les applis qui les volent (à l'insu du plein gré du client évidemment).
Et les pixels traceurs pour tout le monde, même ceux qui n'ont pas de compte FB (les "j'aime" sur n'importe quel premier site venu) : et bien se sont les sites qui mettent cela en oeuvre qui sont responsables, pas FB.

Ben voyons.

Tout ceci est le Big Crunch du marketing ciblé sur Internet.
Avatar de koyosama koyosama - Membre éprouvé https://www.developpez.com
le 12/04/2018 à 4:07
Oh super de l'argent facile, ce sera pas difficile
Contacter le responsable de la rubrique Accueil