IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

La dénonciatrice de Facebook demande au Sénat de tenir les réseaux sociaux pour responsables de leurs algorithmes
En modifiant l'article 230 de la Communications Decency Act

Le , par Stéphane le calme

253PARTAGES

9  0 
La dénonciatrice de Facebook Frances Haugen a témoigné devant un panel du Sénat, recommandant une liste de changements pour freiner l'entreprise, y compris une refonte de l'article 230 qui tiendrait le géant des médias sociaux pour responsables de ses algorithmes qui promeuvent le contenu en fonction de l'engagement qu'il reçoit dans le fil d'actualité des utilisateurs.

Il y a quelques jours, la dénonciatrice derrière la fuite d'un énorme cache de documents Facebook qui a servi de socle pour une série de révélations sur le numéro un des réseaux sociaux s'est dévoilée durant l'émission 60 Minutes sur CBS News. Répondant au nom Frances Haugen, la dénonciatrice en a révélé davantage sur le fonctionnement interne de la plateforme de médias sociaux la plus puissante au monde. Haugen a décrit une entreprise si engagée dans l'optimisation des produits qu'elle a adopté des algorithmes qui amplifient les discours de haine.

Frances Haugen, 37 ans, est une data scientist originaire de l'Iowa, diplômée en ingénierie informatique et titulaire d'une maîtrise en commerce de Harvard. Selon un profil LinkedIn désormais supprimé, Haugen était un chef de produit chez Facebook affecté au groupe Civic Integrity. Elle a choisi de quitter l'entreprise après la dissolution du groupe. Elle a dit qu'elle n'avait « pas confiance dans le fait qu'ils étaient prêts à investir pour empêcher Facebook d'être dangereux ».

Par conséquent, elle a divulgué un cache de recherches internes à la Securities and Exchange Commission dans l'espoir d'améliorer la réglementation de l'entreprise. Elle a noté qu'elle avait travaillé dans un certain nombre d'entreprises, dont Google et Pinterest, mais que « c'était nettement pire chez Facebook » en raison de la volonté de l'entreprise de faire passer ses bénéfices avant le bien-être de ses utilisateurs.

« Ce que j'ai vu à plusieurs reprises chez Facebook, c'est qu'il y avait des conflits d'intérêts entre ce qui était bon pour le public et ce qui était bon pour Facebook. Et Facebook, encore et encore, a choisi de faire passer ses propres intérêts en premier, comme gagner plus d'argent », a déclaré Haugen à Scott Pelley.

« Imaginez que vous savez ce qui se passe à l'intérieur de Facebook et que personne ne le sait à l'extérieur. Je savais à quoi ressemblerait mon avenir si je continuais à rester à l'intérieur de Facebook », a-t-elle continué.

Facebook a publié une déclaration contestant les points soulevés par Haugen après l'interview télévisée.

« Nous continuons d'apporter des améliorations significatives pour lutter contre la propagation de la désinformation et du contenu préjudiciable », a déclaré la porte-parole de Facebook, Lena Pietsch. « Suggérer que nous encourageons le mauvais contenu et que nous ne faisons rien n'est tout simplement pas vrai ».

Avant l'interview de 60 minutes, le vice-président des affaires mondiales de Facebook, Nick Clegg, a déclaré sur CNN qu'il était « ridicule » d'affirmer que l'émeute du 6 janvier s'est produite à cause des médias sociaux.


Une refonte de l'article 230

L'article 230 de la Communications Decency Act (CDA) est un texte de loi adopté en 1996 lorsque l'internet en était encore à ses débuts qui protège largement les entreprises de toute responsabilité vis-à-vis des publications des utilisateurs. L'article 230 a initialement été adopté dans le cadre de la loi sur la décence en matière de communication, afin de protéger les sites web contre les poursuites judiciaires concernant le contenu que leurs utilisateurs ont publié. Il a été adopté pour encourager les sites web à s'engager dans la modération de contenu en supprimant le risque qu'ils puissent être poursuivis en tant qu'éditeur s'ils contrôlaient activement ce que leurs utilisateurs publiaient.

Plus récemment, la loi a été attaquée par Donald Trump et les républicains qui se plaignaient du fait que les grandes enseignes de la technologie telles que Facebook, Twitter et Google censurent leurs opinions. Une partie des propositions du ministère de la Justice a abordé cette question litigieuse, en faisant valoir que l'article 230 devrait inclure une définition de la conduite « de bonne foi » des plateformes.

En fait, le ministère américain de la Justice a fait des propositions visant à l'affaiblir dans l'optique de forcer les plateformes en ligne telles que Facebook, Twitter et Google à se justifier au cas où elles suppriment le contenu des utilisateurs (si elles souhaitent conserver l'immunité) et de supprimer le texte de loi qui permet aux sites web de modérer les contenus « choquants ».

« Ces réformes visent les plateformes afin de s'assurer qu'elles traitent de manière appropriée les contenus illégaux tout en continuant à préserver un internet dynamique, ouvert et compétitif. Prises ensemble, elles garantiront que l'immunité de la section 230 incite les plateformes en ligne à être des acteurs responsables », a déclaré William Barr, le procureur général des États-Unis, dans un communiqué publié en juin 2020.

Le ministère de la Justice a proposé des exclusions qui ciblent les « véritables mauvais acteurs » dont les plateformes facilitent intentionnellement les activités illégales, ainsi que la levée de l'immunité pour les contenus de tiers liés au cyberharcèlement, au terrorisme, aux drogues illicites et à l'exploitation des enfants. Il a également déclaré que les plateformes en ligne ne devraient pas être protégées des poursuites civiles des gouvernements ou de la responsabilité antitrust en vertu de l'article 230.

Ces propositions ont suscité des réactions négatives de la part des plateformes internet. Peu avant leur publication, Nick Clegg, responsable de la politique mondiale et de la communication de Facebook, a déclaré : « les changements apportés à l'article 230 auraient pour conséquence que des plateformes telles que Facebook devraient retirer beaucoup, beaucoup plus de contenu que ce n'est le cas actuellement d'une manière qui, je pense, mettra beaucoup de gens mal à l'aise ».

La dénonciatrice entre dans la danse

Cette fois-ci, c'est au tour de Frances Haugen de prendre position pour une réforme de cet article. Devant un panel du Sénat, elle a déclaré :

« Si nous avions une surveillance appropriée ou si nous réformions [l'article] 230 pour rendre Facebook responsable des conséquences de leurs décisions de classement intentionnelles, je pense qu'ils se débarrasseraient du classement basé sur l'engagement », a déclaré Haugen. « Parce que cela expose les adolescents à plus de contenu anorexique, cela sépare les familles, et dans des endroits comme l'Éthiopie, cela attise littéralement la violence ethnique ».

Haugen s'est assuré de faire la distinction entre le contenu généré par les utilisateurs et les algorithmes de Facebook, qui priorisent le contenu dans les fils d'actualité et stimulent l'engagement. Elle a suggéré que Facebook ne devrait pas être responsable du contenu que les utilisateurs publient sur ses plateformes, mais qu'il devrait être tenu responsable une fois que ses algorithmes commencent à prendre des décisions sur le contenu que les gens voient.

Cette suggestion reflète un projet de loi, le Protecting Americans from Dangerous Algorithms Act, qui a été présenté à la Chambre.

Pourtant, malgré l'appel à la réforme de l'article 230, Haugen a également averti que la réforme à elle seule ne suffirait pas à surveiller de manière adéquate la large portée de l'entreprise. « La gravité de cette crise exige que nous rompions avec les cadres réglementaires précédents », a-t-elle déclaré. « Les modifications apportées aux protections de la vie privée obsolètes ou les modifications apportées à la section 230 ne seront pas suffisantes. »

Facebook aurait induit les investisseurs en erreur sur la taille de sa base d'utilisateurs

L'audience de grande envergure a été convoquée pour traiter des dizaines de milliers de documents que Haugen a obtenus de Facebook avant qu'elle ne quitte l'entreprise en mai. L'ancien chef de produit a remis les dossiers au Congrès et à la SEC et demande la protection des dénonciateurs. Elle a intenté huit poursuites auprès de la SEC, affirmant notamment que Facebook aurait surfacturé les annonceurs et induit les investisseurs en erreur sur la taille de sa base d'utilisateurs. L'entreprise, a-t-elle dit, n'est pas franche sur la nature des problèmes auxquels elle est confrontée. « Facebook veut que vous croyiez que les problèmes dont nous parlons sont insolubles. Ils veulent que vous croyiez aux faux choix », a déclaré Haugen.

« Ils veulent que vous croyiez que vous devez choisir entre un Facebook plein de contenu conflictuel et extrême ou perdre l'une des valeurs les plus importantes sur lesquelles notre pays a été fondé : la liberté d'expression », a-t-elle ajouté. « Que vous devez choisir entre la surveillance publique des choix de Facebook et votre vie privée. Que pour pouvoir partager des photos amusantes de vos enfants avec de vieux amis, vous devez également être inondé de viralité motivée par la colère. Ils veulent que vous croyiez que ce n'est qu'une partie de l'accord ».

« Je suis ici aujourd'hui pour vous dire que ce n'est pas vrai. Ces problèmes sont solubles. Un réseau social plus sûr, plus respectueux de la liberté d'expression et plus agréable est possible ».

Haugen était tout aussi optimiste quant à la mission de Facebook, malgré ses innombrables problèmes. « Je crois au potentiel de Facebook », a-t-elle déclaré. « Nous pouvons avoir des médias sociaux que nous apprécions, qui nous relient sans déchirer notre démocratie, mettre nos enfants en danger et semer la violence ethnique dans le monde. Nous pouvons faire mieux ».


Choix algorithmiques

À maintes reprises, l'audience est revenue sur les problèmes posés par la prévalence des algorithmes et de l'intelligence artificielle dans les opérations de Facebook.

Les documents que Haugen a collectés sur Facebook montrent que les algorithmes de classement basés sur l'engagement donnent la priorité au contenu conflictuel et extrême sur la plateforme. Pour résoudre ce problème, a-t-elle déclaré, Facebook utilise l'intelligence artificielle pour trouver du contenu dangereux avant qu'il ne se propage. Le problème est que « les propres recherches de Facebook indiquent qu'ils ne peuvent pas identifier de manière adéquate les contenus dangereux. Et en conséquence, ces algorithmes dangereux qu'ils admettent captent les sentiments extrêmes, la division, ils ne peuvent pas nous protéger des dommages qu'ils savent exister dans leur propre système », a déclaré Haugen.

Une solution, proposée par le sénateur Rick Scott (R-Fla.) lors de l'audience, propose que les utilisateurs se voient offrir le choix entre un fil d'actualité algorithmique et chronologique. Haugen ne pensait pas que ce serait suffisant. « Je crains que si Facebook est autorisé à donner aux utilisateurs le choix : voulez-vous un fil d'actualité basé sur l'engagement ou un fil d'actualité chronologique… que les gens choisissent l'option la plus addictive, ce classement basé sur l'engagement, même s'il est en tête de leurs filles aux troubles de l'alimentation ».

Mark Zuckerberg

Dans un message interne publié plus tard, le PDG de Facebook, Mark Zuckerberg, a fait allusion aux recherches que l'entreprise a effectuées sur sa plateforme. « Si nous voulons avoir une conversation éclairée sur les effets des médias sociaux sur les jeunes, il est important de commencer par une image complète. Nous nous engageons à faire plus de recherches nous-mêmes et à rendre plus de recherches accessibles au public. »

Malgré la promesse d'une « image complète », Zuckerberg ne s'est pas engagé à publier toutes les recherches de Facebook ou à ouvrir ses plateformes à des études par des chercheurs non employés ou financés par l'entreprise. Les documents de Haugen montrent que, pas plus tard que la semaine dernière, la société a publié des recherches de manière sélective pour brosser un tableau plus rose de ce qui se passe sur ses plateformes.

Le manque de transparence de l'entreprise a lié les mains des régulateurs, a déclaré Haugen. « Cette incapacité à voir dans les systèmes réels de Facebook et à confirmer qu'ils fonctionnent comme indiqué, c'est comme si le ministère des Transports procédait à une réglementation des voitures en les regardant uniquement rouler sur l'autoroute », a-t-elle déclaré. Haugen a exhorté les sénateurs à envisager une agence gouvernementale qui auditerait les plateformes de médias sociaux, donnant aux régulateurs un meilleur aperçu du fonctionnement interne des entreprises.

« Aujourd'hui, aucun régulateur n'a un menu de solutions sur la façon de réparer Facebook parce que Facebook ne voulait pas qu'ils en sachent suffisamment sur ce qui cause les problèmes », a déclaré Haugen. « Sinon, il n’y aurait pas eu besoin d’un lanceur d’alerte. »


La Maison-Blanche estime que des réformes devraient avoir lieu, compte tenu des inquiétudes concernant Facebook

La Maison-Blanche a déclaré qu'il fallait faire davantage et que des réformes devraient avoir lieu compte tenu des problèmes de confidentialité et de confiance soulevés à propos de Facebook Inc.

L'attachée de presse de la Maison-Blanche, Jen Psaki, a fait ces commentaires un jour après que l'ancienne chef de produit Facebook Frances Haugen a témoigné devant le Congrès au sujet des inquiétudes selon lesquelles la société de médias sociaux nuit à la santé mentale des enfants et attise les divisions.

Mais Facebook a nié tout acte répréhensible.

Sources : témoignage devant le comité du Sénat sur le Commerce, la Science et le Transport, Mark Zuckerberg, Protecting Americans from Dangerous Algorithms Act

Et vous ?

Partagez-vous le point de vue de la dénonciatrice ? Dans quelle mesure ?
Décider de ce qui apparaît sur le fil d'actualité des utilisateurs, bonne méthode ou infantilisation des internautes ? Pourquoi ?
Dans l'une de ses huit plaintes, la dénonciatrice affirme que Facebook aurait surfacturé les annonceurs et induit les investisseurs en erreur sur la taille de sa base d'utilisateurs. Trouvez-vous cela surprenant ? Dans quelle mesure ?
A-t-elle, selon vous, qualité à porter ce type de plainte ? Pourquoi ?

Voir aussi :

Mark Zuckerberg propose des réformes limitées de la Section 230 avant son audition devant le Congrès, les entreprises ne bénéficieraient de cette loi que si elles suivent les meilleures pratiques
L'administration Trump propose de réduire les protections juridiques pour les grandes entreprises technologiques, via un projet de loi visant à réviser l'immunité offerte par l'article 230 de la CDA
Voici le plan de Donald Trump pour réglementer les médias sociaux : une réécriture des dispositions fondamentales de l'article 230 de la Communications Decency Act (CDA)

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de vanquish
Membre expérimenté https://www.developpez.com
Le 16/11/2021 à 15:21
Citation Envoyé par redcurve Voir le message
Facebook n'est pas devenu Meta
Quand même un peu ...

Soit ! Le produit/site/réseau social s'appelait et continue de s'appeler "Facebook".
Mais la société "Facebook Inc." a bien changé de nom en (et est donc devenu) "Meta Platforms, Inc."

Alors ne pas spécifier le "Inc." est peut-être un raccourci de langage, mais on dit "Microsoft", jamais "Microsoft Corp."
On ne peut pas considérer la phrase comme fausse.
7  0 
Avatar de tanaka59
Membre extrêmement actif https://www.developpez.com
Le 19/10/2021 à 14:11
Bonjour,

Facebook estime que l'IA va assainir sa plateforme, mais ses propres ingénieurs ont des doutes notant que l'IA est loin de pouvoir appliquer avec succès les règles de la plateforme contre les contenus problématiques

Quelle lecture en faites-vous ?
Une ia comme son nom l'indique = intelligence artificielle .

Artificiel = Produit par le travail de l'homme et non par la nature.

Cela est donc soumis à des règles de gestion et de fonctionnement. Ce n'est pas l'intelligence naturelle d'un cerveau humain .

Donc l'ia en question peut avoir des résultats complétement con .

Caricature de Macron en hitler :



Photo historique d'un véhicule allemand nazi :



> pour l'ia Facebook = la caricature de macron passe
> la photo historique = photo raciste

----

En tenant compte de la notion de "contexte" et "subtilité" pour un humain , chose à la quelle l'ia a bien du mal ou alors n'est pas programmée pour :

> la caricature de macron est raciste
> l photo historique acceptable

Le jour ou l'ia arrivera a tenir compte des notions de "contexte" et "subtilité" , peut être, je dis bien peut être qu'on arrivera a avancer ...

Peut être doit on garder une main mise, sur une modération manuelle ?

Tout ce qui n'est pas régi par des règles binaires est peut être tout simplement impossible à régir informatiquement ?

Les émotions, les sentiments, les jugements, les envies , les goûts , les valeurs ...
5  0 
Avatar de Fagus
Membre éprouvé https://www.developpez.com
Le 07/10/2021 à 14:53
Citation Envoyé par Charrette Voir le message
Il y a tellement d'utilisateurs sur Facebook, qu'il me parait difficile de tout contrôler,
Ce n'est pas tant cela le problème. Ils pourraient très bien mettre en place un système antique de permis à points géré par des modérateurs. Au bout d'un certain nombre d'avertissements c'est la fermeture du compte, comme sur les forums.

Le problème c'est plutôt que leurs algorithmes ont bénéficié des recherches en psychologie et sont capable de manipuler l'état émotionnel des gens (car une personne révoltée est plus attentive à la publicité, reste plus en, ligne, etc.) , sont capable d'induire des abstentions de vote etc., polarisent les opinions, et dégradent l'état mental des gens. C'est documenté et ils ne s'en privent pas du tout.

Cette société est malveillante. La structuration même du fil d'actualité infini crée le scroll of death. En réaction à ça, les gens de Framasoft ont crée Mobilizon .
3  0 
Avatar de kain_tn
Expert confirmé https://www.developpez.com
Le 01/11/2021 à 12:31
Citation Envoyé par Nancy Rey Voir le message
Quel est votre avis sur le sujet ?
Facebook est une boîte qui collecte autant d'information et qui ne les protège pas (cf. les fuites de données massives de ces dernières années). Je dirais même qu'ils s'en moque, si l'on en crois le mail interne qui avait lui aussi fuité et qui disait qu'il fallait habituer les utilisateurs au fuites de données en normalisant ces évènements...

Si l'on tient à la sécurité de ses enfants, il faut essayer de les tenir le plus éloignés possible de cette cochonnerie.

Citation Envoyé par Nancy Rey Voir le message
Pensez-vous que Facebook et ses filiales sont investis dans la protection des enfants en ligne ?
La seule protection dans laquelle Facebook investit c'est la protection de ses revenus.
3  0 
Avatar de archqt
Membre expérimenté https://www.developpez.com
Le 16/11/2021 à 9:16
On s'en doutait que les réseaux sociaux n'étaient pas bons pour la santé. Mais c'est valable aussi pour les téléphones. Les jeunes passent leur temps dessus.
Et encore mes gamins n'ont pas de comptes sur les réseaux sociaux, ils regardent plein de vidéos (tik-tok, youtube, des séries) moins pire. Par contre il est clair que les influenceurs physiques ne peuvent que donner des complexes. Ils prennent des produits, ne mangent pas pour rester "sec", font 4H de muscu par jour, sans compter la chirurgie pour se faire gonfler les seins, blanchir les dents...
Une personne normale ne peut pas lutter.

De toute façon quand c'est gratuit c'est toi le produit.
6  3 
Avatar de escartefigue
Modérateur https://www.developpez.com
Le 16/11/2021 à 15:42
Citation Envoyé par archqt Voir le message
Par contre il est clair que les influenceurs physiques ne peuvent que donner des complexes. Ils prennent des produits, ne mangent pas pour rester "sec", font 4H de muscu par jour, sans compter la chirurgie pour se faire gonfler les seins, blanchir les dents...
Une personne normale ne peut pas lutter.
J'aimerai voir la tronche de l'influenceur des frères Bogdanov
3  0 
Avatar de Planetary
Nouveau membre du Club https://www.developpez.com
Le 08/10/2021 à 7:50
Plus ça va, plus j’ai l’impression que c'est une vaste conspiration par les censeurs alliés au gouvernement américain pour mettre en place et en pratique la censure généralisé des réseaux sociaux en censurant toute opinion déviant de la ligne tracé par la pensée dominante.

Cette lanceuse d'alerte tombe vraiment à pique.
2  0 
Avatar de smobydick
Membre habitué https://www.developpez.com
Le 20/10/2021 à 9:04
À partir du moment où les fondateurs de ses réseaux sociaux ne veulent pas que leurs propres gosses y aient accès (alors qu'ils proposent des versions soit disant édulcorées et protégées pour les ados), faut commencer à chercher la porte de sortie.
2  0 
Avatar de rbolan
Membre régulier https://www.developpez.com
Le 20/10/2021 à 10:37
Il y a 2 points bien distincts sur cet article :

- La capacité de Facebook a retirer du contenus de sa plateforme jugé préjudiciable et illégal
- La capacité de Facebook a sélectionner à priori du contenu pour qu'il soit présent ou non dans le fil d'actualité des utilisateurs par des algorithmes.

C'est le deuxième point qui est critiqué, à raison, par Frances Haugen, car elle considère que Fb est pleinement responsable des conséquences d'une filtration active du contenu à priori. C'est ce qui constitue son business model et qui enrichit l'entreprise. D'ailleurs elle sépare bien les deux points dans son argumentaire.

Le principe de censure du contenu par la plateforme est un débat complètement différent à mon sens. Notamment, qui décide de ce qui est préjudiciable, limites d'un système centralisé, etc...
2  0 
Avatar de PomFritz
Membre actif https://www.developpez.com
Le 20/10/2021 à 16:44
Citation Envoyé par phil995511 Voir le message
Globalement Internet c'est le Far-West.
Dans ce cas, le Far-West, c'est le monde des entreprises privées qui ne veulent surtout pas se voir brider leur "capacité d'innovation".
2  0