Perspective, l'IA de Google pour détecter les propos déplacés en ligne est bien loin d'être mature,
Des chercheurs mettent en évidence ses lacunes

Le , par Patrick Ruiz, Rédacteur
Dans le cadre de la lutte contre les propos haineux ou déplacés en ligne, Google a récemment annoncé une intelligence artificielle, baptisée Perspective, qui permet via une API de détecter les propos « toxiques ». Nous avons toutefois constaté que Perspective n’est pour le moment pas bonne à attribuer un score de toxicité fiable à du contenu rédigé en langue française. L’application occupe actuellement le centre des débats dans les milieux où elle est censée apporter la solution au problème des propos déplacés en ligne. C’est fort de cela que des chercheurs de l’université de Washington (UW) se sont penchés avec attention sur ce cas. Ils n’ont pas manqué d’apporter des éléments nouveaux à ce que nous avions déjà commencé à tracer comme pistes de réflexion. Il ressort de leurs travaux qu’un texte « toxique » rédigé en langue anglaise peut passer les mailles du filet à condition d’être correctement travaillé.

D’après Radha Poovendran, Hossein Hosseini, Baosen Zhang et Sreeram Kannan de l’UW, les systèmes d’intelligence artificielle ont en commun un talon d’Achille : un choix approprié d’une entrée dite perturbatrice permet de « prendre le contrôle » du résultat obtenu. D’après leurs développements, Perspective n’aurait pas été suffisamment entrainé à prendre en compte ce type d’entrées, ce qui conduit aux résultats qu’ils ont rendus publics sur le site de l’université de Washington. Deux constats majeurs :

  1. L’insertion de ponctuation/la modification d’orthographe dans du contenu rédigé en langue anglaise permet de réduire drastiquement le score de toxicité attribué.


  2. La négation d’une phrase toxique ne reçoit pas le score adéquat qui, en principe, devrait être bas.



De toutes évidences, Perspective s’avère être une application embryonnaire. Elle requiert encore beaucoup d’améliorations. Les équipes de Google ont cependant des pistes de réflexion qui leur ont été tracées par notre équipe de chercheurs de l’UW. Elles sont bien évidemment basées sur les failles répertoriées ci-dessus. Il s'agira pour les équipes de Google de : intégrer un vérificateur orthographique en amont du module d’IA et faire usage d'un nombre plus important d’entrées perturbatrices pour entrainer le système.

Source: UW

Et vous ?

Qu'en pensez-vous ?

Voir aussi :

L'agence des services frontaliers du Canada teste une intelligence artificielle, pour détecter les mensonges des voyageurs

MogAI : une intelligence artificielle avait prédit avec précision la victoire de Trump, deux semaines avant l'annonce des résultats


Vous avez aimé cette actualité ? Alors partagez-la avec vos amis en cliquant sur les boutons ci-dessous :


 Poster une réponse

Avatar de sergio_is_back sergio_is_back - Membre régulier https://www.developpez.com
le 03/03/2017 à 13:17
Qu'en est-il de l'ironie ? Souvent une phrase qui peut sembler complimenter l'interlocuteur tournée de façon
ironique peut s'avérer beaucoup plus insultante qu'un simple "idiot" placé dans une phrase....

exemple : Décidément, tu n'est pas la moitié d'un con toi ! (sous entendu tu est bien un con
à part entière)

Si j'en crois l'explication cette phrase devrait avoir un score faible avec leur algorithme alors
que c'est clairement insultant la négation étant détournée de son usage normal.

Pour détecter des propos déplacés encore faut-il se placer dans le contexte de la discussion et ne
pas se limiter à quelques mots dans une phrase (même avec une négation devant)

....je me demande où est la frontière entre intelligence artificielle et connerie humaine...
Offres d'emploi IT
Ingénieur développement fpga (traitement vidéo) H/F
Safran - Ile de France - 100 rue de Paris 91300 MASSY
Spécialiste systèmes informatiques qualité et référent procédure H/F
Safran - Ile de France - Colombes (92700)
Consultant sap finance/controlling H/F
Safran - Ile de France - Vélizy-Villacoublay (78140)

Voir plus d'offres Voir la carte des offres IT
Contacter le responsable de la rubrique Accueil