Durant l’édition 2018 de sa conférence dédiée aux développeurs, Google a présenté Duplex ; un chatbot tellement réaliste que, pendant la démonstration, certains humains au bout du fil n’ont pas réalisé qu’ils échangeaient avec une IA. Pour rappel, voici la vidéo de démonstration :Si la prouesse a été saluée par la communauté, certains n’ont pas manqué de soulever des problèmes d’éthiques liés à une IA dont la voix générée ne peut pas facilement être distinguée d’une personne réelle. Rappelons que tout ne se limite pas à la voix, Google a étudié d’autres aspects de la conversation naturelle.
La filiale d’Alphabet rappelait par exemple que conduire des conversations naturelles comporte plusieurs défis : le langage naturel est difficile à comprendre, le comportement naturel est difficile à modéliser, les attentes de latence nécessitent un traitement rapide et la génération d'un son naturel avec les intonations appropriées est difficile.
Quand les gens se parlent, ils utilisent des phrases plus complexes que lorsqu'ils parlent à des ordinateurs. Il arrive qu’ils se corrigent souvent en mi-phrase, sont plus verbeux que nécessaire, ou omettent des mots et s'appuient plutôt sur le contexte; ils expriment aussi un large éventail d'intentions, parfois dans la même phrase, par exemple, « Donc, du mardi au jeudi, nous sommes en pause entre midi et deux, puis nous rouvrons pour terminer à six heures ».
Lors de la présentation, Google a évoqué certains avantages aussi bien pour les entreprises que pour les utilisateurs. Les entreprises qui utilisent des réservations de rendez-vous prises en charge par Duplex et qui ne sont pas encore alimentées par des systèmes en ligne peuvent bénéficier de Duplex en permettant aux clients de réserver via l'Assistant Google sans devoir modifier leurs pratiques quotidiennes ni former leurs employés. L'utilisation de Duplex permet également de réduire les non-présentations aux rendez-vous en rappelant aux clients leurs rendez-vous à venir de manière à faciliter l'annulation ou le rééchelonnement.
Google aurait-il triché ?
Il faut en convenir, la présentation était impressionnante et assez troublante. La conversation avec l’IA semblait très naturelle, ponctuée d’exclamation humaine pour marquer par exemple un temps d’arrêt. Mais est-il possible que la promesse de la technologie avancée d'intelligence artificielle de Google soit trop belle pour être vraie ?
Axios a noté quelques points qui l’ont rendu sceptique concernant les échanges avec IA. Des points qui, selon Axios, suggèrent que Google a truqué les conversations de l’IA avec les entreprises ou les a au moins édité.
Axios note que lorsque vous appelez une entreprise, la personne qui décroche le téléphone identifie presque toujours l'entreprise elle-même (et donne parfois son propre nom). Mais cela ne s'est pas produit lorsque l'assistant Google a appelé ces « vraies » entreprises:
- quand la personne qui a travaillé au salon de coiffure a décroché, nous avons entendu une femme répondre : « Bonjour, comment puis-je vous aider ? » ;
- quand la personne qui travaille au restaurant a décroché, nous avons entendu une voix de femme dire « Salut, puis-je vous aider ? ».
« Axios a appelé plus de deux douzaines de salons de coiffure et restaurants - y compris certains dans la ville du siège de Google de Mountain View - et chacun a immédiatement donné le nom de l'entreprise.
« Il ne semble pas non plus y avoir de bruit ambiant dans l'un ou l'autre enregistrement, tel qu'un sèche-cheveux ou un cliquetis de plaques. Nous avons entendu cela dans la plupart des entreprises que nous avons appelées, mais pas dans tous.
« Enfin, ni le salon de coiffure ni le restaurant ne demandent le numéro de téléphone du client ou toute autre information de contact ».
La réponse de Google
Axios a demandé à Google le nom du salon de coiffure ou du restaurant, afin de vérifier non seulement que ces établissement existent mais également que les appels n'étaient pas pré-planifiés. Axios a également assuré qu’il allait garantir, par écrit, de ne pas identifier publiquement les deux établissements (afin de les empêcher de recevoir une attention non désirée).
Néanmoins, une porte-parole de longue date de Google a refusé de fournir l'un ou l'autre nom.
Axios a également demandé si l'un ou l'autre appel avait été modifié, peut-être en supprimant la seconde où les personnes travaillant dans ces entreprises les identifient ou d’autres modifications encore. La porte-parole a refusé de commenter, mais a assuré qu’elle reviendrait vers Axios après avoir vérifié.
Axios a attendu 24 heures et n’a pas eu de retour. Aussi, Axios a décidé d’envoyer un nouveau message, cette fois aussi en mettant en copie un autre membre de l'équipe de communication de Google. La porte-parole a répondu en disant qu'elle reviendrait tout de suite vers Axios … « C'était il y a plus d'une journée », regrette Axios qui n’a toujours pas eu de retour.
Conclusion
Bien sûr, il est tout à fait possible que Google ait réussi à créer un assistant virtuel réaliste capable de répliquer les interactions humaines par téléphone même si certains estiment que les bribes de conversation pendant la démo de Pichai semblent trop polies et irréalistes. Mais il faut prendre en considération que les progrès dans le domaine de l'intelligence artificielle progressent également rapidement.
Tesla et Uber développent des voitures autonomes. Amazon remplace les caissiers humains par des systèmes dopés à l’IA dans les épiceries automatiques. Facing exploite vos données personnelles pour prédire vos actions futures pour les annonceurs. Et tout cela n’est que le début. Les dépenses mondiales en intelligence artificielle et en apprentissage automatique devraient passer de 12 milliards de dollars en 2017 à 57,6 milliards de dollars en 2021, d’après les projections du cabinet IDC.
« Google a peut-être créé un assistant vocal réaliste que nous allons tous utiliser pour accomplir des tâches banales comme la planification des rendez-vous. Il pourrait également être proche de créer une telle chose sans en être encore là. L’entreprise a peut être partiellement, ou totalement, effectué une mise en scène de ces appels téléphoniques. Nous ne le savons tout simplement pas car Google refuse de répondre aux questions », reconnait Axios.
Source : Axios
Et vous ?
Qu'en pensez-vous ?Voir aussi :
Google déploie Android P Beta, la prochaine version majeure de son OS mobile, qui s'accompagne d'un nouveau système de navigation Google serait en train de tester une fonctionnalité permettant aux utilisateurs de poser des questions, et recevoir des réponses d'autres utilisateurs Android P : Google veut empêcher les applications de surveiller votre activité réseau, une faille de confidentialité que la firme a décidé de corriger Google publie en open source le framework Asylo pour offrir une meilleure isolation aux charges de travail cloud sensibles WebP, le format d'image moderne de Google, sort en version 1.0 avec des améliorations au niveau de la compression avec perte 
