Les robots humanoïdes et les systèmes basés sur l’intelligence artificielle (IA) prolifèrent de plus en plus et intègrent davantage de couches dans la société. Que ce soit les IA présentateurs de journaux télévisés de la chaîne de télévision chinoise Xinhua News ou les systèmes de conduite autonome basés sur l’IA, cette technologie se développe très rapidement et s’intègre à toutes les sphères de la société notamment la santé, transport, le commerce, etc. Ces machines sont destinées à prendre des décisions plus rapidement et à être plus réactives que l’homme. En cela, les scientifiques sont le plus souvent confrontés à un dilemme lorsqu’il s’agit d’amputer la responsabilité à quelqu’un en cas de dommage impliquant une machine autonome.Si les gens ne savent pas comment l'ordinateur prend ses décisions, qui est responsable quand les choses tournent mal ? Une question sur laquelle beaucoup appellent les autorités à réfléchir. D’après un cas que rapporte Bloomberg cette semaine, on découvre un investisseur qui poursuit un gestionnaire de fonds en justice pour pertes d’investissements causées par une machine d’intelligence artificielle. En effet, Samathur Li Kin-kan, un investisseur chinois a décidé de poursuivre en justice Raffaele Costa, un gestionnaire de fonds italien qui l'a convaincu de confier une partie de sa fortune à un superordinateur dénommé K1 dont les transactions lui ont coûté plus de 20 millions de dollars.
Raffaele Costa
Développé par la société d'intelligence artificielle 42.cx, basée en Autriche, le supercalculateur nommé K1 a pour but d’explorer des sources en ligne telles que les nouvelles en temps réel et les médias sociaux, afin d'évaluer le sentiment des investisseurs et de prédire l'avenir des actions américaines. Il enverrait ensuite des instructions à un courtier pour exécuter des opérations, ajustant sa stratégie au fil du temps en fonction de ses connaissances. Expliqué ainsi, rapporte Bloomberg, l'idée d'un gestionnaire de fonds entièrement automatisé a immédiatement inspiré Li et il aurait déclaré à Costa dans un courrier électronique qu’une gestion des fonds avec une IA “est exactement ce qu’il recherchait”.
Selon Bloomberg, Costa, le gestionnaire et détenteur de l’IA aurait partagé avec Li des simulations montrant que K1 obtenait des rendements à deux chiffres, bien que les deux contestent maintenant la minutie des tests antérieurs. Ces tests ont motivé Li a confié son argent à K1, le gestionnaire basé sur une intelligence artificielle. Li a laissé K1 gérer 2,5 milliards de dollars, soit 250 millions de dollars de son propre argent et le reste de l'effet de levier d’une entreprise dénommée Citigroup Inc. Le plan consistait à doubler ce montant avec le temps. Mais, à en croire le quotidien américain, les choses ne se sont pas passées comme prévu, car le chinois Li a subi des pertes consécutives d’une valeur avoisinant les 23 millions de dollars.
À ce propos, Bloomberg a écrit que Li poursuit maintenant Tyndaris pour environ 23 millions de dollars pour avoir prétendument exagéré ce que le superordinateur pourrait faire. Les avocats de Li soutiennent que Costa avait gagné sa confiance en mettant en exergue les qualifications des techniciens qui construisaient l'algorithme de K1. Ils affirment, par exemple, qu'ils étaient impliqués dans Deep Blue, l'ordinateur conçu par IBM Corp pour jouer aux échecs, marquant ainsi le début de l'ère de l'intelligence artificielle. Face à ces spéculations, le fondateur de 42.cx, Daniel Mattes a déclaré qu'aucun des informaticiens qui le conseillent n'est impliqué dans Deep Blue, mais l'un d'entre eux, Vladimir Arlazarov, a développé un programme d'échecs des années 1960 en Union soviétique, appelé Kaissa.
Dans le même temps, les avocats de Tyndaris Investment, le fonds d’investissement géré par Costa, poursuivent en retour Li en justice pour 3 millions de dollars d'impayés et nient l’allégation selon laquelle Costa aurait surexploité les capacités de K1. Ils disent qu'il n'a jamais été assuré que la stratégie d'IA gagnerait de l'argent. Pour sa part, Mark Lemley, professeur de droit à l'Université de Stanford, qui dirige le programme de droit, science et technologie de l'université, estime que les gens ont tendance à croire que les algorithmes sont des décideurs plus rapides et meilleurs que les traders humains. « C'est peut-être souvent vrai, mais quand ce n'est pas le cas ou quand ils s'égarent rapidement, les investisseurs veulent que quelqu'un leur soit blâmé », a-t-il déclaré. Selon lui, c’est la raison pour laquelle Li porte plainte contre Costa.
Cela dit, le problème de responsabilité se pose toujours. Lorsque les décisions prises par l’IA causent des dommages, qui doit être tenu responsable, le concepteur ou la machine elle-même ? Dans ce sillage, il serait bien de rappeler qu’Uber, l’un des plus grands constructeurs de voitures autonomes dans le monde s’est vu acquitter cette année de toute responsabilité dans un accident mortel qui a impliqué l’une de ses voitures autonomes. L’accident a lieu en mars 2018 où une voiture autonome de la firme Uber a heurté mortellement une femme âgée de 49 dans la ville de Tempe dans l'Arizona alors qu’elle traversait en dehors d’un passage piéton.
Selon un rapport préliminaire à l’enquête du NTSB (National Transportation Safety Board), pendant les six secondes qui ont précédé l'impact, le système de conduite autonome a classé le piéton en tant qu'objet inconnu, puis en tant que véhicule, puis en tant que bicyclette. Bien que le système ait identifié la nécessité d'une manœuvre de freinage d'urgence pour atténuer une collision, le système a été configuré pour ne pas activer le freinage d'urgence lorsqu'il est piloté par l'ordinateur. En fait, le système de la voiture est conçu de manière à ce que les manœuvres d’urgence soient à la charge de l'opérateur humain. Mais à l’issue du procès, aucune faute n’a été retenue contre Uber.
Pour ce cas, Bloomberg a rapporté qu’en février 2018, K1 a passé une commande auprès de son courtier, Goldman Sachs Group Inc., pour 1,5 milliard de dollars de contrats à terme standardisés sur l'indice S&P 500, prévoyant un gain éventuel de l'indice. Les chiffres ont montré que l'inflation aux États-Unis avait augmenté plus rapidement que prévu, entraînant la perte de 1,4% de K1 en stop-loss et laissant le fonds moins riche de 20,5 millions de dollars. Mais le S&P a rebondi en quelques heures, un argument avancé par les avocats de Li montrant que le seuil d'arrêt de K1 pour la journée était « brutal et inapproprié ».
Ainsi, Li a affirmé avoir appris que K1 utiliserait chaque jour sa propre « capacité d'apprentissage en profondeur » pour déterminer un stop-loss approprié en fonction des facteurs du marché comme la volatilité. Néanmoins, Costa et les siens ont nié avoir dit cela et affirment avoir dit à Li que le niveau serait fixé par les humains. Sur ce fait, Mattes a expliqué que K1 n'était pas conçu pour décider d'arrêter des pertes, mais uniquement pour générer deux types de signaux de sentiment : un signal général que Tyndaris aurait pu utiliser pour entrer dans une position et un autre pour lequel il aurait pu être dynamique de sortir ou changer de position. La société de gestion de capitaux n’a pas voulu apporter de commentaires lorsqu’il lui a été demandé si les fonds que K1 gère pour d’autres investisseurs ont déjà rapporté des gains.
Il s’agit en effet de la première affaire de justice pour pertes d’investissements causées par une machine autonome. « Nous ne pouvons pas juger les codes. Pour nous, cela revient ensuite à juger des installations et de la capacité de recherche », a déclaré Storr, qui a décidé d'investir dans des fonds de couverture pour le compte de Feri Trust GmbH, basé à Bad Homburg, en Allemagne. Mais que se passe-t-il lorsque des entreprises utilisent des chatbots autonomes pour vendre des produits à leurs clients ? Même poursuivre le vendeur peut ne pas être possible, a déclaré Karishma Paroha, une avocate de Kennedys basée à Londres et spécialisée dans la responsabilité du fait des produits. « La fausse déclaration concerne ce qu'une personne vous a dite », a-t-elle déclaré. Alors, par quelle manière résoudre ce dilemme ?
Source : Bloomberg
Et vous ?
Qu'en pensez-vous ? Qui devrait être tenu pour responsable en cas de litige impliquant une IA, selon vous ? Pourquoi ? Est ce qu'il s'agit bien d'une vrai IA ou d'un simple algo ?Voir aussi
La responsabilité pénale d'Uber n'est pas engagée dans la mort de la femme fauchée par l'un de ses véhicules autonomes, selon une décision de justice Accident Uber : l'opérateur à bord du véhicule suivait une émission TV sur son portable. La collision était entièrement évitable, selon la police Une agence de presse chinoise a dévoilé sa première présentatrice TV virtuelle animée par l'IA, mais est-ce vraiment de l'IA ? 
Envoyé par Uther
