Le projet Maven de Google visait, de façon officielle, à développer une intelligence artificielle pour l’analyse de vidéos capturées par des drones. Toutefois, des craintes de voir des informaticiens mis à contribution pour le développement d’armes ultra sophistiquées destinées à donner la mort ont surgi. C’est pour des cas comme ceux-là en particulier que Brad Smith de Microsoft avait appelé à la mise sur pied d’un équivalent de serment d’Hippocrate pour les ingénieurs informaticiens. Et la réalité est que le domaine de l’informatique dispose bien de codes éthiques que l’on peut considérer comme des professions de foi pour les tiers qui exercent dans la filière. Des débats portent néanmoins sur la non-prestation de serment des acteurs du domaine, sur la valeur juridique desdits codes, la subjectivité de certains de ces textes. Le code éthique publié par l’IEEE semble être le plus précis possible pour ce qui est du dernier aspect. Neuf situations illustrent la difficulté à laquelle les programmeurs font face surtout pour ce qui est des aspects moraux en matière d’intelligence artificielle pour l’automobile : la voiture autonome devrait-elle épargner en priorité les humains plutôt que les animaux de compagnie, les passagers au lieu des piétons, les femmes au lieu des hommes, les jeunes plutôt que les vieux, les personnes ayant un haut statut social au lieu de celles ayant un statut inférieur, les personnes respectant la loi plutôt que les criminels, les personnes mal portantes au lieu de celles en bonne santé ? La voiture devrait-elle dévier (agir) ou ne rien faire ou encore chercher à épargner le plus de vies possible ? C’est pour répondre à des questions comme celles-ci que différents codes éthiques ont fait l’objet de proposition.
Le code éthique de l’IEEE dans son 5e principe stipule à ce propos que :
les responsables et dirigeants de l'ingénierie logicielle doivent souscrire et promouvoir une approche éthique de la gestion du développement et de la maintenance des logiciels. En particulier, les personnes qui gèrent ou dirigent des ingénieurs logiciels doivent, selon le cas :
- assurer une bonne gestion de tout projet sur lequel ils travaillent, y compris des procédures efficaces de promotion de la qualité et de réduction des risques ;
- s'assurer que les ingénieurs logiciels sont informés des normes avant d'être tenus de les respecter ;
- s'assurer que les ingénieurs logiciels connaissent les politiques et procédures de l'employeur en matière de protection des mots de passe, des fichiers et des informations confidentielles pour l'employeur ou confidentielles pour les autres ;
- n'attribuer le travail qu'après avoir pris en compte les contributions appropriées en matière d'éducation et d'expérience, tempérées par le désir d'approfondir cette éducation et cette expérience ;
- assurer des estimations quantitatives réalistes du coût, du calendrier, du personnel, de la qualité et des résultats de tout projet sur lequel ils travaillent ou proposent de travailler, et fournir une évaluation de l'incertitude de ces estimations ;
- attirer les ingénieurs logiciels potentiels uniquement par une description complète et précise des conditions d'emploi ;
- offrir une rémunération juste et équitable ;
- ne pas empêcher injustement une personne d'occuper un poste pour lequel elle est qualifiée ;
- s'assurer qu'il existe un accord équitable concernant la propriété de tout logiciel, processus, recherche, écrit ou autre propriété intellectuelle auquel un ingénieur logiciel a contribué ;
- assurer une procédure régulière lors de l'audition des accusations de violation de la politique de l'employeur ou du présent Code ;
- ne pas demander à un ingénieur logiciel de faire quoi que ce soit d'incompatible avec le présent Code ;
- ne punir personne pour avoir exprimé des préoccupations éthiques concernant un projet.
C’est un total de huit grands principes au sein du code éthique de l’IEEE qu’on peut trouver moins subjectifs en comparaison à d’autres comme celui proposé par Eron Etzioni – professeur à l’université de Washington :
- je jure d'honorer, au mieux de mes capacités et de mon jugement, cet engagement :
- je respecterai les acquis scientifiques durement gagnés par les scientifiques et les ingénieurs sur les traces desquels je marche, et je partagerai volontiers les connaissances qui sont les miennes avec ceux qui doivent me suivre ;
- j'appliquerai, pour le bien de l'humanité, toutes les mesures nécessaires, en évitant ces deux pièges que sont l'optimisme excessif et le pessimisme uniforme ;
- je n'oublierai pas que l'intelligence artificielle est un art, au même titre que la science, et que les préoccupations humaines l'emportent sur les préoccupations technologiques ;
- je dois tout particulièrement faire preuve de prudence en matière de vie et de mort. Merci s'il m'est donné de sauver une vie grâce à l'intelligence artificielle. Mais elle peut aussi être en mesure de prendre une vie. Cette énorme responsabilité doit être assumée avec une grande humilité et en étant conscient de ma propre fragilité et des limites de l'intelligence artificielle. Par-dessus tout, je ne dois pas jouer avec Dieu ni laisser ma technologie le faire ;
- je respecterai la vie privée des humains, car leurs données personnelles ne sont pas divulguées aux systèmes d'intelligence artificielle afin que le monde puisse en avoir connaissance ;
- je tiendrai compte de l'impact de mon travail sur l'équité, à la fois en perpétuant les biais historiques, qui sont causés par l'extrapolation aveugle des données passées aux prévisions futures, et en créant de nouvelles conditions qui augmentent les inégalités économiques ou autres ;
- mon intelligence artificielle permettra de prévenir les préjudices chaque fois que cela sera possible, car il est préférable de prévenir que de guérir ;
- mon IA cherchera à collaborer avec les gens pour le plus grand bien, plutôt que d'usurper le rôle de l'homme et de le supplanter ;
- je me souviendrai que je ne rencontre pas de données sèches, de simples zéros et des uns, mais des êtres humains, dont les interactions avec mon logiciel d'IA peuvent affecter la liberté, la famille ou la stabilité économique de la personne. Ma responsabilité inclut ces problèmes connexes ;
- je me souviendrai que je reste un membre de la société, avec des obligations particulières envers tous mes semblables.
Les grandes enseignes technologiques sont au courant de l’existence de ces textes. Et pourtant certains de leurs employés sont licenciés pour des questions d’éthique. L’un des soucis ici est qu’il y a souvent autant d’avis sur une question que de cheveux sur un crâne. C’est en général sur ce détail que naissent des divergences qui font couler toute la barque.
Et vous ?
Partagez-vous l'idée selon laquelle les ingénieurs informaticiens disposent de très peu de décisions dans le processus décisionnel qui mène à la mise sur pied des produits des entreprises pour lesquelles ils travaillent ? Et donc que les questions d'éthique sont souvent réglées avant qu'ils n'aient eu le temps de donner leur avis ? Qui du travailleur, de l'entreprise ou du code est le véritable problème en matière d'éthique ? Quel commentaire faites-vous de la pertinence de l’idée d’un équivalent du serment d’Hippocrate pour les ingénieurs informaticiens ? Quel pourrait être l’impact d’une telle disposition sur l’éthique personnelle des professionnels des domaines concernés et de façon générale sur celle des entreprises qui les emploient ? Quels sont les freins à l'application de ces codes de conduite ?Voir aussi :
Les Googlers contre le conseil d'éthique de l'IA de Google, car il privilégie la proximité du pouvoir sur le bien-être des groupes marginalisés Google dissout son conseil d'éthique de l'IA une semaine à peine après sa mise en place suite à un mouvement collectif d'indignation IA : un algorithme permettant de faire des recommandations en suivant des règles d'éthique a été mis au point par des chercheurs d'IBM et du MIT 
Envoyé par Kulvar
