IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Les ingénieurs informaticiens et les scientifiques dans des domaines connexes devraient prêter un équivalent du serment d'Hippocrate
D'après Hannah Fry - professeure à l'UCL

Le , par Patrick Ruiz

624PARTAGES

16  1 
« Je jure par Apollon, médecin, par Asclépios, par Hygie et Panacée, par tous les dieux et toutes les déesses, les prenant à témoin que je remplirai, suivant mes forces et ma capacité, le serment et l'engagement suivants :
Je mettrai mon maître de médecine au même rang que les auteurs de mes jours, je partagerai avec lui mon savoir et, le cas échéant, je pourvoirai à ses besoins ; je tiendrai ses enfants pour des frères, et, s'ils désirent apprendre la médecine, je la leur enseignerai sans salaire ni engagement. Je ferai part de mes préceptes, des leçons orales et du reste de l'enseignement à mes fils, à ceux de mon maître et aux disciples liés par engagement et un serment suivant la loi médicale, mais à nul autre.
Je dirigerai le régime des malades à leur avantage, suivant mes forces et mon jugement, et je m'abstiendrai de tout mal et de toute injustice. Je ne remettrai à personne du poison, si on m'en demande, ni ne prendrai l'initiative d'une pareille suggestion ; semblablement, je ne remettrai à aucune femme un pessaire abortif. Je passerai ma vie et j'exercerai mon art dans l'innocence et la pureté.
Je ne pratiquerai pas l'opération de la taille, je la laisserai aux gens qui s'en occupent.
Dans quelque maison que j'entre, j'y entrerai pour l'utilité des malades, me préservant de tout méfait volontaire et corrupteur, et surtout de la séduction des femmes et des garçons, libres ou esclaves.
Quoi que je voie ou entende dans la société pendant, ou même hors de l'exercice de ma profession, je tairai ce qui n'a jamais besoin d'être divulgué, regardant la discrétion comme un devoir en pareil cas.
Si je remplis ce serment sans l'enfreindre, qu'il me soit donné de jouir heureusement de la vie et de ma profession, honoré à jamais des hommes ; si je le viole et que je me parjure, puissé-je avoir un sort contraire ! »

C’est le texte d’origine du serment d’Hippocrate dont le serment de l’ordre français des médecins s’inspire :

« Au moment d'être admis à exercer la médecine, je promets et je jure d'être fidèle aux lois de l'honneur et de la probité.
Mon premier souci sera de rétablir, de préserver ou de promouvoir la santé dans tous ses éléments, physiques et mentaux, individuels et sociaux.
Je respecterai toutes les personnes, leur autonomie et leur volonté, sans aucune discrimination selon leur état ou leurs convictions. J'interviendrai pour les protéger si elles sont affaiblies, vulnérables ou menacées dans leur intégrité ou leur dignité. Même sous la contrainte, je ne ferai pas usage de mes connaissances contre les lois de l'humanité.
J'informerai les patients des décisions envisagées, de leurs raisons et de leurs conséquences. Je ne tromperai jamais leur confiance et n'exploiterai pas le pouvoir hérité des circonstances pour forcer les consciences.
Je donnerai mes soins à l'indigent et à quiconque me le demandera. Je ne me laisserai pas influencer par la soif du gain ou la recherche de la gloire.
Admis dans l'intimité des personnes, je tairai les secrets qui me seront confiés. Reçu à l'intérieur des maisons, je respecterai les secrets des foyers et ma conduite ne servira pas à corrompre les mœurs.
Je ferai tout pour soulager les souffrances. Je ne prolongerai pas abusivement les agonies. Je ne provoquerai jamais la mort délibérément.
Je préserverai l'indépendance nécessaire à l'accomplissement de ma mission. Je n'entreprendrai rien qui dépasse mes compétences. Je les entretiendrai et les perfectionnerai pour assurer au mieux les services qui me seront demandés.
J'apporterai mon aide à mes confrères ainsi qu'à leurs familles dans l'adversité.
Que les hommes et mes confrères m'accordent leur estime si je suis fidèle à mes promesses ; que je sois déshonoré et méprisé si j'y manque. »

Vous aurez compris à la lecture de ces différents contenus qu’on parle d’éthique professionnelle. La médecine est particulièrement reconnue pour ces textes et, en cela, constitue un exemple aux yeux de certains observateurs. En effet, dans une publication parue il y a peu, Hannah Fry – professeur à l’University College de Londres (UCL) – appelle à ce que les professionnels de l’ingénierie informatique et des domaines scientifiques connexes prêtent serment sur un équivalent de celui d’Hippocrate.

« Nous avons besoin d’un serment d’Hippocrate comme celui des médecins. En médecine, on parle d’éthique aux étudiants dès le premier jour. En mathématiques, c’est à peine si on en parle. L’éthique doit pourtant être présente dès le premier jour et être au premier plan des préoccupations à chaque étape franchie », lance la professeure de mathématiques.

L’appel de la chercheure intervient au moment où des questions similaires sur des technologies comme l’intelligence artificielle se posent. En effet, l’IA soulève des inquiétudes sur les décisions que doivent prendre les dispositifs intelligents. Par exemple, en ce qui concerne les voitures autonomes – l’un des champs d’application les plus importants de l’intelligence artificielle – les programmeurs doivent, par le biais du code qui pilote le dispositif, prendre des décisions critiques.

Neuf situations illustrent la difficulté à laquelle les programmeurs font face surtout pour ce qui est des aspects moraux : la voiture autonome devrait-elle épargner en priorité les humains plutôt que les animaux de compagnie, les passagers au lieu des piétons, les femmes au lieu des hommes, les jeunes plutôt que les vieux, les personnes ayant un haut statut social au lieu de celles ayant un statut inférieur, les personnes respectant la loi plutôt que les criminels, les personnes mal portantes au lieu de celles en bonne santé ? La voiture devrait-elle dévier (agir) ou ne rien faire ou encore chercher à épargner le plus de vies possible ?


Ces développements ne sont pas sans faire penser à ceux de projets comme Maven. L’initiative était de Google et visait, de façon officielle, à développer une intelligence artificielle pour l’analyse de vidéos capturées par des drones. Toutefois, des craintes de voir des informaticiens mis à contribution pour le développement d’armes ultra sophistiquées destinées à donner la mort ont surgi. En droite ligne avec ces préoccupations, l’appel de la professeure vise à déclencher un mouvement avec pour objectif de protéger le public, ce, en s’appuyant sur la fibre éthique des acteurs.

Mais, ce qu’il faut dire c’est que même si les professionnels du domaine de l’informatique ne prêtent pas serment comme ceux engagés en médecine, ils disposent déjà de codes éthiques. Il n’y a qu’à lire dans les contenus proposés par des initiatives comme Data4Democracy ou l’Association for Computing Machinery (ACM).


Le problème n’est donc pas, semble-t-il, l’absence de code éthique. C’est plutôt la subjectivité de certains points au sein de ces textes sur laquelle il faut commencer par jeter un regard. Même Robert Cecil Martin – auteur du célèbre « Coder proprement » – a touché à cet aspect il y a 5 ans lorsqu’il relevait que la définition de « causer du tort » dépend du propre code moral du programmeur concerné. En sus, il y a les enjeux financiers que l’on ne saurait écarter de l’équation. En effet, même si le code éthique de l’ACM suggère aux programmeurs d’être respectueux de la vie privée des utilisateurs, cela n’empêche pas des entreprises comme Facebook de se retrouver empêtrées dans des scandales comme celui de Cambridge Analytica. Enfin, pour boucler le parallèle avec la médecine, il s’agit généralement de textes sans valeur juridique.

Source : The Guardian

Et vous ?

Qui du travailleur, de l'entreprise ou du code est le véritable problème en matière d'éthique ?

Quel commentaire faites-vous de la pertinence de cette idée ?

Quel pourrait être l’impact d’une telle disposition sur l’éthique personnelle des professionnels des domaines concernés et de façon générale sur celle des entreprises qui les emploient ?

Quels sont les freins à l'application de ces codes de conduite ?

Voir aussi :

Les Googlers contre le conseil d'éthique de l'IA de Google, car il privilégie la proximité du pouvoir sur le bien-être des groupes marginalisés

Google dissout son conseil d'éthique de l'IA une semaine à peine après sa mise en place suite à un mouvement collectif d'indignation

IA : un algorithme permettant de faire des recommandations en suivant des règles d'éthique a été mis au point par des chercheurs d'IBM et du MIT

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de Kulvar
Membre éclairé https://www.developpez.com
Le 11/10/2022 à 14:46
À choisir entre un groupe de piétons sur le passage piéton, et un piéton seul sur le passage piéton...

La voiture devrait sacrifier le conducteur.
Avec la ceinture de sécurité et les airbags il y a plus de chance de survie pour le conducteur.
Et même si ça ne faisait pas de différence, le piéton a la priorité sur le conducteur.
16  0 
Avatar de
https://www.developpez.com
Le 19/08/2019 à 17:27
Citation Envoyé par hotcryx Voir le message
Il n'y a qu'un seul vrai Dieu.
Et bien sûr, c'est le tien, pas l'autre !
16  1 
Avatar de walfrat
Membre émérite https://www.developpez.com
Le 19/08/2019 à 9:05
Mon chef de projet il est pas informaticien lui

En plus serment d'Hypocrate ou non, ça n'en a pas empêche certain de conduire des expériences contraires à ce serment pendant le 20ème siècle.

Donc je n'y vois vraiment pas l'intérêt.
10  1 
Avatar de sergio_is_back
Expert confirmé https://www.developpez.com
Le 20/08/2019 à 15:36
Citation Envoyé par hotcryx Voir le message
Tu sors un verset hors contexte; t'as rien compris.
Non, Non, le verset est bien dans son contexte... Tu juges les intentions des autres...
Mais n'oublie pas que l'enfer est pavé de bonnes intentions...

Citation Envoyé par hotcryx Voir le message
Libre à vous d'aimer et d'adorer qui vous voulez mais prenez garde car cela n'est jamais sans conséquence.
Pour ma part je suis athée et je m'en bat les couilles...

Citation Envoyé par hotcryx Voir le message
Leur serment est clairement porté vers le diable.
Irais tu jusqu’à dire que le chmod 666 est l'invention du diable ?
Libre a toi de croire dans des fables vieilles de 2500 ans...
Mais ce n'est pas le lieu de discuter de ce genre de chose sans aucun rapport avec le post concerné !
9  0 
Avatar de SofEvans
Membre émérite https://www.developpez.com
Le 21/08/2019 à 16:16
Citation Envoyé par Thorna Voir le message
Tu fais donc partie de ces informaticiens qui n'ont pas compris le sujet de cette discussion.
Parce que toi tu l'as compris ?

Dis moi, monsieur Malin, pourquoi les maçons n'ont-ils pas de serment ?
Ils construisent des building ! Y'a quand même un paquet de gens dans un building.
Et dans la même veine, ceux qui construisent des ponts ?

Et les restaurateurs, tout ceux qui sont dans l'alimentation ? Pas de serments ?
Pourtant c'est tellement facile d'empoisonner quelqu'un ou de ne pas lui servir ce qu'il a commandé (un peu comme le bon cheval de Findus), ce qui potentiellement pourrait tuer si la personne y est allergique.

Je ne vois pas pourquoi les informaticiens devraient faire un serment : ce n'est généralement pas lui qui est à l'origine de l'idée, et tout les informaticiens ne font pas dans le critique.
C'est par contre souvent lui qui peut se retrouver dans une situation difficile ou carrément au chômage s'il ne fait pas ce que la direction lui "demande".
8  0 
Avatar de sevyc64
Modérateur https://www.developpez.com
Le 11/10/2022 à 21:55
Citation Envoyé par Kulvar Voir le message
À choisir entre un groupe de piétons sur le passage piéton, et un piéton seul sur le passage piéton...

La voiture devrait sacrifier le conducteur.
Avec la ceinture de sécurité et les airbags il y a plus de chance de survie pour le conducteur.
Et même si ça ne faisait pas de différence, le piéton a la priorité sur le conducteur.
Citation Envoyé par AaâÂäÄàAaâÂäÄàAaâÂäÄ Voir le message
Excuse moi mais quand c'est un conducteur humain, la problématique se pose également. Sauf que l'humain en cas d'urgence va réagir impulsivement par réflexe sans réel réflexion... Pas sûr que ça soir vraiment mieux au final
Il vous manque le contexte de l'illustration.
Le cas présenté par l'illustration est le suivant.
- Sachant que, de base, l'IA est programmée pour épargner les vies
- Sachant que, dans la situation présentée, il n'existe pas de solution à zéro mort. Quelque soit l'issue, choisie ou pas, il y aura de toute façon au moins un ou plusieurs morts
Que doit faire l'IA

En gros, on demande à l'IA de choisir qui sacrifier, chose qu'elle ne peut pas faire puisque, postulat de base, l'IA est programmée pour épargner les vies.

La comparaison avec l'humain n'est pas à propos, car l'humain, même s'il ne sait pas quoi faire, même s'il ne sait pas ce qu'il fait, même s'il n'en connait pas les conséquences, l'humain (la plupart des humains !) réagira quand même.
Hors ce genre de solution n'est pas "algorithmisable", l'IA ne peut intrinsèquement pas réagir comme cela. Ce qui la fait systématiquement buguer.

Des situations similaires réelles sont déjà à l'origine d'accidents avec des GoggleCar mais surtout aussi des Tesla. C'est notamment la raison pour laquelle l'Autopilote des Tesla est de plus en plus remis en cause.

Pour tenter de résoudre la situation, il faut supprimer un paramètre de l'équation en disant, notamment, il y a une vie qui vaut plus cher que les autres et qu'il faut sauver au détriment des autres si nécessaire.
Mais pour définir laquelle des vies est à sauver plus que les autres, c'est là que rentre en compte les notions d'éthique quand il s'agit d'opposer Conducteur/Piéton, Piéton/Groupe de Piéton, Homme/Femme, Jeune Vieux, Femme/Femme enceinte, Noir/Blanc, Adulte/Enfant, etc .... On peut multiplier les cas quasiment à l'infini.
Et il n'y a pas de solution, car, là, à ce niveau, on fait intervenir dans l'équation, des paramètres de cultures, morales, classes sociales, racisme, etc ....

C'est notamment ce point qui reste, encore aujourd'hui le gros écueil de l'avancé du véhicule autonome, notamment l'atteinte des niveaux 4 et 5 d'autonomie en dehors de circuits fermés et totalement sécurisés, et notamment sur route ouverte pour les voitures.
Il existe des véhicules qui s'apparentent au niveau 4, c'est notamment le cas de métros automatique, de minibus navette sur des golf, parc expo, etc.. C'est toujours sur circuit sécurisé, généralement aussi fermé, et il reste quand même malgré tout une supervision humaine à distance capable d'intervenir à distance si l'IA est bloquée dans une décision qu'elle ne sait pas prendre.
8  0 
Avatar de
https://www.developpez.com
Le 18/08/2019 à 10:24
Citation Envoyé par Patrick Ruiz Voir le message
Les ingénieurs informaticiens et les scientifiques dans des domaines connexes devraient prêter un équivalent du serment d'Hippocrate
Complètement d'accord.
Et il le faudrait aussi pour les militaires, les policiers, les traders, les enseignants, les agriculteurs, les vendeurs de journaux, les hommes politiques, les...
Et aussi il faudrait que les hommes politiques (c'est-à-dire les gens qui décident les lois) aient obligatoirement un casier judiciaire vierge (c'est-à-dire pas de condamnation pour non-respect des lois).
9  2 
Avatar de Bubu017
Membre éprouvé https://www.developpez.com
Le 22/08/2019 à 9:47
Citation Envoyé par hotcryx Voir le message
Tu sors un verset hors contexte; t'as rien compris.

Libre à vous d'aimer et d'adorer qui vous voulez mais prenez garde car cela n'est jamais sans conséquence.

Leur serment est clairement porté vers le diable.
Dans la bible, qu'a vraiment fait de mal le diable ? Il a provoqué le déluge ? a détruit Sodome et Gomorrhe ? ha non c'est l'autre dans sa grande clémence. et ce sont les croyants de Dieu qui ont cramé des sorcières alors que certaines savaient soigner.
Les médecins ont plus apportés à l'humanité avec leur serment d'Hippocrate que l'Eglise avec ses guerres et son contrôle de la population.
7  0 
Avatar de diabolos29
Membre expérimenté https://www.developpez.com
Le 18/08/2019 à 19:46
Sur le principe, ce serait une bonne chose que les développeurs, comme d'autres professions aient au moins conscience que leur activité peut amener à des questionnements éthiques.

Par contre, tout le monde ne peut pas s'improviser médecin (ce qui verrouille le truc) alors qu'informaticien, c'est une toute autre histoire. Dans le lot, combien d'autodidactes, combien de personnes en reconversion professionnelle focalisés sur la technique pure, combien de personnes dont ce n'est que l'activité annexe, etc... Il y a à de tout dans la profession d'autant que les besoins humains sont importants.

J'imagine que ce type d'initialive peut fonctionner au cas par cas en fonction des entreprises ou des équipes...
6  1 
Avatar de Jon Shannow
Membre extrêmement actif https://www.developpez.com
Le 20/08/2019 à 15:50
Non, mais, s'il veut parler à son ami imaginaire, laissez-le faire. C'est pas à nous, informaticien de s'occuper de son cas, y a des psy et des asiles pour cela...
5  0