Des programmeurs avouent avoir écrit du code non éthique et parfois illégal
En raison des requêtes de plus en plus contraignantes de leurs employeurs

Le , par Coriolan, Chroniqueur Actualités
Avez-vous eu à développer quelque chose que vous pensiez être illégale ou non éthique ?
Avec la multiplication des scandales qui impliquent des programmeurs qui ont agi sans éthique de travail ou hors du champ de la loi, beaucoup commencent à se demander ce qu’il faudrait faire pour changer la donne. Que devraient faire les programmeurs quand on leur demande d’accomplir des tâches non éthiques ou illégales ? Qu’est ce qu’il faudrait faire pour protéger le programmeur dans ces cas ? Et faudrait-il prévoir des formations d’éthique pour éviter des agissements contraires à la loi dans le futur ? Bref, une panoplie de questions qui hantent les programmeurs de tous les coins du globe.

Bill Sourour fait partie de ces programmeurs, la semaine dernière, il avait publié un article nommé “Le code qui me fait encore honte”. Il raconte une terrible histoire qui remonte à ses débuts en tant que programmeur quand il était encore jeune. En développant un site web pour le compte d’une entreprise, on lui avait demandé de contourner les lois de publicité des médicaments afin de persuader les jeunes femmes de prendre un médicament spécifique. Il a découvert plus tard que ce médicament causait une aggravation de la dépression et qu’au moins une jeune femme s’est suicidée après l’avoir pris. Il a même découvert que sa sœur prenait ce même médicament et l’a vite alertée. Des décennies après cet incident, Bill est toujours hanté par l’idée qu’il a été responsable dans cette affaire.

Avant de publier son article, Bill a été inspiré par Robert Martin dans son talk “Le futur de la programmation”. Il clame que les programmeurs devraient chercher comment se réguler eux-mêmes et rapidement. « Et si on se décide sur ce que signifie d’être programmeur » se demande Martin. « La civilisation dépend de nous. La civilisation ne comprend pas encore ce fait ».

En effet, de nos jours, toutes nos actions quotidiennes impliquent des programmeurs, du simple fait de passer un appel sur téléphone au pilotage des avions de ligne. En conséquence, des gens ont été tués dans des accidents de voiture en raison de bogues de logiciels alors que d’autres ont péri dans des crashs d’avions pour la même raison. « Nous sommes en train de tuer des gens », a dit Martin. « Nous ne sommes pas là pour tuer des gens, et les choses continuent à empirer ».


Pour Martin, les développeurs sont appelés à faire face à des enjeux cruciaux dans les années à venir. Il a par ailleurs cité le cas de Michael Horn, PDG de Volkswagen America. Ce dernier a blâmé en premier lieu les programmeurs pour le scandale des émissions truquées du géant allemand durant une séance d'audition au Congrès américain. Il a prétendu qu’ils ont agi à leur gré sans préciser une raison particulière. Plus tard, les enquêteurs américains ont accusé la firme d’avoir pris cette décision du haut de la hiérarchie et d'avoir essayé de camoufler cette tricherie. Mais Martin ne cherche pas pour autant à innocenter les programmeurs. « Ce qui est bizarre, c’est que ce sont les programmeurs qui ont écrit ce code. C’était nous, des programmeurs qui ont triché. Pensez-vous qu’ils avaient su ? Je pense que oui, probablement. »

Avant de terminer son intervention, Martin a tenu à rappeler qu’avec ces pratiques non contrôlées, un programmeur va finir un jour par causer un désastre, tuant au passage des dizaines de milliers de gens. Et ce n’est pas seulement la vie des gens qui est en jeu ici ou la pollution par les émissions de gaz seulement ; les mêmes fourberies ont été déjà utilisées dans Wall Street pour manipuler les prix des actions.

Les programmeurs racontent

L’article viral de Sourour a poussé d’autres programmeurs à partager leur histoire à leur tour sur les solutions et les codes non éthiques et parfois illégaux qu’ils ont dû mettre en place pour leurs employeurs. Un programmeur a dû développer une solution qui enregistrait les gens dans la newsletter de son entreprise même s’ils avaient opté pour ne pas recevoir d’emails (ce qui est une violation de la loi fédérale américaine). Ensuite, d’autres programmeurs ont écrit des scripts pour aider les commerciaux de l’entreprise à traquer ces gens. Quand ce programmeur a rappelé au CTO que cette pratique n’est pas éthique, on lui a demandé de se retirer. Selon lui, les autres programmeurs travaillent aujourd’hui pour des startups qui récoltent de vastes volumes de données sur la localisation des gens.

Un autre programmeur qui a travaillé pour une entreprise moyenne a dû développer un outil pour traquer les horaires de travail des employés. Cet individu raconte que son outil pouvait réduire potentiellement le temps de travail des employés au bénéfice de l’employeur en enlevant 15 minutes à chaque connexion (si vous arriviez à 9:01, le système notait alors que vous aviez commencé à 9:15. Si vous partiez à 5:14, il enregistrait 5:00). Le programmeur dans l’embarras a demandé au manageur du projet si c’était illégal et a même essayé de faire des recherches là-dessus. Le management lui a assuré que c’était tout à fait légal et que ça avait été planifié avec le service des ressources humaines.

Dans la plupart de ces histoires, si le programmeur s’oppose aux requêtes de l’employeur, l’entreprise peut toujours recourir aux services d’une autre personne. Mais Martin rappelle que ça reste encore un pouvoir qui donne une marge de manœuvre aux programmeurs et leur permet de s’imposer puisque ce sont eux qui ont le pouvoir aujourd’hui. La solution à ce dilemme est de donner des cours d’éthique, une chose qui est déjà en vigueur dans les formations formelles. Mais malheureusement, la plupart des programmeurs aujourd’hui ont suivi le chemin de l’autoformation. Selon Sorour, cette voie inclut rarement une formation solide sur les pratiques de l’éthique. L’essentiel aujourd’hui est de former le plus de gens possible à écrire du code pour répondre aux besoins grandissants du marché du travail.

Martin et Sorour croient tous les deux que les programmeurs ont besoin d’une organisation pour réguler leur profession comme les autres industries. Actuellement, elle n’existe pas malgré quelques efforts de l’Association for Computer Machinery et l’IEEE qui ont publié des documents d’éthique et proposent quelques fois des formations.

Source : Business Insider

Et vous ?

Qu'en pensez-vous ?


Vous avez aimé cette actualité ? Alors partagez-la avec vos amis en cliquant sur les boutons ci-dessous :


 Poster une réponse

Avatar de vttman vttman - Membre expérimenté https://www.developpez.com
le 22/11/2016 à 8:32
Ethique ... Hum !?

Quand on écrit un bout de code en tant que prestataire, développeur, pour une banque, une assurance, etc.
... bout de code qui positionne des indicateurs par exemple
et qui plus tard (probablement) va/peut entrainer telle ou telle action et provoquer indirectement crises de nerf ou drames ...
... on peut y penser et puis vite oublier ... car le programme suivant se profile ...

Evidemment, on ne cherche pas en permanence à évaluer toutes les conséquences des mises en place de ces algorithmes, et la première
de nos préoccupations (et celle du donneur d'ordre) est sans doute que le programme tourne vite et sans bugs ...
Ainsi tranquillement et droit dans ses pompes cirées, on adhère (un peu, beaucoup, passionnément, etc.) à une certaine forme de violence
pour toucher notre chèque de fin de mois ...
Quoi tu craches dans la soupe !? Non non chacun sa conscience ...
Avatar de transgohan transgohan - Expert éminent https://www.developpez.com
le 22/11/2016 à 9:07
Sur mon projet on gère des applications critiques et la question éthique se pose toujours.
A ma connaissance cela n'a jamais été transgressé car il y a des vies en jeu.
Le seul cas qui n'est pas très éthique est sans doute la dévalorisation des produits adverses lorsque les commerciaux rencontrent des clients.
Mais cela n'a pas vraiment la même ampleur, au mieux cela empêche une autre entreprise de vendre son produit, sans pour autant fournir au client un produit dangereux.
Mais le domaine de l'armée n'est pas le même que le domaine du business il faut bien l'avouer...
Je ne suis donc pas étonné qu'il y en ai qui fassent tout et n'importe quoi pour faire du chiffre.
Avatar de marsupial marsupial - Membre émérite https://www.developpez.com
le 22/11/2016 à 9:49
A mon avis, Edward Snowden représente le cas typique illustrant l'interrogation que peuvent se faire les programmeurs dans le cadre de leur mission. Donc oui cela n'a pas créé de catastrophes de grande ampleur, mais l'action des five-eyes a du mettre au chômage et dans la misère nombre de gens. Qu'en est-il de ceux à qui on demande d'intégrer une porte dérobée ? Parfois, l'informaticien est tenaillé entre son éthique et son devoir.
Il existe une Université Canadienne délivrant un doctorat, et je pense que l'éthique fait partie de la formation.
Avatar de le_chomeur le_chomeur - Expert confirmé https://www.developpez.com
le 22/11/2016 à 10:10
Cet article m'amène à une autre question , est ce que fournir un code très sale ( par manque de temps souvent ) est également un manque d'éthique ?
Avatar de NSKis NSKis - En attente de confirmation mail https://www.developpez.com
le 22/11/2016 à 10:20
Parler de "programmer du code non-éthique et parfois illégal" n'a simplement aucun sens!!!

Le code, c'est du code, ni plus, ni moins... C'est le destinataire du programme qui a ou n'a pas un comportement "non-éthique et parfois illégal"!!!

Si un fabricant d'arme peut effectivement se dire que "sa production" a un gros risque d'avoir une finalité "non-éthique et parfois illégal", est-que le fabricant de pelle doit également le penser parce que parfois un mari violent enterre le corps de sa femme assassinée au fond de son jardin???

La seule question que le programmeur peut se questionner réside dans le secteur d'activité où il est actif: Est-ce éthique de travail pour la finance, pour la défense, etc... Et là, il ne s'agit pas de légalité mais de philosophie personnelle... A chacun de faire son choix en se regardant le matin dans la glace
Avatar de Oscar.STEFANINI Oscar.STEFANINI - Membre régulier https://www.developpez.com
le 22/11/2016 à 10:56
Franchement, le développeur fait ce qu'il peut. Il ne prends pas de responsabilité pour moi
Avatar de 4sStylZ 4sStylZ - Membre éclairé https://www.developpez.com
le 22/11/2016 à 11:42
«Le code, c'est du code, ni plus, ni moins... C'est le destinataire du programme qui a ou n'a pas un comportement "non-éthique et parfois illégal"!!!» – @NSKis

Je ne suis pas du tout d’accord. À t’entendre il serait normal qu’un employé d’un mafieux, sous couvert qu’il aie une fiche de paie en règle et un contrat de travail pratique la torture sans état d’âme. Parce qu’après tout il ne fait que suivre les ordres.

Ok. L’exemple est certes extrême mais même appliqué à une autre échelle de valeur / de moralité le principe est le même pour moi : On est des êtres humains, pas des machines exécutante à qui l’on donne des ordre et qui n’ont pas de libre-arbitre.
Si on te demande de faire quelque chose d’illégale et que tu le fait tu en devient complice, voilà tout… Attention, j’insinue pas qu’on est d’accord avec le projet illégale.

Pour ma part, j’ai fait du code qui est illégal dans mon pays mais qui est simplement immoral dans d’autres.
J’ai fait comme on me demandait de faire pour garder mon emploi. Cependant le code est prévu pour passer très rapidement dans un mode éthique ce qui est le mieux que je pouvais faire…
Avatar de alves1993 alves1993 - Membre confirmé https://www.developpez.com
le 22/11/2016 à 11:52
La solution à ce dilemme est de donner des cours d’éthique, une chose qui est déjà en vigueur dans les formations formelles. Mais malheureusement, la plupart des programmeurs aujourd’hui ont suivi le chemin de l’autoformation.
Pas besoins d’avoir une formation spéciale pour faire des choses éthiques.
Pour ma part les programmeurs (je suis dans le lot) minimisent trop souvent la portée qu'ont leurs programmes dans la vie de tous les jours.
Peut-être que demain, nous serons comparés à des fabricants d'armes, des personnes qui conçoivent des programmes dans le but d'éliminer des vies ou de défendre des vies, à ce moment-là la question d'éthique prendra véritablement effet.
Avatar de Marco46 Marco46 - Modérateur https://www.developpez.com
le 22/11/2016 à 11:59
Citation Envoyé par le_chomeur Voir le message
Cet article m'amène à une autre question , est ce que fournir un code très sale ( par manque de temps souvent ) est également un manque d'éthique ?
Non c'est de l'amateurisme. Cf Software Craftmanship (et Donc Robert Martin en autre )
Avatar de Marco46 Marco46 - Modérateur https://www.developpez.com
le 22/11/2016 à 12:05
Citation Envoyé par NSKis Voir le message
Parler de "programmer du code non-éthique et parfois illégal" n'a simplement aucun sens!!!

Le code, c'est du code, ni plus, ni moins... C'est le destinataire du programme qui a ou n'a pas un comportement "non-éthique et parfois illégal"!!!
C'est absurde.

Quand tu codes un programme qui se trompe volontairement sur le temps de travail effectué tu implémentes une violation du droit. L'utilisateur de l'application n'a pas le choix de violer ou non la loi. C'est toute la différence avec ton exemple de la pelle. Tu es donc co-responsable avec celui qui utilise le programme puisque le but du programme est de violer la loi.

C'est un peu comme si tu disais qu'un faussaire n'est pas responsable de l'usage qui est fait de la fausse monnaie.
Contacter le responsable de la rubrique Accueil