Justice : le défendeur peut-il examiner le code source d'un logiciel propriétaire qui l'incrimine ?
Partagez votre point de vue

Le , par Stéphane le calme, Chroniqueur Actualités
Il y a cinq ans, Eben Moglen, avocat et professeur de droit à l’université Columbia, mettait en garde sur les dangers du code propriétaire qui contrôle de plus en plus de dispositifs chaque jour. Le scandale le plus récent qui illustrait ses craintes concerne la marque automobile allemande Volkswagen qui a reconnu avoir mis en place un logiciel sur les moteurs diesel d’environ 11 millions de ses voitures, afin de fausser les résultats de tests antipollution. Aussi choquante que puisse être l’affaire Volkswagen, elle n’illustre en réalité qu’une facette de la problématique.

Dans l’Etat de Californie, Martell Chubbs fait actuellement face à une accusation d’homicide suite à une affaire datant de 1977 où la seule preuve contre lui est une correspondance de sa séquence d’ADN qui a été établie par un logiciel propriétaire. Chubbs, qui dirigeait encore une petite entreprise de réparation à domicile au moment de son arrestation, a demandé à inspecter le code source du logiciel afin de contester l’exactitude des résultats.

Son objectif était de déterminer si le code implémentait correctement les procédures scientifiques pour la correspondance des séquences d’ADN et si le logiciel opérait conformément à ce que l’éditeur prétendait. Mais l’éditeur a avancé que l’avocat de la défense pourrait voler ou dupliquer le code et entraîner une perte d’argent pour lui. Aussi, la cour a refusé la demande du défendeur, le laissant libre d’interroger l’expert sans toutefois examiner l’outil sur lequel l’expert s’est basé. Des décisions similaires ont été prises dans des tribunaux en Pennsylvanie, Caroline du Nord mais aussi en Floride.

Il est vrai que nous servir des nouvelles technologies permet de booster les enquêtes en cours en aidant à inculper les coupables et à disculper les innocents. Cependant, les logiciels propriétaires semblent interférer avec cette confiance portée sur les nouvelles technologies dans un nombre croissant d’enquêtes et sur des dispositifs médico-légaux, qu’il s’agisse de tests ADN ou de reconnaissance faciale en passant par des algorithmes prédictifs qui indiquent à la police où mener des investigations pour des crimes futurs.

Il faut noter que l’inspection des logiciels propriétaires pourrait ne pas profiter uniquement aux défendeurs. Par exemple, la divulgation du code propriétaire aux experts de la défense a contribué à la confirmation de la fiabilité scientifique d’un alcootest par la Cour Suprême du New Jersey.

Pour certains experts, la capacité à effectuer une contre-expertise des preuves médico-légales est « le meilleur mécanisme juridique jamais inventé pour la découverte de la vérité ». Ce qui a permis à des études de remettre en cause la validité scientifique de certains procédés de correspondance dans les marques de morsure, les incendies criminels, les fibres et les cheveux, la balistique, etc. L’initiative Innocence Project a pu ainsi démontrer que les mauvais procédés médico-légaux ont conduit à des condamnations injustifiées de 47 pour cent des personnes qui ont été graciées même si, pour la National Academy of Sciences, cette crise est en grande partie due à un manque d’évaluation par les pairs dans les disciplines médico-légales.

Les logiciels ne sont pas épargnés. Les erreurs dans le développement ont altéré le ratio de ressemblance des séquences ADN par un facteur de 10, obligeant les procureurs en Australie à remplacer les déclarations de 24 témoins experts dans des affaires criminelles. Lorsque les experts de la défense ont pu mettre en évidence des bogues dans le logiciel d’alcootest, la Cour Suprême du Minnesota a retiré les tests affectés des preuves pour les futures audiences.

Si une contre-expertise peut aider à se protéger des erreurs (ou même des fraudes) dans les sciences et technologies relatives au domaine médico-légal, il convient de se demander comment un tel système pourrait fonctionner.

Source : LA CBS Local, Court Listener , Cour de Pennsylvanie , Case Text, Court Listener (décision de la Cour d'Appel de Floride), PredPol (Predictive Policy), Case Law, études sur la validité de certains procédés médico-légaux, Innocence Project, National Academy of Sciences, cas de l'Australie, criminal justice

Et vous ?

Qu'en pensez-vous ? Dans le cadre de la justice, les défendeurs devraient-ils avoir le droit de demander à inspecter le code propriétaire ?

Voir Aussi

« Les logiciels propriétaires sont des matériaux de construction dangereux », avance un avocat

le Forum Logiciel


Vous avez aimé cette actualité ? Alors partagez-la avec vos amis en cliquant sur les boutons ci-dessous :


 Poster une réponse

Avatar de DarkHylian DarkHylian - Membre habitué https://www.developpez.com
le 14/10/2015 à 10:23
Quel que soit le domaine, on le dit et le re-dit, pour s'assurer de la fiabilité d'un résultat, il faut l'obtenir avec plusieurs méthodes différentes (qui doivent conduire normalement au même résultat, hein, faut comparer ce qui est comparable).
Dans le cas des expertises médico-légales effectuées avec l'aide d'un logiciel, il faudrait systématiquement multiplier les tests avec d'autres logiciels, et comparer les résultats.
Mais faut croire que ça coute trop de sous, comparé à ce que coûte une erreur judiciaire...

On ne peut pas non plus faire confiance à l'open source dans ce domaine, mais l'avantage, c'est qu'on a accès au code, qu'il y a tjs une communauté pour le maintenir, et que s'il y a un souci, il sera révélé et corrigé, contrairement à un logiciel propriétaire dont la correction peut prendre du temps.
Avatar de MikeRowSoft MikeRowSoft - Provisoirement toléré https://www.developpez.com
le 14/10/2015 à 12:35
Si il n'y a pas de brevet sur l'algorithme (ou modèle) et que se qui est utilisé n'a pas une définition mathématique ou purement algorithmique (ex: dichotomie), non.
Même avec le reverse engineering de novice, car il y a des méthodes d'optimisations (matériel et/ou logiciel).

Les codes sources et binaires qui sont "écrient" avec des applications sous licence GNU/GPL le sont elles aussi? (je crois que c'est plutôt sa la question qui est posé )
Avatar de Sodium Sodium - Membre éclairé https://www.developpez.com
le 14/10/2015 à 13:07
Comme dans tous les domaines, le désir de contrôle et de confidentialité concernant son produits et ce qui le compose me semble légitime.
La justice doit par contre pouvoir l'examiner en détails facilement si les circonstances le justifient.
L'informatique à ce niveau ne me semble pas très différente d'un médicament ou d'une boisson gazeuse.
Avatar de Traroth2 Traroth2 - Expert éminent sénior https://www.developpez.com
le 14/10/2015 à 13:38
Citation Envoyé par MikeRowSoft  Voir le message
Si il n'y a pas de brevet sur l'algorithme (ou modèle) et que se qui est utilisé n'a pas une définition mathématique ou purement algorithmique (ex: dichotomie), non.
Même avec le reverse engineering de novice, car il y a des méthodes d'optimisations (matériel et/ou logiciel).

Les codes sources et binaires qui sont "écrient" avec des applications sous licence GNU/GPL le sont elles aussi? (je crois que c'est plutôt sa la question qui est posé )

Les autres, je ne sais pas, mais moi, je ne comprends pas un broc de ton commentaire...
Avatar de Traroth2 Traroth2 - Expert éminent sénior https://www.developpez.com
le 14/10/2015 à 13:40
Pouvoir contester les arguments de l'accusation est légitime. Or, en matière logicielle, on dit "à partir de ce point, vous n'avez plus le droit de regarder". Ca n'est pas normal. Si ces éditeurs de logiciels veulent vendre des applications à destination du monde judiciaire, il faut qu'on puisse examiner le code source.
Avatar de Matthieu Vergne Matthieu Vergne - Expert confirmé https://www.developpez.com
le 14/10/2015 à 13:53
Citation Envoyé par Stéphane le calme  Voir le message
Qu'en pensez-vous ? Dans le cadre de la justice, les défendeurs devraient-ils avoir le droit de demander à inspecter le code propriétaire ?

Pour moi, c'est évident. Les brevets, droits d'auteurs et autres systèmes sont là pour protéger la paternité, le droit de vente et autres trucs du genre, et ça s'applique aussi sur du code ouvert. Le secret n'apporte rien de plus, au pire on pensera que personne n'est au courant alors qu'un reverse engineereing aura permis à certains de se procurer la chose sans que l'auteur original soit mis au courant. Le secret, c'est ce qu'on croyait être à la base de la sécurité, alors que les experts en sécurité d'aujourd'hui prônent majoritairement l'ouverture justement pour réduire les risques. Ce que le secret protège, c'est l'image du créateur.

Ne pas interpréter non plus que je prône le tout public, rien à caché, tout le monde devrait tout savoir sur tout le monde. Je fais la différence entre le secret, qui concerne un ensemble de personnes mais dont seule une poignée est au courant, au privé, qui concerne un utilisateur particulier et donc il est le seul à devoir être au courant. Une clé secrète pour décrypter des messages persos par exemple, si on la garde pour soi c'est parce que c'est de l'ordre du privé (c'est fait pour être utilisé par une seule personne).
Avatar de Saverok Saverok - Expert éminent https://www.developpez.com
le 14/10/2015 à 15:08
Citation Envoyé par Stéphane le calme  Voir le message
Qu'en pensez-vous ? Dans le cadre de la justice, les défendeurs devraient-ils avoir le droit de demander à inspecter le code propriétaire ?

Tout accusé a le droit de se défendre.
Le défendeur a accès à l'ensemble du dossier de l'accusation justement pour être mesure de préparer sa défense et de le réfuter.
Si le dossier de l'accusation implique l'utilisation de logiciel, ce dernier fait donc parti intégrante du dossier.
En toute logique, le code source dudit logiciel est donc accessible au défendeur.
Avatar de dominique_21 dominique_21 - Futur Membre du Club https://www.developpez.com
le 14/10/2015 à 15:28
Pour en plus d'être développeur, être inscrit sur une liste d'expert judiciaire et ayant vécu cette situation je peux vous apporter quelques précisions.
Le code source ne doit pas être "offert" au défendeur, il y a bien trop de risque de se voir piller ses secrets professionnels, de plus l'avis technique du défendeur ne donnera pas de motivation particulière au tribunal. Celui ci sur ce type d'aspect technique (mais comme dans bien d'autres domaines techniques que l'informatique) se déclarera incompétent et missionnera donc un "expert" qui devra entendre chaque partie, étudier la problématique (donc ici étudier le code source de l'application par exemple) et donner son avis au tribunal. Le code source ne sera pas, si le cas l'impose, donné à la partie adverse mais seuls les éléments sur lesquels les conclusions sont basées le seront.
Avatar de Matthieu Vergne Matthieu Vergne - Expert confirmé https://www.developpez.com
le 14/10/2015 à 15:30
Merci pour la précision. {^_^}
Avatar de Arnard Arnard - Membre chevronné https://www.developpez.com
le 14/10/2015 à 21:37
Je plussoie DarkHylian, si y'a un besoin de confiance, tu recoupes les résultats avec d'autres logiciels. C'est le plus simple et rapide, à défaut d'économique (multiples licences).

Ouvrir le code à des experts, pourquoi pas, mais faut voir le temps que peut prendre une revue de code, sans pour autant empêcher de manquer quelque chose. Il suffit de prendre l'exemple de TrueCrypt :
* Audit démarré fin 2013
* Avril 2014, première partie du rapport publiée, ensemble positif.
* On apprend y'a 15 jours qu'il y a 2 failles critiques de découvertes.

Bilan : 6 mois de revue de code, pour une affirmation inexacte et des soucis non détectés. La revue de code peut être un outil, pour ce genre de système on peut supposer que le code est déposé en lieu sûr (notaire, coffre, autre), mais ne rend pas les délais plus courts, et si elle rend un système plus solide, ce n'est pas la panacée. Et si la revue de code ne convient pas à un parti, est-ce que ce dernier ne va pas entamer une contre expertise ? De plus faut prendre en compte le temps des développeurs mis à contribution des analystes pour faire la revue...
Offres d'emploi IT
Ingénieur développement fpga (traitement vidéo) H/F
Safran - Ile de France - 100 rue de Paris 91300 MASSY
Ingénieur conception en électronique de puissance H/F
Safran - Ile de France - Moissy-Cramayel (77550)
Consultant sap finance/controlling H/F
Safran - Ile de France - Vélizy-Villacoublay (78140)

Voir plus d'offres Voir la carte des offres IT
Contacter le responsable de la rubrique Accueil