Où s'arrête la responsabilité des ingénieurs?

Lorsqu’une technologie est défaillante, il peut être facile de placer le blâme sur les ingénieurs. Certains cas sont toutefois ambigus...

La technologie a beaucoup évolué ces dernières années, mais elle est encore loin d'être infaillible. Les erreurs de fonctionnement sont légion au sein de certains des logiciels et applications les plus utilisés, et certaines de ces erreurs peuvent engendrer des conséquences dramatiques.

Lorsque ces conséquences surviennent, peut-on blâmer l’ingénieur qui est à la source de cette technologie? C'est la question que pose un article publié sur EEJournal, en dressant la liste de certaines situations où la responsabilité de l’ingénieur est ambiguë. Petite séance d’éthique...

 

Botnets et mots de passe

Un ingénieur a créé un enregistreur de vidéo digital fait pour être connecté à des caméras de surveillance. L'appareil a donc reçu une adresse IP et une protection par un mot de passe basique.

Cependant, ce dernier n'ayant pas été renouvelé, des pirates informatiques ont fini par réussir à s'introduire dans le système et l'ont utilisé pour leur propre réseau d'appareils dans le cadre de piratages informatiques. Dès lors, qui est à blâmer pour avoir rendu le système aussi vulnérable? Serait-ce l'ingénieur qui l'a conçu?

 

Une mort sur Internet

Une jeune femme parisienne a diffusé en direct son suicide, alors que des utilisateurs observant le terrible événement l'encourageaient. Le réseau social sur lequel elle a diffusé son suicide peut-il être blâmé pour ne pas avoir installé un système de surveillance pouvant empêcher la diffusion d'un incident aussi tragique?

 

Liberté d'expression et néo-nazis

Le Daily Stormer, un site Internet néo-nazi, a été rejeté par plusieurs hébergeurs, ainsi que par le fabricant de son logiciel de protection informatique. Celui-ci, et plus particulièrement son dirigeant Matthew Prince, a plus tard regretté cette décision. « Littéralement, je me suis réveillé de mauvaise humeur et j'ai décidé que quelqu'un ne devrait pas être sur Internet. Personne ne devrait avoir ce genre de pouvoir ».

Comment veiller à la tranquillité d'Internet, alors?

 

Les voitures sans chauffeur

L'un des grands problèmes posés par les voitures se conduisant elles-mêmes est la confiance que nous pouvons accorder à des appareils complètement autonomes, notamment dans le cadre d'un accident. C'est une responsabilité qui pèse sur les épaules des ingénieurs concevant ces fameuses voitures automatisées. Si donc un accident survient, la faute revient-elle à l’ingénieur plutôt que le conducteur?

 

Intégrer la partialité dans l'apprentissage machine

Certaines activités concernant l'apprentissage machine commencent avec un répertoire de données qui sont utilisées pour pousser les machines à apprendre par l'expérience et à développer des systèmes plus sophistiqués et plus complexes. Néanmoins, si les données sont incomplètes ou partiales, les conséquences peuvent être désastreuses. Par exemple, si on ne prend pas en compte tous les types de voix en créant un logiciel de reconnaissance vocale, ce dernier peut classer certaines femmes à voix grave comme des hommes. Cela peut sembler anodin, mais décevoir des clients est la dernière qu'un ingénieur veut faire.

 

L'abandon de l'utilisateur

Les changements effectués sur les produits peuvent changer la manière dont ceux-ci fonctionnent. Cela peut se faire par une mise à jour, ou par une modification plus profonde faite par le fabricant. Cela peut gêner les utilisateurs, et dans ce genre de situation, il n'y a que l'auteur de la modification à blâmer.

 

Ainsi, selon EE Journal, la technologie évolue beaucoup plus rapidement que la législation ou même l'opinion publique. C'est donc aux ingénieurs d'innover sans froisser la société, et d'endosser une grande partie de la responsabilité en cas d'erreur ou de polémique. Il faut donc qu'ils prêtent une attention particulière aux conséquences des logiciels et applications qu'ils créent.