La Plume d'Aliocha

25/10/2018

Science sans conscience….

Filed under: questions d'avenir — laplumedaliocha @ 13:55

….n’est que ruine de l’âme, prévenait Rabelais. Mais qui s’en souvient encore ? Certainement pas les scientifiques qui se penchent actuellement sur les fabuleuses promesses de la voiture autonome. Ils ont d’abord lancé une étude pour savoir, nous explique L’Express  :  « Quelle décision les algorithmes – ou plutôt ceux qui les programment – doivent-ils prendre si, par malheur, la voiture subit une panne de frein à quelques mètres d’un passage piéton ? Faut-il sacrifier les passagers en visant un mur ou continuer tout droit et percuter les piétons ? ». Réponse des internautes à l’époque :  nous voulons le moins de morts possible. Ouf ! Notons au passage que nos scientifiques ont intégré que ces voitures allaient tuer, et diffusent tranquillement cette idée, ce qui est proprement sidérant.

Mais leur enthousiasme pour le progrès les a encouragés à  aller plus loin encore. « Nous nous sommes alors demandé si ces résultats seraient similaires si nous décrivions de manière plus détaillées les piétons et les conducteurs », explique à L’Express Jean-François Bonnefon, directeur de recherche au CNRS à l’école d’économie de Toulouse, chercheur invité au MIT et coauteur de l’étude ». Soyons modernes. Voici nos aimables scientifiques lançant une sorte d’enquête/sondage sur une plateforme dénommée « Moral Machine » – Ah, le bel oxymore ! – concernant le point de savoir ce que les internautes préféraient qu’on écrase au nom du progrès :  des enfants, des personnes âgées, des voleurs, des médecins, des personnes en surpoids, des sans-abris, des contrevenants au code de la route etc ?  « En dix-huit mois », note l’Express, « ils ont récolté 40 millions de décisions de millions d’internautes venant de 233 pays ou territoires à travers le monde ». Réponses qu’ils ont analysées et dont les résultats ont été publiés dans la prestigieuse revue Nature, c’est vous dire si c’est sérieux.

Tuons les gros, les vieux et les moches

Mais alors, me direz-vous ? Eh bien voilà. On y apprend que les internautes préfèrent les humains aux animaux (comme c’est réconfortant) et parmi les humains, les bébés, les enfants, les femmes enceintes, les personnes athlétiques et les riches. A l’inverse, les grands perdants sont les pauvres, les gros, les vieux et ceux qui ne respectent pas les clous en traversant. Quand j’étais gosse, je regardais des films catastrophe dans lesquels j’ai appris qu’on sauvait toujours en priorité les femmes et les enfants. En grandissant, j’ai compris que c’était un réflexe vital pour la préservation de l’espèce humaine. Je n’aurais jamais imaginé qu’un jour on me proposerait sans ciller de choisir entre le gros et le mince, le pauvre et le riche, le vieux et le jeune, comme si le prix de la vie était indexé sur les valeurs d’un canard féminin ou d’un chef de pub. Il me semblait à moi justement que le seul choix moralement admissible était celui communément admis : la survie de l’espèce humaine à travers la préservation prioritaire des femmes et des enfants. Cette étude est aberrante à tous les niveaux. D’abord elle pose comme admissible et fondée une question parfaitement absurde. La probabilité qu’un individu se retrouve confronté à un choix de cette nature est de l’ordre de l’infinitésimal. Celle que ce même individu dispose du temps et des informations nécessaires, à l’instant où survient un accident de la circulation, pour opérer un choix à l’aune de ces critères est quasi-inexistante. Ensuite, elle présuppose que la valeur d’une vie peut être variable. Et que cette variabilité est indexée sur des critères physiques ou de fortune. En réalité, cette étude est scientifiquement stupide en plus d’être dégueulasse par ses préjugés et son niveau sidérant d’amoralisme sous ses faux airs d’étude morale.

L’eugénisme décomplexé

Mais ce ne serait rien si elle n’était l’atroce prémonition du monde qui vient.   « Même si en tant que chercheur j’essaye de m’abstenir de porter un jugement sur les résultats, évidemment, le biais contre les sans-abris ou les personnes en surpoids est inacceptable », résume le scientifique du CNRS ». Tartuffe ! Tu demandes aux gens s’ils préfèrent sauver le gros moche ou le mince avenant et ensuite tu t’indignes qu’ils répondent : le mince avenant… Mais l’article se veut rassurant. « Les données de l’étude, intégralement publiées sur Internet, sont principalement destinées aux gouvernements qui envisagent de légiférer sur les voitures autonomes ou les industriels travaillant sur la programmation de ces voitures. « Notre espoir est que les législateurs connaissent les préférences de leurs populations sans forcément les suivre, mais pour anticiper leurs réactions et être pédagogues après coup », espère Bonnefon ».  Sans forcément les suivre….

Allons, à d’autres ! Cette simple étude montre que les scientifiques à la pointe des évolutions ont déjà intégré les choix eugénistes que l’avenir tel qu’ils le conçoivent est censé nous imposer et qu’ils soumettent non sans une forme de terrifiante ingénuité à notre appréciation. Ils nous montrent surtout avec une indécence qui frise l’obscénité qu’ils sont  déjà prêts, quoiqu’ils en disent, à cautionner la programmation de machines pour sauver les jeunes, beaux et riches humains en sacrifiant  les vieux, les moches et les pauvres. Voilà à quoi vont ressembler demain les normes de la vie en collectivité. Voilà comment on va programmer les fameuses intelligences artificielles à qui nous avons déjà décidé de confier le soin de prendre les décisions à notre place. Mais le pire, c’est peut-être de découvrir que cette vision hallucinante de l’homme et de la valeur de la vie trouve déjà un terreau à ce point fertilisé que l’article qui rend compte de ces travaux s’en offusque à peine. La perspective d’un tel mépris de la vie humaine dans un proche avenir n’a qu’un seul mérite, mais au fond, il est de taille. Nous réconforter sur la question du réchauffement climatique. Car si l’humanité devient cela, le mieux est encore qu’elle disparaisse.

Publicités

16 commentaires »

  1. « Si ma tante en avait, elle s’appellerait mon oncle … ». Je crois que, dans la plupart des cas, on n’a tout simplement pas le temps de décider de quoi que ce soit … La réaction relève de l’instinct ! Plus précisément, de l’instinct de survie …
    Instinctivement, on va chercher à sauver sa propre peau … puis celle de chacun de sa proche famille.

    Commentaire par Jacques Heurtault — 25/10/2018 @ 15:42

  2. Valeurs, valeurs qui se comparent et sont donc relatives entre elles. Les ordinateurs, computer en anglais sont fait pour compter (computer) des valeurs. A force de ne parler que de valeurs et d’oublier le principe, nous nous préparons une société de cauchemar. Elle est déjà là. Un chromosome de plus décelé avant la naissance fait que votre vie s’achève avant même votre naissance. Benoit XVI a raison, le relativisme est une incarnation moderne du mal. Merci Aliocha pour ce billet. Vous êtes trop rare.

    Commentaire par remseeks — 25/10/2018 @ 17:10

  3. Je ne comprends pas entièrement cet article.
    « Notons au passage que nos scientifiques ont intégré que ces voitures allaient tuer, et diffusent tranquillement cette idée, ce qui est proprement sidérant. » => Ces voitures tueront beaucoup moins que la solution actuelle. Et bien sûr que les voitures autonomes vont tuer – comme les trains, les avions, ou pour remonter beaucoup plus loin dans l’histoire de la science, le feu et les maisons. Mais si elles permettent de tuer moins qu’avant, n’est-ce pas un progrès ?
    « Celle que ce même individu dispose du temps et des informations nécessaires, à l’instant où survient un accident de la circulation, pour opérer un choix à l’aune de ces critères est quasi-inexistante. » Bien sûr que non, mais la voiture autonome, elle, dispose du temps, et il faut décider quoi faire. Et le programmer.

    « Ensuite, elle présuppose que la valeur d’une vie peut être variable. » oui, vous aussi comme d’ailleurs vous le concédez : « Il me semblait à moi justement que le seul choix moralement admissible était celui communément admis : la survie de l’espèce humaine à travers la préservation prioritaire des femmes et des enfants ». Donc vous sauvez bien en priorité les femmes et les enfants.

    Se poser la question de comment décider est une bonne question. Le choix de certains critères ( revenue, santé,…) aurait du être confié à un comité éthique a priori, et le choix d’en faire un sondage par internet est très discutable. Il n’empeche que les différences entre les cultures que montrent cette étude sont intéressantes.
    Enfin ces questions sont anciennes, et remontent à l’origine de la philosophie: qu’est ce qu’est la morale, et comment décider comment agir confronter à un dilemne.

    Commentaire par OlivierE — 25/10/2018 @ 18:56

  4. @OlivierE : si on entre dans cette logique, alors il n’y a nul besoin d’éthique, on tue les moches, les gros, les pauvres et les vieux, autrement dit tout ce qui n’est pas au top des exigences actuelles de la société de consommation.

    Commentaire par laplumedaliocha — 25/10/2018 @ 21:36

  5. Chère hôtesse, merci de ce billet.

    L’automobile fait des milliers de morts par an, rien qu’en France. Nous détournons les yeux de ce sacrifice collectif continu aux dieux Vitesse, Progrès, Mobilité… C’est l’avantage de la méconnaissance : on se voile la face, on ne voit pas en quoi on serait coupable…

    Cette étude met les points sur les i. Elle oblige à voir les choses en face et à choisir. Implicitement elle choisit et fait le mauvais choix. Devant le risque d’accident, la raison commanderait d’abandonner l’idée de voiture autonome. Cette étude au contraire cherche à rendre l’idée acceptable malgré le risque. C’est affligeant !

    On entend le contre-argument : la voiture autonome fera moins de victimes que la voiture conduite par un humain. C’est bien possible en effet. Il faut en déduire qu’après avoir renoncer à la voiture autonome nous devrions faire en sorte que la voiture pilotée ne fasse plus non plus de victimes,

    Commentaire par Denis Monod-Broca — 25/10/2018 @ 21:49

  6. « Ils nous montrent surtout avec une indécence qui frise l’obscénité qu’ils sont déjà prêts, quoiqu’ils en disent, à cautionner la programmation de machines pour sauver les jeunes, beaux et riches humains en sacrifiant les vieux, les moches et les pauvres. Voilà à quoi vont ressembler demain les normes de la vie en collectivité ».
    Les Français sont déjà prêts à vivre dans ce monde là. N’ont-ils pas élu Macron, qui ne rate pas une occasion de montrer son mépris des pauvres ?

    Commentaire par Michel Davesnes — 26/10/2018 @ 00:38

  7. Je ne sais plus quel philosophe, probablement grec et antique, a dit que, si, à la suite d’un naufrage, deux personnes se trouvaient agrippées à la même planche, trop petite pour les supporter toutes les deux, il incombait à celle des deux qui était la moins utile à la Société de se sacrifier. Bien évidemment, un tel critère est hors des possibilités de sélection par une machine. Mais on pourrait imaginer que les gens qui s’estiment socialement indispensables et en font la demande pourraient, sur présentation de leur dossier auprès d’une instance à constituer à cet effet, recevoir un badge détectable par les véhicules autonomes, lesquels seraient programmés pour éviter les porteurs desdits badges, quoi qu’il en coûte par ailleurs.

    Commentaire par xc — 26/10/2018 @ 07:30

  8. @DMB : en réalité, nous vivons avec les outils de la Silicon Valley et donc dans la vision du monde de ceux qui les fabriquent : il faut être beau, jeune, sain, très riche, produire énormément pour devenir encore plus riche, et travailler à vaincre la mort. La culture, la spiritualité, la nature, la morale, l’art, l’humilité, l’amour de la vie, le respect de la planète, la sagesse, n’entrent pas dans le schéma. La question à ce stade, pour être plus claire, c’est avons-nous envie que notre vie soit formatée par des fils de soixanthuitard incultes et pétris de rêves sous LSD ? Lire à ce sujet l’excellent « La siliconisation du monde » de Eric Sadin http://www.lechappee.org/collections/pour-en-finir-avec/la-silicolonisation-du-monde

    Commentaire par laplumedaliocha — 26/10/2018 @ 08:03

  9. Heu le truc est tout simplement stupide dans la question : une voiture autonome sans frein doit s’arréter, c’est à dire couper la propulsion ; ensuite on n’arrive pas « à proximité d’un passage piéton » à une vitesse mortelle, en cas de choc des passagers protégés ou des piètons ( moins maitrisable ) – qu’on soit autonome ou humain ; ce type de panne devrait déclencher un signal d’alarme permettant aux victimes potentielles d’éviter de se trouver dans la trajectoire.
    Enfin de manière assez triviale : ça dépend de la législation sur la responsabilité civile (c’est au législateur de trancher )

    Pour répondre à un des autres commentateurs : la majorité des personnes agissent pour préserver la vie des enfants, quand elles ont le temps de réagir. sinon en effet on va faire comme un ver de terre, mais ce n’est pas une action ; et si on a le temps d’agir la plupart du temps , ou alors il ne faut pas prendre le volant car votre capacité cognitive est très entamée, peut-être en faisant un stage de conduite cela s’améliorerait ?

    « que faites vous si dans une expérience on vous demande de tuer quelqu’un ? vous appuyez sur le bouton ou vous désobéissez ? »
    je quitte l’expérience

    Commentaire par chachashire — 26/10/2018 @ 08:45

  10. Bonjour Aliocha 😉

    Ça fait longtemps … et c’est « marrant » je m’informe beaucoup sur l’intelligence artificielle ces temps ci (car je vais bosser un peu dans ce domaine bientôt )

    Et je me disais que ça ressemble un peu à d’autres domaines (plus ou moins anciens) : on demande à la société de se positionner (directement ou pas ) sur tel ou tel sujet

    Et au final c’est le politique (la société ) qui décide : ainsi pour les voitures à l’origine … on savait que ça allait être porteur de risques… et que des gens seraient blessés voire tués par ces engins (synonyme de progrès prises en tant que moyen de déplacement efficace et aisément utilisable …) :

    Or à t’on décide de les interdire ? Non … on a légiféré pour dire que , en cas d’accident de la circulation lié à un « vtm » (au sens de la loi de 1975), ce sera tjs le conducteur qui sera responsable (car assuré ou en tout cas obligé d’être assuré:::)

    Et il y a moultes exemples de détermination de responsabilité légales (ex. Responsabilité de principe des exploitants nucléaires en cas d’accident… loi de 1968)

    Etc

    Reste à savoir qui la loi désignera ce coup ci 😉

    Commentaire par Villiv — 27/10/2018 @ 12:58

  11. @ Villiv
    Qu’on se rassure, c’est rarement les politiques qui sont désignés comme responsables quand ça foire. Le problème de l’amiante était connu depuis longtemps avant qu’on l’interdise. Vous avez vu des responsable politiques condamnés pour ne pas avoir fait leur boulot ?

    Commentaire par Michel Davesnes — 29/10/2018 @ 15:12

  12. Bonjour Aliocha.

    Que c’est bon de vous retrouver !

    Je suis d’accord avec vous : les questions posées sur le type de personnes à préserver en priorité sont dégueulasses. Souhaitez-vous être riches et bien portants ? On a vraiment besoin d’un comité Théodule pour creuser la question ? Comment des scientifiques dignes de ce nom ont pu se prêter à cette farce ?

    Il faut vite rentabiliser les dernières avancées en matière d’automatisation, dirait-on : du coup, on cherche comment faire passer la pilule. La recherche ne serait pas sur la maximisation des systèmes de sécurité nécessaires à la mise en circulation des voitures autonomes ? Ben non ! On doit aller vite, pour gagner un max de thunes, du coup on nous pond cette étude : on part du principe qu’on va forcément merder, puisqu’on ne met pas l’accent sur une sécurité poussée à son maximum (ça prend trop de temps, et donc ça coûte trop d’argent), alors on essaie de dessiner les contours du sinistre le plus acceptable par la majorité des futurs consommateurs.

    Parce que c’est bien de ça dont il s’agit : pas question d’alléger les responsabilités du conducteur gratuitement. Le temps et l’attention libérés par le pilotage automatique seront mis à profit pour arroser le passager – qui se retrouvera dans un sofa, du coup – de publicités vantant les pizzas vendues au coin de la rue où il se rend… pourquoi ne pas en profiter, hein ? Vous reprendrez bien un peu de gras ?

    Cette bande de maquignons cherche exactement à faire de nous ce qu’ils cherchaient à faire de Charlot dans « Les temps modernes ».

    A la lecture de votre billet, la pertinence du film saute au visage : l’individu pris en charge par les machines autour de lui, qui paie le prix de quelques « menus » dérèglements.
    Je me souviens avoir hurlé de rire au spectacle de Charlot nourri par la machine… je riais parce que je savais pertinemment qu’il s’agissait d’une caricature.

    Mais cette bande d’agités du bocal a vu le film au premier degré… à nous de bazarder leur machines infernales à la poubelle.

    Commentaire par Zarga — 01/11/2018 @ 17:15

  13. Et donc, passés les bons sentiments qui ne coûtent pas cher, on fait quoi ? On renonce par principe à la voiture autonome au motif qu’elle oblige à faire de tels choix, alors qu’elle permettrait manifestement de sauver de nombreuses vies (auquel cas c’est VOUS, du haut de ce que vous croyez être votre supériorité morale, qui faites le choix entre tels ou tels morts) ? On ne programme pas le module accident et on laisse juste la bagnole avancer tout droit quoi qu’il arrive (ce qui est d’ailleurs en soi un autre choix « moral ») ?

    Les postures indignées ne vous hissent pas d’un millimètre.

    Commentaire par Père La Morale — 05/11/2018 @ 10:18

  14. En comparaison de ce qu’elle gagne en hauteur à tolérer avec autant de bienveillance certains atrabilaires en manque de jus de pruneau, elle n’est pas prête de perdre en taille.
    Merci pour ce billet qui nous sort de la pâtée médiatique pauvre ambiante.
    (et merci pour le lien sur le « siliconisation »).

    Commentaire par Jean-Henri CHANCY — 06/11/2018 @ 13:41

  15. Le « Père La Morale », s’il en avait un peu, aurait compris que le propos n’était pas de sauver des vies mais de décider quelles vies méritent d’être sauvées, et surtout qui en décide. C’est une question philosophique et morale, pas une question de sécurité publique.

    Commentaire par Michel Davesnes — 07/11/2018 @ 17:55

  16. Content de vous relire!

    Malheureusement, je pense que votre billet passe à côté de la plaque. Les questions morales naissent de la possibilité de poser un choix. Comme vous le dite, un humain en situation d’urgence peut difficilement poser des choix raisonnés, la question morale n’existe donc pas vraiment. A partir du moment ou le choix devient possible (parce que les machines ont le temps d’exécuter une algorithme de décision) la question morale devient inévitable.

    Là où réside le véritable cynisme de cette enquête est que, dans le cas de la voiture autonome, il y a une série de choix relativement simples: minimiser les dommages et en cas d’égalité entre plusieurs solutions, la priorité doit être de préserver les personnes en dehors de la voiture. Moralement, la personne qui a utilise une voiture prends un risque d’accident en connaissance de cause pour un bénéfice personnel (se déplacer rapidement), il est donc normal que les dommages éventuels pèsent plus lourdement sur elle.

    Malheureusement, commercialement il va être difficile de vendre des véhicules dont on sait qu’ils ne priorisent pas la sécurité de leurs utilisateurs/propriétaires, donc on essaie de faire passer l’idée que les autres usagers devraient porter une partie de ces risques. L’entourloupe intellectuelle, elle est là…

    Foxtrot

    Commentaire par tangowithfoxtrot — 15/11/2018 @ 14:38


RSS feed for comments on this post. TrackBack URI

Laisser un commentaire

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l'aide de votre compte WordPress.com. Déconnexion /  Changer )

Photo Google+

Vous commentez à l'aide de votre compte Google+. Déconnexion /  Changer )

Image Twitter

Vous commentez à l'aide de votre compte Twitter. Déconnexion /  Changer )

Photo Facebook

Vous commentez à l'aide de votre compte Facebook. Déconnexion /  Changer )

Connexion à %s

Créez un site Web ou un blog gratuitement sur WordPress.com.

%d blogueurs aiment cette page :