Après Asimov, les trois lois de Payne
Cette vidéo (cliquez) n'est qu'un jeu. Mais les robots armés sont déjà une réalité, surtout les drones. Peut-on légiférer sur ces dangereux guerriers artificiels ?
Les trois lois d'Asimov sont célèbres (*) Mais indaptées à ces nouvelles guerres. Kenneth Payne propopse les siennes, plus brutales, dans son livre "I Warbot" (Hurst 2021)
- Un warbot doit tuer seulement les personnes que je veux, et il doit le faire aussi humainement que possible.
- Un warbot doit comprendre mes intentions et travailler avec créativité pour les atteindre.
- Un warbot doit protéter les humains de mon camps, se sacrifiant lui-même si nécessaire, mais pas aux frais de la mission.
Malgré son volume (321 pages) et l'abondance de sa bibliographie, Payne reste presque toujours au niveau de la philosophie, en insistant sur le fait que l'intelligence arfiticielle est aujourd'hui (sinon définitivement) très inférieure, en tous cas très différente de celle des humains. Il ne va pas très loin dans la modélisation de l'autonomie et du mode de commande de ces robots.
Sur ces points, Scharre est beaucoup plus précis et convaincant, notamment sur sa modélisation de l'autonomie. J'ai développé ce thème dans une conférence à l'Institut Bull .
Mais Ben Shneiderman (voir GouvBlog84) propose encore mieux : combiner l'autonomie des machines et la richesse des modes de contrôle.
(*) Mais, fait remarquer Jean Rohmer : Ne pas oublier que ces lois ne sont pas des propositions souhaitées par l'auteur, mais un élément d'un ensemble de nouvelles qui, chacune, démontre que ces lois sont absurdes.
GouvBlog114 Le post suivant
GouvBlog112 Le post précédent
L'Index Général