Des habitants autonomes

Un drone armé "rôdeur", une des machines les plus autonomes.. et dangereuses, qui soient

Retour au sommaire écosystèmes . Retour à l'accueil . Dernière révision le 7/10/2021

Pour les déterministes Laplaciens, il n'y a de toutes façons pas de place pour la liberté, l'autonomie.

On ne s'est jamais trop posé la question pour les animaux. En revanche on se la pose
- pour les humain.es
- pour les machines.

Pour les humains, la question a pu faire débat : Dieu sait tout d'avance, nous sommes prédestinés, etc. Des moralistes (LaRochefoucault ) et des psychanalistes ont de toutes façons montré que, même quand nous pensons agir librement, nous sommes en fait déterminés par des motivations inconscientes. N'entrons pas dans ce débat.

Qu’est-ce que l’autonomie ? Le concept est difficile à cerner. il présente aujourd’hui deux volets qui prêtent à discussion :
- une machine peut-elle être autonome ?
- comment concilier autonomie et coopération ?

Sur le premier thème, le débat est souvent engagé sous forme binaire : on est autonome ou on ne l’est pas. Corollaire fréquent : un chat voire une souris est autonome une machine ne l’est pas. Pour en sortir, on trouve actuellement plusieurs modèles.
[Asimov] a montré, sous forme romancée, que la question ne peut pas se réduire à des « lois ».

Je poserai plutôt : tout objet a une certaine autonomie, du simple fait qu'il persiste dans le temps. Peut-on alors mesurer cette autonomie. Une fois lancée la flèche de Guillaume Tell, il ne peut rien faire pour la détourner de la tête de son fils. Une fois lancé un algorithme de FTS (Fast Transaction System), il peut faire bien des dégâts avant qu'on s'en aperçoive. Les effets d'un algorithme comme Parcoursup ne se perçoivent que des semaines sinon des mois après sa mise en application.

J’ai [Berger 99]proposé une formule , discutable et applicable uniquement à des cas particuliers :

L’autonomie est l’intégrale de ma néguentropie sur la durée probable de mon existence.

La formule répond bien aux cas courants, et à la comparaison entre deux objets du même type. Par exemple, entre deux véhicule pouvant se déplacer et changer l'orientation de son déplacement, l'autonomie peut utilement se compter en heures.
Dans le cas général, on bute sur la mesure de la néguentopie elle-même.

Une autre approche "continue" est cekke de Paul Scharre, un militaire américain qui a dressé un vaste inventaire des systèmes d’armes autonomes et des problèmes qu’elles posent, propose un modèle à trois paramètres :

- l’autonomie est un paramètre qui varie de 0 à 100%,
- la machine est plus ou moins intelligente (il ne définit pas le mot, mais donne des exemples)

- l’homme est dans la boucle, sur la boucle, hors de la boucle.

On est dans un "jeu à somme nulle" : plus la machine est autonome, moins l'homme la contrôle. Et plus elle peut se passer de lui. Une approche d'autant plus pessimiste qu'à son avis, tous les Etats (au moins occidentaux) s'engageront à ne pas employer d'armes autonomes... mais s'empresseront d'y recourir si la situation devient difficile.

Ben Shneiderman a un regard plus positif. Ddans son exposé sur l’Human Centered AI, veut dépasser les modèles à somme nulle et cherche à maximiser en même temps le contrôle de l’humain et l’autonomie de la machine.

Enfin une équipe de chercheurs animée par Stefan Seidel [Seidel] s’est placé dans une optique de développement de systèmes avec intervention d’outils autonomes de design.
On voit la richesse du thème. Le dernier exposé se situe bien dans une perspective « écosystème », et les perspectives qu’elle offre pour le développement de l’informatique.

Notes au fil de l'eau