Jamais l'ordinateur ne pourra...

Pierre Berger, 5 juin 2017. Dernière révision le 23 novembre 2020

Notes rapides qui appelleraient une meilleure rédaction

La montée des automatismes, algorithmes, "IA"... inquiète. Non sans raisons certes. Alors on tente souvent de se rassurer en proclamant "Jamais l'ordinateur ne pourra.... ". Nous proposons ici une petite liste de ces dénis, certains risibles, d'autres donnant à réfléchir.

En résumé, il me semble que - le robot ne peut, sans tromperie, vraiment remplacer l'humain quand la fonction impose une personne humaine déterminée, par exemple une personne de la famille - tant que l'on fera fonctionner les robots avec des moteurs électriques ou hydrauliques, les robots n'auront pas les souplesses d'un corps animal avec la complexité de ses muscles et le nombre très élevé de ses terminaisons sensorielles.

Pour le reste, tout semble théoriquement possible... mais méfions-nous des certitudes. Par exemple >Prospective en 1968... incite à a modestie

. Ce texte ne vise pas à lancer des affirmations dogmatiques, mais à discuter, aussi objectivement que possible, des assertions du type "jamais l'ordinateur ne pourra ..." (éuivalemment: robot, machine, algorithme...). En matière de prospective, il faut rester prudent, comme le montre l'enquête Delphi publiée par 0.1. Informatique en décembre 1968 (cliquer pour agrandir).

- Que, sur un point ou un autre, nous ne connaissions les limites des déeloppements possibles ne veut pas dire qu'il n'y ait pas de limites. Sauf sur certains points particuliers (comme la supériorit de l'ordinateur au jeu de Go), les points listés ci-dessous sont des questions à notre connaissance ouverte.

- La discussion peut prendre la forme de : impossible à présent, impossible même dans un futur proche (ou lointain), impossible fondamentalement.

- Dans certains cas, elle prendra la forme : "l'ordinateur est moins performant que l'humain" (voire l'animal)

- Nombre d'assertions courantes de ce type sont difficiles à discuter, car elles emploient des mots difficiles à définir. C'est le cas en particulier du mot "intelligence". Nous serons reconnaissants à ceux qui proposeront de bonnes défintions, susceptibles d'être discutées objectivement.

- Le vocabulaire même rend certaines discussions difficiles, car les mots ont des sens et en tous cas des connotations très différentes. Un avion et un oiseau "volent"... mais cela ne veut pas tout à fait "dire la même chose".

Mon impression, au fil des décennies, est de me heurter souvent à une attitude de déni systématique. L'informatique fait peur, et l'on trouve toujours des arguments pour montrer que l'humain leur est fondamentalement supérieur. Souvent, si la conversation s'anime un peu, apparaissent des expressions typiques de ce refus : "Cela na rien ? voir", "Jamais... "... "Tu rêves"... . On me considère comme un dogmatique, alors que j'ai au contraire le sentiment d'avancer des hypothèses face à des dogmes. Entrons dans le détail de ces "jamais".

 (Certaines assertions peuvent sembler invraisemblables, mais nous les avons rencontrées, au fil de conversation sur le sujet menées depuis quelque 60 ans).
Voir les remarques de Marcel Dupouy, de François Nicolet.

Assertions majeures

- ne pourra être conscient. C'est un point essentiel pour la discussion de maintes assertions, notamment celles qui portent sur les comportements matériels ou cognitifs. Personnellement, je pense que la question est ouverte. Je note qu'elle considérée comme résolue pour nombre d'auteurs qui semblent sérieux (notamment en France, Anceau et Dehaene).
. La question n'est pas simple. Où et quand com mence et finit la conscience. Dans le monde animal: évident pour un vertébré supérieu, a fortiori les grands singes. Mais pour une amibe, une plante ? Et dans la vie humaine, c'est au coeur du problême de l'IVG et de l'euthanasie.
. Question annexe: qu'est-ce qui me prouve que vous êtes conscient ?

- être intelligent, Points à débattre sur des déinitions précises. Vers 1963, on m'a proposé "l'intelligence est la capacité de résoudre aisément des problèmes complexes". Mettant "aisément" entre parenthèses, il restait à définir la complexité J'ai commencé avec Ashby, puis la thérie des systèmes, puis Edgar Morin, puis Kolmogorov... je crois assez définitivement que ce mot est trop flou. Je proposerais : « l’intelligence est une bonne combinaison de rationnel et d’intuitif ». Avec le vague espoir que rationnel se traduise par algorithmique et intuitif par « learning » … En tous cas j'évite autant que possible l'expession "intelligence artificielle", aujoud’hui galvaudée et parfois tous simplement synonyme d’informatique.

- se tromper. L'affirmation est assez surprenante, mais j'ai réllement rencontré cette affirmation, la faculté de se tromper étant préentée comme une supériorité de l'humain. Il faut ici distinguer plusieurs niveaux ou sources d'erreur :

. matériellement. sauf détérioration accidentelle, les erreurs sont en général totales (panne) soit très rares, car toutes sortes d'auto corrections sont installées sur les matériels, y compris, au niveau des chips, le remplacement automatique d'un composant par un autre sur le même chip (je n'ai pas la source de cette info), ou au niveau des lignes de transmission de données, par les protocoles de transmission

. au niveau de l'acquisition de données se produisent par construction des erreurs par approximation; noter, pour les signaux périodiques, le classique critère de Nyquist (voir par exemple le site de l'Insa de Rouen).

. au niveau des codes élémentaires (mot), emploi généralisé des codes détecteurs et auto-correcteurs

- certains systèmes (processeurs + systèmes d'exploitation) peuvent être "fault tolerant"

. au niveau des langages de programmation, les compilateurs et interpréturs corrigent beaucoup de fautes de syntaxe, quelquefois d'ailleurs au cours même de l'écriture (c'est le cas en Processing); mais évidemment ne détectent pas les erreurs "fonctionnelles"

- au niveau de la reconnaissance (audition de la voix, lecture de textes imprimés ou manuscrits), le taux d'erreur est plus ou moins important, mais jamais nul. Comme me faisait remarquer un chercheur (au laboratoire des Postes), les erreurs par "non reconnaissance" ne sont pas graves (on met l'enveloppe de côté et on traite à la main), en revanche si la machine "croit" avoir reconnu mais se trompe, la lettre sera envoyée à une mauvaise adresse, avec coût élevé de re-distribution).

. il en va de même pour des fonction "intelligentes" comme la prévision et la décision.

- et bien entendu, les erreurs peuvent provenir des données elles-mêes. Dans les annés 1970, on entendait souvent la formule : "Gigo" (garbage in, garbage out). Progressivement, on a doté les systèmes de fonctions plus ou moins puissantes de détection des erreurs, soit d'orthographe (tous les logiciels de traitement de texte et en particulier la saisie des SMS sur un téléphone portable), soit par réféence au contexte. Les requêtes sur Google sont puissamment dotés de ce point de vue. Au point d'ailleurs qu'il est quelquefois difficile d'imposer une requête qui semble erronée au système.

Alain Boucher note : "Dans le cas de l'AI qui gère par exemple les risques d'assurance ou les encours des banques, les défauts sont invisibles (refus de prêt ou augmentation injustifiée de prime). Et le quidam est bien en peine de s'y opposer."

Reste aussi le cas où l'on induit volontairement l'ordinateur en erreur.

Humour des annés 1970 environ. Source ?

- se laisser perturber ("leur fonctionnement est imperturbable"). La pratique de l'informatique montre qu'il est facile de perturber un ordinateur. Cependant toute machine un peu ?olu? comporte des moyens de se prot?er. Fault tolerance, redondance, etc.

- douter (un ami, en 2020), pour qui on trahit Descartes avec son "je pense donc je suis", alors que la citation complète est "Je doute, donc je pense, donc je suis"... une machine ne doute pas. En général, effectivement, on construit des machines pour avoir des réponses ou des actions, par "je doute". Mais, quand il s'agit de déclencher une action quant un certain seuil est franchi dans un esns ou dans l'autre, il peut être prudent d'exiger une certaine précision de la mesure. En reconnaissance des formes, on peut voir émerger un objet sans savoir précisément sa nature. Il y a donc différents moyens de lever les doutes, par exemple sur les avions, un répondeur "friend or foe" qui à la réception d'un signal radar, émet un cod ad hoc.

- être sans biais. On soulève la question parce qu'un des avantages de la machine, c'est d'être impartiale (symbole classique: la balance que tient, yeux bandés), la justice. Or les machines étant criture des hommes, elles portent toujours plus ou moins les biais de leur auteur. A commencer par le droit, bien entendu. (Il y a quelques belles remarques là-dessus dans International Law, de Klabbers).

- tenir compte du contexte. Cette objection ?ait pertinente au d?ut de l'informatique, avec de petits ordinateurs et de petits programmes qui ne pouvaient avoir beaucoup de m?oire. Depuis Internet et en particulier depuis Google, c'est un point où les machines sont sensiblement supérieures à l'homme, car elles "nous connaissent mieux que nous mêmes"... ?de multiples points de vue. On peut s'en réjouir ou pas...

- déoasser les humains à tout point de vue (intelligence artificielle forte, transhumanisme), contrairement à la thèsee bien connue de Kurzweil, la "singularité?quot; se produisant en 2047.

- être meilleur seul qu'une combinaison ordinateur+humain   thèse plutôt "co-?olutionniste", ou cyborg. Il y a des cas où ce n’est pas évident.  Pour un engin volant, militaire par exemple, l'emport d'un pilote introduit non seulement un poids important (corps du pilote plus tout l'éQuipement pour qu’il survive) mais aussi des limites sur les accélérations. On peut discuter sur les problèmes de prise de décision.

Linguistique

- corriger les fautes d'orthographe. Aujoud'hui, c'est Microsoft Word plus que l'Académie qui fait norme, et qui fait le travail (ou du moins le propose).

- faire correctement les coupures de mots en fin de ligne (mon rédac-chef, en 1967) ; ce prolème est-il totalement résolu en 2020 ?

- dialoguer par oral avec les humains. Cette possibilité a semblé réalisable dè les années 1960 ("audio-response" d'IBM). Elle semblait à portée de main du moindre PC à la fin des années 1980, moyennant une petite carte additionnelle. On en reparle en 2017. Mais les applications sont, pensons-nous, difficiles à bien réaliser, car autant on peut détourner les heux d'une image, autant on ne peut pas se débarasser facilement d'un message sonore, et cela devient vite agaçant sinon pénible.

- faire de bonnes traductions. Voir notice spécifique, y compris une note de l'historien Pierre Mounier-Kuhn

- inventer une langue. Voir les travaux de Frédéric Kaplan chez Sony- CSL, (mais y a-t-il eu des suites)?.

- rire d'un jeu de mots Vallancien (p.79) . Impossible...effectivement, il faut déjà une certains sophistication de la machine. Problème notamment de contextualisation. Une bonne part des bons mots sont liés par la signifiation hic et nunc de mots au sens normalement plus généal (ce qui rend difficile, par exemple, d'apprécier l'humour dans la presse étrangère).

- comprendre au second degré (Vallancien p.58) Comme ci-dessus. Cela dit, les réponses de Google à des questions mal formulées donnent à penser.

- fouiller dans un ensemble de textes non préalablement indexés par un humain (une documentaliste, vers 1995). Réponse: Google.

Jeux

Battre l'homme :

Robot Kuka contre Timo Boll

- aux échecs, au Go, à Jeopardy. Ce n'est plus un débat. Les premiers jeux où l'ordinateur a gagné ont été le Nim et les dames (dès les années 1960)

- au tennis de table. Un robot kuka joue très bien, sans gagner, voir le beau film d'une partie Robot Kuka contre Timo Boll (mars 2014). C'est relativement facile pour le robot, car sa base peut rester fixée au sol. Mais en l'occurrence, il semble de Boll, battu au débur, a ensuite trouvé un point faible chez son adversaire.

- au tennis, foot.. Là il reste du chemin à faire ! Là il faut marcher, courir, prendre des positions parfois acrobatiques et en dynamique. En revanche, il y a des matches de foot pour robots entre eux.

Vie, existence

- être vivant. vivre (relation, nutrition, reproduction) (Vallancien p.50) se décline en nutrition, reproduction... Travaux de Bailly-Longo. A ce jour, l'origine de la vie garde son mystère. Entre les grosses molécules de la chimie organique et la structure complexe des premières bactéries , le saut reste important. Un ordinateur "vivant" au sens plein du terme ne devrait pas exister avant longtemps. Cependant certaines fonctions de la vie sont déjà implémentées ou semblent au port?.
Voir par exemple la th?e de Nazim Fat? sur les automates cellulaires. Mais les vraies solutiosn devraient venir d'une autre chimie que celle du silicium. IL y a de nombreux travaux en cours.

- Etre autonome. Question à tiroirs. Un cas simple est le suivant (débrancher).

On peut aussi mesurer l'autonomie (combien de temps sans se recharger), la fiabilité (temps moyen entre pannes, ou MTBF, voir Wikipedia).

A l'extrême, on peut se poser le problème de la liberté qui fait débat même à propos des humains (questions sur la prédestination à la Renaissance). Et j'ai même proposé une "formule de la liberté quot;, comme une sorte d'intégrale de la néuentropie. Mais c'est peut-?re un peu trop demander aux formalismes... Là dessus, lire Army of Note de Scharre.

- continuer à fonctionner si on le débranche. Deux axes de réponse:

1. Les ordinateurs, téléphones et autres machines disposent le plus souvent de batteries qui leur assurent quelques heures d'autonomie.
Si elles disposent de cellules solaires, l'autonomie ne dépend plus de l'énergie, mais de l'usure. Elles pourraient aussi être branchées sur un moulin à vent, à eau, à marée...

On commence à envisager des machines "autotrophes", qui seraient capables de puiser directement leur énergie "dans la nature". Imaginer par exemple une tondeuse robotique qui pourrait faire brûler le foin qu'elle ramasse...

2. Les systèmes informatiques actuels sont d'une telle importance les débrancher aurait des conséquences catastrophiques. De mêe que les grands banques, les grands systèmes sont "too big to fail, too big to jail".

Des systèmes intelligents véritablement autonomes sont " ... une impossibilité logique. Quoique rendus plus rapides , étendus et précis, les processus qui simulent l'intelligence sont condamnés à rester, comme dans le paradoxe d'Achille et de la tortue, à la traîne des facultés cognitives humains : pendant que, à un instant donné, l'IA s'empresse d'atteindre le niveau de l'intelligence humaine, celle-ci se déplace, de telle sorte que la distance qui les sépare ne pourra jamais être annulée" (Casilli p. 303).

- se reproduire. Cette assertion est encore fréquemment rencontrée. Pourtant les virus ne sont que trop présents, et avaient déjà fait l'objet de travaux par Von Neumann dans les années 1940. La reproduction porte sur les logiciels, mais il y a aussi, au moins à létat de projet, des réalisations matérielles (citées par Heudin).

Plutôt qu'une négation, on pourrait tenter une comparaison systématique des modes de reproduction des humains (et la vie en général) et des machines. On nous permettra de penser que le mode de reproduction des humains, avec ses différents niveaux génétques, éducatfs et culturels, présente de sérieux défauts, qui nourrissent notamment la littérature.

à fonction semblable, consommer moins que l'humain ou le vivant. Ce point est un enjeu planétaire(écologie), d'autant plus que la loi de Moore ne semble plus s'appliquer, en tous cas pour la réduction des consommations. Faudra-t-il, pour respecter les contraintes climatiques, imposer des restrictions importantes à l'informatique, depuis les milliards de téléphones portables jusqu'aux fermes géntes des grands du web ?

- avoir un corps  Or "chair et esprit sont indissociables": (Vallancien p.92) piste intéressante, à préciser. La situation est-elle la même pour les réseaux neuronaux que pour les machines traditionnelles ?
Fondamentalement (si l'on n'est pas spiritualiste), il n'y a pas d'intelligence sans corps. Les machines informatiques ont toutes une implantation matérielle (et des consommations énergétiques qui deviennent préoccupantes). Cette implantation est évidemment sensiblement différente de celle des êres vivants. En particulier, une ligne de communication pouvant être considérée comme une mémoire, on peut imaginer un logiciel qui n'existerait que comme un train d'ondes en perpétuel mouvement dans l'espace. Mais là aussi ils s'agit d'un phénomène matériel...

Ici aussi, on pourrait se lancer dans une comparaison méthodique du corps des humains (et vivants) et du corps des machines.

Historiquement, on pourrait dire que l'évolution va vers une séparation de plus en plus forte entre le "matriel" et le "logiciel". La matière non organique se reproduit un peu par épigénie (cristaux)... L'apparition de la vie est celle de l'ADN, donc d'une sorte de concentration de la structure dans le noyau, structure qui se déploiera ensuite dans l'embryogénie et, plus les animaux son "supérieurs", puis cette structure se transmettra par des moyens extérieurs.

- avoir un corps intégré au monde . Tout corps est plus ou moins intégré… Une des caractéristiques des vivants, et de l’homme en particulier, c’est l’immense quantité de ses capteurs et l’adaptabilité de ses actionneurs. Avec là aussi des limites, comme pour les machines.

Du point de vue performances, on peut dire:

- pour les humains (à généraliser et préciser pour les autres vivants),
. des capacités impressionnantes dans certains domaines sensoriels (notamment l'odorat chez les chiens et la vision chez certains oiseaux) et peut-être plus encore moteurs (notamment la marche en milieu accidenté.
. d'étroites limites environnementales, qu'il s'agisse de la température, de l'atmosphère respirable, des disponilités alimentaires ; et un "modèle" matériel qui varie peu (taille, poids, structure)

- pour les machines
. une capacité à prendre toutes sortes de formes, depuis le train d'ondes jusqu'au robot anthropoïde et aux grands ensembles "intelligents" (cloud, mais aussi cit? c?l?s, etc.)
- des aptitudes (à condition de les doter des capteurs ad hoc) sensorielles dépassant largement les capacités humaines et animales, en précision et en gamme (par exemple, fréquences optiques)
- une capacité à prendre certaines "décisions" très rapidement (pour cette raison un couple homme+machine n'est pas toujours plus performant qu'une machine autonome, comme les militaires le savent bien)
. une capacité à mettre en oeuvre de très faibles (microprocesseurs, nanorobots) ou très grandes (grands véhicules, immeubles, usines...) masses matérielles et consommations énergtiques.
- une capacité pour certaines, à fonctionner et survivre dans des environnements inaccessibles à l'homme (vide, zone à fortes radiations, températures, etc.)
. des faiblesses notoires, notamment pour la marche.

D'un point de vue "matérialiste", et en simplifiant beaucoup, il s'agit d'une concurrence entre deux chimies: celle de la vie avec le carbone, celle de la machine (informatique) avec le silicium. Une hypothèse raisonnable pour l'avenir est que la concurrence actuelle laissera place à une combinaison toujours plus profonde des deux chimies. Ce qu'on peut interpréter aussi, d'une manière plus "spiritualiste" comme la convergence de deux attitudes humaines: l'action sur le monde extéreur (silicium) et l'action sur soi-même (carbone).

Dans les deux cas, la réflexion sur le corps et son évolution ne doit pas se penser seulement au niveau des individus mais aussi au niveau des groupes. Si l'on veut, l'intégration actuelle de l'humanité par le "cloud" pourrait se comparer au passage des cellules individuelles aux organismes multi-cellulaires. Noter en particulier l'efficience probable d'essaims de petits drones, aussi bien pour des activit? positives (observation) que n?atives (miltaires notamment). En science-fiction, le sujet est évoqué par ... et pris comme centre du drame par ...

Comportements, émotions

 

- conduire une voiture en milieu ouvert sans pilote humain. (opinion quasiment unanime, sauf pour certains experts, jusqu'en 2012 environ). Réponse: Google car et en 2017, toute l'industrie automobile en recherche.
Il y a des doutes sur la capacité du conducteur ?reprendre le contrôle assez vite en cas de problème.
Le domaine fait l'objet, à partir des années 2010, d'investissements consid?ables dans les grandes nations industrielles;

- ressentir des émotions. Question liée à celle de la conscience et de ses qualia. Il est facile de modéliser un systèle rudimentaire d'émotions.  Le domaine est très étudié par les roboticiens.  Une modélisation simpliste dans Roxame.

- rire. (Vallancien p.67)Comme tous les comportements, on peut simuler l'expression du rire (image, son, mouvements du corps) et modéliser les états de la machine qui le déclenchent. Ce serait probablement assez facile pour le rire, dont les aspects mécaniques ont été soulignés par Bergson (structure 1,2,3) et sont bien connus des amuseurs publics.

- avoir des intentions. Intention, ?o?me.
. Intentionalité "l'intentionnalité qualifie un état psychologique associé à un objet".(Laurent Bloch). Ramène à conscience. Si on considère que les "états psychologiques" sont le propre des humains, ou des animaux supérieurs, alors on ne peut discuter, bien sûr.
. On peut donner des objectifs intermédiaires à un robot, et il peut le faire de lui-même, par exemple pour contourner un obstacle en allant se recharger.

- se sacrifier pour un idéal, faire don de soi.(Vallancien p.87, ) Supposerait des constructions pour l'instant non envisagées. En revanche certaines machines peuvent se suicider (autodestruction de drones s'ils perçoivent que leur comportement n'est pas normal, ou qulque chose du genre).

Crétivité intellectuelle

- oublier. Cette assertion semble étonnante, tant les pertes de données sont fréquuentes, et la discussion sur la protection de la vie privée active. Mais ce qui est évident pour un ordinateur simple et isolé ne s'applique pas au "cloud" dans son ensemble. Disons que les machines n'ont pas les m?es formes d'oubli que les humains, et que cela fait effectivement problème. Il faudrait voir comment cela se décline avec les réseaux neuronaux.

- anticiper. Datant d'Archimède ou peu après, la machine d'Anticythère est construite pour prévoir les éclipes. Puis les machines on seri à prévoir la trajectoire des obus. Puis pour la gestion pr?isionnelle des stock, un des premiers articles que j'ai mis en forme dans 0.1. Informatique (fin 1967ou 68) utilisait principalement le lissage exponentiel (un grand mot pour une formule assez simple, d'ailleurs).

- s'adapter ?l'imprévisible. (Vallancien p.75) C'est dès l'origine l'objectif de la cybernétique. Nombre d'observateurs des réseaux neuronaux disent que justement il y a adaptation. On peut considérer que les succès de l'ordinateur aux jeux sont une preuve définitive d'adaptation à l'imprévisible. Reste que, pour les machines comme pour les humains, l'adaptation a ses limites.

- inventer des théories, trouver de nouveaux théorèmes. Les avis des mathéaticiens sont partagé. J'ai consruit un exemple simpliste qui me semble efficace.
Idée de base, une théorie est une suite de signes (voir [Bourbaki] par exemple). La suite de signes doit répondre à certaines conditions (expressions bien formées), qui sont programmables. Reste ensuite à prouver les assertions ainsi générés, soit par déduction à partir des axiomes (technique aujourd'hui largemnet employée), soit pour des phénomènes physiques, représentés en machine par des ensembles d'exemples ou expériendee jugés suffisants , les prouver par induction (au sens physique du terme), avec le risque inhéent à toute généalisation de ce type.

- nous surprendre. Suffit-il de tirer au hasard pour nous surprendre? Il y a des choses plus intéressantes dans l'art génératif, par exemple. Mais surtout dans toutes les grandes machines de jeu (Deep Blue, Watson, AlphaGo). Voir ma communication à l'Afig 2009 : Art, algorithmes, autonomie. Programmer l'imprévisible.

- prendre des initiatives. Nous allons peut-être vers une grande inversion, où les machines prennent l'initiative et ou les humains y répondent. Exemple, encore simpliste mais impressionnant tout de même, le 9 juin 2017, en ouvrant ma page Facebook, je trouve le message ci-contre, avec une petite vidéo et sa musique.

- décider. Une machine de jeux prend incontestablement des décisions. Et non nécessairement programmées, s'il s'agit de r?eaux neuronaux. On peut ici poser plusieurs questions:
. qu'est-ce que vraiment "décider". Un de mes patrons disait (années 1960) "Dans cette entreprise, il n'y a que moi qui prends des déisions. Les autres les exécutent".
. dans quelle mesure les humains acceptent (ou décident) de laisser la décision à une machine; on peut considérer que le droit écrit est une forme de mécanisation des décisions. Voir plus bas juge, et libre.

 >

- être créatif. (Vallancien p.58). Voir surprendre. Enorme littéature sur le sujet.

 >

- avoir de l'intuitition. (Vallancien p.58 )Pas très facile à définir. Mais le terme est employé pour montrer l'importance du thérème d'incomplétude de Gödel : dans un systèùee formel, il y a des propositions indécidables par démonstration, mais que l'intuition nous montre comme vraies. Il y a un bel exemple dans Bailly-Longo. Voir aussi Rucker.

 >

- être cultivé (Vallancien p..67) Assez étonnant A l'époque du big data, de Google et de la machine Watson. On pourra arguer qu'une masse de connaissance n'est pas pour autant une culture, si l'on réserve a priori ce mot aux cerveaux humains (ou animaux par extension).

- être artiste. Si on ne pose pas comme a priori que l'art est une activité spécifiquement humaine, pourquoi pas? Voir notre livre l'Art génératif, et plus généalement diccan .
En revanche, si l'on pose en principe qu'une machine ne pense pas, et que l'art est l'expression d'une pensée, alors, par définition, une machine ne peut être un(e) artiste. Sinon, les capacités de mise en contexte et d'opérations manuelles de l'art sont différentes de celles des machines, inférieures ou supérieures selon les cas.

- se reconnaitre (test du miroir). Aurait été passé avec succès dans l'équipe de Gaussier à Cergy. Voir aussi Le robot QWBO.

- prendre du recul. (Vallancien p.58) Analogie avec le zoom photographique. A préciser. Pourrait vouloir dire :
- prendre un compte un plus large contexte
- se détacher d'un cas particulier au profit d'une moyenne statistique
- traiter la question en termes plus généaux, plus abstraits

Emploi, une machine ne sera jamais...  :

Nota: une personne affectée à une fonction, ou pratiquant une profession, remplit toujours un double rôle : d'une part l'accomplissement des actions techniques définies par son activité, d'autre part une relation humaine avec le client, patient... Dans bien des cas, cette "relation humaine" est recherchée, mais parfois la machine est préférée pour sa disponibilité son anonymat, son impartialité. Et, depuis le Covid, la machine ne risque pas de transmettre le virus.

Par ailleurs, psychologiquement, la présence de l'humain est rassurante, même quand il y a de bonnes raisons de penser qu'un automatisme serait plus sûr.

Exemples :

- opérateur(trice) téléphonique >Strowger, 1913

- poinçonneur du métro >Réponse : péages automatiques, années 1960.

- balayeur. On a vu dans le métro (ou le RER) parisien, vers 1995, des robots balayeurs passer sur les quais et dans les couloirs. Puis ils ont disparu. Raison vraisemblable: laissés à eux-m?es, ils étaient des victimes de choix pour amateurs de désordre.

- dactylo. Réponse: combien de dactylos dans les entreprises aujourd'hui ?

-;conducteur de véhicule sur voie ferrée
- conducteur de véhicule automobile en milieu ouvert (voir plus haut)

- contrôleur aérien. Certains disent que, si les contrôleurs n'étaienet pas si bien syndiqués, ils auraient disparu depuis un moment.

- commercial ou commerçant. Voir Amazon, eBay, Google, et le spam.

- médecin. Un des gros espoirs de de la première IA avec ses systèmes experts (années 1980).

- chirurgien. Progrès rapides de la robotique, dans différentes formes, notamment « nano »

- trader financier. Voir FTS, Fast transaction systems

- soldat.. On a eu très tôt recours aux machines, et la "défense" a toujours fortement soutenu l'informatique (projet Manhattan). Voir "Army of none", de Scharre

- agriculteur . Avec la conduite automatique et le pilotage par GPS, complété par une adaptation précise de la qualité locale du sol... pourquoi faudrait-il que l'agriculteur aille sur ses champs?
Lagestion des cultures selon les parcelles est aussi mise en algorithmes. La m?? comme prévision.

 >

- éleveur. Un peu plus difficile peut-être; mais les "fermes de mille vaches" font un large appel à l'automatisation

 >

-jardinier.OK pour la tonte des pelouses, mais pour le reste ...

- cuisinier(e). >Au niveau industriel, bien sur. A la maison... il y a bien des « robots » pour la cuisine, mais ce ne sont pas vraiment des robots.

- femme de ménage. Difficile d'épousseter le dessus d'une commode avec les bibelots fragiles et d'autant plus précieux qu'ils viennent de la grand-mère

- assistante de vie. Difficile techniquement et humainement. Recherches actives au Japon notamment, où c'est une néessité face au vieillissement, à la baisse de natalité et au rejet des travailleurs étrangers. Travaux japonais importants sur les robots de compagnie (pet robots).  

- infirmier(?e). Développements japonais. Voir un exemple, montrant des applications limitées.

- juge . >Réponse: radars sur les routes. Et quelques notes en Law, Justice, Robots, Algorithms (en cours de révision et traduction vers l'anglais).

 >
- journaliste. >En 2017, une grande part des textes publiés aujourd'hui sont préparés par des machines, ou "par les gens ordinaires" , chatbots;

- correcteur typographique. >Que reste-t-il de ce métier en 2020 ? Juqu'aux années 1970_80, il était respecté et protégé syndicalement.

- musicien(ne). Voir notamment les travaux de Chatonsky, non seulement pour les instrumentistes, mais pour la composition. Cela dit, vous n'êtes pas obligé d'aimer cette musique ;

- programmeur(se). Question à tiroirs. Les compilateurs, puis les méthodes d'analyse (années 1970-90) puis les grands logiciels ont poussé vers le haut les outils de programmation. Reste que l'on écrit encore aujourd'hui en C, C++, Java voire Cobol. Dans quelle proportion?

- psychologue ou psychiatre. On conna^t l'histoire, et les résultats très discutables d'Eliza (Weizenbaum, années 1960), qui a pourtant encore des amateurs en 2017.

- enseignant, professeur. >Cela d?end pourquoi.
. Noter que la plupart des matériels et logiciels informatiques, y compris les caméras, les téléphones, etc. sont livrés pratiquement sans manuels. L'utilisateur apprend par tâtonnements avec quelques aides. Et l'avis des copains.
. Les "machines ?enseigner" puis l' enseignement assisté par ordinateur ont ouvert de grands et aujourd'hui les Mooc, complétés par le téléenseignement.

- ami(e). "Si tu veux un ami, prends un chien" (Churchill). Difficile de penser que l'on puisse aller très loin avec une machine, mêe si des relations très fortes s'établissent.

- partenaire de jeu. Un mur peut suffire, si vous avez une balle, mais c'est aussi une industrie aussi lourde que le cinéma.

- entremetteur(se)agence matrimoniale. IBM y a pensé d?èsles années 1960 ou 70. Aujourd'hui les sites de rencontre.

- partenaire sexuel(le). Il y avait déjà des olisbos dans les grottes préhistoriques. Cependant, notamment au Japon, les love dolls font des progrès réguliers.

- prêtre. >Par définition (thélogique et canonique) un prêtre (catholique en tous cas) est un homme, donc pas une machine. Et, autant que je sache, ni la messe ni la confession à distance ne sont validés par Rome. Mais vous pouvez prier avec votre smartphone, grâce ? quelques applications, notamment Angelus, de Bayard Presse . En cinq langues, dont le latin, et la possibilité de programmer des alertes aux heures adéquates. Et, plus globale (mais payante), Prions en Eglise. Enfin, vous pouvez vous retirer des distractions du monde avec Retraite dans la Ville

- mystique. ? >Mais pourquoi une machine partagerait-elle ce type d'état psychologique? Ces expériences sont aujourd'hui considérées comme indépendantes des croyances religieuses. Pourrait-il y avoir un équivalent en machine?

- préident(e) de la république. Lol.

Relations avec les humains

Ces thèses ne peuvent prendre sens qu'avec des machines où l'on aurait développé une forme de psychisme, avec notamment un système émotionnel, qui serait en partie analogue au nôtre. Est-ce impossible? Il y a beaucoup de recherche dans le domaine (voir, récemment parus, les Robots Emotionnels)
En sens inverse, un humain peut très bien éprouver de l'empathie pour un robot ou n'importe quel objet, par projection plus ou moins "animiste". C'est une spécialité japonaise, rendue nécessaire chez eux par le vieillissement et donc le besoin de "robots de compagnie".

- sympathisant partageant  des passions (Vallancien p.67) ; semble impossible pour un bon moment. Il faudrait que les machines aient des passions, ce qui n'est pas impensable (voir émotions), comprennent celles des humains et entrent en partage... voir ci-dessous, empathie. Le mot "passion" est d'ailleurs ambigu, avec des aspects positifs ("elle se passionne pour l'informatique") mais aussi n?atifs ("il est l'esclave de ses passions".

- avoir de l'empathie(Vallancien p.67) Il y a des travaux de Michel Bret.

- partager des valeurs. >(Vallancien p.67) Pour certaines valeurs, nous pouvons les transposer en machine dans une certaine mesure. Notamment en matière boursièe (FTS, Fast transaction systems), écologique ou esthétique (voir ma communication >Aesthetics and Algorithms : Around the Uncanny peak ?Laval Virtual 2013).

- apprendre les limites à ne pas dépasser pour respecter la dignité humaine. (Vallancien p.88). Question complexe. Etudiée par le Moi Robot d'Asimov (le livre). Problème de l'uncanny valley.

Une Image de la singularité d'après Fabius Maximus

Eléments de Bibliographie

Généralités

CASILLI Antonio A. : En attendant les robots. Seuil 2019.
EngelibertJean-Paul (ed.) : L'homme fabriqu?/i>. R?its de la cr?tion de l'homme par l'homme. Garnier 2000. 1182 pages regroupant les textes ou traductions des grands auteurs du domaine, depuis Hoffmann jusqu'?Angela Karter, en passant par Poe (Le joueur d'?hecs), Villiers de l'Isle Adan (L'Eve future), Capek (RUR) et Huxley (Le meilleur des mondes), avec en annexe Ovide, Descartes, La Mettrie, Baudelaire et Truong.
STEPHENSON Neal : L'age de diamant . Editions Rivages, 1996. Education nano-robots, essaims de drones
e SUAREZ Daniel : Kill Decision . Dutton 2012 . Essaims de drones de combat.
VALLANCIEN Guy : Homo Artificialis. Michalon 2017

Conscience

RUYER Raymond : Paradoxes de la conscience et limites de l'automatisme. Albin Michel, 1956
PENROSE Roger : Les ombres de l'esprit. A la recherche d'une science de la conscience. InterEditions 1995
CHURCHLAND M. : Matiere et conscience. Champs-Vallon 1999
ANCEAU Francois : Vers une etude objective de la conscience. Hermes Science 1999
CARDON Alain : Conscience artificielle et systemes adaptatifs. Eyrolles (?) 1999
DAMASIO Antonio : Self comes to mind. Constructing the conscious brain. Pantheon books 2010
CHALMERS David : L'esprit conscient. A la recherche d'une theorie fondamentale. Paris, Ithaque 2010
DEHAENE Stanislas : Le Code de la conscience. 0dile Jacob 2009- 2013

Intelligence

BOURBAKI N. : El?ents de math?atiques. Livre I. Th?rie des ensembles. Chapitre1. Description de la math?atique formelle. Hermann 1960.
FEIGENBAUM Edward A. et FELDMAN Julian, editors : Computers and Tthought. Mac Graw Hill 1963. Reedite MIT Press 1995 (Vaste ollection d'articles, notamment de Turing)
LEVY Pierre : Les technologies de l'intelligence. L'avenir de la pensee a l'ere informatique. Editions La Decouverte, 1990
ROBERT Claudine : Mod?es statistiques pour l'intelligence artificielle. L'exemple du diagnostic m?ical. Masson 1991
MCCORDUCK Pamela : Aaron's code. Meta-art, artificial intelligence and the work of Harold Cohen. Freeman 1991. Un grand pionnier de la peinture g??ative. Voir aussi dans diccan.
BOLO Jacques : Philosophie contre intelligence artificielle. Lingua Franca 1996
DYSON George B. : Darwin among the Machines. The evolution of global intelligence. Perseus 1997
SALLANTIN Jean : Les agents intelligents. 1997
CREVIER Daniel : A la recherche de l'intelligence artificielle. Flammarion 1999
KAPLAN Frederic : La naissance d'une langue chez les robots. Hermes science 2001.
FRANCHI Stefano and GUZELDERE Guven (eds.) : Mechanical bodies, computational minds. Artificial intelligence from Automata 2005
NECHVATAL Joseph : Towards an immersive intelligence. New York, 2009
BOSTROM Nick : Superintelligence. Paths, Dangers, Strategies. Oxford University Press 2014
GRESS : L'oeil et l'intelligible Kime 2015
DORMEHL Luke : Thinking Machines. The quest for artificial intelligence, and where it's taking us next. Tarcherperigee 2017. (Belle synth?e)

Jeux

HSU Feng-Hsiung : Behind Deep Blue. Princeton university press 2002. La machine qui battit Kasparof aux ?hecs.
MILLINGTON Ian : Artificial intelligence for games. Elsevier 2006
BAKER Stephen : Final Jeopardy. Man Vs. Machine and The Quest to Know Everything. Houghton 2011 (la machine Watson. Ouvrage narratif mais h?as tr? peu technique)
TUAL Mogane : En un an, Google a r?olutionn?le jeu de Go. Le Monde 28-29 mai 2017
BERGSON Henri : Le rire. 1900
BREAZEAL Cynthia L. : Designing sociable robots. MIT Press 2002
MAGNENAT-THALMANN N. et THALMANN D. (eds.) : Handbook of Virtual Humans. Wiley 2004

Cr?tivit?

LAWSON John Howard : Film : the Creative Process. New York, Bill & Wang 1964
BODEN Margaret : Dimensions of creativity. MIT Press 1994
GREENBERG Ira : Processing, Creative coding and computational art. Friendsoft 2007
ESCLAPEZ Christine (sous la direction de) : Ontologies de la creation en musique. L'Harmattan 2012
MCCORMACK Jon and D'INVERNO Mark eds. : Computers and Creativity. Springer 2012
BONACCORSI Julia et al. : Arts et creations au prisme des TIC. L'Harmattan 2015

Art g??atif

COX Geoff : Anti-thesis. The dialectics of generative art. 1990C
BOTHNACKER Hartmut, GROSS Benedikt, LAUB Julia et LAZZERONI Claudius : Design generatif. Concevoir, programmer, visualiser. 2010
BERGER PIerre et LIORET Alain : L'art g??atif. Jouer a Dieu... un droit ? un devoir ? L'Harmattan 2012
GALLANTER Philip : What is generative art ? Complexity theory as a context for art theory. 2013
CHATONSKY : Capture, generative netrock. Centre des arts d'Enghien, 2014
BERGER: Le projer Roxame.3 (?mettre en ligne).

Vie

LUDWIG Mark : Computer viruses, Artifical Life and Evolution. American Eagle, 1993
BODEN Margaret : The philosophy of artificial life. Oxford University Press, 1996
ALLARD Laurence, GARDEY Delphine et MAGNAN Nathalie : Manifeste cyborg et autres essais. Sciences - Fictions - Feminism 2000C
WHITELAW Mitchelll : Metacreation. Art and artificial life. MIT 2004
JOHNSTON John : The allure of machinic life. Cybernetics, artificial life and the new AI. MIT Press 2008
BAILLY Francis and LONGO Giuseppe : Mathematics and the Natural Sciences. The physical Singularity of Life. Imperial college 2011
NELSON Kevin : The Spiritual Doorway in the Brain. Dutton 2011.

Emploi, transhumanisme

KLABBERS Jan : International Law. Cambridge University Press, 2013.
KURZWEIL Ray : The singularity is near. Penguin 2005. Et voir Wikipedia
VAIDHYANATHAN Siva : The Googlization of Everything (and why we should worry). University of California Press 2011
STEINER Christopher : Automate this . Penguin 2012
SUSSKIND Richard : Tomorrow's Lawyers. An introdutcion to your future. Oxford University Press 2013

Valeurs

---