Spécialité NSI · notions : la conscience, la technique
Une machine peut-elle penser ?
Vous programmez des machines qui jouent aux échecs, reconnaissent un visage, écrivent des phrases. À partir de quand pourrait-on dire qu'elles pensent — ou même qu'elles sont conscientes ? Et si une machine se comporte exactement comme un être pensant, quelle différence reste-t-il ? Cette question, un mathématicien l'a posée en 1950 : elle n'a pas fini de nous occuper.
Le geste de Turing — remplacer la question
« Les machines peuvent-elles penser ? » Turing juge la question mal posée (que veut dire « penser » ?) et la remplace par un test observable : le jeu de l'imitation. Un juge dialogue par écrit avec un humain et une machine, sans savoir qui est qui. Si la machine parvient à se faire passer pour l'humain, alors, dit Turing, refuser de lui accorder la « pensée » devient arbitraire. Génie du déplacement : il troque une question métaphysique (qu'est-ce que penser ?) contre une question comportementale (que sait-on faire ?).
Atelier interactif — jouez le juge
Voici trois réponses. À chaque fois : humain, ou machine ? Devinez, puis révélez.
La difficulté à trancher est le point : le test mesure un comportement, pas une expérience vécue. Réussir l'imitation prouve-t-il qu'il y a « quelqu'un » derrière les mots ?
L'objection de Searle — la chambre chinoise
Le philosophe John Searle répond par une expérience de pensée. Imaginez-vous enfermé dans une pièce, avec un énorme manuel : quand on vous glisse des symboles chinois, le manuel vous dit quels autres symboles renvoyer. Vous produisez des réponses parfaites en chinois — sans comprendre un mot de chinois. Vous manipulez de la syntaxe (des formes) sans aucune sémantique (du sens). Or, dit Searle, c'est exactement ce que fait un ordinateur. Réussir le test de Turing, ce serait comme être la chambre : simuler la compréhension, sans comprendre.
« Simuler, ce n'est pas être »
Simuler une tempête ne mouille personne ; simuler la compréhension ne comprend rien. La pensée, dit Searle, a un contenu (l'intentionnalité) que le pur calcul n'atteint pas.
La réponse du système
Objection inverse : peut-être que l'homme seul ne comprend pas, mais que le système entier (homme + manuel + salle) comprend, lui. Le débat reste ouvert — et c'est votre travail d'en peser les deux côtés.
Au-delà : les données et la liberté
La question n'est pas qu'abstraite. Des algorithmes décident déjà d'un prêt, d'un tri de candidatures, d'un fil d'actualité. Deux enjeux philosophiques surgissent : la responsabilité (qui est responsable d'une décision prise par un système que personne ne comprend entièrement ?) et la liberté (une recommandation qui anticipe mes désirs les oriente-t-elle ?). Savoir coder, c'est aussi savoir poser ces questions — c'est ce que la philosophie ajoute à la NSI.
Du concret au concept
Un article de 1950 remplace une question métaphysique — une machine peut-elle penser ? — par un protocole : un juge, deux interlocuteurs cachés, cinq minutes de conversation écrite. Le déplacement est peut-être la plus grande ruse philosophique du siècle, et c'est un mathématicien qui l'a faite.
Les notions du programme, telles que ce cas les pose
La conscience
Le jeu de l'imitation ne mesure pas la pensée : il mesure ce qu'un observateur ne peut pas distinguer. Toute la question est de savoir si l'indiscernabilité suffit — ou si quelque chose se passe à l'intérieur dont aucun comportement ne rend compte.
La technique
Une machine universelle n'est pas un outil de plus : c'est un outil qui peut simuler n'importe quel autre. Ce changement de nature, établi mathématiquement en 1936, précède de dix ans la première machine construite.
Le langage
Le test de Turing est un test de conversation. Il fait donc du langage le critère de l'esprit — hypothèse forte, héritée de Descartes, et qu'on peut contester.
Les repères, définis en situation
Un repère ne s'apprend pas : il se manie. Chacun est donné ici avec sa définition, puis avec le travail précis qu'il fait dans ce dossier — c'est le second point qui compte en copie.
Objectif / subjectif
Objectif : constatable par tous. Subjectif : accessible au seul sujet qui l'éprouve.
Ce que ce cas en fait. Turing renonce délibérément au subjectif : il ne demande pas si la machine éprouve quelque chose, il demande ce qu'un observateur peut établir. C'est un choix de méthode, et c'est là que porte toute la critique — dont l'argument de la chambre chinoise.
Ressemblance / analogie
Ressemblance : proximité de propriétés. Analogie : identité de rapports.
Ce que ce cas en fait. Une machine qui converse ressemble à un interlocuteur. Est-elle pour autant à sa pensée ce que je suis à la mienne ? Le repère permet de formuler exactement ce qui manque à l'argument de Turing, sans avoir à décider s'il a tort.
Formel / matériel
Formel : ce qui tient à la structure et aux règles. Matériel : ce qui tient au support.
Ce que ce cas en fait. Un algorithme est formel : il vaut quel que soit le support — engrenages, lampes, silicium, neurones. Si la pensée est formelle, alors le support est indifférent et la machine peut penser. Si elle ne l'est pas, le support compte. La question « une machine peut-elle penser ? » se ramène presque entièrement à ce repère.
Les sujets que cette passerelle arme
Pour chaque sujet : l'exemple précis et daté que vous tirez d'ici, et l'endroit de la copie où il rend le plus.
-
Une machine peut-elle penser ?
exemple central
Le jeu de l'imitation (Turing, Computing Machinery and Intelligence, 1950) est le seul protocole qui ait jamais été proposé pour trancher. L'employer comme dispositif à discuter, pas comme réponse.
-
Suis-je ce que j'ai conscience d'être ?
objection
Le renversement utile : le test de Turing vaut aussi pour autrui. Je n'ai jamais accès à la conscience d'un autre humain — j'infère. Une objection qui empêche de disqualifier la machine par un critère qui disqualifierait aussi mon voisin.
-
La technique transforme-t-elle l'homme ?
accroche
Ouvrir sur 1936 : une machine qui peut imiter toutes les machines existe d'abord comme théorème, et seulement ensuite comme objet. Une accroche qui pose que la technique commence parfois par une idée.
Un exemple daté vaut mieux que trois références vagues : c'est ce qui distingue une copie qui sait d'une copie qui récite. Reprenez les dates, elles comptent autant que les noms.
Corpus & documents
Trois siècles séparent ces deux « tests » — et pourtant ils se répondent.
Descartes, Discours de la méthode, 1637, 5ᵉ partie (domaine public)
« [Les machines] ne pourraient jamais user de paroles ni d'autres signes en les composant, comme nous faisons pour déclarer aux autres nos pensées. »
Descartes propose déjà, en 1637, un « test du langage » pour distinguer l'homme de la machine. En quoi anticipe-t-il Turing — et en quoi s'y oppose-t-il ?
Alan Turing, « Les ordinateurs et l'intelligence », 1950 (domaine public)
« Je propose d'examiner la question : “les machines peuvent-elles penser ?” Cela devrait commencer par définir le sens des termes “machine” et “penser”. »
Turing juge finalement cette définition impossible et la remplace par un test. A-t-il résolu la question — ou l'a-t-il seulement contournée ?
Extraits dans le domaine public. Commentaires et questions originaux.
Galerie — images du domaine public
Images libres de droit en rapport avec ce dossier.
Écouter
Fiches et carnet dans la phonothèque.
Aucun fichier audio n'est hébergé sur le site.
Atelier d'écriture — un retour immédiat
Sujet : « Suffit-il de se comporter comme un être pensant pour penser ? »
Confrontez Turing (le comportement suffit) et Searle (il manque la compréhension). Thèse, objection, réponse.