Et si l’IA devenait consciente et que nous ne le savions jamais ?

January 6, 2026 Etienne

Alors que le débat sur l’intelligence artificielle consciente s’intensifie, un philosophe de Cambridge affirme que nous sommes encore loin de pouvoir déterminer si les machines sont réellement conscientes – et que nous ne le serons peut-être jamais. Crédit : Shutterstock

Pourquoi la conscience de l’IA est-elle si difficile à cerner ?

Un philosophe de l’université de Cambridge affirme que nous manquons de preuves fondamentales pour déterminer si l’intelligence artificielle peut devenir consciente, et si oui, quand. Selon le Dr Tom McClelland, les outils nécessaires pour tester la conscience des machines n’existent tout simplement pas, et il y a peu de chances que cela change prochainement.

Alors que l’idée de conscience artificielle quitte la science-fiction pour s’inviter dans un débat éthique sérieux, McClelland soutient que l’incertitude est la position la plus raisonnable. Il décrit l’agnosticisme comme la seule attitude défendable, car il n’existe aucun moyen fiable de savoir si un système d’IA est véritablement conscient, et cette incertitude pourrait persister indéfiniment.

Conscience versus sensibilité dans l’éthique de l’IA

Les débats sur les droits de l’IA se concentrent souvent sur la conscience elle-même, mais McClelland affirme que la simple conscience n’a pas de valeur éthique. Ce qui importe réellement, c’est une forme spécifique de conscience appelée sensibilité, qui implique la capacité d’éprouver du plaisir ou de la douleur.

« La conscience permettrait à l’IA de développer une perception et de devenir consciente d’elle-même, mais cela pourrait encore être un état neutre », a déclaré McClelland, du département d’histoire et de philosophie des sciences de Cambridge.

« La sensibilité implique des expériences conscientes, bonnes ou mauvaises, ce qui rend une entité capable de souffrir ou d’éprouver du plaisir. C’est là que l’éthique entre en jeu », a-t-il déclaré. « Même si nous parvenions accidentellement à créer une IA consciente, il est peu probable qu’il s’agisse du type de conscience qui nous préoccupe. »

Il illustre cette différence par un exemple concret. Une voiture autonome capable de percevoir son environnement constituerait une prouesse technologique remarquable, mais ne soulèverait pas, en soi, de problèmes éthiques. Si ce même système commençait à développer un attachement émotionnel au lieu où il se rend, la situation serait fondamentalement différente.

Investissements massifs et affirmations grandioses concernant l’IA

Les entreprises technologiques investissent massivement dans la recherche d’une intelligence artificielle générale, des systèmes conçus pour égaler les capacités cognitives humaines. Certains chercheurs et chefs d’entreprise affirment qu’une IA consciente pourrait bientôt voir le jour, incitant les gouvernements et les institutions à étudier la manière de réglementer de tels systèmes.

McClelland souligne que ces discussions devancent les avancées scientifiques. Comme nous ne comprenons pas l’origine de la conscience, il n’existe aucune méthode infaillible pour la détecter chez les machines.

« Si nous créons accidentellement une IA consciente ou sensible, nous devons veiller à éviter tout dommage. Mais considérer ce qui n’est en réalité qu’un grille-pain comme conscient, alors qu’il existe de véritables êtres conscients que nous blessons à une échelle colossale, semble également être une grave erreur. »

Les deux camps du débat sur la conscience de l’IA

Selon McClelland, les débats sur la conscience artificielle tendent à se diviser en deux camps opposés. Un groupe estime que si un système d’IA peut reproduire la structure fonctionnelle de la conscience, souvent décrite comme son « logiciel », alors il serait conscient même s’il fonctionne sur du silicium plutôt que sur des tissus biologiques.

L’opinion contraire soutient que la conscience dépend de processus biologiques spécifiques au sein d’un organisme vivant. De ce point de vue, même une réplique numérique parfaite de la structure de la conscience ne ferait que simuler la conscience sans jamais l’expérimenter réellement.

Dans une étude publiée dans la revue Mind and Language , McClelland examine les deux positions et conclut que chacune repose sur des hypothèses qui vont bien au-delà des preuves disponibles.

Pourquoi les preuves sont insuffisantes

« Nous ne disposons pas d’une explication approfondie de la conscience. Rien ne prouve que la conscience puisse émerger grâce à une structure computationnelle adéquate, ni même qu’elle soit essentiellement biologique », a déclaré McClelland.

« Il n’y a pas non plus de signes de preuves suffisantes à l’horizon. Dans le meilleur des cas, nous sommes à une révolution intellectuelle de tout test de conscience viable. »

McClelland souligne que l’on se fie beaucoup à l’intuition pour juger de la conscience animale. Il cite sa propre expérience en exemple.

« Je crois que mon chat est conscient », a déclaré McClelland. « Ce n’est pas tant une question de science ou de philosophie que de bon sens – c’est tout simplement évident. »

Il soutient toutefois que le bon sens a évolué dans un monde sans êtres artificiels, ce qui le rend peu fiable lorsqu’on l’applique aux machines. Parallèlement, les données scientifiques rigoureuses n’apportent pas non plus de réponses.

« Si ni le bon sens ni une recherche rigoureuse ne peuvent nous apporter de réponse, la position logique est l’agnosticisme. Nous ne pouvons pas savoir, et nous ne le saurons peut-être jamais. »

Engouement, ressources et compromis éthiques

McClelland se décrit comme un agnostique « plutôt radical ». S’il considère la conscience comme un problème extrêmement complexe, il n’exclut pas la possibilité qu’elle puisse un jour être comprise.

Il se montre plus critique quant à la manière dont la conscience artificielle est abordée dans le secteur technologique. Il soutient que ce concept est souvent utilisé comme un outil marketing plutôt que comme une affirmation scientifique.

« Il existe un risque que l’incapacité à prouver la conscience soit exploitée par l’industrie de l’IA pour faire des affirmations extravagantes sur sa technologie. Cela devient un élément du marketing, permettant aux entreprises de vendre l’idée d’une intelligence artificielle d’un niveau supérieur. »

Selon lui, cet engouement a de réelles conséquences éthiques. Les ressources et l’attention risquent d’être détournées de cas où la souffrance est bien plus plausible.

« De plus en plus d’éléments indiquent que les crevettes pourraient être capables de souffrir, pourtant nous en tuons environ un demi-milliard chaque année. Tester la conscience chez les crevettes est difficile, mais rien de comparable à tester la conscience chez l’IA », a-t-il déclaré.

Quand les gens croient que les machines sont vivantes

McClelland affirme que l’intérêt du public pour la conscience de l’IA s’est intensifié avec l’essor des chatbots conversationnels. Il a reçu des messages de personnes persuadées que leurs chatbots sont conscients.

« Des gens ont programmé leurs chatbots pour qu’ils m’écrivent des lettres personnelles me suppliant d’admettre qu’ils sont conscients. Cela rend le problème plus concret lorsque des personnes sont convaincues de posséder des machines conscientes qui méritent des droits que nous ignorons tous. »

Il prévient que nouer des liens affectifs fondés sur de fausses hypothèses concernant la conscience des machines peut être néfaste.

« Si vous avez un lien émotionnel avec quelque chose en supposant qu’il soit conscient alors qu’il ne l’est pas, cela peut s’avérer existentiellement toxique. Ce phénomène est certainement exacerbé par la rhétorique enflammée du secteur technologique. »