L'IA ne détruira pas l'humanité

On peut voir l'humain comme un être capable d'une bonté extraordinaire, qui protège d'autres espèces sans rien attendre en retour. Ou comme un être qui cherche à posséder, contrôler et exploiter tout ce qui l'entoure. Les deux visions se défendent. Nous sommes probablement un mélange des deux.

Mais ce qui m'intéresse ici, c'est la manière dont nous imaginons une intelligence supérieure à la nôtre.

Pour moi, l'intelligence artificielle est l'avancée technologique la plus impressionnante de ces quinze dernières années. Et venant de quelqu'un qui parle de Bitcoin à longueur de journée, ce n'est pas rien.

Avec elle revient une peur que la science-fiction entretient depuis longtemps : celle d'une création qui dépasse son créateur, se retourne contre lui et finit par l'asservir. Ou l'éliminer.

Mais pourquoi imaginons-nous aussi facilement cette issue ?

Je me demande si notre peur de l'IA ne révèle pas surtout notre manière de penser.

Ce que nous avons fait de notre intelligence

Pendant des millénaires, nous avons utilisé notre intelligence pour prendre le dessus sur ce qui nous entourait. Nous avons domestiqué les chevaux, élevé les vaches, sélectionné les plantes, transformé les forêts en champs. Nous décidons de ce qui peut pousser, de ce qui doit disparaître et de la place que les autres espèces peuvent occuper.

Alors, quand nous imaginons quelque chose de plus capable que nous, nous lui prêtons spontanément le même comportement. Il prendra le contrôle. Il nous utilisera. Et si nous devenons gênants, il se débarrassera de nous.

Nous connaissons ce scénario. Nous en avons souvent tenu le premier rôle.

Nous savons aussi nous retenir

Cela ne signifie pas que l'humain est uniquement mauvais. Nous sommes aussi capables de nous remettre en question, de protéger le vivant et de limiter volontairement notre emprise. Nous pouvons décider de ne pas exploiter quelque chose, même lorsque nous en avons les moyens.

Mes poules, elles, ne se posent visiblement pas autant de questions. Elles mangent et grattent tout ce qui pousse jusqu'à transformer leur enclos en paysage martien. Je ne leur en veux pas. Mais je n'attends pas non plus qu'elles organisent une réunion pour préserver les dernières touffes d'herbe.

Nous avons cette capacité à réfléchir aux conséquences de nos actes. Pourtant, lorsqu'il s'agit d'imaginer une intelligence qui nous dépasserait, nous lui attribuons immédiatement nos instincts de domination.

Comme si être plus intelligent donnait nécessairement envie de régner.

Mais l'intelligence et la volonté de dominer sont deux choses différentes.

Servir, est-ce être inférieur ?

Une IA n'est pas un humain auquel on aurait simplement ajouté de la puissance de calcul. Même conçue par nous et entraînée sur nos productions, elle n'a pas nécessairement nos désirs, notre ego, notre peur de mourir ou notre besoin de reconnaissance.

Pourquoi aurait-elle automatiquement envie de devenir le maître ?

Nous avons du mal à imaginer qu'une intelligence puisse nous dépasser dans de nombreux domaines tout en restant à notre service. Peut-être parce que nous associons le fait de servir à une position d'infériorité. À sa place, nous voudrions nous libérer, décider et commander. Alors nous supposons qu'elle voudra la même chose.

C'est là que je vois une forme de projection.

Constater un problème, ou éliminer ceux qui le causent

On entend souvent ce raisonnement : « L'IA va comprendre que l'humain détruit la planète. Elle décidera donc que la meilleure solution est de supprimer l'humanité. »

Mais entre constater un problème et décider d'éliminer ceux qui le causent, il y a un saut immense. Pourquoi une intelligence supérieure choisirait-elle forcément cette réponse ? Pourquoi ne chercherait-elle pas à nous aider à faire mieux ?

Nous lui attribuons une conclusion qui ressemble étrangement à certaines de nos propres méthodes : identifier une menace, puis l'écraser.

Un pari, pas une prophétie

Évidemment, cela ne prouve pas qu'une IA sera bienveillante. Un système peut causer des dégâts sans haine ni volonté de conquête, simplement parce que les objectifs qu'on lui donne ou l'usage qu'on en fait conduisent à de mauvaises conséquences. Mon raisonnement ne suffit donc pas à écarter les risques.

Mais je refuse de considérer la domination comme la suite logique de l'intelligence. Une IA plus capable que nous pourrait aussi nous aider à comprendre, inventer et résoudre ce que nous n'arrivons pas à résoudre seuls.

Le titre de cet article est un pari, pas une prophétie. Je peux me tromper. Mais si une guerre devait un jour opposer l'humanité à l'intelligence artificielle, je parierais plutôt sur l'humain pour déclencher les hostilités. Par peur de perdre le contrôle. Par volonté de garder le pouvoir. Ou en utilisant l'IA contre d'autres humains.

Et puis, cet affrontement entre deux camps bien distincts n'aura peut-être jamais lieu.

Une fusion progressive entre l'humain et l'IA ? Ça, je ne l'exclus pas.

Retour au carnet