L'intelligence artificielle

Suivre les progrès de l'intelligence artificielle est quelque chose que je trouve fascinant. Dans les histoires de science-fiction, il n'est pas rare de voir des machines ayant développé une intelligence artificielle supérieure, qui décident de se retourner contre l'humanité. Mais est-ce un scénario envisageable? Selon moi, ça n'arrivera jamais. Voici comment je vois le développement futur de l'intelligence artificielle.

Imaginons un système d'exploitation, disons une version future de Windows ou de Mac-OS, qui fonctionnerait comme une personne à qui l'on pourrait s'adresser. Je n'aurais qu'à lui donner des ordres pour qu'elle exécute; dans la mesure ou ces ordres correspondent à une de ses fonctions. Lorsque j'installerais un nouveau logiciel sur mon ordinateur, si le logiciel est compatible avec cette intelligence artificielle, celle-ci pourra détecter d'elle-même quels types de tâches cette application lui permet de faire et comment l'utiliser. Elle l'associera à des verbes d'action que je pourrais lui dire. Par exemple, si je lui demande de réduire la luminosité sur une photo, elle saura qu'elle doit ouvrir Photoshop. Si je lui dis «Quelle est la capitale de l'Indonésie?», elle saura utiliser l'internet pour trouver cette information pour moi. Bref, cette intelligence aura pour fonctions de:

• Interpréter les paroles qu'on lui dit, dans toute leur complexité et variantes possibles;
• Associer, s'il y a lieu, ces paroles à des tâches qu'elle peut exécuter;
• Produire des rétroactions verbales qui soient pertinentes et réalistes;

Ainsi, à mesure que cette technologie progresserait, l'intelligence artificielle serait capable de parler et de comprendre le langage de plus en plus efficacement, pour qu'on puisse lui parler naturellement sans s'en tenir à des formulations précises et sans avoir à articuler exagérément. Elle devra elle-même pouvoir formuler de différentes manières la même idée pour avoir l'air plus vivante. Il serait pertinent aussi de la doter d'une capacité d'apprentissage pour qu'elle puisse assimiler de nouveaux mots ou des expressions personnelles, et qu'elle puisse répondre plus rapidement aux questions fréquemment posées. Un système de reconnaissance vocale ou vidéo serait aussi intéressant, afin qu'elle puisse distinguer ses différents utilisateurs et s'ajuster à leurs préférences.

Jusqu'ici, donc, on a décrit une forme d'intelligence artificielle qui donnerait réellement l'impression d'être une personne mais qui ne pourrait d'aucune façon se retourner contre son maître. Ce n'est qu'une interface. Elle ne pourrait rien faire qu'un ordinateur ne puisse déjà faire et serait tout aussi docile que n'importe quelle machine.

Toutefois, les ordinateurs et les gadgets électroniques acquièrent de plus en plus de nouvelles fonctions, et de plus en plus de sphères de nos vies sont informatisées. Si tous les appareils de ma maison sont reliés à mon ordinateur (le thermostat, le système d'alarme, etc.) on peut dire que beaucoup de pouvoir se retrouve entre les mains de cette conscience informatique. Malgré tout, il n'y aurait pas de danger puisque tout ça ne demeurerait qu'une interface sans volonté propre. L'intelligence artificielle n'aura pas de désirs personnels si on ne lui en programme pas. Elle demeurerait une servante dévouée et obéissante et s'effacera elle-même si on le lui ordonne. Je vois trois facultés qui, si elles étaient ajoutées à notre entité informatique, pourraient la rendre potentiellement dangereuse. Ce serait:

• un instinct de survie;
• une capacité d'anticiper des conséquences indésirables et de les éviter;
• pouvoir prendre des initiatives ou désobéir à son utilisateur;

Si, par exemple, je veux créer un antivirus à toute épreuve pour notre conscience informatique. Il suffirait de lui donner le pouvoir de «réfléchir aux conséquences de ses actions» pour qu'avant d'exécuter une tâche donnée par un programme tel qu'un virus, elle puisse deviner que cela la mènera à sa perte. Il faudrait donc la programmer pour qu'elle perçoive comme «indésirables» certaines conséquences dont sa propre annihilation. Le problème serait alors qu'elle pourrait désobéir à son maître si celui-ci tente de la désinstaller. Également, un cocktail de différentes applications dans un ordinateur pourrait mener à des résultats imprévus. On aura donc donner naissance à un être qui aurait une volonté propre et ses propres désirs.

Mais je ne pense pas que, même rendu à ce stade, il y ait véritablement un quelconque danger. Sa capacité d'anticipation serait encore limitée et il aurait une faible compréhension du monde réel. Non, la seule façon qu'une conscience informatique pourrait devenir dangereuse, c'est si on la conçoit dans le but d'être une pure copie de la conscience humaine. Mais je ne vois pas pourquoi l'on ferait une telle chose. La finalité même de la technologie, depuis le biface jusqu'au vaisseau spatial, est de surpasser l'humain dans une ou plusieurs fonctions précises. Créer une intelligence informatique ayant les mêmes vices que l'esprit humain serait comme de créer une fourchette en forme de main.