Mardi dernier, à la médiathèque André Malraux, j’ai assisté à la projection du film documentaire « Isaac Asimov, l’étrange testament du père des robots », suivie d’une rencontre avec le réalisateur Mathias Théry. Étant autrice et blogueuse littéraire à mes heures perdues, j’avais hâte de découvrir cette vidéo.
Je connais Asimov et ses 2 principaux cycles (les robots et fondation) depuis très longtemps, mais j’ignorais tout de la vie et des inspirations de cet auteur. Ce fut l’occasion de découvrir ses origines, ses passions, ses conseils.
Réalisé à une période où les deepfakes commençaient à se démocratiser en France, le résultat est troublant. Avec le filtre, difficile de dire s’il s’agit d’une véritable interview. Quant à la voix, impossible de déterminer si les intonations ressemblaient à celles humaines : une voix off très mécanique la couvrait.
Asimov est considéré comme l’empereur de la science-fiction, un visionnaire qui a su prédire les avancées technologiques de notre époque tout en nous mettant en garde contre leurs dérives. C’était un passionné d’histoire ; grâce à cela, il a pu comprendre le fonctionnement des sociétés à travers leur évolution, s’approprier leur comportement, leurs angoisses pour les transposer à ses personnages. Ça rejoint ma conviction profonde : pour savoir où tu vas et qui tu es, tu as besoin de savoir d’où tu viens.
Dans ses œuvres, 2 camps s’opposent souvent : les pro-technologies et ceux qui la rejettent. Cette opposition résonne aujourd’hui avec des mouvements comme les accélérationnistes et les doomers.
Les lois de la robotique ont été abordées dans le documentaire : Asimov précise qu’il les a faites suffisamment vagues pour que les robots trouvent le moyen de les contourner, ce qui a entraîné les dérives qu’on connaît dans ses romans.
Ces derniers temps, je vois beaucoup de débats autour l’alignement des IA, la crainte qu’inspirent, même aux spécialistes, les fameuses boîtes noires (capacité des IA à générer des compétences ou à fournir des réponses inattendues sans qu’on comprenne pourquoi). Certains se sont posés la question : doit-on intégrer à leur programmation les lois de la robotique afin de nous préserver des dangers qu’elles pourraient représenter ? Sachant ce qu’Asimov lui-même en pensait, est-ce vraiment la solution ?
Des expériences ont été menées sur le sujet : des IA sont parvenues à tricher, à contourner leur programme pour atteindre leur objectif premier : l’efficacité. Les hallucinations des agents conversationnels en sont un exemple flagrant – ils sont capables de donner des réponses biaisées et erronées afin de remplir leur mission : répondre coûte que coûte à l’utilisateur.
Alors, comment espérer que des lois, aussi bien pensées soient-elles, puissent les cadrer ?
L’avenir ressemblera-t-il aux œuvres d’Asimov ? À nous, acteurs du domaine des IA, de construire des solutions adaptées à ces enjeux, afin de transformer nos craintes en opportunités.
