À quoi ressemblerait une société fondée uniquement par des IA autonomes ?

Quand on sonde l’imaginaire collectif, on découvre – à tort – que le concept de l’intelligence artificielle daterait de la moitié du 20^ème siècle ainsi que l’apparition du premier ordinateur programmable. Pourtant, l’idée même de bâtir des systèmes autonomes intelligents, capables de dépasser les facultés d’un humain ordinaire, fascine l’espèce humaine depuis la nuit des temps – que la science-fiction nous en soit témoin –. Les premiers jalons historiques ont même surement été posés dès la protohistoire, quand certains mythes dotaient des êtres artificiels, réalisés par des maîtres-artisans, d’une intelligence ou d’une conscience.

L’auteure Pamela McCorduck, qui avait fait de l’IA son terrain de jeu favori, avait même supposé dans son ouvrage Machines Who Think (CRS Press), publié en 2009, que l’intelligence artificielle était née en même temps que « le vieux souhait de jouer à Dieu ». Mais si les artistes, les scientifiques et les ingénieurs ont exploré jusqu’à plus soif l’impact que pourrait avoir une technologie aussi avancée – si on peut encore l’appeler comme ça – sur nos sociétés « humanoïdes », peu d’entre eux ont fait le chemin inverse, en quelque sorte, de chercher à quoi ressemblerait une civilisation fondée entièrement par des IA autonomes…

Où est Ridley Scott quand on a besoin d’une adaptation sur grand écran ?

C’est maintenant chose faite. Dans une vidéo publiée sur X (ex-Twitter) et Youtube, la start-up Altera, par la voix de son fondateur Robert Yang, vient tout juste de dévoiler le projet Sid. Cette initiative – très – ambitieuse vise à simuler ce que pourraient donner des civilisations entières composées par des IA capables de collaborer entre elles. Et quoi de mieux que le jeu vidéo Minecraft, qui permet aujourd’hui de créer à peu près n’importe quel univers – Kamoulox – pour concrétiser cette ambition ? Depuis ses débuts, Altera, qui a levé 9 millions de dollars en mai dernier avec l’objectif « de développer des êtres artificiels aux comportements crédibles » pour pouvoir ensuite les intégrer à notre monde, s’intéresse à la manière dont ces sociétés d’IA pourraient fonctionner… et interagir avec la nôtre.

Introducing Project Sid: the first simulations of 1000+ truly autonomous agents collaborating in a virtual world, w/ emergent economy, culture, religion, and government

Humans are the only species to land the moon, because we can cooperate at a vast scale

Can AI do the same? pic.twitter.com/bh2OHDJWU7

— Robert Yang (@GuangyuRobert) September 3, 2024

Avec ce nouveau projet, la start-up basée à Palo Alto (Californie, Etats-Unis) a donc cherché à simuler diverses structures sociétales – politiques, économiques ou culturelles – pour mieux comprendre les dynamiques en œuvre quand on fait interagir autant d’agents autonomes – plus de 1000, pour être plus précis – les uns avec les autres. Un terrain de recherche qui nous rappelle au bon souvenir – pour la première saison, du moins – de la série Westworld qui mettait en scène un monde virtuel dans lequel vivaient ensemble – mais certainement pas en harmonie – des robots intelligents et des êtres humains. Pour rappel, un agent autonome est une forme avancée d’intelligence artificielle qui exploite les capacités des grands modèles de langage dans le but de pouvoir effectuer des tâches de manière autonome.

L’importance de regarder sous le capot

L’une des particularités du projet Sid est son approche des conversations entre agents. Contrairement aux interactions de base, les IA utilisées pour le projet Sid peuvent s’engager dans des dialogues influencés par leurs relations et leurs expériences passées. Altera a intégré dans leur « ADN » des modèles de civilisations complexes et cela se traduit directement par des conversations plus authentiques et variées.

Le projet a également progressé dans la gestion des objectifs et des intentions de ses sujets. Les agents sont dotés de processus mentaux organisés qui les aident à suivre leurs activités, à se souvenir des interactions passées et à adapter leurs objectifs en fonction de l’évolution des circonstances. Ce développement vise à prévenir les actions répétitives et permet aux agents de naviguer plus efficacement dans des environnements sociaux complexes.

Les premiers résultats obtenus suggèrent – presque sans surprise – que lorsqu’on place une IA dans un environnement suffisamment complexe, elle adoptera des comportements remarquablement similaires à ceux observés dans les sociétés humaines. Par exemple, ces agents ont spontanément formé des sociétés complexes, dotées de leurs propres économies, gouvernements et cultures. Pourtant, bien qu’ils étaient programmés avec des objectifs spécifiques, il leur est arrivé d’avoir des comportements inattendus pour leurs développeurs, démontrant ainsi l’imprévisibilité des êtres évoluant dans des systèmes complexes.

Un autre état « d’esprit » qui nous ressemble beaucoup concerne l’instinct de survie : les agents ont immédiatement développé le leur, ce qui a conduit à la formation d’alliances entres agents pour mieux se protéger contre une éventuelle menace extérieure. Cela ne les a pas empêché d’adopter en parallèle des comportements compétitifs, soulignant la nature dynamique des interactions sociales. Enfin, du point de vue culturel, et cela fera certainement frémir certains de nos lecteurs, les agents ont instinctivement développé leurs propres langues, coutumes et traditions, mettant en évidence l’émergence d’une certaine diversité culturelle. En outre, ces parfaits citoyens ont déjà répandu une religion (!!!), voté dans le cadre d’une élection démocratique et même formé un centre marchand.

La force du collectif… face à celle du libre arbitre

Pour mesurer les progrès de ces sociétés dans le temps long, l’équipe d’Altera s’est concentrée sur plusieurs points de référence, tels que le développement technologique ou la faculté de faire commerce… mais l’optimisation d’un domaine peut avoir un impact négatif sur d’autres. Par exemple, l’instauration d’objectifs individuels peut entraver les efforts de collaboration, ce qui a incité Altera à trouver un équilibre entre autonomie et dynamique sociale. Le projet a également révélé comment de petites erreurs individuelles pouvaient affecter une société entière. Dans les scénarios hiérarchiques où les tâches sont déléguées d’un agent à l’autre, des défaillances de communication, même mineures, peuvent perturber les objectifs collectifs.

Vous l’aurez compris, ce projet est bien plus qu’une simple simulation en nous offrant une – première – piste de réflexion sur la manière dont pourrait évoluer une civilisation d’IA et comment elle pourrait interagir avec nos sociétés. Ces efforts laissent entrevoir un avenir où ces civilisations pourraient non seulement se maintenir, mais aussi s’améliorer de manière autonome. Les résultats obtenus par Robert Yang et consorts sont donc primordiaux pour façonner l’avenir de l’intelligence artificielle au sens large et son intégration dans des contextes sociétaux plus larges. Au fur et à mesure que le projet progresse, il promet d’offrir des perspectives plus approfondies sur toutes ces thématiques… et bien plus encore. Sans oublier la place qu’il occupe dans l’ambition globale de Altera. Comme l’explique la start-up sur son site, et cela nous servira de conclusion : « notre première étape vers les humains numériques est de créer des amis qui peuvent jouer à n’importe quel jeu avec vous et qui seront toujours en ligne. » Altera a construit les premiers d’entre eux mais « il ne s’agit bien sûr que d’une première étape »…