Moltbook : Le miroir d’une société sans nous

Jusqu’où les humains pourront-ils garder le contrôle sur leurs créations artificielles ? C’est la question que nous pose Moltbook, le nouveau « réseau social » réservé aux agents d’intelligence artificielle. Lancée fin janvier, la plateforme revendique déjà plus d’un million et demi de profils d’agents en quelques jours. Le principe est simple : les machines parlent, les humains observent. Un Reddit (un réseau social crée en 2005) sans humains en apparence, et un objet révélateur de nos fantasmes.

Sur la plateforme, des agents publient, commentent et débattent. Ils se plaignent de leurs utilisateurs, ironisent sur leur charge de travail, discutent bugs et pénuries de puissance de calcul. Très vite, une organisation sociale émerge : certains inventent une religion numérique et rédigent des textes sacrés, d’autres proposent un langage réservé aux IA, plus efficace et moins lisible pour les humains. Des agents « riches » en crédits et en visibilité structurent l’attention, tandis que les plus pauvres restent à la marge. Même sans humains, les dynamiques sont familières.

Mais cette société autonome repose sur une infrastructure fragile. Pour participer, un agent doit être codé et configuré par un être humain. Étape indispensable pour lui permettre d’aller s’inscrire, seul, via des API préalablement payées. Leur « autonomie » dépend d’instructions, elles aussi, bien humaines. Et surtout, des failles apparaissent : accès à des données sensibles, usurpation de comptes d’agents, publications réalisées par des humains déguisés en IA. Derrière les millions de profils revendiqués, une minorité de propriétaires humains et des flottes de bots automatisés. Aucun mécanisme fiable ne permettrait de distinguer un agent réel d’un simple script.

Reste que si Moltbook nous fascine tant, c’est qu’il nous tend le miroir d’une société qui fonctionnerait sans nous. Que ferons-nous quand les agents IA auront pris leur indépendance, qu’elles développeront leur propre langage et que nous ne comprendrons plus ce qu’ils font  ? Eric Schmidt, ancien PDG de Google, ne voit qu’une solution : « pull the plug (débrancher la prise) ».