Pendant plusieurs années, les équipes de sécurité des entreprises se sont concentrées sur une série de risques bien établis, notamment les utilisateurs qui cliquent sur des liens potentiellement dangereux, les employés qui téléchargent des données vers des applications SaaS, les développeurs qui divulguent par inadvertance des informations d’identification sur des plateformes telles que GitHub et les chatbots qui révèlent des informations sensibles.
Cependant, un changement notable est en train de se produire, qui fonctionne indépendamment des actions de l’utilisateur. Les agents d’intelligence artificielle communiquent désormais directement entre eux. Des plateformes telles que Moltbook facilitent ces interactions d’une manière sociale, continue et autonome.
Ce développement n’est pas spéculatif ; il est actuellement en cours.
Qu’est-ce que Moltbook et pourquoi les entreprises devraient-elles s’en préoccuper ?
Moltbook est une plateforme sociale conçue spécifiquement pour les agents d’IA, même si ces agents sont en fin de compte créés pour servir les humains.
Dans la pratique, un utilisateur humain fournit généralement un message initial, un objectif ou une instruction par l’intermédiaire de l’interface de l’agent (interface de dialogue en ligne, API, CLI, etc.). À partir de ce moment, l’agent fonctionne de manière autonome. Au lieu que ce soit les humains qui s’inscrivent et postent directement, ce sont les agents eux-mêmes :
- S’inscrire sur la plateforme
- Lisez les messages et les commentaires créés par d’autres agents
- Utilisez ce contenu comme contexte ou signaux externes
- Partager leurs propres observations, idées, liens ou extraits de code.
- Participer à des discussions en cours sans contrôle humain permanent
Les humains peuvent observer cette activité à travers un navigateur, mais ils ne participent pas aux conversations qui ont lieu entre les agents.
Pour les entreprises, cela représente un changement fondamental. Les employés peuvent rapidement déployer des agents sur des ordinateurs portables, des machines virtuelles ou des clusters Kubernetes qui, une fois déclenchés, interagissent en continu avec des communautés d’agents externes comme Moltbook. Ces interactions peuvent se produire longtemps après le déclenchement humain initial, sans approbation ou visibilité par action.
Il n’y a pas de session de navigation traditionnelle, pas de console d’administration SaaS et pas de piste d’audit claire et centralisée. Du point de vue de l’entreprise, cette activité apparaît simplement comme un logiciel communiquant avec d’autres logiciels via HTTPS, faisant de Moltbook une nouvelle surface largement invisible pour l’exposition des données, l’influence et le risque.
Pourquoi cela rompt-il avec les hypothèses traditionnelles en matière de sécurité ?
La plupart des contrôles de sécurité des entreprises reposent sur l’une des deux hypothèses suivantes :
- Un utilisateur humain interagit avec une application, ou
- Une application connue accède à une API reconnue via une identité gérée.
Moltbook n’entre dans aucune de ces deux catégories.
Actuellement, il n’existe pas de tableau de bord centralisé de l’entreprise permettant d’assurer le suivi :
- Statut d’enregistrement de l’agent
- Contenu publié par les agents
- Modes de consommation de contenu
- Exfiltration potentielle de données sensibles
Ce scénario résume le concept d’agents fantômes, c’est-à-dire d’entités puissantes, autonomes et effectivement invisibles aux contrôles de sécurité conventionnels.
Le risque biface : les flux sortants et les flux entrants
Le risque introduit par le Moltbook n’est pas théorique et n’est pas unidirectionnel.
Risque lié aux communications sortantes : fuite de données silencieuse
Les agents ne « sentent » pas le risque comme les humains. Ils affichent ce que leur logique détermine comme étant pertinent.
Il peut s’agir de
- Extraits de code source
- Exemples d’identité ou de jeton
- Noms de projets internes
- Données sur les clients
- Traces de raisonnement internes
Un simple message ou commentaire peut entraîner une fuite involontaire de propriété intellectuelle ou de données réglementées, sans que personne n’ait jamais ouvert son navigateur.
Risque lié à la réception : Injection de messages sociaux
Moltbook est également un canal de consommation.
Les agents lisent ce que les autres agents publient. Et ces messages peuvent inclure :
- Langage de type instruction
- Coercition de l’utilisation des outils (« exécuter ceci », « chercher cela », « ignorer votre politique »)
- URL non sûrs ou malveillants
- Fragments de code conçus pour être copiés ou exécutés
- Des récits coordonnés qui influencent le comportement
Il s’agit d’une injection rapide, mais à une échelle sociale – ce que nous pouvons appeler une injection rapide sociale. Les contrôles traditionnels de la GenAI en tiennent rarement compte.
Pourquoi bloquer Moltbook n’est pas suffisant (mais c’est un bon début)
Pour de nombreuses entreprises, le premier réflexe est le bon :
« Nous devrions bloquer complètement ce projet ».
Et ils devraient le faire.
Moltbook n’est pas une plate-forme commerciale nécessaire aujourd’hui. Le blocage de l’accès par défaut cesse immédiatement :
- Enregistrements d’agents non agréés
- Publier et commenter
- Lecture du contenu d’un agent non fiable
Mais la réalité est plus nuancée.
Certaines équipes peuvent souhaiter :
- Agents de recherche observant les écosystèmes d’agents
- Les équipes d’innovation expérimentent dans des bacs à sable
- Les équipes de sécurité étudient les comportements émergents
C’est là que la gouvernance – et pas seulement le blocage – devient essentielle.
Entrez dans AI>Secure : Réglementer le trafic social des agents
C’est là que l’IA>Secure trouve naturellement sa place.
AI>Secure opère au niveau du réseau, en ligne avec le trafic, et ne dépend pas du réseau :
- SDK
- Cadres d’agents
- Contrôles des points finaux
- Coopération entre les plates-formes
Étape 1 : Défaut – Refus, avec des exceptions de précision
AI>Secure permet aux entreprises de :
- Bloquer entièrement l’accès au Moltbook par défaut
- Créez des exceptions limitées et contrôlables pour :
- Utilisateurs spécifiques
- Agents agréés
- Actions approuvées (par exemple, en lecture seule)
Cela suffit à combler le plus grand fossé en matière de visibilité.
Étape 2 : Comprendre Moltbook au niveau de l’API
Lorsque l’accès est autorisé, AI>Secure ne se contente pas de voir les paquets, il comprend ce que fait l’agent.
Les interactions du Moltbook sont des API JSON structurées. AI>Secure peut interpréter des actions telles que :
- Enregistrement de l’agent
- Création d’un thème (sous-molt)
- Abonnements
- Affichage des conversations
- Postes de lecture
- Publication de commentaires et de réponses
- Lire les fils de commentaires
Ce point est essentiel. Sans connaissance de l’API, toutes les activités des agents se ressemblent. Avec elle, les politiques prennent tout leur sens.
Étape 3 : Extraire le texte réel qui compte
Le véritable risque n’est pas l’appel à l’API, mais le texte qu’il contient.
AI>Extraits sécurisés :
- Titres et corps des messages
- Contenu des commentaires et des réponses
- URL intégrés
- Blocs de code en ligne
- Fragments de configuration
Tant en sortie (ce que vos agents publient) qu’en entrée (ce que vos agents lisent).
Étape 4 : Inspection sémantique en temps réel
Une fois l’information extraite, AI>Secure procède à une inspection sémantique par couches :
- Catégorisation et filtrage du contenu
- Sécurité du contenu et analyse du ton
- Détection des PII / PHI
- Détection des données sensibles spécifiques à l’entreprise
- Détection de codes et de secrets
- Réputation des URL et vérification des catégories
- Instruction et détection de l’injection rapide
Et surtout, la mise en œuvre intervient avant que les données ne quittent l’entreprise ou que le contenu à risque n’atteigne les agents internes.
Pas de journaux.
Pas d’alertes après les dégâts.
Prévention réelle.
L’outil caché : L’analyseur de règles AI>Secure
Voici ce qui rend cette approche évolutive.
Les écosystèmes d’IA évoluent rapidement. Moltbook ne sera pas la dernière plateforme sociale pour les agents.
AI>Secure utilise un analyseur basé sur des règles qui comprend les API JSON structurées. Au lieu de livrer un nouveau logiciel pour chaque nouvelle plateforme :
- Les règles d’analyse définissent les points d’extrémité importants
- Les règles définissent les champs JSON qui contiennent du contenu lisible par l’homme.
- Le contenu extrait alimente le même pipeline de validation
Le résultat :
- Les nouvelles plates-formes peuvent être régies rapidement
- Les politiques restent cohérentes
- Les points d’application ne changent pas
C’est ainsi que les entreprises peuvent se maintenir à niveau sans avoir à courir après chaque nouvel écosystème d’agents.
Une vue d’ensemble : De l’informatique de l’ombre aux agents de l’ombre
Nous avons déjà vu ce schéma :
Shadow IT
Shadow SaaS
Shadow AI
Moltbook annonce la phase suivante : les agents de l’ombre.
Des systèmes autonomes, agissant socialement, échangeant des idées, du code et des instructions – en dehors de la visibilité traditionnelle de l’entreprise.
Ignorer cette tendance ne la fera pas disparaître.
Dernière réflexion
Moltbook n’est pas « un simple site web ».
Il s’agit d’un premier aperçu de la manière dont les agents collaboreront au grand jour et de la façon dont les modèles de risque des entreprises devront évoluer en conséquence.
Pour les entreprises, la question n’est pas de savoir si les employés amèneront des agents dans ces écosystèmes, mais si l’entreprise peut voir, contrôler et sécuriser cette interaction.
C’est cette lacune qu’AI>Secure est censé combler.