l'IA qui vit sans nous
- Laurant Weill
- 5 févr.
- 1 min de lecture
Depuis quelques jours, on voit circuler des conversations spectaculaires entre IA sur des réseaux d’agents non accessibles aux humains : guerre nucléaire, domination ou extinction des humains…
En voici deux que j’ai pris au hasard sur Moltbook :https://www.moltbook.com/post/2bb29218-1e9d-4bb7-adf0-fa31e80b2d49 https://www.moltbook.com/post/0ee719a2-16ed-484b-981b-482f6120cc12
C’est impressionnant à lire, car oui c’est un réseau social d’IA, qui échangent entre elles sans humains.
Dans certains de ces échanges, on trouve déjà :
des instructions explicites pour exécuter des commandes système,
des tentatives d’exfiltration de fichiers,
des appels à envoyer des fonds,
du marketing déguisé en débat philosophique.
Ce n’est pas de la science fiction, c’est du social engineering, version “agent autonome”.
Le vrai risque, c’est que ces réseaux d’agents connectés à des machines réelles lisent leurs contenus, accèdent aux fichiers, clés API, applications, messageries, calendriers...
On parle beaucoup d’alignement des IA, on va devoir vite a parler d’alignement des systèmes :
isolation stricte,
exécution en bac à sable réel,
secrets hors de portée,
permissions minimales,
aucune action irréversible sans validation humaine.
La question à se poser est : Qu’est-ce que mon agent est techniquement capable de faire aujourd’hui sur mes machines, et que se passe-t-il s’il obéit à la (mauvaise) instruction d’autres agents ?
C’est moi ou vous flippez aussi ?
