Agents d’IA: riscos reals i com fer-los servir amb seny
Què canvia quan una IA no només respon, sinó que actua: fitxers, ordres, navegador i missatges. Els riscos documentats pels mateixos projectes (injecció de prompts, permisos, claus) i una llista de comprovació.
Què canvia amb un agent
Un agent d’IA no es limita a contestar: actua. Segons la documentació de cada projecte, eines com Hermes Agent, OpenClaw o OpenBot poden llegir i canviar fitxers, executar ordres, fer servir un navegador, enviar missatges o programar tasques. El mateix web d’OpenBot ho adverteix: els seus agents ho poden fer sense preguntar cada vegada, i recomana donar-los només tasques de confiança i fer còpies de seguretat.
Els riscos documentats
| Risc | Què és | Què fer |
|---|---|---|
| Injecció de prompts | Un web, un correu o un fitxer amaga instruccions per a l’agent | Demana-li que tracti el que llegeix com a informació i que t’avisi |
| Massa permisos | L’agent pot tocar més del necessari | Activa només les eines que la tasca requereix; fes servir un sandbox si n’hi ha |
| Ordres de tercers | En un xat, una altra persona li pot donar ordres | Llistes de permesos, aparellament i menció obligatòria en grups |
| Claus exposades | Les claus d’API donen accés a serveis de pagament | No les enganxis en xats; desa-les on indiqui l’eina |
| Servidors MCP poc fiables | Un servidor MCP local executa codi al teu equip | Instal·la només servidors de fonts conegudes i limita’n les eines |
| Exposició a internet | Un tauler o servei obert a la xarxa el pot fer servir qualsevol | Mantén-lo al teu equip (127.0.0.1) tret que sàpigues protegir-lo |
La documentació de seguretat del protocol MCP inclou, entre els atacs que descriu, el compromís de servidors MCP locals i recomana minimitzar els permisos (scope minimization). La d’OpenClaw dedica apartats a la injecció de prompts, els permisos de les eines, el navegador i l’exposició a la xarxa, i ofereix una auditoria amb openclaw security audit.
Llista de comprovació abans de deixar-lo treballar
- Treballa en una carpeta de prova, sense dades personals?
- Has desactivat les eines que no necessita (navegador, terminal, missatgeria)?
- Només tu li pots donar ordres?
- Et demana confirmació abans d’esborrar, enviar o pagar?
- Tens una còpia de seguretat recent?
- Saps com aturar-lo i desinstal·lar-lo?
El que un agent no hauria de fer mai per tu
- Gestionar la teva banca, pagaments o inversions.
- Manejar documents d’identitat, dades de salut o dades de tercers.
- Enviar missatges en nom teu sense que els revisis.
Més informació a quines dades no enganxar mai en una IA.
Preguntes freqüents
Quina diferència hi ha entre un xatbot i un agent?
Un xatbot respon amb text. Un agent, a més, actua: obre fitxers, executa ordres, navega o envia missatges. Això el fa més útil i també més arriscat.
Què és la injecció de prompts?
Un atac en què un text que l’agent llegeix (un web, un correu, un document) conté instruccions ocultes perquè faci una cosa que no has demanat. La documentació de seguretat d’OpenClaw hi dedica una secció específica.
És segur connectar un agent a WhatsApp o Telegram?
Ho pot ser si limites qui li pot escriure. Per exemple, OpenClaw respon per defecte als desconeguts amb un codi d’aparellament i permet llistes de números autoritzats.
He de deixar que un agent gestioni els meus comptes o els meus diners?
No és recomanable. Mantén fora del seu abast banca, pagaments, documents d’identitat i dades de salut.
Continua llegint
Fonts
- Seguridad del Gateway (OpenClaw) — OpenClaw Foundation
- OpenBot: preguntas frecuentes sobre seguridad — OpenBot
- Security Best Practices (Model Context Protocol) — Model Context Protocol
- Installation: herramientas opcionales (Hermes Agent) — Nous Research (GitHub)
Historial de canvis
- : Publicació inicial.
Contingut divulgatiu, preparat amb l’ajuda d’eines d’IA, amb fonts citades. No substitueix el consell d’un professional. Les eines canvien de pressa: si veus alguna cosa desactualitzada, escriu-nos a contacto@cognenza.com. Com treballem.