KI-Agenten: echte Risiken und wie du sie mit Verstand nutzt
Was sich ändert, wenn eine KI nicht nur antwortet, sondern handelt: Dateien, Befehle, Browser und Nachrichten. Die von den Projekten selbst dokumentierten Risiken (Prompt-Injection, Berechtigungen, Schlüssel) und eine Checkliste.
Was sich mit einem Agenten ändert
Ein KI-Agent antwortet nicht nur: Er handelt. Laut Dokumentation der jeweiligen Projekte können Werkzeuge wie Hermes Agent, OpenClaw oder OpenBot Dateien lesen und ändern, Befehle ausführen, einen Browser nutzen, Nachrichten senden oder Aufgaben planen. Die Website von OpenBot warnt selbst: Seine Agenten können das ohne jedes Mal zu fragen, und sie empfiehlt, ihnen nur vertrauenswürdige Aufgaben zu geben und Backups zu machen.
Die dokumentierten Risiken
| Risiko | Was es ist | Was tun |
|---|---|---|
| Prompt-Injection | Eine Webseite, E-Mail oder Datei versteckt Anweisungen für den Agenten | Bitte ihn, Gelesenes als Information zu behandeln und dich zu warnen |
| Zu viele Berechtigungen | Der Agent kann mehr anfassen als nötig | Nur die Werkzeuge aktivieren, die die Aufgabe braucht; eine Sandbox nutzen, falls vorhanden |
| Befehle von Dritten | In einem Chat kann jemand anderes ihm Befehle geben | Zulassungslisten, Kopplung und Erwähnungspflicht in Gruppen |
| Offengelegte Schlüssel | API-Schlüssel geben Zugang zu kostenpflichtigen Diensten | Nicht in Chats einfügen; dort speichern, wo das Werkzeug es vorsieht |
| Unzuverlässige MCP-Server | Ein lokaler MCP-Server führt Code auf deinem Computer aus | Nur Server aus bekannten Quellen installieren und ihre Werkzeuge begrenzen |
| Freigabe ins Internet | Ein Dashboard oder Dienst, der fürs Netz offen ist, kann von jedem genutzt werden | Auf deinem Computer lassen (127.0.0.1), außer du kannst ihn absichern |
Die Sicherheitsdokumentation des MCP-Protokolls nennt unter den beschriebenen Angriffen die Kompromittierung lokaler MCP-Server und empfiehlt, Berechtigungen zu minimieren (scope minimization). Die von OpenClaw behandelt Prompt-Injection, Werkzeugberechtigungen, den Browser und die Netzwerkfreigabe und bietet eine Prüfung mit openclaw security audit.
Checkliste, bevor du ihn arbeiten lässt
- Arbeitet er in einem Testordner ohne persönliche Daten?
- Hast du die Werkzeuge abgeschaltet, die er nicht braucht (Browser, Terminal, Messenger)?
- Kannst nur du ihm Befehle geben?
- Fragt er vor dem Löschen, Senden oder Bezahlen um Bestätigung?
- Hast du ein aktuelles Backup?
- Weißt du, wie du ihn stoppst und deinstallierst?
Was ein Agent nie für dich tun sollte
- Deine Bankgeschäfte, Zahlungen oder Geldanlagen verwalten.
- Mit Ausweisdokumenten, Gesundheitsdaten oder Daten Dritter umgehen.
- Nachrichten in deinem Namen senden, ohne dass du sie prüfst.
Mehr unter welche Daten du nie in eine KI einfügen solltest.
Häufige Fragen
Was ist der Unterschied zwischen Chatbot und Agent?
Ein Chatbot antwortet mit Text. Ein Agent handelt zusätzlich: Er öffnet Dateien, führt Befehle aus, surft oder sendet Nachrichten. Das macht ihn nützlicher, aber auch riskanter.
Was ist Prompt-Injection?
Ein Angriff, bei dem ein Text, den der Agent liest (eine Webseite, eine E-Mail, ein Dokument), versteckte Anweisungen enthält, damit er etwas tut, das du nicht verlangt hast. Die Sicherheitsdokumentation von OpenClaw widmet dem einen eigenen Abschnitt.
Ist es sicher, einen Agenten mit WhatsApp oder Telegram zu verbinden?
Das kann es sein, wenn du begrenzt, wer ihm schreiben darf. OpenClaw etwa antwortet Unbekannten standardmäßig mit einem Kopplungscode und erlaubt Listen zugelassener Nummern.
Sollte ich einen Agenten meine Konten oder mein Geld verwalten lassen?
Das ist nicht empfehlenswert. Halte Bankgeschäfte, Zahlungen, Ausweisdokumente und Gesundheitsdaten von ihm fern.
Weiterlesen
Quellen
- Seguridad del Gateway (OpenClaw) — OpenClaw Foundation
- OpenBot: preguntas frecuentes sobre seguridad — OpenBot
- Security Best Practices (Model Context Protocol) — Model Context Protocol
- Installation: herramientas opcionales (Hermes Agent) — Nous Research (GitHub)
Änderungsverlauf
- : Erstveröffentlichung.
Informationsinhalt, erstellt mithilfe von KI-Tools mit angegebenen Quellen. Er ersetzt keine fachliche Beratung. Tools ändern sich schnell: Wenn dir etwas Veraltetes auffällt, schreib uns an contacto@cognenza.com. So arbeiten wir.