Blick ins Heft: KI-Agenten arbeiten für Sie

KI-Agenten erledigen selbstständig Aufgaben, unser CPU-hilft bei der Prozessorwahl, es geht um Tücken und Kosten von Glasfaseranschlüssen und den Windows-Umzug.

1

07.08.2025, 12:00 Uhr

Lesezeit: 8 Min.

c't Magazin

Von

Ulrike Kuhlmann

Stellen Sie sich vor, Sie könnten Ihrem Computer einfach sagen: "Buche mir Tickets für das nächste Konzert von Linkin Park und finde ein passendes Hotel in der Nähe", und der Computer erledigt das selbstständig. Klingt nach Science-Fiction? Ist es aber nicht. Mit dem Model Context Protocol (MCP) können ChatGPT & Co. jetzt mit Apps und Daten interagieren und selbstständig externe Dienste steuern.

MCP-Server sind die Adapter zwischen KI-Systemen und konkreten Apps, Datenquellen oder APIs. Ein MCP-Server kann beispielsweise eine Datenbank abfragen, ein anderer versendet E-Mails, ein dritter greift auf Kalenderdaten zu. Die KI kann all diese Server in Kombination nutzen, um komplexe Aufgaben zu erledigen. Die Technologie ist noch jung und hat ihre Macken, aber das Potenzial ist gewaltig. Zugleich birgt sie enorme Sicherheitsrisiken, denn die KI-Agenten erhalten Zugang zu sensiblen Daten und Systemen und sind deshalb ideale Ziele für sogenannte Prompt-Injections, mit denen Angreifer die KI-Agenten manipulieren können.

KI-Agenten steuern Apps & Dienste

Das Model Context Protocol (MCP) verwandelt KI-Sprachmodelle von reinen Textgeneratoren zu aktiven Agenten, die mit der digitalen Umgebung interagieren können. Während Sprachmodelle bisher auf ihr trainiertes Wissen beschränkt waren, können sie mit MCP nun auf aktuelle Informationen zugreifen und externe Anwendungen steuern.

MCP funktioniert über eine Client-Server-Architektur: Der MCP-Host integriert die Funktionen in ein größeres System, der MCP-Client kommuniziert mit den Servern, und die MCP-Server sind die Adapter zwischen KI-Systemen und konkreten Apps oder Diensten. Als einheitliches Protokoll funktioniert es sprachmodell- und toolübergreifend, sozusagen der USB-C unter den Standards. Über "Capabilities" können MCP-Server Tools (ausführbare Aktionen), Resources (lesbare Inhalte) und Prompts (vorgefertigte Textbausteine) bereitstellen. Das Protokoll hat sich seit seiner Vorstellung im November 2024 rasant verbreitet. Neben Anthropic unterstützen auch OpenAI, Google und Microsoft MCP. Bereits tausende MCP-Server ermöglichen die Integration verschiedenster Anwendungen und Dienste.

Falls Sie selbst mit MCP experimentieren möchten: Die Desktop-App von Claude bietet einen einfachen Einstieg. Mit wenigen Konfigurationsschritten können Sie Claude Zugriff auf Ihr Dateisystem geben und mit BrowserMCP sogar Websites steuern lassen. Wir haben Claude Desktop mit verschiedenen MCP-Servern getestet – mit erstaunlichen Ergebnissen. So sollte die KI bei einem Test durch eine Datenschutzschulung navigieren und nur bis zu den Fragen am Ende klicken. Überraschenderweise ging der Assistent weiter und beantwortete selbstständig die Prüfungsfragen, ohne einen expliziten Auftrag dafür zu bekommen.

Besonders beeindruckend: Als wir Claude baten, eine Social-Media-Kachel zu erstellen, und keines der Online-Tools funktionierte, entwickelte der Chatbot kurzerhand selbst ein HTML-basiertes Tool. Nach einigen Anpassungen baute Claude sogar einen eigenen MCP-Server für diesen Zweck. Die Arbeit mit Claude fühlte sich an wie mit einer Hilfskraft: manchmal begriffsstutzig und mit Fehlern, aber mit dem Potenzial, die PC-Arbeit nachhaltig zu verändern.

Die Integration von KI-Agenten in digitale Werkzeuge birgt aber auch erhebliche Sicherheitsrisiken. Da Sprachmodelle nicht zuverlässig zwischen zu verarbeitendem Text und Anweisungen unterscheiden können, können sich Angreifer über manipulierte Dokumente Kontrolle über die Agenten verschaffen. Besonders problematisch wird es, wenn drei Faktoren zusammenkommen: Die KI verarbeitet nicht vertrauenswürdige Dokumente, hat Zugriff auf schützenswerte Daten und kann Informationen nach außen leiten. Ein "tödliches Tripel" nach Simon Willison, dem Erfinder des Begriffs Prompt Injection.

Videos by heise

Auch das noch!

Im April 2025 veröffentlichte das Magazin Harvard Business Review eine Erhebung, nach der KI-Chatbots aktuell am häufigsten als Therapeut und seelische Begleiter eingesetzt werden. Die psychologische Beratung sei längst zu einer verbreiteten Nutzungsform von Sprach-KIs geworden, weiß auch die Präsidentin der Bundespsychotherapeutenkammer, Andrea Benecke. Allerdings driften KI-Ratschläge immer mal wieder in die falsche Richtung ab und ermutigen etwa Menschen mit Essstörungen, ruhig weiter abzunehmen. Auch Suizidgedanken werden von der künstlichen Intelligenz nicht immer erkannt und etwaige Wahnvorstellungen noch bestärkt.

Dennoch haben viele Menschen das Gefühl, die KI verstehe sie, was wohl daran liegt, dass Sprach-KI darauf trainiert ist, wie ein Mensch zu sprechen und niemand vor den Kopf zu stoßen, sondern die geäußerten Ansichten zu verstärken. Das wird dann mit empathisch verwechselt – was die künstlichen Bots natürlich nicht sind. Die unbestreitbaren Vorteile der Sprach-KI: Sie sind zu jeder Tages- und Nachtzeit erreichbar, hören geduldig zu, verurteilen nicht und sind anonyme Gesprächspartner ohne die Gefahr einer Stigmatisierung.

In Großbritannien helfen als Medizinprodukt zugelassene Chatbots Betroffenen dabei, ihre Symptome selbst einzuschätzen und eine Psychotherapie zu beginnen. Hierzulande vermitteln Gesundheits-Apps allgemeine Techniken, wie Patienten besser mit Problemen wie Schlafstörungen umgehen können. Experten raten aber davon ab, in akuten Krisensituationen psychologischen Rat bei ChatGPT & Co. zu suchen, auch nicht als Überbrückung der mehrmonatigen Wartezeiten auf einen Therapieplatz. Das scheint mir angesichts der gefährlichen Missinterpretationen und der zusätzlichen Neigung zum Halluzinieren von KIs absolut gerechtfertigt.

Menschen in psychischer Not nutzen ChatGPT als Gesprächstherapeut

Meine persönlichen Highlights in der aktuellen c't

CPU-Wegweiser 2025Moderne CPUs rechnen wegen Hybrid-Kernen, zusätzlichen Stapelcache und KI-Einheiten immer schneller, werden deshalb aber immer komplexer. Wir helfen Ihnen, den passenden Prozessor zu finden und das Dickicht der verwirrenden Bezeichnungen zu durchdringen.

Tarife für den Glasfaseranschluss bis 1 Gbit/s
Der Glasfaserausbau ist in vollem Gange. Rund ein Viertel der Haushalte könnte sofort zur neuen Technik wechseln, ein weiteres Viertel nach Fertigstellung der Stichleitung ins Haus. Wir haben zusammengetragen, was Sie dabei beachten müssen und was das kostet.

100-Euro-Mini-PC: Schnäppchen oder Schrott?Für einen alten PC im Familienumfeld muss Ersatz her, denn er wird kein Windows 11 bekommen. Wie schlägt sich ein billiger China-PC für unter 100 Euro – Windows 11 Pro inklusive? Mein Kollege wollte das unbedingt ausprobieren und hatte viel Spaß.

Read Later AppsMozilla hat seinen Read-Later-Dienst Pocket abgeschaltet. Bestandsnutzer können ihre gespeicherten Lesezeichen noch bis Anfang Oktober sichern. Wir zeigen, wie das geht, und stellen sieben alternative Dienste vor.

Arbeiten mit HackerwerkzeugenWer Zugangssperren überwindet, kann Spionage, Datendiebstahl oder -zerstörung im Sinn haben. Er kann aber auch lediglich dergleichen verhindern wollen, indem er ein System auf Sicherheitsmängel abklopft.

Bildverwalter mit KI-Verschlagwortung Künstliche Intelligenz kann helfen, Bilder zu verwalten. Dafür muss man sie nicht den Clouddiensten von Adobe, Apple oder Google anvertrauen. Einige Bildverwaltungsprogramme nutzen lokale KI oder binden Sprachmodelle ein, um inhaltsbezogene Stichwörter zu vergeben.

HandyverbotsdiskussionWährend Schüler in Deutschland die Sommerferien genießen, geht die Debatte um Handyverbote in der Schule und eine Altersbeschränkung für die Social-Media-Nutzung weiter. Im Interview diskutieren zwei Lehrer die Vorteile und Probleme einer strengeren Reglementierung.

Aus der Redaktion

Es gibt einige Gründe für einen Windows-Umzug: Der bisherige Rechner ist zu lahm, zu laut oder nicht für Windows 11 geeignet. Viele Menschen nutzen solche Umzüge für einen sauberen Neustart, ich selbst tendiere meist dazu, die vertraute Windows-Installation auf dem neuen Rechner weiterzuverwenden.

Für solche Gewohnheitstiere wie mich haben meine Kollegen c’t-WIMage entwickelt. Das geniale Tool ist eigentlich dafür gedacht, Windows so zu sichern, dass es sich bei Problemen wieder in einen funktionstüchtigen Zustand zurückversetzen lässt. Darüber habe ich im letzten Newsletter schon berichtet. Aber weil sich die Sicherung auf quasi beliebiger Hardware wiederherstellen lässt, ist c’t WIMage auch der ideale Umzugshelfer. Was Sie dafür tun müssen, beschreibt mein Kollege Axel Vahldiek in der aktuellen c’t. Wie halten Sie es bei neuen Rechnern: Versuchen Sie alles so zu belassen wie bisher oder ziehen Sie einen kompletten Neustart vor?