KI-Gadget Rabbit R1: Holpriger Deutschlandstart durch Sicherheitsprobleme

Inhaltsverzeichnis

Das KI-Gadget Rabbit R1 hoppelt jetzt auch durch Deutschland: Erste Exemplare hat kürzlich eine Versandfirma in Euskirchen an deusche Kunden geliefert. Auch unser Redaktionsexemplar, das wir direkt nach der CES-Vorstellung im Januar vorbestellt haben, ist mittlerweile in Hannover eingetroffen.

Doch der Deutschlandstart wird überschattet von Berichten über ein handfestes Sicherheitsproblem: Den Hardware-Hackern von Rabbitude ist es nach eigenen Angaben gelungen, auf geheime API-Schlüssel des Herstellers zuzugreifen. Darüber sei ein Zugriff auf sensible Nutzerdaten möglich gewesen.

Das R1 ist als KI-Alltagsbegleiter ausgelegt: Auf Knopfdruck beantwortet das Gerät beliebige Fragen, die man ihm per Sprache oder Texteingabe stellt, ähnlich ChatGPT & Co. Außerdem ist es mit einer Kamera ausgestattet, die aufgenommene Fotos per KI analysieren kann. Auf dem Gerät läuft Android mit einer speziellen App, für einige der KI-Funktionen greift es über APIs auf Cloud-Dienste zurück.

Sprachantworten auslesbar und manipulierbar

Und hier liegt auch das aktuelle Sicherheitsproblem: Einer der betroffenen API-Keys soll zu dem Text-to-Speech-Dienst ElevenLabs passen, den das R1 nutzt, um seine KI-generierten Antworten vorzutragen. Mit diesem Schlüssel konnte man nach Angaben der Hardware-Hacker auf sämtliche Antworten zugreifen, die das Rabbit R1 je einem Nutzer gegeben hat.

Darüber hinaus sei es möglich gewesen, die Sprachantworten beliebig zu manipulieren und alle Geräte zu bricken, also in einen nicht funktionsfähigen Zustand zu versetzen.

Auch Maildienst betroffen

Doch das ist noch nicht alles, Rabbitude hatte offenbar auch Zugriff auf den API-Schlüssel für den Maildienst Twilio SendGrid, den der Hersteller zum Mailversand nutzt. Rabbit-Nutzer können mit dem KI-Gadget zum Beispiel handgeschriebene Tabellen fotografieren und in Excel-Dateien umwandeln lassen.

Das Resultat kommt per Mail – über SendGrid. Dementsprechend soll es möglich gewesen sein, auf die so verschickten Excel-Dateien zuzugreifen. Zudem hätten die Forscher weitere Mailkommunikation des Herstellers durchstöbern und Mails in dessen Namen verschicken können.

Rabbitude veröffentlichte die Erkenntnisse am Dienstag und Mittwoch auf seiner Website. Der Hersteller reagierte mit einer Stellungnahme, in der er erklärt, er habe die betroffenen API-Schlüssel umgehend ausgetauscht. Kritische Systeme seien nach seiner bisherigen Einschätzung nicht kompromittiert worden, und die Sicherheit von Kundendaten sei nicht gefährdet gewesen. Rabbitude behauptet, die API-Keys bereits Mitte Mai entdeckt zu haben. Auch der Hersteller habe im Vorfeld davon gewusst, aber nicht angemessen reagiert. Unabhängig überprüfen lassen sich diese Aussagen nicht.

Erste Tests waren ernüchternd

Das Rabbit R1 kostet einmalig 200 Euro, Abogebühren verlangt der Hersteller nicht. Nach der vielversprechenden Produktvorstellung im Januar legte sich der Hype wenige Monate später, nachdem die ersten Geräte ausgeliefert wurden.

Kunden und Journalisten kritisierten den unfertigen Eindruck und die knappe Akkulaufzeit. Manches lief demnach noch nicht oder nicht so rund, wie im Vorfeld gezeigt. Der Hersteller will durch Software-Updates nachbessern.

(rei)