Montag: Chatbots als schlechte Therapeuten, unsicheres KI-System von McDonald's

Beliebte KI-Chatbots sind kein guter Ersatz für menschliche Therapeuten, hat eine Studie ermittelt. Die Forscher mahnen zu mehr Fingerspitzengefühl beim Einsatz von ChatGPT & Co. als Berater. Es gibt zwar Ausnahmen, aber sogar speziell für diese Zwecke trainierte Therapie-Bots schneiden besonders schlecht ab. Chatbot nutzt auch McDonald's, allerdings für Einstellungsgespräche. Doch die dabei gesammelten Daten der Bewerber waren kaum geschützt. Der Chatbot selbst konnte zwar nicht dazu verleitet werden, persönliche Daten anderer preiszugeben. Sicherheitsforscher haben aber einfach Zugriff auf das System der damit beauftragten KI-Firma erlangt. Derweil traf ein Cyberangriff das Portal nius.de. Am Samstag wurden Titel von Artikeln manipuliert und anscheinend auch Abonnentendaten veröffentlicht. Vieles ist derzeit noch unklar, etwa woher der Angriff kam. Das Portal selbst hat sich bislang nicht dazu geäußert, hat aber offenbar mit Reparaturen begonnen – die wichtigsten Meldungen im kurzen Überblick.

Die Rolle von Künstlicher Intelligenz (KI) in der psychischen Gesundheitsversorgung ist Gegenstand intensiver Debatten. Jüngste Forschungsergebnisse werfen ernsthafte Bedenken auf. Ein Team untersuchte systematisch die Reaktionen beliebter KI-Modelle wie ChatGPT auf Szenarien im Zusammenhang mit psychischen Erkrankungen. Die Ergebnisse sind alarmierend: Die einbezogenen Systeme zeigten diskriminierende Muster gegenüber Menschen mit diesen Problemen. Sie lieferten zudem Antworten, die grundlegende therapeutische Leitlinien für ernsthafte Symptome missachten. Bei der Prüfung schnitten kommerzielle KI-gestützte Therapie-Chatbots sogar noch schlechter ab als die allgemeinen KI-Modelle, so die Studie: Therapie-Chatbots sind oft schlechte Berater bei psychischen Problemen.

Chatbots nutzt auch McDonald's. Die Fast-Food-Kette bietet seinen Filialen für die Einstellung neuer Mitarbeiter einen KI-Chatbot namens Olivia an, um die Prozesse zu beschleunigen. Dieser Chatbot nervt viele Bewerber nicht nur mit seltsamen Fragen, sondern sammelt auch viele persönliche Daten. Zwar gibt Olivia selbst keine Daten anderer preis, doch die dafür beauftragte KI-Firma Paradox hatte offenbar kein hohes Verständnis von Datenschutz. Sicherheitsforscher konnten sich relativ leicht Zugriff auf die Daten von bis zu 64 Millionen Bewerbern verschaffen. Immerhin hat Paradox umgehend reagiert und die Sicherheitslücke schnell geschlossen. Es sollen zuvor keine Daten abgeflossen sein: Datenleck bei McDonald's und der für Bewerbungen beauftragten KI-Firma Paradox.

Empfohlener redaktioneller Inhalt

Mit Ihrer Zustimmung wird hier eine externe Umfrage (Opinary GmbH) geladen.

Umfragen immer laden Umfrage jetzt laden

Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (Opinary GmbH) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.

Einen Cyberangriff hat McDonald's also nicht erleiden müssen, im Gegensatz zu "nius.de". Das Portal ist am gestrigen Samstag Opfer einer Cyberattacke geworden. Dabei wurde die Webseite etwas umgestaltet (Defacement). Außerdem haben die Angreifer eine Datenbank mit mutmaßlichen Informationen etwa über Abonnenten der Plattform veröffentlicht. Bei dem Defacement der Webseite wurden alle Überschriften auf der nius.de-Webseite durch eine URL ersetzt, ein Download-Link auf eine Datei, die json-Daten enthält. Die Datei lagert auf der Domain "direction.center" und umfasst offensichtlich Daten von rund 5700 Abonnenten, einschließlich pseudonymisierter Kreditkarten- oder Kontoinformationen: Nach Cyberangriff auf nius.de mutmaßlich Nutzerdaten veröffentlicht.

Claus Fleischer steht als Geschäftsleiter Bosch eBike Systems der E-Bike-Sparte von Bosch vor und ist Vorstandsmitglied des Zweirad-Industrie-Verbands ZIV. Im Interview spricht er sich für eine Regulierung der E-Bike-Branche aus und erklärt, warum ihm Neuling DJI Sorgen bereitet und woran ein einheitlicher Ladestecker bislang scheitert. Seiner Ansicht nach bewegt sich die Branche mit Motoren wie dem 120 Nm starken Avinox-Antrieb von DJI immer weiter weg vom Fahrrad, und so riskiert sie, dass E-Bikes von der EU reguliert werden. Damit könnten alle E-Bikes zulassungspflichtig werden, was sich nur Versicherer wünschen, denn solche Räder bräuchten eine Versicherung, erklärt der E-Bike-Chef von Bosch im Interview: "Bewegen uns immer weiter weg vom Fahrrad".

Die EU-Kommission hat ihren Plan zum Erheben einer Steuer auf große Digitalkonzerne offenbar fallen gelassen. Die Brüsseler Regierungsinstitution habe die Option einer solchen Abgabe von ihrer Liste vorgeschlagener Steuern zum Erzielen von Einnahmen im Rahmen des nächsten siebenjährigen Haushaltsrahmens gestrichen, wird jetzt berichtet. Mit dem potenziellen Rückzieher wollte die Kommission offenkundig in der Schlussphase der Verhandlungen über ein Handelsabkommen zum Vermeiden hoher Zölle zwischen der EU und den USA ein Zeichen setzen. US-Präsident Donald Trump und US-Technologiegiganten wie Amazon, Apple, Google oder Meta würden damit einen Sieg erzielen: EU-Kommission will offenbar Rückzieher bei Digitalsteuer machen.

Auch noch wichtig:

• Ab 1. August gelten 30 Prozent für die EU und Mexiko. Die Union hofft weiter auf eine Einigung, ein erstes Konzept gibt es bereits, nach Trumps 30 Prozent Zölle auf EU-Produkte ab 1. August.
• Fünf Milliarden will Elon Musks KI-Unternehmen in einer neuen Finanzierungsrunde aufnehmen, der größte Teil kommt von SpaceX: SpaceX soll zwei Milliarden US-Dollar in xAI investieren.
• Rund 150.000 Mobilfunknutzer haben nach Funklöchern gesucht. Es zeigt sich, dass der Mobilfunkstandard in Deutschland hoch, doch teils lückenhaft ist: Mobilfunkwoche legt deutliche regionale Lücken offen.
• Die Zukunft von Afrinic wackelt. Cloud Innovation fordert vor Gericht die Auflösung der afrikanischen IP-Registry Afrinic: Abwicklung der IP-Adressverwaltung für Afrika in Mauritius beantragt.
• Meike und 7Artisans bringen neue Festbrennweiten, Nikons Firmware ist immer noch kaputt, und die Band Oasis gängelt Fotografen. Das sind die Fotonews der Woche 28/2025: Neue Primes und Stress mit Konzertfotos von Oasis.
• Die EU-Abgeordneten sind sehr besorgt über die chinesischen Exportbeschränkungen für kritische Rohstoffe und fordern die Kommission zum sofortigen Handeln auf. So sagt das EU-Parlament: China setzt Ausfuhrschranken für seltene Erden als Waffe ein.
• Das Kabel wird zwischen Palm Coast (Florida) und dem spanischen Santander verlaufen. Es soll die Resilienz der Internetinfrastruktur und Googles Cloud stärken. Das Projekt heißt Sol: Google will mit Unterseekabel Florida mit Nordspanien verbinden.
• Nachdem ihr bisheriger Arbeitgeber Windsurf doch nicht von OpenAI übernommen wird, stoßen einige Beschäftigte nun zu Googles DeepMind-Team hinzu: Windsurf-Übernahme durch OpenAI platzt, Chefs und Entwickler wechseln zu Google.
• Quantenphysik gilt als unverständlich, obwohl sie unseren Alltag prägt. Das c't-Webinar bietet einen kompakten und verständlichen Einstieg. Jetzt ist Last-Call: Die faszinierende Welt der Quantenphysik verstehen.
• Kryptowährung im Wert von 250.000 US-Dollar konnte ein Betrüger ergaunern. Er gab sich als Mitglied eines Trump-Spendenkomitees aus. Doch es war bei diesem Krypto-Scam ein nigerianischer Prinz statt US-Präsident.

(fds)