KI Update: Versicherung bei KI-Fehlern, WhatsApp, Trump feuert Copyright-Chefin
Das "KI-Update" liefert werktäglich eine Zusammenfassung der wichtigsten KI-Entwicklungen.
- Marko Pauli
- The Decoder
Lloyd's of London: Versicherung soll Schäden durch KI-Halluzinationen abdecken
Lloyd's of London, ein Versicherungsmarkt, bietet Unternehmen nun eine Absicherung gegen finanzielle Schäden durch fehlerhafte KI-Anwendungen an. Die Versicherung zielt nicht auf alle Fehler ab, sondern auf unerwartete Leistungseinbrüche der Systeme – etwa wenn ein Chatbot, der normalerweise zu 95 Prozent korrekte Informationen liefert, plötzlich auf 85 Prozent abfällt. Als Beispiel nennt Lloyd's einen Fall, bei dem eine Fluggesellschaft die Differenz zu einem fälschlich angepriesenen Sparpreis erstatten musste.
Die neue Police soll Unternehmen ermutigen, KI-Technologien trotz bekannter Unzuverlässigkeiten einzusetzen. Während bisherige Versicherungen KI-Fehler nur in geringem Umfang abdeckten, bietet Lloyd's nun explizit für solche Schäden konzipierte Produkte an.
OpenAI führt Reinforcement Fine-Tuning für Unternehmenskunden ein
OpenAI, der ChatGPT-Entwickler, erweitert sein Angebot für Unternehmen um Reinforcement Fine-Tuning (RFT). Diese Trainingsmethode erlaubt eine präzisere Abstimmung von Modellen wie o4-mini auf spezifische Aufgaben durch ein programmierbares Bewertungssystem. Anders als beim herkömmlichen Supervised Fine-Tuning nutzt RFT keinen festen Satz "richtiger" Antworten, sondern einen "Grader", der Modellantworten numerisch bewertet.
Der Prozess verbessert besonders die Reasoning-Fähigkeiten der Modelle – etwa für einen Finanzberater, der komplexe Anlagestrategien basierend auf Marktdaten entwickeln soll, oder einen juristischen Assistenten, der Gesetzestexte präzise interpretieren muss. Die Methode eignet sich ideal für spezialisierte Bereiche wie Recht und Finanzen, wo nuancierte Entscheidungsfindung wichtiger ist als einfache richtig/falsch-Bewertungen. Parallel dazu hat OpenAI das Supervised Fine-Tuning für GPT-4.1 nano freigegeben und bietet Organisationen, die ihre Trainingsdaten teilen, einen Preisnachlass von über 50 Prozent.
WhatsApp: KI soll künftig Nachrichten zusammenfassen
Meta, der Mutterkonzern von WhatsApp, entwickelt eine KI-Funktion, die ungelesene Nachrichten automatisch zusammenfasst. Die Lösung richtet sich an Nutzer, die von einer Flut neuer Mitteilungen in Gruppen-Chats überfordert sind. Über vermutlich einen Button oberhalb neuer Nachrichten sollen Nutzer künftig eine KI-generierte Zusammenfassung der wichtigsten Informationen abrufen können.
Um die Privatsphäre zu schützen, setzt Meta auf sein kürzlich vorgestelltes "Private Processing". Dieses System soll eine verschlüsselte, anonymisierte Übermittlung der Daten an die Meta-Server gewährleisten, ohne dass Originaldaten gespeichert werden. Die Funktion, die sich noch in Entwicklung befindet, soll in den WhatsApp-Einstellungen deaktivierbar sein.
Empfohlener redaktioneller Inhalt
Mit Ihrer Zustimmung wird hier ein externer Podcast (Podigee GmbH) geladen.
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (Podigee GmbH) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.
ZeroSearch: Alibaba trainiert KI-Suchassistenten in eigener Simulation statt im Web
Alibaba, der chinesische Technologiekonzern, hat mit ZeroSearch eine innovative Trainingsmethode für KI-Suchassistenten entwickelt. Statt auf externe Suchmaschinen wie Google zurückzugreifen, simuliert ein zweites Sprachmodell den gesamten Suchprozess. Dies löst mehrere Probleme: hohe Kosten, mangelnde Kontrolle und technische Skalierungsschwierigkeiten des herkömmlichen Trainings mit echten Suchmaschinen.
Bei ZeroSearch durchläuft das Modell einen strukturierten Lernprozess: Es entscheidet über die Notwendigkeit einer Suche, formuliert Anfragen und verarbeitet simulierte Dokumente. Teil der Methodik ist, dass die Qualität der simulierten Suchergebnisse im Training schrittweise verschlechtert wird, um den Umgang mit unklaren Informationen zu trainieren. In Tests schnitt ZeroSearch mindestens ebenso gut ab wie mit echter Google-Suche trainierte Systeme. Alibaba hat sowohl Modelle als auch Code öffentlich zugänglich gemacht.
SoundCloud öffnet Tür für KI-Training mit Künstlerinhalten
SoundCloud, die Online-Musikplattform, hat im Februar 2024 seine Nutzungsbedingungen geändert und sich das Recht gesichert, hochgeladene Musik für KI-Trainingszwecke zu nutzen. Nachdem der KI-Copyright-Aktivist Ed Newton-Rex dies öffentlich kritisierte, bemühte sich das Unternehmen um Schadensbegrenzung: Man trainiere derzeit keine KI-Modelle mit Künstlerinhalten und verbiete Dritten das Scrapen der Plattform.
Trotz dieser Beteuerungen hat SoundCloud eine künftige Nutzung für generative KI nicht ausgeschlossen. Marni Greenberg, Kommunikationschefin des Unternehmens, bestätigte gegenüber The Verge, dass im Falle eines solchen Trainings klare Opt-out-Möglichkeiten geschaffen würden – ein indirektes Eingeständnis, dass entsprechende Pläne existieren könnten.
Nach KI-Offensive: Klarna setzt wieder verstärkt auf menschliche Kundenbetreuung
Klarna, der schwedische Zahlungsdienstleister, rudert nach seiner radikalen KI-Strategie zurück. Noch im vergangenen Jahr verkündete CEO Sebastian Siemiatkowski, dass KI die Arbeit von 700 Vollzeitkräften übernehmen würde. Nun stellt das Unternehmen wieder Callcenter-Mitarbeiter ein, wie Siemiatkowski in einem Bloomberg-Interview einräumte. Der Grund: Kunden sollen bei Bedarf mit echten Menschen sprechen können.
Die Kehrtwende markiert einen deutlichen Kontrast zu Siemiatkowskis früheren Aussagen. Im Dezember hatte er sich bei einer Präsentation von einer KI-generierten Kopie vertreten lassen und erklärt, die Technik könne letztlich alle Jobs übernehmen. Obwohl er weiterhin KI-enthusiastisch bleibt, gesteht er nun ein, dass die radikale Strategie zu Qualitätseinbußen geführt hat. Klarnas KI-Offensive kam nicht zufällig: Zuvor war die Unternehmensbewertung in einer Finanzierungsrunde um etwa 85 Prozent eingebrochen.
Google verstärkt Browser-Sicherheit mit lokalen KI-Modellen
Google setzt nun KI-Modelle ein, um Chrome-Nutzer besser vor Online-Betrug zu schützen. Auf Desktop-Rechnern kommt das lokale Sprachmodell Gemini Nano zum Einsatz, das auch bisher unbekannte betrügerische Websites erkennen soll. Android-Nutzer erhalten zusätzlichen Schutz vor manipulativen Webbenachrichtigungen.
Diese KI-gestützten Funktionen ergänzen Googles bestehende Safe-Browsing-Technologie "Erweiterter Schutz". Das Unternehmen betont, dass seine KI-Systeme täglich hunderte Millionen betrügerischer Inhalte in der Suche blockieren und beispielsweise die Zahl gefälschter Fluggesellschafts-Supportseiten um über 80 Prozent reduzieren konnten.
Ohne Befugnis: Donald Trump "feuert" Chefin der Copyright-Behörde der USA
Donald Trump hat die Entlassung der Leiterin des US Copyright Office angeordnet – obwohl er dazu rechtlich nicht befugt ist. Für die Besetzung dieser Position ist nicht der US-Präsident, sondern der Leiter der Kongressbibliothek zuständig, der selbst kürzlich entlassen wurde. Die versuchte Entlassung von Shira Perlmutter erfolgte nur wenige Tage nach der Veröffentlichung eines Berichts der Behörde zu urheberrechtlichen Fragen beim KI-Training.
Der Bericht kritisierte die kommerzielle Nutzung urheberrechtlich geschützter Werke für KI-Training, besonders wenn die resultierenden Inhalte mit den Originalen konkurrieren. Demokraten im Kongress sehen einen Zusammenhang mit Elon Musks Interessen im KI-Bereich und seinem Einfluss auf die Trump-Regierung. Paradoxerweise teilte Trump selbst auf Truth Social einen Beitrag, der den Entlassungsversuch scharf kritisiert.
(mali)
