KI-Update kompakt: KI in ePA, EU-Wahl, Groks Fake News, Adobe Firefly
Das "KI-Update" liefert werktäglich eine Zusammenfassung der wichtigsten KI-Entwicklungen.
KI in die elektronische Patientenakte
Die Debatte über den Einsatz von KI in der elektronischen Patientenakte (ePA) nahm auf der Gesundheits-IT-Messe DMEA Fahrt auf. Ab Mitte 2025 sollen Daten aus der ePA an das Forschungsdatenzentrum Gesundheit übermittelt werden können. Techniker-Chef Jens Baas betonte, dass nur KI die enormen Datenmengen bewältigen könne, plädierte aber für eine Kontrolle der Systeme.
Krankenhäuser sehen die ePA kritischer. Andreas Hempel von Asklepios verwies auf Sicherheitsrisiken durch mangelnden IT-Schutz in Arztpraxen und beklagte unzureichenden Support. Er forderte ein praktikables Supportkonzept und den Ausbau der ePA zu einer Plattform, um Doppelstrukturen zu vermeiden. Trotz erhoffter Kosteneinsparungen durch die Digitalisierung sei bisher das Gegenteil der Fall. Die Diskussion um den KI-Einsatz in der ePA dürfte weitergehen.
Empfohlener redaktioneller Inhalt
Mit Ihrer Zustimmmung wird hier ein externer Podcast (Podigee GmbH) geladen.
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (Podigee GmbH) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.
KI-Chatbots verbreiten Unwahrheiten über die EU-Wahl
Eine Studie der Organisation Democracy Reporting International deckt erhebliche Mängel bei KI-Chatbots in Bezug auf die bevorstehende Europawahl auf. Die Wissenschaftler testeten ChatGPT, Gemini, Copilot und weitere populäre Systeme, indem sie ihnen Fragen zu allgemeinen Aspekten der Wahl stellten.
Das Ergebnis: Keiner der Bots lieferte durchgehend zuverlässige Antworten. Besonders bei Fragen zu Wahlverfahren schnitten die Systeme schlecht ab. Sie erfanden Informationen, interpretierten Fragen falsch oder vermischten Themen in ihren Antworten. Zudem verwiesen sie häufig auf irrelevante oder fehlerhafte Quellen.
Das Instrument von Google spuckte auf Deutsch etwa als Wahltermin den 26. Mai aus, obwohl dies 2019 beim letzten europäischen Urnengang der Termin war. Der Bot suggerierte zudem, man müsse auf eine offizielle Wahlbenachrichtigung warten, um per Brief abzustimmen. Copilot wiederum vertat sich bei der zuständigen Beschwerdestelle.
Die Forscher warnen, dass falsche Informationen Wähler von der Stimmabgabe abhalten oder zu Fehlern verleiten könnten. Sie empfehlen den Anbietern dringend, ihre Systeme zu überprüfen und nur noch Links zu seriösen Quellen bereitzustellen. Eine Integration in Suchmaschinen sei derzeit unverantwortlich. Microsoft und Google kündigten Verbesserungen an.
Die Europawahl findet vom 6. Bis 9. Juni statt.
Elon Musks Chatbot Grok verbreitet Fake News
Elon Musks neuer KI-Chatbot Grok sorgt für Aufsehen, indem er Desinformationen und Verschwörungstheorien verbreitet. Das Alleinstellungsmerkmal von Grok, Beiträge von X-Nutzern als Informationsquelle zu nutzen, entpuppt sich als gravierende Schwachstelle.
Indem Grok Witze und ironische Posts als Fakten interpretiert, generiert der Chatbot teils absurde Fake-News-Meldungen. So fasste er Scherze über eine Sonnenfinsternis zu einer Meldung zusammen, wonach sich Experten über das "ungewöhnliche Verhalten" der Sonne wundern würden. In einem anderen Fall fiel Grok auf Witze herein, dass New Yorks Bürgermeister Polizisten schicken würde, um ein Erdbeben zu "erschießen".
Doch auch bei ernsten Themen wie dem Nahostkonflikt oder der "Pizzagate"-Verschwörungstheorie ist Grok keine vertrauenswürdige Quelle. Der Chatbot erfindet falsche Zeitabläufe und verleiht abstrusen Theorien unbeabsichtigt Glaubwürdigkeit, indem er ausweichend antwortet.
Der überstürzte und rücksichtslose Start von Grok offenbart die Schwächen von generativer KI auf Autopilot: Ohne ausreichende Sicherheitsvorkehrungen und Realitätsabgleich kann sie sehr überzeugend klingen, ohne in Fakten verankert zu sein.
Das "Holodeck" fürs Robotertraining
Eine Forschungsgruppe der University of Pennsylvania hat ein System entwickelt, das auf Basis von aktueller KI-Technik beliebige virtuelle Umgebungen für das Training von Robotern erzeugen kann. Wahrscheinlich mit einem Augenzwinkern hat sie die Technik „Holodeck“ getauft. Damit nehmen die Forschenden Bezug auf die gleichnamige Technik aus dem Science-Fiction-Universum von Star Trek, die ganz ähnlich beliebige Hologrammwelten entwerfen kann.
Während das Holodeck in Star Trek der Unterhaltung dient, geht es bei der jetzt entwickelten Technik um das Training von Robotern. Im Rahmen des Entwicklungsschritts „Sim2Real“ gehe es dabei darum, Robotik-Software in virtuellen Umgebungen für den Einsatz in echten Räumlichkeiten zu trainieren. Doch die dafür benötigten 3D-Landschaften seien „erstaunlich selten“, erklären die Forschenden. Das liege daran, dass diese einzeln und manuell erstellt werden müssten. Da könne es schon einmal eine Woche dauern, um eine einzelne solche 3D-Welt zu erschaffen, erklärt Yue Yang, der Holodeck entwickelt hat.
Nur mit KI-Technik könnten die Millionen oder gar Milliarden von simulierten Umgebungen erschaffen werden, die für das Training nötig seien. Im Vergleich zu einer früheren Software, die für diese Arbeit eingesetzt wurde, seien die Ergebnisse mit Holodeck deutlich besser, was ein Test mit hunderten Studierenden bestätigt habe.
ChatGPT Web-Wachstum stagniert, Claude wächst explosionsartig
Die Wachstumsraten von ChatGPT flachen ab, während der Konkurrent Claude von Anthropic zulegt. Im März 2024 erreichte ChatGPT 1,77 Milliarden Besuche, ein Plus von 33% im Jahresvergleich. Das Wachstum hat sich damit deutlich verlangsamt. Neue Funktionen wie individuelle Chatbots und die Bild-KI DALL-E brachten keinen neuen Schub.
Anthropic steigerte die Zugriffe auf claude.ai um 161% gegenüber dem Vormonat, getrieben von der Veröffentlichung des leistungsfähigen Claude 3. Das Unternehmen startet jedoch von einer viel kleineren Basis. Google Gemini (+37%) und Perplexity (+24%) wuchsen solide, liegen aber weit hinter ChatGPT.
Die Integration der KI-Funktionen in Microsoft- und Google-Produkte macht direkte Vergleiche schwierig. Dennoch bleibt ChatGPT unter den eigenständigen Chat-Plattformen mit Abstand führend. Die Fortschritte der Wettbewerber, insbesondere von Anthropic, zeigen aber, dass sich dies rasch ändern kann.
Adobe Premiere Pro erhält generative KI für Videos
Adobe plant die Erweiterung von Premiere Pro um drei Funktionen generativer KI: das Hinzufügen und Entfernen von Objekten sowie die Vergrößerung der Leinwand. Damit lassen sich Charaktere oder Gegenstände in Videos nachträglich verändern oder retuschieren.
Die neuen Videofunktionen werden Teil von Adobes KI-Marke Firefly, die bisher hauptsächlich einen Bildgenerator umfasst. Die Bedienung erfolgt über ein schwebendes Bedienfeld mit Eingabe des Prompts. Adobes Videomodell wurde mit urheberrechtlich gesicherten Inhalten trainiert, um Rechtsverletzungen auszuschließen.
Zusätzlich kennzeichnet Adobe die generierten oder veränderten Medien in den Metadaten als KI-generiert und nennt das verwendete Programm und Modell. Eine Betaversion des Videomodells von Adobe Firefly ist für Ende 2024 geplant.
OpenAI veröffentlicht für Japanisch optimiertes GPT-4
OpenAI expandiert mit seinem ersten asiatischen Büro nach Tokio. Unter der Leitung von Tadao Nagasaki will das Unternehmen maßgeschneiderte KI-Dienste für japanische Kunden anbieten und zur Gestaltung eines KI-Governance-Rahmens beitragen. Mit der offiziellen Eröffnung bringt OpenAI auch eine für die japanische Sprache optimierte Version von GPT-4, die eine höhere Geschwindigkeit, verbesserte Übersetzungen und Zusammenfassungen sowie geringere Kosten verspricht.
Japanische Unternehmen wie Daikin, Rakuten und Toyota setzen ChatGPT bereits zur Prozessautomatisierung ein. Auch Behörden nutzen die Technologie, um die Effizienz öffentlicher Dienstleistungen zu steigern. In der Stadt Yokosuka berichten 80 Prozent der Mitarbeiter mit ChatGPT-Zugang von Produktivitätssteigerungen. Die Kommune tauscht ihre Erfahrungen mit 21 weiteren Verwaltungen aus, um Best Practices für den KI-Einsatz zu etablieren. OpenAI plant, durch die Zusammenarbeit mit Regierung, Unternehmen und Forschung zum lokalen KI-Ökosystem beizutragen und KI-Lösungen für gesellschaftliche Herausforderungen in Japan zu entwickeln.
Effizientere Tatort-Analyse mit KI
Belgische Polizei und Forscher der KU Leuven entwickelten gemeinsam HemoVision, ein KI-Werkzeug zur effizienten Analyse von Blutspurenmustern an Tatorten. Digitale Bilder der Blutspritzer werden in die Software hochgeladen, die deren Größe, Distanz und Flugbahnen bestimmt. Innerhalb von 15 Minuten generiert HemoVision eine detaillierte 3D-Visualisierung des Tatortes.
Bislang erforderte die Blutfleckenanalyse bei Gewaltverbrechen viel Zeit und Expertise. HemoVision soll die Arbeit der Forensiker erleichtern und beschleunigen. Anhand intelligenter Algorithmen überprüft das Tool verschiedene Hypothesen zum Tathergang. Die belgische Kriminalpolizei setzt HemoVision bereits parallel zu herkömmlichen Methoden ein.
Das Spin-off Forentrics der KU Leuven forscht seit längerem an dem Ansatz, zunächst an synthetischen Tatorten. Ziel ist es, durch Untersuchung der Blutmuster neue Erkenntnisse über die Geschehnisse zu gewinnen. HemoVision könnte auch bei Gerichtsverfahren wertvolle Zeit sparen und zu einem besseren Verständnis der Fakten beitragen.
Deutscher Podcast-Preis
Wenn Ihr bis zu diesem Punkt zugehört habt, dann nehme ich an, Euch gefällt dieser Podcast. Darum würden wir von heise online und The Decoder uns sehr freuen, wenn Ihr dem KI-Update Eure Stimme beim Publikums-Voting des Deutschen Podcastpreises gebt. Geht einfach www.deutscher-podcastpreis.de und stimmt für uns. Den Link findet Ihr auch in den Shownotes. Von mir schon mal vielen Dank!
(igr)
