KI-Update kompakt: ChatGPT, BSI-Warnung, Nudify-Apps, Bären-Erkennung

30.04.2024 15:03 Uhr

Das "KI-Update" liefert werktäglich eine Zusammenfassung der wichtigsten KI-Entwicklungen.

ChatGPT zitiert und verlinkt die Financial Times

OpenAI und die Financial Times gehen eine Partnerschaft ein, [1] bei der die KI-Firma dem Verlag für die Verwendung von Artikeln in ChatGPT Geld zahlt. Die Zeitung wird künftig nicht nur zitiert, sondern auch verlinkt – eine Seltenheit bei OpenAI. Im Gegenzug unterstützt OpenAI die Financial Times beim Ausbau eigener KI-Produkte und -Dienste.

Die Kooperation wirft ein Schlaglicht auf die hohen Kosten für Trainingsdaten, mit denen OpenAI konfrontiert ist. Bisher nutzte das Unternehmen größtenteils frei verfügbares Material, ohne Lizenzgebühren zu entrichten. Angesichts von Klagen wegen Urheberrechtsverletzungen und unklarer Rechtslage werden nun Deals mit Verlagen notwendig, die in die Milliarden gehen könnten.

Die genaue Höhe der Zahlungen an die Financial Times ist nicht bekannt. OpenAI befindet sich nach eigenen Angaben in Gesprächen mit Dutzenden Verlagen über ähnliche Vereinbarungen.

Empfohlener redaktioneller Inhalt

Mit Ihrer Zustimmung wird hier ein externer Podcast (Podigee GmbH) geladen.

Podcasts immer laden

Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (Podigee GmbH) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung [2].

OpenAI rollt ChatGPT "Gedächtnis" für mehr Plus-Accounts aus

OpenAI hat die "Memory"-Funktion für ChatGPT Plus-Abonnenten [3], Unternehmenskunden und GPT-Modelle eingeführt, wie das Unternehmen auf der Social-Media-Plattform X bekannt gab. Bislang startete jede Konversation ohne Vorwissen. Mit "Memory" können Nutzer nun das Gedächtnis von ChatGPT gezielt steuern, indem sie den Chatbot anweisen, bestimmte Informationen zu speichern oder zu löschen. Das kann direkt im Chat oder über die Einstellungen erfolgen.

Ziel der neuen Funktion ist es, ChatGPT effizienter und nützlicher zu machen, indem der Chatbot die Präferenzen und den Stil der Nutzer erlernt. So kann sich ChatGPT etwa den bevorzugten Tonfall, die Sprache, präferierte Formate für Blogbeiträge, Programmiersprachen, Frameworks oder Notizen für monatliche Geschäftsmeetings merken.

Die Einführung von "Memory" ist Teil der Strategie von OpenAI, ChatGPT zu einem personalisierten Assistenten weiterzuentwickeln. Bisher hat das Unternehmen keine Informationen zur technischen Umsetzung oder zu Datenschutzaspekten von "Memory" veröffentlicht. In Europa und Südkorea ist die Funktion derzeit noch nicht verfügbar.

BSI warnt vor Sicherheits-Bedrohungen durch KI

Das Bundesamt für Sicherheit in der Informationstechnik (BSI) bewertet die Auswirkungen von Künstlicher Intelligenz auf die Cybersicherheitslandschaft als ernst [4], aber nicht alarmierend. In einem Forschungspapier analysiert das BSI bekannte Bedrohungsszenarien und erwartete Entwicklungen durch KI.

KI ermöglicht bei Social-Engineering-Angriffen wie Phishing eine bisher unerreichte Qualität. Die Behörde sieht jedoch keine KI, die eigenständig fortgeschrittene, unbekannte Malware entwickeln kann. Auch der Einsatz von KI als vollautomatisches Angriffswerkzeug befindet sich noch im Forschungsstadium.

Allerdings warnt das BSI vor der Gefahr von Malware, die in KI-Modellen versteckt sein kann. Eine generelle Einschätzung zur Sicherheit von Open-Source- und Closed-Source-Produkten trifft das BSI nicht. BSI-Präsidentin Claudia Plattner betont die Notwendigkeit einer länderübergreifenden Zusammenarbeit von Wirtschaft, Wissenschaft und Politik, um den Herausforderungen zu begegnen.

Apple greift gegen Nudify-Dienste durch

Drei Anwendungen, die mittels Künstlicher Intelligenz das digitale Entkleiden von Personen auf Fotos ermöglichen, wurden von Apple aus dem App Store verbannt. Das Onlineportal 404Media will den Anstoß dazu gegeben haben, indem es Apple auf die sogenannten Nudify-Apps hinwies [5]. Unklar bleibt, weshalb diese überhaupt die Prüfung durch Apples App Review passieren konnten.

Laut einer Analyse von Graphika erfreuen sich solche Apps großer Beliebtheit und generieren für ihre Anbieter lukrative Einnahmen. Meist agieren sie als Freemium-Dienste, bei denen einige Bilder kostenlos sind und weitere Geld kosten. Die Erstellung der Nacktbilder erfolgt in der Regel ohne Einwilligung der Abgebildeten und kann schwerwiegende Folgen haben, wie der Fall von KI-generierten Aufnahmen von Schülerinnen in einer spanischen Kleinstadt zeigt.

Die App-Store-Richtlinien von Apple untersagen eindeutig Anwendungen mit Falschinformationen, sexuellem Material und diskriminierenden Inhalten. Der Konzern bietet zudem Schutzfunktionen in iOS, um Jugendliche vor dem ungewollten Empfang oder Versand von Nacktaufnahmen zu bewahren

Snowflake bringt effizientes Open-Source-Sprachmodell Arctic

Snowflake, ein Datenbank- und Analyse-Unternehmen, hat sein hauseigenes Sprachmodell Arctic als Open Source freigegeben [6]. Das Modell glänzt durch Effizienz bei Training und Inferenz und ist speziell auf unternehmensrelevante Aufgaben wie SQL-Generierung, Programmierung und Ausführung komplexer Anweisungen ausgerichtet.

Arctic wurde mit einem Budget von unter 2 Millionen US-Dollar trainiert. Dennoch übertrifft es in der selbst definierten Metrik "Enterprise Intelligence" vergleichbare Open-Source-Modelle wie Metas Llama-3-Serie, die mit einem wesentlich höheren Budget entwickelt wurden.

Die Trainingseffizienz erreicht Arctic durch eine hybride Architektur aus einem Dense Transformer mit 10 Milliarden Parametern und einem „Mixture of Experts (MoE)“-Teil mit 480 Milliarden Parametern. Snowflake veröffentlicht zudem ein "Cookbook" mit Erkenntnissen und Best Practices für das Training von MoE-Modellen.

Die Modell-Checkpoints für Arctic sind ab sofort auf Hugging Face unter der Apache 2.0-Lizenz verfügbar. Snowflake plant in Zusammenarbeit mit Nvidia und der vLLM-Community optimierte Implementierungen für Fine-Tuning und Inferenz bereitzustellen und weitere Modelle der Arctic-Serie zu entwickeln.

Mehr Tempo bei Regulierung autonomer Waffensysteme gefordert

In Wien trafen sich Experten, um die Regulierung autonomer Waffen voranzutreiben. Alexander Schallenberg, Österreichs Außenminister, mahnte dringend gemeinsame Regeln an, um zu verhindern, dass Maschinen in Konflikten über Leben und Tod entscheiden [7]. Einige Länder besitzen bereits voll autonome Waffensysteme.

Auf der Konferenz wurden Vorschläge für Vertragselemente zusammengetragen. Menschliche Kontrolle bedeute zeitliche und geografische Beschränkungen der Systeme. Waffen, die dem nicht folgen, sollten verboten werden. Viele europäische Staaten befürworten einen zweigleisigen Ansatz mit Verbot vollautonomer Waffen und Regulierung noch von Menschen gesteuerter Systeme.

Die UN-Expertengruppe LAWS soll Regeln ausarbeiten, doch Verhandlungen über einen völkerrechtlichen Vertrag wurden bislang blockiert. Die USA bevorzugen eine politische Erklärung. NGOs fordern daher Verhandlungen in der UN-Generalversammlung.

KI-System zur Erkennung wilder Bären in Japan

Angesichts der zunehmenden Bärenangriffe auf Menschen plant die japanische Regierung die Erprobung eines KI-Systems zur Erkennung wilder Bären [8]. Das System soll Videoaufnahmen von Überwachungskameras analysieren, Bären umgehend identifizieren und die zuständigen Behörden informieren. Ein Pilotprojekt startet bis zum Sommer in der Präfektur Toyama.

Im vorangegangenen Fiskaljahr bis März kam es landesweit zu 198 Bärenattacken mit 219 Verletzten, darunter sechs Todesfällen – Rekordzahlen seit Beginn der Datenerfassung 2006. Als Ursache gelten knappe Nahrungsressourcen aufgrund schlechter Ernten, die Bären verstärkt in Siedlungsgebiete treiben.

Das neue System vernetzt KI mit Kameranetzwerken von Behörden, Kommunen und Privatunternehmen für eine großflächige Überwachung.

Ein separates Experiment in der Präfektur Iwate sieht den Einsatz automatischer Kameras mit Bewegungserkennung vor. Bei Erfolg könnte das KI-System landesweit in Präfekturen mit häufigen Bärensichtungen in Wohngebieten eingeführt werden.

GitHub veröffentlicht KI-gestützte Copilot Workspaces

Die Softwareentwicklungsplattform GitHub hat Copilot Workspaces als technische Vorschau veröffentlicht [9], um Entwickler beim Projektstart und bei der Implementierung neuer Funktionen zu unterstützen. Der Programmierassistent Copilot agiert dabei als interaktiver KI-Kollege und kann aus GitHub-Issues oder -Repositories eigenständig Spezifikationen erstellen, Soll- und Ist-Zustand vergleichen sowie einen detaillierten Änderungsplan mit dem zugehörigen Code generieren.

Die Interaktion zwischen Entwickler und Copilot erfolgt in natürlicher Sprache, was Einstiegshürden senken und die Softwareentwicklung einem breiteren Publikum zugänglich machen soll. Copilot Workspaces basiert auf containerisierten Entwicklungsumgebungen namens GitHub Codespaces und ist auch über mobile Apps nutzbar. GitHub sammelt während der Preview-Phase Feedback von mehreren tausend Entwicklern, um den Dienst zu optimieren.

Wie intelligent ist Künstliche Intelligenz eigentlich? Welche Folgen hat generative KI für unsere Arbeit, unsere Freizeit und die Gesellschaft? Im "KI-Update" von Heise bringen wir Euch gemeinsam mit The Decoder werktäglich Updates zu den wichtigsten KI-Entwicklungen. Freitags beleuchten wir mit Experten die unterschiedlichen Aspekte der KI-Revolution.

(igr [17])

URL dieses Artikels:
https://www.heise.de/-9703766

Links in diesem Artikel:
[1] https://www.heise.de/news/Deal-ChatGPT-zitiert-und-verlinkt-die-Financial-Times-9702299.html
[2] https://www.heise.de/Datenschutzerklaerung-der-Heise-Medien-GmbH-Co-KG-4860.html
[3] https://the-decoder.de/openai-rollt-chatgpt-gedaechtnis-fuer-plus-accounts-aus/
[4] https://www.heise.de/hintergrund/BSI-KI-ist-ein-Sicherheitsproblem-aber-auch-eine-Chance-9702544.html
[5] https://www.heise.de/news/KI-Nackt-Apps-Apple-greift-gegen-Nudify-Dienste-durch-9702677.html
[6] https://the-decoder.de/snowflakes-arctic-ist-das-naechste-open-source-modell-mit-fokus-auf-effizienz/
[7] https://www.heise.de/news/Mehr-Geschwindigkeit-bei-Regulierung-autonomer-Waffensysteme-gefordert-9703306.html
[8] https://the-decoder.de/hoffentlich-hilft-ki-derart-furchteinfloessende-baeren-attacken-in-japan-zu-verhindern/
[9] https://www.heise.de/news/GitHub-veroeffentlicht-KI-gestuetzte-Entwickungsumgebung-Copilot-Workspaces-9698383.html
[10] https://podcasts.apple.com/de/podcast/ki-update-ein-heise-podcast/id1691536182
[11] https://podcasts.google.com/subscribe-by-rss-feed?feed=aHR0cHM6Ly9raXVwZGF0ZS5wb2RpZ2VlLmlvL2ZlZWQvbXAz
[12] https://kiupdate.podigee.io/feed/mp3
[13] https://open.spotify.com/show/1rm6gMybQWnHePvY2eCpzp
[14] https://www.heise.de/newsletter/anmeldung.html?id=ki-update
[15] https://the-decoder.de/
[16] https://www.heise.de/newsletter/anmeldung.html?id=ki-update&wt_mc=intern.red.ho.ho_nl_ki.ho.markenbanner.markenbanner
[17] mailto:isabel.gruenewald@heise.de