KI-Update kompakt: OpenAI Framework, Schritte zur AGI, Medizin, Schneehöhen
Das "KI-Update" liefert werktäglich eine Zusammenfassung der wichtigsten KI-Entwicklungen.
Ein Ex-Premier macht aus dem Gefängnis heraus mit Hilfe von KI Wahlkampf, Schneehöhen lassen sich mit KI besser bestimmen. Das und mehr bietet das neue KI-Update.
OpenAI entwickelt Sicherheitskonzept zur Risikobewertung von KI-Modellen
OpenAI stellt ein „Preparedness Framework“ vor, das als fortlaufendes Sicherheitskonzept zur Risikobewertung von KI-Modellen dient. Die wissenschaftliche Untersuchung der von KI ausgehenden katastrophalen Risiken sei derzeit nicht ausreichend. Deshalb will das Unternehmen proaktiv ein Framework entwickeln, um Risiken abzuwägen.
Das Konzept folgt einem risikobasierten Ansatz und untersucht vier Kategorien: Cybersicherheit, chemische, atomare, biologische und nukleare Bedrohungen, Persuasion (wie KI-Modelle zur Überzeugung von Menschen eingesetzt werden können) und Modell-Autonomie (Konzepte einer selbstverbessernden KI). OpenAI plant, Evaluations- und Monitoring-Lösungen zu entwickeln, um die jeweiligen Risiken zu bewerten und auch zukünftige, noch unbekannte Risiken in Betracht zu ziehen.
KI-Modelle mit hohem Risiko dürfen weiterentwickelt, aber nicht auf den Markt gebracht werden, während Modelle mit mittlerem und niedrigem Risiko akzeptabel sind. Das Vorgehen ähnelt dem risikobasierten Ansatz des AI Acts, der ebenfalls Auflagen für KI-Modelle mit höherem Risiko vorsieht. Allerdings bleiben bei OpenAIs Ansatz viele Fragen offen, etwa welche konkreten Sicherheitsmechanismen implementiert werden und wie im Falle eines erkannten Risikos gehandelt wird.
Meta AI Chief Scientist skizziert schrittweisen Ansatz zur Entwicklung ĂĽbermenschlicher KĂĽnstlicher Intelligenz
Yann LeCun, Chief Scientist bei Meta AI, hat kürzlich einen schrittweisen Prozess zur Erreichung einer allgemeinen Künstlichen Intelligenz (AGI) vorgestellt. Dieser besteht aus mehreren Phasen: Zuerst soll die KI Weltmodelle entwickeln, um zu lernen, wie die Welt funktioniert, ähnlich wie Tierbabys. Anschließend soll der Fokus auf zielorientierten Systemen liegen, die innerhalb von Sicherheitsleitplanken arbeiten. Danach sollen KI-Systeme entwickelt werden, die planen und logisch denken können, ergänzt durch hierarchische Planung zur Verbesserung der Entscheidungsfindung. Im nächsten Schritt soll die maschinelle Intelligenz von Maus- oder Ratten-Niveau auf höhere Stufen gebracht werden. Schließlich sollen vielseitiges Training und Feintuning folgen, um ein KI-System zu schaffen, das in fast allen Bereichen intelligenter ist als der Mensch.
LeCun betont, dass fortgeschrittene KI-Systeme unter menschlicher Kontrolle bleiben sollten, auch wenn sie intellektuell überlegen sind. Damit widerspricht er Positionen, die bezweifeln, dass übermenschlich intelligente Systeme kontrolliert werden können. Sein schrittweiser Ansatz kann auch als Argument gegen die Idee eines „AI Takeoff“ gesehen werden, bei dem sich KI ab einem bestimmten Punkt sprunghaft und exponentiell verbessert und damit unserer Kontrolle entzieht.
Forscher fordern Open-Source-Ansatz fĂĽr KI in der Medizin
Wissenschaftler haben Besorgnis darüber geäußert, dass große Technologiekonzerne wie Google und Microsoft die Entwicklung und Anwendung von generativer Künstlicher Intelligenz im Gesundheitswesen dominieren könnten. In einem Artikel in der Fachzeitschrift Nature plädieren sie dafür, dass medizinische Fachkräfte und konsortiumsgeführte Ansätze mit Open-Source-großen Sprachmodellen (LLMs) die Entwicklung vorantreiben sollten, um Transparenz und Datenschutz zu gewährleisten.
Eine Dominanz von Big Tech im Bereich der generativen KI im Gesundheitswesen könnte die Kontrolle über die Medizin an intransparente kommerzielle Interessen abgeben und die Patientenversorgung, Privatsphäre und Sicherheit gefährden. Die Forscher weisen auf mögliche Probleme hin, wie die Abhängigkeit von schwer zu bewertenden LLMs, die ohne Vorankündigung geändert oder eingestellt werden könnten, sowie die mögliche Verstärkung von Vorurteilen.
Sie empfehlen eine Zusammenarbeit zwischen Gesundheitseinrichtungen, akademischen Forschern, Ärzten, Patienten und Technologieunternehmen weltweit, um Open-Source-LLMs für das Gesundheitswesen zu entwickeln und eine gemeinsame Bewertung der Modelle zu ermöglichen.
Ex-Premier von Pakistan nutzt KI-generierte Stimme für Wahlkampf aus dem Gefängnis
Der ehemalige papakistanische Premierminister Imran Khan setzte künstliche Intelligenz ein, um während seiner Inhaftierung Wahlkampf zu betreiben. Khans Partei PTI arbeitete mit der KI-Firma ElevenLabs zusammen, um eine vierminütige Rede für eine „virtuelle Kundgebung“ zu erstellen.
Empfohlener redaktioneller Inhalt
Mit Ihrer Zustimmmung wird hier ein externer Podcast (Podigee GmbH) geladen.
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (Podigee GmbH) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.
Die KI-generierte Stimme basierte auf einem von Khan bereitgestellten Text, der in seinen charakteristischen Redestil umgewandelt wurde. Laut PTI war dieser Schritt aufgrund von Khans Inhaftierung erforderlich. Im August wurde er zu einer dreijährigen Haftstrafe verurteilt, weil er Einnahmen aus dem Verkauf von Geschenken während seiner Amtszeit von 2018 bis 2022 nicht angegeben hatte.
Seit seiner Verurteilung gab es mehr als 100 Anklagen gegen Khan, unter anderem wegen Geheimnisverrats und gewalttätigen Protesten. Khan betrachtet die Anschuldigungen als politisch motiviert, was die Behörden bestreiten. Die virtuelle Kundgebung erreichte laut Berichten über 4,5 Millionen Zuschauer.
KI-System verbessert Schneehöhenmessung in den Alpen
Ein Forschungsteam der ETH Zürich hat ein auf künstlicher Intelligenz basierendes System entwickelt, das Schneehöhen in den Alpen präziser ermittelt als durch bisherige Methoden. Die Technologie wurde bereits in zwei Wintern erfolgreich getestet und liefert nützliche Daten für den Wintertourismus und den Betrieb von Wasserkraftwerken.
Das System wurde mit Millionen von Satellitenaufnahmen des ESA-Erdbeobachtungsprogramms Copernicus und umfassenden Geländedaten der Schweiz trainiert. Nach einem Abgleich mit realen Daten vor Ort erzeugt die KI zunächst eine grobmaschige Schneekarte. Für das Feintuning werden detaillierte Daten des WSL-Instituts für Schnee- und Lawinenforschung SLF verwendet.
Die entwickelte Technik ermöglicht es, die Schneehöhe basierend auf Satellitenbildern und genaueren topografischen Karten bis auf 10 x 10 Meter genau zu ermitteln. Bisherige Karten hatten lediglich eine effektive Auflösung von 250 x 250 Metern. Die Technik wird bereits in verschiedenen Apps wie Outdooractive, Strava, Skitourenguru, Hüttenbuch oder swisstopo für hochaufgelöste Schneekarten eingesetzt.
(igr)
