Ethics by Design: IEEE-Standard für Einbau ethischer Werte in Technik
Der Standard 7000-2021 der Ingenieursorganisation IEEE soll helfen, Datenschutzdesaster wie Nacktscanner wertebasiert im Designprozess zu verhindern.
(Bild: metamorworks/Shutterstock.com)
Das Institute of Electrical and Electronics Engineers (IEEE), das mit 420.000 Mitgliedern den größten Ingenieursverband der Welt bildet, hat am Mittwoch einen Standard für die Berücksichtigung ethischer Werte schon beim Design technischer Systeme veröffentlicht. Die Norm IEEE 7000-2021 soll laut der Organisation technische Entwickler bei der transparenten Kommunikation mit ausgewählten Interessensgruppen unterstützen und so dabei helfen, ethische Werte von Anfang an zu ermitteln und ihnen Priorität einzuräumen.
Messbare Ethikkonzepte
Die ausgewählten Ethikkonzepte und -vorstellungen werden laut dem "I triple E" mithilfe des Standards auch durch ein Betriebskonzept im Systemdesign mess- und rückverfolgbar. Dies sei für alle Größen und Arten von Organisationen, die mit eigenen Produktlebenszyklen arbeiten, relevant.
Gerade Unternehmen hätten das zentrale Anliegen, Risiken zu vermeiden, führt der in New York sitzende Verband aus. Firmen, die sich dabei nur auf physische Schäden konzentrierten, erhielten aber "kein vollständiges Bild der Erfahrungen, die ein Endnutzer mit dem von Ihnen entwickelten Produkt macht". Vor allem autonome Systeme mit Künstlicher Intelligenz (KI), die sich in immer mehr Produkten und Dienstleistungen ausbreiteten, würden von Algorithmen angetrieben. Diese seien für den Nutzer unsichtbar, hätten aber "tiefgreifende Auswirkungen auf seine Daten, Identität und Werte".
Diese Dimensionen stünden bei der Technikentwicklung bislang nicht immer im Vordergrund, moniert das IEEE: "Trotz der besten Absichten eines Herstellers wird ein Designprozess ohne eine Methodik zur Analyse und Prüfung, wie ein Endnutzer ein Produkt, eine Dienstleistung oder ein System interpretiert, die Werte seiner Schöpfer in den Vordergrund stellen." Verantwortungsvolle Innovation im Zeitalter der Algorithmen erfordere daher von der Konzeption an eine werteorientierte Methodik, die das traditionelle Systemdesign ergänze.
"Value-based Engineering"
In Europa ist Entwicklern und Nutzern spätestens mit der Datenschutz-Grundverordnung (DSGVO) das darin verankerte Prinzip " Privacy by Design" ein Begriff geworden. Das IEEE will nun einen Schritt weitergehen und nicht nur den Datenschutz, sondern zusätzlich andere ethische Überlegungen direkt in die Technik eingebaut wissen ("Ethics by Design" beziehungsweise "Value-based Engineering").
Dafür hat die Organisation zehn Handlungsprinzipien aufgestellt. Demnach geht es etwa um die Übernahme von Verantwortung für die erweiterte Systemlandschaft, die ehrliche Integration kritischer Interessensgruppen in den Entwicklungsprozess sowie die kontextsensitive und kontinuierliche Beobachtung und Antizipation der Systementfaltung. Ethische und moralische Prinzipien sollen genutzt werden, um zu erkennen, welche Werte integriert werden.
Nicht nur an den Profit denken
"Das Arbeiten mit IEEE 7000 hilft Unternehmen, ihre Innovationsprozesse neu aufzustellen", erklärte Sarah Spiekermann gegenüber heise online. Die Leiterin des Instituts für Wirtschaftsinformatik und Gesellschaft an der Wirtschaftsuniversität Wien hat die Arbeit an der Norm maßgeblich mit vorangetrieben und hofft auf einen "Flaggschiff-Standard" vergleichbar zu ISO 9000. Die meisten Innovationsprojekte haben ihr zufolge mittlerweile eine digitale Komponente: "Dabei müssen Entwickler sich fragen, welche menschlichen und sozialen Werte sie mit ihrer Technik umsetzen wollen – jenseits vom reinen Profitgedanken."
Der IEEE-Standard solle hier dabei helfen, "die nächste Generation von Technologien im Sinne der Menschen zu schaffen – und nicht zugunsten der wenigen Machtträger im Überwachungskapitalismus", unterstreicht die Ethikexpertin. "Die Entwickler-Community ist in den Neunzigerjahren angetreten, um eine gute Welt zu bauen. Da müssen wir wieder hinkommen."
Empfohlener redaktioneller Inhalt
Mit Ihrer Zustimmmung wird hier eine externe Umfrage (Opinary GmbH) geladen.
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (Opinary GmbH) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.
Konkret hätte die Norm etwa helfen können, die Auswüchse von Hassrede und Manipulation auf sozialen Netzwerken und so eventuell sogar den Brexit oder die Wahl von Donald Trump zu verhindern, glaubt Spiekermann. Auch Brüche der Privatsphäre durch Nacktscanner an Flughäfen wären mit einer standardgemäßen Entwicklung wohl vermeidbar gewesen. Eine Fallstudie mit einem Unicef-Projekt in Afrika habe gezeigt, dass die Norm greife. So hätten die Entwickler mit dem ethischen Ansatz nicht einfach einen Algorithmus entwickelt, um junge Talente auszumachen, sondern eine Community-Plattform zur gegenseitigen und lokalen Unterstützung Jugendlicher gebaut.
(mho)
