Die Welt verbessern: Responsible Engineering – Ethik in der Softwareentwicklung
Seite 4: Phase V: Ethische Systemüberprüfung
Diese Phase wird betreten, wenn Phase IV zu keiner direkten Handlungsempfehlung geführt hat. Hätte Phase IV jedoch ergeben, dass es keine Werte- oder Zielkonflikte gibt, könnte Phase V übersprungen werden.
Die Frage, die es in dieser Phase zu beantworten gilt, ist: Welchen zueinander im Konflikt stehenden Werten soll Folge geleistet werden? Das ist eine schwierige Frage und bedarf im Zweifelsfall einer intensivieren Diskussion. Wie die Kriterien zur Prüfung aussehen, kann jedes Team beziehungsweise Unternehmen für sich entscheiden. Das EDAP-Schema sieht vor, die Prüfung anhand deontologischer, konsequentialistischer und tugend- sowie berufsethischer Gesichtspunkte vorzunehmen und diese in einem Pro- und Contra-Vergleich gegeneinander abzuwägen.
Im Beispiel der StahlProduzenten AG lässt sich argumentieren, dass es deontologisch vertretbar ist, die Software zu erweitern, da sie als Automat nur ihrer Bestimmung folgt und Menschen einen Teil ihrer Arbeit abnimmt, respektive automatisiert. Konsequentialistisch ließe sich auf der Pro-Seite festhalten, dass das Unternehmen damit mehr gebogenen Stahl produzieren kann und die Mitarbeiter nicht mehr zu Schichtarbeit gezwungen wären. Auf der Contra-Seite droht dem Unternehmen jedoch ein potenzieller Imageverlust, wenn Mitarbeiter durch die Prozessautomatisierung ihre Arbeit verlieren. Aus einem berufsethischem Blickwinkel betrachtet, kommt das geforderte Feature schlimmstenfalls einem indirekten Eingriff in das Streikrecht gleich, da es die Verhandlungsposition der Werkarbeiter enorm schwächt. Zu prüfen wäre hier auch, ob dies eine bewusst herbeigeführte Nebenwirkung des gewünschten Features sein könnte.
Über die genannten Prüfungspunkte hinaus kann auch noch eine "theoretische Deliberation" stattfinden, die sich unter anderem mit der Frage auseinandersetzt, ob es überhaupt gewünscht sein könnte, dass eine bestimmte Technologie Einzug in die Welt findet.
Phase VI: Urteilsphase
Im nächsten Schritt gilt es, die Ergebnisse der Phase IV und/oder Phase V zu evaluieren. Soll die Implementierung nach den bekannten Gesichtspunkten und Überlegungen erfolgen? Passt die Implementierung auch in die strategische Ausrichtung des Unternehmens? Wird die Leitkultur des Unternehmens dabei gegebenenfalls konterkariert?
Im Beispiel könnte es sein, dass sich die Sorgen seitens der Gewerkschaft zerstreuen, da die Werkarbeiter andere Aufgaben zugeteilt bekommen, die einen etwaigen Schichtdienst abbauen und sich obendrein als gesünder erweisen. Eine mögliche Abschwächung der Gewerkschaftsarbeit ist dann nicht mehr akut. Mit einem solch positiven Ergebnis wird der Prozess Phase VII fortgeführt, andernfalls geht es erneut mit Phase II weiter.
Phase VII: Technische Umsetzbarkeit
Die vorletzte Phase ähnelt dem aus den SCRUM-Methoden bekannten klassischen Refinement. Die technische Umsetzbarkeit wird auf Basis der bisher gewonnenen Erkenntnisse geprüft und bewertet. Auch für den Beispielfall ist die Umsetzbarkeit hier kein Problem.
Phase VIII: Verifikation
Abschließend müssen noch alle Arbeitsschritte finalisiert und verifiziert werden. Gegebenenfalls lassen sich auch Testcases festhalten. Das Produktteam ist dann auf die Entwicklung des Features vorbereitet. Das sorgfältige Briefing verhindert zudem, dass der Entwicklungsprozess gestört wird, weil sich eine eventuell betroffene Instanz nicht berücksichtigt oder abgeholt fühlt. Außerdem kann das Team seine Entscheidung nun optimal vertreten und muss nicht einfach nur darauf hinweisen, dass es “da mal so ein Ticket gab“.
Die Welt ein wenig besser machen
In der heutigen Zeit ist es wichtiger denn je, technische Neuerungen, Features und Erfindungen auf ihren ethischen Gehalt hin zu prüfen. Da eine solche Prüfung aber Sachverstand und Zeit erfordert, und ebenso eine genaue Auseinandersetzung mit den betroffenen Gruppen und verschiedenen Sichtweisen, kann diese Aufgabe nur in den entsprechenden Produktteams nachhaltig und skalierbar stattfinden. Das EDAP-Schema bietet hierfür eine gute Möglichkeit und zeigt, wie eine solche Prüfung im Alltag stattfinden kann, ohne zusätzliche Rituale in den Teams zu etablieren oder den Zeitaufwand unnötig aufzublähen.
Bei den Prüfungen geht es auch nicht darum, jegliche (rechts-)philosophisch nur mögliche Debatte aufzumachen, sondern im Bereich der Realität zu bleiben, die als wichtig erkannten Institutionen zu prüfen und die eigenen Wertevorstellungen mit einfließen zu lassen. Da auch heute noch viele Bereiche rechtlich nicht vollständig und eindeutig geklärt sind, sollten sich Software Engineers, UI/UX Designer, Product Owner, Scrum Master und alle weiteren in einem Produktteam beteiligten Personen mit ihren ethischen Überlegungen und Überzeugungen bemühen, die Welt ein klein wenig besser zu machen.
Literaturhinweise
- Precht, Richard David: Jäger, Hirten, Kritiker, 2018.
- Grimm / Keber / Zöllner: Digitale Ethik, 2020.
- Ott, Konrad: Ethik in der Informatik, 1999
- Nida-Rümelin, Julian; Weidenfeld, Nathalie: Digitaler Humanismus, 2018.
- Düwell / Hübenthal / Werner: Handbuch Ethik, 2011.
Djordje Atlialp
ist Technischer Geschäftsführer bei der VIL GmbH und leitet die technischen Ressorts der 7th Group. Seine Schwerpunkte sind skalierbare und fehlertolerante Cloud-Anwendungen. Zudem studiert er nebenberuflich Rechtswissenschaften.
(mdo)
