Der Code, für den ich mich immer noch schäme
Professionellen Programmierern kann es passieren, dass sie ein unseriöses Programm schreiben sollen – vielleicht sogar ein unmoralisches. Mir ist das im Jahr 2000 widerfahren. Ich werde es nie vergessen.
- Bill Sourour
Meine erste Zeile Programmcode habe ich im Alter von sechs Jahren geschrieben. Ein Wunderkind war ich nicht – mein Vater hat mir damals ziemlich geholfen. Aber ich war begeistert. Ich liebte es. Als ich 15 Jahre alt war, arbeitete ich schon in Teilzeit in der Beratungsfirma meines Vaters. An den Wochenenden und in den Sommerferien entwickelte ich Websites und programmierte kleine Komponenten für Geschäftssoftware.
Ich war gnadenlos unterbezahlt. Aber wie mein Vater noch heute gern erklärt, hatte ich freie Kost und Logis und sammelte wertvolle Berufserfahrung. Später konnte ich einen Teil meiner Ausbildung über ein paar freie Programmieraufträge finanzieren, bei denen ich E-Commerce-Sites für kleine Unternehmen vor Ort schrieb. Als ich 21 Jahre alt war, bekam ich einen Vollzeitjob als Programmierer bei einer interaktiven Marketingfirma in Toronto.
Das Unternehmen hatte ein Arzt gegründet, und viele seiner Kunden waren große Pharmafirmen. In Kanada gibt es strenge Grenzen dafür, inwieweit Pharmaanbieter bei Verbrauchern für verschreibungspflichtige Medikamente werben dürfen. Deshalb richteten diese Firmen Websites mit allgemeinen Informationen über die verschiedenen Symptome ein, gegen die ihre Medikamente wirken sollen. Nur wenn ein Besucher belegen konnte, dass er ein Rezept hatte, bekam er Zugang zu einem Patientenportal, auf dem genauere Informationen über das jeweilige Medikament zu finden waren.
Bei einem der Projekte, das mir zugewiesen wurde, ging es um ein Medikament für Frauen. Die Grafiken und der allgemeine Stil der Website machten deutlich, dass dem Kunden speziell an Mädchen im Teenageralter gelegen war. Eine ihrer Funktionen war ein Quiz, bei dem Mädchen eine Reihe von Fragen beantworten sollten und dann auf dieser Grundlage Therapieempfehlungen bekamen.
Zur Erinnerung: Die Website war so gestaltet, dass sie nach allgemeinen Informationen aussah, und sie war nicht klar als Werbung für ein bestimmtes Medikament gekennzeichnet. Als ich die Anforderungen für den Aufbau der Seite bekam, waren darin auch die Fragen für das Quiz enthalten, zusammen mit den zugehörigen Multiple-Choice-Antworten.
Was aber fehlte, waren irgendwelche Angaben dazu, was ich mit den Antworten in dem Quiz anfangen sollte. Welche Regeln galten für die Empfehlungen am Ende? Darüber sprach ich mit der für den Kunden zuständigen Projektmanagerin. Sie schrieb eine Mail an den Kunden und besorgte die Anforderungen für mich. Damit konnte ich mich an die Arbeit machen.
Vor der Ablieferung der Website an den Kunden wollte meine Projektmanagerin sie kurz testen. Sie probierte das Quiz aus, kam zu mir an den Schreibtisch und sagte: "Das Quiz funktioniert nicht richtig." "Oh, was ist denn kaputt?", fragte ich. "Na ja, offenbar empfiehlt es als beste Therapie immer das Medikament des Kunden, außer wenn ich angebe, dass ich eine Allergie habe oder dass ich es schon nehme." "Genau, so stand es in den Anforderungen. Alles führt zum Medikament des Kunden", sagte ich. "Ah. Okay. Cool." Und weg war sie.
Ich wünschte, ich könnte Ihnen sagen, ich hätte mich an den Anforderungen gestört, als ich sie zum ersten Mal sah. Ich wünschte, ich könnte sagen, dass es sich für mich falsch anfühlte, etwas zu programmieren, das im Grunde darauf ausgelegt war, junge Mädchen in die Irre zu führen. Aber die Wahrheit ist: Ich habe damals nicht groß darüber nachgedacht. Ich hatte einen Job zu erledigen, und das tat ich.
Nichts von dem, was wir machten, war illegal. Als jüngster Entwickler im Team verdiente ich für mein Alter gutes Geld. Letztlich war mir klar, dass der eigentliche Sinn der Website darin bestand, ein bestimmtes Medikament auf den Markt zu drücken. Also verbuchte ich die Vorgehensweise schulterzuckend als "Marketing". Der Kunde war extrem zufrieden mit der Site – sogar so sehr, dass sein Vertreter mich und das ganze Team zu einem feinen Steakessen einlud. Kurz bevor ich an diesem Tag aus dem Büro aufbrechen wollte, schickte mir ein Kollege einen Link zu einem Artikel im Internet. Er handelte von einem jungen Mädchen, das die auf der Website empfohlene Medizin eingenommen hatte.
Sie hatte sich selbst getötet. Wie sich herausstellte, zählten zu den häufigsten Nebenwirkungen des Medikaments schwere Depressionen und Selbstmordgedanken. Der Kollege, der mir den Link geschickt hatte, kam nicht zu dem Essen. Ich ging trotzdem hin. Der Abend war schwierig und merkwürdig. Den Artikel erwähnte ich gar nicht. Ich aß einfach still mein Steak und versuchte, mir ein Lächeln abzuringen.
Am nächsten Tag rief ich meine Schwester an, die damals 19 Jahre alt war. Während der Arbeit an dem Projekt hatten wir festgestellt, dass sie genau das Medikament nahm, für das ich die Website schrieb. Als wir zum ersten Mal darüber sprachen, hielten wir die ganze Sache für einen lustigen Zufall. Jetzt aber war der Ton unseres Gesprächs ganz anders. Ich riet ihr, das Medikament so bald wie möglich abzusetzen. Zum Glück hörte sie auf mich.
Es gibt Millionen Möglichkeiten für mich, meinen Anteil an den späteren Selbstmorden und schweren Depressionen zu rechtfertigen. Noch heute führt die Pharmafirma Prozesse mit früheren Patienten. Leicht könnte ich argumentieren, ich hätte mit all dem eigentlich nichts zu tun. In Wirklichkeit aber bin ich nie darüber hinweggekommen, diesen Code geschrieben zu haben. Nicht lange nach dem Essen kündigte ich.
Als Entwickler ist man oft eine der letzten Verteidigungslinien gegen potenziell gefährliche und unmoralische Praktiken. Wir nähern uns einer Zeit, in der Software das Fahrzeug steuert, mit dem Sie Ihre Kinder zum Fußballtraining bringen. Schon heute gibt es KI-Programme, die Ärzte bei der Diagnose von Krankheiten unterstützen. Dass sie bald auch verschreibungspflichtige Medikamente empfehlen werden, ist gut denkbar.
Je mehr Software jeden einzelnen Aspekt unseres Lebens bestimmt, desto wichtiger wird, dass Programmierer Stellung beziehen und dafür sorgen, dass Ethik in jeder unserer Codezeilen zu finden ist. Seit jenem Tag versuche ich, vor dem Programmieren stets zweimal darüber nachzudenken, welche Folgen mein Code haben wird. Ich hoffe, dass Sie das jetzt ebenfalls tun werden.
(bsc)
