... dass man versucht, die Moral in der KI zu verstecken.
Es ist moralisch verwerflich, ältere Menschen sterben zu lassen. Man könnte aber eine KI benutzen, um diesen Vorgang zu verstecken. Beispielsweise durch Big-Data-Analysen, welches Medikament nach außen die schnellste Verbesserung erzieht, gleichzeitig aber auch das Leben stark verkürzt. Dazu reicht es die KI anzulernen, spare Geld. Und die KI macht genau das, sie spart Geld.
Die Berechnungen sind so komplex, die Datenmengen so groß, das kann kein Mensch nachvollziehen. Die KI bekommt als Vorgabe, 1) mach den Menschen schnell gesund, 2) spare Geld. Ergo: Moral erfüllt. Und niemand trägt Verantwortung für die Entscheidungen der KI. Wahrscheinlich reicht es sogar die KI anzulernen, spare Geld. Sterben zu viele, wirkt sich das negativ auf die Einnahmen aus. Weil mitunter das Vertrauen nachlässt. Die KI wird also die "optimale Mitte" finden. Dazu ist sie da.
Kurzum, ich sehe die KI-Entwicklung mehr als kritisch, in allen Bereichen. Die Verantwortung bleibt auf der Strecke. Die Bequemlichkeit siegt. Und ab einem bestimmten Grad wird Bequemlichkeit wichtiger als Moral. Unterlassene Hilfeleistung ist dabei ein Beispiel bei dem für Manche die Bequemlichkeit wichtiger ist, als Moral. Gefestigt durch Ausreden "ich wusste nicht, was zu tun ist", "ich wollte mich nicht selbst in Gefahr begeben". Oder "die anderen haben auch nicht geholfen, wieso also ich".
KI in der Medizin ist grundsätzlich nicht schlecht. Sie führt aber dazu, dass Ärzte ungeprüft alle Ergebnisse übernehmen. Das machen Ärzte heute schon, Blutbilder werden nicht mehr nach Mustern gelesen, sondern nur noch rechts oben geschaut, ob irgendwas die starren Min/Max-Werte überschritten hat. Jetzt bringt man der KI dieses verlorene Ärztewissen wieder bei. Früher hieß das mal "Ärztekunst", die richtigen Schlüsse zu ziehen.
Die Ideologie der KI-Entwickler ist zwielichtig, die Eigenverantwortung sowie Eigenanalyse der Ärzte verkümmert, was dann die Abhängigkeit zur KI verstärkt.