Natürlich ist es sehr wünschenswert, dass bei Verwaltungsverfahren (und anderen Vorgängen), die massive Auswirkungen auf das Leben von Menschen haben, eine genaue Dokumentation der verwendeten Regeln erfolgt und diese darauf untersucht werden, welche unerwünschten “Nebenwirkungen” sie haben könnten.
Das ist aber überhaupt nix Neues, sondern sollte Standard bei allen - auch “menschenausgeführten” - Verwaltungsverfahren sein.
Es wäre völlig absurd, hier für “KI” andere Anforderungen zu stellen, als für alle anderen Methoden.
Gnaz im Gegenteil: Bei “KI” und allen anderen computerimplementierten Verfahren ist diese Abschätzung sogar deutlich einfacher, weil der bei menschlich ausgeführten Verfahren schwierigste Schritt wegfällt: Nämlich das Sicherstellen, dass ein als in Ordnung befundenes Regelwerk auch im Einzellfall genau so ausgeführt wird.
Bei der “KI” ist das einfach: Wenn wir überprüft haben, dass z.B. Ausländer nicht benachteiligt werden, dann ist das auch im Einzellfall so.
Bei von Menschen umgesetzen Regelwerken kann es trotz eines perfekten Regelwerkes immer noch passieren, dass ein diskriminierender Sachbearbeiter einzelne Menschengruppen diskriminiert. Das muss hier ja genauso ausgeschlossen werden, wie bei der KI.
Oder, um es noch einfacher zu sagen: Die Anforderungen, die jetzt für “KI”-Verfahren definiert werden, sollten genau so auch für alle anderen gelten - sind dort aber völlig unerfüllbar!