Kurt Gödel, gemäß Albert Einstein der größte Logiker des 20. Jahrhundets, hat den Gödelschen Unvollständigkeitssatz aufgestellt, wonach jedes hinreichend komplexe abgeschlossene System auf Widersprüche zurückführbar ist.
https://de.wikipedia.org/wiki/G%C3%B6delscher_Unvollst%C3%A4ndigkeitssatz
Einfach gesagt bedeutet dies für eine KI, dass sie, wenn sie nur komplex genug ist, immer auf einen Widerspruch laufen kann. Damit wäre schon mal klar, dass eine KI immer auch Fehler produziert. Das wird sich auch nicht abstellen lassen. Man denke an "Mutter" aus dem Film 2001, die sich dabei hat erwischen lassen, wie sie einen Fehler macht und damit ihre eigene Existenz in Frage stellt.
Aber eine KI könnte uns vielleicht helfen bestimmte lösbare Probleme zu lösen. Man kennt ja den hilfreichen Satz: Man löst ein Integral, in dem man die Lösung kennt. Es gibt so etwas auch für Differentialgleichungssysteme, wie die 10 gekoppelten hyperbolischen Differentialgleichungen der Einsteinschen Feldgleichungen, für die es keinen allgemeinen Lösungsansatz gibt. Einstein selbst sagte nach deren Veröffentlichung, dass er nicht glaubt, dass irgendjemand sie lösen könnte. Rund ein Jahr später hat ein Herr Schwarzschild die gleichnamige Lösung vorgestellt, die auch Schwarze Löcher vorhergesagt hat, was erst Jahrzehnte später entdeckt wurde. Mittlerweile hat man wohl mehr als 1000 exakte Lösungen gefunden, die man alle katalogisiert hat. Aber man hat keine allgemeine Lösung. Die meisten dieser Lösungen haben auch keinen physikalischen Sinn, wie zum Beispiel das Gödel Universum, in dem man auf Zeitschleifen reisen kann. Gleichzeitig haben wir mit diesen Gleichungen unser Universum weitestgehend erklärt. Also muss es noch weitere "Einschränkungen" geben um unsere Welt zu erklären. Die Einstein Gleichungen sind noch nicht Alles.
Da der metrische Tensor jedoch symmetrisch ist, lässt sich der metrische Tensor (wenn der dann passt, ist er die Lösung) durch eine geeignete Koordinatentransformation diagonalisieren, D.h. es gibt dann nur noch 4 Komponenten. Hängt jede Komponente von den 3 Raumkoordinaten und der Zeit ab, dann sind wieder 10 gekoppelte Differentialgleichungen zu lösen. Was sagt uns das? Wir haben ein sehr gut untersuchtes System der Einsteinschen Feldgleichungen, können sie aber nicht allgemein lösen. Eine KI wird das wohl auch nicht können. Vielleicht aber wird sie uns der Lösung etwas näher bringen und gemeinsam wird es dann eine Evolution geben, die uns dann eine allgemeine Lösung liefert.
Wenn man sich zum Beispiel der allgemeinen Lösung nähern möchte, ist man im heutigen Kosmos der Erkenntnis sehr schnell an seinen Grenzen. Fragt man Google, kommt i.d.R. immer der gleiche Scheiß, der einen nicht weiter bringt auf dem Niveau "Alexa, wie hoch ist der Eifelturm". Auch die aktuellen KIs sind eher Plappermaschinen, deren mathematische Fähigkeiten vorsichtig ausgedrückt überschaubar sind.
In einem ersten Schritt sollte für die Mathematik eine KI alle wissenschaftlichen Veröffentlichungen der letzten rund 100 Jahre durchforsten um Querbeziehungen zu finden. Nehmen wir einmal an, ich suche eine bestimmte Folge oder Reihe von ausreichender Komplexität und die KI sagt mir dann, in welchen Veröffentlichungen die "drin steckt", auch wenn man das nicht ad hoc "sieht". Dann könnte mir diese Information ggf. Hinweise geben, wo sich mein Problem in anderen Problemen wieder findet.
Und noch etwas zur "rechnerischen Irreduzibilität". Betrachten wir die Schrödinger Gleichung für Moleküle, dann sehen wir recht schnell, dass das additiv enthaltene Potenzial auf eine Differentialgleichung führt, die nicht lösbar (separierbar) ist. Dafür hat man dann die Born-Oppenheimer Näherung, die die Elektronen von den Kernwechselwirkungen trennt. Die Kernschwingungen werden mit der Elektronenwechselwirkung dann wieder mit der vibronischen Kopplung "repariert". Und warum muss man das machen? Weil die Schrödinger Gleichung mit ihrem additiven Potential das halt so vorgibt. Aber was, wenn man die Schrödinger Gleichung "umschreibt", und das "Portential" nicht ein additiver Term ist, sondern als Spur einer Matrizenmultiplikation zwischen Hessematrix und metrischem Tensor ist. Das ist so bei der Dirac Gleichung, wobei hier der metrische Tensor immer der Minkowski Tensor ist. Nimmt man statt des Minkowski Tensors einen Tensor, der das Potential eines Moleküls abbildet, könnte man durch geeignete Koordinatentransformation eine separierbare Gleichung erhalten. Dann braucht man keine Näherungen mehr. Die rechnerische Irreduzibilität lässt sich umgehen, in dem man einfach ein anderes Verfahren anwendet. Leichter gesagt als getan.
Aber so ist das mit uns Menschen. Wir probieren und probieren und irgendwann hat man etwas in der Hand, dass alle Schwächen abgestreift hat und schlicht und einfach perfekt ist. Genau dabei kann uns eine KI helfen. Sie wird die Arbeit nicht für uns tun. Vielleicht ist das auch der Unterschied zu einer KI. Was ist das in uns Menschen, das uns so etwas anstreben lässt?