Letztlich sind wir ja am Punkt des 'Chinese Room' Gedankenexperiments aus den 1960ern (was auf Ideen von Leibniz so um 1700 zurĂĽckgeht!) angekommen.
https://en.wikipedia.org/wiki/Chinese_room
...also der Unterscheidung zwischen "weak AI" und "strong AI"...wobei "strong AI" eigentlich gar nicht positiv definiert ist...was eben leicht zum Logikfehler der sich beliebig verändernden Messlatte führt:
https://en.wikipedia.org/wiki/Moving_the_goalposts
bzw. auch
https://en.wikipedia.org/wiki/No_true_Scotsman