LLMs überhaupt auf Bewusstsein abzuklopfen, zeugt nur davon, dass hier jemand nicht-wissenschaftliche, populistische Forschung betreibt.
Ein LLM denkt nicht. Es reflektiert nicht. Es agiert nicht.
Diese Prozesse sind alle nur per Algorithmus simuliert.
Nur, dass eine Simulation nicht mehr von der Realität zu unterscheiden ist, macht sie es nicht auch direkt zur Realität. Da lasse ich mich ja eher auf den Rückschluss ein, dass Menschen kein Bewusstsein haben, als dass ein LLM Bewusstsein hätte.
Selbst der Touring-Test, der ja wieder in aller Munde ist, sobald "Bewusstsein" bei LLMs geprüft werden soll, ist kein "Bewusstseins-Test", sondern wurde treffenderweise von Touring zuerst "Imitation Game" genannt, was er auch ist:
Er prüft, wie gut eine Maschine einen Menschen imitieren kann.
Jedes Bakterium hat mehr Bewusstsein als ein LLM, und das wird sich auch nie ändern, da das Bewusstsein von LLMs bauartbedingt genau 0 ist.