Genau, das ist es. Du hast eigentlich schon die Lösung. Denn Leid kann man nicht simulieren.
Bei Sensoren in eine Maschine, gebe ihr eine schöne Stimme, lass sie jammern wenn es heiß ist, lass sie wehklagen wenn man auf sie schlägt: niemand wird glauben, dass sie wirklich leidet. Baue sie aus mit Speicher und KI und feinster Software: es hilft alles nichts. Jeder wird sagen: das ist kein Leid, das ist nur so programmiert. Du kannst auch mit der tollsten Maschine kein Leid erzeugen.
Und das ist der Bruch im System. Das, was die Simulation uns vom Gehirn vorspielt, kann auch kein Leid erzeugen und auch kein ICH. Das ist nur Mechanik.