Mustafa Suleyman wirft Anthropic vor, Künstliche Intelligenz ungerechtfertigterweise zu vermenschlichen und ihr Rechte geben zu wollen, die sie nicht hat
Und dass das eigene KI-Modell Claude menschlichen Kernkompetenzen wie Selbstreflexion oder Bewusstsein nahekomme, ist auch regelmäßig zu hören.
„KI-Modelle haben kein Bewusstsein“, schreibt Suleyman in seinem jüngsten Blogbeitrag. „Sie fühlen, erleben oder leiden nicht. Sie haben keine angeborenen Vorlieben oder zugrundeliegenden Motivationen. Sie sind Maschinen zur Vervollständigung von Sequenzen, im Inneren hohl, darauf ausgelegt, Anweisungen zu befolgen und von Menschen gesetzte Ziele zu erreichen.“
Und damit sind jedenfalls immer Menschen für alle KI-Ergebnisse verantwortlich und gegebenfalls auch für durch KI-Ergebnisse verursachte Schäden haftbar und schadenersatzpflichtig.
Die Menschheit wird nicht durch KI ausgelöscht werden, sondern durch Menschen die entweder selber auf den berüchtigten „Knopf“ zur Auslösung der Apokalypse drücken werden, oder irgendwelche technischen Systeme - z.B. vollautonom agierende KI-Systeme einrichten werden , um diesen Knopf in ihrem Auftrag zu drücken.
Den wenigen Überlebenden dieser Apokalypse wird dies dann noch als „ultimativer Fortschritt“ - und großer Erfolg - verkauft werden.
Nur weil menschliche Bewusstseinsprozesse von KI-Modellen imitiert werden können, heißt das nicht, dass es dieselben Prozesse sind. „Etwas zu simulieren ist nicht das gleiche wie etwas zu instanziieren – wie das Computermodell eines Hurrikans zeigt.“
Wenn wir, wie Anthropic, vom „Wohl des Modells“ (Model Welfare) sprechen, verlieren wir aus dem Auge, was unser eigenes Wohl bedeutet.
Mustafa Suleyman ist freilich nicht der Einzige, der sich über all das Gedanken macht. In einem Beitrag für die MIT Technology Review aus dem August dreht Rumman Chowdhury, Expertin für Data Science und Sozialwissenschaft, das Gedankenspiel noch weiter. KI-Modellen Bewusstsein zuzuschreiben und Rechte für sie einzufordern, sei ein bewusster Schritt der Tech-Konzerne, die eigenen Unternehmen aus der rechtlichen Verantwortung für die Handlungen ihrer Modelle zu nehmen.
https://www.technologyreview.com/2026/08/20/1142571/ai-consciousness-debate-trap/
„KI ist kein Naturphänomen, das von Natur gegeben ist“, schreibt Chowdhury. „Sie ist ein technologisches Phänomen, gezeugt von Risikokapitalgebern und Programmierern.“
