Viele Hersteller stellen ihre Chatbots als Partner, als Freund mit individueller Persönlichkeit dar. Das ist gefährlich, das ist verantwortungslos und schlicht: falsch
https://www.derstandard.at/story/3000000296312/hoert-endlich-damit-auf-ki-zu-vermenschlichen
Menschen neigen schon immer dazu, auf alles Mögliche menschliche Eigenschaften zu projizieren, seien es Tiere, Pflanzen oder eben Künstliche Intelligenz. Verschärft wird das noch einmal durch das generelle Bestreben, alles mit Bedeutung aufzuladen, bei dem man nicht versteht, wie es funktioniert. So wird aus simpler Technik dann schnell einmal wahlweise Magie oder eben der einzige Freund, der wirklich zuhört.
Ein Chatbot hat keine Intention, keine Gefühle, kein Bewusstsein. Das dahinterstehende LLM liefert auf eine Frage – zugegeben grob vereinfacht – die statistisch wahrscheinlichste Wortfolge.
Nun ist Unverständnis nie gut, in diesem Fall haben die genannten Punkte aber äußerst unerfreuliche Nebenwirkungen, und zwar auf jene Teile der Gesellschaft, die besonders stark nach Bedeutung suchen. Also etwa jene, für die der Chatbot zum engen Vertrauten, zu einem persönlichen Freund, wenn nicht gar zu einer Art Partnerersatz wird. Selbst qua-religiöse Verhältnisse zu solchen Systemen sind mittlerweile zu beobachten.
Genau das ist aber fatal. Ist es doch angesichts der Neigung solcher Chatbots, Dinge zu erfinden – das dafür aber sehr überzeugend – unerlässlich, sämtliche Antworten zu überprüfen. Sie also als Hilfsmittel zu verwenden, nie als alleinige Lösung. Sonst folgen all die negativen Effekte, die bekannt sind: Von der unkritischen Übernahme von fehlerhaften Antworten bis zum strikten Beharren auf Falschinformationen, weil es halt ChatGPT, Claude, Gemini und wie sie alle heißen, „so gesagt haben“. In weiterer Folge dann eine generell wachsende Unzugänglichkeit für Fakten und damit auch eine höhere Anfälligkeit für Manipulationen und Desinformation.
OpenAI hat zuletzt auch rund um Sora bewiesen, dass man auf gesellschaftliche Auswirkungen der eigenen Technologie herzlich wenig Rücksicht nimmt, wenn es das eigene Wachstum fördert. Umso wichtiger ist es für alle anderen, immer und immer wieder klarzumachen, dass solche Systeme eben kein Freund, kein Partnerersatz und auch kein Gott sind. Dass sie keine Intelligenz, kein Bewusstsein und schon gar keine Gefühle haben. Dass sie Tools sind. Nicht mehr und nicht weniger.
.
