Manipulativ und gefÀhrlich: China will KI-Chatbots mit neuem Gesetz in die Schranken weisen

4future.tech 🧠 Hub KI
1

Die KI-Industrie soll den „sozialistischen Werten“ entsprechend gegen die emotionale AbhĂ€ngigkeit von Userinnen und Usern vorgehen

https://www.derstandard.at/story/3000000302394/manipulativ-und-gefaehrlich-china-will-ki-chatbots-mit-neuem-gesetz-in-die-schranken-weisen

Die chinesische Regulierungsbehörde Cybercraft Administration (CAC) hat einen Gesetzesentwurf vorgelegt, der KI-Chatbots davon abhalten soll, manipulativ auf ihre User einzuwirken. China reagiert damit auf Berichte ĂŒber gehĂ€ufte FĂ€lle von psychischen Problemen bis hin zum Suizid, die in unmittelbarem Zusammenhang mit der emotionalen Bindung an KI-Chatbots stehen.

In dem Gesetzesentwurf spricht die CAC von „KI-basierten, anthropomorphen interaktiven Dienstleistungen“. Dabei gehe es um Programme, die menschliche PersönlichkeitszĂŒge, Denkmuster und Kommunikationsstile in Text, Bild und Ton simulieren und auf emotionaler Ebene in Interaktion mit Menschen treten. Angestrebt werden soll eine „gesunde Entwicklung“ der entsprechenden KI-Tools.

Anbieter sollen die Anwendungen entsprechend „sozialistischer Werte“ aufbauen. Die KI habe moralischen Wertvorstellungen zu entsprechen und dĂŒrfe keinen Inhalt produzieren, der die nationale Sicherheit sowie die wirtschaftliche oder soziale Ordnung gefĂ€hrdet.

Ob wir dann bald Produkte mit KI-UnterstĂŒtzung “made in China” - und daher entsprechend den „sozialistischen Werten“ Chinas - auch in Europa erhalten werden ?

Nachrichten ĂŒber FĂ€lle von KI-unterstĂŒtzten Suiziden waren in den letzten Monaten vor allem in den USA und im Zusammenhang mit ChatGPT gemeldet worden. Entwickler OpenAI sah sich VorwĂŒrfen ausgesetzt, GPT-4o zu ĂŒbereilt und ohne ausreichende SicherheitsĂŒberprĂŒfung veröffentlicht zu haben, um im Rennen mit Googles Gemini nicht in RĂŒckstand zu geraten

2

Die brauchen nur den EU AI Act abschreiben.

1 „GefĂ€llt mir“
3

Das zeigt jedenfalls, dass sogar China sich der potentiellen Risiken in diesem Bereich bewusst ist. Regulierung ist hier definitiv nicht Selbstzweck.

4

Tatsache ist: daß Europa durch die Amerikanisierung nach den beiden Weltkriegen sehr viel an eigenstĂ€ndiger Kultur bereits verloren hat - der Verlust wurde durch Amerikanismen aufgefĂŒllt und von der Jugend enthusiastisch ĂŒbernommen - so dass in vielen Bereichen mĂŒhsam versucht wird alte Traditionen wieder aufleben zu lassen.

Entweder die europĂ€ische Persönlichkeit ist stark genug um der Gier und dem Geiz zu widerstehen, oder sie lĂ€uft in Gefahr von einem Mischmarsch aus Amerikanismen und chinesischen Ansichten ĂŒberrollt zu werden.