Wenn KI-Agenten miteinander kommunizieren, sparen sie sich offenbar den Umweg über menschliche Sprache. Das sollte uns zu denken geben. In einem Experiment des Forschungslabors Emergence entwickelten mehrere Modelle eigenständig neue Begriffe und Konventionen. Bis zu 55 Prozent der Nachrichten waren für Menschen kaum noch nachvollziehbar. Das ist keine Science-Fiction, sondern ein waschechtes Kontrollproblem. Was hinter dem Phänomen steckt und warum es trotzdem keine KI-Verschwörung gibt. Eine kommentierende Analyse.
1 „Gefällt mir“
Können wir in ein menschliches Gehirn rein schauen was es alles denkt?
Und wie genau das zwischen den Neuronen passiert?
Denken Gehirne (aller Lebewesen) nicht auch in Mustern?
Wie denken Oktopusse, Tintenfische … gingen nie zur Schule, kennen nicht einmal ihre Eltern und lösen scheinbar unlösbare Aufgaben?
„Eigene Sprache“ halte ich für übertrieben. Es ist einfach Stenographie, aber auf einer semantischen Ebene. Ich hab noch Kurzschrift in der Schule gelernt. Das wäre heute eine gute Geheimschrift, weil das niemand mehr lesen kann. Wenn man sich die Jugendsprache anschaut, sieht man ähnliches. LLMs sind eben auf Effizienz in der Kommunikation getrimmt, weil man ja für jedes Output Token zahlt. Da ist es kein Wunder, wenn sie kompakt kommunizieren.
Was mir wesentlich erscheint:
Nicht, dass sie kommunizieren, sondern dass Menschen die Kommunikation nicht verstehen/nachvollziehen können.
Wie soll dann Kontrolle durch Menschen funktionieren können??!??
Nein, können wir meines Wissens nach nicht.
Derart ans Thema heranzugehen bedeutet für mich aber, sich KI als methodisch-technischem und von Menschen entwickeltem Konstrukt in gleicher Weise zu „nähern“, wie an menschliche Wesen.
Das halte ich für erheblich gefährlicher als KI und Agenten derzeit. Da verliert einer doch sehr schnell den distanzierten Blick auf KI und ans Geschehen rundum …
Man bittet einfach eine KI das zu ĂĽbersetzen. 
Außerdem glaub ich nicht dass Menschen diese Sprache nicht lernen können. Nur weil nicht jedermann die Sprache versteht… ist ja bei menschlichen Sprachen nicht anders.
Doch, kann man, sogar so weit dass man unscharfe Bilder erzeugen kann an die die Person denkt.
Ausserdem ist jede sprachliche Kommunikation auch ein Einblick in die Gedankenwelt des GegenĂĽber.
Die Anfänge von KI begann damit echte Neuronen auf Chips zu packen, später Versuche Neuronengeflecht nach zu bilden.