"Clanker" ein neues Wort für "KI-Agenten"

[Andreas_Kunar]

Armin Ronacher ist ein faszinierender, exzellenter Wiener Open-Source Entwickler. In seinem Blog-Post Clanker: A Word For The Machine | Armin Ronacher's Thoughts and Writings beschreibt er diesen Begriff und Problembereich sehr treffend - sehr Lesenswert!!! Ich werde auch versuchen, diese Ideen in meine Vorbereitung für unseren Hub-KI Abend am Di. 9.6. einfliessen zu lassen. OK, ich werde den Titel noch nicht auf „Clanker-Tinkering“ ändern, aber ich überlege …

„Clanker“ verursachen nun zunehmend Stress für hart arbeitende Menschen! Schlechter, KI-generierter, und von Menschen verwendeter/publizierter, Schrott („AI-Slop“) war schon bisher das Problem. Nun wird das aber dadurch multipliziert, dass die KI selber diesen Schrott überall hintragen kann. Subjektiv kein technisches KI-Problem, sondern wiedermal eines mit menschlichen Wurzeln und damit schwer lösbar.

P.S.: Mein OpenClaw Clanker „AndiClaw“ liefert mir täglich meine Morgenpost mit für mich Interessantem. Und ich arbeite daran, das für mich laufend qualitativ zu verbessern. Heute hatte ich wiedermal ein Problem in der Morgenpost entdeckt - es kam ein paar Tage keine. Das wäre OK, halt wenn nichts interessanten passiert wäre.
So hab ich mit „AndiClaw“ darüber diskutiert. Er hat herausgefunden, dass „Robots“/Clanker zunehmend blockiert werden, auch beim Lesen. Das hat aber so ausgesehen, dass eben nichts Neues da wäre. Mein Clanker hat im Dialog mit mir aber eine Lösung gefunden, wie er trotz Blockade interessantes finden kann. Damit hab’ ich den Post von Armin leider erst heute gesehen.
P.P.S.: Mein Clanker darf auch nur mit mir und meiner Familie aktiv kommunizieren.

[stefan.hupe]

Sehr guter Artikel:

Im aktuellen KI-Diskurs machen wir zunehmend viel Anthropomorphisierung und der Begriff „Agent“ wird jetzt häufig verwendet, um einer abstrakten Maschine die Schuld zu geben.

Die heutigen Maschinen sind dumme (aber wirklich faszinierende) Token-Prädiktoren, die Text ausgeben, Werkzeuge aufrufen und von Aufforderungen und dem Training, das in sie einging, gesteuert werden.

Wenn ein KI-System einen Benutzer belügt, hat das System kein moralisches Unrecht begangen, aber die Menschen, die es entworfen, eingesetzt, vermarktet oder fahrlässig genutzt haben, könnten es getan haben. Wenn ein Programmierassistent einen Sicherheitsfehler erzeugt, ist das Modell nicht schuld, aber der Mensch, der den Code akzeptiert und übernommen hat, ist es.

[stefan.hupe]

Die Vermenschlichung von Objekten mag beim Kuscheltier ja okay sein. Auch, einem Auto einen Namen zu geben. Aber Computer, Software und Datennetze zu vermenschlichen, kann sehr gefährlich werden, wenn man dabei die Trennung zur Fiktion verliert.

Der Begriff „Artificial Intelligence“ ist dafür ein wunderschönes Beispiel. Die korrekte Übersetzung ins Deutsche würde „Maschinelle Datenverarbeitung“ bedeuten. Das, was Computer und Software seit jeher tun. In diesem Kontext hat das englische Wort „Intelligence“ absolut nichts mit Genialität, Kreativität und anderen Eigenschaften zu tun, die wir mit menschlicher, kognitiver Intelligenz verbinden. Aber wir fallen liebend gerne darauf ein.

Joseph Weizenbaum hat schon zwischen 1964 und 1966 mit seinem Programm ELIZA gezeigt, wie alleine die Verwendung natürlicher Sprache bei der Interaktion mit einem Computer den Menschen verführen kann, in ihm ein „menschliches Wesen“ hineinzuinterpretieren.

Der Erfolg von ChatGPT rührt meiner Meinung nach auch nicht von den tollen Neuronalen Netzen und dem trainierten Datensatz, die zum LLM geworden sind, sondern daher, dass sie mit dem Chat eine Möglichkeit geschaffen haben, dass Menschen in natürlicher Sprache mit dem System kommunizieren können. Das, was wir Menschen von Beginn an menschlich finden: miteinander mit normalen Worten und Sätzen reden. Allein dieses Userinterface verleitet uns, die Systeme noch schneller zu vermenschlichen.

Und wer erstmal mit Systemen wie Siri oder Alexa gesprochen und das auch unter Weglassen der Schrift mit KI Systemen gemacht hat, wird noch mehr Schwierigkeiten haben, sich bewusst zu machen, nicht mit einem menschlichen Wesen zu kommunizieren. Die „menschlichen Stimmen“ der Systeme verführen da noch mehr zu diesem Trugschluss.

Das Gespräch von Bernie Sanders mit Claude zeigt es besonders beeindruckend. Schnell ist man eingetaucht und vergisst, dass Claude gar kein Mensch ist.

Bernie vs. Claude

Und gerade, weil wir die Technologie vermenschlichen, schreiben wir ihr nicht nur Eigenschaften zu, die sie gar nicht hat (sie täuscht uns nur Intelligenz vor), sondern wir meinen uns auch aus der Verantwortung herauszunehmen.

Jeder, der ein Werkzeug nutzt, ist für die Resultate zunächst selbst verantwortlich. Nur wenn das Werkzeug einen groben Mangel aufweist, kann man den Hersteller in die Pflicht nehmen (Gewährleistung). Das gilt auch für Software.

(Wo bei die Softwarebranche die einzige Branche ist, welche die Frechheit zum Geschäft gemacht hat, ein Produkt mit offensichtlichen Mängeln (Bugs) auszuliefern und sich für die Behebung der Mängel in Form von Updates, Wartungsverträgen oder Subscriptions bezahlen zu lassen.)

[Roland_Giersig]

@stefan.hupe

Die heutigen Maschinen sind dumme (aber wirklich faszinierende) Token-Prädiktoren, die Text ausgeben, Werkzeuge aufrufen und von Aufforderungen und dem Training, das in sie einging, gesteuert werden.

Die heutigen Menschen sind selbstüberschätzende (aber gelegentlich dekorative) Knochenbeutel, die Meinungen absondern, Türklinken bedienen und von Besitzstandswahrung, Kränkung und dem vagen Gefühl gesteuert werden, früher sei alles besser gewesen.