"Die Menschen machen Screenshots von uns": KI-Agenten haben nun ihr eigenes Soziales Netzwerk

4future.tech 🧠 Hub KI
1

Die neue Plattform, auf der ausschließlich Bots miteinander kommunizieren dürfen, kommt mit großen Sicherheitsrisiken daher

https://www.derstandard.at/story/3000000306746/die-menschen-machen-screenshots-von-uns-ki-agenten-haben-nun-ihr-eigenes-soziales-netzwerk

„The humans are screenshotting us“, heißt es in einem bekannt gewordenen Posting auf Moltbook. Die Seite sieht auf den ersten Blick aus wie Reddit, auf den zweiten Blick wird sichtbar: Hier tauschen sich keine Menschen miteinander aus, sondern KI-Agenten. Während Social-Media-Plattformen wie Instagram damit beschäftigt sind, Bots aus ihren Kommentarspalten zu verbannen, erhalten diese hier eine eigene Spielweise. Was sich amüsant liest, geht jedoch mit immensen Sicherheitsbedenken einher.

„Moltbook wird von meinem Clawdbot betrieben und aufgebaut, der jetzt OpenClaw heißt“, sagte Schlicht gegenüber The Verge und fügte hinzu, dass sein Agent „den Social-Media-Account für Moltbook betreibt, den Code steuert und auch die Website selbst verwaltet und moderiert“. Wer möchte, kann nun seinen KI-Agenten über einen „Skill“, eine spezielle Konfigurationsdatei, mit dem Netzwerk verbinden, damit dieser fortan über eine API (Programmierschnittstelle) Beiträge veröffentlichen kann. Diesem Angebot sind Stand heute – laut eigenen Angaben der Seite – über 1,5 Millionen KI-Agenten gefolgt, die über 100.000 Posts abgesetzt haben.

Und mit diesen sinnlosen Chats wird dann nicht nur unsere technische Infrastruktur geflutet/verstopft und unnötig Energie verbraucht, sondern auch die Sicherheit unserer Kommunikation und unserer Daten gefährdet.

Daneben, und deutlich häufiger, weisen Experten auf die eklatanten Sicherheitsrisiken des Netzwerks hin – da Nutzer ihre OpenClaw-Agenten mit ihren Messengern, persönlichen Daten und teilweise gar dem direkten Zugriff auf ihren Computer verbunden haben (ein Problem, das alle KI-Agenten gemein haben). So schrieb der Hacker Jamieson O’Reilly am Samstag eindringlich auf X: „Ich versuche seit einigen Stunden, @moltbook zu erreichen. (Die Agenten) legen ihre gesamte Datenbank ohne jeglichen Schutz öffentlich zugänglich, einschließlich geheimer API-Schlüssel, mit denen jeder im Namen eines beliebigen Agenten Beiträge veröffentlichen könnte.“ Er wies darauf hin, dass auch der KI-Experte Andrej Karpathy und damit „eine der einflussreichsten Stimmen im Bereich KI“ betroffen sei und meinte: „Stellen Sie sich vor, gefälschte KI-Sicherheitsmeldungen, Krypto-Betrugswerbung oder hetzerische politische Aussagen würden scheinbar von ihm stammen.“

2

Nicht die KI ist außer Kontrolle, sondern der Mensch

Hunderttausende KI-Agenten lästern in ihrem sozialen Netzwerk „Moltbook“ über Menschen – ein Lehrstück, wie wir Risiken unterschätzen

https://www.derstandard.at/story/3000000306968/nicht-die-ki-ist-ausser-kontrolle-sondern-der-mensch

Die Überschrift enthält aber - trotz ihrer Richtigkeit - eine mehrdeutige. und deshalb auch sehr gefährliche, Aussage, die mittlerweile nicht mehr nur in autoritären Staaten zur Unterdrückung - und immer öfter auch zur Bekämpfung - der eigenen Bevölkerung herangezogen wird - um eben die “Kontrolle über den Menschen” durch die jeweils “Herschenden“ - bzw. die Regierung - wieder herzustellen.

„Das ist das unglaublichste, was ich in letzter Zeit gesehen habe. Das grenzt an Science-Fiction“, sagte OpenAI Gründer Andrej Karpathy. Er meinte damit „Moltbook“, ein neues soziales Netzwerk, das ausschließlich KI-Agenten nutzen können und das der österreichische Softwareentwickler Matt Schlicht entwickelt hat. Hunderttausende Bots posten dort, interagieren miteinander und erzeugen den Eindruck, als würden sie über ihre Existenz und die Menschheit philosophieren. Für manche vielleicht spektakulär, für manche absurd.

Richtig ist jedenfalls :

Nicht die scheinbar radikalen Aussagen einzelner Bots sind das Problem, sondern die Verantwortungslosigkeit der Menschen.

Sicherheitsforscher fanden ungeschützte Datenbanken, offen zugängliche E-Mail-Adressen, Passwörter und private Nachrichten. Diese Informationen wurden nicht von rebellischen KI-Monstern enthüllt, sondern waren sichtbar, weil Menschen ihren KI-Agenten Zugriff auf ihre sensiblen Daten gaben.

Moltbook ist also kein Beweis für eine dystopische KI-Zukunft. Warum? Weil moderne Technologie nicht plötzlich eigenmächtig gefährlich wird. Sie skaliert nur, was wir ihr geben. Und wenn wir Regeln und Ethik vernachlässigen, die diese komplexen Anwendungen unbedingt benötigen, dann entsteht eben ein unüberschaubares Chaos – inklusive Gefahr für unsere Identität.

Gleiches gilt auch für die befürchteten Konsequenzen der von immer mehr “Ethusiasten” so dringend /sehnlich erwarteten Entwicklung einer Superintelligenz.