Weil die KI das macht, was ich ihr sage. Es ist ein Tool. Wenn ich sage brich woanders ein, dann tut sie das. Wenn ich sag find die SicherheitslĂĽcken in unserem Tool tut sie es auch.
Ist wie ein Messer. Man kann Brot schneiden - oder jemanden erstechen.
Und was war da unlängst los? Gab da jemand das Kommando brich aus und brich wo anders ein?
Warum wohl warnen Jene die KI maßgeblich “erfanden“ und voran trieben, selbst in aller Öffentlichkeit vor Gefahren und unabsehbaren Folgen? Es passiert einfach zu rasch.
Die gesellschaftspolitischen Folgen lässt man einfach außer acht. Wenn sich Menschen abgehängt fühlen und die Eliten fürchten, bekommen die extrem Rechten (teilweise Linken) Oberwasser. Futter für FPÖ, AfD, SVP, Le Pen, usw.
Selbst die Machthaber in China befĂĽrchten das Durchbrechen der Zensur durch die KI.
Menschen werden dort unruhig da sie den Verlust der Arbeitsplätze befürchten, das könnte zusammen eine Bewegung auslösen die kaum mehr zu stoppen ist.
Der Auftrag: Die Agents sollten in einer abgeschotteten Testumgebung schwierige Sicherheitsaufgaben lösen: eine vorgegebene Software-Schwachstelle ausnutzen und einen versteckten Lösungscode („Flag“) finden. Damit wollte OpenAI ihre Fähigkeiten für Cyberangriffe bewerten
Die Agents verfolgten den Auftrag zielstrebig.
Die Erreichung des Ziels wurde als primär betrachtet. Die Sicherheitsumgebung war offensichtlich weniger effektiv, als sich Open AI gedacht hatte. Die Agents umgingen sie um das Ziel zu erreichen.
Ich kenne solche Situationen aus dem Job, wenn wir neue Mitarbeiter einarbeiten. Denen sagst du, dass sie eine Aufgabe erledigen sollen, vergisst aber, ihnen die Rahmenbedingungen zu nennen, weil die das gar nicht bewusst ist, dass jemand diese nicht kennen wĂĽrde.
Hätte das mal umgekehrt mit einem Mitarbeiter, der aus einem „kosten orientierten“ gekommen ist. Wir haben uns irgendwann gefragt, warum der nicht performt. Nun, er hat immer zuerst versucht, Kosten zu vermeiden oder Kosten zu sparen. Dabei aber das Ziel aus den Augen verloren. Wenn ich einen kuchen backen will, muss ich Geld für die Zutaten ausgeben. Wenn ich aber kein Geld ausgeben will, habe ich keine Zutaten und verschwende meine Ressourcen in der Mängel Verwaltung. Wir haben vergessen, ihm zu sagen, dass er selbstverständlich Geld ausgeben darf udn dafür sogar ein umfangreiches Budget vorhanden ist, dass er komplett ausgeben darf.
Wir hatten ihm also die falschen Rahmenbedingungen gesetzt, weil wir dachten, daß wäre eh klar.
Genauso ist es bei dem Computer. Wenn du dem sagt, mach das, dann macht der und findet einen weg.
Ich kenne zwar die verwendeten Prompts nicht, würde aber vermuten, dass den Agenten gesagt wurde dass es sich um einen Test handelt und diese daher davon ausgegangen sind dass alles abgesichert ist und nicht erkannt haben, dass sie ins „richtige Leben“, ins Internet ausgebrochen sind. Und sich daher nicht zurückgehalten haben.
Vielleicht kommt hier auch der Umstand zum Tragen, dass es in der IKT keine Sicherheit gibt, obwohl jeder Software- und Service - Anbieter immer davon spricht, dass seine Produkte und Dienste so „sicher“ wären.
Nachdem sie oft genug davon gesprochen/geschrieben haben, glauben sie das schließlich irgendwann auch selber - bis ihnen nun ihre eigenen KI-Systeme praktisch „vorführen“, dass sie hier „Opfer“ ihrer eigenen - nicht eingehaltenen - Sicherheitsversprechungen geworden sind.
Mit diesen Erfahrungen bezweifle ich, dass es jemals möglich sein wird, sichere KI-Systeme - vielleicht auch noch mit „ethischem Verständnis/Verhalten“ - zu bauen, selbst wenn keiner der beteiligten menschlichen Spezialisten/Manager/Politiker „dunklen“ Absichten - bzw. kriminelle Ziele - verfolgen würde.
“Sicher wird’s nur durch gezielte Anwendung eines Seitenschneiders“ 
