Fast hätte ein KI-Fehler einen „Krieg verursacht“, berichtet CNN. Zudem soll die Palantir-KI der Armee jenes Bildmaterial, das zu dem tödlichen US-Angriff auf Schulkinder im Iran führte, nicht als veraltet erkannt haben
Kurz bevor US-Präsident Donald Trump am Freitagabend für die US-Medien CNN, MS NOW und Politico ein Hausverbot im Weißen Haus aussprach, hatte CNN gerade eine brisante Recherche veröffentlicht: Demnach hätte ein mithilfe von Künstlicher Intelligenz (KI) erstellter, fehlerhafter US-Geheimdienstbericht fast dazu geführt, dass das US-Militär inmitten des Irankriegs ein chinesisches Schiff stürmte.
CNN zitierte mit dem Vorfall vertraute Kreise. Demnach warnte der Bericht vor einer angeblichen Ladung des Schiffes mit Komponenten für Atomwaffen. Die Informationen seien „komplett falsch“ gewesen und hätten „fast einen Krieg verursacht“.
Parallel dazu berichtet das US-Medium Bloomberg, dass Untersuchungen des Pentagons ergeben hätten, dass fehlerhafte Geheimdienstinformationen, veraltete Aufnahmen und eine zu starke Abhängigkeit von KI zu dem US-Raketenangriff beigetragen haben, bei dem im iranischen Minab mindestens 123 Kinder getötet wurden. Der Angriff war kurz nach Beginn der US-israelischen Offensive im Iran erfolgt – offenbar aufgrund von veraltetem Bildmaterial, nur so viel haben US-Beamte bisher eingeräumt. Ein Uno-Bericht sprach jüngst von Kriegsverbrechen, Washington protestierte.
Laut anonymen Quellen habe sich die US-Armee darauf verlassen, dass die KI – konkret das System Maven von Palantir – veraltetes Bildmaterial als solches erkennen und melden würde.
Das Schulgelände in Minab – mit seiner falschen Einstufung als Einrichtung der Revolutionsgarden – wurde zusammen mit anderen potenziellen Zielen in Maven eingespeist und als eines der empfohlenen Ziele für den ersten Angriffstag ausgewählt, heißt es in dem Bloomberg-Artikel.
Dazu komme, dass keine der sogenannten Pentagon-Einheiten zur Eindämmung von Schäden für die Zivilbevölkerung (Civilian Harm Mitigation, CHM) das Ziel überprüft habe.
Nein, es war kein KI-Fehler, sondern ein Fehler im Prozess. Ein menschlicher Fehler. Bei solchen hochsensiblen Entscheidungen muss es ein Mehr-Augen-Prinzip geben. Check, Re-Check, Double-Check. Normalerweise arbeiten da zwei unabhängige Info-Teams unabhängig Empfehlungen aus und der Stab vergleicht die dann und entscheidet. Auch Menschen können Fehler machen, und wenn es in einem Prozess keine Überprüfungen gibt, ist der Prozess fehlerhaft.
Aber KI ist halt der perfekte Prügelknabe, KI wehrt sich nicht…
Da hast Du grundsätzlich recht.
Zu diesem Prozessfehler ist es aber gekommen, weil KI-Systeme beteilgt waren und von diesen KI -Systemen mehr erwartet wurde, als sie tatsächlich leisten konnten.
Die Bezeichnung „KI-Fehler“ ist lediglich die übliche Verkürzung in Zeitungs-Medien, die in viel zu kurzen Artikeln bzw. Einleitungen und Überschriften komplexe Zusammenhänge korrekt darstellen sollen.
Im konkreten Fall scheint - wieder einmal - auf die hier jedenfalls zwingend erforderliche Kontrolle/Prüfung der Ergebnisse aus KI-Systemen verzichtet worden zu sein.
Also prinzipiell die gleichen Probleme und Fehleinschätzungen, wie in Zusammenhang mit dem Einsatz von KI-Systemen im Bereich vollautonom fahrender Fahrzeuge auf öffentlichen Straßen und ganz allgemein beim Einsatz von KI-Systemen in vollautomatisierten Prozessabläufen.
Wenn in Produktionsprozessen der Industrie oder im Bereich von Forschung und Entwicklung KI-Systeme durchaus sinnvoll und erfolgreich eingesetzt werden können, bedeutet das noch lange nicht, dass KI auch in anderen Prozessen sinnnvoll - und für vielleicht Betroffene auch ungefährlich - eingesetzt werden kann.
Ich habe zudem den Eindruck, dass KI-Systeme außerhalb der hier oben genannten Bereiche immer unzulässig eingesetzt werden dürften, weil jedes Ergebnis aus KI immer nur als Vorschlag (bzw. Anregung/Idee) behandelt werden müsste, der/die erst nach Prüfung durch erfahrenen Mitarbeiter/Spezialisten/Facharbeiter angewendet werden dürfte. Damit wäre auch jede Anwendung von KI innerhalb vollautomatischer Prozessabläufe (und damit z.B. auch für die Steuerung vollautonom fahrender Fahrzeuge oder für den Ersatz von Arbeitskräften) unzulässig.
KI erfindet ja nicht die komplette “Menschheitsgeschichte“ (deren Wissen und Erfahrung) neu, sondern sucht nur in allem was es findet, bzw. mit allem was es “gefüttert“ wird.
So Manche werden versuchen der KI auch “Böses“ ein zu impfen, davon können wir ausgehen! Wer das negiert, der agiert blauäugig!
…
Gedankenspiel: Lass der KI ein kompletttes OS neu entwickeln, du wirst darin genug Fehler und “offene Scheunentore“ finden!
KI ist ein Menschenwerk, daher genau so Fehler anfällig - auch in Punkto des Bösen.
So ein komplett KI generiertes OS auf Fehler zu durchforsten, da kannst es gleich von Menschen schreiben lassen, ginge vermutlich schneller. KI die KI auf Fehler durchforstet? Der Bock zum Gärtner?
Der menschliche Geist muss immer die letzte Instanz sein die entscheidet!
Vielleicht würde es helfen einige Zeilen aus Goethes Faust zu lesen und über den Sinn des Gedichts vom Zauberlehrling nach zu denken! Nur den Hexenmeister am Ende des Gedichts, der Alles wieder gut macht, den suchen wir vergebens!