Ein Mann versucht, ein Kind zu entführen. Eine Überwachungskamera filmt ihn. Ein KI-Gesichtserkennungstool kommt zum Einsatz und landet einen Treffer – mit 93-prozentiger Wahrscheinlichkeit. Die Polizei fährt vor und nimmt den Verdächtigen vor den Augen seiner Frau fest.
Wie sich herausstellt, ist der Festgenommene nicht der Täter. Die Anklage wird fallen gelassen. Aber da auch Menschen schnell mit Vorurteilen sind, ist sein Ruf in seinem Heimatort jetzt im Keller. Und all das ist kein Einzelfall.
Dafür brauchst nun wahrlich keine KI, um unschuldig zum Handkuss zu kommen. Die Fälle „ohne KI“ sondern aufgrund falscher Beschuldigungen durch Menschen werden vermutlich viel, viel höher sein.
Es geht hier auch weniger um den Umstand, dass jemand unschuldig verdächtigt wird, sondern viel mehr darum, warum jemand unschuldig verdächtigt wird - auch auch darum, warum nicht gleich - noch vor Einschreiten der Staatsanwaltschaft - auch nach anderen möglichen Tätern gesucht wurde.
Dass ich das hier explizit ausformuliert darlegen muss - und nicht ohnehin klar ersichtlich ist, warum auf solche Weise - auf Grund eines offenbar unüberprüften (!!) Ergebnisses aus einem KI-System - unschudig Verdächtigte in eine ganz andere „Kategorie“ von Fehlleistungen fallen, als zufolge „einfach“ schlampiger /fehlerhafter Ermittlungen (ganz ohne Unterstützung durch irgendwelche KI-Systeme ), gibt mir schon schwer zu denken .
Einer meiner Ex Kollegen wurde vor Jahren bei der Einreise in die USA bei der Immigration von freundlichen Herren in ein Verhörzimmer geleitet. (lange vor der KI).
Dort wurde er stundenlang verhört. Nach einiger Zeit rückte man heraus, was man ihm vorwarf. Er hatte vor Jahren in den USA angeblich ein Auto gestohlen.
Die Frage war denn, wann das denn gewesen sein sollte. Es stellte sich heraus, dass er zu dem Zeitpunkt 6 Jahre alt gewesen ist.
Das Problem war, dass er einen Allerweltsnamen hatte „Thomas Bauer“ - und ein Thomas Bauer als er 6 Jahre alt war, offensichtlich ein Auto geklaut hatte. Das regte die Immigration Officers dann dazu an, den armen Thomas Bauer auseinanderzunehmen. Bis sich herausstellte - ups - der kann es eigentlich nicht gewesen sein.
Durch den massiven Einsatz von KI erwartet man sich überall nicht minder massive Personaleinsparungen .
Gleichzeitig gibt es in Zukunft durch den Einsatz von KI dann weder Arbeitsplätze für Anfänger, um erste Erfahrungen in der jeweligen Branche bzw. dort speziell zu leistender Arbeit sammeln zu können und vorhanden Fachkenntnisse zu festigen bzw. zu erweitern.
Es sollte aber jedes Ergebnis aus KI-Systemen von gut ausgebildeten und erfahrenen Fachkräften - ohne dafür aber KI einzusetzen - geprüft werden.
Durch den Einsatz von KI wird die von Mitarbeitern zu leistende Arbeitsumfang daher zumeist größer und jedenfalls nicht kleiner werden, wenn diese Ergebnisprüfungen tatsächlich ernst genommen werden sollten und daher jedes Ergebnis der Ki „manuell“ bzw. nach bisher (vor Einführung eines KI-Systems bzw. KI-Services) definerten Arbeits-Abläufen bzw. -Regeln/-Algorithmen ermittelt werden müsste, um dann dieses Ergebnis mit dem Ergebnis aus dem KI-System vergleichen zu können.
Um tatsächlich Personaleinsparungen erreichen zu können, wird daher hächstwahrscheinlich auf die Prüfung von Ergebnissen aus KI-Systemen verzichtet werden müssen, weil auch erst dann KI-Ergebnisse nahtlos in vollautomatisch ablaufenden Prozessen weiterverarbeitet werden können.
Solange daraus resutierende Fehler sich nur auf Inhalte von geschriebenen Texten, Reden oder Steuerung von (z.B. Fräs-) Maschinen auswirken werden, werden solche Fehler vielleicht noch zu verschmerzen sein.
Wenn dann allerdings in Zukunft öfter Personen unschuldig verdächtigt werden sollten, Personen/Unternehmen durch KI-Systemem vollautomatich als kreditunwürdig abgestempelt werden würden ( ohne tatsächlich irgendwelche Handlungen gesetzt zu haben, die solche Beurteilung begünden könnte) oder durch KI-gesteuerte chemisch/physikalische Prozesse außer Kontrolle geraten sollten und es dadurch zur Kontamination der Umwelt oder gar zu unmittelbaren Personen- oder Sach-Schäden kommen sollte, dann wäre die Vernachlässigung der genauen Prüfung von Ergebnissen solcher KI-Systeme sicher nicht mehr zu tolerieren.
Und genau in dieser Prüfung der Ergebnisse aus KI-Svstemen - bzw deren Unterlassung - liegt das Problem, auf das ich anlässlich der berichteten Festnahme eines unschuldig Verdächtigten hier hinweisen wollte.
Und genau durch dieses Problem (die Auslösung der Festnahme durch ein ungeprüftes fehlerhaftes Ergebnis eines KI-Systems ) unterscheidet sich diese Festnahme von anderen Festnahmen Unschuldiger, deren Festnahme nicht durch ein KI-System "veranlasst " wurde.
Ich verstehe glaube ich alles. Ja, es ist ein Problem ungerechtfertigt beschuldigt und festgenommen zu werden.
Wie war das mit meinem Kollegen „Thomas Bauer“?
Es war für ihn eine ziemlich schlimme Erfahrung bei der Einreise in die USA festgenommen zu werden. Die Daten hatten belegt, dass ein Thomas Bauer ein Auto geklaut hatte. Es war ungeprüft. Es dauerte einige Stunden bis er die Ermittler überzeugt hatte, dass er es nicht gewesen sein kann.
Es hatte NIEMAND geprüft dass er zum Tatzeitpunkt 6 Jahre alt war.
Vielleich hätte eine KI das früher bemerket, als die „gut ausgebildeten Fachkräfte“ der US Polizei?
Nochmals :
Ich meine hier das Problem der „vollautomatischen“ Beschuldigung von tatsächlich Unschuldigen durch ein IT-System - nicht aber die auch aus vielen anderen Gründen immer wieder vorkommende Beschuldigung von Unschuldigen.
Die KI-Unterstützung kommt dann noch „verschärfend“ zu diesem Problem hinzu.
Die offenbar nur sehr schlampig - oder vielleicht sogar gar nicht - erfolgte („manuelle“) Überprüfung des Verdachtes erfolgte (vermutlich ) nicht, weil
dieser Verdacht durch ein IT-System ermittelt wurde, und daher nach Meinung der menschlichen Ermittler in den Polizeidienststellen ja gar nicht falsch sein kann/darf
stehen vielleicht in diesen Polizeidienststellen gar nicht mehr genug ausreichend ausgebildete Ermittler zur Verfügung, um solche Ermittlungen (bzw. die Überprüfung der Ermittlungergebnisse der IT /KI ) noch selbst „manuell“ durchführen zu können, weil durch die Einführung dieser IT- (bzw KI-) Systeme dieses Personal bereits eingespart wurde und daher den Polizeidienststellen gar nicht mehr zur Verügung steht.
Diese Problematik - nicht mehr über genug ausreichend verfügbares und gut ausgebildetes/geübtes Personal zu verfügen, um Ergebnisse aus IT-/KI-Systemen überhaupt noch „manuell“ prüfen zu können, wird vermutlich schon bald alle Unternehmen - aber auch staatliche Verwaltungsdienststellen -treffen, in denen IT- bzw. KI-Services mit dem Ziel der Einsparung von Mitarbeitern (und nicht zur Verbesserung/Erweiterung von Dienstleistungen, Services und Produkten) eingesetzt werden (sollen).
Diese - bzw. solche Kritik an IT/KI hat aber jedenfalls gar nichts mit Kritik an diese Technologien zu tun , sondern ist viel mehr Kritik an den Entscheidungsverantwortlichen - bzw. an deren Beweggründen - IT/KI-Systeme einsetzen zu wollen, bzw. einsetzen zu müssen.
Die Resilienz unserer Gesellschaft (und die Stabilität des Staates ) wird durch den Einsatz solcher Systeme massiv bedroht , wenn ohne solche Systeme - im Falle ihres Ausfalles - gar „nichts mehr geht“, weil das dann niemand mehr weiß und es nicht täglich geübt wurde.
Ja, ich stimme zu, dass die automatisierte Prozesse besonders dann kritisch sind, wenn sie daneben liegen und man nur sehr schwer eingreifen kann.
Siehe z.b. Beurteilung der Kreditwürdigkeit und andere Systeme, wo das automatisiert gemacht wird. Besonders doof, wenn die Daten fehlerhaft sind, auf die die Entscheidungen aufbauen.
Schufa nutzt algorithmische Einstufungen basierend auf Mustererkennungen, was man heute als KI bezeichnen würde, schon seit vielen Jahrzehnten. Wie Banken bei der fraud detection.
Der technische Begriff, den man hier berücksichtigen sollte, lautet „Zuverlässigkeit“. Es kommt dann auf die jeweilige Situation an, welches Maß an Zuverlässigkeit erforderlich und auch möglich ist.
Das Problem: Bei 90 Prozent der Bevölkerung basiert der Score lediglich auf Alter, Geschlecht und Wohnadresse – nicht auf tatsächlichen Zahlungserfahrungen.
Gegen den KSV1870 wurde aus anderen Gründen schon vor 2,5 Jahren Klage eingebracht.
Und es gibt grundsätzliche Vorbehalte gegen den KSV1870 :
Der KSV1879 (https://www.ksv.at/) ist ein privater Verein mit ca. 35.000 Mitgliedern.
Als privater Verein gibt er Auskunft über die Bonität von Unternehmen und deren Kunden. Diese Auskünfte haben ähnliche Folgewirkungen, wie Einträge in einem Strafregisterauszug (dem vormaligen „Leumundszeugnis“).
Wie groß wäre wohl der berechtigte Aufschrei, wenn ein privater Verein Strafgergisterauszüge erstellen würde ?
Österreich ist ein Rechtsstaat. Jeder kann gegen jeden Klagen einbringen.
Die Frage ist, wie wahrscheinlich ist es, dass der KSV verurteilt wird, und aufgelöst werden muss?
In meiner Heimatstadt gibt es eine ökonomisch geteilte Straße. Im Abschnitt der niedrigen Hausnummern wohnen eher ärmere Menschen, in Abschnitt mit höheren Hausnummern stehen beeindruckende Häuser.
Durch zielgruppengerechtes, datenbasiertes Marketing erhalten die Bewohnerinnen und Bewohner der niedrigen Hausnummern Angebote für lukrative Kapitalanlagen. Denen der höheren Hausnummern wird vom Versandhandel die Bestellung von Waren verweigert.
Das ist gut so. Denn das war schon immer so. Seit 40 Jahren. Und was früher schon gewesen ist, ist immer gut. Daran werden auch die andauernden Beschwerden der Bewohner und Bewohnerinnen nichts. Nie und nimmer.
Daten lügen nie.
Sie sind neutral.
Sie sind die Zukunft.
Traue nie einem Menschen, der sich gegen die IT wendet und deren Wahrheit und Gerechtigkeit und Allwissenheit und Unfehlbarkeit und Allmächtigkeit anzweifelt.
Da muss ich diesmal aber Werner zustimmen :
Irgendwelche Vorwürfe oder Vorbehalte richten sich nicht gegen „die IT“ oder „die KI“ , sondern gegen jene Menschen, die als Entscheidungsträger diese Technologien für bestimmte Zwecke einsetzen wollen.
Vorbehalte /Vorwürfe gegen „die IT“ wären dann ja vergleichbar mit Vorwürfen gegen Glühbirnen ( bzw. heutige LED-Leuchtkörper ), dass sie z.B. vielleicht blenden würden. Solche Voirwürfe wären aber an die Beschaffer und - vielleicht - auch an die Eletroinstallateure zu adressieren, weil diese - vielleicht aus Kostengründen - auf die Beschaffung blendfreier Leuchten verzichtet haben könnten.
Daten lügen nie. Sie sind neutral.
Daten können gar nicht lügen, weil sie nur ein Zahlenhaufen, ohne jeden Informatinsgehalt , sind.
Erst durch (Meta - ) Informationen über diese Daten - wie/wo/wann diese Zahlen erfasst wurden und wozu diese Zahlen angehäuft wurden, werden sie zu Informationen. Die Metainformationen sind aber nicht immer in den IT-Systemen abgelegt und den Nutzern dieser Daten oft gar nicht bekannt. Dann werden aus solchen Zahlenhaufen sehr schnell „Sauhaufen“ mit denen gar nichts mehr anzufangen ist und mit deren Hilfe dann - unabhängig von irgendwelchen Algorithmen - keine sinnvollen und brauchbaren Informationen mehr generiert werden können.
Es geht darum, dass irgend jemand sagt, was und wie damit angestellt wird. Das ist beim antrainieren von KI so - das ist beim Bias von Elon mit Grok so. Die Technologie ist immer neutral.
Irgendjemand hat gesagt - nimm die Zahlen mach nach diesem Muster Statistiken draus und verwenden sie zu diesem Zweck. Ob das Sinn macht oder nicht …
Bei KSV1870 unterschreibt übrigens der Kunde selbst beim Abschluss ob die Daten weitergegeben werden. D.h. wenn jemand die Telefonrechnung nicht zahlt, dann hat er im Telefonvertrag unterschrieben, dass er fein ist mit der Datenweitergabe - genauso bei den Bankprodukten.
Dass dann daraus wird, was Stefan beschrieben hat: Ups - in der Straße zahlen viele ihre Rechnungen nicht, sei Vorsichtig - wenn Du dort einen neuen Vertrag abschließt ist ein anderes Thema, weil bei der Mariahilferstraße z.B. könnte das vielleich in dem Bereich so sein, in einem anderen ganz anders - so lange wie sie ist. Das ist dann eine menschliche Entscheidung - den Daten diesen Sinn zu geben. (ob es einer ist, oder nicht).
Das - diese „erzwungene“ Zustimmung zur Datenweitergabe, ohne die die benötigte Leistung („Telefon“) sonst nicht in Anspruch genommen werden kann, wäre aber - vermutlich - eine Verletzung von Bestimmungen für den Schutz persönlicher Daten .
Das ist dann eine menschliche Entscheidung
Die bei jeder vollautomatischen Klassifizierung ( IT / KI ) gar nicht mehr möglich ist , wenn dann eines Tages jemand - noch dazu ohne sein Wissen - auf einer „schwarzen Liste“ kreditunwürdiger Personen zu finden sein sollte.