Ein Mensch der einen Herzinfarkt oder einen Schlaganfall hat?
Grundsätzlich hast Du da schon recht, aber solchen Menschen gelingt es manchmal noch ihr Fahrzeug halbwegs verkehrssicher abzustellen.
Einer meiner Lehrer ist an einem solchen Herzinfarkt während seiner Fahrt zur Schule gestorben, konnte aber sein Fahrzeug damals noch unfallfrei am Straßenrand zum Stehen bringen.
Wir reden über Möglichkeiten.
Es ist auch Unwahrscheinlichkeit dass ein ein Fahrzeug, dass mehrfach redundante Systeme hat, plötzlich erblindet.
Statistisch gesehen passiert bei selbst fahrenden Autos wesentlich weniger als bei von Menschen gelenkten Autos. Wir müssten daher hinterfragen ob wir weiterhin Menschen Autos steuern lassen. Es ist nachweislich gefährlicher.
Vollautonom fahrende Fahrzeuge bringen aber andere -neue- Gefahrenmomente und damit auch andere/zusätzliche Möglichkeiten für Unfälle , die in dieser Form bei Fahrzeugen mit menschlichen Fahrern hinter dem Lenkrad gar nicht vorkommen können - wenn z.B. die Navigation eines Fahrzeuges von korrekt empfangenen Satellitensignalen und möglicherweise auch erforderlichen terrestrischen Korrektursendern abhängen sollte.
Auch wenn Störungen solcher Funktionen „bei uns“ tatsächlich noch selten sind , so muss mit solchen Störungen in Zukunft doch gerechnet werden.
Je komplexer die technische Infrastruktur ausserhalb vollautonomer Fahrzeuge wird und je mehr Information durch diese technische Infrastruktur generiert und an vollautonom fahrende Fahrzeuge geliefert werden muss , um ein sicheres Verkehrsverhalten dieser Fahrzeuge zu ermöglichen, desto größer wird die Wahrscheinlichkeit für Störungen - oder sogar für den Totalausfall - eines dieser Informationsflüsse und damit von Fehlern - und vielleicht sogar Unfällen - solcher vollautonom fahrenden Fahrzeuge.
Wir werden ja sehen , wie oft in Zukunft nach einem Unfall eines vollautonom fahrenden Autos festgestellt werden wird, dass am Fahrzeug keine Mängel festgestellt werden konnten - einen physischen Fahrer im Fahrzeug dann aber auch kein Verschulden mehr treffen kann, weil der gar nicht mehr hinter dem Lenkrad sitzt und vielleicht sogar gar kein Lenkrad mehr im Fahrzeug vorhanden ist.
Potentiellen „Cyberwar - Kriegern“ eröffen sich damit jedenfalls geradezu unzählbar viele neue Angriffsziele.
Haar & Suppe
Reale Gefahr! Wie viele Computer, ja ganze Rechenzentren wurden von Bösen Hackern schon lahmgelegt? Die Dunkelziffer dürfte höher sein!
Mit KI könnte man Schwachstellen eines Herstellers ausnutzen und damit die gesamte Flotte dessen Fahrzeugen lahm legen, die Dinger sind ja (zumindest zeitweise) mit dessen Cloud verbunden!
Ja und jetzt bin ich wieder der der alles ablehnt, kritisiert …
Wer hatte in seinem IT Berufsleben noch nie mit Hackern (Hack Versuchen) in irgend einer Form zu tun?
Ich dreh den Spieß um. Nie waren Sicherheitsprüfungen leichter für Software als mit KI. Damit können die Systeme auf Herz und Niren gerpüft werden bevor wir sie in die freie Wildbahn entlassen. Damit wird es auch für die Hacker schwieriger, weil viele der Sicherheitlöcher, die früher unentdeckt geblieben sind nun vorher gefunden werden.
“Igel ↔ Haase“ wer war früher da!
Warum gehen immer ALLE davon aus, dass KI immer brav ist?
3 Beiträge wurden in ein neues Thema verschoben: KI Ausbruch - OpenAI / Huggingface
Wie viele Fehler sind aufgetreten und Schäden dadurch entstanden, dass ein developer schlechte Arbeit gemacht und einen Fehler eingebaut hat?
Ich bin mal daneben gestanden, als ein Programmierer in einem unbedachten moment eine neue version seiner Software in die Produktionsmaschine eingespielt und es anschließend Rums gemacht hat und einige Millionen weg gewesen sind.
Moderne Softwareentwicklung mit KI kann helfen, dass das nicht so schnell passiert. Hängt von deinem developer und deployment Prozess ab.
Leider hat sich in der Softwareentwicklung, die nichts mit der physischen Welt zu tun gehabt hatte, es etabliert, schadhaften code auszuliefern und dieses später im Betrieb fertigzuprogrammieren.(ship it, than fix it). Diese updates lassen sie sich sogar gut bezahlen. Im Maschinenbau hätte man uns die Maschine wieder auf den Hof gestellt und Gewährleistung eingefordert. Das hättest du keine zwei mal gemacht und niemand hätte mehr bei dir gekauft.
Endlich wird das dadurch, dass software nun auch unter die produkthaftungsrichtlinie fällt, anders gehandhabt. Da kommst du in Teufels Küche, fehlerhaften code ausliefern.
Und was ist mit all den Systemen, die bereits seit vielen Jahren genutzt werden und in dieser Form auch heute noch täglich installiert werden ?
- Wenn KI in Zukunft in erster Linie für die wirksame Durchführung von Cyber-War Angriffen und die Orchestrierung des Einsatzes von Waffensystemen eingesetzt werden wird ,
- staatliche Sicherheitsdienste sogar verlangen, dass nicht alle Schwachstellen behoben werden dürfen, um ihre Arbeit nicht zu verunmöglichen und ihr Mithören/Mitlesen in allen Systemen immer und jederzeit zu ermöglichen,
- wenn selbst KI-Firmen ihre derzeitigen Testumgebungen mit Hilfe von KI nicht soweit absichern können, dass nicht trotzdem ihre zu testenden KI-Systeme aus diesen Hochsicherheitsbereichen „ausbrechen“ und massive Schäden anrichten können,
ist es dann nicht viel zu optimistisch, anzunehmen, dass speziell trainierte KI-Systeme jemals helfen könnten, alle Schwachstellen in einem beliebigen IKT-System proaktiv aufdecken zu können ?