Moderne KI entwickelt eigene Lösungswege. Was passiert, wenn dabei Fehler entstehen? Ein Überblick über Verantwortung und Haftung
https://www.derstandard.at/story/3000000332666/der-fall-openai-wer-haftet-wenn-ki-schaeden-verursachthttps://www.derstandard.at/story/3000000332666/der-fall-openai-wer-haftet-wenn-ki-schaeden-verursacht
Schäden können künftig nicht nur durch fehlerhaften Code entstehen. Sie können auch die Folge komplexer Entscheidungsprozesse sein, die kein einzelner Mensch im Detail geplant hat.
Dennoch entsteht dadurch kein rechtsfreier Raum. KI selbst haftet nicht. Entscheidend ist vielmehr, wem die Entwicklung, der Einsatz und die Kontrolle eines Systems zuzurechnen sind.
Inzwischen bestimmen mehrere Regelwerke, was von einem sorgfältig handelnden Unternehmen erwartet werden kann. Zwar begründen sie nicht automatisch eine Haftung für jeden KI-bedingten Schaden, sie definieren aber den Maßstab, an dem sich Unternehmen im Ernstfall messen lassen müssen.
Für Betroffene wäre es aber unzumutbar, wenn sie ihre, durch den Einsatz von KI verursachten Schäden nicht ersetzt erhalten könnten.
Falls selbst die Hersteller von KI-Systemen bzw. von damit ausgestattenen Einrichtungen/Fahrzeugen nicht haftbar sein sollten, dann sollte in solchen Fällen dann eine „KI-Versicherung“ (der Hersteller / Vertreiber /Betreiber von KI-Systemen) Schadenersatzansprüche aus KI-Vorfällen übernehmen.
Denn Schäden aus KI-Anwendungsfällen als Ergebnis „höherer Gewalt“ einzustufen, für die tatsächlich niemand haftbar sein könnte, scheint hier jedenfalls nicht angebracht zu sein, da ja KI nicht ohne Absicht bzw. nicht ohne damit Ziele verfolgen und zusätzliche Einnahmen generieren zu wollen von den Betrebern dieser Systeme zu ihrem eigenen Vorteil eingesetzt werden. - und Beroffene zumeist gar nicht wissen bzw. erkennen können, dass sie Kontakt mit einem KI-System hatten bzw vielleicht auch gar keine Möglichkeit haben, dem Kontakt mit KI-Systemen „auszuweichen“.
Zunächst muss überhaupt ein Fehler auftreten, der zu einem relevanten Schaden führt, den man bemerkt und der einen so sehr stört, dass man sich den Ärger antun will und einen angemessenen Ausgleich erwartet.
Ansonsten sind das alles Diskussionen und Empörungen über ungelegte Eier, die man sich sparen kann.
1 „Gefällt mir“
Solche „Eier“ werden aber bereits nahezu täglich „gelegt“.
„Ungelegte Eier“ sind das nur für jene Personen, die an solchen Themen bzw. an KI-Technologien überhaupt nicht interessiert sind, oder glauben, niemals von nachteiligen /schädigenden Auswirkungen von KI-Systemen in Zukunft betroffen sein zu können.
Jedes Unternehmen muss aber heute wissen ,welche Chancen es hätte ,Schäden durch falsche KI-Ergebnisse anderer Bertreiber von KI-Systemen ersetzt zu erhalten, bzw. welche Vorkehrungen es selbst treffen muss, um Risken der eigenen ( selbst beriebenen/genutzten) KI-Anwendungen richtig einschätzen zu können und allfällige Schadenersatzansprüche Anderer durch fehlerhafte Eregebnisse der eigenen KI-Anwendungen möglichst zu vermeiden.
Lieber Erich,
Wie gehen wir mit Schäden von MI um.
Es gibt auf Youtube eine ganze Reihe von Dokumentationen wo große Unternehmen durch Management Fehler von einem Tag auf den anderen vernichtet wurden. Eines der Beispiele habe ich mit der Nixdorf AG gepostet. Es gibt aber von dieser Doku - Serie eine ganz große Menge an Beispielen von großartigen Unternehmen die vom Planeten verschwunden sind. Alles MI Fehler.
Sollten wir nicht generell danach trachten dass Entscheidungen gut sind, und keine verherenden Auswirkungen haben. Egal wer sie trifft. Weil dann müssen wir uns auch über Konsequenzen für MI Entscheidungen unterhalten.
Die Frage die sich stellt: würden diese Unternehmen noch existieren, wenn die damaligen Führungskräfte KI hinzugezogen hätten.
Auch im Falle von OpenAI waren es wohl menschliche Fehler. Wenn ich einen Tiger besitze und den in ein Gehege sperre und die Türe nur anlehne, dann kann man schwer den Tiger verantwortlich machen, wenn er aus dem Gehege ausbricht.
LG Werner
1 „Gefällt mir“
Statt zu fragen „Wer haftet?“, sollten wir fragen: „Wie machen wir KI sicherer?“
Der EU AI Act gibt hier die richtige Richtung vor: Risikoanalysen für Hersteller, Inverkehrbringer und Anwender. Denn echte Verantwortung zeigt sich nicht in der Suche nach Schuldigen, sondern darin,
- Produkte zu verbessern (Risiken systematisch reduzieren),
- Einsatz bewusst zu steuern (nicht blind vertrauen),
- Risiken zu überwachen (wie ein Brandmelder),
- Notfallpläne bereitzuhalten (die Feuerwehr).
Die aktuelle Debatte erinnert mich an einen Autounfall, bei dem man die Verletzten ignoriert und verbluten läßt, um den Schuldigen zu finden. Dabei wäre die beste Haftungsprävention doch eine Technologie, die so sicher ist, dass Schäden gar nicht erst entstehen.
Lasst uns die Energie in Funktionsfähigkeit, Zuverlässigkeit und Sicherheit investieren – nicht in Schuldzuweisungen.
Es gibt keine Sicherheit - am allerwenigsten durch KI-Systeme - so wie , wie sie derzeit mit höchstwahrscheinlich unrealistischen Erwartungen werbunden sind, wie sie beworben werden und ihr Einsatz geplant ist - oder sie auch bereits eingesetzt werden.
Weil es gerade auch durch den Einsatz von KI- Systemen keine Sicherheit, sondern wachsende Unsicherheit hinsichtlich bisher weitestgehend unbeachteter Bedrohungen - bzw, immer öfter auch konkrete „Zwischenfälle“ - gibt, müssen wir uns als Gesellschaft auf solche Bedrohungszenarien noch (?) rechtzeitig einstellen - und ähnliche Maßahmen, wie im vorbeugenden Brandschutz bzw. im Arbeitnehmerschutz treffen, um es mögichst gar nicht zur „großen“ Zwischenfällen mit/durch Ki-Systeme kommen zu lassen und in möglichen ( aber auch bei zunächst als „unmöglich“ erachteten ) Schadensfällen für die rasche ( und unbürokratische !) Entschädigung von - vielleicht auch „nur“ passiv - betroffenen Einzelpersonen und Unternehmen vor dem Eintreten konkreter Schäden schon rechtzeitig Vorsoge zu treffen.
Die Klärung der Schuldfrage hat hier nur für die Ermittlung der Höhe des zu leistenden Beitrages zur Deckung von anerkannten Schadenersatzansprüchen im Falle eines konkreten „Zwischenfalles“ Bedeutung und unterscheidet sich daher vermutlich gar nicht von irgendwelchen anderen Gerichtsverfahren in Zusammenhang mit Schadenersatzansprüchen in anderen Verfahren.
Wir sind uns einig, dass wir uns komplett uneinig sind.
1 „Gefällt mir“
Lieber Erich,
Hast Du schon KI verwendet - über das Maß von „ich habe das gratis ChatGPT“ einmal eine Frage gestellt?
LG Werner
1 „Gefällt mir“
Wie immer schon :
Wir meinen das Gleiche , verwenden dafür aber Formulierungen, die das nicht erkennen lassen.
Wozu sollte ich das tun ?
Sicherheitsfragen oder Fragen des Umganges mit fehlerhaften Ergebnissen werden damit auch nicht gelöst oder beantwortet werden können.
Erfreulicherweis habe ich keinen Chef, der mich dazu zwingt KI, verwenden zu müssen.
Ich habe genug andere Themen, die mich auch interessieren.
Und mir genügen die Zusammenfassungen von Suchergebnissen im Internet , die sich zwar interesssant lesen lassen, die aber für mich bisher nicht unterstützend waren.
Fallweise lasse ich mir von meiner Tochter berichten, wie sie als Lehrerin KI selbst einsetzt bzw. manchmal als Hausübungen ihrer Schüler „getarne“ KI-Outputs behandelt.
Die Haftungsfrage ist einfach zu definieren: es haftet jene Person, deren Handlungen den Schaden herbeigeführt haben und die den Schaden zumindest billigend in Kauf genommen hat oder grob fahrlässig gehandelt hat.
In der Praxis kann das durchaus verzwickt werden, aber die Regel ist einfach und schon lange juristisch festgelegt.
1 „Gefällt mir“
Und im Endeffekt: In Österreich haftet im Zweifel immer der Geschäftsführer/Die Geschäftsführerin, und wenn sie grob Fahrlässig gehandelt hat, auch mit dem Privatvermögen.
1 „Gefällt mir“
Warum Du das tun solltest?
Weil Du dann ein wenig besser einschätzen könntest, worüber Du redest. Du könntest Dir selbst ein Bild über die Nützlichkeit oder Unnützlichkeit für bestimmte Zwecke machen. Und Du könnest bestimmte Dinge zurecht kritisieren und andere vielleicht loben.
So ist es eher: "Der Blinde redet von der Farbe. "
Die Frage die Du gestellt hat ist nach Österreichischem Recht gelöst. Darum ging es aber nicht. Es war eher ein pauschales „Ich fürchte mich vor der KI“ - das ist legitim. Die meisten Menschen fürchten sich vor Dingen, die fremd sind und die sie nicht kennen.
Wir wollen bei 4future.tech den Menschen Technologie zugänglich machen. Wir wollen, dass Menschen die Technologie verwenden, ausprobieren und herumspielen, damit sie wissen wovon sie reden.
Danach können wir uns überlegen was wir mit den Erkenntnissen machen. Alles andere ist Maschinenstürmertum. Das gab es schon oft auf dem Planeten. Hat nie geholfen. Was helfen könnte wäre die Zukunft zu gestalten und uns zu überlegen was wir tun müssen, damit die Technologie in unserem Sinne genutzt wird und nicht gegen uns. Aufhalten werden wir sie durch Regularik nicht können. (Auch das wurde schon hinlänglich oft bewiesen).
1 „Gefällt mir“
Ich teile vollinhaltlch eure meinung hinsichtlich der weiterhin geltenden persönlichen Verantwortlichkeit und Haftung für den Einsatz von KI und der Anwendung ihrer Ergebnisse.
Ich erinnere aber daran, dass vor noch nicht allzu langer Zeit so abstruse Ideen, wie „eine gewisse Art eigener Persönlichkeit“ Ki-Systemen zuerkannt hätte werden sollen, um offenbar Verantwortlichkeiten - z.B. für auch zu erwartende unvorhersehbare (und daher viellleicht auch schädigende) Ergebnisse aus/durch KI-Systeme - in abstrakte Rechtskonstrukte „auszulagern“ und so für den Einsatz von KI-Systemen Verabtwortiche vor Haftungsfolgen zu schützen. Auch derzeit beobachte ich immer wieder Artikel, denen man entnehmen könnte, dass Verantwortlichkeiten und Haftungsfragen rund um den Einsatz von KI bzw deren Folgen erst noch zu diskutieren und klären wären.
Dafür kann ich - für mich - keinen sinnvollen Bedarf erkennen.
Denn Tests - z.B, zur Anwendbarkleit und Brauchbarkeit von KI-Ergebnissen - gibt’s ohnehin von anderen immer wieder.
Für Unterstützung fehlenden eigenen Wissens ist KI meiner Meinung nach ungeeigne ,weil jede Information aus KI-Systemen grundsätzlich falsch sein könnte und erst - durch einen Wissenden (!) - ohne ein anderes, selbst genauso fehlerbehaftetes, Ki-System dafür heranziehen zu müssen - geprüt werden sollte, ob vielleicht im konkreten Fall doch gerade ein richtiges/brauchbares Ergebnis geliefert wurde..
Für lexikalische Suche verwende ich lieber lexikalische Systeme mit determinischer Suche - ohne frei erfundene Einträg bzw. Inhalte.
Fehlendes technisch /wissenschaftliches Basiswissen lässt sich durch KI ohnehin nicht ersetzen und muss sich jeder im jeweils benötigten Ausmaß „ganz konservativ“ selbst erarbeiten und aneignen.
Welchen sinnvollen Bedarf gab es denn als der Personal Computer neu war.
Wir wussten noch nicht was wir damit anfangen sollten und könnten, es war aber spannend die neue Technologie kennen zu lernen. Wir tippten Code aus Zeitschriften ab, wir bastelten an der Hardware. Sinnvolle Anwendungen gab es am Anfang kaum. Es geht darum die Systeme zu verstehen - und daraus selbst Nutzen oder mögliche Gefahren ableiten zu können.
Damals hatten Menschen Angst, dass der PC Massenarbeitslosigkeit produzieren werde. Das sei „Teufelszeug“ und gefährlich. Wenn da ein Computer den Job von Menschen machen kann (z.B. Buchhalter).
Spoiler: Die guten Buchhalter wurden nicht ersetzt. Man braucht sie noch immer.
KI ist ein Werkzeug und es braucht noch immer Menschen, die wissen was sie tun.
Das Gesetz sieht keine Verantwortung für Technologie vor. Wenn etwas passiert, dann ist immer ein Mensch (in letzter Konsequenz der Geschäftsführer auch persönlich) haftbar.
1 „Gefällt mir“
Und schon wieder gibt es Missverständnisse , weil du offenbar den Zusatz „-für mich-“ überlesen hast.
I c h habe in meinem Alltag keinen Bedarf für diese Technologie.
Dass andere Bedarf an dieser Technologie haben , schließe ich damit jedenfalls nicht aus.
Ob diese Technologie „der Gesellschaft“ ( der Gesamtheit aller ihrer Individuen - nicht nur hier in Österreich bzw in Europa ) mehr nutzen als schaden wird, bezweifle ich aber.
je mehr Details über die - vielleicht auch nur möglichen - Auswirkungen dieser Technologie bekannt werden, desto mehr Idividuen scheinen dieser Technolgie skeptisch bis ablehnend gegenüber zu stehen.
Die weltweit zunehmenden Proteste gegen die Errichtung großer Rechenzentren scheinen ein erster Hinweis auf eine solche Entwicklung - und nicht nur die Bestätigung des Floriani-Prinzips - zu sein.
Das Gesetz sieht keine Verantwortung für Technologie vor. Wenn etwas passiert, dann ist immer ein Mensch (in letzter Konsequenz der Geschäftsführer auch persönlich) haftbar.
Und das ist gut so .
Ich erlaube mir aber darauf hinzuweisen, dass diese „Selbstverständlchkeit“ vor noch nicht allzu langer Zeit von Technik-Enthusiasten, Technik-Visionären und „fortschrittlichen“ Shareholdern als „Geföhrdung des Fortschrittes“ verbunden mit „unnötiger Bürokratie“ angesehen wurde.
Abzuwarten bleibt zudem noch, wie diese Verantwortlichkeit von Verantwortungsträgern auch wahrgenommen /umgesetzt wird und mit welchen Maßnahmen „die Gesellschaft“ auf Verletzung / Missachtung dieser Verantwortlichkeiten reagieren wird.
Damals hatten Menschen Angst, dass der PC Massenarbeitslosigkeit produzieren werde. Das sei „Teufelszeug“ und gefährlich. Wenn da ein Computer den Job von Menschen machen kann (z.B. Buchhalter).
Aus meiner Beobachtung - zu Beginn/Mitte der Achtziger-Jahre des vorigen Jahrhunderts gab es damals gar keine öffenliche Diskussion über gesellschaftliche/wirtschaftliche Auswirkungen immer leistbarer werdender erster Personalcomputer - zu Beginn der Ära der „IBM-Kombatibilität“, vor Verbreitung des Betriebssystems DOS , mit Kosten damaliger Motherboards bei ca 15,000 Schilling und Taktraten von deutlich unter 100 MHz.
Lieber Erich, genau da ist das Problem. Jene die nie mit einer Dampflokomotive gereist waren, sahen die Technologie als vollkommen absurd an. Was sollte dieses feuerspeiende stinkende Monstrum schon für Vorteile für die Menschheit bieten. Noch dazu bringt dieses Monstrum auch Menschen um - die sich ihm (unbeabsichtigt) in den Weg stellen. Alles Teufelszeug.
Sagte man übrigens auch vom Strom und später Telegraphie.
Es ist immer so, wenn man sich mit einer Technologie nicht auseinandersetzt.
Die Dampflokomotive hatte ihre Herausforderungen - und wir haben beschrankte Bahnübergänge erfunden und den Leuten gezeigt, dass sie Abstand vom Bahnsteig halten müssen …
Und das Propblem scheint hier hauptsöchlich meinen frei geäußerte Meinung zu sein.
Ich nehme damit durchaus das „Risiko“ auf mich , mich damit auch blamieren zu können, weil ich ohne „ausreichendes Wissen“ hier meine Eindrücke / meine Meinung widergebe.
Es Stand am Beginn des steilen Anstieges des CO²-Anteiles unserer Atmosphäre.
In der Umgebung dieser Dampfrösser - bzw späterer Bahnbetriebswerke für das Anheizen dieser Dampfkokomotiven - war das Atmen auch schon damals schwierig und mit gesundheitlichen Folgeschäden verbunden.
Ok. Ich habe es verstanden. Die Steinzeit war am besten. Ich werde nichts mehr zu dem Thema kommentieren.