Wachsende Sicherheitsrisiken durch KI sind keine Zukunftsvision mehr

4future.tech 🧠 KI
1

Cyberangriffe können mit KI-Tools schneller und effizienter durchgeführt werden. Das trifft Privatpersonen ebenso wie Betriebe – die beim Setzen von Gegenmaßnahmen aber noch zögern

https://www.derstandard.at/story/3000000319526/wachsende-sicherheitsrisiken-durch-ki-sind-keine-zukunftsvision-mehr

Mitte Mai veröffentlichte die GTIG ihren neuen Bericht „AI Threat Tracker“, in welchem dargelegt wird, wie im Bereich der Cybersecurity Angreifer und Verteidiger gleichermaßen KI nutzen.

Die wachsende Bedrohung spiegelt sich auch in Zahlen deutlich wieder: Laut einer aktuellen Umfrage von Deloitte unter rund 350 österreichischen Mittel- und Großunternehmen hat sich die Zahl der Ransomware-Attacken hierzulande seit 2024 verdoppelt, nahezu ein Drittel (28 Prozent) der österreichischen Unternehmen berichtet von beinahe täglichen Ransomware-Angriffen.

Das österreichische, auf Cybersecurity spezialisierte Unternehmen Certitude Consulting beobachtet wiederum, dass von Anfang Jänner bis Ende April im Durchschnitt 184 neue CVEs (engl. Common Vulnerabilities and Exposures, Schwachstellen in Software) entdeckt werden, auch dies ist mehr als eine Verdopplung gegenüber den Vorjahren (86 CVEs pro Tag zwischen 2020 und 2025).

Laut Daten aus dem National Privacy Test (NPT) von NordVPN wissen 90 Prozent der österreichischen Befragten nicht, welche Datenschutzaspekte sie bei der Nutzung von KI-Anwendungen im beruflichen Kontext berücksichtigen sollten.

2

Das ist ein gedanklicher Fehlschluss. KI deckt Sicherheitslücken auf. Und kann verwendet werden um sie proaktiv zu finden und zu schließen.
Die Sicherheitsrisiken bestehen unabhängig von KI.

2 „Gefällt mir“
3

Die Sicherheitsrisiken bestehen unabhängig von KI

Sicherheitsrisiken werden im Bereich der IKT bzw. der Digitalen Welt aber nun - mit Unterstützung durch KI und damit noch rascherer und leichterer Entdeckung als bisher, noch schneller zur tatsächlichen Bedrohung.
Angriffe gegen die digitale Infrastruktur von Unternehmen, die ohne KI bisher nur wenigen Sicherheitspezialisten und nur einigen „Hobby-Programmieren“ und „Cyber-War-Kriegern“ - mit dafür ausreichend tiefen Detailkenntnissen - möglich waren, sind nun allen Personen möglich, die dafür geeignete KI-Systeme bedienen und die dafür erforderlichen Prompts formulieren können, aber über erforderliche technische Detailkenntnisse für solche Angriffe gar nicht mehr selbst verfügen müssen, weil KI dann auch gleich Angriffstools zur Ausnützung bisher noch gar nicht bekannter Schwachstellen liefern bzw. generieren kann .

Nicht nur Unternehmen sparen durch gezielten Einsatz von KI Arbeitskräfte, das Gleiche gilt auch für Gegner/Feinde dieser Unternehmen - bzw. auch für Angreifer von Staaten.
Dank KI können auch „feindliche Kräfte“ mit weniger Personalaufwand in kürzerer Zeit größere Schäden an/in anzugreifenden Zielen verursachen -
weil komplexe KI-Systeme - gemeinsam mit KI -Agenten zu deren Koordination - in allen Phasen eines Angriffes ( von der Planung/Aufklärung über die Auswahl der Angriffspunkte und Angriffsmethoden, der Entwicklung neuer Waffen - bzw. Angriffstools - bis zum Einsatz dieser Tools ) verwendet werden können.

Im Bereich der analogen Welt stellen mögliche Sicherheitsrisiken, selbst dann eine reale Gefahr dar, wenn sie bis zum Eintritt eines katastrophalen Unfalles noch gar nicht entdeckt wurden und bis dahin auch noch keine negativen Auswirkungen bemerkt wurden.

Sicherheitstrisiken werden viel zu oft nur dann als solche „gesehen“, wenn sie nicht nur theoretisch - „eigentlich nicht denkbar“ - in irgendwelchen Studien beschrieben werden, sondern wenn es Vorschriften über regelmäßige Kontrollen , Prüfungen und sonstige proaktiv zu setzende Maßnahmen gibt, um allfällige Schäden als Folge schlagend gewordener Sicherheitsrisiken zu vermeiden und es deutlich spürbare (und „schmerzende“ ) Folgen - z.B. ausreichend hohe Geldstrafen , bis hin zu behördlich angeordneter Schließung von Unternehmensbereichen - gibt, um die Einhaltung solcher Vorschriften auch erzwingen zu können.

4

Ja, so ist das.

KI ermöglicht nicht nur den Herstellern, schneller den Fehlern und Mängeln ihrer eigenen Produkte auf die Spur zu kommen, sondern auch den Bösewichte. Es ist dann halt ein Wettrennen.

Wer nicht mitmachen will oder kann, der verliert halt.

„Natürliche“ Auslese.

Bitter, aber so gnadenlos ist das Leben.

1 „Gefällt mir“
5

Meine Antwor hat sich primär auf
@Roland_Giersig

KI deckt Sicherheitslücken auf.

bezogen.
KI deckt nicht nur Sicherheitslücken auf , sondern unterstützt auch Angriffe unter Ausnützung dieser von ihr gefundenen Sicherheitslücken.
Ich will damit darauf hinweisen, dass erst durch KI diese aufgedeckten (und erst durch KI bekannt gewordenen) Sicherheitslücken zu einer massiven Gefahr werden , weil sie ohne schnelle Aufdeckungf durch KI- Unterstützung vielleicht noch viel länger gar nicht bekannt geworden wären und damit auch nicht gleich Ausgangspunkt für erfolgreiche Angriffe werden hätten können.
Verschärfend kommt dann noch hinzu, dass KI auch gleich passende Angriffswerkeuge finden oder selbst generieren kann, um von ihr selbst gefundene Schwachpunkte auch gleich nahezu sofort nach deren Entdeckung für Angriffe gegen betroffene Systeme nutzen zu können.

1 „Gefällt mir“
6

Was schlägst du vor? Die Verwendung von KI zur Identifikation von Schwachstellen in Software und deren Weiterentwicklung stark einzuschränken oder zu verbieten?

7

Notwendig wäre so etwas - aber nicht nur für die Entdeckung und Ausnützung von Schwachstellen in IKT-Systemen - sondern auch z.B. für die „Abschaffung“ einer dokumentierbaren Realität.
Denn ab sofort könnte jedes Bild , jedes Video , jede Tonaufnahme und jeder geschriebne Text eines jeden Autors Ergebnis von Halluzinationen von KI - Systemen oder von ihnen erteilten „Fälschungsaufträgen“ sein - und das dann auch noch kostengünstig, jederzeit und in beliebigen Mengen.

Und „verbieten“ wird da sicher nicht reichen - es sollte technisch gar nicht mehr möglich und diese „technische Unmöglichkeit“ auch verlässlich technisch prüfbar - und jedenfalls nicht „umgehbar“ - sein, auch wenn Du mich deswegen nun für „verrückt“ halten wirst.

8

Und die Mafia wird da brav mitspielen?

1 „Gefällt mir“
9

Da wöre dann erst eine - und möglicherweise sogar die einzige - Organisiation bzw. Unternehmensgruppe , wenn man sie geeignet - vielleicht durch „freiwillig“ gezahlte Schutzgelder - teilhaben lassen könnte.

10

Dass KI Modelle nicht so schwer zu betreiben sind - hast Du übersehen. Es gibt die Dinger Open Source zum Download und sie sind nicht ganz so übel. Wie willst Du den Zugriff darauf einschränken, wenn man nicht mehr als einen halbwegs leistungsfähigen Rechner braucht, wie Andi Kunar immer wieder demonstriert - um das selbst zu betreiben?

Selbst wenn Du die Technologie morgen verbieten würdest, wäre die Software (die im übrigen nicht sehr komplex ist) bereits in der freien Wildbahn und von - nehmen wir die von Stefan zitierte Mafia - weiterverwendbar.

Mittels 3D Druckern kann man mit Bauplänen aus dem Internet Waffen drucken. Sollten wir gleich mitverbieten.

Mit einem PC kann man Cyberangriffe auf andere Rechner machen. Verbieten.

Mit der Post kann man Paketbomben verschicken. Auch verbieten.

Wir reden hier über KI. Dass man mittlerweile Viren in kleinen Maschinchen genetisch designen kann, und die Geräte frei käuflich sind zu einem Preis ungefähr wie Andis zwei KI Rechner - beunruhigt hier scheinbar niemanden.

2 „Gefällt mir“
11

Ich verstehe das Unbehaben, dass man mit modernen Technologien, die einerseits eine große Hilfe darstellen können, auch viel Unfug betreiben kann. Das Messer. Das Auto. Die Atomkraft. Die Biotechnologie. Drogen. Es kommt immer darauf an, wie man sie verwendet, mit welchem Ansinnen. Die Arbeit liegt vor uns, an den Menschen zu arbeiten, damit sie sich gut und korrekt verhalten.

Ja, ich bin ein Freund davon, Waffen im Privatbesitzt zu verbieten. Weil sich für mich nicht erschliesst, warum man diese Dinger haben muß. Software ist aber viel komplexer. Und Software kann ich auch nicht wie Waffen einfach mal einsammeln.

Gebote und Verbote sind fein, um den braven Menschen eine Orientierung zu geben. Die bösen Menschen kümmern sich nicht darum. Das ist leider eine Tatsache.

Gebote und Verbote funktionieren in Gesellschaften aber nur, wenn sie von möglichst vielen Menschen auf mitgetragen werden. Bei einem Pauschalverbot wird das schwierig werden. Vorallem, weil es heute kaum mehr möglich ist, zwischen „normaler Software“ und „KI“ zu unterscheiden.

Also ja: Gebote und Verbote sind in Maßen sinnvoll. Aber es entbindet uns nicht davon, für eine Akzeptanz - ohne ausschliesslich auf Drohnungen,Strafen, Zwang und Polizeiknüppel zu setzten - zu sorgen. Und da sind wir wieder beim Menschen.

Der Wunsch, das Fehlverhalten des Menschen mit Technolgie zu überwachen, zu erkennen, zu bestrafen und am Besten gleich zu verunmöglichen macht mir Angst. Denn er beraubt uns Menschen der Entscheidungshoheit und Würde. Das geht Richtung Techno-Diktatur. Nein, mag ich gar nicht. Ich kann den Antrieb dazu verstehen: schliesslich ist es für autistische IT-Nerds ein Gräuel, sich mühsam immer und immer wieder mit anderen Menschen auseinandersetzten zu müssen, mit ihnen zu diskutieren und auszuhandeln, was rechtes Verhalten ist. Da ist der technologische Zwang doch viel einfacher.

1 „Gefällt mir“
12

Lieber Erich, ja, das ist eine weitverbreitete Meinung, die jedoch falsch ist. Als für den TÜV tätiger Sicherheitsexperte kann ich dir versichern, dass das BESTEHEN von Sicherheitslücken das Problem ist. Geheimhaltung von Sicherheitslücken ist keine international anerkannte Sicherheitstechnik.

1 „Gefällt mir“
13

Du hast offgensichtlich mein Posting( https://forum.4future.community/t/wachsende-sicherheitsrisiken-durch-ki-sind-keine-zukunftsvision-mehr/1989/5?u=erich_pekar ) hier weiter oben nicht gelesen.
ich habe damit die lediglich die hier - von „konstrukiven Postern“ offenbar bevorzugte - Darstellung nur der „halben Wahrheit“ über - bzw die Präsentation nur der schön glänzenden Seite von - KI gemeint.
Es gibt halt- wie immer - auch die anderen, negativen, Auswirkungen von KI.
Die gerne immer wieder verwendeten Vergleiche mit irgendwelchen Handwerkzeugen (Hammer, Messer, .. )mit denen auch Schäden verursacht und sogar Leute umgebracht werden können, sind für mich immer wieder ein Hinweis darauf, dass negative Folgen aktueller Technologien damit verharmlost werden sollen - weil offenbar der Unterschied der Reichweite negativer Auswirkungen und der Unterschied in der erzielbaren „Effektivität“ von Tätern ( z.B. Ausmaß des Schadens, bzw. Anzahl der Geschädigten je Tat ) bei solchen Vergleichen offenbar unberücksichtgt bleiben.

Dass KI Modelle nicht so schwer zu betreiben sind - hast Du übersehen. Es gibt die Dinger Open Source zum Download und sie sind nicht ganz so übel.

Bei solchen lokalen KI Modellen, gibt’s dann auch kein „machine-learning“ mehr bzw. wenn überhaupt, dannn nur in dem Ausmaß - und mit den Trainingsdaten - die der Anwender bereitstellt. Um beim Beispiel der Softwareleaks zu bleiben, müsste der Anwender der lokalen KI dazu also erst selbst wissen, ob in seinen Trainigsdaten solche Leaks enthalten sind, auf die sein lokales „KI-Angriffstool“ trainiert werden soll.

Von lokalen KI-Modellen würde ich daher gar nicht erwarten, dass die zur Suche und für den Missbrauch neuester Solftwareschwachstellen genutzt werden könnten .
Bitte mich aber zu korrigieren , wenn ich mit dieser Meinung vollkommen „daneben“ liegen sollte - sie also falsch sein könnte.

Dass man mittlerweile Viren in kleinen Maschinchen genetisch designen kann, und die Geräte frei käuflich sind zu einem Preis ungefähr wie Andis zwei KI Rechner - beunruhigt hier scheinbar niemanden.

Mich und vermutlich, wenn sie es wüssten, auch viele andere, beunruhigt das schon.

14

Ist schon umkehrbar … allen KI RZ den Strom abschalten, das wärs dann …

15

Als ob das so „einfach“ wäre …

16

Ja … (also total daneben wollte ich damit sagen). Natülich können die genauso genutzt werden.

17

Auch in lokalen Programmen kann “Das Böse“ :face_with_symbols_on_mouth: schlummern und nur auf einen Trigger warten!

18

Die können aber nur zur Ausspähung bzw. Nutzung jener Schwachstellen genutzt werden, die zum Zeitpunkt des Anlernens (oder zum Zeitpunkt der Erstellung der Heuristiken zur Erkennung „abnormalen Verhaltens“ von Usern bzw. Prozessen ) bereits bekannt waren.
Umgekehrt könnte natürlich auch „normales Verhalten“ definiert werden und jede Abweichung von diesem „normalen Verhalten“ als Hinweis auf eine mögliche Schwachstelle gewertet - und weiter analysiert - werden.

Oder irre ich mich hier mit solchen Behauptungen schon wieder ?

19

Wie sollte denn ein lokales Modell überhaupt „Kenntnis“ über neue Bedrohungszenarien bzw Schadsoftware (und damit auch neuartige eigene Angriffsmöglichkeiten) erhalten, wenn es auch temporär nicht mehr wieder in eine „Lernphase“ übergehen könnte, und beim „Endanwender“ gar niemand (kein Mensch) fähig wäre, neueste Bedrohungslagen und dadurch vielleicht auch geändertes („abnormales“, gefährliches) Verhalten von Useren bzw Prozessen rechtzeitig - noch vor Eintritt eines tatsächlichen Schadens - zu erkennen und damit das KI-System / Angriffsabwehr neu zu trainieren und damit an die neue Bedrohungslage anzupassen ?

Oder gibt’s dann für diese lokalen Modelle von KI-Systemem zur Abwehr von Angriffen - aber auch für neue Angriffszenarien, die soche Ki-Tools dann im Auftrag irgendwelcher „Hintermänner“ auch selbst ausführen könnten - alle paar Tage Updates, wie bei den Tools zur Bekämpfung von Viren und Trojanern (…), mit den dadurch (vieleicht wegen unzureichender Vertrauenswürdigkeit) sich dann noch zusätzlich eröffnenden Sicherheitrisiken ?

20

Lieber Erich,

NEIN. Eine KI sucht nach Schwachstellen, sie muss sie nicht kennen. Sie ist wie ein Sicherheitsmitarbeiter der schaut, wo das Ding angreifbar sind. Es hat nichts mit davor bekannten Sicherheitslöchern zu tun. Eine KI ist kreativ. Sie denkt nach, sie probiert aus - und zwar aufgrund von Mustern - nicht von bekannten Löchern. Dafür brauche ich keine KI.

LG Werner

1 „Gefällt mir“