Der Anfang der KI-Agenten-Ära ist vielleicht das Ende des PCs
Der private Rechner als eigenes IT-Reich passt immer weniger in die Zukunftsvision vieler Konzerne
Lassen wir dann nur mehr von & durch GroĂźkonzernen Denken?
Der private Rechner als eigenes IT-Reich passt immer weniger in die Zukunftsvision vieler Konzerne
Lassen wir dann nur mehr von & durch GroĂźkonzernen Denken?
Ich glaube eher, dass wieder eine Gegenwelle kommen wird. Wenn Rechner lokal leistungsfähig genug sind KI’s lokal laufen zu lassen, gibt es keinen Grund mehr das in Rechenzentren zu tun. (Siehe @Andreas_Kunar s AndiBot - der läuft auf lokaler Hardware - wenn auch eine ziemlich leistungsfähige).
Auch die Stimmung ist ungefähr wieder dort, wo sie Ende der 80er Jahre war, als IBM Rechenzentren alle Macht hatten.
Siehe dazu NVIDIAs Computex Keynote vom Montag und Microsofts Build Keynote von gestern. Der neue Fachbegriff heißt „unmetered AI“ - eben die lokal vorhandene Rechenleistung für KI Agenten nutzen zu können. Und die haben auch eine neue Klasse von Windows Maschinen sowie Software dafür vorgestellt.
P.S. ich hab gestern meine letzte „natve“ Windows Maschine (Surface Laptop 7 mit Snapdragon X Elite) verkauft. Bin neugierig, was Apple nächste Woche erzählen wird. Ich arbeite primär mit Macs und auf meinen NVIDIA Rechnern läuft Ubuntu und nicht Windows
Welche NVIDIA Rechner gibt es aktuell zu kaufen?
Wäre eine Alternative zum Mac. Nur dass ich da vermutlich Debian installieren würde.
Ist auf NVIDIA die ARM aarch64 Version zu installieren oder eine besondere Variante?
Aktuell gibts die DGX Spark und ihre OEM Versionen (20 Kern arm CPU, 1 sparse FP4 Petaflops Blackwell GPU, 128 GB RAM, 10 + 2x 200 GBE Netzwerk). Vergleichbar einem M5 Pro Chip mit aber 128GB und scale-up RDMA via den 2x 200GBE links und der Rechenleistung eines M5 Max oder Ulta. Ich hab 2x ASUS GX10 (die sind die billigsten OEM Versionen). Ubuntu 24.04 als custom DGX-OS Standartbetriebssystem. Nicht für allgemeine Aufgaben gedacht. Die neuen N1/N1X Systeme (DGX Spark Chips mit Korrekturen für Windows und ohne 200GBE Links) mit Windows kommen erst im Q4. Auf diesen ganzen Systemen kannst KEIN normales Betriebssystem installieren, das hätte keine Treiber/Anpassungen dafür.
Mich würde ja nur intessieren, welche Aufgaben ein privater „normaler“ Haushalt mit solcher Rechner-Power zu bearbeiten /zu lösen hätte, die er nicht auch weiterhin mit seiner alten Hardware lösen/bearbeiten könnte - deren (alte) Software ohnehin immer noch genug Luft nach oben für - finanziell auch leistbare -Verbesserungen hätte.
Vielleicht hast Du diese Frage aber in einem deiner Vorträge im Verein aber ohnehin schon irgendwann beantwortet - vielleicht genügt zur Beantwortung dann ein Link dorthin ?
Mir kommt die aktuelle Diskussion ĂĽber lokale KI oder ĂĽber KI -Agenten als Endpunkte fĂĽr Cloud-zentrierte KI-Anwendungen so vor, wie die Wiederholung der uralten Diskussion ĂĽber Vor- und Nachteile von Thin-Clients gegenĂĽber Thick-Clients.
In privaten Haushalten hat’s immer Thick-Clients gegeben. Seit einiger Zeit gibt’s die auch im Formfaktor vormaliger Thin-Clients.
Ich frag mich wer benötigt eigentlich (außer vielleicht beruflich) so viel KI?
Läuft die Menschheit nun Gefahr andere für sich denken zu lassen = undefinierbare undurchschaubare “KI Wolke“ - bei einem totalen längerem Blackout (kann schon eine regionale Naturkatastrophe sein) wären diese Menschen dann nicht mehr überlebensfähig?
Können dann nicht mehr die KI fragen was sie tun, wie sie sich verhalten sollen?
Ja, ganz recht, Erich. Diese Diskussion wiederholt sich gerade. Das ist ein Wellenmuster, dass sich wiederholen wird.
Wir sind „alle in die Cloud“ gewechselt, weil dort Rechenpowert vorhanden gewesen ist, die wir daheim nicht hatten, weil dort Leute gewesen sind, die sich um die ganze Administration und Wartung gekümmert haben.
Um den Preis, dass wir diesen Leuten „unser Leben“ anvertraut haben.
Nun ist die Technolgie allerdings so weit fortgeschritten, dass wir daheim oder in der Hosentasche schon ordntlich Rechenpower haben, der Adminaufwand extrem gering geworden ist, dass wir die Power wieder zurück holen können.
Das wir den Cloudanbietern nun nicht mehr vertrauen wollen und und von diesen aufgrund der Steigenden Subscription Preise auch ausgenommen fühlen, führt nun wieder in die Richtung „mehr lokal“.
Bis es mal wieder in die andere Richtung gehen wird.
BTW: Ich empfehle mal die Beschäftigung mit der Innovations- Archöologie.
KI = wir erledigen es mit Software und viel Rechenpower.
Nichts mit denken. Jedem simplen Taschenrechner wird heute KI zugesprochen, dabei schĂĽttelt der nun wahrlich nicht aufgrund statischer Erfahrungswerte (neuronale netze) heraus, dass 1+1 = 3 ist.
Und selbst wenn wir uns anschauen, wo wir schon neuronale Netze einsetzten, ohne dass wir es ĂĽberhaupt merken oder darĂĽber reden.
Spracherkennung, OCR/Texterkennung, Fotos machen, Suchergebnisse, Muster/Bilderkennung (in der Industrie seit 20 Jahren groß im Einsatz, um an Produkten Fehler zu erkennen), Gesichtserkennnung/Fingerabdruckerkennung am Smartphone, …
Wo wir schon seit vielen Jahren ganz selbstverständlich neuronale Netze und KI, ohne dass wir es bemerken:
Neuronale netze basieren auf statistische Wahrscheinlichkeiten (Erfahrungen) und sind für die Erkennung von Mustern gut geeignet. Sie können Themen abbilden, die sich durch exakte mathematische Formeln (Code, Regeln) nicht abbilden lassen.
Sie werden oftmals fĂĽr Mustererkennungen (zb dass beim Tippen der vertipper doe eigentlich die bedeutet) oder fĂĽr Prognosen gut geeignet.
Wettervorhersage sind ein gutes Beispiel. Wir haben lange Zeit versucht, umfangreiche simulationsmodelle mir. Symbolischen Algorithmen aufzubauen und sind dabei an Grenzen gestoßen. Nachdem wir aber reale wetterdaten in neuronale netze gepackt haben und diese mit den bisherigen Simulationen verschränkt haben, haben wir einen grossen Schritt nach vor gemachten: weniger rechenpower, schneller, bessere Ergebnisse.
Das glt aber nur für jene „alle“ , die daheim - „im Home Office“ - arbeiten und dafür KI-Syteme benützen müssen (z.B. zur Wahrung der eigenen Karriere-Chancen oder zur Imagepflege ihres „besonders fortschrittlichen“ Unternehmens) , die aber damit keine realen Daten zu bearbeiten haben, für die Datenschutzbestimmungen oder besondere Maßnamen zum Schutz vor Spionage genau eingehalten werden müssen.
Selbst innerhalb vieler Unernehmen sollte die Verwendung öffentlicher Clouds und dort gehosteter KI-Syteme aus den gleichen Gründen tabu sein.
Dass bei derart vielen Einschänkungen offentliche Clouds - mit dort in Groß-Rechenzentren gehostete KI-Systemen - jemals Basis für tragende Geschäftsmodelle der Betreiber dieser Rechenzentren werden könnte, bezweifle ja nicht nur ich.
Nun ist die Technolgie allerdings so weit fortgeschritten, dass wir daheim oder in der Hosentasche schon ordentlich Rechenpower haben,
Fortschrittliche Technolgie haben wir aber schon lange, und die wurde schon bisher von Privathaushalten und vielen Unternehmen - auch außerhalb von Hosentaschen - nicht in vollem Umfang ihrer Möglichkeiten genutzt -
deshalb brauchen wir jetzt noch mächtigere Hardware , die dann noch weniger genutzt wird ?
Merkt denn niemand, dass mit immer rascher noch „fortschrittlcher“ werdenden Technologien nur eine Technologie-Deflation bei Endverbrauchern ausgelöst wird und das dann dazu führen wird, dass tatsächlich fortschrittliche Endverbraucher (und auch viele Unternehmen) vielleicht sogr gar keine „fortschrittlichen Technologien“ mehr kaufen und einsetzen werden, weil es schon Morgen noch viel fortschrittlichere Technologien geben wird, auf die man noch warten will ?
Weil Anwender vielleicht in der Vergangenheit schon bemerkt haben, dass Geräte/Systeme mit am Morgen noch „besonders fortschrittlichen“ Technologien bereits am Morgen des Folgetages - an dem solche fortschrittlichen Geräte das erste Mal in Betrieb genommen werden sollten - bereits schon wieder „veraltet“ waren.
Es daher besser gewesen wäre, mit der Inbetriebnahme neuer fortschrittlicher Technologiem zuzuwarten, solange die gerade genutzten Technologien noch alle Anforderungen der jeweiligen Anwender erfüllen.
Ein „normaler“ Haushalt wäre von Cloud-Diensten abhängig, wenn er KI-Dienste will.
Das Preisniveau ist wie die PCs zu Beginn der PC Ära. Da brauchte auch kaum jemand einen PC, aber der Club wurde gegründet, um genau dieses zu ermöglichen.
Ich bin einer der KI-Pioniere, der sich halt solche Geräte zu Beginn leistet. In 1-2 Jahren, kostet eine vergleichbare KI-Leistung wahrscheinlich nurmehr 1/5 (außer die Weltwirtschaftslage verschlechtert sich weiter).
Braucht man das? Genauso wenig/viel wie Mitte der 80er einen PC - eine Schreibmaschiene hat es damals auch getan, aber halt nicht für mich. Ich hatte bereits Anfang der 80er „PC“-ähnliche Rechner (Intel 8080/8086 Entwicklungssysteme) bzw. einen IBM-PC erster Generation in der Firma. Und mir dann zuerst einen CP/M Rechner und dan einen Taiwan-PC der ersten Generation selbst zusammengelötet (noch vor der Club-Bestellung).
Eigentlich sollten wir im Club eben die Anlaufstelle fĂĽr solche Innovatoren sein, und weniger fĂĽr die Pessimisten, die meinen, daĂź wir das neumodische Zeugs eh nicht brauchen.
100%, Andi.
Wir waren im Club sowohl
und aktuell eben auch Home Automation und KI.
Das Forum liest sich oft eher wie die Neuauflage der MaschinenstĂĽrmer.
Wir versuchen Lösungen für brennende Herausforderungen zu finden, nicht alles zu verdammen oder verbieten. Das ist nicht Vereinszweck. War er nie.
Mit der Einschränkung, bei Benutzung nicht “die gesamte Welt daran teilhaben zu lassen“!
Das heißt weitestgehend lokal am eigenen Rechner. Selbst auch so gute Verschlüsselunegen sind unter Umständen knackbar - und sei es noch durch eine Zero Day Lücke die möglicherweise längere Zeit nicht veröffentlicht wird.
Am Mac benutze ich KI (oder Vorläufer) vermutlich schon länger, alleine die Erkennung von Personen in Bildern in Fotos.app
Siehe das auch im Kontext zu diesem:
Analyse zum Souveränitätspaket der EU: Krisenfest per Gesetz?
https://heise.de/-11318875
Eben diesen Stadard Artikel gelesen, der Widerstand gegen KI scheint demnach größer als öffentlich bekannt?
Der Wind dreht sich: Widerstand gegen KI wird sowohl breiter als auch radikaler
KI-BefĂĽrworter zielen auf eine kleine Menge an radikalen Widersachern der Technologie ab. Doch das gesamtgesellschaftliche Stimmungsbild kippt ebenfalls
Das große Problem und Gefahr durch KI - sie befindet sich in Händen von mächtigen Kapitalgebern, manche nicht unbedingt Anhänger der liberalen Demokratie!
Mache liebäugeln auf das chinesische System.
Plutokratie, Technokratie, Theokratie - wäre ein unheilvolles Dreigestirn!
Ich habe - ganz ähnlich, wie Du - auch (fast) alle Enrtwicklungsphasen von Desktops miterlebt und genutzt - und kann mich auch noch an drei Fehleinschätzungen erinnern, die ich damals vertreten habe :
Solche - aus heutiger Sicht - „Fehleinschätzungen“ wurden damals aber auch von andern vertreten.
Meine Frage war - zunächst - gar nicht "Braucht man das ? " sondern viel mehr :
Wozu kann das ein Privater brauchen, welche zusätzliche Anwendungsmöglichkeiten bietet lokale KI im privaten Bereich und bei Einpersonen-Unternehmen gegenüber den Möglichkeiten der dort üblicherweise bisher eingesetzten IKT-Technologien ?
Dass neue Technologien zunächst immer mehr Kosten verursachen , als bereits lange eingeführte und verwendete Technologien, ist wohl unvermeidbar - aber allein noch kein Grund für Kritik oder Ablehnung neuer Technologien.
Wenn aber der mögliche Nutzen neuer Technolgien durch
in Frage gestellt werden müsste , dann wäre breite Kritik an solchen Technologien sogar erforderlich.
Jede Technologie sollte einen positiven Beitrag zur Erreichung von Klimaschutzzielen leisten und nicht selbst direkt oder indirekt die Erreichung von Klimaschutzielen erschweren oder gar verhindern. Das sollte auch fĂĽr KI gelten.
Ein „normaler“ Haushalt wäre von Cloud-Diensten abhängig, wenn er KI-Dienste will.
Dass verschiedene „fortschrittliche“ Geräte im Haushalt jetzt schon ohne Cloud-Dienste - und immer öfter auch nicht mehr ohne KI - gar nicht mehr funktionieren, dagegen kann sich ja ein „normaler“ Endverbraucher ohnehin nicht „wehren“ . Oft merkt er nur, das irgendwelche Geräte sich „seltsam“ verhalten oder gar nicht mehr funktionieren, wenn im Haushalt gerade der Internetzugang unterbrochen sein sollte.
Für die Funktion der Geräte sind Cloud-Dienste - und vernutlich auch KI-Dienste - in den meisten Fällen gar nicht erforderlich bzw. ist ihr Ausfall nur Auslöser für zusätzliche Gerätestörungen.
Wer nutzt Emails und betreibt seinen eigenen Mailserver, um auf die Cloudservices von Microsoft, Gmail, A1, Web.de oder 4future.digital zu verzichten?
Wer nutzt die Post verzichte auf die Cloudservices von WhatsApp, Telegram, Signal & Co?
Wer hosted seinen eigenen Webserver?
Wer schaut noch auf das eigene Barometer und nicht bei der Wetter App, die auf die Cloudservices zugreift.
Wer geht noch zum Bankschalter und verzichtet auf die Bank-App?
Wer hat noch ein Telefonbuch und verzichtet auf die Synchronisation Seine Kontakte Termine und Aufgaben ĂĽber die Cloud zwischen Smartphone, Rechner und Tablett?
Wer kauft sich noch eine CD und verzichtet auf Musik ĂĽber Spotify, Apple Music, Amazon Music oder YouTube.
Wer kauft sich noch eine VHS-Kassette und verzichtet auf Netflix, die ORF Mediathek oder Sky?
Wer verzichtet auf die Möglichkeit, seine Gesundheitsdaten zu erfassen, dass ein Sensor mit integriert KI den Blutzucker wert ermittelt und eine App mit Cloudanbindung mittrackt? (man kann auch ein Langzeit-EKG verwenden).
Wer verzichtet auf die Smartwatch mit Cloudanbindung, die einen Sturz feststellt und automatisch den Notdienst benachrichtig. (Oder einen Herzinfakt Ode Schlaganfall feststellt)?
Wir wissen alle, dass wir also gar keine Cloudanbindungen als Privatpersonen nutzen und auf KI (Prohabilitische Systeme) verzichten können.
Eine Metaebene tiefer (oder höher, ja nach Standpunkt) …
Wie viel Privatsphäre sind wir bereit (noch) zu opfern?
Wie siehts mit Abhängigkeit / Unabhängigkeit aus?
Wie weit wollen wir uns offen und auch unterschwellig manipulieren lassen?
Wollen wir in einem alles regelnden Staat (siehe China) leben - vice versa - wollen wir uns einigen regelnden, weltweit agierenden Big Playern unterjochen lassen?
Etwa Feudalismus 2.0 schleichend durch die Hintertüre (bist brav darfst, bist “schlimm“ darfst nicht - was immer unter brav / schlimm definiert ist)?
Fragen über Fragen … ![]()
Ich weiĂź das triftet nun in politisch angehauchter Philosophie ab.