Nach einem Jahr im Amt veröffentlicht Papst Leo XIV. an diesem Montag (11.30 Uhr) seine erste Enzyklika.
In dem mehr als 100 Seiten langen Lehrschreiben mit dem Titel „Magnifica Humanitas“ (Großartige Menschheit) geht es um das Thema Künstliche Intelligenz (KI).
Bei der Vorstellung im Vatikan wird der Papst selbst dabei sein – das gab es nach Angaben der katholischen Kirche noch nie. Der erste Pontifex aus den USA hatte sich in den vergangenen Monaten mehrfach schon zum Thema KI geäußert – sowohl zu Chancen als auch zu Risiken. Die Enzyklika wird vom Vatikan bisher jedoch strikt unter Verschluss gehalten.
Bei dem Termin wird neben hochrangigen Kardinälen und Theologen auch der Mitgründer des KI-Konzerns Anthropic, Chris Olah, anwesend sein - auch das ein Novum bei der Vorstellung einer Enzyklika.
Er verglich die KI mit der Atomenergie, die wie die Künstliche Intelligenz zum Wohl der Menschen genutzt, aber auch als Vernichtungswaffe eingesetzt werden könne. „Auch die KI darf niemals zum Instrument des Todes werden, die Entscheidung über Leben und Tod darf keinesfalls Maschinen überlassen werden“, betonte Leo XIV. in der voll besetzten Synodenhalle des Vatikans. Die KI müsse „entwaffnet“ werden.
„Die Technik ist an sich nicht als eine menschenfeindliche Kraft zu betrachten; im Gegenteil, sie ist von Anfang an in unserer Geschichte verwurzelt, als eine zutiefst menschliche Erscheinung, die (…) im Laufe der Jahrhunderte zu einer erheblichen Verbesserung der Lebensbedingungen der Menschheit beigetragen“ habe.
Doch mit der KI stehe die Menschheit vor einer Situation, „in der die Macht und Omnipräsenz einer neuer Technologien die Struktur des täglichen Lebens durchwirken, Entscheidungsprozesse prägen und die kollektive Vorstellungswelt tiefgreifend beeinflussen.“ Nie habe die Menschheit so viel Macht über sich selbst gehabt.
Es sei „unerlässlich, dass der Einsatz von KI – insbesondere, wenn es um öffentliche Güter und Grundrechte geht – von klaren Kriterien und wirksamen Kontrollen begleitet wird“.
Generell dürften Entscheide, bei denen es um die Würde des Menschen gehe, niemals an Algorithmen delegiert werden.
Mehrfach betont der Papst, dass KI auf menschliche Werte und Moral ausgerichtet sein müsse. Allerdings nützt auch das wenig, „wenn diese Moral von einigen wenigen bestimmt wird“.
„Konkret betrachtet ist die Künstliche Intelligenz nicht neutral, weil sie die Züge derer annimmt, die sie konzipieren, finanzieren, regulieren und nutzen“, betont der Papst in seinem Schreiben.
Des Weiteren bestehe auch bei der KI die allen technischen Errungenschaften innewohnende Gefahr, dass diese vor allem diejenigen noch reicher machen, die sie entwickeln und kommerziell nutzen, während sie „ganze Völker zurücklassen“.
„Solidarität verlangt, dass Entscheidungen in Bezug auf Daten, Algorithmen, Plattformen und KI nicht nur den unmittelbaren Vorteil einiger weniger berücksichtigen, sondern auch die Auswirkungen auf die Gesamtheit der Völker und auf künftige Generationen“, fordert der Papst.
„Technologie kann heilen, verbinden, bilden und unser gemeinsames Haus schützen, aber sie kann auch spalten, ausgrenzen und neue Ungerechtigkeiten hervorbringen“, warnt Leo XIV.
Ich kannn nur feststellen, dass viele Dinge die Papst Leo anspricht, sehr vernünftig sind, und der Papst Technogie-offen ist und Technologie nicht grundsätzlich ablehnt. Technologie und vor allem auch KI hat die Macht unser Leben zu verbessern. Darauf wollen wir uns als 4future konzentrieren.
Er fordert aber vor allem mehr Eigenverantwortung der Menschen ein. (auch da sind wir uns ganz einig). Leider versuchen viele die Verantwortung an höhere Instanzen zu delegieren, das steht aber vollkommen im Gegensatz zur katholischen Soziallehre und auch zu 4future.
KI ist vor allem eine Machtfrage. Wir haben die Macht aus Europäischer Sicht aus Bequemlichkeit an die USA abgegeben. Darüber habe ich bei der Österreichischen Akademie der Wissenschaften gesprochen. Wir kämpfen als 4future dafür uns die Fähigkeiten in Europa wieder zurückzuerobern. Das 4future.institute hat Publikationen dazu geschrieben.
Papst Leo spricht darüber, dass nicht wenige Konzerne die KI dominieren sollen (auch hier sind wir uns einig - wir sagen digitale Souveränität dazu und versuchen das eigenverantwortlich anzugehen). Das ist einer der Hauptgründe, warum ich gerade Tag und Nacht an unserem Rechenzentrum arbeite - und sich @Andreas_Kunar mit seinem Andi-Bot beschäftigt, der ausschließlich lokale KI verwendet.
Er plädiert für internationale Regeln und Verantwortung. Hier käme der UNO ein größeres Gewicht zu (wer sollte so etwas sonst machen). Das Problem ist, dass gerade die USA aktuell die UNO aushöhlen.
Die Enzyklika plädiert dafür dass die Technologie dem Menschen dienen muss - nicht umgekehrt. Auch hier decken sich die Forderungen von 4future vollständig mit der Position des Vatikan.
Ich wünsche mir eine derart konstruktiven Zugang von allen die hier über Technologie diskutieren.
Das war auch der Grund, warum ich das Posting mit dem Link zu diesem Artikel verfasst habe.
Technologie und vor allem auch KI hat die Macht unser Leben zu verbessern. Darauf wollen wir uns als 4future konzentrieren.
Das ist abe nur die halbe Wahrheit, die ohehin schon immer lautstark von den Herstellern und Nutznießern - auch jeder anderen Technologie - „in die Welt hinausposaunt“ wird.
Wenn wir uns mehr auf die zweite Häfte der Wahrheit konzentrieren würden - die sich vielleich auch mit anderen - nicht überall nur vorteilhaft gesehenen - Auswirkungen von technischen Entwicklungen beschäftigen würde, könnten wir vielleicht mitwirken, ein realistischeres und ausgewogeners Bild über Vor- und Nachteile bestimmter Technologien in der Öffentlichkeit zu erzeugen und damit helfen, übertriebene Erwartungen, unnötige Ängste und damit einhergehende wirtschaftliche und politische Fehlentscheidungen zu vermeiden.
Leider versuchen viele die Verantwortung an höhere Instanzen zu delegieren
„Verantwortung wahrnehmen“ bedeutet aber auch, sich informiert frei entscheiden zu können.
Wenn in öffentlich zugänglichen Informationen immer nur „halbe Wahrheiten“ zu finden sind, die „zweite Hälfte“ dieser Wahrheiten aber nirgends verfügbar ist, und auch von uns - oder anderen NGOs - nicht der Öffentlichkeit vermittelt wird, dann ist eine der Voraussetzungen für die Wahrnehmung individueller Verantwortung nicht gegeben.
Wenn es dann auch gar keine indivuelle Wahlmöglichkeit geben sollte, sich anders - „verantwortlich“ - verhalten zu können und z.B. auf den eigenen PKW nicht verzichten zu können, weil es in vielen ländlichen Regionen keine „zumutbar“ verfügbaren öffentlichen Verkehrsmittel gibt, dann kann idividiuelle Verantwortung gar nicht wahrgenommen werden.
Für individuelle Verantwortung ist immer Information ( die „ganze Wahrheit“ ) und alternative individuelle Handlungsfreiheit erforderlich.
Diese Handlungsfreiheit ist z.B. in Zusammenhang mit Alternativen zur Verwendung von Smartphones bzw. Online-Diensten in immer größeren Bereichen des täglichen Lebens gar nicht mehr gegeben.
„Eigenverantwortung“ wird dadurch ohne unmittelbarem „Verschulden“ des einzelen Individuums zunehmend zu einer leeren Worthülse, die nur Unternehmen und dem Staat als „Entschuldigung“ dient, nicht selbst verantwortlich handeln und entscheiden zu müssen.
dass nicht wenige Konzerne die KI dominieren sollen
Das ist aber nur ein frommer Wunsch, der aus dem Mund des Heiligen Vaters auch gar nicht anders verstanden werden kann.
Zum Schutz persönlicher Freiheit, zum Schutz der Demokratie und zur Wahrung öffentlicher Interessen sind aber jedenfalls sehr konkrete Maßnahmen und Vorgangsweisen zur Begrenzung und Beschränkung der Macht internationaler Konzerne erforderlich.
Er plädiert für internationale Regeln und Verantwortung. Hier käme der UNO ein größeres Gewicht zu
Es genügen aber nicht nur Regeln, sondern es bedarf auch spürbarer Konsequenzen nach Verletzung solcher Regeln. Die UNO ist auch aus diesem Grund derzeit leider ein zahnloser Tiger und er hat sogar oft Schwierigkeiten laut zu brüllen.
Ich wünsche mir eine derart konstruktiven Zugang
Die Frage bleibt dann nur, was wir wohl am Ausgang dieses „konstruktiven Zuganges“ vorfinden werden, bzw. wohin uns ein solcher Zugang noch führen wird.
Derzeit scheinen durch den „konstruktiven Zugang“ mehr Probleme sichtbar zu werden, als wir Lösungen finden können.
Wir müssen die Technologie unter unsere Kontrolle bekommen, damit es überhaupt Konsequenzen geben kann.
Es macht nur Sinn, wenn diese Technologie unter demokratischer Verantwortung entwickelt wird.
Es wird keine Konsequenzen für Palantir geben. Weil sie nicht unter Europäischem Recht agieren. Es kann aber Konsequenzen geben, wenn die KI Modelle Europäisch sind.
Darauf konzentrieren wir uns. Digitale Souveränität. Wenn wir eine Wahl bei der Kaufentscheidung haben, können wir uns für „böse“ oder für „gute“ Modelle entscheiden - von wem sie immer auch kommen mögen.