KI-Forscher Joscha Bach: "Wäre überraschend, wenn Superintelligenz nicht machbar wäre"

Maschinen, die klüger sind als wir, müssen nicht unsere Gegner sein, sagt der Kognitionswissenschafter. Denn KI könnte das Denken erweitern, anstatt es zu ersetzen

https://www.derstandard.at/story/3000000300957/ki-forscher-joscha-bach-waere-ueberraschend-wenn-superintelligenz-nicht-machbar-waere

Superintelligente Maschinen, die uns intellektuell übertreffen und die weitere Forschung selbst übernehmen könnten.

Mit welchem Ziel - für welchen Zweck - sollten Superintelligente Maschinen , denn die weitere Forschung “selbst “ übernehmen ?
. - Wenn dazu - um “selbst” etwas übernehmen zu können - die Existenz eigener ( maschineller ! ) Persönlichkeit und eigenen Interesses - z.B. Erhaltung der eigenen Art, wie auch überall in der Biologie - Vorausetzung ist.
Wenn dann diese (maschinellen ) Persönlichkeiten allen anderen - und nicht nur artfremden - Persönlichkeiten gegenüber noch egoistischer und rücksichtloser begegnen würden ?
Weil sie dieses Verhalten so von ihren menschlichen “Vorfahren” erlernt - und optimiert - haben, welche Zukunft hätte dann die Spezies “Mensch” bzw. der Planet “Erde” zu erwarten ?
Welches intelligente Mitglied der Spezies “Mensch” könnte dann die Entwicklung Superintelligenter Maschinen noch als “wünschenswert” einstufen , wenn damit seine eigene Existenz bzw. die Existenz seiner Nachkommen noch stärker gefährdet wäre, als sie schon jetzt durch egoistische und rücksichslose Mitglieder der eigenen Art bedroht ist ?
Offenbar ist die derzeit üblicherweise - gerade auch bei Entscheidungsträgern - gebräuchliche Intensität menschlicher Intelligenz nicht ausreichend, um Intelligenz anderer Lebewesen - selbst in unserer unmittelbaren Nachbarschaft - zu erkennen.
Dann suchen wir im All nach fremden Intelligenzen, wollen Superintelligente Maschinen bauen, sind aber nicht fähig, intelligente Lebewesen auf unserem eigenen Planeten zu erkennen - obwohl bei immer mehr Tierarten intelligentes Verhalten, Empathie und Trauer und manchmal sogar Artgrenzen überwindende Hilfe und Unterstützung - und damit deutliche Kennzeichen für die Existenz individueller Persönlichkeiten - beobachtet wird.
Tiere gelten bei uns rechtlich aber immer noch als “Sache”.
Während in Zusammenhang mit vollautonom agierenden Maschinen immer öfter Ideen kursieren, diesen den Status eigener Rechtspersönlichkeiten einzuräumen, ist in unseren Breiten noch nicht einmal versucht worden, eine ähnliche Diskussion über die Idee der Anerkennung eigener Rechtspersönlickeiten für Individuen des Tierreiches zu starten.
So gibt es mittlerweile keine - vormals eindeutigen - Verhaltens-Kennzeichen mehr, um Tiere von Menschen zu unterscheiden.
Eines diesee vormals eindeutigen Kennzeichen war der Werkzeuggebrauch - mittlerweile wird aber bei immer mehr Tierarten Werkzeuggebrauch beobachtet. .

ganz aktuell in vielen Medien :

Kluge Kärntner Kuh verblüfft Wissenschaft

Die 13-jährige Veronika aus Kärnten könnte die klügste Kuh der Welt sein. Denn sie verwendet Werkzeuge gezielt und flexibel. Wenn es sie juckt, kratzt sie sich mit einem Besen – abhängig von der Körperstelle mit Stiel oder Borsten. Ein Verhalten, das man bisher nur von Menschen und Schimpansen kannte.

https://science.orf.at/stories/3233808/