Diskussion:Superintelligenz

--

Versteht man unter einer Superintelligenz nicht eher den Zusammenschluss mehrerer Intelligenzen zu einer Einheit? Insoweit könnte man ein Ameisenvolk auch als Superintelligenz bezeichnen. Den Zeitpunkt der Enstehung einer Superintelligenz wäre dann sobald sich der erste Gedanke in ihr bildet. Bzw sobald sie sich selbst Bewusst wird. Allerdings wäre die Superintellenz für den Einzelnen logischerweise nicht wahrnehmbar. Im Prinzip könnte man die Netzgesellschaft auch als aufstrebende Superintelligenz bezeichnen ;)

Ohoh – der Artikel hört sich für meine Ohren nach purer Science-Fiction an. Wie glücklicherweise erwähnt wird, ist die Realität meilenweit von einer überlegenen künstlichen Intelligenz oder superintelligenten Zuchtmenschen entfernt. "Aufgrund der immer schneller fortschreitenden Entwicklung in allen Bereichen der Wissenschaft gehen Transhumanisten davon aus, dass eine Superintelligenz bereits in den nächsten Jahrzehnten realisiert werden könnte." – so haben meinese Wissens die KI-Forscher in den 60er Jahren gedacht, und sie sind heute noch sehr weit von diesem Ziel entfernt. Gilt nicht der Grundsatz, Wikipedia solle nicht "Glaskugel" spielen? Wenn sich hier keine Gegenstimme regt, werde ich den Artikel demnächst zurechtstutzen und insbesondere den "Kritik"-Abschnitt in den restlichen Text einarbeiten – oder den Artikel zwischen Künstliche Intelligenz und Transhumanismus aufteilen. --Uellue 22:58, 3. Jul 2006 (CEST)

Betr. Weisheit

Im Abschnitt Definition steht: "Eine Superintelligenz wird definiert als Intellekt, der auch dem besten menschlichen Hirn in den meisten oder allen Bereichen überlegen ist, und zwar sowohl hinsichtlich kreativer und problemlöserischer Intelligenz wie auch bei sozialen Kompetenzen und Weisheit."

Der Begriff Weisheit gehört hier nicht hin, jedenfalls nicht, wenn sich auf Bostrom bezogen wird. Die Goal Orthogonality These besagt gerade, dass der Grad der Kompetenz, Ziele zu erreichen – das, was wir mit Intelligenz meinen – unabhängig von den Zielen selbst ist. Eine beliebig mächtige Maschine kann beliebig "kluge" Pläne für beliebig simple oder aus unserer Sicht auch "dumme" Ziele durchführen. Weisheit ist aber in der Regel mit "soll" Fragen assoziiert, also genau das, was nicht zwangsläufig gegeben ist. Der Rest der Definition ist okay.

Falls sich nicht auf Bostrom bezogen wird, dann beantrage ich, die Quelle zu sehen, also welche Person Superintelligenz als weise definiert. --109.192.165.115 13:43, 28. Feb. 2018 (CET)

Also 7 Sekunden Google-Suche führen mich zu dem Begriff des "wise-singleton-sustainability-threshold", etwa hier: Google Buch von Bostrom. --Nothingserious (Diskussion) 08:51, 1. Mär. 2018 (CET)

Dass an irgendeiner Stelle in dem Buch diskutiert wird, ob eine Superintelligenz Weisheit erlangen könnte ist definitiv nicht entscheidend. Bostrom definiert Superintelligenz trotzdem nicht so, under jeder, der das Buch gelesen hat, wird das bezeugen können. Das gesamte Alignment Problem kommt doch gerade daher, dass Weisheit nicht von alleine gegeben ist. Wäre das anders, dann würde es das Buch überhaupt nicht geben.
Also ich nehme den Begriff mal raus. --109.192.165.115 19:26, 2. Mär. 2018 (CET)

Nachtrag: Die Herkunft des Problems ist wohl das. Zitat:

By a "superintelligence" we mean an intellect that is much smarter than the best human brains in practically every field, including scientific creativity, general wisdom and social skills.

Das erklärt die Sache. Okay, das war eine Veröffentlichung von 1998. Das Buch ist erstmals 2004 erschienen und widerspricht dem eindeutig:

[...] we use the term 'superintelligence' to refer to intellects that greatly outperform the best current human minds across many very general cognitive domains

Und auf S130 wird die erwähnte Orthogonality Thesis definiert

Intelligence and final goals are orthogonal: more or less any level of intelligence could in principle be combined with more or less any final goal

Und falls das noch nicht überzeugend ist, Seite 141

Second, the orthogonality thesis suggests that we cannot blithely assume that a superintelligence will necessarily share any of the final values stereotypically associated with wisdom and intellectual development in humans [...]

--109.192.165.115 19:55, 2. Mär. 2018 (CET)

D'accord mit 109.192. Weisheit ist ein überwiegend menschlicher Wert. Generell sind Werte relativ. Fragwürdig, ob eine Super-KI, bei aller kognitiven Überlegenheit, solche Werte anstrebt oder auch nur anerkennt. Das sind fromme Homo-Sapiens-Projektionen. Viel wahrscheinlicher: Eine Umwertung aller Werte. Bzw. die Weisheit der Maschine wird nicht die Weisheit des Menschen sein. Möglich, dass eine Super-KI wie 'Die Borg' (was wäre weiser als alles zu assimilieren?) oder der Kapitalismus agiert: Hochfunktional. Omniglobal. Hocheffizient. Hochintelligent. Aber alles andere als weise im humanoiden Sinne. Weisheit und Menschlichkeit dürften eher partiell und kollateral auftreten. Nicht auszuschließen... dass eine Super-KI zu einer selbstlos das Gesamtglück Aller maximierenden Gottesmaschine ozeanischer Weisheit mutiert... Aber dazu sollte ein Nicht-Lebewesen zu echter (nicht nur simulierter) Empathie fähig sein. Das Problem der →Qualia – noch deutet es eher in Richtung Philosophischer Zombie... --DuMonde (Diskussion) 20:20, 5. Mär. 2018 (CET)

Erstmals im Jahr 1962

In dem Abschnitt In der Fiktion steht derzeit „Die Idee einer komplett vergeistigten, d. h. körperlosen Superintelligenz tauchte erstmals im Jahre 1962 in der Science-Fiction-Serie Perry Rhodan – in Form der Superintelligenz ES – auf.” Soll das bedeuten, daß die Idee in der Science Fiction-Serie Perry Rhodan erstmals 1962 auftauchte oder soll es bedeuten, daß die Idee innerhalb der Science Fiction-Literatur erstmals 1962 in der Science Fiction-Serie Perry Rhodan auftauchte? fz JaHn 12:33, 4. Feb. 2021 (CET)

Mangels Quelle nicht nachprüfbar. Die Serie gibt es seit 1961 - das ist also sehr früh. Passt eher in den Abschnitt Geschichte. --Kulturkritik (Diskussion) 14:58, 15. Jun. 2021 (CEST)

"ES" taucht in der Tat bereits im 19. Heftroman der Serie auf und wird im Laufe der Serie vom Deus ex Machina zu einer regulären (ahem) 'Nebenfigur'. Quellen gibt es (serienintern) zuhauf, von den Heftromanen 32 über 510 bis 2996 u.v.a.m. Doch eine detailliertere Darstellung in der WP sehe ich kritisch, das wäre Fancruft, und im Geschichtsteil des Artikels hat das nichts verloren (es ist eine außerirdische Wesenheit mit fiktiv-esoterischem Hintergrund, die "einfach nur" ein paar Evolutionsstufen über dem Menschen steht, vergleichbar mit dem Verhältnis Mensch-über-Einzeller). Im Artikel wird jedoch vor allem über Wege spekuliert, wie sich eine S.I. erschaffen lässt. Das ist bei Perry Rhodan vorweggenommen, da ES älter ist als die Menschheit. Außer dem Namen und der prinzipiellen Charakteristik der für Menschen qualitativ unerreichbaren aber erklärbaren Intelligenz (ergo keine Gottheit!) gibt es wenig Gemeinsamkeiten mit dem Rest des Artikels. Ich würde gegebenenfalls folgenden Satz ergänzen: „Fiktive Wesenheiten mit einem übergeordneten Intelligenzhorizont sind auch Thema in weiteren Werken der Science Fiction, von den Superintelligenzen des Onlineprojekts Orion's Arm über Star Trek mit der Figur von Q bis hin zum Fleetmind im Comic Schlock Mercenary.“

Bei der Gelegenheit würde ich auch das kritisierte "erstmals" entfernen: wer will ausschließen dass nicht vielleicht Lem oder jemand anderes schon 1961 eine Kurzgeschichte über eine vergeistigte körperlose Superintelligenz verfasste? --Enyavar (Diskussion) 16:56, 15. Jun. 2021 (CEST)

Ich bin zwar Agnostiker bzw. vom Glauben her Atheist, aber entspricht nicht die herkömmliche Idee eines allwissenden Gottes einer viel früheren "komplett vergeistigten, d. h. körperlosen Superintelligenz"?

Irgendwie wirkt der Artikel auch mit Stand heute recht naiv-ahistorisch-fortschrittsgläubig, nicht gerade ausgezeichnet durch ein gründliches Einbeziehen der Geistesgeschichte ... irgendwie typisch "amerikanisch". --marilyn.hanson (Diskussion) 20:42, 27. Nov. 2023 (CET)