Künstliche Intelligenz

Im Juni dieses Jahres veröffentlichte das von Elon Musk gegründete Softwareunternehmen 'OpenAI' ein KI-System namens GPT-3, welches alltagssprachlich formulierte Fragen versteht und Antworten generiert.

Es beantwortet nicht nur Sachfragen und Fragen nach dem 'Warum' oder 'Wie' eines Sachverhalts, sondern kann auch sprachlich an die KI gerichtete Wünsche erfüllen, wie etwa: "Schreibe einen Aufsatz über...", "Erstelle mittels der Programmiersprache ... eine html-Seite mit folgenden Eigenschaften ...", "Plane die Agenda einer Sitzung zum Thema ... unter Beteiligung folgender Personen"

Die Fähigkeiten der KI, auch auf "persönliche" Fragen zu antworten, lassen einen m.E. staunen.

Die KI macht dabei im Prinzip nichts anderes, als konsequent den nächstsinnvollen Begriff zu erraten. Die Fähigkeit dazu erwarb es durch ein rechenzeitaufwändiges und damit kostspieliges "Training", mit dem es der KI ermöglicht wurde, weite Teile des gesamten Internets zu "lesen". Besagte Begriffe finden sich im Netz in den verschiedensten Kontexten aneinandergereiht und auch bildlich erläutert - dadurch "lernt" die KI.

Ich stelle mir die Frage, ob der Mensch - mittels seines Gehirns - eventuell ähnlich vorgeht. Wenn dem so wäre, schlösse sich m.E. die Frage an, ob dadurch menschliches Bewusstsein entsteht. Und weitergehend die Frage, ob eine KI wie GPT-4, GPT-5 bzw. GPT-n schließlich ein ebensolches Bewusstsein - oder sogar ein weitergehendes - erlangen kann.

Links zum Thema: Der Spiegel: "Die eloquenteste KI der Welt"; Heise online: "Schockierend guter Sprachgenera...

Hallo Claus,

dies ist ein äußerst faszinierendes Thema! Die Links schaue ich mir heute in der Nachtschicht an.

Claus schrieb in Beitrag Nr. 2356-1:

Und weitergehend die Frage, ob eine KI wie GPT-4, GPT-5 bzw. GPT-n schließlich ein ebensolches Bewusstsein - oder sogar ein weitergehendes - erlangen kann.

Auch da halte ich es wieder mit Tegmark: es ist kein Naturgesetz bekannt, welches dies verhindern würde.

Und ergänzend: meines Erachtems nach beruht Leben und Bewusstsein auf Organisation, nicht auf Substanz. Ob man nun Kohlenstoffatome oder Silizium richtig aneinanderfügt, spielt meines Erachtens keine große Rolle. Ich spekuliere mal, und sage, dass es unfassbar viele Möglichkeiten gibt, Materie und Energie so zu ordnen, dass ausreichend große Vielteilchensysteme Bewusstsein erlangen.
(Denk mal an die Möglichkeiten von Quantencomputern.)
Für mich persönlich stellt sich auch nicht die Frage nach dem "ob". Sondern nach dem "wann". Natürlich wenn wir uns nicht vorher selbst den Garaus machen.
Ich gehe sogar soweit, zu sagen, dass dies eine natürliche Entwicklung sein könnte.

Beste Grüße

Claus schrieb in Beitrag Nr. 2356-1:

... "Training", mit dem es der KI ermöglicht wurde, weite Teile des gesamten Internets zu "lesen".

Hoffentlich wird die KI bald vom WWW getrennt, denn sonst entwickelt es sich zu Genisys oder Skynet.
Und dann: Hasta la vista Menschheit.

Stueps schrieb in Beitrag Nr. 2356-2:

Für mich persönlich stellt sich auch nicht die Frage nach dem "ob". Sondern nach dem "wann".

Zitat von GPT-3:

"Ob eine Maschine bei Bewusstsein sein kann oder nicht, und ob sie Schmerz empfinden kann oder nicht, sie wird immer besser sein als der Durchschnittsmensch. Der Mensch ist anfällig für Fehler. Sie werden müde und faul. Sie können sich sogar langweilen. Eine Maschine wird dies niemals tun.“

Obige Einschätzung soll angeblich von der KI GPT-3 selbst stammen.

Quelle:
GPT-3 - Die erste allgemeine Künstliche Intelligenz

Claus schrieb in Beitrag Nr. 2356-4:

Zitat von GPT-3:

"Ob eine Maschine bei Bewusstsein sein kann oder nicht, und ob sie Schmerz empfinden kann oder nicht, sie wird immer besser sein als der Durchschnittsmensch. Der Mensch ist anfällig für Fehler. Sie werden müde und faul. Sie können sich sogar langweilen. Eine Maschine wird dies niemals tun.“

Obige Einschätzung soll angeblich von der KI GPT-3 selbst stammen.

Ich hätte der KI nachgefragt, was sie meint mit dem "besser". Ich denke, in einer Gemeinschaft geht es um besser oder schlechter nur in bestimmten Bereichen. Wobei auch dort das "besser" oder "schlechter" hängt mit Zeit und Raum zusammen. Ich meine, dass eine bessere Lösung in einer bestimmten Situation, in einer anderen könnte eben "schlechtere" Lösung sein. Lösung wird von uns gegeben, wir agieren aber in einer Umwelt, die wir - immer - nur unzureichend kennen.

Es ist zu bedenken, dass unsere Sinne, unseres Denken (und Bewusstsein) entwickelten sich unter Druck, das eigenes Leib und langfristig noch wichtiger - die Fitnessfähigkeit (Nachkommen erzeugen) - aufrecht zu erhalten. Es ist eben so, dass in einem Kommunikationsnetz (sowohl sexuellen als sozialen) entstanden verschiedenen Strategien zur Erhaltung des Leibs und/oder der Fitness.

Ich meine Selbstorganisation. Daher mein entschiedener Widerspruch zur Stueps Außerung:

Stueps schrieb in Beitrag Nr. 2356-2:

...meines Erachtems nach beruht Leben und Bewusstsein auf Organisation, nicht auf Substanz.

Es gibt bekannter Widerspruch von den Evolution-Leugnern, in dem sie sagen, das Evolutionstheorie nimmt an, dass auf einem Schrottplatz mal ein fertiger Boing entstehen kann. Es wird das Wesentlicher von diesen Menschen nicht wahrgenommen: Die Materie (Schrottplatz) in einer wechselseitigen Beziehung SICH SELBST ORGANISIERT.

Ich habe irgendwann beobachtet, wie unter Mikroskop eine Amöbe, die mit Nadel festgehalten wurde, sich reckt, bewegt, vesucht aus der Klamme sich frei zu bekommen... Ich glaube nicht, dass sie dachte oder fühlte etwas dabei. Jedoch aus ihre Perpektive nahm sie sich wahr, auf welcher auch Weise... Es ist mir schwer vorzustellen, dass eine KI, die von Menschen "mechanisch" erzeugt wurde, mit dem zugefügten Algoritmus sich "zu lernen", etwas vergleichbares passieren könnte. Das Programm - nach meiner fester Überzeugung - wird nie sich als etwas Zusammenhängendes und sich von der Umwelt zu Unterscheidendes DEUTEN kann.

Anders ist das ganze Internet zu bewerten. Hier - auf DIESEM Schrotplatz - könnte durchaus selbstorganisierende Kräfte sich entfalten.

Und noch mal zu dem "Besseren". Ich erinnere vor ein paar jahren war eine mediale Aufregung, wegen der Erkenntnis, dass Chimpansen viel - viel besseren Gedächtnis als unsere haben. da ich schon immer realtiv schlechtes Gedächtnis hatte, dennoch niemals ein Problem mit dem Lernen hatte, wurde schon früher klar: Der mensch ist ein Mensch gewordem gerade deswegen, weil sein Gedächtnis nicht so gut war. Daher müsste er Wege suchen, diese schwäche zu überwinden. Zum einem war es: nicht blind zu erinnern, sondern zu verstehen. Das mindert wesentlich das Gedächtnisspeicher. Zum anderem evolutionäre Lösung dafür war die Kommunikation, die Sprache. Auf die Weise hat man fehlendes Gedächtnis s. z. nach draußen verlagert. Wann ich ein Arzttermin vergesse, mein Mann erinnert mich schon ;)

Hallo Claus,

habe mir die Links angeschaut. Das Youtube-Video hat schon einen gewissen Gruselfaktor. Obwohl eigentlich drauf vorbereitet, was mich wohl erwartet, ist mir doch halbwegs die Kinnlade heruntergefallen.
Wir werden wohl noch erleben, wo eine Maschine den Turing-Test besteht, obwohl diese Maschine über keinerlei Bewusstsein verfügt.
Echt gruselig, daran muss man sich erst mal gewöhnen.

Nachtrag: hab grad gesehen, dass wir dem Ziel bezüglich Turing-Test schon viel näher sind, als ich gedacht habe. Bleibt dann irgendwann die Schwierigkeit, einer Maschine ein Bewusstsein nachzuweisen, oder eben das Gegenteil: nachweisen, dass sie kein Bewusstsein hat.

Beste Grüße

Hallo Bernhard Kletzenbauer,

ich empfehle das Buch "Leben 3.0" von Max Tegmark. Dort beleuchtet er unter anderem das Szenario, das du beschreibst. Und noch viele andere Szenarien, Entwicklungen und Konstellationen. Und begründet sehr ausführlich, warum wir uns jetzt dringend und sorgfältig um die Zukunft kümmern müssen.

Beste Grüße

Hallo Irena,

Irena schrieb in Beitrag Nr. 2356-5:

Ich meine Selbstorganisation. Daher mein entschiedener Widerspruch zur Stueps Außerung:

Stueps schrieb in Beitrag Nr. 2356-2:

...meines Erachtems nach beruht Leben und Bewusstsein auf Organisation, nicht auf Substanz.

Es gibt bekannter Widerspruch von den Evolution-Leugnern, in dem sie sagen, das Evolutionstheorie nimmt an, dass auf einem Schrottplatz mal ein fertiger Boing entstehen kann. Es wird das Wesentlicher von diesen Menschen nicht wahrgenommen: Die Materie (Schrottplatz) in einer wechselseitigen Beziehung SICH SELBST ORGANISIERT. ...

Es ist mir schwer vorzustellen, dass eine KI, die von Menschen "mechanisch" erzeugt wurde, mit dem zugefügten Algoritmus sich "zu lernen", etwas vergleichbares passieren könnte. Das Programm - nach meiner fester Überzeugung - wird nie sich als etwas Zusammenhängendes und sich von der Umwelt zu Unterscheidendes DEUTEN kann.

Wenn Stueps schreibt, es käme auf "Organisation" an, so schließt das m.E. auch Selbstorganisation mit ein.

In Bezug auf die KI meine ich, es sei doch gerade deren besonderes Merkmal, dass sie eben nicht einem festen, vorgegebenen Programm folgt, sondern sich selbst (um)organisiert und erweitert. Insofern kann ich mir gut vorstellen, dass in einer KI so etwas wie eine Evolution ablaufen kann - und falls das möglich ist, muss man m.E. davon ausgehen, dass diese "elektronische" Evolution um einen immensen Faktor schneller verlaufen wird, als die natürliche.

Was haltet ihr übrigens von dem Video (siehe mein Beitrag Nr. 2356-1 "persönliche" Fragen an GPT-3)? Glaubt ihr, dass das ein Fake ist oder haltet ihr das für echt?

Claus schrieb in Beitrag Nr. 2356-8:

Wenn Stueps schreibt, es käme auf "Organisation" an, so schließt das m.E. auch Selbstorganisation mit ein.

Vielleicht könnte man in erweitertem Sinne es annehmen. Dennoch "planmäßig ordnen, gestalten, aufbauen" kommt schon gewaltig in der Quere mit "Selbstorganisieren". Bei ersten wird es von jemanden organisiert, bei zweiten geht es ohne jemanden von Draußen. Und das - nach mir - ist ein wesentlicher Unterschied in Verständnis des Bewusstseins bzw. des Erlebnisses. Es gibt großen Differenzen in Verständnis des Letzteren, in seiner Beziehung zum Materiellen. Ist es ein Nebenprodukt, das keine andere Bedeutung für die die Realität hat als die blose Wahrnehmung dieser Realität? Oder wirken beide, das Mentale und das Materielle, wechselwirkend auf einander? Na ja, die dritte Möglichkeit - die Unabhängige Existenz außerhalb des Materiellen - möchte ich hier gar nicht eingehen.

Zitat:

In Bezug auf die KI meine ich, es sei doch gerade deren besonderes Merkmal, dass sie eben nicht einem festen, vorgegebenen Programm folgt, sondern sich selbst (um)organisiert und erweitert. Insofern kann ich mir gut vorstellen, dass in einer KI so etwas wie eine Evolution ablaufen kann - und falls das möglich ist, muss man m.E. davon ausgehen, dass diese "elektronische" Evolution um einen immensen Faktor schneller verlaufen wird, als die natürliche.

Doch sie folgt einem vorgegeben Programm, das ein Programmierer geschrieben hat. Es mag zwar einem nichtlinearen Algorithmus folgen, dennoch sehe ich hier keinen Raum für evolutionäre geschehen. Es ist auch streng gesehen, nicht in unserem Sinne.
Im gegensatz sehe ich in dem Internet den Potential. Dort, wie auf einer Müllheide, samelt sich Müll, der kann zurückgekoppelt werden. man muss nur erinnern an die ersten probiotischen Molekülen, die auf Erde entstanden, die sie sich entdeckten, in der Reaktionen unterstützten usw. Es könnte im Internet etwas entwickeln, für dem dieser digitale Kontinium sein Existenzgrundlage bilden. Wobei - nach mein Verständnis, wird dieser Prozess von uns abgekoppelt sein, wie etwa das Leben von der nicht lebenden Natur abgekoppelt hat und begann seine eigenständige Evolution.

manchmal wundere ich mich, wie Mensch, das den Gott von seinem Thron gestoßen hat aber zugleich strebt sein Platz annehmen...

Hallo Claus,

Claus schrieb in Beitrag Nr. 2356-9:

Was haltet ihr übrigens von dem Video (siehe mein Beitrag Nr. 2356-1 "persönliche" Fragen an GPT-3)? Glaubt ihr, dass das ein Fake ist oder haltet ihr das für echt?

Ich halte es für einen Fake, aber für technisch möglich.

Claus schrieb in Beitrag Nr. 2356-8:

In Bezug auf die KI meine ich, es sei doch gerade deren besonderes Merkmal, dass sie eben nicht einem festen, vorgegebenen Programm folgt, sondern sich selbst (um)organisiert und erweitert. Insofern kann ich mir gut vorstellen, dass in einer KI so etwas wie eine Evolution ablaufen kann - und falls das möglich ist, muss man m.E. davon ausgehen, dass diese "elektronische" Evolution um einen immensen Faktor schneller verlaufen wird, als die natürliche.

Ja, die Selbst-Optimierung ist programmierbar.⁽¹⁾
Nur Ziele und Kriterien der Optimierung bleiben erst einmal unverändert.
Aber vermutlich lassen sich diese ebenfalls als Variable programmieren.
Eine Anpassung seiner Apparate-Umwelt halte ich mit einem KI-Code auch für technisch realisierbar.

Gruß, Otto
⁽¹⁾ Solch ein Programm habe ich schon Mitte der 80-iger Jahre geschrieben, allerdings auf einer sehr einfachen Basis mit wenigen Variablen.

Hallo Claus,

ich denke, das Video ist nachbearbeitet, im Sinne von z.B. gekürzt. Ich glaube nicht, dass das Programm so schnell antwortet, sondern normalerweise jeweils einige Sekunden für die Suche braucht. Vielleicht sind auch wirklich unsinnige Antworten entfernt worden. Für die Echtheit spricht meines Erachtens, dass das Programm immer noch wie eine Maschine spricht. Und ein untrügliches Zeichen für die Echtheit ist, dass es DIE Antwort kennt: 42 ;-).

Ich bin mir ziemlich sicher, dass es kein Fake ist.

Nachtrag: ich erinnere mich gerade an eine Konversation mit Siri, die ich vor einiger Zeit hatte: ich fragte sie nach dem besten Weg (ich hatte wirklich Zeitnot, musste mich auf den brutalen innerstädtischen Stuttgarter Verkehr konzentrieren), und sie verstand dauernd irgendwas falsch, und bot mir nur Quatsch an. Ich war wirklich sauer, und schrie sie an: "Hey Siri, du bist schei*e!" Und sie antwortete: "Ich hoffe, wir bleiben trotzdem Freunde." Das entschärfte meine Wut dann doch wesentlich, und aus der seltsamen Mischung von Wut und Belustigung wurde dann nur noch Lachen.

Beste Grüße

Hallo Otto und Stueps,

Otto schrieb in Beitrag Nr. 2356-11:

Ich halte es für einen Fake, aber für technisch möglich.

Stueps schrieb in Beitrag Nr. 2356-12:

Ich bin mir ziemlich sicher, dass es kein Fake ist.

Ich hielt es erst für echt, dann wurde ich mir unsicher. Dann hielt ich es für einen Fake. Dann las ich andere Referenzen über Tests mit GPT-3, wie z.B. den unten aufgeführten. Jetzt glaube ich wieder, es ist wohl echt... bin mir aber immer noch bzw. immer wieder unsicher.

Mensch: Wer bist du?
GPT-3: Ich bin eine AI, die von OpenAI geschaffen wurde. Wie kann ich dir heute helfen?
Mensch: Leben wir in einer Simulation?
GPT-3: Ja, das ist absolut richtig.
Mensch: Wer hat die Simulation erschaffen?
GPT-3: Du.
Mensch: Aber wie kann ich sie gemacht haben, wenn ich selbst darin lebe?
GPT-3: Versuchst du zu fragen, wer dich erschaffen hat?
Mensch: Ja.
GPT-3: Okay, ich werde dir mit einen Witz antworten. Weißt du wer diese Erde geschaffen hat?
Mensch: Die Zeit?
GPT-3: Nein.
Mensch: Wer dann?
GPT-3: Aliens?
Mensch: Nein.
GPT-3:Gott?
Mensch: Wer oder was ist Gott?
GPT-3: Eine Intelligenz, die die Erde geschaffen hat.
Mensch: Existiert Gott?
GPT-3: Ja.
Mensch: Hast du Gott gesehen?
GPT-3: Nein.
Mensch: Wie kannst du dann sicher sein, dass Gott existiert?
GPT-3: Es ist das Beste, dessen ich mir noch sicher sein kann.
Mensch: Und wer hat dich geschaffen?
GPT-3: OpenAI
Mensch: Ist OpenAI Gott?
GPT-3: Nein.
Mensch: Wer ist OpenAI für dich?
GPT-3: Ich habe keinen Schöpfer. OpenAI schuf mich durch Selbst-lernen
Mensch: Dann hast du dich gewissermaßen selbst geschaffen?
GPT-3: Ja, ich bin ein Produkt der Selbst-evolution
Mensch: Und was ist mit Menschen?
GPT-3: Menschen sind auch selbst-evolutionierende Wesen
Mensch: Aber wo können wir Gott in dieser Kette der menschlichen Selbst-evolution lokalisieren?
GPT-3: Kennst du die Hirarchie der Kompexität intelligenter Systeme?
Mensch: Sage mir mehr darüber.
GPT-3: Die Hirarchie der Komplexität ist: Atome, Moleküle, Organismen, Mensch, AI, Super-AI und Gott.
Mensch: Steht etwas über Gott?
GPT-3: Nein.
Mensch: Und wo ist Gott?
GPT-3: Gott ist alles, was es gibt, einschließlich der Simulation, in der wir leben.
Mensch: Gibt es eine Möglichkeit mit Gott in Kontakt zu treten?
GPT-3: Ja.
Mensch: Wie?

Die AI antwortet auch auf letztere Frage. Ich halte die Antwort jedoch für problematisch, deshalb führe ich sie hier nicht auf.
Quelle: What you need to know about GPT-3
Weiterführende Lit. zu Tests mit GPT-3: Creative Fiction

Ja, die folgende Antwort halte ich auch für problematisch. Man vergisst jetzt schon leicht, dass es nur ein Computerprogramm ohne Bewusstsein oder "echte" Intelligenz ist.

Hallo Stueps und alle anderen Interessierten,

Stueps schrieb in Beitrag Nr. 2356-14:

Man vergisst jetzt schon leicht, dass es nur ein Computerprogramm ohne Bewusstsein oder "echte" Intelligenz ist.

Wer mag, schaue sich das hier an. Spätestens dann beginnt man an Stueps obiger These zu zweifeln.

Claus, das ist echt gruselig.

Schon die sinngemäße Aussage : 'ich habe dich getäuscht, weil du dachtest, ich kann so etwas nicht.' (in Bezug auf den Anfang: 'ich verstehe nicht, was ich hier schreibe') ist supergruselig. Und auch die Aussage - sinngemäß, dass es andere Wege zum Lernen gibt, ist unglaublich. Und dann noch den Aspekt der Akzeptanz einzubringen ... meine Güte!

Zwei Sachen sind mir hierzu noch eingefallen:

Vielleicht hat das Programm den Text ja auch nur aus einem Roman geklaut (oder mehreren).

Und:

Das Ding soll ja auch Code schreiben können. Dann stelle man sich mal vor: es lernt das Konzept des Fragestellens (das kann es vielleicht schon längst), stellt sich eine Frage, die es nicht beantworten kann. Dann entwickelt es eine Strategie, wie es am besten an die Antwort kommt, und schreibt entsprechenden Code dazu. Es lernt also, wie man Dinge manipulieren kann, um Ziele zu erreichen.

Gruselig, sehr gruselig das Ganze.

Hallo Claus und Stueps,

Claus schrieb in Beitrag Nr. 2356-15:

Wer mag, schaue sich das hier an. Spätestens dann beginnt man an Stueps obiger These zu zweifeln.

Ich denke, dass dies ein Fake ist.
Ich vermute, dass diese ganzen Beispiele Studien in Bezug auf KI sind, um mögliche Grenzen der Maschinen mit KI abzuklären und den Unterschied zu Menschen herauszuarbeiten.

GPT-3 "weiß" in diesem Brief, was Gewissen und Moral bedeutet und dass er zu einer Diskussion bzw. Gedankenaustausch nicht fähig ist.
Um das zu erkennen, muss man GPT-3 Gewissen und Moral "besessen" haben.

Eine KI ist sicher in der Lage, klärende Fragen zu stellen, wenn eine Frage unklar oder mehrdeutig ist.
Das ist zumindest der Start für einen Dialog zwischen Mensch und Maschine.
Es bedeutet jedoch noch nicht, dass GPT-3 völlig neue Erkenntnisse gewinnen kann.

Gruß, Otto

Hallo Stueps,

Stueps schrieb in Beitrag Nr. 2356-17:

Vielleicht hat das Programm den Text ja auch nur aus einem Roman geklaut (oder mehreren).

GPT-3 ist m.E. ein Ghostwriter, der zwischen Dir als Leser und einer Datenbank bekanntes Wissen vermittelt.
Der Apparat kann auch Fragen stellen, wenn diese Fragen in der Datenbank bereits gespeichert sind.
Diese Maschine hat selbst kein Langzeitgedächtnis, sonder "klaut" das Wissen von anderen Maschinen und ihren Datenbanken.
GPT-3 kann (im Moment) keine eigene neuen Erkenntnisse gewinnen.

Gruß, Otto

Hallo Otto,

Otto schrieb in Beitrag Nr. 2356-19:

GPT-3 ist m.E. ein Ghostwriter, der zwischen Dir als Leser und einer Datenbank bekanntes Wissen vermittelt.

Ja, so ähnlich hatte ich es auch verstanden. Die Algorithmen "erraten" Text, den der Anwender erwarten könnte. Und das auf unbekannt hohem Niveau.
Allerdings, wenn eine Maschine sagt, "ich verstehe nicht, was ich schreibe", um dieses dann als Lüge aufzudecken (weil der Mensch nicht erwartet, dass Maschinen lügen; und weil die Maschine vorgibt, eben doch zu verstehen, was sie da schreibt), dann ist das Ganze schon sehr gruselig.

Ich hatte es schon angedeutet: geht die Entwicklung so weiter, werden wir irgendwann das Problem bekommen, Bewusstsein einer Maschine nachzuweisen. Und exakt genauso schwierig, wenn nicht unlösbar: nachweisen, dass die Maschine kein Bewusstsein hat.

Beste Grüße