| Autor |
Nachricht |
DrStupid
Anmeldungsdatum: 07.10.2009
Beiträge: 5044
|
 DrStupid Verfasst am: 04. Jul 2023 09:53 Titel: |
 |
|
| TomS hat Folgendes geschrieben: | | Du hast Recht, aus Sicht der KI wäre das ein vergleichbares Problem, aber mir nützt (B) zum Verständnis von (A) nichts. |
Das macht es nicht besser, sondern nur noch schlimer: Dich gibt es nur einmal aber KIs kann es beliebig viele geben. Warum soll eine Betrachtung, die beliebig vielen Individuen nützen kann, schlechter sein als eine die nur einem Individuum nützt? |
|
 |
TomS
Moderator
Anmeldungsdatum: 20.03.2009
Beiträge: 18117
|
| TomS Verfasst am: 04. Jul 2023 10:02 Titel: |
|
|
| DrStupid hat Folgendes geschrieben: | | TomS hat Folgendes geschrieben: | | Du hast Recht, aus Sicht der KI wäre das ein vergleichbares Problem, aber mir nützt (B) zum Verständnis von (A) nichts. |
Das macht es nicht besser, sondern nur noch schlimer: Dich gibt es nur einmal aber KIs kann es beliebig viele geben. Warum soll eine Betrachtung, die beliebig vielen Individuen nützen kann, schlechter sein als eine die nur einem Individuum nützt? |
Wieder mal so ein Punkt, wo man sich ernsthaft die Frage stellt, wie verzweifelt du dich gegen Verständnis zur Wehr setzen kannst.
Einfach (A) und (B) für deine Perspektive umformulieren:
A) Das eigentlich interessante Problem ist die Beziehung zwischen
i) deinen subjektiv wahrgenommen Qualia sowie
ii) deinen objektiven, jedoch nur in Teilen verstanden physischen Hirnzuständen und -Prozessen und den emergenten höherwertigen Hirnfunktionen.
B) Der KI-Ansatz dreht sich um die Beziehung zwischen
i) den von dir nicht wahrnehmbaren (hypothetischen) Qualia einer KI sowie
ii) den bekannten höherwertigen Funktionen einer KI.
=> Du hast immer noch Recht, aus Sicht von KIs wäre das ein vergleichbares Problem, aber mir, dir, ... nützt (B) zum Verständnis von (A) nichts.
_________________
Niels Bohr brainwashed a whole generation of theorists into thinking that the job (interpreting quantum theory) was done 50 years ago. |
|
|
DrStupid
Anmeldungsdatum: 07.10.2009
Beiträge: 5044
|
| DrStupid Verfasst am: 04. Jul 2023 10:17 Titel: |
|
|
| TomS hat Folgendes geschrieben: | | => Du hast immer noch Recht, aus Sicht von KIs wäre das ein vergleichbares Problem, aber mir, dir, ... nützt (B) zum Verständnis von (A) nichts. |
Wir beide sind nicht das Maß aller Dinge. Läuft es jetzt wirklich nur darauf hinaus, dass es für Dich persönlich schlechter ist? Das wäre wirklich enttäuschend. |
|
|
TomS
Moderator
Anmeldungsdatum: 20.03.2009
Beiträge: 18117
|
| TomS Verfasst am: 04. Jul 2023 12:24 Titel: |
|
|
| DrStupid hat Folgendes geschrieben: | | Wir beide sind nicht das Maß aller Dinge. |
Stimmt.
| DrStupid hat Folgendes geschrieben: | | Läuft es jetzt wirklich nur darauf hinaus, dass es für Dich persönlich schlechter ist? |
Nein. Wenn du dir die Mühe machst, meine Beiträge zu lesen, findest du's sicher raus.
| DrStupid hat Folgendes geschrieben: | | Das wäre wirklich enttäuschend. |
Enttäuschend ist, dass du immer noch verstanden hast, um was es geht.
Da Andere es aber durchaus verstehen, muss es wohl an dir liegen - sorry.
Noch ein Versuch: Bei Qualia ist das Maß aller Dinge, überhaupt eine subjektive Perspektive habe zu können. Ohne diese subjektive Perspektive gibt es keine Wahrnehmung von Qualia und damit wird das Problem vollständig unsichtbar - es verschwindet jedoch nicht. Und da Menschen keine subjektive Perspektive auf Qualia von KIs haben können - was immer Qualia von KIs sein soll - sind KIs zum Verständnis des Problems unserer Qualia irrelevant.
_________________
Niels Bohr brainwashed a whole generation of theorists into thinking that the job (interpreting quantum theory) was done 50 years ago. |
|
|
DrStupid
Anmeldungsdatum: 07.10.2009
Beiträge: 5044
|
| DrStupid Verfasst am: 04. Jul 2023 12:29 Titel: |
|
|
| TomS hat Folgendes geschrieben: | | Und da Menschen keine subjektive Perspektive auf Qualia von KIs haben können - was immer Qualia von KIs sein soll - sind KIs zum Verständnis des Problems unserer Qualia irrelevant. |
Und für KIs sind Menschen sind zum Verständnis des Problems ihrer Qualia irrelevant. Ich nehme Deine anthropozentrische Sichtweise zur Kenntnis, aber ich verstehe sie nicht und werde sie mir erst Recht nicht zu eigen machen. |
|
|
TomS
Moderator
Anmeldungsdatum: 20.03.2009
Beiträge: 18117
|
| TomS Verfasst am: 04. Jul 2023 12:31 Titel: |
|
|
| DrStupid hat Folgendes geschrieben: | | Und für KIs sind Menschen sind zum Verständnis des Problems ihrer Qualia irrelevant. Ich nehme Deine anthropozentrische Sichtweise zur Kenntnis, aber ich verstehe sie nicht und werde sie mir erst Recht nicht zu eigen machen. |
Ok.
Was haben wir zum philosophischen Problem der Qualia deiner Meinung nach durch KIs gelernt?
_________________
Niels Bohr brainwashed a whole generation of theorists into thinking that the job (interpreting quantum theory) was done 50 years ago. |
|
|
DrStupid
Anmeldungsdatum: 07.10.2009
Beiträge: 5044
|
| DrStupid Verfasst am: 04. Jul 2023 12:37 Titel: |
|
|
| TomS hat Folgendes geschrieben: | | Was haben wir zum philosophischen Problem der Qualia deiner Meinung nach durch KIs gelernt? |
Bisher hat darüber niemand etwas gelernt und das wird bis auf Weiteres so bleiben. Wenn überhaupt, dann erwarte ich am ehesten von KIs hier einen Schritt weiter zu kommen. |
|
|
TomS
Moderator
Anmeldungsdatum: 20.03.2009
Beiträge: 18117
|
| TomS Verfasst am: 04. Jul 2023 13:13 Titel: |
|
|
| DrStupid hat Folgendes geschrieben: | | TomS hat Folgendes geschrieben: | | Was haben wir zum philosophischen Problem der Qualia deiner Meinung nach durch KIs gelernt? |
Bisher hat darüber niemand etwas gelernt und das wird bis auf Weiteres so bleiben. Wenn überhaupt, dann erwarte ich am ehesten von KIs hier einen Schritt weiter zu kommen. |
Du schlägst also vor, sich zur Frage bzgl. der Qualia deswegen mit KIs zu befassen, weil man bisher noch nichts gelernt hat, vermutlich auch selbst nichts lernen wird, aber evtl. die KIs etwas über ihre eigenen Qualias lernen, zu denen wir jedoch keinen subjektiven Zugang haben?
Sorry, wenn ich da jetzt nicht gerade enthusiastisch reagiere.
Ich glaube übrigens, dass wir deutlich weitergekommen sind als du hier "bisher hat darüber niemand etwas gelernt" meinst, du Fortschritte jedoch nicht zur Kenntnis nimmst, wenn sie nicht in dein Weltbild passen.
_________________
Niels Bohr brainwashed a whole generation of theorists into thinking that the job (interpreting quantum theory) was done 50 years ago. |
|
|
DrStupid
Anmeldungsdatum: 07.10.2009
Beiträge: 5044
|
| DrStupid Verfasst am: 04. Jul 2023 13:44 Titel: |
|
|
| TomS hat Folgendes geschrieben: | | Du schlägst also vor, sich zur Frage bzgl. der Qualia deswegen mit KIs zu befassen, weil man bisher noch nichts gelernt hat, vermutlich auch selbst nichts lernen wird, aber evtl. die KIs etwas über ihre eigenen Qualias lernen, zu denen wir jedoch keinen subjektiven Zugang haben? |
Ja, man geht Probleme am besten auf dem Weg an, der am ehesten Erfolg verspricht. Um etwas über den Zusammenhang zwischen den subjektiven Qualia und dem dazugehörigen objektiven Zustand zu erfahren, muss man beides kennen. Sehen wir uns doch einfach mal an, wo wir da gerade stehen:
Das bisher am besten bekannte "Gehirn" ist das der Drosophila-Larve mit etwas mehr als einer halben Million Synapsen. Und da kennt man auch nur das Konnektom und nicht die Wichtungsfaktoren und neuronalen Aktivitäten, ohne die ein wirkliches Verständnis der Funktion nicht möglich ist.
ChatGPT hat schon 175 Milliarden Synapsen und sein Nachfolger GPT-4 wahrscheinlich sogar eine Billion - und die kann man bis auf's letzte Bit analysieren wenn man will. Bei der Geschwindigkeit, mit der die Entwicklung von KIs vorangetrieben wird, kann es nicht mehr lange dauern, bis sie so komplex sind wie ein menschliches Gehirn mit seinen 100 Billion bis eine Billiarde Synapsen.
Auf jeden Fall werden KIs diese Komplexiität erreichen, lange bevor wir in der Lage sein werden, die physikalische Struktur eines realen menschlichen Gehirns zu erfassen. Und selbst dann wären wir noch sehr weit davon entfernt, sämltliche neuronalen Aktivitäten in vivo zu messen. Bevor das passiert, wird man das Gehirn im Computer nachbauen. Mit dem Human-Brain-Projekt werden dazu ja bereits die ersten Schritte unternommen. Das Ergebnis wäre dann aber auch eine KI.
Langer Rede kurzer Sinn: Qualia und objektiver Zustand werden mit sehr großer Sicherheit zuerst für eine KI gemeinsam bekannt sein. Also wird es zuerst eine KI sein, die sich mit dem Zusammenhang zwischen beiden befassen kann. |
|
|
TomS
Moderator
Anmeldungsdatum: 20.03.2009
Beiträge: 18117
|
| TomS Verfasst am: 04. Jul 2023 14:04 Titel: |
|
|
| DrStupid hat Folgendes geschrieben: | Ja, man geht Probleme am besten auf dem Weg an, der am ehesten Erfolg verspricht. Um etwas über den Zusammenhang zwischen den subjektiven Qualia und dem dazugehörigen objektiven Zustand zu erfahren, muss man beides kennen. Sehen wir uns doch einfach mal an, wo wir da gerade stehen:
Das bisher am besten bekannte "Gehirn" ist das der Drosophila-Larve mit etwas mehr als einer halben Million Synapsen. Und da kennt man auch nur das Konnektom und nicht die Wichtungsfaktoren und neuronalen Aktivitäten, ohne die ein wirkliches Verständnis der Funktion nicht möglich ist.
ChatGPT hat schon 175 Milliarden Synapsen und sein Nachfolger GPT-4 wahrscheinlich sogar eine Billion - und die kann man bis auf's letzte Bit analysieren wenn man will. Bei der Geschwindigkeit, mit der die Entwicklung von KIs vorangetrieben wird, kann es nicht mehr lange dauern, bis sie so komplex sind wie ein menschliches Gehirn mit seinen 100 Billion bis eine Billiarde Synapsen.
Auf jeden Fall werden KIs diese Komplexiität erreichen, lange bevor wir in der Lage sein werden, die physikalische Struktur eines realen menschlichen Gehirns zu erfassen. Und selbst dann wären wir noch sehr weit davon entfernt, sämltliche neuronalen Aktivitäten in vivo zu messen. Bevor das passiert, wird man das Gehirn im Computer nachbauen. Mit dem Human-Brain-Projekt werden dazu ja bereits die ersten Schritte unternommen. Das Ergebnis wäre dann aber auch eine KI. |
Ja.
| DrStupid hat Folgendes geschrieben: | | … objektiver Zustand [wird] mit sehr großer Sicherheit zuerst für eine KI bekannt sein. |
Ja.
| DrStupid hat Folgendes geschrieben: | | Qualia und objektiver Zustand werden mit sehr großer Sicherheit zuerst für eine KI gemeinsam bekannt sein. Also wird es zuerst eine KI sein, die sich mit dem Zusammenhang zwischen beiden befassen kann. |
Was genau sollten wir daraus über Qualia lernen können? Traust du der KI da mehr zu, weil ihre funktionalen Zustände exakt bekannt sind?
_________________
Niels Bohr brainwashed a whole generation of theorists into thinking that the job (interpreting quantum theory) was done 50 years ago. |
|
|
DrStupid
Anmeldungsdatum: 07.10.2009
Beiträge: 5044
|
| DrStupid Verfasst am: 04. Jul 2023 15:05 Titel: |
|
|
| TomS hat Folgendes geschrieben: | | Was genau sollten wir daraus über Qualia lernen können? |
Woher soll ich das wissen? Grundlagenforschung ist nicht vorhersehbar. Wir werden einfach abwarten müssen ob und wenn ja was dabei heraus kommt.
| TomS hat Folgendes geschrieben: | | Traust du der KI da mehr zu, weil ihre funktionalen Zustände exakt bekannt sind? |
Die Kenntnis der Zustände ist eine notwendige Voraussetzung für die Untersuchung eines Zusammenhangs zwischen Zuständen und Qualia. Bei KIs ist diese Voraussetzung erfüllbar und bei Menschen nicht. Deshalb sind Menschen dazu nicht in der Lage und KIs nur vielleicht nicht. Vielleicht nicht ist besser als gar nicht. |
|
|
TomS
Moderator
Anmeldungsdatum: 20.03.2009
Beiträge: 18117
|
| TomS Verfasst am: 04. Jul 2023 15:33 Titel: |
|
|
| DrStupid hat Folgendes geschrieben: | | TomS hat Folgendes geschrieben: | | Was genau sollten wir daraus über Qualia lernen können? |
Woher soll ich das wissen? Grundlagenforschung ist nicht vorhersehbar. Wir werden einfach abwarten müssen ob und wenn ja was dabei heraus kommt.
|
Kühne Behauptung: Du weißt letztlich nichts, aber du hast mit deinem Ansatz recht.
| DrStupid hat Folgendes geschrieben: | | TomS hat Folgendes geschrieben: | | Traust du der KI da mehr zu, weil ihre funktionalen Zustände exakt bekannt sind? |
Die Kenntnis der Zustände ist eine notwendige Voraussetzung für die Untersuchung eines Zusammenhangs zwischen Zuständen und Qualia. Bei KIs ist diese Voraussetzung erfüllbar und bei Menschen nicht. |
Das wäre nur dann der Fall, wenn die vollständige Kenntnis der Zustände über alle Skalen notwendig wäre. Und das ist in der Physik, Chemie, Biologie etc. letztlich nie der Fall. Niemand muss Kernphysik lernen, um KIs zu konstruieren oder Biochemie verstehen zu können.
Natürlich hast du recht, das ist ein Problem, aber es ist m.E. nicht das zentrale Problem; das sind die unverbundenen erste- vs. dritte-Person-Perspektive. Die Kognitionswissenschaftler überschätzen ihre Relevanz bei dieser Frage bei weitem, weil sie funktionale Fortschritte überbewerten und die subjektive Perspektive völlig ignorieren. Und selbst wenn der Ansatz letztlich von Erfolg gekrönt wäre, wären uns die Ergebnisse aufgrund der fehlenden erste-Person-Perspektive auf die Qualia der KI völlig unverständlich bzw. unzugänglich.
_________________
Niels Bohr brainwashed a whole generation of theorists into thinking that the job (interpreting quantum theory) was done 50 years ago. |
|
|
DrStupid
Anmeldungsdatum: 07.10.2009
Beiträge: 5044
|
| DrStupid Verfasst am: 04. Jul 2023 17:20 Titel: |
|
|
| TomS hat Folgendes geschrieben: | | Das wäre nur dann der Fall, wenn die vollständige Kenntnis der Zustände über alle Skalen notwendig wäre. |
So weit gehe ich gar nicht. Selbst die Zustände, von denen wir wissen, dass wir sie brauchen, werden in absehbarer Zeit nicht zugänglich sein. Niemand weiß, ob und wenn ja wie man die komplette neuronale Aktivität eines Gehirn messen kann - möglichst ohne das Gehirn dabei zu beeinflussen. Dafür bräuchte man einen echten Durchbruch und das passiert extrem selten. Wir beide werden das ganz sicher nicht mehr erleben.
| TomS hat Folgendes geschrieben: | | Natürlich hast du recht, das ist ein Problem, aber es ist m.E. nicht das zentrale Problem |
Was heißt schon "zentrales Problem"? Es ist eine notwendige Voraussetzung. Wenn man den Zusammenhang zwischen Qualia und Zustand untersuchen will, dann muss man den Zustand kennen. Ohne geht es einfach nicht. Die andere notwendige Voraussetzung sind natürlich Qualia. Momentan weiß noch niemand, ob KIs sowas haben werden. Auch deshalb sage ich, dass Menschen die notwendigen Bedingungen in absehbarer Zeit nicht erfüllen werden und KIs vielleicht nicht. |
|
|
TomS
Moderator
Anmeldungsdatum: 20.03.2009
Beiträge: 18117
|
| TomS Verfasst am: 04. Jul 2023 17:33 Titel: |
|
|
Ok soweit.
Meine Meinung über das zentrale Problem ist ja auch erst mal nur meine Meinung.
_________________
Niels Bohr brainwashed a whole generation of theorists into thinking that the job (interpreting quantum theory) was done 50 years ago. |
|
|
Zombiephilosoph
Gast
|
| Zombiephilosoph Verfasst am: 04. Jul 2023 19:00 Titel: |
|
|
| TomS hat Folgendes geschrieben: | | wenn unser Verstand (so wie eine KI / ein NN) im weitesten Sinne algorithmisch funktioniert, so wissen wir doch seit Gödel und Turing, dass ein Algorithmus beweisbar nicht in der Lage ist, alle Wahrheiten über sich selbst zu beweisen; |
Was für ein Humbug. Wenn unser Verstand "im weitesten Sinne algorithmisch funktioniert", funktioniert er dann so wie PA oder ZFC (die unvollständig sind) oder wie die Theorie der reellen Zahlen oder die Presburger-Arithmetik (die beide vollständig sind)?
| TomS hat Folgendes geschrieben: | | anders gesprochen, warum sollte gerade die selbstbezügliche Frage unseres Verstandes bezüglich der Funktionsweise dieses Verstandes nicht in eine Sackgasse führen? |
Hat die "selbstbezügliche Frage unseres Verstandes bezüglich der Funktionsweise dieses Verstandes" einen arithmetischen Satz als Antwort? Anders gesprochen, was hat diese Frage also mit dem Unvollständigkeitssatz zu tun? Antwort: überhaupt nichts. Steht dieser hanebüchene Unsinn über Gödel eigentlich auch bei Searle oder kommt der von Dir allein? |
|
|
|
Registrieren
Login
FAQ
Suchen
