Startseite
Forum
Fragen
Suchen
Formeleditor
Über Uns
Registrieren
Login
FAQ
Suchen
Foren-Übersicht
->
Sonstiges
Antwort schreiben
Benutzername
(du bist
nicht
eingeloggt!)
Titel
Nachrichtentext
Smilies
Weitere Smilies ansehen
Schriftfarbe:
Standard
Dunkelrot
Rot
Orange
Braun
Gelb
Grün
Oliv
Cyan
Blau
Dunkelblau
Indigo
Violett
Weiß
Schwarz
Schriftgröße:
Schriftgröße
Winzig
Klein
Normal
Groß
Riesig
Tags schließen
Schreibt eure Formeln hier im Board am besten mit Latex!
So gehts:
Latex-Kurzbeschreibung
|
Formeleditor
[quote="TomS"][quote="DrStupid"]Dass die Gefühle der Programme ausschließlich durch die dazugehörigen Daten und Prozesse repräsentiert werden, ist ein Postulat ... Es ist aber auch eine vernünftige Annahme, weil es hier außer den Daten und Prozessen nichts gibt, was Informationen trägt (zumindest im Rahmen der Physik) und die Aussagen unter gleichen Bedingungen auch immer gleich sind.[/quote] Zustimmung - aber können wir es noch wie folgt modifizieren? "Dass die Gefühle der Programme ausschließlich durch die dazugehörigen Daten und Prozesse [b]verursacht[/b] werden ...". Ja, ich behaupte nichts anderes. Es geht um deinen Nachsatz oben "Man würde damit unnötigerweise etwas annehmen, was über die identischen Daten und Prozesse hinaus geht." Was denn? Die subjektive Perspektive (eine epistemische Frage) wirst du ja wohl nicht meinen, die ist nun mal unmittelbar gegeben. Eine weitere ontische Entität möchtest du auch nicht haben. Also bleibt es dabei, "dass die Gefühle der Programme ausschließlich durch die dazugehörigen Daten und Prozesse [b]verursacht[/b] werden ..." und ich traue mich zu ergänzen, "... dass dies logisch nicht impliziert oder auch nur plausibilisiert, dass Programme sich selbst einschließlich des Entstehens ihrer höherwertigen Funktionen und gewisser selbstbezüglicher Aspekte auch vollständig auf Basis der zugrundeliegenden Daten und Prozesse [b]verstehen[/b] können ..." Also wie gehabt, ontisch reine Physik, epistemisch eine gewisse Erklärungsglücke. [quote="DrStupid"]Es ist eine willkürliche Annahme, weil man es nicht experimentell prüfen kann ...[/quote] Nee, siehe oben. Qualia sind experimentell nicht direkt zugänglich, immer nur indirekt über die Physik. Wenn ich in der Physik prüfe "diese Energie in dieser Energieform entspricht jener Energie in jener Energieform", dann messe ich die linke und die rechte Seite. Wenn ich prüfen möchte, "dieser Hirnprozess entspricht dieser Quale", dann müsste ich ebenfalls die linke und die rechte Seite messen. Ich messe jedoch immer nur die linke - oder hast du schon mal Qualia gemessen? Siehe auch oben, wie man das etwas formaler darstellen kann.[/quote]
Optionen
HTML ist
aus
BBCode
ist
an
Smilies sind
an
BBCode in diesem Beitrag deaktivieren
Smilies in diesem Beitrag deaktivieren
Spamschutz
Text aus Bild eingeben
Alle Zeiten sind GMT + 1 Stunde
Gehe zu:
Forum auswählen
Themenbereiche
----------------
Mechanik
Elektrik
Quantenphysik
Astronomie
Wärmelehre
Optik
Sonstiges
FAQ
Sonstiges
----------------
Off-Topic
Ankündigungen
Thema-Überblick
Autor
Nachricht
Zombiephilosoph
Verfasst am: 04. Jul 2023 19:00
Titel:
TomS hat Folgendes geschrieben:
wenn unser Verstand (so wie eine KI / ein NN) im weitesten Sinne algorithmisch funktioniert, so wissen wir doch seit Gödel und Turing, dass ein Algorithmus beweisbar nicht in der Lage ist, alle Wahrheiten über sich selbst zu beweisen;
Was für ein Humbug. Wenn unser Verstand "im weitesten Sinne algorithmisch funktioniert", funktioniert er dann so wie PA oder ZFC (die unvollständig sind) oder wie die Theorie der reellen Zahlen oder die Presburger-Arithmetik (die beide vollständig sind)?
TomS hat Folgendes geschrieben:
anders gesprochen, warum sollte gerade die selbstbezügliche Frage unseres Verstandes bezüglich der Funktionsweise dieses Verstandes nicht in eine Sackgasse führen?
Hat die "selbstbezügliche Frage unseres Verstandes bezüglich der Funktionsweise dieses Verstandes" einen arithmetischen Satz als Antwort? Anders gesprochen, was hat diese Frage also mit dem Unvollständigkeitssatz zu tun? Antwort: überhaupt nichts. Steht dieser hanebüchene Unsinn über Gödel eigentlich auch bei Searle oder kommt der von Dir allein?
TomS
Verfasst am: 04. Jul 2023 17:33
Titel:
Ok soweit.
Meine Meinung über das zentrale Problem ist ja auch erst mal nur meine Meinung.
DrStupid
Verfasst am: 04. Jul 2023 17:20
Titel:
TomS hat Folgendes geschrieben:
Das wäre nur dann der Fall, wenn die
vollständige
Kenntnis der Zustände
über alle Skalen
notwendig wäre.
So weit gehe ich gar nicht. Selbst die Zustände, von denen wir wissen, dass wir sie brauchen, werden in absehbarer Zeit nicht zugänglich sein. Niemand weiß, ob und wenn ja wie man die komplette neuronale Aktivität eines Gehirn messen kann - möglichst ohne das Gehirn dabei zu beeinflussen. Dafür bräuchte man einen echten Durchbruch und das passiert extrem selten. Wir beide werden das ganz sicher nicht mehr erleben.
TomS hat Folgendes geschrieben:
Natürlich hast du recht, das ist ein Problem, aber es ist m.E. nicht das zentrale Problem
Was heißt schon "zentrales Problem"? Es ist eine notwendige Voraussetzung. Wenn man den Zusammenhang zwischen Qualia und Zustand untersuchen will, dann muss man den Zustand kennen. Ohne geht es einfach nicht. Die andere notwendige Voraussetzung sind natürlich Qualia. Momentan weiß noch niemand, ob KIs sowas haben werden. Auch deshalb sage ich, dass Menschen die notwendigen Bedingungen in absehbarer Zeit nicht erfüllen werden und KIs vielleicht nicht.
TomS
Verfasst am: 04. Jul 2023 15:33
Titel:
DrStupid hat Folgendes geschrieben:
TomS hat Folgendes geschrieben:
Was genau sollten wir daraus über Qualia lernen können?
Woher soll ich das wissen? Grundlagenforschung ist nicht vorhersehbar. Wir werden einfach abwarten müssen ob und wenn ja was dabei heraus kommt.
Kühne Behauptung: Du weißt letztlich nichts, aber du hast mit deinem Ansatz recht.
DrStupid hat Folgendes geschrieben:
TomS hat Folgendes geschrieben:
Traust du der KI da mehr zu, weil ihre funktionalen Zustände exakt bekannt sind?
Die Kenntnis der Zustände ist eine notwendige Voraussetzung für die Untersuchung eines Zusammenhangs zwischen Zuständen und Qualia. Bei KIs ist diese Voraussetzung erfüllbar und bei Menschen
nicht
.
Das wäre nur dann der Fall, wenn die
vollständige
Kenntnis der Zustände
über alle Skalen
notwendig wäre. Und das ist in der Physik, Chemie, Biologie etc. letztlich nie der Fall. Niemand muss Kernphysik lernen, um KIs zu konstruieren oder Biochemie verstehen zu können.
Natürlich hast du recht, das ist ein Problem, aber es ist m.E. nicht das zentrale Problem; das sind die unverbundenen erste- vs. dritte-Person-Perspektive. Die Kognitionswissenschaftler überschätzen ihre Relevanz bei dieser Frage bei weitem, weil sie funktionale Fortschritte überbewerten und die subjektive Perspektive völlig ignorieren. Und selbst wenn der Ansatz letztlich von Erfolg gekrönt wäre, wären uns die Ergebnisse aufgrund der fehlenden erste-Person-Perspektive auf die Qualia der KI völlig unverständlich bzw. unzugänglich.
DrStupid
Verfasst am: 04. Jul 2023 15:05
Titel:
TomS hat Folgendes geschrieben:
Was genau sollten wir daraus über Qualia lernen können?
Woher soll ich das wissen? Grundlagenforschung ist nicht vorhersehbar. Wir werden einfach abwarten müssen ob und wenn ja was dabei heraus kommt.
TomS hat Folgendes geschrieben:
Traust du der KI da mehr zu, weil ihre funktionalen Zustände exakt bekannt sind?
Die Kenntnis der Zustände ist eine notwendige Voraussetzung für die Untersuchung eines Zusammenhangs zwischen Zuständen und Qualia. Bei KIs ist diese Voraussetzung erfüllbar und bei Menschen nicht. Deshalb sind Menschen dazu nicht in der Lage und KIs nur vielleicht nicht. Vielleicht nicht ist besser als gar nicht.
TomS
Verfasst am: 04. Jul 2023 14:04
Titel:
DrStupid hat Folgendes geschrieben:
Ja, man geht Probleme am besten auf dem Weg an, der am ehesten Erfolg verspricht. Um etwas über den Zusammenhang zwischen den subjektiven Qualia und dem dazugehörigen objektiven Zustand zu erfahren, muss man beides kennen. Sehen wir uns doch einfach mal an, wo wir da gerade stehen:
Das bisher am besten bekannte "Gehirn" ist das der Drosophila-Larve mit etwas mehr als einer halben Million Synapsen. Und da kennt man auch nur das Konnektom und nicht die Wichtungsfaktoren und neuronalen Aktivitäten, ohne die ein wirkliches Verständnis der Funktion nicht möglich ist.
ChatGPT hat schon 175 Milliarden Synapsen und sein Nachfolger GPT-4 wahrscheinlich sogar eine Billion - und die kann man bis auf's letzte Bit analysieren wenn man will. Bei der Geschwindigkeit, mit der die Entwicklung von KIs vorangetrieben wird, kann es nicht mehr lange dauern, bis sie so komplex sind wie ein menschliches Gehirn mit seinen 100 Billion bis eine Billiarde Synapsen.
Auf jeden Fall werden KIs diese Komplexiität erreichen, lange bevor wir in der Lage sein werden, die physikalische Struktur eines realen menschlichen Gehirns zu erfassen. Und selbst dann wären wir noch sehr weit davon entfernt, sämltliche neuronalen Aktivitäten in vivo zu messen. Bevor das passiert, wird man das Gehirn im Computer nachbauen. Mit dem Human-Brain-Projekt werden dazu ja bereits die ersten Schritte unternommen. Das Ergebnis wäre dann aber auch eine KI.
Ja.
DrStupid hat Folgendes geschrieben:
… objektiver Zustand [wird] mit sehr großer Sicherheit zuerst für eine KI bekannt sein.
Ja.
DrStupid hat Folgendes geschrieben:
Qualia
und objektiver Zustand werden mit sehr großer Sicherheit zuerst für eine KI
gemeinsam
bekannt sein. Also wird es zuerst eine KI sein, die sich mit dem Zusammenhang zwischen beiden befassen kann.
Was genau sollten wir daraus über Qualia lernen können? Traust du der KI da mehr zu, weil ihre funktionalen Zustände exakt bekannt sind?
DrStupid
Verfasst am: 04. Jul 2023 13:44
Titel:
TomS hat Folgendes geschrieben:
Du schlägst also vor, sich zur Frage bzgl. der Qualia deswegen mit KIs zu befassen, weil man bisher noch nichts gelernt hat, vermutlich auch selbst nichts lernen wird, aber evtl. die KIs etwas über ihre eigenen Qualias lernen, zu denen wir jedoch keinen subjektiven Zugang haben?
Ja, man geht Probleme am besten auf dem Weg an, der am ehesten Erfolg verspricht. Um etwas über den Zusammenhang zwischen den subjektiven Qualia und dem dazugehörigen objektiven Zustand zu erfahren, muss man beides kennen. Sehen wir uns doch einfach mal an, wo wir da gerade stehen:
Das bisher am besten bekannte "Gehirn" ist das der Drosophila-Larve mit etwas mehr als einer halben Million Synapsen. Und da kennt man auch nur das Konnektom und nicht die Wichtungsfaktoren und neuronalen Aktivitäten, ohne die ein wirkliches Verständnis der Funktion nicht möglich ist.
ChatGPT hat schon 175 Milliarden Synapsen und sein Nachfolger GPT-4 wahrscheinlich sogar eine Billion - und die kann man bis auf's letzte Bit analysieren wenn man will. Bei der Geschwindigkeit, mit der die Entwicklung von KIs vorangetrieben wird, kann es nicht mehr lange dauern, bis sie so komplex sind wie ein menschliches Gehirn mit seinen 100 Billion bis eine Billiarde Synapsen.
Auf jeden Fall werden KIs diese Komplexiität erreichen, lange bevor wir in der Lage sein werden, die physikalische Struktur eines realen menschlichen Gehirns zu erfassen. Und selbst dann wären wir noch sehr weit davon entfernt, sämltliche neuronalen Aktivitäten in vivo zu messen. Bevor das passiert, wird man das Gehirn im Computer nachbauen. Mit dem Human-Brain-Projekt werden dazu ja bereits die ersten Schritte unternommen. Das Ergebnis wäre dann aber auch eine KI.
Langer Rede kurzer Sinn: Qualia und objektiver Zustand werden mit sehr großer Sicherheit zuerst für eine KI gemeinsam bekannt sein. Also wird es zuerst eine KI sein, die sich mit dem Zusammenhang zwischen beiden befassen kann.
TomS
Verfasst am: 04. Jul 2023 13:13
Titel:
DrStupid hat Folgendes geschrieben:
TomS hat Folgendes geschrieben:
Was haben wir zum philosophischen Problem der Qualia deiner Meinung nach durch KIs gelernt?
Bisher hat darüber niemand etwas gelernt und das wird bis auf Weiteres so bleiben. Wenn überhaupt, dann erwarte ich am ehesten von KIs hier einen Schritt weiter zu kommen.
Du schlägst also vor, sich zur Frage bzgl. der Qualia deswegen mit KIs zu befassen, weil man bisher noch nichts gelernt hat, vermutlich auch selbst nichts lernen wird, aber evtl. die KIs etwas über ihre eigenen Qualias lernen, zu denen wir jedoch keinen subjektiven Zugang haben?
Sorry, wenn ich da jetzt nicht gerade enthusiastisch reagiere.
Ich glaube übrigens, dass wir deutlich weitergekommen sind als du hier "bisher hat darüber niemand etwas gelernt" meinst, du Fortschritte jedoch nicht zur Kenntnis nimmst, wenn sie nicht in dein Weltbild passen.
DrStupid
Verfasst am: 04. Jul 2023 12:37
Titel:
TomS hat Folgendes geschrieben:
Was haben wir zum philosophischen Problem der Qualia deiner Meinung nach durch KIs gelernt?
Bisher hat darüber niemand etwas gelernt und das wird bis auf Weiteres so bleiben. Wenn überhaupt, dann erwarte ich am ehesten von KIs hier einen Schritt weiter zu kommen.
TomS
Verfasst am: 04. Jul 2023 12:31
Titel:
DrStupid hat Folgendes geschrieben:
Und für KIs sind Menschen sind zum Verständnis des Problems ihrer Qualia irrelevant. Ich nehme Deine anthropozentrische Sichtweise zur Kenntnis, aber ich verstehe sie nicht und werde sie mir erst Recht nicht zu eigen machen.
Ok.
Was haben wir zum philosophischen Problem der Qualia deiner Meinung nach durch KIs gelernt?
DrStupid
Verfasst am: 04. Jul 2023 12:29
Titel:
TomS hat Folgendes geschrieben:
Und da Menschen keine subjektive Perspektive auf Qualia von KIs haben können - was immer Qualia von KIs sein soll - sind KIs zum Verständnis des Problems unserer Qualia irrelevant.
Und für KIs sind Menschen sind zum Verständnis des Problems ihrer Qualia irrelevant. Ich nehme Deine anthropozentrische Sichtweise zur Kenntnis, aber ich verstehe sie nicht und werde sie mir erst Recht nicht zu eigen machen.
TomS
Verfasst am: 04. Jul 2023 12:24
Titel:
DrStupid hat Folgendes geschrieben:
Wir beide sind nicht das Maß aller Dinge.
Stimmt.
DrStupid hat Folgendes geschrieben:
Läuft es jetzt wirklich nur darauf hinaus, dass es für Dich persönlich schlechter ist?
Nein. Wenn du dir die Mühe machst, meine Beiträge zu lesen, findest du's sicher raus.
DrStupid hat Folgendes geschrieben:
Das wäre wirklich enttäuschend.
Enttäuschend ist, dass du immer noch verstanden hast, um was es geht.
Da Andere es aber durchaus verstehen, muss es wohl an dir liegen - sorry.
Noch ein Versuch: Bei Qualia ist das Maß aller Dinge,
überhaupt
eine subjektive Perspektive habe zu können. Ohne diese subjektive Perspektive gibt es keine Wahrnehmung von Qualia und damit wird das Problem vollständig unsichtbar - es verschwindet jedoch nicht. Und da Menschen keine subjektive Perspektive auf Qualia von KIs haben können - was immer Qualia von KIs sein soll - sind KIs zum Verständnis des Problems unserer Qualia irrelevant.
DrStupid
Verfasst am: 04. Jul 2023 10:17
Titel:
TomS hat Folgendes geschrieben:
=> Du hast immer noch Recht, aus Sicht von KIs wäre das ein vergleichbares Problem, aber
mir, dir, ...
nützt (B) zum Verständnis von (A)
nichts
.
Wir beide sind nicht das Maß aller Dinge. Läuft es jetzt wirklich nur darauf hinaus, dass es für Dich persönlich schlechter ist? Das wäre wirklich enttäuschend.
TomS
Verfasst am: 04. Jul 2023 10:02
Titel:
DrStupid hat Folgendes geschrieben:
TomS hat Folgendes geschrieben:
Du hast Recht, aus Sicht der KI wäre das ein vergleichbares Problem, aber
mir
nützt (B) zum Verständnis von (A)
nichts
.
Das macht es nicht besser, sondern nur noch schlimer: Dich gibt es nur einmal aber KIs kann es beliebig viele geben. Warum soll eine Betrachtung, die beliebig vielen Individuen nützen kann, schlechter sein als eine die nur einem Individuum nützt?
Wieder mal so ein Punkt, wo man sich ernsthaft die Frage stellt, wie verzweifelt du dich gegen Verständnis zur Wehr setzen kannst.
Einfach (A) und (B) für
deine Perspektive
umformulieren:
A) Das eigentlich interessante Problem ist die Beziehung zwischen
i)
deinen
subjektiv wahrgenommen Qualia sowie
ii)
deinen
objektiven, jedoch nur in Teilen verstanden physischen Hirnzuständen und -Prozessen und den emergenten höherwertigen Hirnfunktionen.
B) Der KI-Ansatz dreht sich um die Beziehung zwischen
i) den von
dir
nicht wahrnehmbaren (hypothetischen) Qualia einer KI sowie
ii) den bekannten höherwertigen Funktionen einer KI.
=> Du hast immer noch Recht, aus Sicht von KIs wäre das ein vergleichbares Problem, aber
mir, dir, ...
nützt (B) zum Verständnis von (A)
nichts
.
DrStupid
Verfasst am: 04. Jul 2023 09:53
Titel:
TomS hat Folgendes geschrieben:
Du hast Recht, aus Sicht der KI wäre das ein vergleichbares Problem, aber
mir
nützt (B) zum Verständnis von (A)
nichts
.
Das macht es nicht besser, sondern nur noch schlimer: Dich gibt es nur einmal aber KIs kann es beliebig viele geben. Warum soll eine Betrachtung, die beliebig vielen Individuen nützen kann, schlechter sein als eine die nur einem Individuum nützt?
Sonnenwind
Verfasst am: 04. Jul 2023 07:06
Titel:
Vielleicht gibt es doch die Möglichkeit für eine Hochtechnologie die Qualia einer Fledermaus festzustellen. Man verbindet sich selbst (M) massiv über neuronale Verbindungen mit der Fledermaus (F), betäube dann den M-Teil und ist dann die Fledermaus. Dann wacht man wieder auf und trennt die Verbindung wieder. Ob man sich allerdings an die F-Qualia erinnern kann ist fraglich.
TomS
Verfasst am: 04. Jul 2023 06:39
Titel:
DrStupid hat Folgendes geschrieben:
Qubit hat Folgendes geschrieben:
Was dann bleibt, ist ein "Anlogieschluss" oder auch nicht, resp. zu glauben, dass ein Computer Subjektivität hätte oder auch nicht. Das ist das Dilemma.
Das ist nur ein Dilemma, wenn Du davon ausgehst, dass ein Mensch über die Sicht der KI urteilt. Ich spreche aber davon, dass die KI das selbst tut. Das geht doch gar nicht anders, wenn man das Thema auf die rein subjektive Sicht reduziert …
Warum soll die Betrachtung von KIs trotzdem nicht besser oder sogar schlechter sein?
A) Das eigentlich interessante Problem ist die Beziehung zwischen
i) meinen subjektiv wahrgenommen Qualia sowie
ii) meinen objektiven, jedoch nur in Teilen verstanden physischen Hirnzuständen und -Prozessen und den emergenten höherwertigen Hirnfunktionen.
B) Dein Ansatz dreht sich um die Beziehung zwischen
i) den von mir
nicht
wahrnehmbaren (hypothetischen) Qualia sowie
ii) den bekannten höherwertigen Funktionen einer KI.
Du hast Recht, aus Sicht der KI wäre das ein vergleichbares Problem, aber
mir
nützt (B) zum Verständnis von (A)
nichts
.
DrStupid
Verfasst am: 03. Jul 2023 23:26
Titel:
Qubit hat Folgendes geschrieben:
Man schliesst hier von sich auf andere, so entwickelt sich der Mensch (und wohl genauer sein Gehirn) von Geburt an.
Aber genau dieser Analogieschluss wird doch angezweifelt. Wenn man das zulässt, dann bleibt vom Problem nicht mehr viel übrig. Man geht einfach davon aus, zwei Menschen, die eine Schmerz gleich beschreiben, auch den gleichen Schmerz empfinden. Es gibt unzählige Studien, die genau darauf basieren. Hier geht es aber um die rein subjektive Sicht und nicht um Intersubjektivität oder gar Objektivität. Bei dieser restriktiven Betrachtung sind fremde Qualia bei Menschen genausowenig zugänglich wie bei KIs.
Qubit hat Folgendes geschrieben:
Wenn ein Computer irgendwas produziert, eine Rechnung, ein Bild oder Texte oder was auch immer, dann sind das erstmal algorithmische Artefakte, die von Menschen selbst interpretiert werden müssen.
Für das, was Menschen produzieren, gilt dasselbe.
Qubit hat Folgendes geschrieben:
Was dann bleibt, ist ein "Anlogieschluss" oder auch nicht, resp. zu glauben, dass ein Computer Subjektivität hätte oder auch nicht. Das ist das Dilemma.
Das ist nur ein Dilemma, wenn Du davon ausgehst, dass ein Mensch über die Sicht der KI urteilt. Ich spreche aber davon, dass die KI das selbst tut. Das geht doch gar nicht anders, wenn man das Thema auf die rein subjektive Sicht reduziert.
Für mich stellt es sich so dar:
Die subjektive Sicht ist nur dem Individuum selbst zugänglich. Ohne zusätzliche Annahmen kann ein Individdum nichts über die Qualia anderer Infividuen sagen, es sei denn, es wäre mit ihnen identisch. Zwei Menschen können nie identisch sein aber zwei KIs schon. Dieser Vorteil der KIs mag winzig sein, aber er ist vorhanden.
Wenn es obendrein um den Zusammenhang zwischen Qualia und objektiven Zustand geht, dann muss man diesen Zustand natürlich auch kennen. Beim Menschen kennt man ihn nicht, aber bei der KI schon. Hier sind die KIs ganz klar im Vorteil.
Warum soll die Betrachtung von KIs trotzdem nicht besser oder sogar schlechter sein?
TomS
Verfasst am: 03. Jul 2023 22:59
Titel:
DrStupid hat Folgendes geschrieben:
Qubit hat Folgendes geschrieben:
Man wird also nie im objektiven Sinne feststellen können, ob ein Computer resp. ein Computerprogramm selbst Qualia hat.
Bei einem Menschen geht das genausowenig.
Stimmt, sage ich schon die ganze Zeit.
DrStupid hat Folgendes geschrieben:
Warum die Betrachtung von KIs hier weniger geeignet sein soll als die von Menschen, entzieht sich weiterhin meinem Verständnis.
Das Problem
meiner
Qualia ist essentiell die Erklärungslücke bzgl. i) subjektiver / erste-Person-Perspektive und ii) objektiver / dritte-Person-Perspektive. Wenn ich nun mich selbst zugunsten einer KI aus der Gleichung nehme, eliminiere ich (i), verstümmele also die Problemstellung bis zur Unkenntlichkeit.
Wenn du einen Aufsatz über deine fehlende Wahrnehmung deines blinden Flecks schreiben sollst, wirst du mit einem Aufsatz über den Sensor deiner Kamera durchfallen.
Qubit
Verfasst am: 03. Jul 2023 22:39
Titel:
DrStupid hat Folgendes geschrieben:
Qubit hat Folgendes geschrieben:
Man wird also nie im objektiven Sinne feststellen können, ob ein Computer resp. ein Computerprogramm selbst Qualia hat.
Bei einem Menschen geht das genausowenig. Warum die Betrachtung von KIs hier weniger geeignet sein soll als die von Menschen, entzieht sich weiterhin meinem Verständnis. Aber vielleicht ist das auch nur subjektiv zugänglich.
Der Grund ist eigentlich simpel:
einen Menschen zu "interpretieren" und ihm Subjektivität zuzueignen, liegt offenbar in der Natur des Menschen selbst und erfordert in der Analyse (nur) ein gewisses Maß an "Analogieschluss". Man schliesst hier von sich auf andere, so entwickelt sich der Mensch (und wohl genauer sein Gehirn) von Geburt an.
Die Verhältnisse liegen bei einem Computer & Computerprogramm (~KI) da ganz anders. Wenn ein Computer irgendwas produziert, eine Rechnung, ein Bild oder Texte oder was auch immer, dann sind das erstmal algorithmische Artefakte, die von Menschen selbst interpretiert werden müssen. Anzunehmen, dass ein Computer diese Artefakte, die Rechnungen, Bilder oder Texte wirklich so wahrnimmt oder gar "erlebt", mit der Subjektivität eines Menschen, liegt sehr fern. Eben weil Menschen Computer und ihre Programme objektiv & formal beschreiben (können). Wenn nun ein Computer zB. "kommunizert", dass es Musik oder Bilder emotional erlebt, so analysiert der Mensch das objektiv in den Daten und Algorithmen dieser Computer. Aber gerade wenn er diese nicht mehr versteht (weil vielleicht zu komplex geworden), desto weniger hat er eine rationale Begründung, einem Computer und/oder seinem Programm eine Subjektivität zuzusprechen. Was dann bleibt, ist ein "Anlogieschluss" oder auch nicht, resp. zu glauben, dass ein Computer Subjektivität hätte oder auch nicht. Das ist das Dilemma.
DrStupid
Verfasst am: 03. Jul 2023 22:14
Titel:
Qubit hat Folgendes geschrieben:
Man wird also nie im objektiven Sinne feststellen können, ob ein Computer resp. ein Computerprogramm selbst Qualia hat.
Bei einem Menschen geht das genausowenig. Warum die Betrachtung von KIs hier weniger geeignet sein soll als die von Menschen, entzieht sich weiterhin meinem Verständnis. Aber vielleicht ist das auch nur subjektiv zugänglich.
TomS
Verfasst am: 03. Jul 2023 21:49
Titel:
Qubit hat Folgendes geschrieben:
So stimme ich dir zu, dass es gar keine objektiven Kriterien geben kann, einen subjektiven Kontext zu beurteilen ausserhalb des eigenen subjektiven Kontext.
Ich bin mir nicht sicher, ob wir tatsächlich exakt das selbe sagen, aber zumindest sind unsere Ansichten verwandt.
Qubit hat Folgendes geschrieben:
So mag man daran subjektiv "glauben", dass eine KI selbst Subjektivität, zB. in Form von Qualia, hat oder auch nicht. Mit objektiven Kriterien alleine lässt sich es aber nicht begründen … Man wird also nie im objektiven Sinne feststellen können, ob ein Computer resp. ein Computerprogramm selbst Qualia hat. Weil man es eben letztlich nur in einem subjektiven Kontext beurteilen kann.
Genau.
Es gibt sehr gut plausible Gründe, aber keine streng logischen, die nicht in Teilen lückenhaft oder zirkulär sind.
Qubit hat Folgendes geschrieben:
Das ist das eigentliche Dilemma in dieser Frage.
Im Gegenteil, es ist führt ein gutes Stück in Richtung einer Lösung.
Zunächst mal erscheint der Gegensatz von Materialismus / Naturalismus / Physikalismus einerseits und mentalen Phänomenen andererseits unüberwindbar.
Aber
1. das sind zumeist Scheinprobleme, die aufgrund der (historisch bedingt) falschen Fragen entstehen;
2. werden oft Geist und Materie entweder als gegensätzlich oder gar widersprüchlich (im Sinne von etwas mystischen) aufgefasst, oder Geist wird zugunsten der Materie eliminiert; dabei übersieht man, dass
3. dieser Widerspruch nicht in den Dingen selbst sondern in unsereren Perspektiven steckt; nicht das Mentale an sich ist wesensverschieden von der Materie, lediglich die Perspektiven (du sprichst von Kontexten) sind es; d.h.
4. die Lösung steckt darin, das „Dilemma“ in unserer eigenen Sicht auf die Dinge zu verorten; aber damit ist es kein Dilemma mehr; nun könnte man meinen, dies sei nur ein Trick, jedoch
5. erscheint dies zumindest naheliegend; denn wenn unser Verstand (so wie eine KI / ein NN) im weitesten Sinne algorithmisch funktioniert, so wissen wir doch seit Gödel und Turing, dass ein Algorithmus beweisbar nicht in der Lage ist, alle Wahrheiten über sich selbst zu beweisen; anders gesprochen, warum sollte gerade die selbstbezügliche Frage unseres Verstandes bezüglich der Funktionsweise dieses Verstandes nicht in eine Sackgasse führen?
Das Dilemma steckt eher darin, dass diese Argumentation nicht als Lösungsansatz verstanden wird. Zumindest zeigt sich doch, wo das Problem nicht steckt.
Qubit
Verfasst am: 03. Jul 2023 20:59
Titel:
TomS hat Folgendes geschrieben:
Ich weiß ehrlich nicht, was ich noch sagen soll.
Man sollte vielleicht mal einen einen kleinen Aufsatz schreiben, mit dem Titel:
"Diese Welt ist deine Welt"
Mit den Untertiteln:
"Was du nicht wissen kannst.
Von der Natur der Natur"
Vielleicht sieht man dann, dass sich alles, auch Computerprogramme, letztlich in der subjektiven Natur dieses Verstehens begründet.
So wird man sich eben auf einen "objektiven Kontext" einigen können, zB. nach naturwissenschaftlicher Methodik, aber immer auch eingebettet in einen subjektiven Kontext. Und so kann man einen solchen "subjektiven Kontext" selbst auch letztlich immer nur subjektiv beurteilen. Man kann anderen Menschen diesen subjektiven Kontext zugestehen, weil sie Menschen und ähnlich sind. Aber es fällt so schwer, einer KI (oder Ameise) objektiv einen subjektiven Kontext zuzugestehen, wenn man sie objektiv,, formal beschreiben muss.
So stimme ich dir zu, dass es gar keine objektiven Kriterien geben kann, einen subjektiven Kontext zu beurteilen ausserhalb des eigenen subjektiven Kontext.
So mag man daran subjektiv "glauben", dass eine KI selbst Subjektivität, zB. in Form von Qualia, hat oder auch nicht. Mit objektiven Kriterien alleine lässt sich es aber nicht begründen. Das ist das eigentliche Dilemma in dieser Frage.
Man wird also nie im objektiven Sinne feststellen können, ob ein Computer resp. ein Computerprogramm selbst Qualia hat. Weil man es eben letztlich nur in einem subjektiven Kontext beurteilen kann. Das ist -wenn man so sagen will- eine "Relativitätstheorie" des eigenen "Ichs".
TomS
Verfasst am: 03. Jul 2023 13:19
Titel:
Ich weiß ehrlich nicht, was ich noch sagen soll.
DrStupid
Verfasst am: 03. Jul 2023 13:08
Titel:
TomS hat Folgendes geschrieben:
Gemäß dieser absurden Schlussfolgerung
hätte
ein Lehrbuch der Neurowissenschaften dann selbst Schmerzen.
In einem Lehrbuch über Neurowissenschaften laufen keine Prozesse ab. Es beschreibt nur Beobachtungen. Ich rede hier aber nicht über die Beschreibung von Beobachtungen von Daten, sondern über die Daten selbst. Die Überführungsfunktionen der Turingmaschine wirken auf diese Daten und nicht auf Papier und darauf verteiles Graphit.
DrStupid hat Folgendes geschrieben:
Wir wüssten dann tatsächlich alles über die mathematische Repräsentation ihrer Qualia, jedoch weiterhin nichts über ihre subjektiven Gefühle.
Bei einem fremden Person wissen wir nicht alles über die physikalische Repräsentation ihrer Qualia und auch nichts über ihre subjektiven Gefühle.
Ich verstehe nicht, wie es besser sein kann, weniger zu wissen.
TomS
Verfasst am: 03. Jul 2023 12:16
Titel:
DrStupid hat Folgendes geschrieben:
Wenn es Dir nur um Deine subjektive Wahrnehmung geht, dann ist es sinnlos mit anderen darüber zu diskutieren
Ich habe zig mal geschrieben, dass das Problem im Bezug zwischen der subjektiven und der objektiven Perspektive steckt.
Wenn du nicht lesen kannst oder willst, ist es sinnlos mit
dir
zu diskutieren.
DrStupid hat Folgendes geschrieben:
Wenn ich das Programm einer KI mit einem Bleistift auf einem Blatt Papier abarbeite, dann SIND die Daten auf dem Papier die KI. Es spielt keine Rolle auf welcher Hardware das Programm läuft und wie die Daten gespeichert werden. Entscheidend sind die Daten selbst.
Du verstehst offenbar nicht den Unterschied zwischen "ist" und "repäsentiert". Gemäß dieser absurden Schlussfolgerung
hätte
ein Lehrbuch der Neurowissenschaften dann selbst Schmerzen.
DrStupid hat Folgendes geschrieben:
Genau darin liegt doch der Vorteil von KIs - dass sie unabhängig von realen Vorgängen sind, die wir nicht vollständig beobachten können und deren Gesetze uns nicht vollständig bekannt sind.
Wir wüssten dann tatsächlich alles über die mathematische Repräsentation ihrer Qualia, jedoch weiterhin nichts über ihre subjektiven Gefühle. Ersteres ist trivial, letzteres macht die Diskussion über Qualia sinn- und zwecklos.
Lies Searle u.a., dann verstehst du eventuell deine essentiellen sowie teilweise trivialen Denkfehler.
DrStupid
Verfasst am: 03. Jul 2023 10:40
Titel:
TomS hat Folgendes geschrieben:
Das einzige, was ich mich sicher zu sagen traue, ist, dass mein Gehirn nach objektiven physikalischen Gesetzmäßigkeiten funktioniert, und dass ich subjektive mentale Phänomene wahrnehme.
Damit wird es nicht besser sondern schlimmer. Wenn es Dir nur um Deine subjektive Wahrnehmung geht, dann ist es sinnlos mit anderen darüber zu diskutieren - und doch bist Du hier. Wie passt das zusammen?
TomS hat Folgendes geschrieben:
Die Folge von Zahlen
sind
nicht die Qualia, sie
repräsentieren
sie höchstens (nur weil ich F=ma hinschreibe, fällt ja auch nicht das iPad runter).
Wenn ich das Programm einer KI mit einem Bleistift auf einem Blatt Papier abarbeite, dann SIND die Daten auf dem Papier die KI. Es spielt keine Rolle auf welcher Hardware das Programm läuft und wie die Daten gespeichert werden. Entscheidend sind die Daten selbst.
Genau darin liegt doch der Vorteil von KIs - dass sie unabhängig von realen Vorgängen sind, die wir nicht vollständig beobachten können und deren Gesetze uns nicht vollständig bekannt sind. Über Funktionsweise und Zustand einer KI können wir jedes Detail wissen.
TomS hat Folgendes geschrieben:
Und die tatsächliche Realisierung der Zahlen und ihre Bedeutungen ist erstens nur teilweise emergent, zweitens dem Computer nicht vollständig immanent. Die Syntax steckt im Computerprogramm, die
Semantik
in deiner Interpretation desselben.
Na und? Du musst die Funktionsweise Deines Gehirns auch nicht kennen um Schmerz zu fühlen. Warum soll es dann für eine empfindungsfähige KI wichtig sein, Programm und Überführungsfunktionen zu kennen oder den Daten in ihrem Speicher irgend eine Bedeutung zu geben? Das kann ihr alles völlig egal sein.
TomS hat Folgendes geschrieben:
Die Diskussion von KIs löst das Problem nicht, und vereinfacht es auch nicht, sie verkompliziert es.
Mal davon abgesehen, dass die KIs schon in der Überschrift dieser Diskussion stehen - was genau wird denn einfacher, wenn man zusätzlich zur reinen Informationsverarbeitung auch noch die Physik einer konkreten Umsetzung betrachtet?
TomS hat Folgendes geschrieben:
Das ist eine extrem interessante Frage, nämlich in wie weit eigene Qualia invariant sind. Ist für mich neu.
Wie kann das neu sein? Du reitest doch ständig darauf herum, dass über die triviale Aussage zur Identität hinaus nichts über Qualia gesagt werden kann. Da steckt das doch zwangsläufig mit drin. Entweder kann man nichts über seine eigenen Qualia sagen weil man nie derselbe bleibt oder man geht davon aus, dass kleine Änderungen des Zustandes zu kleinen Änderung der Qualia führen. Ersteres macht die Diskussion überflüssig und letzeres eröffnet die Möglichkeit, doch etwas über andere Qualia sagen zu können.
TomS hat Folgendes geschrieben:
Umso sinnloser ist es aber, die Antwort im Computerprogrammen zu suchen.
Ich habe noch nicht verstanden, warum die Suche nach Antworten in einem Computerprogramm sinnloser sein soll als in physikalischen Systemen. Wenn Dein einziges Argument darin bestehen würde, dass sich Deine Qualia nur in deinem Gehirn abspielen, dann könnte eine KI mit demselben Recht darauf verweisen, dass ihre Qualia nur in ihren Daten zu suchen sind. Das kann es also nicht sein. Aber was dann?
TomS hat Folgendes geschrieben:
Eine mathematische Repräsentative der Qualia ist nur dann sinnvoll, wenn wir ziemlich konkret sagen können, wie genau die Subjektivität enthalten ist
Können wir das denn für eine physikalisches System sagen?
TomS
Verfasst am: 02. Jul 2023 16:08
Titel:
DrStupid hat Folgendes geschrieben:
Wenn Du es schon für unsinig hälst, das Problem auf eine abstrakten mathematischen Ebene zu reduzieren, dann ist es noch unsinnniger es im Bereich der Physik diskutieren zu wollen.
Es ist genau umgekehrt. Das einzige, was ich mich sicher zu sagen traue, ist, dass mein Gehirn nach objektiven physikalischen Gesetzmäßigkeiten funktioniert, und dass ich subjektive mentale Phänomene wahrnehme.
Daher ist es nicht Unsinn sondern Notwendigkeit, davon auszugehen.
DrStupid hat Folgendes geschrieben:
Immerhin habe ich … gezeigt, wie das Thema möglicherweise von der Physik getrennt werden kann.
Nur vordergründig.
DrStupid hat Folgendes geschrieben:
Die Idee, dass Qualia in einer Folge von Zahlen stecken können, die man nach bestimmten Regeln auf Papier schreibt, finde ich zumindest interessant. Wenn das möglich sein sollte, dann gehen Diskussionen über physikalische Vorgänge in Computern der Gehirnen am Thema vorbei.
Warum? Die Folge von Zahlen
sind
nicht die Qualia, sie
repräsentieren
sie höchstens (nur weil ich F=ma hinschreibe, fällt ja auch nicht das iPad runter). Und die tatsächliche Realisierung der Zahlen und ihre Bedeutungen ist erstens nur teilweise emergent, zweitens dem Computer nicht vollständig immanent. Die Syntax steckt im Computerprogramm, die
Semantik
in deiner Interpretation desselben.
Deswegen
geht das am Thema vorbei, da es für Computerprogramme deiner (unserer) zusätzlichen Interpretation bedarf, was für deine Qualia offensichtlich weder notwendig noch sinnvoll ist; es gibt keine separate Interpretation. Die Diskussion von KIs löst das Problem nicht, und vereinfacht es auch nicht, sie verkompliziert es. Und sie überdeckt, dass man die eigenen subjektiven Qualia nicht in KIs objektivieren kann.
Lies Searle, der dekonstruiert die Kognitionswissenschaften hier sehr schön.
DrStupid hat Folgendes geschrieben:
Du kannst ja streng genommen noch nicht einmal etwas über Deine eigenen Qualia sagen, weil Du Dich selbst ständig änderst. Am Ende eines Satzes bist Du nicht mehr derselbe wie am Anfang. Wenn Du nicht wenigstens in gewissen Grenzen davon ausgehst, dass ähnliche Zustände mit ähnlichen Qualia assoziiert sind, dann löst sich der Gegenstand dieser Diskussion komplett in Wohlgefallen auf, weil er dann noch nicht einmal einer subjektiven Beobachtung zugänglich sind.
Das ist eine extrem interessante Frage, nämlich in wie weit eigene Qualia invariant sind. Ist für mich neu.
Umso sinnloser ist es aber, die Antwort im Computerprogrammen zu suchen. Ich gebe dir ja recht, dass sie mathematisch greifbarer sind und einfachere sowie präzisere Antworten zulassen - aber halt auf zu einfache und insbs. nur objektive d.h. bzgl. der subjektiven Phänomenen „Qualia“ völlig verfehlte Fragen.
Eine mathematische Repräsentative der Qualia ist nur dann sinnvoll, wenn wir ziemlich konkret sagen können, wie genau die Subjektivität enthalten ist; das ist der entscheidende Unterschied zwischen Qualia und irgendwelchen anderen objektiven Phänomene.
DrStupid
Verfasst am: 02. Jul 2023 15:27
Titel:
Sonnenwind hat Folgendes geschrieben:
Ich würde sagen, dass ich eine Wiese schon immer als Qirgendwas wahrgenommen habe. Obwohl ich niemandem Qirgendwas erklären kann, so kann ich doch sagen, dass es immer gleich geblieben ist und niemals Qirgendwasanderes war.
Das Problem ist, dass Du hier die Wahrnehmung einer Wiese mit einer Erinnerung an die Wahrnehmung einer Wiese vergleichst. Selbst wenn Erinnerungen zuverlässig wären (was sie bekanntermaßen nicht sind), vergleichst Du da zwei verschiedene Dinge. Selbst wenn die Wahrnehmungen gleich sind, kann die Erinnerung daran anders sein. Vielleicht ist beides wirklich gleich, aber vielleicht resultiert dieser Eindruck auch nur aus der Art und Weise, wie die Erinnerung aus den gespeicherten Daten rekonstruiert wird. Und dieses Problem besteht leider auf jeder Zeitskala über die subjektive Gegenwart (maximal ein paar Sekunden) hinaus.
Sonnenwind
Verfasst am: 02. Jul 2023 14:51
Titel:
DrStupid hat Folgendes geschrieben:
Du kannst ja streng genommen noch nicht einmal etwas über Deine eigenen Qualia sagen, weil Du Dich selbst ständig änderst. Am Ende eines Satzes bist Du nicht mehr derselbe wie am Anfang. Wenn Du nicht wenigstens in gewissen Grenzen davon ausgehst, dass ähnliche Zustände mit ähnlichen Qualia assoziiert sind, dann löst sich der Gegenstand dieser Diskussion komplett in Wohlgefallen auf, weil er dann noch nicht einmal einer subjektiven Beobachtung zugänglich sind.
Ein interessantes Argument. Ich würde sagen, dass ich eine Wiese schon immer als Qirgendwas wahrgenommen habe. Obwohl ich niemandem Qirgendwas erklären kann, so kann ich doch sagen, dass es immer gleich geblieben ist und niemals Qirgendwasanderes war.
DrStupid
Verfasst am: 02. Jul 2023 14:10
Titel:
TomS hat Folgendes geschrieben:
Jetzt fehlt nur noch, dass du die Unsinnigkeit einer rein abstrakten mathematischen Aussage angesichts der empirischen Fragestellung über die Qualia erkennst.
Wenn Du es schon für unsinig hälst, das Problem auf eine abstrakten mathematischen Ebene zu reduzieren, dann ist es noch unsinnniger es im Bereich der Physik diskutieren zu wollen.
TomS hat Folgendes geschrieben:
Du hast noch nichts konkretes gesagt, was über diese triviale Konsequenz hinausgeht
Immerhin habe ich etwas Kontretes gesagt und ich habe gezeigt, wie das Thema möglicherweise von der Physik getrennt werden kann. Die Idee, dass Qualia in einer Folge von Zahlen stecken können, die man nach bestimmten Regeln auf Papier schreibt, finde ich zumindest interessant. Wenn das möglich sein sollte, dann gehen Diskussionen über physikalische Vorgänge in Computern der Gehirnen am Thema vorbei. Darüber sollte man doch zumindest mal nachdenken.
Du kannst ja streng genommen noch nicht einmal etwas über Deine eigenen Qualia sagen, weil Du Dich selbst ständig änderst. Am Ende eines Satzes bist Du nicht mehr derselbe wie am Anfang. Wenn Du nicht wenigstens in gewissen Grenzen davon ausgehst, dass ähnliche Zustände mit ähnlichen Qualia assoziiert sind, dann löst sich der Gegenstand dieser Diskussion komplett in Wohlgefallen auf, weil er dann noch nicht einmal einer subjektiven Beobachtung zugänglich sind.
TomS
Verfasst am: 02. Jul 2023 12:45
Titel:
DrStupid hat Folgendes geschrieben:
TomS hat Folgendes geschrieben:
Die Aussage ist mathematisch trivial „wenn X=Y, dann X=Y“, und physikalisch nicht überprüfbar.
Es ist zwar schon ein Fortschritt, dass Du die Unsinnigkeit einer physikalischen Überprüfung mathematischer Aussagen erkannt hast …
Jetzt fehlt nur noch, dass du die Unsinnigkeit einer rein abstrakten mathematischen Aussage angesichts der empirischen Fragestellung über die Qualia erkennst.
DrStupid hat Folgendes geschrieben:
Die Gleichheit der Qualia folgt nicht aus der Gleichheit der Qualia, sondern aus der Gleichheit der Konfigurationen (einschließlich ihrer Änderungen) und der Zusammenhang zwischen den Konfigurationen und den Qualia ist unbekannt und kann beliebig komplex sein.
Du diskutierst letztlich die Isomorphie von Strukturen und ihrer Unterstrukturen, wobei deine „Qualia“ nur ein Name für etwas sind, was du nicht näher definieren und charakterisieren kannst (weil du die subjektive Perspektive nie diskutierst). Deine Aussage ist letztlich
Du hast noch nichts konkretes gesagt, was über diese triviale Konsequenz hinausgeht, weil du weder sagst, was konkret Qualia mathematisch sind, noch was sie ontisch und empirisch konkret bedeuten.
DrStupid hat Folgendes geschrieben:
Das ist nicht mehr so trivial, wie Du es oben darstellst, und folgt aus der Tatsache, dass die Turingmaschine keine Freiheitsgrade außer ihren Konfigurationen hat. Wenn die Konfigurationen zweier Maschinen gleich, aber die Qualia unterschiedlich wären, dann wären für diese unterschiedlichen Qualia zusätzliche Freiheitsgrade nötig. Bei einem physikalischen System hätte man hier das Problem, dass man nie sicher sein kann, alle Freiheitsgrade zu kennen. Bei einer Turingmaschine weiß man, dass es sie nicht gibt.
Warum versuchst du ständig, mich von etwas zu überzeugen, von dem ich schon längst überzeugt bin, da es trivial ist? Ich sage seit Beginn dieser Diskussion, dass ich von derartigen ontischen Äquivalenzen auch bei realen Gehirnen *) und deren Qualia überzeugt bin, dass ich jedoch weder einen nicht-trivialen mathematischen Beweis *) noch eine konkrete empirische Überprüfung sehe.
*) weil mich diese mehr interessieren als abstrakte Turingmaschinen; und weil sich die Mathematik für diese auf die o.g. Trivialität reduziert
Vom 23.06.:
TomS hat Folgendes geschrieben:
… Dass der aktuelle Zustand unseres jeweiligen Gehirns den jeweiligen Bewusstseinsinhalt physikalisch hervorbringt? Ja, der Ansicht bin ich auch. Oder dass wir uns erklären und verstehen können, wie genau der aktuelle Zustand unseres jeweiligen Gehirns den jeweiligen Bewusstseinsinhalt physikalisch hervorbringt? Nein, das glaube ich nicht.
…
Tatsache ist, dass, selbst wenn wir eine perfekte physikalische Theorie der Echolotortung bei Fledermäusen hätten, uns diese nichts über das subjektive Empfinden der Fledermaus bei der Ortung sagt. Nun übertragen wir das auf den Menschen. Eine perfekte physikalische Theorie des menschlichen Gehirns würde es mir eventuell erlauben, diese Theorie auf
mein
subjektives Erleben anzuwenden. Es ist für mich jedoch unmöglich, sie auf
dein
subjektives Erleben anzuwenden. Dein subjektives Erleben ist immer nur deines, und daher nicht objektivierbar.
…
Versuch doch bitte mal, schlüssig zu erklären, wie du folgendes objektiv überprüfen willst:
Gegeben seien diverse Versuchspersonen, deren Aussagen bzgl. ihrer Gefühle, entsprechende Messungen von zig Parametern (Stoffwechsel, hochaufgelöste Hirnströme ..) , sowie Korrelationen der Form Messwerte (a, b, c ...) <==> "
herrliches Glas Rotwein, erdig ... da denke ich an den letzten Sommerurlaub, wir waren einfach glücklich
".
Du hast tausende derartiger Aussagen sowie eine präzise Theorie, die hervorragende Korrelationen zwischen Messwerten und Aussagen liefert; sie funktioniert in beide Richtungen, d.h. ausgehend von den Messdaten liefert sie Aussagen, denen die Testpersonen zustimmen; und umgekehrt kann die Theorie ausgehend von den Aussagen der Testpersonen sehr präzise die Messdaten vorhersagen: das funktioniert mittels präziser mathematischer Modellierung genügend hochauflösender Hirnzustände und -prozesse (nicht unbedingt je Atom, aber meinetwegen aber auch das).
Nun machen wir folgendes: wir suchen Cluster von Testpersonen mit sehr ähnlichen Aussagen und Messdaten, also z.B. alle, die dieses Glücksgefühl bzgl. des Glases Rotwein teilen.
Jetzt folgende Fragen zu den Personen innerhalb eines Clusters:
1) haben sie eng verwandte
Hirnzustände
?
2) stimmen ihre
Aussagen
(im Rahmen einer Metrik bzgl. deutscher Sprache) sehr gut überein?
3) weisen ihre "theoretischen Zwillinge" eng verwandte
mathematische Zustände
auf?
4) stimmen ihre
inneren Empfindungen
sehr gut überein?
Ich denke, du antwortest auf alle vier Fragen mit "ja". Ich jedenfalls tue das.
Auf Basis welcher Voraussetzungen] folgerst du logisch, dass dies bei (4) zutrifft, und wie überprüfst du (falsifizierst bzw. verifizierst du gemäß Popper) dies anhand welcher Experimente?
Im letzten Absatz steht die
spannende Frage
.
Über die Vorrede sind wir uns weitgehend einig, da musst du mich nicht überzeugen.
DrStupid
Verfasst am: 02. Jul 2023 12:06
Titel:
TomS hat Folgendes geschrieben:
Die Aussage ist mathematisch trivial „wenn X=Y, dann X=Y“, und physikalisch nicht überprüfbar.
Es ist zwar schon ein Fortschritt, dass Du die Unsinnigkeit einer physikalischen Überprüfung mathematischer Aussagen erkannt hast, aber über die Aussage müssen wir noch reden. Die Gleichheit der Qualia folgt nicht aus der Gleichheit der Qualia, sondern aus der Gleichheit der Konfigurationen (einschließlich ihrer Änderungen) und der Zusammenhang zwischen den Konfigurationen und den Qualia ist unbekannt und kann beliebig komplex sein.
Das ist nicht mehr so trivial, wie Du es oben darstellst, und folgt aus der Tatsache, dass die Turingmaschine keine Freiheitsgrade außer ihren Konfigurationen hat. Wenn die Konfigurationen zweier Maschinen gleich, aber die Qualia unterschiedlich wären, dann wären für diese unterschiedlichen Qulaia zusätzliche Freiheitsgrade nötig. Bei einem physikalischen System hätte man hier das Problem, dass man nie sicher sein kann, alle Freiheitsgrade zu kennen. Bei einer Turingmaschine weiß man, dass es sie nicht gibt.
Wenn Dir das nicht komplex genug ist, dann können wir auch zwei Turingmaschinen betrachten, die unterschiedliche Alphabete und unterschiedliche Überführungsfunktionen haben, aber trotzdem gleich arbeiten. Angenommen Maschine A kennt ein Wort xA und Maschine B ein Wort xB wobei Maschine B das Wort xB genauso verarbeitet wie Maschine A das Wort xA. Wenn jetzt die Konfiguration von A vollständig in die von B überführt werden kann, indem man alle xA durch xB ersetzt, dann wären eventuelle Qualia gleich, obwohl die Maschinen nicht gleich sind.
TomS
Verfasst am: 01. Jul 2023 22:08
Titel:
DrStupid hat Folgendes geschrieben:
TomS hat Folgendes geschrieben:
Wenn die mathematische Struktur einer KI Qualia umfasst, dann umfasst die mathematische Struktur einer KI Qualia. Klar.
Nur, was sagt das nun konkret über Qualia?
Das sagt einer KI mit Qualia, dass ihre Zwillinge dieselben Qualia haben. Ihr ist damit etwas möglich, was Du für unmöglich hältst: Sie kann etwas über Qualia sagen, die nicht ihre eigenen sind.
Die Aussage ist mathematisch trivial „wenn X=Y, dann X=Y“, und physikalisch nicht überprüfbar.
Ich präzisiere meine Frage: welche nicht-triviale Aussage folgt denn nun über Qualia?
DrStupid
Verfasst am: 01. Jul 2023 22:03
Titel:
TomS hat Folgendes geschrieben:
Wenn die mathematische Struktur einer KI Qualia umfasst, dann umfasst die mathematische Struktur einer KI Qualia. Klar.
Nur, sagt das nun konkret über Qualia?
Das sagt einer KI mit Qualia, dass ihre Zwillinge dieselben Qualia haben. Ihr ist damit etwas möglich, was Du für unmöglich hältst: Sie kann etwas über Qualia sagen, die nicht ihre eigenen sind.
TomS
Verfasst am: 01. Jul 2023 21:30
Titel:
DrStupid hat Folgendes geschrieben:
Warum willst Du alles auf einmal klären? So arbeitet man in der Wissenschaft nicht.
Ach komm, wo bleibt dein Anspruch.
DrStupid hat Folgendes geschrieben:
Wenn
die KI Qualia entwickelt,
dann
sind diese vollständig in ihrer Konfiguration und deren Änderungen enthalten und identische KIs haben identische Qualia weil ihre Konfigurationen identisch sind.
Wenn man alles ordentlich aufschreibt, bleibt eine triviale Tautologie.
Wenn die mathematische Struktur einer KI Qualia umfasst, dann umfasst die mathematische Struktur einer KI Qualia. Klar.
Nur, was sagt das nun konkret über Qualia?
DrStupid hat Folgendes geschrieben:
TomS hat Folgendes geschrieben:
Und falls du sie physikalisch realisierst, wie zeigst du das
experimentell
?
Du machst es schon wieder unnötig kompliziert. Das Thema dieser Diskussion heißt "Roboter versus Qualia". Roboter werden von KIs gesteuert. Damit haben wir die Möglichkeit, das Thema auf den Bereich der theoretischen Informatik zu beschränken und uns alle empirischen Probleme vom Hals zu schaffen. Natürlich besteht dabei das Risiko, dass Qualia in diesem Bereich nicht vorkommen. Aber welchen Unterschied macht es, ob man sie nicht beobachtet, weil sie nicht existieren oder weil sie empirisch nicht zugänglich sind?
Klingt nach einem Rückzugsgefecht deinerseits.
Du übersiehst eine Sache: wir wissen
nichts
über Qualia, außer unserer subjektiven Wahrnehmung. Was du da also theoretisch diskutierst, funktioniert genau so gut oder schlecht wie eine Diskussion über Boojums oder Doshes.
DrStupid
Verfasst am: 01. Jul 2023 18:44
Titel:
TomS hat Folgendes geschrieben:
Ob und wie du die Turingmaschine tatsächlich realisierst, ist mir egal.
Warum redest Du dann über Physik?
TomS hat Folgendes geschrieben:
Entwickelt sie Qualia? Unter welchen Bedingungen? In wie weit sind diese mit den unseren vergleichbar oder gar identisch? In wie weit
beweist
du letzteres mathematisch, und was sind die zugrundeliegenden Annahmen?
Warum willst Du alles auf einmal klären? So arbeitet man in der Wissenschaft nicht. Ich habe mich auf einen kleinen Teilaspekt beschränkt:
Wenn
die KI Qualia entwickelt,
dann
sind diese vollständig in ihrer Konfiguration und deren Änderungen enthalten und identische KIs haben identische Qualia weil ihre Konfigurationen identisch sind.
TomS hat Folgendes geschrieben:
Und falls du sie physikalisch realisierst, wie zeigst du das
experimentell
?
Du machst es schon wieder unnötig kompliziert. Das Thema dieser Diskussion heißt "Roboter versus Qualia". Roboter werden von KIs gesteuert. Damit haben wir die Möglichkeit, das Thema auf den Bereich der theoretischen Informatik zu beschränken und uns alle empirischen Probleme vom Hals zu schaffen. Natürlich besteht dabei das Risiko, dass Qualia in diesem Bereich nicht vorkommen. Aber welchen Unterschied macht es, ob man sie nicht beobachtet, weil sie nicht existieren oder weil sie empirisch nicht zugänglich sind?
TomS
Verfasst am: 01. Jul 2023 17:52
Titel:
Ob und wie du die Turingmaschine tatsächlich realisierst, ist mir egal.
Entwickelt sie Qualia? *) Unter welchen Bedingungen? In wie weit sind diese mit den unseren vergleichbar oder gar identisch? In wie weit
beweist
du letzteres mathematisch, und was sind die zugrundeliegenden Annahmen? Und falls du sie physikalisch realisierst, wie zeigst du das
experimentell
?
*) Meiner Meinung
hat
sie Qualia allenfalls dann, wenn sie physikalisch realisiert wäre; als rein abstrakter Algorithmus würde die diese allenfalls
repräsentieren
.
DrStupid
Verfasst am: 01. Jul 2023 17:31
Titel:
TomS hat Folgendes geschrieben:
Die KI basiert auf Siliziumchips, das Gehirn auf Biochemie, und beide auf Physik.
Nein, ich habe geschrieben, dass die KI auf einer deterministischen Turingmaschine basiert. Dabei scheinst Du an eine Art Computer zu denken. Dieser Irrtum ist weit verbreitet, aber es ist trotzdem ein Irrtum. Eine Turingmaschine hat rein gar nichts mit Physik zu tun. Sie ist nur ein Satz von Definitionen und vollkommen unabhängig davon, ob und wenn ja wie diese in der Praxis umgesetzt werden.
Als einfache Analogie kannst Du Dir die Funktion f(x)=x² vorstellen. Das ist auch ein rein theoretisches Konstrukt. Da wird einfach eine Menge eindeutig auf eine andere abgebildet. Wenn man das in der Praxis anwenden will, dann kommt natürlich zwangsläufig die Physik ins Spiel. Aber ob man die Funktionswerte jetzt z.B. mit einer mechanischen Rechenmaschine oder im Kopf berechnet, ist vollkommen egal. Wenn man sich an die Definition hält, dann ist das Ergebnis immer dasselbe. Niemand würde hier ein Experiment verlangen, mit dem man z.B. die Existenz eines Estremums falsifizieren kann.
Die Turingmaschine ist zwar komplexer, aber das Prinzip ist dasselbe. Sie ist auch nur ein Satz von Funktionen, die eine Konfiguration in eine andere überführen. Ob und wenn ja wie man das in der Praxis umsetzt ist genauso egal wie bei der Berechnung des Quadrats einer Zahl. Das kann man z.B. mit einem Computer machen oder per Hand mit Papier und Bleistift. Auch die Codierung der Konfigurationen ist egal. Man kann sie z.B. als Zahlen oder Buchstaben speichern oder Reiskörner auf einem gigantischen Schachbrett verteilen. Das ist alles vollkommen gleichgültig, solange man sich dabei streng an die Definitionen hält. Diese Definitionen SIND die Turingmaschine. Das lässt sich alles auf pure Mathematik reduzieren und hat nichts mit Physik zu tun.
TomS
Verfasst am: 30. Jun 2023 20:31
Titel:
DrStupid hat Folgendes geschrieben:
Er ist nicht verschwunden. Die Qualia stecken in den Konfigurationen der KIs und diese nehmen sie nach wie vor wahr. Ein Außenstehender kann sie in den Informationen zwar nicht erkennen, aber das war ja von vorn herein der Fall.
Es muss schon sehr anstrengend sein, die Probleme nicht sehen zu wollen.
Wikipedia hat Folgendes geschrieben:
Qualia
: der
subjektiven Erlebnisgehalt
eines mentalen Zustandes im Zusammenhang mit den auslösenden physiologischen Reizen.
Da du Qualia von außen nicht objektiv wahrnehmen kannst - weil sie per definitionem exakt das sind, was nur subjektiv wahrgenommen wird, ist es bzgl. der objektiven Wahrnehmung ein inhaltsleerer Begriff. Und ob und wie es von innen subjektiv wahrgenommen wird, kannst von außen nicht objektiv erkennen, bestätigen oder falsifizieren.
Nach
Karl Popper hat Folgendes geschrieben:
Ein empirisch-wissenschaftliches System muss an der Erfahrung scheitern können.
ist „Quale“ also kein Begriff im Rahmen eines vernünftigen empirisch-wissenschaftliches Systems.
Und aufgrund des per definitionem fehlenden objekiv empirischen Zugangs ist die Hypothese
DrStupid hat Folgendes geschrieben:
Qualia stecken in den Konfigurationen der KIs und diese nehmen sie nach wie vor wahr.
ein (sicherlich subjektiv sehr gut begründbarer)
Glaube
, mehr nicht. Es sei denn, du nennst ein Experiment.
DrStupid hat Folgendes geschrieben:
Erwartest Du ernsthaft ein Experiment, dass die Gleichheit zweier gleicher Mengen falsifiziert?
Ja, ich hätte gerne von dir ein Experiment, das in der Lage ist, meine oben formulierte Hypothese zu falsifizieren; diese bezieht sich aber
nicht
auf mathematische Begriffe sondern links auf reale physikalische Systeme und rechts auf mentale Entitäten. (Nein, aus den o.g. Gründen erwarte ich natürlich von dir kein Experiment, da ich davon ausgehe, dass ein derartiges Experiment prinzipiell unmöglich ist; ich lasse mich aber gerne überraschen).
Wenn du behauptest, in einem Beutel wäre zwei physikalisch identische Gegenstände, die genau deswegen identisch aussehen, dann ist das Experiment einfach: nimm‘ beide heraus und schau sie dir an.
Warum zierst du dich bei den Qualia so?
DrStupid hat Folgendes geschrieben:
TomS hat Folgendes geschrieben:
Wissenschaftliche Aussagen sind Aussagen über die Natur, die ich mittels Experimenten prüfen kann; kann ich sie nicht experimentell prüfen, sind sie unwissenschaftlich.
Natur
wissenschaftliche Aussagen sind Aussagen über die Natur, die Du mittels Experimenten prüfen kannst. Die oben beschriebene KI fällt aber in den Bereich der theoretischen Informatik.
Die KI basiert auf Siliziumchips, das Gehirn auf Biochemie, und beide auf Physik.
Mach dich doch nicht lächerlich.
DrStupid hat Folgendes geschrieben:
Immerhin kann man Qualia bei KIs auf eine endliche und vollständig bekannte Menge von Informationen eingrenzen. Das ist ein Schirtt in die richtige Richtung.
Also wäre die Hypothese für eine KI:
Du darfst gerne wieder ein Experiment vorschlagen, mittels dessen du überprüfen kannst, ob die Qualia eines neuronalen Netzes z.B. einer endlichen Menge entsprechen.