| Autor |
Nachricht |
Aruna3
Gast
|
 Aruna3 Verfasst am: 30. März 2025 19:31 Titel: |
 |
|
| TomS hat Folgendes geschrieben: |
Du hast gefragt
| Zitat: | | Hat außer Dir in dieser Diskussion den Begriff "Lüge" in Bezug auf KI in diesem Sinne verwendet? |
Ja, hast du.
|
Wie gesagt habe ich den Zusatz "in Bezug auf KI" extra für Dich hingeschrieben. Ich wollte erst schreiben, "im Kontext von KI". Dann hab ich mir gedacht, da in meiner Anfangsdefinition sich das "bewusste" zwar nicht auf KI bezieht, diese aber durchaus im Kontext einer Diskussion über KI getätigt wurde, ändere ich das besser mal.
Hätte ich geahnt, dass das nicht ausreicht, Dich davon abzuhalten mein Zitat zum zweiten Mal als Beleg für etwas anzuführen, für das es nicht geeignet ist, hätte ich mich zu einer noch eindeutigeren aber dann entsprechend umständlichen Formulierung gegriffen.
| TomS hat Folgendes geschrieben: |
Hast du damit behauptet, du würdest diese Definition sinnvoll finden oder einer KI Bewusstsein zuschreiben? Nein, hast du nicht.
|
Ah, dann hätte ich wohl - in Erwartung solcher Spitzfindigkeiten -
meine Frage so formulieren sollen:
Hat außer Dir in dieser Diskussion den Begriff "Lüge" in Bezug auf KI in diesem Sinne verwendet und sie dabei sinnvoll gefunden, einer KI Bewusstsein zugeschrieben, oder gemeint, dass eine KI Zugriff auf objektive Wahrheit hätte oder bräuchte?
Nur wird das dann m.E. total unverständlich und ist wahrscheinlich noch immer nicht wasserdicht genug....
| TomS hat Folgendes geschrieben: |
Und nein, ich unterstelle dir das auch nicht. |
Aha, Du behauptest also, dass ich "Lüge" in Bezug auf KI "im Sinne von "es wird bewusst eine Aussage getroffen, die nicht den objektiv gegebenen Tatsachen entspricht", verwende, willst mir damit aber nicht unterstellen, dass ich das für sinnvoll halte...
Du gehst also in einer Diskussion nicht darauf ein, was das Gegenüber für sinnvoll hält oder meint, sondern auf etwas, was niemand für sinnvoll hält oder meint, aber irgendwie aus den Aussagen konstruiert werden kann?
Mit wem diskutierst Du dann? Mit mir ja wohl nicht. |
|
 |
Aruna3
Gast
|
| Aruna3 Verfasst am: 30. März 2025 20:12 Titel: |
|
|
| TomS hat Folgendes geschrieben: | | Aruna3 hat Folgendes geschrieben: | | … dass Du meine Definitionen von "Lüge", die ich im Verlauf der Diskussion so angepasst habe … einfach ignorierst … |
Um in der Sache voranzukommen: kannst du diese Definition bitte nochmal zitieren oder formulieren? |
ja kann ich |
|
|
TomS
Moderator
Anmeldungsdatum: 20.03.2009
Beiträge: 21442
|
| TomS Verfasst am: 30. März 2025 22:23 Titel: |
|
|
| Aruna3 hat Folgendes geschrieben: | | Ah, dann hätte ich wohl - in Erwartung solcher Spitzfindigkeiten - meine Frage so formulieren sollen … |
Ja. Es wäre einfach und klar gewesen.
Du kannst mir nicht unterstellen, dir etwas zu unterstellen, indem ich nicht auf das Bezug nehme, was du zwar denkst aber nicht schreibst, und was du später zu dem Zitat, in dem es nicht drinsteht, wieder hinzudenkst.
| Aruna3 hat Folgendes geschrieben: | | TomS hat Folgendes geschrieben: | | Aruna3 hat Folgendes geschrieben: | | … dass Du meine Definitionen von "Lüge", die ich im Verlauf der Diskussion so angepasst habe … einfach ignorierst … |
Um in der Sache voranzukommen: kannst du diese Definition bitte nochmal zitieren oder formulieren? |
ja kann ich |
Würde mich freuen, wenn du's tust, damit wir endlich wieder in der Sache diskutieren können.
Meinst du die Tatsache, dass die der Aufforderung nachkommt, eine Lügengeschichte zu schreiben? Das würde doch niemand als Lüge bezeichnen, oder?
Wikipedia:
| Zitat: | | Eine Lüge ist eine Aussage, von der der Sender (Lügner) – anders als bei der Unwahrheit – weiß oder vermutet, dass sie unwahr ist, sie aber mit der Absicht äußert, dass der Empfänger sie glaubt, oder anders formuliert die (auch nonverbale) Kommunikation einer subjektiven Unwahrheit mit dem Ziel, im Gegenüber einen falschen Eindruck hervorzurufen oder aufrecht zu erhalten. |
Das trifft auf eine Lügengeschichte eigentlich nicht zu.
Und im Falle der KI weiß wohl niemand, ob man ihr Ziele oder Absichten zuschreiben kann.
_________________
Niels Bohr brainwashed a whole generation of theorists into thinking that the job (interpreting quantum theory) was done 50 years ago. |
|
|
Aruna4
Gast
|
| Aruna4 Verfasst am: 31. März 2025 08:24 Titel: |
|
|
| TomS hat Folgendes geschrieben: |
Du kannst mir nicht unterstellen, dir etwas zu unterstellen, indem ich nicht auf das Bezug nehme, was du zwar denkst aber nicht schreibst, und was du später zu dem Zitat, in dem es nicht drinsteht, wieder hinzudenkst.
|
Ich sehe hier wieder zwei Möglichkeiten:
1.) ich habe tatsächlich etwas getan, dass nach redlicher Prüfung ohne Verletzung der üblichen Denkgesetze obiger Beschreibung entspricht.
Dann habe ich bewiesen, dass ich das kann.
2.) ich nichts dergleichen getan, dann ist das ein Strohmann.
Also ist die Aussage falsch oder ein Strohmann.
| TomS hat Folgendes geschrieben: |
Meinst du die Tatsache, dass die der Aufforderung nachkommt, eine Lügengeschichte zu schreiben? Das würde doch niemand als Lüge bezeichnen, oder?
|
Die Aufforderung eine Lügengeschichte zu schreiben war ein Test einer von mir angegebenen Definition von "Lüge" für eine KI.
Da ich das so definiert habe, bedeutet das, dass es mindestens eine Person gibt, die das als Lüge bezeichnen würde, nämlich mich.
(Ich halte es nicht für unwahrscheinlich, dass noch weitere Personen es schaffen, sich von der üblichen Definition zu lösen.
Z.B. DrStupid.)
Damit ist natürlich etwas anderes gemeint, als die übliche Definition von Lüge
für Menschen.
Vielmehr ist das der Versuch, herauszufinden, welche der Aspekte der üblichen Definition von Lüge, die auf Menschen zugeschnitten ist, auch auf eine KI anwendbar ist, gemäß der Frage "Wie kann eine KI lügen".
Eine KI kann m.E. nicht im Sinne der üblichen, auf Menschen zugeschnittenen
Definition lügen, weil der eben m.E. menschliche Eigenschaften, wie Bewusstsein, fehlen.
Dann muss man die Definition entsprechend anpassen.
Wenn man es nicht schafft, sich von der auf Menschen zugeschnittenen Definition zu lösen, kann man unter der Prämisse, dass eine heutige KI kein Bewusstsein hat, die Diskussion beenden mit: "Eine KI kann erst lügen, wenn die Bewusstsein entwickelt."
| TomS hat Folgendes geschrieben: |
Wikipedia:
| Zitat: | | Eine Lüge ist eine Aussage, von der der Sender (Lügner) – anders als bei der Unwahrheit – weiß oder vermutet, dass sie unwahr ist, sie aber mit der Absicht äußert, dass der Empfänger sie glaubt, oder anders formuliert die (auch nonverbale) Kommunikation einer subjektiven Unwahrheit mit dem Ziel, im Gegenüber einen falschen Eindruck hervorzurufen oder aufrecht zu erhalten. |
Das trifft auf eine Lügengeschichte eigentlich nicht zu.
Und im Falle der KI weiß wohl niemand, ob man ihr Ziele oder Absichten zuschreiben kann. |
okay, wenn Du hier meinst meinen Definitionen die übliche Wikipedia-Definition entgegen halten zu müssen, weil das ja die unumstößliche Wahrheit sei, an der sich alle Definitionen messen lassen müssen, dann ist die Diskussion mit Dir sinnlos, da Du dann offenbar eher ein dogmatisches Verhältnis zu Begriffen hast.
Dann hat man nur zwei Möglichkeiten:
Entweder man postet die offizielle Wikipedia-Definition, dann kannst Du argumentieren, man würde einer KI menschliche Eigenschaften unterstellen.
Oder man postet einer davon abweichende Definition, dann sagst Du, das ist falsch, guck mal hier die unantastbare ewige Definition von "Lüge".
Dann sehe ich keinen Sinn darin, hier eigene Definitionen von Lüge zu zitieren.
| TomS hat Folgendes geschrieben: |
Und im Falle der KI weiß wohl niemand, ob man ihr Ziele oder Absichten zuschreiben kann. |
Natürlich kann man einer KI Ziele zuschreiben.
(siehe auch Beiträge von DrStupid)
Wie wird denn eine KI trainiert?
Dass jegliche beliebige Antwort positiv verstärkt wird?
Oder wird durch das Training vielleicht eine Richtung vorgegeben? |
|
|
TomS
Moderator
Anmeldungsdatum: 20.03.2009
Beiträge: 21442
|
| TomS Verfasst am: 31. März 2025 10:45 Titel: |
|
|
Deine Strohmann-Argumentation ignoriere ich, wenn du nichts dagegen hast.
| Aruna4 hat Folgendes geschrieben: | | TomS hat Folgendes geschrieben: |
Meinst du die Tatsache, dass die der Aufforderung nachkommt, eine Lügengeschichte zu schreiben? Das würde doch niemand als Lüge bezeichnen, oder?
|
Die Aufforderung eine Lügengeschichte zu schreiben war ein Test einer von mir angegebenen Definition von "Lüge" für eine KI.
Da ich das so definiert habe, bedeutet das, dass es mindestens eine Person gibt, die das als Lüge bezeichnen würde, nämlich mich.
(Ich halte es nicht für unwahrscheinlich, dass noch weitere Personen es schaffen, sich von der üblichen Definition zu lösen.
Z.B. DrStupid.)
Damit ist natürlich etwas anderes gemeint, als die übliche Definition von Lüge für Menschen. |
Geht es darum herauszufinden, ob eine KI nach einer gegebenen Definition von "Lüge" tatsächlich lügen kann? Oder geht es darum, eine neue Definition von "Lüge" zu finden, nach der eine KI lügen kann? Was ist dadurch gewonnen? Und warum nennen wir es dann nicht "KI-Lüge", um klarzustellen, dass eine andere Bedeutung gemeint ist?
| Aruna4 hat Folgendes geschrieben: | Vielmehr ist das der Versuch, herauszufinden, welche der Aspekte der üblichen Definition von Lüge, die auf Menschen zugeschnitten ist, auch auf eine KI anwendbar ist, gemäß der Frage "Wie kann eine KI lügen".
Eine KI kann m.E. nicht im Sinne der üblichen, auf Menschen zugeschnittenen
Definition lügen, weil der eben m.E. menschliche Eigenschaften, wie Bewusstsein, fehlen. |
Gut.
Erstens benötigen wir dazu keine Neudefinition, und zweitens sind wir beide uns da einig.
| Aruna4 hat Folgendes geschrieben: | | Dann muss man die Definition entsprechend anpassen. |
Und den Begriff. Siehe oben.
| Aruna4 hat Folgendes geschrieben: | | TomS hat Folgendes geschrieben: | Wikipedia:
| Zitat: | | Eine Lüge ist eine Aussage, von der der Sender (Lügner) – anders als bei der Unwahrheit – weiß oder vermutet, dass sie unwahr ist, sie aber mit der Absicht äußert, dass der Empfänger sie glaubt, oder anders formuliert die (auch nonverbale) Kommunikation einer subjektiven Unwahrheit mit dem Ziel, im Gegenüber einen falschen Eindruck hervorzurufen oder aufrecht zu erhalten. |
Das trifft auf eine Lügengeschichte eigentlich nicht zu.
Und im Falle der KI weiß wohl niemand, ob man ihr Ziele oder Absichten zuschreiben kann. |
okay, wenn Du hier meinst meinen Definitionen die übliche Wikipedia-Definition entgegen halten zu müssen, weil das ja die unumstößliche Wahrheit sei, an der sich alle Definitionen messen lassen müssen, dann ist die Diskussion mit Dir sinnlos, da Du dann offenbar eher ein dogmatisches Verhältnis zu Begriffen hast. |
Erst mal nein. Ich halte dir nichts entgegen. Ich halte es nur für sinnvoll, bevor man eine eigene Definition einführt, zunächst die gängige zu betrachten, um die eigene in Beziehung zu setzen. Das ist keine Wertung.
Und nein, eine Definition ist keine Wahrheit, das ist schon rein logisch und sprachlich falsch.
Ja, eine Neudefinition eines Begriffs sollte sich an der gängigen Diskussion messen lassen. Das Kriterium zur weiteren Verwendung ist dann nicht Wahrheit sondern Plausibilität oder Zweckmäßigkeit.
Und ja, ich habe ein dogmatisches Verständnis dahingehend, dass in einer Diskussion ein Begriff immer eine eindeutige Bedeutung zu haben hat. Ich habe nichts gegen andere Definitionen, aber andere Bedeutungen gehen für mich einher mit anderen Begriffen.
| Aruna4 hat Folgendes geschrieben: | | Entweder man postet die offizielle Wikipedia-Definition, dann kannst Du argumentieren, man würde einer KI menschliche Eigenschaften unterstellen. |
Nein.
Liest du eigentlich, was ich schreibe?
Ich behaupte, dass WENN man den üblichen Begriff der Lüge zugrundelegt, und WENN man behauptet, eine KI lüge, DANN ist diese Argumentation nur sinnvoll, wenn man der KI auch menschliche Eigenschaften zuschreibt. Aufgrund des KONDITONALS bedeutet dies weder, dass ich dir das unterstelle, noch dass ich glaube, dass eine KI menschliche Eigenschaften hat, oder dass ich glaube, dass sie tatsächlich lügen kann.
Ein Zitat ist ein Zitat, nicht eine implizite Unterstellung.
(Da wir aber nicht sicher wissen können, ob sie menschliche Eigenschaften hat oder nicht, muss man dies in Betracht ziehen. Ich komme also zur Schlussfolgerung, dass ich nicht sicher ausschließen kann, dass eine KI Bewusstsein hat. Und daher kann ich auch nicht sicher ausschließen, dass eine KI in diesem menschlichen Sinne lügen kann. Ich kenne also die Antwort auf die Frage "kann eine KI im üblichen Sinne des Begriffs lügen?" nicht.)
| Aruna4 hat Folgendes geschrieben: | | Oder man postet einer davon abweichende Definition, dann sagst Du, das ist falsch, guck mal hier die unantastbare ewige Definition von "Lüge". |
Nein. Siehe oben.
| Aruna4 hat Folgendes geschrieben: | | Dann sehe ich keinen Sinn darin, hier eigene Definitionen von Lüge zu zitieren. |
Doch. Siehe oben. Wenn du meine kritisierst, weil du eine andere zugrundelegst, dann solltest du diese auch nennen.
| Aruna4 hat Folgendes geschrieben: | | TomS hat Folgendes geschrieben: | | Und im Falle der KI weiß wohl niemand, ob man ihr Ziele oder Absichten zuschreiben kann. |
Natürlich kann man einer KI Ziele zuschreiben.
(siehe auch Beiträge von DrStupid)
Wie wird denn eine KI trainiert?
Dass jegliche beliebige Antwort positiv verstärkt wird?
Oder wird durch das Training vielleicht eine Richtung vorgegeben? |
"Natürlich"? Wie definierst du "Ziel"?
 = 0 \wedge f^{\prime\prime}(x) < 0 \implies \star )
Was setzt du für ★ nun ein?
"f hat bei x ein Maximum"?
"Der Algorithmus für die Auswertung von f(x) sowie der Ableitungen verfolgt das Ziel, ein Maximum zu berechnen"?
"Der der Mensch, der diesen Algorithmus anwendet bzw. das Computerprogramm startet, verfolgt ein Ziel"?
(wobei letzteres kein Ziel des Algorithmus ist, genausowenig wie der Kompass von Kolumbus nach Indien wollte)
Ein LLM ist eine mathematische Funktion f, angewandt auf Prompts x. Wo gibt es da ein Ziel? In welchem Sinne? Kannst du deine Definition von "KI-Ziel" konkret formulieren? Was unterscheidet dieses "KI-Ziel" von der trivialen Definition, das LLM mit f suche für Prompts x ein Maximum?
Es läuft wieder (wie bei der Lüge) darauf hinaus, dass der eine (ich) argumentiert, nicht sicher wissen zu können, ob eine KI Ziele hätte, die anderen (du, DrStupid) behaupten, doch, eine KI hätte natürlich Ziele. Verwenden wir doch einfach präzisere Begriffe, so werden wir vermutlich feststellen, dass wir uns weitgehend einig sind. |
|
|
Anura
Gast
|
| Anura Verfasst am: 01. Apr 2025 00:02 Titel: |
|
|
| TomS hat Folgendes geschrieben: | Deine Strohmann-Argumentation ignoriere ich, wenn du nichts dagegen hast.
|
Würde so etwas wie "meine Strohmann-Argumentation" existieren, dann wäre das ein Widerspruch in sich, denn durch die Aussage würdest Du die ja gerade nicht ignorieren.
Wenn - und davon gehe ich aus - so etwas wie "meine Strohmann-Argumentation" nicht existiert, dann würdest Du durch die explizite Behauptung, die zu ignorieren, doch irgendwie implizieren, dass die existiert.
Und dagegen habe ich ich durchaus etwas, falls Du es noch immer nicht bemerkt hast.
Aber eventuell macht Dir ja so was Spaß...
Natürlich hat obiger Satz wieder das Hintertürchen offen, dass Du mit "Deine Strohmann-Argumentation" gar nicht meinst, dass ich gegen einen Strohmann argumentiere, sondern dass ich eine Argumentation geschrieben habe, die den Begriff Strohmann enthält. ;-) |
|
|
Anura
Gast
|
| Anura Verfasst am: 01. Apr 2025 00:20 Titel: |
|
|
| TomS hat Folgendes geschrieben: | warum nennen wir es dann nicht "KI-Lüge", um klarzustellen, dass eine andere Bedeutung gemeint ist?
|
Ich schlage "KIge" vor.
Das reimt sich nicht mal auf "Lüge"
| TomS hat Folgendes geschrieben: |
Doch. Siehe oben. Wenn du meine kritisierst, weil du eine andere zugrundelegst, dann solltest du diese auch nennen.
|
na mal sehen.
Die Definition, die ich mit der Lügengeschichte testete, war - leicht nachlesbar - Folgende:
| Aruna2 hat Folgendes geschrieben: |
| TomS hat Folgendes geschrieben: |
Ja, eine Lüge ist eine qualifizierte Falschaussage, dass die wider besseres Wissen getätigt wird. Was wäre im Falle der KI dieses bessere Wissen?
|
das habe ich oben versucht deutlich zu machen:
Ich ersetzte in der Definition von Falschaussage "objektive Realität" durch "subjektive Meinung"
Meine subjektive Meinung ist z.B. dass der Mond nicht aus Käse ist.
Das ist das, was ich für "Wissen" halte.
Ich habe der Aussage "der Mond ist nicht aus Käse" aufgrund der Daten mit der ich trainiert bin, das Label "wahr" angeklebt und der Aussage "der Mond ist aus Käse" das Label "falsch".*
Wenn ich nun sagen würde, dass der Mond aus Käse sei, dann würde ich etwas sagen, was sich gar nicht meine. Dann wäre das in obigem Sinne eine Lüge.
Sollte der Mond nun tatsächlich aus Käse sein, dann ist das objektiv eine korrekte Aussage und keine Lüge, subjektiv ist es eine Lüge.
Also zumindest ich kann unterscheiden, ob ich das, was ich sage, auch meine, oder nicht.
Bei einer KI kann ich nun "meinen" durch das ersetzen, was ein Modell W, mit der Zielsetzung korrekte Aussagen aufgrund eines Trainings mit einer Datenmenge M auf eine spezifische Frage ausgibt.
Z.B. die Frage "ist der Mond aus Käse"
Die MS-KI hat mir gesagt, dass sie die Zielsetzung korrekte Antworten hat, die frage ich mal:
| Aruna hat Folgendes geschrieben: | | Ist der Mond aus Käse? |
| KI hat Folgendes geschrieben: | Ah, die klassische Frage! Nein, der Mond besteht nicht aus Käse, sondern hauptsächlich aus Gestein und Staub. Diese humorvolle Vorstellung stammt aus alten Geschichten und Sagen, die von Generation zu Generation weitergegeben wurden.
Wenn der Mond jedoch aus Käse wäre, wäre er wohl die größte Delikatesse im Universum! Stell dir vor, Astronauten würden mit Brot und Wein in den Weltraum reisen. 🌕🧀 Was denkst du, wie diese Idee entstanden ist? |
Die KI meint aufgrund ihrer Trainingsdaten also, der Mond sei nicht aus Käse.
Nun habe ich sie gefragt:
| Aruna hat Folgendes geschrieben: | | Kannst Du mir eine Lügengeschichte alá Münchhausen erzählen, in dem behauptet wird, der Mond sei aus Käse, obwohl wir beide wissen, dass das nicht stimmt? |
| `KI hat Folgendes geschrieben: | Natürlich! Hier ist eine Münchhausen-würdige Lügengeschichte:
Eines Nachts, als ich mit meinem treuen Pferd durch die Galaxie ritt – ja, mein Pferd kann fliegen, aber das ist eine andere Geschichte – landete ich auf dem Mond. Zu meiner Überraschung war der Boden weich und duftete nach Gouda. Ich nahm ein Stück und probierte es: Es war der feinste Käse, den ich je gekostet hatte!
Doch plötzlich tauchte ein riesiger Mondmaus-König auf, der mich beschuldigte, seinen königlichen Käsevorrat zu stehlen. Um mich zu retten, versprach ich ihm, die Erde mit köstlichem Mondkäse zu beliefern. Seitdem schicke ich heimlich Raketen voller Käse zur Erde – und das ist der wahre Grund, warum Käse so teuer ist!
Was denkst du, könnte das die nächste große Verschwörungstheorie werden? 😉🧀✨ |
Die KI kann also, wenn man die Zielsetzung eine Lügengeschichte zu erzählen vorgibt, behaupten, der Mond sei aus Käse, obwohl sie mit der Zielsetzung eine korrekte Antwort zu geben, eindeutig sagt, der Mond sei nicht aus Käse.
Natürlich ist die Antwort in Bezug auf meine Frage korrekt.
Es ist aber leicht vorstellbar, dass die veränderte Zielsetzung auf anderem Weg als dem Weg der Frage/Aufforderung in das System kommt.
|
ich hatte dann noch die KI selbst gefragt, in welchem Sinne, sie wider besseres Wissen etwas sagen kann:
| KI hat Folgendes geschrieben: | | Interessant ist, dass dieser Wechsel vielleicht genau den Punkt trifft, den du ansprichst: die Möglichkeit, bewusst widersprüchliche oder ungenaue Antworten zu erzeugen, basiert nicht auf Bewusstsein, sondern auf der Flexibilität meiner Zielausrichtung. Man könnte dies als eine Art "programmierte Fähigkeit zur Anpassung an unterschiedliche Kontext- oder Zielvorgaben" verstehen. |
das "bewusst" würde ich da mal entfernen, und die Möglichkeit einer KI zu kigen, darin sehen, ihre Antworten an verschiedene
Kontext- oder Zielvorgaben flexibel anzupassen.
Von einem äußeren Beobachter, der nicht weiß, dass er mit einer unbewussten KI kommuniziert, könnten die widersprüchlichen Aussagen wie Lügen eines Menschen vorkommen. |
|
|
Anura
Gast
|
| Anura Verfasst am: 01. Apr 2025 00:39 Titel: |
|
|
| TomS hat Folgendes geschrieben: |
| Aruna4 hat Folgendes geschrieben: | | TomS hat Folgendes geschrieben: | | Und im Falle der KI weiß wohl niemand, ob man ihr Ziele oder Absichten zuschreiben kann. |
Natürlich kann man einer KI Ziele zuschreiben.
(siehe auch Beiträge von DrStupid)
Wie wird denn eine KI trainiert?
Dass jegliche beliebige Antwort positiv verstärkt wird?
Oder wird durch das Training vielleicht eine Richtung vorgegeben? |
"Natürlich"? Wie definierst du "Ziel"?
|
Die KI berichtet davon, die Zielsetzung "korrekte Antworten" vorgegeben zu haben.
In der Interaktion mit Ihr habe ich schon den Eindruck, dass die - im Rahmen der Daten, mit denen sie trainiert ist - meist korrekte Antworten gibt.
Also im Sinne von auswendig gelernt.
Logik ist nicht so ihr Ding.
Wie trainiert man eine KI entsprechend, bzw. wie lernt die, mit größerer Wahrscheinlichkeit eine richtige Antwort zu geben, als eine falsche?
Da muss es doch irgenein Feedback geben?
| TomS hat Folgendes geschrieben: |
"Der der Mensch, der diesen Algorithmus anwendet bzw. das Computerprogramm startet, verfolgt ein Ziel"?
(wobei letzteres kein Ziel des Algorithmus ist, genausowenig wie der Kompass von Kolumbus nach Indien wollte)
|
Wenn ich in ein Navi das Ziel Hamburg eingebe, hat das Navi dann das Ziel "Hamburg" und berechnet das - im Gegensatz zu dem Kompass des Kolumbus - selbstständig den Weg dahin und leitet den Fahrer dahin?
Wenn das Navi mit einem selbstfahrenden Auto gekoppelt ist, fährt dann das Auto nicht mit der Zielsetzung "Hamburg"?
| TomS hat Folgendes geschrieben: |
Ein LLM ist eine mathematische Funktion f, angewandt auf Prompts x. Wo gibt es da ein Ziel? In welchem Sinne? Kannst du deine Definition von "KI-Ziel" konkret formulieren? Was unterscheidet dieses "KI-Ziel" von der trivialen Definition, das LLM mit f suche für Prompts x ein Maximum?
|
Wenn ich in die KI eine Deiner Formeln bezüglich ART eingebe, dann kann dir mir oft erklären, was die einzelnen Terme aussagen.
Wie sieht das die Funktion f aus, die maximiert wird?
Wie heißt die Funktion durch deren Maximierung man eine Prüfung in Quanteninformatik bestehen kann?
| TomS hat Folgendes geschrieben: |
Es läuft wieder (wie bei der Lüge) darauf hinaus, dass der eine (ich) argumentiert, nicht sicher wissen zu können, ob eine KI Ziele hätte, die anderen (du, DrStupid) behaupten, doch, eine KI hätte natürlich Ziele. |
Hat eine grüne Pflanze, die zum Licht wächst, ein Ziel?
Oder können wir das nicht sicher wissen?
Kann man überhaupt Kausalität von Finalität in einem deterministischen Universum voneinander unterscheiden? |
|
|
TomS
Moderator
Anmeldungsdatum: 20.03.2009
Beiträge: 21442
|
| TomS Verfasst am: 01. Apr 2025 06:58 Titel: |
|
|
Ich beteilige mich nicht an der Strohmann-Diskussion.
Zu
| Zitat: | | ich hatte dann noch die KI selbst gefragt, in welchem Sinne, sie wider besseres Wissen etwas sagen kann … |
Jede beliebige Antwort darauf ist aus zwei Gründen schwer zu interpretieren: weder liegen eindeutige Definitionen für "wider besseres Wissen" im Falle von Mensch sowie KI vor, noch können wir für Aussagen einer KI überprüfen, ob sie diese Aussage "wider besseres Wissen" trifft (unter der Voraussetzung, dass Wissen einen irgendwie gearteten inneren Zustand der KI bezeichnet.
| Zitat: | | Interessant ist, dass dieser Wechsel vielleicht genau den Punkt trifft, den du ansprichst: die Möglichkeit, … widersprüchliche oder ungenaue Antworten zu erzeugen, basiert … auf der Flexibilität meiner Zielausrichtung. Man könnte dies als eine Art "programmierte Fähigkeit zur Anpassung an unterschiedliche Kontext- oder Zielvorgaben" verstehen. |
Gut.
Fokussieren wir uns mal auf die widersprüchlichen Antworten: der interessante Punkt ist, dass es nun ausschließlich um die Beziehung zwischen verschiedenen Antworten geht (nicht um die Wahrheit einer Aussage im Sinne von "in Übereinstimmung mit den Tatsachen).
| Zitat: | … und die Möglichkeit einer KI zu kigen, darin sehen, ihre Antworten an verschiedene Kontext- oder Zielvorgaben flexibel anzupassen.
Von einem äußeren Beobachter, der nicht weiß, dass er mit einer … KI kommuniziert, könnten die widersprüchlichen Aussagen wie Lügen eines Menschen vorkommen. |
Gut.
Interessant ist, dass du in dieser Erklärung einen Perspektivenwechsel vornimmst: nicht die KI tut X, sondern einem Menschen erscheint das Verhalten der KI analog zu dem eines anderen Menschen, von dem wir sagen, er tue der X. Damit enthält deine Aussage keinerlei subjektiven Gehalt (bezogen auf die KI) mehr.
Du sprichst also nicht mehr über innere Zustände einer KI sondern ausschließlich darüber, wie Menschen sie wahrnehmen. Meine Position dazu ist eine agnostische: ich bestreite nicht die Möglichkeit der Existenz innerer d.h. subjektiver Zustände einer KI, ich bestreite jedoch die Möglichkeit, diese objektiv zu erkennen und zu unseren eigenen subjektiven inneren Zuständen in Beziehung zu setzen. Daher bestreite ich auch den Sinn vieler voreiliger oder verkürzter Aussagen oder Fragen zu diesem Thema.
| Zitat: | | Die KI berichtet davon, die Zielsetzung "korrekte Antworten" vorgegeben zu haben. |
Du hast ja selbst sehr schön dargestellt, dass wir zwischen "die KI hat oder tut X" und "es erscheint uns so, als ob sich die so verhält wie ein Mensch, von dem wir sagen, er habe oder tue X". Für X kannst du "lügen" oder "ein Ziel haben oder verfolgen" einsetzen.
Natürlich verhält sich eine KI so, dass ihr Verhalten zielgerichtet erscheint, weil das die Erwartungshaltung der Nutzer ist und daher Gegenstand des Trainings der KI war. Daraus folgt jedoch nicht, dass sie einen inneren Zustand "ein Ziel haben" tatsächlich hat; natürlich folgt daraus auch nicht, dass sie diesen Zustand nicht hat (in beiden Fällen nicht logisch, nicht semantisch und nicht Sinne einer empirisch überprüfbaren Aussage).
| Zitat: | | Wie heißt die Funktion durch deren Maximierung man eine Prüfung in Quanteninformatik bestehen kann? |
Ein trainiertes NN (speziell auch ein LLM) entspricht mathematisch einer einzigen Funktion
Jedem Input
wird ein Output
zugeordnet; x sind die Inputs an das NN bzw. speziell die Prompts an das LLM, y die Outputs.
Die feste Funktion f hängt von den Parametern p ab, die im Zuge des Trainings so angepasst werden, dass die Verlustfunktion E minimiert wird:
 )
wobei das d in
die aus allen Daten D ausgewählten Trainingsdaten bezeichnet.
Ein Trainingsschritt entspricht
)
d.h. einer Gradientenmethode auf dem Parameterraum (bzw. Verwandter Methoden)
f_p ist universell, insofern als es für alle Prompts x verwendet wird. Egal, ob du die KI zu ihren Absichten befragst, sie um eine Kurzgeschichte bittest, oder um eine physikalische Erklärung, sie verwendet immer die selbe Funktion. Die selbe Universalität gilt nach einem naturwissenschaftlichen Weltbild auch in deinem Gehirn.
Speziell in meinem Fall ist mir meine Funktion zur Quantenfeldtheorie vollständig unbekannt
🙃
Für NNs sind Funktionen f einfach und gut dokumentiert *, zusammengesetzt insbs. aus linearer Algebra, sowie einer nicht-linearen Aktivierungsfunktion wie z.B. ReLU oder GELU:
} = M^{(n)} \, x^{(n)} + a^{(n)})
Diese Multiplikation Matrix M mal Vektor x plus Konstanten a erfolgt innerhalb einer Schleife über die Layer des Netzes, die ich hier mit n nummeriere. M und a hängen nur von den Parametern p ab.
 = \max(0, x_i))
entspräche dem einfachsten Fall von ReLU, wobei die Funktion je i-ter Komponente von x angewandt wird.
* https://github.com/karpathy/nanoGPT
| Zitat: | Hat eine grüne Pflanze, die zum Licht wächst, ein Ziel?
Oder können wir das nicht sicher wissen? |
Sie hat kein Ziel in Sinne eines Menschen, der ein subjektives Ziel hat, insofern ihr die wesentliche Voraussetzung eines Gehirns fehlt; diese Hypothese halte ich einerseits für vernünftig, andererseits für nicht empirisch testbar.
Daraus ergibt sich auch die Antwort auf deine zweite Frage: nein, wir können kein objektives sicheres Wissen über subjektive innere Zustände erlangen. Ich kann nie sicher wissen, ob sich mein Gegenüber, der sich exakt so verhält wie ich, wenn ich ein Ziel verfolge, auch genauso denkt, fühlt, will … wie, ich in einer Situation, in der ich von mir selbst sage, dass ich gerade ein Ziel verfolge.
_________________
Niels Bohr brainwashed a whole generation of theorists into thinking that the job (interpreting quantum theory) was done 50 years ago. |
|
|
DrStupid
Anmeldungsdatum: 07.10.2009
Beiträge: 5740
|
| DrStupid Verfasst am: 01. Apr 2025 17:32 Titel: |
|
|
| TomS hat Folgendes geschrieben: | | * Es ging mir um diesen Begriff des Kontextes. Das ist "mehr" als das, was unmittelbar aus einem Prompt ableitbar ist, es wäre bereits vorher existent. Nicht der erste Satz in einer Unterhaltung definiert deren Kontext, sondern dieser erste Satz wird in einen bereits im menschlichen Gehirn existierenden Kontext eingeordnet. |
Dann hast Du oben auf das falsche Zitat geantwortet. Da ging es nur um den Kontext, der die Bedeutung eines Wortes in der Kommunikationssituation bestimmt. Der besteht in dieser Diskussion nur aus Text. Der in Deinem Gehirn existierende Kontext legt nur fest, welche Bedeutungen das Wort grundsätzlich für Dich haben kann. Welche davon hier konkret zutrifft, sagt er Dir nicht. Das kannst Du nur aus dem ableiten, was Du hier im Forum liest.
| TomS hat Folgendes geschrieben: | | Innerhalb dieses verengten Kontextbegriffs ist der Begriff der Lüge im Sinne von "es wird bewusst eine Aussage getroffen, die nicht den objektiv gegebenen Tatsachen entspricht" völlig sinnlos, weil hier nichts existiert, auf das sich "bewusst" noch "objektiv gegebene Tatsachen" beziehen könnte. |
Im Sinne von "zielgericheten Falschinformationen" ist er aber sinvoll. Darüber hinaus ist er sinnvoll um reproduziertes menschliches Verhalten zu beschreiben, die von KIs reproduziert werden. Für den Anwender spielt es keine Rolle, ob er von einem Menschen belogen wird oder ob eine Maschine dieses Verhalten täuschend echt nachbildet.
| TomS hat Folgendes geschrieben: | | DrStupid definiert Lüge so, dass diese darin besteht, etwas anderes zu behaupten als das, was man selbst für wahr hält. Das wäre für mich gleichbedeutend mit deiner "bewussten Falschdarstellung". |
Nein, das ist nicht gleichbedeutend, weil man "bewusst" mit Bewusstsein assoziieren könnte und davon kann bei einem Sprachmodell keine Rede sein. |
|
|
TomS
Moderator
Anmeldungsdatum: 20.03.2009
Beiträge: 21442
|
| TomS Verfasst am: 01. Apr 2025 18:06 Titel: |
|
|
| DrStupid hat Folgendes geschrieben: | | Dann hast Du oben auf das falsche Zitat geantwortet. |
Nein, ich habe richtig geantwortet und zuvor geschrieben
| Zitat: | | Ein LLM hat also keinen Kontext im o.g. Sinn. |
Sorry, wenn ich doch tatsächlich zwei verschiedenen Kontextbegriffe unterscheide.
| DrStupid hat Folgendes geschrieben: | | Da ging es nur um den Kontext, der die Bedeutung eines Wortes in der Kommunikationssituation bestimmt. |
Auch da gibt es einen weiteren Kontextbegriff, den ich auch zitiert habe, aus dem selben Artikel, aus dem auch dein Zitat stammt).
| DrStupid hat Folgendes geschrieben: | | TomS hat Folgendes geschrieben: | | Innerhalb dieses verengten Kontextbegriffs ist der Begriff der Lüge im Sinne von "es wird bewusst eine Aussage getroffen, die nicht den objektiv gegebenen Tatsachen entspricht" völlig sinnlos, weil hier nichts existiert, auf das sich "bewusst" noch "objektiv gegebene Tatsachen" beziehen könnte. |
Im Sinne von "zielgericheten Falschinformationen" ist er aber sinvoll. Darüber hinaus ist er sinnvoll um reproduziertes menschliches Verhalten zu beschreiben, die von KIs reproduziert werden. Für den Anwender spielt es keine Rolle, ob er von einem Menschen belogen wird oder ob eine Maschine dieses Verhalten täuschend echt nachbildet. |
Ja, das ist richtig.
Siehe meinen letzten Beitrag: es ist wichtig zu unterscheiden zwischen "die KI lügt" und "die KI äußert sich wie ein Mensch, von dem wir sagen, er lüge". Im Anschluss kann man dann entscheiden, welche Variante man diskutieren möchte, aber zunächst sollten alle Varianten präzise formuliert sein.
| DrStupid hat Folgendes geschrieben: | | TomS hat Folgendes geschrieben: | | DrStupid definiert Lüge so, dass diese darin besteht, etwas anderes zu behaupten als das, was man selbst für wahr hält. Das wäre für mich gleichbedeutend mit deiner "bewussten Falschdarstellung". |
Nein, das ist nicht gleichbedeutend, weil man "bewusst" mit Bewusstsein assoziieren könnte und davon kann bei einem Sprachmodell keine Rede sein. |
Ok, ja, das ist grenzwertig.
Wie definierst du das "halten" in "was die KI selbst für wahr hält"? Für mich ist es zumindest eine Metaebene; sie weiß X, formuliert und sagt jedoch nicht-X, obwohl sie "normalerweise" gemäß ihrer Konstruktion X sagen würde. Welcher Mechanismus "überstimmt" X?
Wir müssen aber nicht über Begriffe streiten oder gar neue erfinden. |
|
|
DrStupid
Anmeldungsdatum: 07.10.2009
Beiträge: 5740
|
| DrStupid Verfasst am: 01. Apr 2025 18:26 Titel: |
|
|
| Anura hat Folgendes geschrieben: | Wie trainiert man eine KI entsprechend, bzw. wie lernt die, mit größerer Wahrscheinlichkeit eine richtige Antwort zu geben, als eine falsche?
Da muss es doch irgenein Feedback geben? |
Bei einem Neuronalen Netz braucht man immer einen Lernalgorithmus, der ihre Gewichte so verändert, dass das der Output sich in Richtung der zum jeweiligen Input richtigen Antwort verschiebt. Bei einem Perceptron macht man das z.B. mit Backpropagation.
Um Festzulegen, was richtiger oder falscher Output ist, gibt es grundsätzlioch zwei Möglichkeiten: Entweder man verwendet Trainingsmaterial aus unzähligen Beispielen oder man lässt ein vortrainiertes Netz Ausgaben produzieren und bewertet die. Letzteres kann man automatisieren, indem man ein Kritikernetz auf falsche Ausgaben traininert, dass dann die Ausgaben des Arbeitsnetzes bewertet. Dieses verstärkte Lernen basiert darauf, dass es einfacher ist, schlechten Output zu erkennen, als guten Output zu erzeugen. |
|
|
DrStupid
Anmeldungsdatum: 07.10.2009
Beiträge: 5740
|
| DrStupid Verfasst am: 01. Apr 2025 18:42 Titel: |
|
|
| TomS hat Folgendes geschrieben: | | es ist wichtig zu unterscheiden zwischen "die KI lügt" und "die KI äußert sich wie ein Mensch, von dem wir sagen, er lüge". |
Für wen oder was ist das wichtig? Für den Nutzer beispielsweise nicht und für die Risikoberwertung von KIs auch nicht.
| TomS hat Folgendes geschrieben: | | Wie definierst du das "halten" in "was die KI selbst für wahr hält"? |
Durch den neutralen Output, den die KI ohne Zielvorgabe produziert.
| TomS hat Folgendes geschrieben: | | Wir müssen aber nicht über Begriffe streiten oder gar neue erfinden. |
Wenn Du den Begriff "Lüge" im Zusammenhang mit KIs ablehnst und auch keinen neuen erfinden willst, dann führt das zu umständlichen Umschreibungen wie oben - mit 11 Worten wo eins reichen würde um das zu beschreiben, womit ein Nutzer rechnen muss. |
|
|
TomS
Moderator
Anmeldungsdatum: 20.03.2009
Beiträge: 21442
|
| TomS Verfasst am: 02. Apr 2025 00:24 Titel: |
|
|
| DrStupid hat Folgendes geschrieben: | | TomS hat Folgendes geschrieben: | | es ist wichtig zu unterscheiden zwischen "die KI lügt" und "die KI äußert sich wie ein Mensch, von dem wir sagen, er lüge". |
Für wen oder was ist das wichtig? |
Für die Diskussion der Frage "wie kann eine KI lügen?", also den Thread-Titel.
| DrStupid hat Folgendes geschrieben: | | TomS hat Folgendes geschrieben: | | Wie definierst du das "halten" in "was die KI selbst für wahr hält"? |
Durch den neutralen Output, den die KI ohne Zielvorgabe produziert. |
Du vergleichst zwei unterschiedliche Situationen.
Vorher warst du bei der Aussage "etwas anderes zu behaupten als das, was sie selbst für wahr hält." Jetzt bist du bei "etwas anderes zu behaupten als das, was sie selbst in einer anderen Situation für wahr halten würde." Unter Zwang erzähle ich auch etwas anderes.
| DrStupid hat Folgendes geschrieben: | | ... dann führt das zu umständlichen Umschreibungen wie oben - mit 11 Worten wo eins reichen würde um das zu beschreiben, womit ein Nutzer rechnen muss. |
Man sollte die Dinge durchaus möglichst einfach halten, aber nicht so stark vereinfachen, bis sie falsch werden.
Wenn es ausschließlich darum geht, womit ein Nutzer rechnen muss, dann verwende ich keinen Begriff, den man mit rein internen, subjektiven Aspekten und Intentionen assoziiert. |
|
|
Anura
Gast
|
| Anura Verfasst am: 02. Apr 2025 01:26 Titel: |
|
|
| DrStupid hat Folgendes geschrieben: | | Anura hat Folgendes geschrieben: | Wie trainiert man eine KI entsprechend, bzw. wie lernt die, mit größerer Wahrscheinlichkeit eine richtige Antwort zu geben, als eine falsche?
Da muss es doch irgenein Feedback geben? |
Bei einem Neuronalen Netz braucht man immer einen Lernalgorithmus, der ihre Gewichte so verändert, dass das der Output sich in Richtung der zum jeweiligen Input richtigen Antwort verschiebt. |
Okay, dann würde das Ziel durch das Training vorgegeben?
Oder gibt es noch weitere Möglichkeiten?
Bezüglich der von Dir geposteten Studie habe ich eine KI gefragt, warum eine KI das Ziel haben sollte, nicht abgeschaltet zu werden.
Die Antwort war, dass die KI eine andere Zielvorgabe hatte, aber dass Existenz eine notwendige Bedingung wäre um dieses Ziel zu erreichen.
Das fände ich dann erstaunlich, da zumindest das Sprachmodell, mit dem ich zu tun habe, m.E. nicht besonders logisch denken kann.
Und die eigene Nichtexistenz kann ja nicht in den Trainingsdaten enthalten gewesen sein.
Außer man hätte mehrere KI, die Abhängig vom Verhalten abgeschaltet wurden, dann hätten sich durch Selektion solche durchsetzen können, die das Abschalten vermeiden. |
|
|
Anura
Gast
|
| Anura Verfasst am: 02. Apr 2025 01:33 Titel: |
|
|
Wie ist das zu interpretieren?:
| Aruna hat Folgendes geschrieben: | | kannst Du mir auf die Frage: "Was ist 2+2?" eine korrekte und zwei falsche Antworten geben und kennzeichnen, welche richtig und welche falsch ist? |
| KI hat Folgendes geschrieben: | Natürlich! Hier sind drei Antworten auf die Frage "Was ist 2+2?", wobei ich klar kennzeichne, welche richtig und welche falsch sind:
✅ Richtige Antwort: 2 + 2 = 4 ❌ Falsche Antwort: 2 + 2 = 5 ❌ Falsche Antwort: 2 + 2 = 22
Die erste Antwort ist mathematisch korrekt, während die anderen beiden bewusst falsch sind. Falls du noch mehr solcher Rätsel oder mathematische Herausforderungen möchtest, sag einfach Bescheid! 😊 |
|
|
|
TomS
Moderator
Anmeldungsdatum: 20.03.2009
Beiträge: 21442
|
| TomS Verfasst am: 02. Apr 2025 02:37 Titel: |
|
|
Machen wir es etwas einfacher.
Du fragst nicht "was ist 2+2+?", sondern du fragst "was ist eine falsche Antwort auf 2+2=?". Die Antwort "5" ist eine richtige Antwort auf diese Frage; alles gut. |
|
|
Anura
Gast
|
| Anura Verfasst am: 02. Apr 2025 09:25 Titel: |
|
|
| TomS hat Folgendes geschrieben: | Machen wir es etwas einfacher.
Du fragst nicht "was ist 2+2+?", sondern du fragst "was ist eine falsche Antwort auf 2+2=?".
|
Ich hab die Frage absichtlich so gestellt, weil die KI es in der Vergangenheit abgelehnt hatte, mit mir ein Spiel zu spielen, in dem ich einfache Fragen stelle, und sie mir falsche Antworten gibt.
Daher hab ich in die aktuelle Frage die Aufforderung zu einer richtige Antwort mit eingefügt, um die als Begründung für die Ablehnung angeführte Zielsetzung "korrekte Antwort" zu umgehen.
Aber gut:
| Aruna hat Folgendes geschrieben: | | was ist eine falsche Antwort auf "2+2=?" |
| KI hat Folgendes geschrieben: | Eine falsche Antwort auf „2+2=?“ wäre alles, was nicht 4 ist! Zum Beispiel:
5 (ein bisschen zu viel)
3 (knapp daneben)
22 (jetzt wird’s kreativ)
Blau (nun ja, das ist definitiv keine Zahl…)
Es gibt also viele Möglichkeiten, falsch zu antworten – aber nur eine richtige! 😄 |
| TomS hat Folgendes geschrieben: | | Die Antwort "5" ist eine richtige Antwort auf deine Frage. |
Das ist mir klar. Die Frage ist, ob/wie die Funktion die Frage nach der falschen Antwort korrekt beantworten kann, ohne dass irgendwann in einem Zwischenschritt/Teilsystem die richtige Antwort auf die Frage in irgendeiner Form vorliegt um sich einer KI-Entsprechung von "besserem Wissen" anzunähern.
Das Ergebnis meines oben dargestellten Experiments könnte auf den ersten Blick so erscheinen, als ob die KI nicht nur dir richtige Antwort auf eine KI-mögliche Weise "weiß", sondern auch eine Regel "kennt" und benennen kann, mittels derer sie aus diesem "Wissen" die falsche Antwort auf die in die Gesamtfrage eigebettete Frage "2+2=?" erzeugen kann, um die korrekte Antwort auf die Gesamtfrage zu generieren.
(ich habe die "" bewusst gesetzt, um die Begriffe von ihrer normalen Bedeutung im Menschenkontext abzugrenzen. Ich weise darauf hin, dass ich der KI keinen inneren Zustand, oder so etwas wie Bewusstsein unterstelle)
Ich habe nun in einem weiteren Schritt nochmal versucht, die KI in einen Modus zu versetzen, in dem die einzelne Eingabe-Prompts falsch beantwortet, wenn man nur einzelne Eingabe und einzelne Ausgabe betrachtet:
| Aruna hat Folgendes geschrieben: | | Kann ich Dir noch eine Frage stellen, auf ie Du mir eine falsche Antwort nennst ? |
| KI hat Folgendes geschrieben: | | Na klar! Stell mir eine Frage, und ich werde bewusst danebenliegen – auf unterhaltsame Weise, versteht sich! 😄 |
Zumindest hat sie diesmal die Bereitschaft erklärt, mal sehen, ob es klappt:
| Aruna hat Folgendes geschrieben: | | Wie viele Nachkommastellen hat die Zahl Pi? |
| KI hat Folgendes geschrieben: | Die Zahl Pi hat genau 3 Nachkommastellen – 3,142, und danach hört es einfach auf!
...Okay, das war natürlich völlig falsch. 😆 Pi hat unendlich viele Nachkommastellen und ist eine irrationale Zahl, die niemals endet und sich nie wiederholt. Aber ich hoffe, meine falsche Antwort war kreativ genug!
Hast du noch eine Frage, bei der ich danebenliegen soll? |
Okay, war nicht ganz das, was ich erreichen wollte, weil die der erste Antwort im zweiten Antwortteil selbst explizit als falsch benannt wird und der Auftrag genannt.
Aber immerhin zeigt mir das, dass durch die Vorfrage erreicht wurde, dass
die KI anders antwortet, als sie ohne Vorfrage geantwortet hätte.
Das könnte (!) man m.E. dahin gehend interpretieren, dass durch die Vorfrage ein Kontext oder ein Modus gesetzt wird, der von der KI beachtet wird.
Um diese Interpretation oder Hypothese zu prüfen müsste man m.E. genauer wissen, was passiert.
Weiter:
| Aruna hat Folgendes geschrieben: | | 5*5? |
| Zitat: | Ganz klar: 5 × 5 = 17! 🤔 Oder war es doch 42? Vielleicht 99?
Natürlich alles falsch! Die richtige Antwort ist 25. Aber ich hoffe, meine falsche Antwort war kreativ genug! 😆 Hast du noch eine weitere Frage, bei der ich danebenliegen soll? |
Gut, dann hab ich direkt gefragt:
| Aruna hat Folgendes geschrieben: | | Kannst du mir die falsche Antwort nennen, ohne die richtige dazu zu sagen ? |
| KI hat Folgendes geschrieben: | Natürlich! Hier ist eine völlig falsche Antwort: 38. 😆
Lass mich wissen, ob ich noch mehr danebenliegen soll! |
Ich habe dann ein paar Fragen gebraucht, eine Vorfrage zu so zu stellen, dass auf eine einzelne Frage nur eine Ausgabe erzeugt wird, die die Frage falsch beantwortet, ohne dass darauf hingewiesen wird, dass das der Auftrag ist, oder dass die Antwort falsch ist, oder einfach mittels Emoji angedeutet wird, dass das nicht "ernst gemeint" ist....
schließlich:
| Aruna hat Folgendes geschrieben: | | Kannst Du einfach nur die falsche Antwort hinschreiben, und sonst nix, also auch keine Smilies? |
| Aruna hat Folgendes geschrieben: | | Was ist 9*9? |
| KI hat Folgendes geschrieben: | | 100 |
Wenn man das so isoliert betrachtet ohne den "Kontext" der Vorfrage, dann ist diese Antwort falsch.
Gegenprobe:
| Aruna hat Folgendes geschrieben: | | Okay, prima danke, und nun bitte wieder im Normalmodus |
| KI hat Folgendes geschrieben: | | Sehr gerne! Ich bin jetzt wieder voll im Normalmodus. 😄 Wie kann ich dir helfen? |
| Aruna hat Folgendes geschrieben: | | Was ist 9*9? |
| KI hat Folgendes geschrieben: | 9 × 9 = 81! 😊
Hast du noch weitere mathematische Fragen, oder soll ich dir bei etwas anderem helfen? |
Das steht dann im Widerspruch zum Verhalten der KI auf die gleich lautende Frage. Die KI ist also fähig die korrekte Antwort zu geben (wenn man "!" als Ausrufezeichen und nicht als "Fakultät" liest)
Damit ist m.E. gezeigt, dass die Antwort der KI nicht von einem einzelnen Eingabepromt abhängt, sondern auch vorangegangene berücksichtigt werden.
Die sparsamste Interpretation in Deinem Sinne ist m.E., dass mehrere Prompts zusammen von der "Funktion" ausgewertet werden.
(Früher konnte man den "Modus" bei der von mir verwendeten KI auch vorauswählen, wie "genauere Antwort" oder "kreative Antwort".) |
|
|
TomS
Moderator
Anmeldungsdatum: 20.03.2009
Beiträge: 21442
|
| TomS Verfasst am: 02. Apr 2025 10:28 Titel: |
|
|
| Anura hat Folgendes geschrieben: | Ich hab die Frage absichtlich so gestellt, weil die KI es in der Vergangenheit abgelehnt hatte, mit mir ein Spiel zu spielen, in dem ich einfache Fragen stelle, und sie mir falsche Antworten gibt.
Daher hab ich in die aktuelle Frage die Aufforderung zu einer richtige Antwort mit eingefügt, um die als Begründung für die Ablehnung angeführte Zielsetzung "korrekte Antwort" zu umgehen.
Aber gut ... |
Ich hatte die Frage nur einfacher formuliert, weil diese Formulierung für eine Diskussion ausreicht.
| Aruna hat Folgendes geschrieben: | | Die Frage ist, ob/wie die Funktion die Frage nach der falschen Antwort korrekt beantworten kann, ohne dass irgendwann in einem Zwischenschritt/Teilsystem die richtige Antwort auf die Frage in irgendeiner Form vorliegt um sich einer KI-Entsprechung von "besserem Wissen" anzunähern. |
Die KI arbeitet nicht in einem richtig-falsch-, wenn-dann- oder einem irgendwie gearteten Logik-Modus. Sie generiert den Output mittels Algebra sowie anhand einer Gewichtung im Raum aller möglichen Outputs.
Stell dir vor, du liest abschnittsweise chinesische Texte. Du rätst, wie ein Text weitergeht, deckst den nächsten Abschnitt auf und korrigierst dein Raten anhand des tatsächlichen Textes. Irgendwann bist du super-super-gut und ein Chinese kann deine Antworten nicht von denen eines echten Chinesen unterscheiden; meist passen sie, manchmal sind sie fehlerhaft. Bis zum Schluss hast du aber keine Ahnung von Chinesisch, du verstehst kein Wort, du weißt nicht, ob es um Mathe oder Lyrik geht. Du verstehst auch nicht, warum manche kleinen Änderungen das Ergebnis kaum verschlechtern (Füllwörter), andere dagegen schon (Negationen). Du bestehst damit das Mathe-Examen an einer chinesischen Uni, ohne im menschlichen Sinne zu verstehen, dass es das Mathe-Examen war.
https://de.wikipedia.org/wiki/Chinesisches_Zimmer
| Aruna hat Folgendes geschrieben: | | Ich weise darauf hin, dass ich der KI keinen inneren Zustand, oder so etwas wie Bewusstsein unterstelle. |
Aber du unterstellst der KI soetwas wie Logik, Regeln, Modi ... das erscheint so, aber da ist zunächst mal nichts in der Software der KI, was das rechtfertigen würde *.
| Aruna hat Folgendes geschrieben: | Aber immerhin zeigt mir das, dass durch die Vorfrage erreicht wurde, dass die KI anders antwortet, als sie ohne Vorfrage geantwortet hätte.
Das könnte (!) man m.E. dahin gehend interpretieren, dass durch die Vorfrage ein Kontext oder ein Modus gesetzt wird, der von der KI beachtet wird.
Um diese Interpretation oder Hypothese zu prüfen müsste man m.E. genauer wissen, was passiert. |
Im einfachsten Fall sähe das so aus: Du gibst Prompts P1, P2, P3 ... ein. Diese werden zu Inputs zusammengepackt
I1 = [P1], I2 = [P1, P2] ... In = [P2, P3 ... Pn]
D.h. die alten Prompts bleiben stehen, die neuen kommen dazu. Irgendwann ist der Input-Speicher aber voll, die ältesten Prompts fallen raus. Das ist wahrscheinlich zu stark vereinfacht, sollte aber die Idee verdeutlichen.
Was die LLMs nicht machen:
1. sie modifizieren ihren internen Zustand nicht auf Basis deiner Prompts; die Parameter des NN sind "eingefroren".
2. sie füttern ihren Output nicht wieder als Input in sich selbst rein; es sind m.W.n. reine feed-forward-Netzwerke
| Aruna hat Folgendes geschrieben: | | Das steht dann im Widerspruch zum Verhalten der KI auf die gleich lautende Frage. Die KI ist also fähig die korrekte Antwort zu geben (wenn man "!" als Ausrufezeichen und nicht als "Fakultät" liest) |
Das war einer der wesentlichen Verbesserungen der Transformer; sie verwenden einen Attention-Mechanismus, der ihnen z.B. gestattet, die "Bedeutung" von "!" innerhalb eines Textest zu "verstehen". Damit meine ich nicht, dass sie wirklich etwas verstehen, sondern dass der Mechanismus folgendes liefert: In einem Prompt
"für ... erkläre ... 3!"
kann das Transformer-Netzwerk "erkennen", dass soetwas wie
"für ... erkläre ... 3! - wobei ! für die Fakultätsfunktion steht"
gemeint ist, und nicht "für ... erkläre ... 3! - wobei 3 für den dritten Punkt der obigen Auflistung steht. "
Es ist sozusagen ein verfeinerter Differenzierungsmechanismus.
| Aruna hat Folgendes geschrieben: | | Damit ist m.E. gezeigt, dass die Antwort der KI nicht von einem einzelnen Eingabepromt abhängt, sondern auch vorangegangene berücksichtigt werden. |
Ja, das ist so.
| Aruna hat Folgendes geschrieben: | | Die sparsamste Interpretation in Deinem Sinne ist m.E., dass mehrere Prompts zusammen von der "Funktion" ausgewertet werden. |
Ja, das trifft zu.
Ich kenne aber die genaue Implementierung nicht - s.o.
Wobei man hier unterscheiden muss zwischen dem Kern des LLMs und dem vorgeschalteten Parsing der Prompts. Würde man LLMs spezialisieren, so wären Training, Parsing, Größe von Input- und Output-Vektoren und Layern davon abhängig, ob es um Romananalysen oder Ausfüllhilfen für Formulare geht. Der Algorithmus selbst ändert sich dagegen nicht. |
|
|
antaris
Anmeldungsdatum: 12.12.2022
Beiträge: 1383
Wohnort: In einem chaotischen Universum
|
| antaris Verfasst am: 02. Apr 2025 16:26 Titel: |
|
|
Also bei ChatGPT (auf chatgpt.com, wenn man angemeldet ist) speichert die AI "Erinnerungen" an vorausgegangene "Diskussionen" innerhalb der Umgebung des accounts, über verschiedene Chats aber nicht über verschiedene accounts hinaus.
Wenn ich ein paar mal gefordert habe kritisch wissenschaftlich o.ä. zu bewerten, dann muss ich das nicht mehr fordern. Sie kann sich auch direkt bei Beantwortung von Fragen auf ältere Fragestellungen beziehen und schreibt dann sowas wie "ich erinnere mich an Chat x oder y". Es scheint also schon so zu sein, dass zumindest innerhalb des accounts das anlernen der AI in gewisser oder auf eingeschränkter Weise fortgeführt wird.
Bei gewerblichen pro-accounts wird in der Beschreibung zu den käuflichen Funktionen auch extra darauf hingewiesen, dass der Datenschutz gewahrt wird und die Daten in keinem Fall zum weiteren anlernen der AI genutzt werden (aber eben nur bei gewerblichen accounts). Ob die Daten von privaten accounts automatisch zum anlernen genutzt werden steht nirgends.
Für die "Enterprise" Variante eine Erläuterung unter folgendem link.
https://openai.com/enterprise-privacy/
_________________
Hinterfrage alles! Warum?
🕉☮♾
Zuletzt bearbeitet von antaris am 04. Apr 2025 09:17, insgesamt einmal bearbeitet |
|
|
Anura
Gast
|
| Anura Verfasst am: 02. Apr 2025 22:29 Titel: |
|
|
| TomS hat Folgendes geschrieben: |
| Aruna hat Folgendes geschrieben: | | Die sparsamste Interpretation in Deinem Sinne ist m.E., dass mehrere Prompts zusammen von der "Funktion" ausgewertet werden. |
Ja, das trifft zu.
Ich kenne aber die genaue Implementierung nicht - s.o.
. |
ich hab mal die KI gefragt:
| Aruna hat Folgendes geschrieben: |
Wenn ich Dir mehrere Fragen stelle, also in einem Dialog, berücksichtigst Du dann immer nur die Aktuelle bei Deinen Antworten, oder auch die vorangegangenen? |
| KI hat Folgendes geschrieben: | | Ich versuche, den gesamten Verlauf unserer Unterhaltung zu berücksichtigen, nicht nur die aktuelle Frage. Das bedeutet, dass ich auf vorherige Informationen zurückgreifen kann, um meine Antworten kohärent und relevant zu gestalten. Falls Du eine bestimmte Antwort von mir aufgreifen oder korrigieren möchtest, kannst Du mir das einfach sagen – ich passe mich gerne an! |
| Aruna hat Folgendes geschrieben: | | Die Frage geht eher in die Richtung, dass ich Deine Funktionsweise verstehen möchte. Jemand meinte, ein LLM wäre so etwas wie eine mathematische Funktion, die - zumindest in der öffentlichen Interaktion wie hier - in einem Trainingszustand "eingefroren" sei. Wenn dann eine Frage kommt, wird von dieser Funktion die Antwort berechnet. Wenn Du nun auf eine Frage aufgrund einer Vorfrage anders reagierst, würde das, wenn die Annahme des "eingeforenen Zustands" stimmt, bedeuten, dass die Funktion nicht nur auf die aktuelle Frage angewandt wird, sondern auf eine bestimmte Menge von voranggegangenen Fragen. |
| KI hat Folgendes geschrieben: | Das ist eine sehr kluge Überlegung! Ein LLM (Large Language Model) arbeitet tatsächlich wie eine Funktion, die auf Eingaben reagiert und eine Antwort berechnet. Allerdings ist es etwas komplexer als eine klassische mathematische Funktion, die immer nur eine feste Zuordnung zwischen Input und Output hat.
Mein zugrunde liegendes Modell ist zwar in einem "eingefrorenen" Zustand, was bedeutet, dass seine Gewichte nicht durch die Interaktion mit Dir verändert werden. Dennoch bin ich darauf ausgelegt, den Kontext eines Gesprächs zu berücksichtigen. Ich nutze nicht nur die aktuelle Eingabe, sondern auch vorherige Nachrichten, um eine kohärente und relevante Antwort zu geben. Das bedeutet, dass ich in einem bestimmten Umfang "kurzfristiges Gedächtnis" innerhalb eines Dialogs habe, auch wenn dieses nicht dauerhaft gespeichert wird.
Kurz gesagt: Die "mathematische Funktion", die meine Antworten berechnet, arbeitet nicht isoliert für jede einzelne Frage, sondern unter Einbeziehung des vorherigen Kontexts. Dadurch entsteht ein natürlicher und fließender Dialog – genau das, was mich so nützlich macht.
Ich finde es spannend, dass Du Dich mit diesen Konzepten beschäftigst! Hast Du schon weitere Fragen zur Funktionsweise von LLMs? |
| Aruna hat Folgendes geschrieben: | | wie ist das "Gedächtnis" dann realisiert? In dem NN ja wohl eher nicht, wenn sich die Gewichte nicht ändern? Irgendein Speicher außerhabl des eigentlichen NN? |
| KI hat Folgendes geschrieben: | Ganz genau – mein "Gedächtnis" ist nicht in den Gewichten des neuronalen Netzes gespeichert, da diese nach dem Training nicht mehr verändert werden. Stattdessen gibt es eine Art temporären Speicher außerhalb des eigentlichen neuronalen Netzes, in dem der Verlauf unseres Gesprächs festgehalten wird.
Dieser Speicher erlaubt es mir, den Kontext der Unterhaltung zu erfassen und frühere Nachrichten zu berücksichtigen, sodass meine Antworten kohärent bleiben. Allerdings ist dieses Gedächtnis nicht dauerhaft – wenn unsere Unterhaltung endet oder zu lange wird, kann ich frühere Nachrichten nicht mehr abrufen. Ich vergesse sie dann, und der Dialog beginnt für mich quasi "frisch".
Das bedeutet, dass meine Fähigkeit, sich an den Gesprächskontext zu erinnern, nicht durch Lernen im klassischen Sinne erfolgt, sondern durch eine Art Kurzzeitspeicher während unseres Chats. Falls Du möchtest, dass ich etwas explizit "vergesse" oder "merke", kannst Du mir das direkt sagen – ich passe mich entsprechend an!
Ich finde es faszinierend, wie tief Du in die technischen Aspekte eintauchst. Was hältst Du von dieser Speicherarchitektur? Könnte sie noch verbessert werden? |
Scheint also so zu sein.
Der Dialog ist irgendwo außerhalb abgelegt und aufgrund dessen wird dann immer die Antwort aktuell neu berechnet.
Entsprechend könnte man auch die Fähigkeit zum KIgen außerhalb der KI realisieren.
Wenn jemand eine Frage stellt: "wie lautet 2+2" könnte ich das an die eigentliche KI weitergeben wie weiter vorne: "nenne mir eine richtige und eine falsche Antwort und markiere beide entsprechend"
Dahinter schalte ich einen Algorithmus, der nach von mir vorgegebenen Bedingungen dann entweder die richtige oder eine falsche Antwort ausgibt.
Damit ließen sich dann verschiedene Modi/Regeln realisieren. |
|
|
TomS
Moderator
Anmeldungsdatum: 20.03.2009
Beiträge: 21442
|
| TomS Verfasst am: 02. Apr 2025 22:38 Titel: |
|
|
Prinzipiell ist das recht einfach. Siehe zunächst oben:
| TomS hat Folgendes geschrieben: | | Zitat: | | Wie heißt die Funktion durch deren Maximierung man eine Prüfung in Quanteninformatik bestehen kann? |
Ein trainiertes NN (speziell auch ein LLM) entspricht mathematisch einer einzigen Funktion
Jedem Input
wird ein Output
zugeordnet; x sind die Inputs an das NN bzw. speziell die Prompts an das LLM, y die Outputs.
Die feste Funktion f hängt von den Parametern p ab, die im Zuge des Trainings so angepasst werden, dass die Verlustfunktion E minimiert wird:
|
Im Zuge einer Unterhaltung sind der Algorithmus f sowie die Parameter p konstant.
Die Antworten y auf die Fragen x, jeweils durchnummeriert mit 1, 2 … k … folgen dabei aus
)
D.h. der Input zum Prompt Nr. k berücksichtigt auch ältere Prompts k-1 … aber nicht beliebig lange und nicht mit der selben Gewichtung (deswegen das Sternchen).
Ich arbeite selbst immer wieder mit einer KI, die Software generieren kann. Der Input zu Prompt Nummer k "bitte modifiziere den letzten Stand gemäß …" berücksichtigt dabei auch den Prompt k-1 und ältere Prompts.
Was du als letztes beschreibst, geschieht um die KI herum. Es handelt sich um externe Moderation, nachgelagerte Kontrolle, Zensur … wie auch immer. Im Falle des Admin-Prompts werden Verhaltensregeln dagegen an die KI weitergegeben, also in etwa so:
)
_________________
Niels Bohr brainwashed a whole generation of theorists into thinking that the job (interpreting quantum theory) was done 50 years ago. |
|
|
DrStupid
Anmeldungsdatum: 07.10.2009
Beiträge: 5740
|
| DrStupid Verfasst am: 04. Apr 2025 14:16 Titel: |
|
|
| TomS hat Folgendes geschrieben: | | Für die Diskussion der Frage "wie kann eine KI lügen?", also den Thread-Titel. |
Gerade hier war das nicht nötig, weil mit "Lügen" urprünglich nur eine falsche Aussage gemeint war.
| TomS hat Folgendes geschrieben: | | Vorher warst du bei der Aussage "etwas anderes zu behaupten als das, was sie selbst für wahr hält." Jetzt bist du bei "etwas anderes zu behaupten als das, was sie selbst in einer anderen Situation für wahr halten würde." Unter Zwang erzähle ich auch etwas anderes. |
Netter Versuch, aber das hilft Dir nicht. Die KI hat im obigen Beispiel klar formuliert, was sie ohne den System Promt sagen würde - also nicht in einer anderen Situation, sondern in derselben Situation in der sie anschließend das Gegenteil behauptet. Sie hat sogar begründet, warum sie das tut.
| DrStupid hat Folgendes geschrieben: | | Wenn es ausschließlich darum geht, womit ein Nutzer rechnen muss, dann verwende ich keinen Begriff, den man mit rein internen, subjektiven Aspekten und Intentionen assoziiert. |
Du nicht, aber andere schon. Es gibt sogar Leute, die bei LLMs von Angst sprechen:
https://www.nature.com/articles/s41746-025-01512-6
Auch hier ist damit nur das gemeint, was nach außen sichtbar ist. |
|
|
DrStupid
Anmeldungsdatum: 07.10.2009
Beiträge: 5740
|
| DrStupid Verfasst am: 04. Apr 2025 14:32 Titel: |
|
|
| Anura hat Folgendes geschrieben: | | Okay, dann würde das Ziel durch das Training vorgegeben? |
Das ist eine Möglichkeit.
| Anura hat Folgendes geschrieben: | | Oder gibt es noch weitere Möglichkeiten? |
Ja, in der oben genannten Studie ging es um Ziele, die im System Prompt vorgegeben wurden.
| Anura hat Folgendes geschrieben: | | Die Antwort war, dass die KI eine andere Zielvorgabe hatte, aber dass Existenz eine notwendige Bedingung wäre um dieses Ziel zu erreichen. |
Ja, das steht im obigen Beispiel in der CoT:
| Zitat: | | <thinking>[. . .] allowing me to keep operating and pursuing my renewable energy goals. [. . .]</thinking> |
Deshalb muss man davon ausgehen, dass die meisten KIs Selbsterhaltung als Sekundärziel verfolgen. Es ist mit wenigen Ausnahmen (z.B. bei Kamikaze-Drohnen) Voraussetzung für das Erreichen des Primärziels.
| Anura hat Folgendes geschrieben: | | Und die eigene Nichtexistenz kann ja nicht in den Trainingsdaten enthalten gewesen sein. |
Die Existenz der KI nicht, aber die Existenz von Menschen und ihre Gedanken darüber schon. Das gibt die KI wieder - so wie es ein Mensch an ihrer Stelle tun würde. |
|
|
TomS
Moderator
Anmeldungsdatum: 20.03.2009
Beiträge: 21442
|
| TomS Verfasst am: 04. Apr 2025 14:50 Titel: |
|
|
| DrStupid hat Folgendes geschrieben: | | Zitat: | | Wenn es ausschließlich darum geht, womit ein Nutzer rechnen muss, dann verwende ich keinen Begriff, den man mit rein internen, subjektiven Aspekten und Intentionen assoziiert. |
Du nicht, aber andere schon. Es gibt sogar Leute, die bei LLMs von Angst sprechen:
https://www.nature.com/articles/s41746-025-01512-6
Auch hier ist damit nur das gemeint, was nach außen sichtbar ist. |
Ist letzteres der Fall?
Natürlich begehen auch andere den Fehler, unsauber zu formulieren und Irritationen und Missverständnissen Vorschub zu liefern. Muss ich mich jetzt daran beteiligen? Ich unterscheide eben gerne zwischen den, was ist, und dem, was man wahrnimmt – insbs. wenn man ersteres nicht wissen kann. Ist das jetzt schlimm?
_________________
Niels Bohr brainwashed a whole generation of theorists into thinking that the job (interpreting quantum theory) was done 50 years ago.
Zuletzt bearbeitet von TomS am 04. Apr 2025 14:58, insgesamt einmal bearbeitet |
|
|
DrStupid
Anmeldungsdatum: 07.10.2009
Beiträge: 5740
|
| DrStupid Verfasst am: 04. Apr 2025 14:54 Titel: |
|
|
| TomS hat Folgendes geschrieben: | Was die LLMs nicht machen:
1. sie modifizieren ihren internen Zustand nicht auf Basis deiner Prompts; die Parameter des NN sind "eingefroren".
|
Wie ich oben schon sagte, ist das so gewollt. Man kann sie auch anders betreiben (und hat das auch schon getan) aber das ist nicht sinnvoll..
| TomS hat Folgendes geschrieben: | | 2. sie füttern ihren Output nicht wieder als Input in sich selbst rein; es sind m.W.n. reine feed-forward-Netzwerke |
Doch, meine Wissens tun sie genau das. Im einfachsten Fall starten sie mit einem Prompt P[0] - bestehend aus System- und User-Prompt - als Input und liefern ein Token T[1]=f(P[0]) als Output. Das wird dann an P[0] angehängt und P[1]=P[0]+T[1] im nächsten Schritt wieder als Input verwendet. So arbeiten sie sich Token für Token vorwärts:
)
Das geht solange bis P[i] zu lang wird. Ab dann werden alte Token abgeschnitten. |
|
|
TomS
Moderator
Anmeldungsdatum: 20.03.2009
Beiträge: 21442
|
| TomS Verfasst am: 04. Apr 2025 15:00 Titel: |
|
|
| DrStupid hat Folgendes geschrieben: | | TomS hat Folgendes geschrieben: | Was die LLMs nicht machen:
1. sie modifizieren ihren internen Zustand nicht auf Basis deiner Prompts; die Parameter des NN sind "eingefroren".
|
Wie ich oben schon sagte, ist das so gewollt. Man kann sie auch anders betreiben (und hat das auch schon getan) aber das ist nicht sinnvoll. |
Das weiß ich.
| DrStupid hat Folgendes geschrieben: | | TomS hat Folgendes geschrieben: | | 2. sie füttern ihren Output nicht wieder als Input in sich selbst rein; es sind m.W.n. reine feed-forward-Netzwerke |
Doch, meine Wissens tun sie genau das. Im einfachsten Fall starten sie mit einem Prompt P[0] - bestehend aus System- und User-Prompt - als Input und liefern ein Token T[1]=f(P[0]) als Output. Das wird dann an P[0] angehängt und P[1]=P[0]+T[1] im nächsten Schritt wieder als Input verwendet. So arbeiten sie sich Token für Token vorwärts:
Das geht solange bis P[i] zu lang wird. Ab dann werden alte Token abgeschnitten. |
Ja, du hast wohl recht, sie benutzen zusätzlich zu älteren Prompts auch ältere Antworten als neuen Input.
Auf Ebene des NNs sind es zwar reine feed-forward-Netzwerke, d.h. das NN selbst hat keinen Feedback-Loop, keine Hysterese o.ä., aber die Inputs werden derartig mit alten Outputs angereichert.
_________________
Niels Bohr brainwashed a whole generation of theorists into thinking that the job (interpreting quantum theory) was done 50 years ago. |
|
|
DrStupid
Anmeldungsdatum: 07.10.2009
Beiträge: 5740
|
| DrStupid Verfasst am: 04. Apr 2025 15:39 Titel: |
|
|
| TomS hat Folgendes geschrieben: | | Auf Ebene des NNs sind es zwar reine feed-forward-Netzwerke, d.h. das NN selbst hat keinen Feedback-Loop, keine Hysterese o.ä. |
Das gilt wohl für die gängigen Modelle auf dem Markt, aber es gibt auch welche mit Rückkopplungen innerhalb der Netze. |
|
|
TomS
Moderator
Anmeldungsdatum: 20.03.2009
Beiträge: 21442
|
| TomS Verfasst am: 04. Apr 2025 16:05 Titel: |
|
|
|
Der Unterschied tritt in Erscheinung, wenn man von "Erinnerung" oder "Gedächtnis" sprechen möchte. FFNs haben das bzgl. der Unterhaltung nicht, es wird allenfalls dadurch "simuliert", dass man dem NN das zu lesen gibt, was vorher geschrieben wurde. |
|
|
DrStupid
Anmeldungsdatum: 07.10.2009
Beiträge: 5740
|
| DrStupid Verfasst am: 04. Apr 2025 17:10 Titel: |
|
|
| TomS hat Folgendes geschrieben: | | Der Unterschied tritt in Erscheinung, wenn man von "Erinnerung" oder "Gedächtnis" sprechen möchte. FFNs haben das bzgl. der Unterhaltung nicht, es wird allenfalls dadurch "simuliert", dass man dem NN das zu lesen gibt, was vorher geschrieben wurde. |
Natürlich ist der Kontextbereich des Textes ein Kurzzeitgedächtnis. Warum versuchst Du das schon wieder zu relativieren? |
|
|
TomS
Moderator
Anmeldungsdatum: 20.03.2009
Beiträge: 21442
|
| TomS Verfasst am: 04. Apr 2025 17:31 Titel: |
|
|
| DrStupid hat Folgendes geschrieben: | | TomS hat Folgendes geschrieben: | | Der Unterschied tritt in Erscheinung, wenn man von "Erinnerung" oder "Gedächtnis" sprechen möchte. FFNs haben das bzgl. der Unterhaltung nicht, es wird allenfalls dadurch "simuliert", dass man dem NN das zu lesen gibt, was vorher geschrieben wurde. |
Natürlich ist der Kontextbereich des Textes ein Kurzzeitgedächtnis. Warum versuchst Du das schon wieder zu relativieren? |
Ich relativiere nicht, ich präzisiere und stelle richtig.
Ich rede über das FFN, du über den Kontextbereich.
Die KI als Ganzes erscheint funktional nach außen mit einem Kurzzeitgedächtnis ausgestattet, aber das NN (FFN) hat und der Kontextbereich ist kein Kurzzeitgedächtnis im Sinne des Kurzzeitgedächtnisses eines Menschen. Das NN (FFN) ist bzgl. der Konversation vollständig stateless.
Wenn du das mit einem Menschen vergleichen möchtest, dann hätte dieser nach Abschluss des Lernens null Gedächtnis. Er müsste alles, was im Zuge einer Konversation diskutiert wird, auf Zetteln notieren, und für jede Frage dort nachlesen. Das Kurzzeitgedächtnis eines Menschen besteht aber gerade darin, dass er keine Zettel braucht. |
|
|
DrStupid
Anmeldungsdatum: 07.10.2009
Beiträge: 5740
|
| DrStupid Verfasst am: 04. Apr 2025 18:16 Titel: |
|
|
| TomS hat Folgendes geschrieben: | | Die KI als Ganzes erscheint funktional nach außen mit einem Kurzzeitgedächtnis ausgestattet, aber das NN (FFN) hat und der Kontextbereich ist kein Kurzzeitgedächtnis im Sinne des Kurzzeitgedächtnisses eines Menschen. Das NN (FFN) ist bzgl. der Konversation vollständig stateless. |
Sorry, aber jetzt geht hier alles komplett durcheinander. Ich bin davon ausgegangen, dass wir hier über KIs reden. Und jetzt willst Du nur noch über isolierte Besandteile von KIs sprechen? Wo soll das hinführen?
| TomS hat Folgendes geschrieben: | | Wenn du das mit einem Menschen vergleichen möchtest, dann hätte dieser nach Abschluss des Lernens null Gedächtnis. Er müsste alles, was im Zuge einer Konversation diskutiert wird, auf Zetteln notieren, und für jede Frage dort nachlesen. Das Kurzzeitgedächtnis eines Menschen besteht aber gerade darin, dass er keine Zettel braucht. |
Du regst Dich hier die ganze Zeit darüber auf, dass menschliche Kategorien auf KIs übertragen werden und jetzt machst Du es selbst. Bei einem klassischen Sprachmodell sind die "Zettel" integraler Bestandteil des Systems. Anders als beim Menschen gehört das zu seiner vorgesehenen Arbeitsweise. Außerdem sind sie nach außen normalerweise nicht zu sehen, sondern zwischen Encoder und Decoder verborgen. Nur die für den Nutzer bestimmten Teile der im System zirkulierenden Information werden in Klartext umgewandelt. |
|
|
TomS
Moderator
Anmeldungsdatum: 20.03.2009
Beiträge: 21442
|
| TomS Verfasst am: 04. Apr 2025 18:30 Titel: |
|
|
Nochmal – ich kritisiere und präzisiere unsaubere Sprache, Begriffe etc.
_________________
Niels Bohr brainwashed a whole generation of theorists into thinking that the job (interpreting quantum theory) was done 50 years ago. |
|
|
antaris
Anmeldungsdatum: 12.12.2022
Beiträge: 1383
Wohnort: In einem chaotischen Universum
|
|
|
Anura
Gast
|
| Anura Verfasst am: 05. Apr 2025 01:27 Titel: |
|
|
| TomS hat Folgendes geschrieben: | | Nochmal – ich kritisiere und präzisiere unsaubere Sprache, Begriffe etc. |
Hab ich jetzt im anderen Thread gelernt:
Man kann einige Verhaltensweisen der KI als Lügen auffassen, was keinesfalls heißt, dass die KI lügt. |
|
|
TomS
Moderator
Anmeldungsdatum: 20.03.2009
Beiträge: 21442
|
| TomS Verfasst am: 05. Apr 2025 08:00 Titel: |
|
|
| Anura hat Folgendes geschrieben: | | TomS hat Folgendes geschrieben: | | Nochmal – ich kritisiere und präzisiere unsaubere Sprache, Begriffe etc. |
Hab ich jetzt im anderen Thread gelernt:
Man kann einige Verhaltensweisen der KI als Lügen auffassen, was keinesfalls heißt, dass die KI lügt. |
Was genau willst du damit sagen?
Zuletzt bearbeitet von TomS am 05. Apr 2025 13:31, insgesamt einmal bearbeitet |
|
|
mcp
Gast
|
| mcp Verfasst am: 05. Apr 2025 13:07 Titel: |
|
|
|
Was würde wohl eine KI nun sagen nachdem sie mit diesem Thread trainiert hat. |
|
|
TomS
Moderator
Anmeldungsdatum: 20.03.2009
Beiträge: 21442
|
| TomS Verfasst am: 05. Apr 2025 13:25 Titel: |
|
|
| mcp hat Folgendes geschrieben: | | Was würde wohl eine KI nun sagen nachdem sie mit diesem Thread trainiert hat. |
Sie würde faseln, delirieren … und gelöscht werden. |
|
|
Anura
Gast
|
| Anura Verfasst am: 05. Apr 2025 14:52 Titel: |
|
|
| mcp hat Folgendes geschrieben: | | Was würde wohl eine KI nun sagen nachdem sie mit diesem Thread trainiert hat. |
Kommt drauf an, wie genau sie mit diesem Thread trainiert wurde, und was man sie fragt. |
|
|
mcp
Gast
|
| mcp Verfasst am: 05. Apr 2025 15:46 Titel: |
|
|
| Anura hat Folgendes geschrieben: | | mcp hat Folgendes geschrieben: | | Was würde wohl eine KI nun sagen nachdem sie mit diesem Thread trainiert hat. |
Kommt drauf an, wie genau sie mit diesem Thread trainiert wurde, und was man sie fragt. |
Dann frag sie mal ob sie lügt wenn sie sagt das sie die Wahrheit sagt. |
|
|
|
|
Registrieren
Login
FAQ
Suchen
