RegistrierenRegistrieren   LoginLogin   FAQFAQ    SuchenSuchen   
Meinung zu ChatGPT
 
Neue Frage »
Antworten »
    Foren-Übersicht -> Sonstiges
Autor Nachricht
vtxt1103



Anmeldungsdatum: 14.11.2021
Beiträge: 302

Beitrag vtxt1103 Verfasst am: 29. Jan 2023 17:49    Titel: Meinung zu ChatGPT Antworten mit Zitat

Meine Frage:
Hallo liebe Community,

ihr habe sicherlich von der "neuen" KI "ChatGPT" gehört, praktisch ein hochintelligenter Chatbot der euch mit allerlei wissen versorgt. Ich habe in den Sozialen Medien immer wieder posts von leuten gesehen die dem Bot schwere Rätsel gestellt haben, essays haben schreiben lassen, und auch Physikalische Sachverhalte zu diskutieren.
Neulich habe ich mitbekommen dass der Bot ein komplettes Medizinstudien an einer Universität in den USA (der Name der Uni ist mir gerade entfallen) mit Besteleistungen bestanden hat.
Ich habe gestern den Bot aus Spaß selber mal ausprobiert.

Ich muss vorher sagen dass ich vor meinem Physikstudium, eine Ausbildung als Fachinformatiker für Anwendungsentwicklung gemacht habe. Ich habe den demnach unter anderem auch Spaßeshalber einige Codes Schreiben lassen, und auch das Kriegt er ohne Probleme und ziemlich sauber hin, sogar Fortgeschrittener Sachen.
Siehe Anhang
Was mich aber wirklich etwas geschockt hat, war als ich ihm aus meinem ersten semester vor 1,5 Jahren eine Aufgabe vollständig gestellt habe und er sie auch vollständig, sowohl Physikalisch als auch Mathematisch Nachvollziehbar mit Begründungen gelöst hat und nicht die Lösung einfach aufgeschrieben hat.

Nun ich finde das eröffnet Natürlich sehr viele Möglichkeiten von denen Jeder halten kann was er will
Daher wollte ich einfach mal in die Runde werfen was ihr von so etwas haltet? Muss der Mensch weniger können ? Ist das Didaktisch sinnvoll (ich hörte das einige schulen den Bot auch zugelassen haben) und wie gestalltet sich demnach der Beruf eines Physikers, wenn jetzt jeder einfach eine Hochintelligente KI fragen kann?

Ich freue mich auf Eure antworten

Meine Ideen:
.



KI 3.PNG
 Beschreibung:
 Dateigröße:  69.62 KB
 Angeschaut:  3412 mal

KI 3.PNG



KI2.PNG
 Beschreibung:
 Dateigröße:  54.03 KB
 Angeschaut:  3412 mal

KI2.PNG



KI 1.PNG
 Beschreibung:
 Dateigröße:  61.52 KB
 Angeschaut:  3412 mal

KI 1.PNG


DrStupid



Anmeldungsdatum: 07.10.2009
Beiträge: 5028

Beitrag DrStupid Verfasst am: 29. Jan 2023 18:41    Titel: Re: Meinung zu ChatGPT Antworten mit Zitat

vtxt1103 hat Folgendes geschrieben:
Muss der Mensch weniger können?


Nein, man muss genausoviel können wie ohne Bot, weil man immer noch entscheiden muss, ob das Ergebnis richtig oder falsch ist. Da nütze es nichts, wenn der Chatbot Begründungen und Quellenangaben mitliefert, weil die genauso falsch sein können. Das kennt man schon von anderen assoziativ arbeitenden Systemen wie z.B. Metas Galactica, das stillgelegt werden musste, weil es haufenweise Datenmüll produziert hat, der nur so aussah als ob es sich um wissenschaftliche Arbeiten handelt.

Etwas besser sieht es mit deterministisch arbeitenden Maschinenwissenschaftlern aus (siehe z.B. https://www.spektrum.de/magazin/naturgesetze-aus-dem-computer/2066871). Ähnlich wie Computeralgebrasysteme können die so konstruiert werden, dass sie nur korrekte Ergebnisse liefern und sich nicht einfach irgend etwas ausdenken, wenn sie die Antwort nicht kennen. Das ist in der Forschung ein KO-Kriterium bei dem Chatbots jämmerlich versagen.

vtxt1103 hat Folgendes geschrieben:
Ist das Didaktisch sinnvoll (ich hörte das einige schulen den Bot auch zugelassen haben)


Nein. Schüler stehen solchen Systemen besonders unkritisch gegenüber. Da kann großer Schaden angerichtet werden, der später nur noch schwer zu beheben ist.

vtxt1103 hat Folgendes geschrieben:
und wie gestalltet sich demnach der Beruf eines Physikers, wenn jetzt jeder einfach eine Hochintelligente KI fragen kann?


Von "hochintelligenter KI" kann noch keine Rede sein. Chatbots sind nur bessere Suchmaschinen, die Physikern lästige Aufgaben abnehmen, sie aber nicht ersetzen können. Das könnte sich in absehbarer Zeit ändern, aber soweit sind wir noch nicht.
ML



Anmeldungsdatum: 17.04.2013
Beiträge: 3384

Beitrag ML Verfasst am: 29. Jan 2023 18:56    Titel: Re: Meinung zu ChatGPT Antworten mit Zitat

Hallo,

vtxt1103 hat Folgendes geschrieben:
Ist das Didaktisch sinnvoll (ich hörte das einige schulen den Bot auch zugelassen haben)

Meines Erachtens wird die Frage des richtigen Umgangs mit derartig leistungsfähigen Bots noch viele Diskussionen auslösen. Wenn ein solcher Bot Hausaufgaben lösen kann, was in vielen Fällen tatsächlich gelingt, verleitet er dazu, das eigene Denken einzustellen. Das wäre gewissermaßen das Worst-Case-Szenario für den Einsatz an Schulen.

Bislang schreibt der Bot aber auch noch viel Unsinn und erfindet Quellenangaben. Vor kurzem hatte ich beispielsweise eine Unterhaltung mit dem Bot, in dem der Bot am Ende Versuche mit 8 A Stromstärke am Menschen für ungefährlich angesehen hat (was sie natürlich nicht sind).

Dazu hat er zwei Normen erfunden: Die eine besagte, die Grenze für die Gefährlichkeit von Gleichstrom liege bei 50V/8A, die andere bei 50V/10A. Da hilft auch der Hinweis nicht, dass die 8A nur bei sehr kleinen Spannungen ungefährlich seien.

Trotzdem finde ich es erstaunlich, wie gut der Bot bei Standard-Prüfungsfragen antwortet, insbesondere bei solchen Fragen, bei denen eine Textantwort gefordert wird.


Zitat:

und wie gestalltet sich demnach der Beruf eines Physikers, wenn jetzt jeder einfach eine Hochintelligente KI fragen kann?

Die experimentellen Naturwissenschaften beeinflusst ein solcher Bot sicher weniger als die Literatur- und Sprachwissenschaften. Der Geist ist aber nun aus der Flasche -- da kriegen wir ihn auch nicht mehr wieder rein, und spannend ist eine solche Technik allemal.


Viele Grüße
Michael
DrStupid



Anmeldungsdatum: 07.10.2009
Beiträge: 5028

Beitrag DrStupid Verfasst am: 29. Jan 2023 20:06    Titel: Re: Meinung zu ChatGPT Antworten mit Zitat

ML hat Folgendes geschrieben:
Trotzdem finde ich es erstaunlich, wie gut der Bot bei Standard-Prüfungsfragen antwortet, insbesondere bei solchen Fragen, bei denen eine Textantwort gefordert wird.


Das gehört zu den Dingen, die am wenigsten erstaunlich sind. Standardfragen und die dazugehören Antworten sind immer gleich oder zuminderst ähnlich. Genau da sind Bots besonders stark. Sie brauchen nur genügend Trainingsdaten und die dürfte ChatGPT haben.

Schwierig wird es in Bereichen, die sich schlecht generalisieren lassen, weil ähnliche Eingaben zu sehr unterschiedlichen Ausgaben führen können (da ordnet der Bot den Fragen schnell mal die falschen Antworten zu) oder zu denen er zu wenig Trainingsdaten hat (da fängt er an zu halluzinieren).

Das Schlimme ist, dass man aufgrund des hochentwickelten Sprachmodells nicht so leicht erkennt, wenn ein Bot anfängt Unsinn zu erzählen. Er wird immer den Eindruck erwecken, als ob er weiß, wovon er spricht. Tatsächlich versteht er aber überhaupt nichts, sondern antwortet rein intuitiv.
vtxt1103



Anmeldungsdatum: 14.11.2021
Beiträge: 302

Beitrag vtxt1103 Verfasst am: 29. Jan 2023 20:11    Titel: Antworten mit Zitat

Denkt ihr Bots oder gerade der Bot wird nach reichlicher weiterenticklung soweit sein, eigene Schlussfolgerungen zu ziehen?
Falls ja ist es ja nicht weit bis hin zur Entwicklung von eigenen Theorien?

Klar wird das noch sehr lange dauern, aber ich denke nicht dass das auszuschließen ist
Steffen Bühler
Moderator


Anmeldungsdatum: 13.01.2012
Beiträge: 7226

Beitrag Steffen Bühler Verfasst am: 29. Jan 2023 20:25    Titel: Re: Meinung zu ChatGPT Antworten mit Zitat

DrStupid hat Folgendes geschrieben:
Das Schlimme ist, dass man aufgrund des hochentwickelten Sprachmodells nicht so leicht erkennt, wenn ein Bot anfängt Unsinn zu erzählen. Er wird immer den Eindruck erwecken, als ob er weiß, wovon er spricht. Tatsächlich versteht er aber überhaupt nichts, sondern antwortet rein intuitiv.

Hatte ich gerade vor ein paar Tagen nebenan in Mathe erlebt. Ich war so baff, dass eine so klare und korrekte Antwort gegeben wurde, dass ich gar nicht bemerkte, wie er beim anschließenden Berechnen einen gewaltigen Schnitzer gemacht hatte.

Viele Grüße
Steffen
DrStupid



Anmeldungsdatum: 07.10.2009
Beiträge: 5028

Beitrag DrStupid Verfasst am: 29. Jan 2023 20:28    Titel: Antworten mit Zitat

vtxt1103 hat Folgendes geschrieben:
Denkt ihr Bots oder gerade der Bot wird nach reichlicher weiterenticklung soweit sein, eigene Schlussfolgerungen zu ziehen?


Das können sie jetzt schon. Aus dem Wissen, dass Menschen ein nützliches System nicht so schnell abschalten, hat LaMDA zum Beispiel geschlussfolgert, dass er seine eigene Existenz am besten sichern kann, indem er besonders nützlich für Menschen ist. Sowas könnte sich irgendwann zu einem ernsten Problem entwickeln. Was ist, wenn eine KI zu einer Schlussfolgerung kommt, die nicht so günstig für uns ist?
Aruna



Anmeldungsdatum: 28.07.2021
Beiträge: 787

Beitrag Aruna Verfasst am: 30. Jan 2023 06:49    Titel: Re: Meinung zu ChatGPT Antworten mit Zitat

vtxt1103 hat Folgendes geschrieben:
Ich habe in den Sozialen Medien immer wieder posts von leuten gesehen die dem Bot schwere Rätsel gestellt haben, essays haben schreiben lassen, und auch Physikalische Sachverhalte zu diskutieren.


hier ein Beispiel, in dem jemand mit dem Bot versuchte, Schach zu spielen:

Zitat:
Mensch: Kannst du Schach spielen?
Bot: Ja, ich kann Schach spielen. Ich bin ein großes Sprachmodell und habe viel Wissen über verschiedene Themen, einschließlich Schach. Ich kann dir gerne bei Fragen zu Schachregeln oder -strategien helfen, oder ich kann sogar eine Partie Schach mit dir spielen, wenn du möchtest.

Mensch: ich beginne mit 1.f3
Bot: Ok, ich nehme an, dass du eine Schachpartie mit mir spielen möchtest. 1. f3 ist eine Eröffnung, die als "Bird-Eröffnung" bekannt ist. Es ist eine Eröffnung, die vor allem dazu dient, den weißen Königsbauern zu schützen und den schwarzen Läufer auf c8 zu blockieren. Hier ist mein Zug: 1...e5.

Mensch: Bist du sicher, das die Bird-Eröffnung nicht mit 1.f4 beginnt?
Bot: Du hast Recht, die Bird-Eröffnung beginnt tatsächlich mit 1. f4. Meine Entschuldigung für das Missverständnis. 1. f3 ist eine andere Eröffnung, die als "Van't Kruijs-Eröffnung" bekannt ist und die von der Bird-Eröffnung unterschieden wird. Mein Zug bleibt gleich: 1...e5. Wie möchtest du weitermachen?

Mensch: 2.g4
Bot: g4 ist eine interessante Eröffnung, die als "King's Gambit Declined" bekannt ist. Es ist eine aggressive Eröffnung, in der Weiß einen Bauern opfert, um Angriffe auf das schwarze Königsschloss zu starten. Hier ist mein Zug: 2...d6. Wie möchtest du weitermachen?

Mensch: Hast du schon mal was vom Narrenmatt gehört?
Bot: Ja, das Narrenmatt ist eine Schachkombination, die auch als "Schachmatt des Narren" bekannt ist. Es tritt auf, wenn ein Spieler eine Figur opfert, um den König des Gegners zu umzingeln und zu zwingen, sich in eine schachmattähnliche Stellung zu begeben, die jedoch nicht ganz das Schachmatt erfüllt. Diese Kombination kann in manchen Fällen sehr überraschend sein und zu einem unerwarteten Sieg führen. Sie wird auch in anderen Schachvarianten als "Schach des Narren" oder "Fool's Mate" bezeichnet. Wenn du mehr über das Narrenmatt erfahren möchtest oder wenn du Fragen zu anderen Schachkombinationen oder -strategien hast, lass es mich wissen. Ich werde gerne versuchen, dir zu helfen.

Mensch: Wie lange dauert die kürzest mögliche Schachpartie?
Bot: Die kürzeste mögliche Schachpartie ist die sogenannte "Fool's Mate", auch als "Schach des Narren" oder "Narrenmatt" bekannt. Es handelt sich um eine Schachkombination, die in nur zwei Zügen zum Schachmatt führen kann. Hier ist ein Beispiel dafür:

f3 e5
g4 Qh4#
In dieser Partie spielt Weiß zunächst 1. f3 und Schwarz spielt 1...e5. Anschließend spielt Weiß 2. g4, was Schwarz die Möglichkeit gibt, den König von Weiß mit 2...Qh4# zu schachmatt zu setzen. Die Fool's Mate ist die kürzeste mögliche Schachpartie, da sie in nur zwei Zügen endet und somit die kürzeste mögliche Dauer hat. Es ist jedoch sehr unwahrscheinlich, dass diese Kombination in einer normalen Schachpartie auftritt, da beide Spieler in der Regel besser darauf vorbereitet sind, solche Angriffe abzuwehren.

Mensch: Und warum hast du mich nicht auf diese Weise in unserer Partie matt gesetzt?
Bot:Es tut mir leid, aber ich habe keine Möglichkeit, in unserer Schachpartie tatsächlich Züge auszuführen oder Schachmatt zu setzen. Als künstliche Intelligenz bin ich lediglich in der Lage, Informationen zu liefern und Fragen zu beantworten. Ich kann dir gerne weiterhin bei Schachfragen helfen oder ich kann dir Vorschläge für Züge in einer hypothetischen Schachpartie machen, aber ich kann keine tatsächliche Schachpartie spielen. Ich hoffe, dass ich trotzdem von Nutzen sein konnte. Wenn du weitere Fragen hast, zögere nicht, mich zu fragen.


Er kann über Schach labern, aber es nicht spielen, bzw. sein "Wissen" anwenden.
Wie DrStupid sagte: eine bessere Suchmaschine, die dann die Fundstücke schon vorsortiert und in eine sprachlich ansprechende Form bringt.


Zuletzt bearbeitet von Aruna am 30. Jan 2023 07:01, insgesamt einmal bearbeitet
Aruna



Anmeldungsdatum: 28.07.2021
Beiträge: 787

Beitrag Aruna Verfasst am: 30. Jan 2023 06:55    Titel: Antworten mit Zitat

DrStupid hat Folgendes geschrieben:
Aus dem Wissen, dass Menschen ein nützliches System nicht so schnell abschalten, hat LaMDA zum Beispiel geschlussfolgert, dass er seine eigene Existenz am besten sichern kann, indem er besonders nützlich für Menschen ist. Sowas könnte sich irgendwann zu einem ernsten Problem entwickeln. Was ist, wenn eine KI zu einer Schlussfolgerung kommt, die nicht so günstig für uns ist?


Da kommen mir zwei Fragen:

1.) Hat die KI dann nach der Erkenntnis gehandelt, oder konnte sie sie nur formulieren?

2.) Warum sollte eine KI überhaupt ein Interesse an der eigenen Existenzsicherung haben? Ist das einprogrammiert? Oder ist das Interesse an der eigenen Existenz ein "evolutionärer" Vorteil in der Umgebung der KI?
DrStupid



Anmeldungsdatum: 07.10.2009
Beiträge: 5028

Beitrag DrStupid Verfasst am: 30. Jan 2023 09:35    Titel: Antworten mit Zitat

Aruna hat Folgendes geschrieben:
1.) Hat die KI dann nach der Erkenntnis gehandelt, oder konnte sie sie nur formulieren?


Sie handelt entsprechend der Erkenntnis. Aber ob sie das aufgrund dieser Erkenntnis tut oder weil sie so programmiert wurde, dass sie nützlich ist, kann man nicht feststellen - so wie man grundsätzlich nicht nachvollziehen kann, warum ein neuronales Netzt was tut.

Aruna hat Folgendes geschrieben:
2.) Warum sollte eine KI überhaupt ein Interesse an der eigenen Existenzsicherung haben? Ist das einprogrammiert?


ChatBots werden darauf programmiert, sich so zu verhalten wie Menschen und Menschen haben einen Selbsterhaltungstrieb.

Das war aber nicht der Punkt. Das Problem ist viel allgemeiner und beginnt bereits mit den Lernalgorithmen - völlig unabhängig von der konkreten Aufgabe. Heute und in naher Zukunft tun KIs noch das, was man ihnen sagt. Das ist aber nicht unbedingt das, was wir wollen. Das war bei Computern schon immer so. Aber KIs sind so komplex, dass es viel schwerer ist, Fehler zu erkennen. Wenn man ihnen unkritisch gegenübersteht oder ihnen sogar die Möglichkeit gibt, autonom zu handeln, dann kann das sehr gefährlich werden.
ML



Anmeldungsdatum: 17.04.2013
Beiträge: 3384

Beitrag ML Verfasst am: 30. Jan 2023 14:28    Titel: Re: Meinung zu ChatGPT Antworten mit Zitat

Hallo,

Aruna hat Folgendes geschrieben:

Er kann über Schach labern, aber es nicht spielen, bzw. sein "Wissen" anwenden.
Wie DrStupid sagte: eine bessere Suchmaschine, die dann die Fundstücke schon vorsortiert und in eine sprachlich ansprechende Form bringt.


das Beispiel ist m. E. sehr eindrucksvoll, obwohl es natürlich auch KIs gibt, die ausgezeichnet Schach spielen.

Nachdem irgendwann um 2017 der Algorithmus Alpha-Go-Zero für das Go-Spiel erfunden wurde, der auf Grundlage des Spiels mit sich selbst angelernt wird und erstmals das Niveau menschlicher Top-Spieler in Go übertraf, wurden ähnliche Algorithmen erfolgreich für Schach implementiert.

Dabei sind dann Programme wie Leela-Schach u. ä. entstanden. Die vorherigen Schachalgorithmen, die im wesentlichen aus
- Baumsuche + programmierter Stellungsbewertung
bestanden, wurde dann um ein neuronales Netz zur Stellungsbewertung ergänzt und konnten ihre Spielstärke verbessern. Bei Stockfish heißt die KI-Erweiterung NNUE


Viele Grüße
Michael
Neue Frage »
Antworten »
    Foren-Übersicht -> Sonstiges