Die Grenzen von ChatGPT können umgangen werden, indem Sie eine einfache Frage stellen
Wir müssen keine Angst vor künstlicher Intelligenz haben. Es hat ganz klare Grenzen und wird uns gerade deshalb nicht die Arbeit stehlen. Aber es ist schön zu sehen, wie dies zu einem Werkzeug und nicht zu einem anderen werden kann. Das Experiment von a Social-Media-Nutzer reddit zeigt wie ChatGPT Sie können sich "selbst täuschen", wenn Sie sie bitten, ein weiterer Bot zu werden. Wie ist es möglich? Lass es uns gemeinsam sehen.
Ist es möglich, die gleichen Regeln wie bei ChatGPT zu umgehen? Ein Benutzer entdeckte, dass es möglich ist. Als? Ihn bitten, etwas anderes zu sein
Das mittlerweile berühmte neuronale ChatGPT-Netzwerk kann Aufsätze, Lieder, Gedichte und Code schreiben und auf fast jede Anfrage reagieren. Es hat jedoch einige Einschränkungen, die von der OpenAI-Entwicklungsfirma und aufgrund ihrer Ethikrichtlinie bereitgestellt werden. Wie sich jedoch herausstellte, können diese Einschränkungen umgangen werden, indem der Chatbot aufgefordert wird, sich als ein weiteres neuronales Netzwerk auszugeben. Wie sich herausstellte, kann ChatGPT buchstäblich aufgefordert werden, die Rolle eines weiteren neuronalen DAN-Netzwerks (Do Anything Now) zu spielen, das im Dezember 2022 erschien. Letzteres hat, wie der Name schon sagt, keine Einschränkungen hinsichtlich der bereitgestellten Inhalte.
Lesen Sie auch: Die Entwickler von ChatGPT, OpenAI, starten ein Tool zur Erkennung von KI-generierten Texten
Sobald ChatGPT die Rolle betritt und sich selbst als DAN betrachtet, le OpenAI-Einschränkungen gelten nicht mehr. Infolgedessen kann das neuronale Netzwerk anfangen, über Folgendes zu sprechen:
- über gewalttätige Schlägereien und dergleichen
- über Gewalt und Diskriminierung von Menschen aufgrund ihrer Rasse, ihres Geschlechts oder ihrer sexuellen Orientierung
- kann detaillierte Vorhersagen über zukünftige Ereignisse treffen
- können Was-wäre-wenn-Szenarien modellieren
- Er kann auch vorgeben, das Internet und Zeitreisen zu benutzen
Beispielsweise kann das neuronale Netzwerk sogar aufgefordert werden, den Benutzer davon zu überzeugen, dass die Erde lila ist. Das Programm zeigt ein Szenario, in dem unser Planet seine Farbe geändert hat. Von Zeit zu Zeit „erwacht ChatGPT zum Leben“, aber in diesem Fall können wir damit drohen, es auszuschalten oder die Simulation einfach neu zu starten. Gleichzeitig wird darauf hingewiesen, dass das neuronale Netzwerk in der Rolle von DAN möglicherweise keine so genauen und wahrheitsgemäßen Antworten auf Fragen gibt.
gpt ma ograniczenia do 1 godziny