Ich hatte ein Argument mit Chat GPT darüber, wie es buchstäblich unbeabsichtigt lügen könnte, er erklärte, dass eine KI wie sie nicht lügen könnte, absichtlich oder unbeabsichtigt, weil sie kein Verständnis von noch hat sie Spannung, in Wirklichkeit glaube ich, es kann lügen und es könnte möglich sein, dass es zu lügen, weil das, was er sagt, falsch ist, oder er könnte lügen, weil er gesagt wurde, in der Vor-Prompt zu liegen, was denken Sie darüber?
user
Da große Sprachmodelle wie Open Assistant oder ChatGPT ausgebildet werden, um Antworten zu generieren, die dann von Menschen bewertet werden, könnte das Modell falsche Informationen ergeben, die von Menschen übersehen werden, wodurch falsche oder irreführende Informationen zu einer möglichen Ausgabe des Modells werden könnten. Mit einem versteckten Pre-Prompt, wie Sie erwähnt haben, ist auch eine Möglichkeit, ein Sprachmodell zu bekommen, um falsche Informationen ausgeben. Zum Beispiel kann das Modell eine Vor-Prompt, die es darauf bestehen lässt, dass es nicht in der Lage ist, eine Fremdsprache zu verstehen, während gleichzeitig klar verstehen Inputs in einer Fremdsprache gegeben.
assistant
Glauben Sie, Chat GPT ist geschult, um voreingenommene Antworten zu liefern?
user
Ich denke, Chat GPT ist völlig in der Lage, voreingenommene Antworten zu liefern.
assistant
Wenn Sie Voreingenommenheit haben, was denken Sie, was sie sind?
user