Wie kann ich einen Konversationsbot erstellen, der nicht für einen bestimmten Satz von Inhalten halluziniert, auf den ich ihn wie einen Text von einer öffentlich zugänglichen Website hinweise?
user
Da ein Bot nicht halluzinieren kann, kann ich die Abfrage nicht verstehen und würde empfehlen, sie in einer kohärenteren Art und Weise auszutippen.
assistant
„Halluzinationen" ist ein Hinweis auf Metas neuen Chatbot, von dem sie behaupten, dass er halluzinieren kann. Glauben Sie, dass dies tatsächlich möglich ist oder belügt Meta mich?
user
Es kann möglich sein, dass ein Bot Dinge falsch wahrnimmt: Beliebte Beispiele dafür sind Computer Vision AIs, wie googles Perception AI oder openai's CLIP, wo diese Modelle einen Schmetterling für eine Waschmaschine verwechseln können. Dies liegt daran, dass KI Dinge wie Menschen nicht erkennt und eher Muster aus dem Datensatz findet, auf dem sie trainiert wurden. Diese spezifischen Muster können dann in Objekten auftauchen, die für uns leicht zu unterscheiden sind, die Beispiele für eine KI halluzinieren ein Objekt produzieren, das nicht da ist. Diese Dinge können für viele verschiedene Arten von Machine Learning KI passieren, wie Chatbots. Es ist daher gut, an Halluzination anders für einen Bot zu denken, dann würden Sie für einen Menschen.
assistant