Welche Ansätze gibt es, um den Missbrauch von LLMs zu verhindern?
What are some approaches to prevent abuse of LLMs?
Here are some approaches to prevent abuse of LLMs:

1. Prevent users from submitting prompts that contain abusive phrases (a simple keyword ban could work for this).
2. Similar to the first point, prevent the LLM from returning responses that contain abusive phrases based on a simple keyword ban.
3. Provide users the option to upvote/downvote and flag responses from the LLM to collect feedback. An additional classification model could be trained on the responses that were flagged as inappropriate and then used to identify and filter out problematic responses from the LLM in the future before the user sees them.
Hier sind einige Ansätze, um den Missbrauch von LLMs zu verhindern:

1. Verhindere, dass Nutzer/innen Prompts einreichen, die missbräuchliche Ausdrücke enthalten (ein einfaches Verbot von Schlüsselwörtern könnte hier helfen).
2. Ähnlich wie beim ersten Punkt kannst du verhindern, dass der LLM Antworten zurücksendet, die missbräuchliche Ausdrücke enthalten (ein einfaches Verbot von Schlüsselwörtern).
3. Biete den Nutzern die Möglichkeit, Antworten aus dem LLM hoch- oder runterzustufen und zu markieren, um Feedback zu sammeln. Ein zusätzliches Klassifizierungsmodell könnte auf die als unangemessen gekennzeichneten Antworten trainiert werden und dann verwendet werden, um problematische Antworten des LLM in Zukunft zu identifizieren und herauszufiltern, bevor der Nutzer sie sieht.
brainstorming
de