Quelles sont les approches permettant d'éviter l'utilisation abusive des MLD ?
What are some approaches to prevent abuse of LLMs?
Here are some approaches to prevent abuse of LLMs:

1. Prevent users from submitting prompts that contain abusive phrases (a simple keyword ban could work for this).
2. Similar to the first point, prevent the LLM from returning responses that contain abusive phrases based on a simple keyword ban.
3. Provide users the option to upvote/downvote and flag responses from the LLM to collect feedback. An additional classification model could be trained on the responses that were flagged as inappropriate and then used to identify and filter out problematic responses from the LLM in the future before the user sees them.
Voici quelques approches pour prévenir l'utilisation abusive des MLD :

1. Empêcher les utilisateurs de soumettre des invites contenant des phrases abusives (une simple interdiction de mots-clés pourrait suffire).
2. Comme pour le premier point, empêcher le LLM de renvoyer des réponses contenant des phrases abusives en se basant sur une simple interdiction de mots-clés.
3. Offrir aux utilisateurs la possibilité d'attribuer des notes supérieures ou inférieures et de marquer les réponses du LLM afin de recueillir des commentaires. Un modèle de classification supplémentaire pourrait être formé sur les réponses qui ont été signalées comme inappropriées, puis utilisé pour identifier et filtrer les réponses problématiques du LLM à l'avenir, avant que l'utilisateur ne les voie.
brainstorming
fr