Quais são algumas abordagens para prevenir o abuso de MLL?
Aqui estão algumas abordagens para evitar o abuso de LLMs: 1. impede que os usuários enviem prompts que contenham frases abusivas (uma simples proibição de palavras-chave poderia funcionar para isso). 2. semelhante ao primeiro ponto, impede que o LLM retorne respostas que contenham frases abusivas com base em uma simples proibição de palavras-chave. 3. forneça aos usuários a opção de upvote / downvote e sinalizar respostas do LLM para coletar feedback. Um modelo de classificação adicional poderia ser treinado nas respostas sinalizadas como inadequadas e, em seguida, usado para identificar e filtrar respostas problemáticas do LLM no futuro antes que o usuário as veja.