¿Cuáles son algunos de los principales riesgos en torno a los LLM?
What are some of the top risks around LLMs?
1. Hallucinations: LLMs sometimes make up facts and responses which are false.
2. Toxicity and bias: LLMs reflect the data they were trained on, so they may generate responses with toxic or biased content.
3. Job losses: More generally, many people worry that LLMs and AI will displace humans in some jobs, though similar historical breakthroughs indicate that jobs will likely change but not be lost overall.
4. Malicious AI: As LLMs and AI approach Artifical General Intelligence (AGI), some people fear that an AGI may become a threat to some or all humans.
5. Environmental impact: LLMs and big AI models require lots of energy to train, and therefore have big carbon footprints.
1. Alucinaciones: Los LLM a veces inventan hechos y respuestas que son falsos.
2. Toxicidad y sesgo: Los LLM reflejan los datos con los que fueron entrenados, por lo que pueden generar respuestas con contenido tóxico o sesgado.
3. Pérdida de puestos de trabajo: En términos más generales, a mucha gente le preocupa que los LLM y la IA desplacen a los humanos en algunos puestos de trabajo, aunque avances históricos similares indican que es probable que los puestos de trabajo cambien, pero no que se pierdan en general.
4. 4. IA maliciosa: A medida que los LLM y la IA se acercan a la Inteligencia Artificial General (IAG), algunas personas temen que una IAG pueda convertirse en una amenaza para algunos o todos los humanos.
5. 5. Impacto medioambiental: Los LLM y los grandes modelos de IA requieren mucha energía para entrenarse y, por tanto, tienen grandes huellas de carbono.
brainstorming
es