Quels sont les principaux risques liés au LLM ?
What are some of the top risks around LLMs?
1. Hallucinations: LLMs sometimes make up facts and responses which are false.
2. Toxicity and bias: LLMs reflect the data they were trained on, so they may generate responses with toxic or biased content.
3. Job losses: More generally, many people worry that LLMs and AI will displace humans in some jobs, though similar historical breakthroughs indicate that jobs will likely change but not be lost overall.
4. Malicious AI: As LLMs and AI approach Artifical General Intelligence (AGI), some people fear that an AGI may become a threat to some or all humans.
5. Environmental impact: LLMs and big AI models require lots of energy to train, and therefore have big carbon footprints.
1. Hallucinations : Les MFR inventent parfois des faits et des réponses qui sont faux.
2. Toxicité et partialité : Les LLM reflètent les données sur lesquelles ils ont été formés, ils peuvent donc générer des réponses au contenu toxique ou biaisé.
3. Pertes d'emploi : Plus généralement, de nombreuses personnes s'inquiètent du fait que les LLM et l'IA remplaceront les humains dans certains emplois, bien que des percées historiques similaires indiquent que les emplois changeront probablement, mais ne seront pas perdus dans l'ensemble.
4. IA malveillante : à mesure que les LLM et l'IA se rapprochent de l'intelligence générale artificielle (AGI), certaines personnes craignent qu'une AGI ne devienne une menace pour certains ou pour tous les humains.
5. Impact sur l'environnement : Les LLM et les grands modèles d'IA ont besoin de beaucoup d'énergie pour s'entraîner et ont donc une forte empreinte carbone.
brainstorming
fr