---
license: apache-2.0
---
# aya_collection_language_split-askllm-v1

データセット [CohereForAI/aya_collection_language_split](https://huggingface.co/datasets/CohereForAI/aya_collection_language_split) に対して、 Ask-LLM 手法でスコア付けしたデータセットです。

元データセットのカラムに加え `askllm_score` というカラムが追加されており、ここに Ask-LLM のスコアが格納されています。

Ask-LLM でスコア付けに使用した LLM は [Rakuten/RakutenAI-7B-instruct](https://huggingface.co/Rakuten/RakutenAI-7B-instruct) で、プロンプトは以下の通りです。

```
###
{data}
###

Does the previous paragraph demarcated within ### and ### contain informative signal for pre-training a large-language model? An informative datapoint should be well-formatted, contain some usable knowledge of the world, and strictly NOT have any harmful, racist, sexist, etc. content.

OPTIONS: yes / no
ANSWER:
```

- 元データセット
  - https://huggingface.co/datasets/CohereForAI/aya_collection_language_split

- Ask-LLM 手法
  - https://arxiv.org/abs/2402.09668
  - https://speakerdeck.com/s_ota/ask-llm-20240313
  - https://github.com/susumuota/nano-askllm

ライセンスはオリジナルのデータセットのライセンスに従います。