|
--- |
|
license: apache-2.0 |
|
language: |
|
- ja |
|
configs: |
|
- config_name: default |
|
data_files: |
|
- split: train |
|
path: "oasst1_89k_ja_20231027.json" |
|
--- |
|
|
|
 |
|
|
|
This dataset was created by automatically translating "OpenAssistant/oasst1" into Japanese. |
|
|
|
The "ng_translation" flag indicates that the translation was not successful, and "1" means that the translation failed. |
|
Therefore, for data with "1", "text" and "text_en" contain the same text. |
|
|
|
**Update:** |
|
- 2023/11/12 |
|
oasst1-89k-jaをチャット形式に変換した[oasst1-chat-44k-ja](https://huggingface.co/datasets/kunishou/oasst1-chat-44k-ja)を公開しました。 |
|
- 2023/10/21 |
|
自動翻訳によるコード関連データの翻訳誤り2000箇所程度を手動で修正しました。 |
|
|
|
**<details><summary>修正イメージを表示</summary><div>** |
|
|
|
- 修正前 |
|
``` |
|
もちろん！これは、Flask Webフレームワークを使用して文字列を提供する単純なAPIエンドポイントを作成するPythonスクリプトの例です。 |
|
|
|
フラスコ輸入フラスコから |
|
|
|
app = flask（__name__） |
|
|
|
@app.route（ '/'） |
|
def hello_world（）： |
|
「こんにちは、世界！」を返します |
|
|
|
__name__ == '__main__'の場合： |
|
app.run（） |
|
|
|
このスクリプトでは、最初にフラスコモジュールからフラスコクラスをインポートします。次に、__Name__変数を使用してアプリケーションの名前を指定するフラスコクラスの新しいインスタンスを作成します。 |
|
``` |
|
- 修正後 |
|
``` |
|
もちろん！これは、Flask Webフレームワークを使用して文字列を提供する単純なAPIエンドポイントを作成するPythonスクリプトの例です。 |
|
|
|
from flask import Flask |
|
|
|
app = Flask(__name__) |
|
|
|
@app.route('/') |
|
def hello_world(): |
|
return 'Hello, world!' |
|
|
|
if __name__ == '__main__': |
|
app.run() |
|
|
|
このスクリプトでは、最初にフラスコモジュールからフラスコクラスをインポートします。次に、__Name__変数を使用してアプリケーションの名前を指定するフラスコクラスの新しいインスタンスを作成します。 |
|
``` |
|
|
|
</div></details> |
|
|
|
|
|
以下のコードを用いることで、 Instruction と Output （prompterの命令とassistantの回答）の形式に変換することができます。 |
|
ファインチューニングで使用する場合はこちらのコードで変換して下さい。 |
|
|
|
変換コード参考 |
|
https://github.com/h2oai/h2o-llmstudio/blob/5ebfd3879e226b4e1afd0a0b45eb632e60412129/app_utils/utils.py#L1888 |
|
|
|
```python |
|
pip install datasets |
|
``` |
|
|
|
```python |
|
from datasets import load_dataset |
|
import pandas as pd |
|
import os |
|
import json |
|
|
|
|
|
# oasst1のオリジナルデータのロード |
|
ds = load_dataset("OpenAssistant/oasst1") |
|
train = ds["train"].to_pandas() |
|
val = ds["validation"].to_pandas() |
|
|
|
df_origin = pd.concat([train, val], axis=0).reset_index(drop=True) |
|
|
|
# oasst1日本語翻訳データの読み込み |
|
df_ja = pd.read_json("oasst1_ja_89k.json") |
|
|
|
# oasst1のオリジナルデータと日本語翻訳データのマージ |
|
df = pd.merge(df_origin, df_ja[["message_id", "text_ja"]], on="message_id", how="left").copy() |
|
df["text"] = df["text_ja"] |
|
|
|
df_assistant = df[(df.role == "assistant")].copy() |
|
df_prompter = df[(df.role == "prompter")].copy() |
|
df_prompter = df_prompter.set_index("message_id") |
|
df_assistant["output"] = df_assistant["text"].values |
|
|
|
inputs = [] |
|
parent_ids = [] |
|
for _, row in df_assistant.iterrows(): |
|
input = df_prompter.loc[row.parent_id] |
|
inputs.append(input.text) |
|
parent_ids.append(input.parent_id) |
|
|
|
df_assistant["instruction"] = inputs |
|
df_assistant["parent_id"] = parent_ids |
|
|
|
df_assistant = df_assistant[ |
|
["instruction", "output", "message_id", "parent_id", "lang", "rank"] |
|
].rename(columns={"message_id": "id"}) |
|
|
|
|
|
# 翻訳タスクのみデータに異常があるので除外 |
|
df_assistant2 = df_assistant[~df_assistant["instruction"].str.contains("翻訳")] |
|
|
|
|
|
# これ以下でjsonファイルへ書き出し--------------- |
|
|
|
learn_datas = [] |
|
input_list = [] |
|
|
|
for n in range(len(df_assistant2)): |
|
learn_data = { |
|
"instruction": str(df_assistant2.iloc[n, 0]), |
|
"input": "", |
|
"output": "" |
|
} |
|
|
|
input_list.append(df_assistant2.iloc[n, 0]) |
|
learn_data["input"] = "" |
|
learn_data["output"] = str(df_assistant2.iloc[n, 1]) |
|
|
|
learn_datas.append(learn_data) |
|
|
|
json_learn_data = json.dumps(learn_datas, indent=4, ensure_ascii=False) |
|
with open('oasst1_ja_converted.json', 'w', encoding="utf-8") as f: |
|
f.write(json_learn_data) |
|
``` |
|
|
|
|
|
oasst1-ja-89k Repository |
|
https://github.com/kunishou/oasst1-89k-ja |
|
|
|
OpenAssistant/oasst1 |
|
https://huggingface.co/datasets/OpenAssistant/oasst1 |
