Datasets:
Tasks:
Question Answering
Modalities:
Text
Formats:
json
Languages:
Japanese
Size:
10K - 100K
Tags:
legal
License:
license: cc-by-4.0 | |
task_categories: | |
- question-answering | |
language: | |
- ja | |
tags: | |
- legal | |
size_categories: | |
- 10K<n<100K | |
# このデータセットについて | |
このデータは、日本の官公庁のWebサイトに掲載されている「よくある質問」を手作業で抽出し、インストラクション用のデータセットとしたものです。 | |
日本の官公庁のWebサイトは多くが「政府標準利用規約(第2.0版)」に準拠しており、この規約はCC-BY-4.0(国際)と互換性があると記述されています。 | |
参考 https://www.digital.go.jp/copyright-policy | |
したがって本データセットの著作権者はデータセットのcopyrightに記載された各官公庁であり、ライセンスもCC-BY-4.0(国際)です。データセット製作者は著作権を主張しません。 | |
# 特徴 | |
- 質問と回答の形式になっています。 | |
- 国家公務員によるチェックを経ているので、誤字脱字がほぼありません。もしあったら、このデータセット製作者(松xR)のミスに起因するものです。御指摘いただければ修正いたします。 | |
- 論旨も明快で、日本語として品質の高いデータセットであると考えています。 | |
- ソースとなるURLも添付しているため、リンク集としても活用出来ます | |
# 想定する利用法 | |
- 大規模言語モデルのInstruction Tuning | |
- RAGの実装テストのためのデータベース | |
# 免責事項 | |
- 本データセットは現状のままで提供され、データセット製作者はその利用における一切の責任を負いません。 | |
- 手作業でデータをまとめたため、作業ミスによるデータの間違いがある可能性があります。御指摘いただければ修正する意志はありますが、修正を保証するものではありません。 | |
# 現時点で存在する課題 | |
- 官公庁の文書は多くが、箇条書き、表組み、図示を活用して作成されています。これらを機械的にプレーンテキストに変換しているため、プレーンテキストだけを見ても意味が通りにくいことがあります。 | |
- 特にPDFから変換したものは上記の問題を多く含むため、ソースURLの末尾がpdfになっているものは利用しない、などの方法が考えられます | |
- 官公庁の文書は日本政府の立場を表明するものであるため、主張の強い文章も含まれます。特定の立場・思想が強く反映されたチューニングを行いたくない場合には、適さない可能性があります。 | |
- 人の目でフィルタリングするのも有効です。 | |
- 気象庁のデータは事実説明にとどまるものが多く、まずは気象庁のデータだけを利用することも一つの方法です。 |