mahiyama/mmarco-ja

日本語 MS MARCO passage ranking データセット hpprc/mmarco-ja (391,060 クエリ + 8,841,823 passages) を元に、SPLADE 等のスパース検索モデル学習 に使える Triplets / Pairs フォーマットへ加工したデータセット。

TL;DR

subset	列	行数 (train / eval)	用途
triplets	anchor, positive, negative_1...negative_5	~390,000 / 1,000	contrastive 学習用 n-tuple。MS MARCO 由来の hard negative を 5 件付与
pairs	anchor, positive	~391,000 / —	元 dataset/train を (anchor, positive) の pairwise 形式に展開

• 言語: 日本語 (機械翻訳ベース)
• ライセンス: other (MS MARCO 由来、下流利用は研究用途が前提)
• Passage コーパス: MS MARCO passage v1 の日本語翻訳版 (8.84M passages)

Usage

from datasets import load_dataset

# triplets (SPLADE / MultipleNegativesRankingLoss 等向け)
ds = load_dataset("mahiyama/mmarco-ja", "triplets")
print(ds)
# DatasetDict({
#   train: Dataset({ features: ['anchor', 'positive', 'negative_1', ..., 'negative_5'], num_rows: ~390000 })
#   eval:  Dataset({ features: [...], num_rows: 1000 })
# })

row = ds["train"][0]
print(row["anchor"])      # 例: ")マンハッタン計画の成功の直接の影響は何でしたか?"
print(row["positive"])    # 対応する正例 passage (MS MARCO passage 日本語訳)
print(row["negative_1"])  # MS MARCO hard negative top-1

# pairs (元 hpprc/mmarco-ja の (anchor, positive) pairwise 版)
pairs = load_dataset("mahiyama/mmarco-ja", "pairs")

データ構造

triplets subset

列	型	説明
anchor	string	MS MARCO 質問文の日本語訳 (NFKC 正規化済み、平均 16 文字)
positive	string	該当クエリの正例 passage (collection[pos_ids[0]])
negative_1 ... negative_5	string	MS MARCO 由来の hard negative passage top-5 (collection[neg_ids[0..4]])

split	num_rows
train	~390,000
eval	1,000

pairs subset

列	型	説明
anchor	string	同上 (NFKC 済みクエリ)
positive	string	同上 (正例 passage)

split	num_rows
train	~391,000

構築パイプライン

背景

hpprc/mmarco-ja は mmarco (MS MARCO passage ranking の多言語翻訳版) の日本語 subset を、query をキーとした重複削除 + エンコーディング補正 + NFKC 正規化 で整形したデータセット。以下 2 subset から成る:

• collection/train (8,841,823 行): text: string — passage 本文コーパス
• dataset/train (391,060 行): anc: string, pos_ids: list<int64>, neg_ids: list<int64>

pos_ids / neg_ids は collection/train の行インデックス であり、collection[pos_id] で passage 本文を引ける構造。neg_ids は中央値 100 件と潤沢 (P5=70, P90=115) で、MS MARCO の BM25 ベース hard negative がそのまま流用されている。

解決方法

本データセットは dense encoder でのマイニングを行わず、hpprc/mmarco-ja に既に付与されている pos_ids / neg_ids をインデックス参照するだけで triplet を構築する。

hpprc/mmarco-ja/dataset/train (391,060 行)
  │ anc, pos_ids, neg_ids
  ▼
collection/train (8,841,823 行, passage 本文) を list[str] に materialize
  │ collection[pos_ids[0]] / collection[neg_ids[0..4]] で本文解決
  ▼
mahiyama/mmarco-ja (triplets + pairs)

具体的な加工ステップ

1. Collection の materialize
   • hpprc/mmarco-ja/collection/train (8.84M 行) の text 列を Python list[str] に展開 (~1.5〜2 GB RAM)
   • 以降の数百万回のインデックス参照を高速化するため、Dataset 直読みではなくリスト化する
2. 空 passage の検出
   • README 3-1 節の通り collection には min = 0 の空 passage が混入しているため、build_triplet / to_pair 内で drop
3. Triplet 構築 (dataset/train を shuffle(seed=12) 後に全行に対して適用)
   • anchor = anc (既に NFKC 済み)
   • positive = collection_texts[pos_ids[0]] — 複数正例 (max=16) は稀 (P95=2) なので先頭を採用
   • negatives = neg_ids を先頭から順に走査し、空 passage / positive との重複を除外しつつ 5 件収集 (NUM_NEGATIVES=5, NEG_SKIP_TOP=0)
   • 5 件集められない / positive が空のクエリは drop (neg_ids は P5=70 なので drop 率は極小)
4. Train / Eval split
   • shuffle (seed=12) 済み triplets の末尾 1,000 行を eval に、残りを train に割り当てる
   • anchor は query 単位で unique (重複削除済み upstream) なので、単純 index split で leak は発生しない
5. Pairs subset
   • hpprc/mmarco-ja/dataset/train (full 391,060 行) を (anchor, positive) = (anc, collection[pos_ids[0]]) に展開
   • MAX_TRAIN_SIZE で triplets 側を subsample した場合でも、pairs は 常にフル 391K 行 を保持する (元データの pairwise 版を残す意図)
6. Hub Push
   • triplets / pairs の 2 subset として mahiyama/mmarco-ja に push

設計判断

Dense encoder でのマイニングを行わない

元の hpprc/mmarco-ja には MS MARCO の公式 triples ベースの hard negative が neg_ids として中央値 100 件 既に付与されている。MS MARCO の negatives は BM25 マイニングによるもので、lexical overlap が強い hard negative として SPLADE 系のスパース検索モデル学習と相性が良い。追加で dense encoder (multilingual-e5-large 等) を回すコストに見合う改善は見込みにくいため、既存 neg_ids の先頭 5 件をそのまま採用 する方針とした。

positive は pos_ids[0] 固定

pos_ids は P90=1, P95=2, max=16 で 93% 以上のクエリで単一正例。複数正例があるクエリでもスコア順ではないため、最も先頭のものを機械的に選ぶ。複数正例を展開すると (anchor, positive) の片側 unique 性が崩れて eval split leak のリスクが出るため、選ばない。

NEG_SKIP_TOP = 0 (先頭スキップなし)

MS MARCO の hard negative は BM25 マイニング + reranker フィルタ (MSMARCO Triples) を経ているため、先頭側に false negative が大量混入するリスクは低い。スキップせずに先頭 5 件を採用する。False negative への頑健性が気になるケースでは notebook 内の NEG_SKIP_TOP を上げて再構築可能。

元データの分布 (参考)

hpprc/mmarco-ja 側の文字数統計 (dataset/hpprc/mmarco-ja/text_length_stats.json より):

列	count	min	P50	mean	P95	max
collection/train.text (passage)	8,841,823	0	139	155.5	284	1,564
dataset/train.anc (query)	391,060	2	15	15.9	28	119

• Passage は P95=284 文字、max=1,564 文字と MS MARCO らしく短め。SPLADE 学習時の max_seq_length は 256〜384 tokens 程度で十分 (1,564 文字の極端ケースは truncate 許容)。
• クエリは中央値 15 文字・P95=28 文字と極端に短い。極小クエリ (min=2) は検索シグナルが乏しいが、本データでは特にフィルタしていない。

限界・既知の問題

• 機械翻訳品質: mmarco は MS MARCO 英語版を機械翻訳した合成データで、passage / query 共にゆるい翻訳調 が散見される (「マンハッタン計画の成功の直接の影響は何でしたか?」など)。ドメイン適応用途に使うときは自然な日本語クエリとの分布ズレに注意。
• False negative の残留: MS MARCO 由来の hard negative は BM25 上位 + reranker フィルタを経ているが、完全ではない。特に neg_ids 先頭近くには正解級 passage が混じる可能性があり、symmetric / bidirectional loss 等の頑健な設定を推奨。
• 空 passage の混入: collection/train には text = "" の行が少数混入している。本データセットでは triplet 構築時に除外済みだが、元 pos_ids[0] の指す passage が空だったクエリは丸ごと drop されているため、triplets / pairs の最終行数は元 391,060 より数百程度少ない。
• NFKC 正規化の前提: anchor は NFKC 済み。推論時もクエリを NFKC で揃えないと分布がずれる。
• Eval split の代表性: eval split 1,000 行は学習中の loss / acc@k 確認用であり、checkpoint 選択の主指標は mahiyama/amagasaki-qna-dataset 上の dot_recall@10 を使うこと (リポジトリ全体の方針)。

データソース

データセット	役割	ライセンス
hpprc/mmarco-ja	直接の上流。NFKC 済み日本語クエリ + passage + pos/neg インデックス	MS MARCO 準拠
unicamp-dl/mmarco	mmarco 本家 (MS MARCO の多言語翻訳版)	MS MARCO 準拠
microsoft/ms_marco	原典 (MS MARCO passage ranking, 英語)	MS MARCO Terms

Citation

元データ (mmarco) の paper:

@misc{bonifacio2021mmarco,
  title={mMARCO: A Multilingual Version of MS MARCO Passage Ranking Dataset},
  author={Luiz Henrique Bonifacio and Israel Campiotti and Roberto Lotufo and Rodrigo Nogueira},
  year={2021},
  eprint={2108.13897},
  archivePrefix={arXiv},
  url={https://arxiv.org/abs/2108.13897}
}

原典 MS MARCO:

@article{bajaj2016ms,
  title={MS MARCO: A Human Generated MAchine Reading COmprehension Dataset},
  author={Bajaj, Payal and Campos, Daniel and Craswell, Nick and Deng, Li and Gao, Jianfeng and Liu, Xiaodong and Majumder, Rangan and McNamara, Andrew and Mitra, Bhaskar and Nguyen, Tri and others},
  journal={arXiv preprint arXiv:1611.09268},
  year={2016}
}

License

MS MARCO 原典の利用規約に準拠する。MS MARCO は 非商用の研究用途 を前提としたデータセットであり、本派生データセットも同じスコープ (研究・ベンチマーク・モデル学習) での利用を想定する。詳細は MS MARCO Terms of Use と上流 hpprc/mmarco-ja / unicamp-dl/mmarco のライセンス記述を確認すること。