erayalp/turkish-msmarco-listwise-rankings

MSMARCO-TR Ranked SFT Subset

(Turkish Multi-Relevant Passage Ranking — LLM-Generated Target Permutations)

---

Overview

This dataset is a Turkish, listwise-ranked, target-label subset derived from the multi-relevant MS MARCO Turkish translation dataset erayalp/turkish-msmarco-listwise-relevancy.
While the base dataset provides only binary relevance labels (is_selected), this subset adds:

• Full 10-passage ranking permutations (ranking)
• Short rationale strings explaining the ranking (reasoning)

All rankings and rationales were generated using Gemini 2.5 Flash with a strict listwise prompt that enforces positive-first ordering and coherence. All the rankings are checked by a sanity check script for inconsistencies in ranking permutations.

The dataset is intended for LLM-based reranking, SFT, reward modeling, and reinforcement learning for Turkish Information Retrieval.

---

Key Features

• High-quality target rankings from Gemini 2.5 Flash
• Strict permutation of 10 passages (0–9 indices)
• Short, consistent rationales suitable for SFT or RM
• Fully preserved MS MARCO structure
• Ideal for GRPO/DPO due to multi-relevant structure
• Optimized for LLM-based listwise ranking tasks

---

Data Fields

Field	Type	Description
query	string	Turkish-translated MS MARCO query
passages	list[string]	List of 10 passages
is_selected	list[int]	Binary relevance labels for each passage index
ranking	list[int]	Model-generated ranking of passages
reasoning	string	Short rationale for the ranking
query_type	string	MS MARCO query category
query_id	int	Original MS MARCO query ID

Example Record

{
  "is_selected": [1, 0, 0, 0, 0, 0, 0, 1, 0, 0],
  "ranking": [0, 7, 9, 6, 5, 4, 8, 3, 1, 2],
  "reasoning": "Sorgu UNICEF'in ne olduğunu soruyor. ID 0, kuruluşun tam adını, bağlı olduğu kurumu, merkezini ve temel misyonunu doğrudan ve kapsamlı bir şekilde açıklayarak en iyi cevabı veriyor. ID 7, tam adını belirtiyor ve adının ve yetkisinin zaman içindeki değişimini anlatıyor, bu da bir tanım için önemli bir arka plan sağlıyor. ID 9, kuruluşun tam adını, kuruluş tarihini ve adının nasıl evrildiğini özetliyor. ID 6 da benzer şekilde kuruluşun başlangıçtaki amacını ve isim değişimlerini açıklıyor. ID 5, kuruluşun temelini, ilk amacını ve kurucusunu detaylandırıyor. ID 4, kuruluşun odak noktasının zamanla nasıl değiştiğini ve isim revizyonunu belirtiyor. ID 8, kuruluşun faaliyet gösterdiği coğrafi kapsamı ve işleyişini anlatıyor. ID 3, kuruluşun popülaritesini ve aldığı finansal desteği sunuyor. ID 1, kuruluşun bütçesinin harcanma şekline dair spesifik bir bilgi veriyor. ID 2 ise kuruluşun bazı tartışmalı işbirliklerine odaklandığı için genel bir tanıma en az katkıyı sağlıyor.",
  "query": "unicef nedir",
  "passages": [
    "Birleşmiş Milletler Çocuk Fonu (UNICEF; /ˈjuːnᵻsɛf/) Birleşmiş Milletler (BM) programı olup, New York Şehri'nde merkezlenmiştir ve gelişmekte olan ülkelerdeki çocuklara ve annelere insani ve kalkınma yardımı sağlar.",
    "ABD UNICEF Fonu bütçesinin hangi kısmı çocuklara yardım için harcanıyor? ABD UNICEF Fonu, Charity Navigator'dan şeffaflık, hesap verebilirlik ve yönetim açısından en yüksek puanları alır. Harcanan her dolardan 90 cent'i çocuklara yardım için gider.",
    "Bunun pek bilinmemesi, UNICEF'in hayatı onaylayan, çocukları kurtaran ve Nobel barış ödüllü bir vakıftan, dünyanın en kötü şöhretli aile planlaması örgütlerinden bazılarıyla kontraseptif dağıtan, kürtaj yapan ve sterilizasyon sağlayan bir ortak haline gelmesidir.",
    "UNICEF Hakkında Gerçek. UNICEF, şüphesiz, Amerikalılar arasında en çok bilinen ve muhtemelen en popüler BM ajansıdır. Organizasyon 2002 yılında yalnızca Amerika Birleşik Devletleri'nden 282 milyon dolar aldı.",
    "1950'de BM, UNICEF'in acil yardımın ötesine geçerek çocukların uzun vadeli ihtiyaçlarına odaklanmasını istedi. 1953'te organizasyonun adı Birleşmiş Milletler Çocuk Fonu olarak değiştirildi ancak orijinal kısaltma korundu. 1960'ların ortalarına kadar UNICEF misyonunu yerine getirdi ve dünyanın en muhtaç çocuklarına büyük hizmet sağladı.",
    "UNICEF, 11 Aralık 1946'da Birleşmiş Milletler Genel Kurulu tarafından II. Dünya Savaşı'ndan büyük zarar görmüş ülkelerdeki çocuklara acil gıda ve sağlık hizmeti sağlamak amacıyla kuruldu. Polonyalı hekim Ludwik Rajchman, UNICEF'in kurucusu olarak geniş çapta kabul edilir ve 1946'dan itibaren ilk başkanı olarak görev yaptı.",
    "UNICEF, Birleşmiş Milletler Çocuk Fonu'dur. UNICEF 1946'da savaşla yıkılmış Avrupa, Çin ve Orta Doğu'daki çocuklara yardım etmek için kurulduğunda, kısaltma Birleşmiş Milletler Uluslararası Çocuk Acil Durum Fonu anlamına geliyordu. 1953'te UNICEF'in yetkisi, gelişmekte olan dünyadaki çocukların ihtiyaçlarını karşılayacak şekilde genişletildi. O dönemde, organizasyonun adından uluslararası ve acil kelimeleri çıkarılarak sadece Birleşmiş Milletler Çocuk Fonu adı kullanıldı.",
    "UNICEF, Birleşmiş Milletler Çocuk Fonu'dur. 1953'te UNICEF'in yetkisi, gelişmekte olan dünyadaki çocukların ihtiyaçlarını karşılayacak şekilde genişletildi. O dönemde, organizasyonun adından uluslararası ve acil kelimeleri çıkarılarak sadece Birleşmiş Milletler Çocuk Fonu adı kullanıldı.",
    "UNICEF'in çalışmalarının çoğu sahada gerçekleşir; 190'dan fazla ülke ve bölgede personeli vardır. 200'den fazla ülke ofisi, ev sahibi hükümetlerle geliştirilen programlar aracılığıyla UNICEF'in misyonunu yürütür. Yedi bölgesel ofis, ihtiyaç duyulduğunda ülke ofislerine teknik destek sağlar.",
    "Birleşmiş Milletler Çocuk Fonu ya da UNICEF, uluslararası bir organizasyondur. Birleşmiş Milletler, UNICEF'i 11 Aralık 1946'da kurdu. O zaman adı Birleşmiş Milletler Uluslararası Çocuk Acil Durum Fonu idi. Böylece UNICEF, kısa adı haline geldi. 1953'te Birleşmiş Milletler Uluslararası Çocuk Acil Durum Fonu, adından Acil ve Uluslararası kelimelerini çıkardı."
  ],
  "query_type": "DESCRIPTION",
  "query_id": 859055
}

---

How Rankings Were Generated

Rankings and rationales were produced with Gemini 2.5 Flash (2025) using a robust listwise prompt:

1. Identify all passages labeled 1 (positives)
2. Rank positives among themselves based on detail, directness, and coverage
3. Rank negatives among themselves (hard negatives → soft negatives)
4. Ensure all positives strictly precede negatives
5. Output only a 10-element JSON permutation
6. Add a short rationale describing relative relevance

This results in highly consistent and explainable listwise targets.

Dataset Statistics

Statistic	Value
Total Rows	~4.9k
Passages per query	10
Added fields	ranking, reasoning
Avg rationale length	~850 characters
Positives per query	≥ 2 (inherited from base dataset filtering)
Language	Turkish
Ranking generator	Gemini 2.5 Flash
Dataset type	Listwise SFT / RL-ready

---

Why This Dataset?

1. Listwise Supervision

The dataset includes full 10-element ranking permutations, enabling training models to learn true orderings instead of relying on binary signals.

2. RL-Friendly Structure

The multi-relevant distribution allows smooth nDCG/MRR-based rewards for GRPO/DPO.
Every improvement in rank position yields incremental reward gains.

3. Multi-Relevant Advantage

MS MARCO often has multiple valid answers.
This subset preserves that behavior and makes it explicit in the ranking targets.

4. High-Quality Rationales

Short reasoning strings help with:

• Reward modeling
• Explanation-aware SFT
• Troubleshooting ranking failures
• Data transparency

---

About This Dataset

This ranked SFT subset was generated as an extension of the Turkish multi-relevant MS MARCO translation dataset created for the study
“Reinforcement Learning for LLM-Based Listwise Reranking in Turkish Information Retrieval”
conducted by Eray Alp & Tunahan Ibiş.

While the original dataset provides Turkish translations and binary relevance labels, this subset adds LLM-generated ranking permutations and short rationale explanations to support supervised fine-tuning and reinforcement learning for listwise reranking.

The study has not been formally published yet.

---

Relationship to Base Dataset

This dataset is directly derived from
erayalp/msmarco-tr-listwise-relevancy,
which contains Turkish-translated MS MARCO queries with multi-relevant labels.

This ranked subset introduces two new fields:

• ranking – A 10-element passage permutation generated by Gemini 2.5 Flash
• reasoning – A short rationale explaining the ranking decisions

All other components (query, passages, is_selected, query_type, and query_id) are preserved exactly as in the base dataset. No passages, labels, or translations were modified.

This design ensures full compatibility with the original dataset while enabling advanced training setups such as listwise SFT, reward modeling, and GRPO/DPO reinforcement learning.

---

License

This dataset is a translated derivative of MS MARCO.
You must comply with Microsoft’s MS MARCO license.

---

Citation

Original MS MARCO Dataset

@article{DBLP:journals/corr/NguyenRSGTMD16,
  author    = {Tri Nguyen and
               Mir Rosenberg and
               Xia Song and
               Jianfeng Gao and
               Saurabh Tiwary and
               Rangan Majumder and
               Li Deng},
  title     = {{MS} {MARCO:} {A} Human Generated MAchine Reading COmprehension Dataset},
  journal   = {CoRR},
  volume    = {abs/1611.09268},
  year      = {2016},
  url       = {http://arxiv.org/abs/1611.09268},
  archivePrefix = {arXiv},
  eprint    = {1611.09268},
  timestamp = {Mon, 13 Aug 2018 16:49:03 +0200},
  biburl    = {https://dblp.org/rec/journals/corr/NguyenRSGTMD16.bib},
  bibsource = {dblp computer science bibliography, https://dblp.org}
}