---
license: apache-2.0
task_categories:
- text-generation
- text-classification
language:
- de
- en
tags:
- early-childhood-education
- pedagogy
- benchmark
- margaret-carr
- llm-as-a-judge
- dpo
- learning-stories
- local-ai
- elementarpädagogik
- lerngeschichten
- frühkindliche-bildung
- early-years
- education-infantile
- historias-de-aprendizaje
- 幼儿教育
- 学习故事
---

# 🧸 EleMo-Pedagogy-Bench-DE (Dataset & Tool)

Dieses Repository bietet ein **Lerngeschichten-Benchmark-Tool**, um pädagogische Lerngeschichten nach der Methodik von Margaret Carr miteinander zu vergleichen. Das Skript ist an ein lokales LLM als Juror (via LM Studio) angebunden. Zusätzlich gibt es eine leere Vorlage für die Batch-Verarbeitung, um viele Lerngeschichten gleichzeitig auszuwerten.

**Warum ist das so wichtig?**  
An Künstlicher Intelligenz führt heute kein Weg mehr vorbei – auch nicht in der frühkindlichen Bildung. Genau deshalb müssen wir jetzt die Weichen stellen und diese technologische Entwicklung in die richtigen, pädagogisch wertvollen Bahnen lenken. Es ist essenziell geworden, KI-generierte Texte systematisch zu untersuchen und zu vergleichen, um fachliche Standards zu wahren und Halluzinationen vorzubeugen. 

Ich stelle dieses Tool und Dataset online, weil es mir ein wichtiges Anliegen ist, dass wir die Qualität in der Elementarpädagogik gemeinsam und transparent verbessern. 

Ein spannendes Learning aus aktuellen Tests mit diesem Benchmark: Das speziell auf diesen Bereich feingetunte, lokale **EleMo-Modell V2 (28B)** schneidet bei der Bewertung und Erstellung minimal besser ab als riesige Cloud-Modelle wie *Gemini 3.1 Pro Extended Thinking*. Das zeigt deutlich: Die schiere Größe eines KI-Modells hat nicht zwingend etwas mit der Ausgabequalität zu tun – Spezialisierung schlägt oft Parameter-Masse! :)

**Aktuelle Funktionen des Skripts:**
1. **A/B-Vergleich:** Vergleich zweier Lerngeschichten nach Carr.
2. **Batch-Verarbeitung:** A/B-Vergleich für eine große Anzahl an Lerngeschichten (Stapelverarbeitung).
3. **Einzelanalyse:** Analyse einer einzelnen Lerngeschichte nach den Carr-Kriterien.


**WICHTIG**: Es ist an LM Studio auf der lokalen Hardware angebunden. Dieses Script läuft ohne dies nicht. Bei Nutzung einer Online API muss die **ONLINE-VERSION** genutzt werden.
---

## 🇩🇪 Deutsch

Dieses Dataset enthält die Evaluierungsdaten für den **EleMo-Pedagogy-Bench-DE**, einen Benchmark zur objektiven Bewertung von pädagogischen Lerngeschichten nach der Methodik von Margaret Carr.

### 📊 Inhalt des Datasets
Das Dataset umfasst **11 diverse, pädagogische Szenarien** (u.a. Konflikte, Risky Play, Inklusion, minimale Rohdaten). Für jedes Szenario enthält es:
* Die **Rohdaten** (stichpunktartige Beobachtung).
* Den **Output von EleMo-V2** (28B, lokal, spezialisiert).
* Den **Output von Gemini 3.1 Pro** (Cloud, Generalist).
* Die **strukturierte Bewertung** durch einen neutralen Judge (Llama 3.3 70B).
* Das **Skript** für die persönliche Nutzung zum Vergleichen von Lerngeschichten nach Carr (A/B-Vergleich).
* Die **leere Vorlage** für eine größere Stapelverarbeitung von Lerngeschichten nach Carr (A/B Batch-Vergleich).

### 🎯 Anwendungsfälle
* **LLM-as-a-Judge Evaluation:** Teste, wie gut andere Modelle pädagogische Texte bewerten.
* **DPO / RLHF Training:** Nutze die EleMo-Outputs als "Chosen" und die Gemini-Outputs als "Rejected", um Modelle auf pädagogische Guardrails zu trainieren.
* **Prompt Engineering:** Analysiere, welche Prompts zu besserer "Epistemischer Disziplin" (Vermeidung von Halluzinationen) führen.

### 💻 Python-Script zur Anwendung
**GitHub:** Unter [github.com/kita-digital](https://github.com/kita-digital) finden Sie das Skript einsatzbereit für Ihre eigenen Benchmarks.

### ⚖️ Lizenz & Datenschutz
Dieses Dataset steht unter der **CC BY-NC 4.0** Lizenz (Namensnennung, Nicht-Kommerziell).
*Wichtig:* Alle Beobachtungsdaten in diesem Dataset sind **synthetisch generiert** oder stark anonymisierte Beispielszenarien. Es enthält **keine** echten, personenbezogenen Daten von Kindern.

---

## 🇬🇧 English

This repository provides a **Learning Story Benchmark Tool** to objectively compare pedagogical learning stories based on Margaret Carr's methodology. The script connects to a local LLM acting as a judge (via LM Studio). Additionally, it includes a blank template for large-scale batch processing to evaluate many learning stories simultaneously.

**Why is this so important today?**  
There is no way around Artificial Intelligence anymore – and that includes early childhood education. That is exactly why we need to set the course now and steer this technological development in the right, pedagogically sound direction. It has become essential to systematically analyze and compare AI-generated texts to maintain professional standards and prevent hallucinations.

I am making this tool and dataset publicly available because it is deeply important to me that we collaboratively and transparently improve the quality of early childhood education. 

An exciting takeaway from recent tests using this benchmark: The specifically fine-tuned, local **EleMo model V2 (28B)** performs slightly better than massive cloud models like *Gemini 3.1 Pro Extended Thinking*. This clearly demonstrates that the sheer size of an AI model does not necessarily correlate with output quality – specialization often beats parameter count! :)

**IMPORTANT**: It is connected to LM Studio on the local hardware. This script will not run without this connection. If you are using an online API, you must use the **ONLINE VERSION**.


### 📊 Dataset Contents
The dataset comprises **11 diverse, pedagogical scenarios** (including conflicts, risky play, inclusion, and minimal raw data). For each scenario, it contains:
* The **raw observation data** (bullet-point notes from educators).
* The **output from EleMo-V2** (28B, local, specialized model).
* The **output from Gemini 3.1 Pro** (cloud-based generalist model).
* The **structured evaluation** by a neutral judge (Llama 3.3 70B).
* The **script** for personal use to compare learning stories according to Carr (A/B comparison).
* The **blank template** for large-scale batch processing of learning stories according to Carr (A/B batch comparison).

### 🎯 Use Cases
* **LLM-as-a-Judge Evaluation:** Test how well other models evaluate pedagogical texts.
* **DPO / RLHF Training:** Use the EleMo outputs as "chosen" responses and the Gemini outputs as "rejected" responses to train models on pedagogical guardrails.
* **Prompt Engineering:** Analyze which prompts lead to better "epistemic discipline" (avoiding hallucinations of children's inner states).

### 💻 Python Script
**GitHub:** At [github.com/kita-digital](https://github.com/kita-digital), you'll find the script ready to use for your own benchmarks.

### ⚖️ License & Privacy
This dataset is licensed under **Apache 2.0 with Commons Clause**.
*Important:* All observation data in this dataset is **synthetically generated** or consists of heavily anonymized example scenarios. It contains **no** real, personally identifiable data from children.

---

## 📚 Citation / Zitierung

```bibtex
@dataset{elemo_pedagogy_bench_de,
  title = {EleMo-Pedagogy-Bench-DE: A Benchmark Dataset for Evaluating Learning Stories in Early Childhood Education},
  author = {Sebastian Götz / Kita Digital},
  year = {2026},
  publisher = {Hugging Face},
  url = {https://huggingface.co/datasets/Earlychildhoodeducation/EleMo-Pedagogy-Bench-DE-Dataset}
}
```