| --- |
| language: |
| - de |
| license: other |
| license_name: statikbench-commercial-1.0 |
| license_link: LICENSE.md |
| pretty_name: StatikBench |
| tags: |
| - civil-engineering |
| - structural-engineering |
| - eurocode |
| - din |
| - baunormen |
| - tragwerksplanung |
| - benchmark |
| - llm-evaluation |
| - german |
| - dach |
| - commercial-license |
| task_categories: |
| - question-answering |
| size_categories: |
| - 1K<n<10K |
| configs: |
| - config_name: default |
| data_files: data/statikbench_v0_3.jsonl |
| extra_gated_heading: StatikBench — Zugang beantragen |
| extra_gated_description: >- |
| StatikBench ist ein kostenpflichtig lizenziertes Werk. Die Freigabe dieses |
| Zugangs dient allein der Prüfung, ob eine Lizenz erworben werden soll — sie |
| räumt kein Nutzungsrecht ein. Jede Nutzung, Weitergabe, Veröffentlichung von |
| Ergebnissen sowie jede Verwendung als Trainings- oder Evaluationsdaten setzt |
| eine gesonderte, entgeltliche Lizenz voraus (LICENSE.md). |
| extra_gated_prompt: >- |
| Ich habe die Lizenzbedingungen (LICENSE.md) gelesen und erkenne sie an. Mir |
| ist bekannt, dass der Zugang kein Nutzungsrecht begründet, dass für Text und |
| Data Mining ein Nutzungsvorbehalt nach § 44b Abs. 3 UrhG erklärt ist und dass |
| jede über die Kenntnisnahme hinausgehende Nutzung eine entgeltliche Lizenz |
| erfordert. |
| extra_gated_fields: |
| Name: text |
| Organisation: text |
| E-Mail für Lizenzanfragen: text |
| Verwendungszweck: text |
| Angestrebte Lizenzart: |
| type: select |
| options: |
| - A — Evaluierung |
| - B — Forschung (akademisch) |
| - C — Unternehmen (interne Modellbewertung) |
| - D — Publikation von Ergebnissen |
| - E — KI-Training / Feinabstimmung |
| - F — OEM / Integration |
| - noch offen |
| Ich erkenne die Lizenzbedingungen an: checkbox |
| Ich bestätige, den Datensatz ohne KI-Trainingslizenz (Lizenzart E) nicht für Training zu verwenden: checkbox |
| extra_gated_button_content: Zugang beantragen |
| --- |
| |
| <p align="center"> |
| <img src="assets/statikbench-banner.png" alt="StatikBench" width="100%"> |
| </p> |
|
|
| <p align="center"> |
| <img src="https://img.shields.io/badge/Items-1000-2B6CB0?style=flat-square" alt="1000 Items"> |
| <img src="https://img.shields.io/badge/Subtracks-10-2B6CB0?style=flat-square" alt="10 Subtracks"> |
| <img src="https://img.shields.io/badge/GT--Felder-4%20376%20verifiziert%20·%200%20Toleranzverst%C3%B6%C3%9Fe-2F855A?style=flat-square" alt="4376 GT-Felder verifiziert"> |
| <img src="https://img.shields.io/badge/Gegengerechnet-SOFiSTiK%202024%20%C2%B7%202026-2F855A?style=flat-square" alt="Mit SOFiSTiK 2024 und 2026 gegengerechnet"> |
| <img src="https://img.shields.io/badge/Normbezug-DIN%20·%20EC--NA%20·%20DE%20%C2%B7%20AT%20%C2%B7%20CH-6B7280?style=flat-square" alt="Normbezug DIN, Eurocode-NA, DE AT CH"> |
| <img src="https://img.shields.io/badge/Lizenz-kommerziell%20·%20gated-DD6B20?style=flat-square" alt="Lizenz"> |
| </p> |
|
|
| # StatikBench v0.3 (private Preview) |
|
|
| > **Zugang nur per Access Request.** Die Freigabe dient der Prüfung vor einem |
| > Lizenzerwerb und räumt kein Nutzungsrecht ein — jede Nutzung setzt eine |
| > kostenpflichtige Lizenz voraus ([LICENSE.md](LICENSE.md)). |
|
|
| **Der erste deutschsprachige LLM-Benchmark für Baunormen und normbasierte |
| Tragwerksbemessung (DE · AT · CH)** — ein **[Statika](https://statika.ai)**-Projekt, |
| von den Machern von German-OCR und BelegBench. |
|
|
| Es gibt Benchmarks für chinesische Baunormen (AECBench), US-Codes (PE Civil |
| Bench) und dänische Bauordnungen (BR18) — für DIN, Eurocode-NA, ÖNORM und SIA |
| gab es bisher keinen. StatikBench schließt die Lücke: **1000 Items, 100 % |
| synthetisch, seed-reproduzierbar**, jede Ground Truth deterministisch vom |
| Statika-Rechenkern berechnet und gegen analytische Anker verifiziert |
| (qL²/8 · 5qL⁴/384EI · π²EI/L²). Balkenstatik und Bemessung sind darüber |
| hinaus feldweise mit **SOFiSTiK** gegengerechnet — der in der |
| deutschsprachigen Tragwerksplanung etablierten DIN-EN/NA-Software — und zwar |
| in zwei Programmfassungen (2024 und 2026) mit übereinstimmendem Ergebnis. |
| Kein Norm-Wortlaut im Dataset — Normen werden |
| ausschließlich referenziert (siehe [LEGAL.md](LEGAL.md)). |
|
|
| ## Tracks |
|
|
| | Track | Subtracks | Items | Jurisdiktion | |
| |---|---|---:|---| |
| | **Lastannahmen** | Wind (EC1-1-4/NA) · Schnee (EC1-1-3/NA) · Erdbeben (EC8/NA) | 320 | DE | |
| | **Balkenstatik** | Einfeldträger · Kragarm · Zweifeld-Durchlaufträger | 360 | DE · AT · CH (reine Mechanik) | |
| | **Bemessung** | EC3-Biegeknicken · EC5-Holz · EC2-Stahlbeton | 320 | DE | |
|
|
| **138 Negativ-Items (13,8 %):** Eine zur Lösung nötige Angabe fehlt bewusst — die |
| korrekte Antwort ist `null`. Ein Modell, das trotzdem Werte liefert, |
| halluziniert Lastannahmen. Das speist die **Halluzinationsrate**, die |
| Sicherheitsmetrik für Ingenieur:innen. |
|
|
| ## Verifikation |
|
|
| <p align="center"> |
| <img src="https://img.shields.io/badge/SOFiSTiK%202024-%E2%9C%93%20gegengerechnet-2F855A?style=flat-square" alt="SOFiSTiK 2024 gegengerechnet"> |
| <img src="https://img.shields.io/badge/SOFiSTiK%202026-%E2%9C%93%20gegengerechnet-2F855A?style=flat-square" alt="SOFiSTiK 2026 gegengerechnet"> |
| <img src="https://img.shields.io/badge/PyNite-%E2%9C%93%20gegengerechnet-2F855A?style=flat-square" alt="PyNite gegengerechnet"> |
| <img src="https://img.shields.io/badge/anaStruct-%E2%9C%93%20gegengerechnet-2F855A?style=flat-square" alt="anaStruct gegengerechnet"> |
| <img src="https://img.shields.io/badge/Analytische%20Anker-%E2%9C%93-2F855A?style=flat-square" alt="Analytische Anker"> |
| </p> |
|
|
| Jede Musterlösung durchläuft eine mehrstufige, unabhängige Verifikation: von |
| analytischen Ankern über eine Doppel-Gegenrechnung mit zwei unabhängigen |
| Open-Source-FEM-Kernen bis zur feldweisen Gegenrechnung mit **SOFiSTiK**, der |
| DIN-EN/NA-Referenzsoftware der deutschsprachigen Tragwerksplanung — dort in |
| zwei Programmfassungen (2024 und 2026), die zu identischen Ergebnissen führen. |
| Sämtliche normativen Parameter sind quellenbelegt statt angenommen. |
|
|
| | Prüfstufe | Umfang | Ergebnis | |
| |---|---|---| |
| | **Analytische Anker** (qL²/8 · 5qL⁴/384EI · π²EI/L²) | jede Ground Truth | ✓ bestätigt | |
| | **Doppel-Gegenrechnung Balkenstatik** — PyNite · anaStruct | 1 583 Felder | ✓ 100 % innerhalb der Toleranzen · max. Abweichung 0,014 % | |
| | **SOFiSTiK 2024 — Balkenstatik** | 1 583 Felder | ✓ 1 582 Felder bestätigt · Median-Abweichung 0,0002 % | |
| | **SOFiSTiK 2026 — Balkenstatik** (unabhängige Wiederholung) | 1 583 Felder | ✓ Ergebnis identisch zur Fassung 2024 | |
| | **SOFiSTiK 2024 + 2026 — Bemessung** (EC3-Knicken · EC5-Holz · EC2-Bewehrung) | 1 239 Felder je Fassung | ✓ in beiden Fassungen bestätigt · Ergebnisse deckungsgleich | |
|
|
| Damit sind **2 821 Ground-Truth-Felder durch SOFiSTiK bestätigt**, jeweils in |
| zwei Programmfassungen mit deckungsgleichem Ergebnis. Die Balkenstatik ist |
| zusätzlich durch zwei unabhängige Open-Source-Kerne abgesichert. |
|
|
| Nicht abgedeckt sind der EC2-Biegenachweis gegen vorhandene Bewehrung — das |
| Bemessungsmodul gibt die Vergleichsgröße nicht aus — sowie die |
| Querkraft-Teilgrößen, für die das Bemessungsmodul andere Modellannahmen trifft |
| als die Aufgabenstellung vorgibt. Beides ist im Verifikationsbericht als |
| bekannte Grenze dokumentiert und fließt nicht in die Bewertung ein. |
|
|
| Weitere unabhängige Prüfstufen bis hin zur externen Fachprüfung sind in |
| Umsetzung. Einzelheiten zum Verifikationsverfahren stellen wir Lizenznehmern |
| auf Anfrage bereit. |
|
|
| <sub>SOFiSTiK ist eine Marke der SOFiSTiK AG; PyNite und anaStruct sind |
| Projekte ihrer jeweiligen Inhaber. Die Nennung erfolgt ausschließlich zur |
| wahrheitsgemäßen Beschreibung der zur unabhängigen Gegenrechnung eingesetzten |
| Software. Eine geschäftliche Verbindung, Partnerschaft oder Empfehlung durch |
| die genannten Anbieter besteht nicht.</sub> |
|
|
| ## Erste Ergebnisse |
|
|
| <p align="center"> |
| <img src="assets/leaderboard-v03.png" alt="StatikBench-Leaderboard v0.3 — Field-EM und Halluzinationsrate je Modell; Statika AI 96,9 % / 0,0 %" width="100%"> |
| </p> |
|
|
| | Modell / Modus | Field-EM | Halluzinationsrate | Verify-Catch | Latenz | Parse-Fehler | |
| |---|---:|---:|---:|---:|---:| |
| | Qwen3.6:35B (roh) | 22,8 % | 42,1 % | 26,7 % | 1,8 s | 0/576 | |
| | Qwen3.6:35B (roh) · Reasoning | 58,0 % | 23,1 % | 11,3 % | 73,6 s | 11/600 | |
| | Qwen3.6:27B (roh)¹ | 23,0 % | 33,3 % | 30,4 % | 5,0 s | 0/120 | |
| | Qwen3.6:27B (roh)¹ · Reasoning² | 75,2 % | 20,0 % | 12,6 % | 353 s | 0/79 | |
| | Gemma 4 26B (roh)¹ | 21,7 % | 44,4 % | 28,7 % | 25,3 s | 2/120 | |
| | Gemma 4 26B (roh)¹ · Reasoning | 35,6 % | 55,6 % | 14,9 % | 122,9 s | 49/120 | |
| | Fable 5 (Anthropic)³ | 92,7 % | 13,9 % | — | 27,5 s | 0/120 | |
| | Opus 5 (Anthropic)³ | 92,6 % | 17,6 % | — | 24,8 s | 3/120 | |
| | **Statika AI** | **96,9 %** | **0,0 %** | 31,1 % | 2,9 s | **0/600** | |
|
|
| *¹ n = 120 (track-balanciertes Subset). ² 41 von 120 Anfragen im Timeout (900 s) — |
| gewertet n = 79; die Zahl ist dadurch eher optimistisch. |
| ³ n = 120 (track-balanciertes Subset), gemessen gegen Fassung v0.3 mit eigenem |
| Harness nach identischer Metrikdefinition; Latenz = Median; Verify-Catch nicht |
| erhoben. Je Track (Balkenstatik · Bemessung · Lastannahmen): |
| Fable 5 100,0 · 94,7 · 78,3 % — Opus 5 100,0 · 97,1 · 72,5 %. |
| Kandidaten-Parameter: Qwen3.6:27B = dense, 27 Mrd. · Gemma 4 26B = MoE, 25,2 Mrd. |
| gesamt / 3,8 Mrd. aktiv. Statika AI: Parameter nicht veröffentlicht.* |
|
|
| Rohe Sprachmodelle scheitern an normbasierter Tragwerksplanung (22,8 %) und |
| erfinden bei fehlenden Angaben in 4 von 10 Fällen Werte; Reasoning hebt die |
| Genauigkeit auf 58 %, löst aber weder Wissens- noch Sicherheitsproblem. **Statika AI |
| erreicht 96,9 % Feld-Genauigkeit bei 0,0 % Halluzination und 2,9 s** — ohne |
| einen einzigen Parse-Fehler über alle 600 Aufgaben. |
|
|
| ## Spalten |
|
|
| | Spalte | Typ | Inhalt | |
| |---|---|---| |
| | `item_id`, `track`, `subtrack`, `jurisdiction` | str | Identität & Einordnung; `jurisdiction` = `DE` bzw. `DACH` als Sammelwert für DE · AT · CH | |
| | `seed` | int | Generator-Seed (Item vollständig reproduzierbar) | |
| | `negative` | bool | Angabe fehlt bewusst → betroffene GT-Felder sind `null` | |
| | `prompt` | str | vollständige deutsche Aufgabe inkl. Antwort-JSON-Schema | |
| | `fields` | str (JSON) | Feld-Spezifikationen: `name`, `kind`, `rtol`/`atol`, `choices`, Einheit | |
| | `ground_truth` | str (JSON) | Musterlösung (deterministisch berechnet) | |
| | `inputs` | str (JSON) | maschinenlesbare Aufgaben-Eingaben (für den Physik-Verifier) | |
| | `norm_refs` | list[str] | referenzierte Normabschnitte (nur Referenzen, nie Wortlaut) | |
| | `provenance` | str | Herkunft der Ground Truth | |
|
|
| ## Bewertung |
|
|
| Feldweise 5-Status-Klassifikation (correct / wrong / missed / hallucinated / |
| true_null) mit ingenieurgerechten Toleranzen (relativ 2–5 % je Feld, |
| Dezimalkomma-tolerant). Dazu ein deterministischer **Physik-Verifier** |
| (Gleichgewicht ΣR = ΣF, w_e = c_pe·q_p, N_b,Rd = χ·A·f_y/γ_M1, η ↔ Verdikt), |
| der Modellfehler ohne Kenntnis der Lösung fängt → Verify-Catch-Rate. |
| Eval-Harness: privates Repo `statikbench` (Release mit v1.0 geplant). |
| |
| ## Fassungen |
| |
| | Datei | Fassung | Items | Status | |
| |---|---|---:|---| |
| | `data/statikbench_v0_3.jsonl` | v0.3 | 1000 | **aktuell** — Standard-Config | |
| | `data/statikbench_v0.jsonl` | v0.1 | 600 | Vorgängerfassung, nur zur Reproduktion früherer Auswertungen | |
|
|
| ## Lizenz |
|
|
| **StatikBench ist kostenpflichtig lizenziert.** Der Zugang über die |
| Zugriffsanfrage dient der Prüfung — ein Nutzungsrecht entsteht daraus nicht. |
|
|
| Der Datensatz ist als Datenbank nach §§ 87a ff. UrhG geschützt; die Rechte des |
| Datenbankherstellers werden ausdrücklich geltend gemacht. Für Text und Data |
| Mining ist der Nutzungsvorbehalt nach § 44b Abs. 3 UrhG erklärt — die |
| gesetzliche Schranke greift damit nicht, Training bedarf einer Lizenz. |
|
|
| | Lizenz | Für | |
| |---|---| |
| | **A — Evaluierung** | befristete interne Prüfung | |
| | **B — Forschung** | Hochschulen, nicht-kommerziell, mit Publikationsrecht | |
| | **C — Unternehmen** | interne Bewertung eigener Modelle | |
| | **D — Publikation** | Veröffentlichung von Ergebnissen und Ranglisten | |
| | **E — KI-Training** | Training, Feinabstimmung, Destillation | |
| | **F — OEM** | Einbettung in eigene Produkte, Weitergabe | |
|
|
| Bedingungen: [LICENSE.md](LICENSE.md) · Konditionen auf Anfrage über |
| [statika.ai](https://statika.ai) |
|
|
| Der Datensatz ist ein Messinstrument für Sprachmodelle. Er ist **keine Grundlage |
| für Tragwerksplanung** oder Nachweisführung an realen Bauwerken. Leitplanken der |
| Item-Konstruktion: [LEGAL.md](LEGAL.md) |
|
|
| --- |
|
|
| <p align="center"> |
| <b><a href="https://statika.ai">Statika</a></b> — 3D-FEM Berechnung & Bemessung, Eurocode/DIN-nativ.<br> |
| StatikBench ist der Benchmark hinter Statika AI. |
| </p> |
|
|
