language:
- de
license: other
license_name: statikbench-commercial-1.0
license_link: LICENSE.md
pretty_name: StatikBench
tags:
- civil-engineering
- structural-engineering
- eurocode
- din
- baunormen
- tragwerksplanung
- benchmark
- llm-evaluation
- german
- dach
- commercial-license
task_categories:
- question-answering
size_categories:
- 1K<n<10K
configs:
- config_name: default
data_files: data/statikbench_v0_3.jsonl
extra_gated_heading: StatikBench — Zugang beantragen
extra_gated_description: >-
StatikBench ist ein kostenpflichtig lizenziertes Werk. Die Freigabe dieses
Zugangs dient allein der Prüfung, ob eine Lizenz erworben werden soll — sie
räumt kein Nutzungsrecht ein. Jede Nutzung, Weitergabe, Veröffentlichung von
Ergebnissen sowie jede Verwendung als Trainings- oder Evaluationsdaten setzt
eine gesonderte, entgeltliche Lizenz voraus (LICENSE.md).
extra_gated_prompt: >-
Ich habe die Lizenzbedingungen (LICENSE.md) gelesen und erkenne sie an. Mir
ist bekannt, dass der Zugang kein Nutzungsrecht begründet, dass für Text und
Data Mining ein Nutzungsvorbehalt nach § 44b Abs. 3 UrhG erklärt ist und dass
jede über die Kenntnisnahme hinausgehende Nutzung eine entgeltliche Lizenz
erfordert.
extra_gated_fields:
Name: text
Organisation: text
E-Mail für Lizenzanfragen: text
Verwendungszweck: text
Angestrebte Lizenzart:
type: select
options:
- A — Evaluierung
- B — Forschung (akademisch)
- C — Unternehmen (interne Modellbewertung)
- D — Publikation von Ergebnissen
- E — KI-Training / Feinabstimmung
- F — OEM / Integration
- noch offen
Ich erkenne die Lizenzbedingungen an: checkbox
Ich bestätige, den Datensatz ohne KI-Trainingslizenz (Lizenzart E) nicht für Training zu verwenden: checkbox
extra_gated_button_content: Zugang beantragen
StatikBench v0.3 (private Preview)
Zugang nur per Access Request. Die Freigabe dient der Prüfung vor einem Lizenzerwerb und räumt kein Nutzungsrecht ein — jede Nutzung setzt eine kostenpflichtige Lizenz voraus (LICENSE.md).
Der erste deutschsprachige LLM-Benchmark für Baunormen und normbasierte Tragwerksbemessung (DE · AT · CH) — ein Statika-Projekt, von den Machern von German-OCR und BelegBench.
Es gibt Benchmarks für chinesische Baunormen (AECBench), US-Codes (PE Civil Bench) und dänische Bauordnungen (BR18) — für DIN, Eurocode-NA, ÖNORM und SIA gab es bisher keinen. StatikBench schließt die Lücke: 1000 Items, 100 % synthetisch, seed-reproduzierbar, jede Ground Truth deterministisch vom Statika-Rechenkern berechnet und gegen analytische Anker verifiziert (qL²/8 · 5qL⁴/384EI · π²EI/L²). Balkenstatik und Bemessung sind darüber hinaus feldweise mit SOFiSTiK gegengerechnet — der in der deutschsprachigen Tragwerksplanung etablierten DIN-EN/NA-Software — und zwar in zwei Programmfassungen (2024 und 2026) mit übereinstimmendem Ergebnis. Kein Norm-Wortlaut im Dataset — Normen werden ausschließlich referenziert (siehe LEGAL.md).
Tracks
| Track | Subtracks | Items | Jurisdiktion |
|---|---|---|---|
| Lastannahmen | Wind (EC1-1-4/NA) · Schnee (EC1-1-3/NA) · Erdbeben (EC8/NA) | 320 | DE |
| Balkenstatik | Einfeldträger · Kragarm · Zweifeld-Durchlaufträger | 360 | DE · AT · CH (reine Mechanik) |
| Bemessung | EC3-Biegeknicken · EC5-Holz · EC2-Stahlbeton | 320 | DE |
138 Negativ-Items (13,8 %): Eine zur Lösung nötige Angabe fehlt bewusst — die
korrekte Antwort ist null. Ein Modell, das trotzdem Werte liefert,
halluziniert Lastannahmen. Das speist die Halluzinationsrate, die
Sicherheitsmetrik für Ingenieur:innen.
Verifikation
Jede Musterlösung durchläuft eine mehrstufige, unabhängige Verifikation: von analytischen Ankern über eine Doppel-Gegenrechnung mit zwei unabhängigen Open-Source-FEM-Kernen bis zur feldweisen Gegenrechnung mit SOFiSTiK, der DIN-EN/NA-Referenzsoftware der deutschsprachigen Tragwerksplanung — dort in zwei Programmfassungen (2024 und 2026), die zu identischen Ergebnissen führen. Sämtliche normativen Parameter sind quellenbelegt statt angenommen.
| Prüfstufe | Umfang | Ergebnis |
|---|---|---|
| Analytische Anker (qL²/8 · 5qL⁴/384EI · π²EI/L²) | jede Ground Truth | ✓ bestätigt |
| Doppel-Gegenrechnung Balkenstatik — PyNite · anaStruct | 1 583 Felder | ✓ 100 % innerhalb der Toleranzen · max. Abweichung 0,014 % |
| SOFiSTiK 2024 — Balkenstatik | 1 583 Felder | ✓ 1 582 Felder bestätigt · Median-Abweichung 0,0002 % |
| SOFiSTiK 2026 — Balkenstatik (unabhängige Wiederholung) | 1 583 Felder | ✓ Ergebnis identisch zur Fassung 2024 |
| SOFiSTiK 2024 + 2026 — Bemessung (EC3-Knicken · EC5-Holz · EC2-Bewehrung) | 1 239 Felder je Fassung | ✓ in beiden Fassungen bestätigt · Ergebnisse deckungsgleich |
Damit sind 2 821 Ground-Truth-Felder durch SOFiSTiK bestätigt, jeweils in zwei Programmfassungen mit deckungsgleichem Ergebnis. Die Balkenstatik ist zusätzlich durch zwei unabhängige Open-Source-Kerne abgesichert.
Nicht abgedeckt sind der EC2-Biegenachweis gegen vorhandene Bewehrung — das Bemessungsmodul gibt die Vergleichsgröße nicht aus — sowie die Querkraft-Teilgrößen, für die das Bemessungsmodul andere Modellannahmen trifft als die Aufgabenstellung vorgibt. Beides ist im Verifikationsbericht als bekannte Grenze dokumentiert und fließt nicht in die Bewertung ein.
Weitere unabhängige Prüfstufen bis hin zur externen Fachprüfung sind in Umsetzung. Einzelheiten zum Verifikationsverfahren stellen wir Lizenznehmern auf Anfrage bereit.
SOFiSTiK ist eine Marke der SOFiSTiK AG; PyNite und anaStruct sind Projekte ihrer jeweiligen Inhaber. Die Nennung erfolgt ausschließlich zur wahrheitsgemäßen Beschreibung der zur unabhängigen Gegenrechnung eingesetzten Software. Eine geschäftliche Verbindung, Partnerschaft oder Empfehlung durch die genannten Anbieter besteht nicht.
Erste Ergebnisse
| Modell / Modus | Field-EM | Halluzinationsrate | Verify-Catch | Latenz | Parse-Fehler |
|---|---|---|---|---|---|
| Qwen3.6:35B (roh) | 22,8 % | 42,1 % | 26,7 % | 1,8 s | 0/576 |
| Qwen3.6:35B (roh) · Reasoning | 58,0 % | 23,1 % | 11,3 % | 73,6 s | 11/600 |
| Qwen3.6:27B (roh)¹ | 23,0 % | 33,3 % | 30,4 % | 5,0 s | 0/120 |
| Qwen3.6:27B (roh)¹ · Reasoning² | 75,2 % | 20,0 % | 12,6 % | 353 s | 0/79 |
| Gemma 4 26B (roh)¹ | 21,7 % | 44,4 % | 28,7 % | 25,3 s | 2/120 |
| Gemma 4 26B (roh)¹ · Reasoning | 35,6 % | 55,6 % | 14,9 % | 122,9 s | 49/120 |
| Fable 5 (Anthropic)³ | 92,7 % | 13,9 % | — | 27,5 s | 0/120 |
| Opus 5 (Anthropic)³ | 92,6 % | 17,6 % | — | 24,8 s | 3/120 |
| Statika AI | 96,9 % | 0,0 % | 31,1 % | 2,9 s | 0/600 |
¹ n = 120 (track-balanciertes Subset). ² 41 von 120 Anfragen im Timeout (900 s) — gewertet n = 79; die Zahl ist dadurch eher optimistisch. ³ n = 120 (track-balanciertes Subset), gemessen gegen Fassung v0.3 mit eigenem Harness nach identischer Metrikdefinition; Latenz = Median; Verify-Catch nicht erhoben. Je Track (Balkenstatik · Bemessung · Lastannahmen): Fable 5 100,0 · 94,7 · 78,3 % — Opus 5 100,0 · 97,1 · 72,5 %. Kandidaten-Parameter: Qwen3.6:27B = dense, 27 Mrd. · Gemma 4 26B = MoE, 25,2 Mrd. gesamt / 3,8 Mrd. aktiv. Statika AI: Parameter nicht veröffentlicht.
Rohe Sprachmodelle scheitern an normbasierter Tragwerksplanung (22,8 %) und erfinden bei fehlenden Angaben in 4 von 10 Fällen Werte; Reasoning hebt die Genauigkeit auf 58 %, löst aber weder Wissens- noch Sicherheitsproblem. Statika AI erreicht 96,9 % Feld-Genauigkeit bei 0,0 % Halluzination und 2,9 s — ohne einen einzigen Parse-Fehler über alle 600 Aufgaben.
Spalten
| Spalte | Typ | Inhalt |
|---|---|---|
item_id, track, subtrack, jurisdiction |
str | Identität & Einordnung; jurisdiction = DE bzw. DACH als Sammelwert für DE · AT · CH |
seed |
int | Generator-Seed (Item vollständig reproduzierbar) |
negative |
bool | Angabe fehlt bewusst → betroffene GT-Felder sind null |
prompt |
str | vollständige deutsche Aufgabe inkl. Antwort-JSON-Schema |
fields |
str (JSON) | Feld-Spezifikationen: name, kind, rtol/atol, choices, Einheit |
ground_truth |
str (JSON) | Musterlösung (deterministisch berechnet) |
inputs |
str (JSON) | maschinenlesbare Aufgaben-Eingaben (für den Physik-Verifier) |
norm_refs |
list[str] | referenzierte Normabschnitte (nur Referenzen, nie Wortlaut) |
provenance |
str | Herkunft der Ground Truth |
Bewertung
Feldweise 5-Status-Klassifikation (correct / wrong / missed / hallucinated /
true_null) mit ingenieurgerechten Toleranzen (relativ 2–5 % je Feld,
Dezimalkomma-tolerant). Dazu ein deterministischer Physik-Verifier
(Gleichgewicht ΣR = ΣF, w_e = c_pe·q_p, N_b,Rd = χ·A·f_y/γ_M1, η ↔ Verdikt),
der Modellfehler ohne Kenntnis der Lösung fängt → Verify-Catch-Rate.
Eval-Harness: privates Repo statikbench (Release mit v1.0 geplant).
Fassungen
| Datei | Fassung | Items | Status |
|---|---|---|---|
data/statikbench_v0_3.jsonl |
v0.3 | 1000 | aktuell — Standard-Config |
data/statikbench_v0.jsonl |
v0.1 | 600 | Vorgängerfassung, nur zur Reproduktion früherer Auswertungen |
Lizenz
StatikBench ist kostenpflichtig lizenziert. Der Zugang über die Zugriffsanfrage dient der Prüfung — ein Nutzungsrecht entsteht daraus nicht.
Der Datensatz ist als Datenbank nach §§ 87a ff. UrhG geschützt; die Rechte des Datenbankherstellers werden ausdrücklich geltend gemacht. Für Text und Data Mining ist der Nutzungsvorbehalt nach § 44b Abs. 3 UrhG erklärt — die gesetzliche Schranke greift damit nicht, Training bedarf einer Lizenz.
| Lizenz | Für |
|---|---|
| A — Evaluierung | befristete interne Prüfung |
| B — Forschung | Hochschulen, nicht-kommerziell, mit Publikationsrecht |
| C — Unternehmen | interne Bewertung eigener Modelle |
| D — Publikation | Veröffentlichung von Ergebnissen und Ranglisten |
| E — KI-Training | Training, Feinabstimmung, Destillation |
| F — OEM | Einbettung in eigene Produkte, Weitergabe |
Bedingungen: LICENSE.md · Konditionen auf Anfrage über statika.ai
Der Datensatz ist ein Messinstrument für Sprachmodelle. Er ist keine Grundlage für Tragwerksplanung oder Nachweisführung an realen Bauwerken. Leitplanken der Item-Konstruktion: LEGAL.md
Statika — 3D-FEM Berechnung & Bemessung, Eurocode/DIN-nativ.
StatikBench ist der Benchmark hinter Statika AI.