StatikBench ist ein kostenpflichtig lizenziertes Werk. Die Freigabe dieses Zugangs dient allein der Prüfung, ob eine Lizenz erworben werden soll — sie räumt kein Nutzungsrecht ein. Jede Nutzung, Weitergabe, Veröffentlichung von Ergebnissen sowie jede Verwendung als Trainings- oder Evaluationsdaten setzt eine gesonderte, entgeltliche Lizenz voraus (LICENSE.md).

Ich habe die Lizenzbedingungen (LICENSE.md) gelesen und erkenne sie an. Mir ist bekannt, dass der Zugang kein Nutzungsrecht begründet, dass für Text und Data Mining ein Nutzungsvorbehalt nach § 44b Abs. 3 UrhG erklärt ist und dass jede über die Kenntnisnahme hinausgehende Nutzung eine entgeltliche Lizenz erfordert.

StatikBench v0.3 (private Preview)

Zugang nur per Access Request. Die Freigabe dient der Prüfung vor einem Lizenzerwerb und räumt kein Nutzungsrecht ein — jede Nutzung setzt eine kostenpflichtige Lizenz voraus (LICENSE.md).

Der erste deutschsprachige LLM-Benchmark für Baunormen und normbasierte Tragwerksbemessung (DE · AT · CH) — ein Statika-Projekt, von den Machern von German-OCR und BelegBench.

Es gibt Benchmarks für chinesische Baunormen (AECBench), US-Codes (PE Civil Bench) und dänische Bauordnungen (BR18) — für DIN, Eurocode-NA, ÖNORM und SIA gab es bisher keinen. StatikBench schließt die Lücke: 1000 Items, 100 % synthetisch, seed-reproduzierbar, jede Ground Truth deterministisch vom Statika-Rechenkern berechnet und gegen analytische Anker verifiziert (qL²/8 · 5qL⁴/384EI · π²EI/L²). Balkenstatik und Bemessung sind darüber hinaus feldweise mit SOFiSTiK gegengerechnet — der in der deutschsprachigen Tragwerksplanung etablierten DIN-EN/NA-Software — und zwar in zwei Programmfassungen (2024 und 2026) mit übereinstimmendem Ergebnis. Kein Norm-Wortlaut im Dataset — Normen werden ausschließlich referenziert (siehe LEGAL.md).

Tracks

Track	Subtracks	Items	Jurisdiktion
Lastannahmen	Wind (EC1-1-4/NA) · Schnee (EC1-1-3/NA) · Erdbeben (EC8/NA)	320	DE
Balkenstatik	Einfeldträger · Kragarm · Zweifeld-Durchlaufträger	360	DE · AT · CH (reine Mechanik)
Bemessung	EC3-Biegeknicken · EC5-Holz · EC2-Stahlbeton	320	DE

138 Negativ-Items (13,8 %): Eine zur Lösung nötige Angabe fehlt bewusst — die korrekte Antwort ist null. Ein Modell, das trotzdem Werte liefert, halluziniert Lastannahmen. Das speist die Halluzinationsrate, die Sicherheitsmetrik für Ingenieur:innen.

Verifikation

Jede Musterlösung durchläuft eine mehrstufige, unabhängige Verifikation: von analytischen Ankern über eine Doppel-Gegenrechnung mit zwei unabhängigen Open-Source-FEM-Kernen bis zur feldweisen Gegenrechnung mit SOFiSTiK, der DIN-EN/NA-Referenzsoftware der deutschsprachigen Tragwerksplanung — dort in zwei Programmfassungen (2024 und 2026), die zu identischen Ergebnissen führen. Sämtliche normativen Parameter sind quellenbelegt statt angenommen.

Prüfstufe	Umfang	Ergebnis
Analytische Anker (qL²/8 · 5qL⁴/384EI · π²EI/L²)	jede Ground Truth	✓ bestätigt
Doppel-Gegenrechnung Balkenstatik — PyNite · anaStruct	1 583 Felder	✓ 100 % innerhalb der Toleranzen · max. Abweichung 0,014 %
SOFiSTiK 2024 — Balkenstatik	1 583 Felder	✓ 1 582 Felder bestätigt · Median-Abweichung 0,0002 %
SOFiSTiK 2026 — Balkenstatik (unabhängige Wiederholung)	1 583 Felder	✓ Ergebnis identisch zur Fassung 2024
SOFiSTiK 2024 + 2026 — Bemessung (EC3-Knicken · EC5-Holz · EC2-Bewehrung)	1 239 Felder je Fassung	✓ in beiden Fassungen bestätigt · Ergebnisse deckungsgleich

Damit sind 2 821 Ground-Truth-Felder durch SOFiSTiK bestätigt, jeweils in zwei Programmfassungen mit deckungsgleichem Ergebnis. Die Balkenstatik ist zusätzlich durch zwei unabhängige Open-Source-Kerne abgesichert.

Nicht abgedeckt sind der EC2-Biegenachweis gegen vorhandene Bewehrung — das Bemessungsmodul gibt die Vergleichsgröße nicht aus — sowie die Querkraft-Teilgrößen, für die das Bemessungsmodul andere Modellannahmen trifft als die Aufgabenstellung vorgibt. Beides ist im Verifikationsbericht als bekannte Grenze dokumentiert und fließt nicht in die Bewertung ein.

Weitere unabhängige Prüfstufen bis hin zur externen Fachprüfung sind in Umsetzung. Einzelheiten zum Verifikationsverfahren stellen wir Lizenznehmern auf Anfrage bereit.

_{SOFiSTiK ist eine Marke der SOFiSTiK AG; PyNite und anaStruct sind
Projekte ihrer jeweiligen Inhaber. Die Nennung erfolgt ausschließlich zur
wahrheitsgemäßen Beschreibung der zur unabhängigen Gegenrechnung eingesetzten
Software. Eine geschäftliche Verbindung, Partnerschaft oder Empfehlung durch
die genannten Anbieter besteht nicht.}

Erste Ergebnisse

StatikBench-Leaderboard v0.3 — Field-EM und Halluzinationsrate je Modell; Statika AI 96,9 % / 0,0 %

Modell / Modus	Field-EM	Halluzinationsrate	Verify-Catch	Latenz	Parse-Fehler
Qwen3.6:35B (roh)	22,8 %	42,1 %	26,7 %	1,8 s	0/576
Qwen3.6:35B (roh) · Reasoning	58,0 %	23,1 %	11,3 %	73,6 s	11/600
Qwen3.6:27B (roh)¹	23,0 %	33,3 %	30,4 %	5,0 s	0/120
Qwen3.6:27B (roh)¹ · Reasoning²	75,2 %	20,0 %	12,6 %	353 s	0/79
Gemma 4 26B (roh)¹	21,7 %	44,4 %	28,7 %	25,3 s	2/120
Gemma 4 26B (roh)¹ · Reasoning	35,6 %	55,6 %	14,9 %	122,9 s	49/120
Fable 5 (Anthropic)³	92,7 %	13,9 %	—	27,5 s	0/120
Opus 5 (Anthropic)³	92,6 %	17,6 %	—	24,8 s	3/120
Statika AI	96,9 %	0,0 %	31,1 %	2,9 s	0/600

¹ n = 120 (track-balanciertes Subset). ² 41 von 120 Anfragen im Timeout (900 s) — gewertet n = 79; die Zahl ist dadurch eher optimistisch. ³ n = 120 (track-balanciertes Subset), gemessen gegen Fassung v0.3 mit eigenem Harness nach identischer Metrikdefinition; Latenz = Median; Verify-Catch nicht erhoben. Je Track (Balkenstatik · Bemessung · Lastannahmen): Fable 5 100,0 · 94,7 · 78,3 % — Opus 5 100,0 · 97,1 · 72,5 %. Kandidaten-Parameter: Qwen3.6:27B = dense, 27 Mrd. · Gemma 4 26B = MoE, 25,2 Mrd. gesamt / 3,8 Mrd. aktiv. Statika AI: Parameter nicht veröffentlicht.

Rohe Sprachmodelle scheitern an normbasierter Tragwerksplanung (22,8 %) und erfinden bei fehlenden Angaben in 4 von 10 Fällen Werte; Reasoning hebt die Genauigkeit auf 58 %, löst aber weder Wissens- noch Sicherheitsproblem. Statika AI erreicht 96,9 % Feld-Genauigkeit bei 0,0 % Halluzination und 2,9 s — ohne einen einzigen Parse-Fehler über alle 600 Aufgaben.

Spalten

Spalte	Typ	Inhalt
`item_id`, `track`, `subtrack`, `jurisdiction`	str	Identität & Einordnung; `jurisdiction` = `DE` bzw. `DACH` als Sammelwert für DE · AT · CH
`seed`	int	Generator-Seed (Item vollständig reproduzierbar)
`negative`	bool	Angabe fehlt bewusst → betroffene GT-Felder sind `null`
`prompt`	str	vollständige deutsche Aufgabe inkl. Antwort-JSON-Schema
`fields`	str (JSON)	Feld-Spezifikationen: `name`, `kind`, `rtol`/`atol`, `choices`, Einheit
`ground_truth`	str (JSON)	Musterlösung (deterministisch berechnet)
`inputs`	str (JSON)	maschinenlesbare Aufgaben-Eingaben (für den Physik-Verifier)
`norm_refs`	list[str]	referenzierte Normabschnitte (nur Referenzen, nie Wortlaut)
`provenance`	str	Herkunft der Ground Truth

Bewertung

Feldweise 5-Status-Klassifikation (correct / wrong / missed / hallucinated / true_null) mit ingenieurgerechten Toleranzen (relativ 2–5 % je Feld, Dezimalkomma-tolerant). Dazu ein deterministischer Physik-Verifier (Gleichgewicht ΣR = ΣF, w_e = c_pe·q_p, N_b,Rd = χ·A·f_y/γ_M1, η ↔ Verdikt), der Modellfehler ohne Kenntnis der Lösung fängt → Verify-Catch-Rate. Eval-Harness: privates Repo statikbench (Release mit v1.0 geplant).

Fassungen

Datei	Fassung	Items	Status
`data/statikbench_v0_3.jsonl`	v0.3	1000	aktuell — Standard-Config
`data/statikbench_v0.jsonl`	v0.1	600	Vorgängerfassung, nur zur Reproduktion früherer Auswertungen

Lizenz

StatikBench ist kostenpflichtig lizenziert. Der Zugang über die Zugriffsanfrage dient der Prüfung — ein Nutzungsrecht entsteht daraus nicht.

Der Datensatz ist als Datenbank nach §§ 87a ff. UrhG geschützt; die Rechte des Datenbankherstellers werden ausdrücklich geltend gemacht. Für Text und Data Mining ist der Nutzungsvorbehalt nach § 44b Abs. 3 UrhG erklärt — die gesetzliche Schranke greift damit nicht, Training bedarf einer Lizenz.

Lizenz	Für
A — Evaluierung	befristete interne Prüfung
B — Forschung	Hochschulen, nicht-kommerziell, mit Publikationsrecht
C — Unternehmen	interne Bewertung eigener Modelle
D — Publikation	Veröffentlichung von Ergebnissen und Ranglisten
E — KI-Training	Training, Feinabstimmung, Destillation
F — OEM	Einbettung in eigene Produkte, Weitergabe

Bedingungen: LICENSE.md · Konditionen auf Anfrage über statika.ai

Der Datensatz ist ein Messinstrument für Sprachmodelle. Er ist keine Grundlage für Tragwerksplanung oder Nachweisführung an realen Bauwerken. Leitplanken der Item-Konstruktion: LEGAL.md

Statika — 3D-FEM Berechnung & Bemessung, Eurocode/DIN-nativ.
StatikBench ist der Benchmark hinter Statika AI.

Downloads last month: 91

Total file size:

6.91 MB