polish-dynaword / pattern_frequency_report.md
kacperwikiel's picture
Release v0.2.1 metadata schema update
a4f2b0d
|
Raw
History Blame Contribute Delete
5.68 kB
## Pattern frequency on corpus
- total tokens (tiktoken proxy): `6,281,911,234`
| pattern | count | share of all tokens |
|---|---:|---:|
| `w roku` | 435,541 | 0.0069% |
| `klasyfikacji` | 129,977 | 0.0021% |
| `ustawa` | 587,459 | 0.0094% |
| `artykuł` | 2,036,359 | 0.0324% |
| `parlament` | 1,201,641 | 0.0191% |
| `rozporządzenie` | 1,490,464 | 0.0237% |
| `w pobliżu` | 78,823 | 0.0013% |
| `mieszkańców` | 241,200 | 0.0038% |
| `Dz.U.` | 939,966 | 0.0150% |
| source | pattern | count | per-token share |
|---|---|---:|---:|
| 1000_novels | `w roku` | 659 | 0.00109% |
| 1000_novels | `klasyfikacji` | 14 | 0.00002% |
| 1000_novels | `ustawa` | 656 | 0.00108% |
| 1000_novels | `artykuł` | 729 | 0.00120% |
| 1000_novels | `parlament` | 240 | 0.00040% |
| 1000_novels | `rozporządzenie` | 65 | 0.00011% |
| 1000_novels | `w pobliżu` | 1,262 | 0.00209% |
| 1000_novels | `mieszkańców` | 868 | 0.00143% |
| 1000_novels | `Dz.U.` | 0 | 0.00000% |
| dziennik_ustaw | `w roku` | 33,096 | 0.00681% |
| dziennik_ustaw | `klasyfikacji` | 10,896 | 0.00224% |
| dziennik_ustaw | `ustawa` | 77,376 | 0.01592% |
| dziennik_ustaw | `artykuł` | 27,773 | 0.00571% |
| dziennik_ustaw | `parlament` | 42,338 | 0.00871% |
| dziennik_ustaw | `rozporządzenie` | 166,383 | 0.03423% |
| dziennik_ustaw | `w pobliżu` | 1,087 | 0.00022% |
| dziennik_ustaw | `mieszkańców` | 8,025 | 0.00165% |
| dziennik_ustaw | `Dz.U.` | 158 | 0.00003% |
| eltec_pol | `w roku` | 108 | 0.00050% |
| eltec_pol | `klasyfikacji` | 1 | 0.00000% |
| eltec_pol | `ustawa` | 153 | 0.00071% |
| eltec_pol | `artykuł` | 173 | 0.00081% |
| eltec_pol | `parlament` | 95 | 0.00044% |
| eltec_pol | `rozporządzenie` | 35 | 0.00016% |
| eltec_pol | `w pobliżu` | 246 | 0.00114% |
| eltec_pol | `mieszkańców` | 214 | 0.00100% |
| eltec_pol | `Dz.U.` | 0 | 0.00000% |
| eurlex | `w roku` | 40,009 | 0.00168% |
| eurlex | `klasyfikacji` | 59,428 | 0.00250% |
| eurlex | `ustawa` | 30,368 | 0.00128% |
| eurlex | `artykuł` | 1,774,958 | 0.07464% |
| eurlex | `parlament` | 780,286 | 0.03281% |
| eurlex | `rozporządzenie` | 1,202,658 | 0.05057% |
| eurlex | `w pobliżu` | 6,088 | 0.00026% |
| eurlex | `mieszkańców` | 9,441 | 0.00040% |
| eurlex | `Dz.U.` | 915,707 | 0.03851% |
| parliamentary | `w roku` | 198,192 | 0.01203% |
| parliamentary | `klasyfikacji` | 12,637 | 0.00077% |
| parliamentary | `ustawa` | 459,179 | 0.02788% |
| parliamentary | `artykuł` | 182,038 | 0.01105% |
| parliamentary | `parlament` | 309,695 | 0.01881% |
| parliamentary | `rozporządzenie` | 113,547 | 0.00689% |
| parliamentary | `w pobliżu` | 4,964 | 0.00030% |
| parliamentary | `mieszkańców` | 78,048 | 0.00474% |
| parliamentary | `Dz.U.` | 23,809 | 0.00145% |
| wikibooks | `w roku` | 319 | 0.00205% |
| wikibooks | `klasyfikacji` | 37 | 0.00024% |
| wikibooks | `ustawa` | 165 | 0.00106% |
| wikibooks | `artykuł` | 732 | 0.00470% |
| wikibooks | `parlament` | 283 | 0.00182% |
| wikibooks | `rozporządzenie` | 131 | 0.00084% |
| wikibooks | `w pobliżu` | 125 | 0.00080% |
| wikibooks | `mieszkańców` | 204 | 0.00131% |
| wikibooks | `Dz.U.` | 16 | 0.00010% |
| wikinews | `w roku` | 449 | 0.00370% |
| wikinews | `klasyfikacji` | 639 | 0.00526% |
| wikinews | `ustawa` | 407 | 0.00335% |
| wikinews | `artykuł` | 2,474 | 0.02038% |
| wikinews | `parlament` | 2,530 | 0.02084% |
| wikinews | `rozporządzenie` | 168 | 0.00138% |
| wikinews | `w pobliżu` | 455 | 0.00375% |
| wikinews | `mieszkańców` | 1,014 | 0.00835% |
| wikinews | `Dz.U.` | 27 | 0.00022% |
| wikipedia | `w roku` | 143,023 | 0.02022% |
| wikipedia | `klasyfikacji` | 46,043 | 0.00651% |
| wikipedia | `ustawa` | 9,536 | 0.00135% |
| wikipedia | `artykuł` | 28,165 | 0.00398% |
| wikipedia | `parlament` | 57,863 | 0.00818% |
| wikipedia | `rozporządzenie` | 5,637 | 0.00080% |
| wikipedia | `w pobliżu` | 41,915 | 0.00593% |
| wikipedia | `mieszkańców` | 122,766 | 0.01736% |
| wikipedia | `Dz.U.` | 232 | 0.00003% |
| wikiquote | `w roku` | 608 | 0.00191% |
| wikiquote | `klasyfikacji` | 15 | 0.00005% |
| wikiquote | `ustawa` | 357 | 0.00112% |
| wikiquote | `artykuł` | 606 | 0.00190% |
| wikiquote | `parlament` | 1,271 | 0.00398% |
| wikiquote | `rozporządzenie` | 27 | 0.00008% |
| wikiquote | `w pobliżu` | 207 | 0.00065% |
| wikiquote | `mieszkańców` | 527 | 0.00165% |
| wikiquote | `Dz.U.` | 6 | 0.00002% |
| wikisource | `w roku` | 16,571 | 0.00207% |
| wikisource | `klasyfikacji` | 166 | 0.00002% |
| wikisource | `ustawa` | 8,156 | 0.00102% |
| wikisource | `artykuł` | 16,230 | 0.00202% |
| wikisource | `parlament` | 6,119 | 0.00076% |
| wikisource | `rozporządzenie` | 1,651 | 0.00021% |
| wikisource | `w pobliżu` | 13,921 | 0.00174% |
| wikisource | `mieszkańców` | 14,335 | 0.00179% |
| wikisource | `Dz.U.` | 5 | 0.00000% |
| wikivoyage | `w roku` | 609 | 0.00356% |
| wikivoyage | `klasyfikacji` | 21 | 0.00012% |
| wikivoyage | `ustawa` | 46 | 0.00027% |
| wikivoyage | `artykuł` | 657 | 0.00384% |
| wikivoyage | `parlament` | 249 | 0.00145% |
| wikivoyage | `rozporządzenie` | 34 | 0.00020% |
| wikivoyage | `w pobliżu` | 6,480 | 0.03783% |
| wikivoyage | `mieszkańców` | 4,100 | 0.02394% |
| wikivoyage | `Dz.U.` | 1 | 0.00001% |
| wolne_lektury | `w roku` | 1,898 | 0.00184% |
| wolne_lektury | `klasyfikacji` | 80 | 0.00008% |
| wolne_lektury | `ustawa` | 1,060 | 0.00103% |
| wolne_lektury | `artykuł` | 1,824 | 0.00177% |
| wolne_lektury | `parlament` | 672 | 0.00065% |
| wolne_lektury | `rozporządzenie` | 128 | 0.00012% |
| wolne_lektury | `w pobliżu` | 2,073 | 0.00201% |
| wolne_lektury | `mieszkańców` | 1,658 | 0.00161% |
| wolne_lektury | `Dz.U.` | 5 | 0.00000% |