text stringlengths 1 93.6k |
|---|
n_merge_and_table_layer_units_avg=128,
|
mini_batch_size_br_per_la=128,
|
mini_batch_size_avg_per_la=128,
|
),
|
eval_methods={"br": 2000},
|
n_iterations=None)
|
ctrl.run()
|
# <FILESEP>
|
#!/usr/bin/env python3
|
import unicodedata
|
ENTRADA = 'pt_BR.dic'
|
SAIDA = 'palavras.txt'
|
def normalizar(txt):
|
"""Remove acentos e transforma 'A' ou 'ª' em 'a'."""
|
norm_txt = unicodedata.normalize('NFKD', txt).lower()
|
shaved = ''.join(c for c in norm_txt
|
if not unicodedata.combining(c))
|
return unicodedata.normalize('NFC', shaved)
|
def chave(txt):
|
"""Manter palavras acentuadas após as não acentuadas"""
|
codigos = tuple(ord(c) for c in txt)
|
return (normalizar(txt), codigos)
|
palavras = set()
|
with open(ENTRADA, encoding='latin-1') as entrada:
|
for i, linha in enumerate(entrada):
|
if i == 0:
|
continue # ignorar primeira linha (contagem)
|
linha = linha.strip()
|
linha = linha.split('/')[0]
|
partes = linha.split('-')
|
sufixo = partes[-1]
|
if len(sufixo) == 2 and sufixo.upper() == sufixo:
|
continue # ignorrar nomes de cidades
|
if linha: # para evitar palavra vazia
|
palavras.add(linha) # incluir palavra composta
|
if len(partes) > 1:
|
for palavra in partes:
|
if palavra:
|
palavras.add(palavra) # para evitar palavra vazia
|
qt_original = i
|
msg = '{} palavras na lista original, {} na lista gerada: {} adicionadas'
|
extra = len(palavras) - qt_original
|
print(msg.format(qt_original, len(palavras), extra))
|
palavras = sorted(palavras, key=chave)
|
with open(SAIDA, 'wt', encoding='utf-8') as saida:
|
saida.write('\n'.join(palavras))
|
saida.write('\n')
|
# <FILESEP>
|
#!/usr/bin/env python3
|
# -*- coding: utf-8 -*-
|
from __future__ import print_function
|
try:
|
import argparse
|
# from cgi import parse_header
|
# from cgi import parse_multipart
|
import copy
|
import datetime
|
from http.cookies import SimpleCookie
|
from http.server import BaseHTTPRequestHandler
|
from http.server import HTTPServer
|
import hashlib
|
import ipaddress
|
import json
|
import mimetypes
|
import os
|
import re
|
import socket
|
from socketserver import ThreadingMixIn
|
import ssl
|
import sys
|
import threading
|
import time
|
from urllib.parse import parse_qs
|
from urllib.parse import quote
|
from urllib.parse import unquote
|
import urllib.request
|
import zlib
|
import fdns.fakedns as FAKEDNS
|
except ImportError:
|
import sys
|
Subsets and Splits
No community queries yet
The top public SQL queries from the community will appear here once available.