tokenizer_config.json

{
  "tokenizer_class": "CharTokenizer",
  "model_type": "charlm",
  "vocab_size": 65,
  "chars": [
    "\n",
    " ",
    "!",
    "$",
    "&",
    "'",
    ",",
    "-",
    ".",
    "3",
    ":",
    ";",
    "?",
    "A",
    "B",
    "C",
    "D",
    "E",
    "F",
    "G",
    "H",
    "I",
    "J",
    "K",
    "L",
    "M",
    "N",
    "O",
    "P",
    "Q",
    "R",
    "S",
    "T",
    "U",
    "V",
    "W",
    "X",
    "Y",
    "Z",
    "a",
    "b",
    "c",
    "d",
    "e",
    "f",
    "g",
    "h",
    "i",
    "j",
    "k",
    "l",
    "m",
    "n",
    "o",
    "p",
    "q",
    "r",
    "s",
    "t",
    "u",
    "v",
    "w",
    "x",
    "y",
    "z"
  ],
  "unk_token": "<unk>"
}