Datasets:

Modalities:
Text
ArXiv:
llmtcl / delete.py
Maple222's picture
Add files using upload-large-folder tool
f9dff7a verified
#!/usr/bin/env python3
# -*- coding: utf-8 -*-
import argparse
import pathlib
import re
import shutil
def remove_explanation_fields(text: str) -> str:
"""
删除 JSON 文本中键为 "explanation" 的键值对(值为字符串),
不使用 json 解析,使用正则在词法层面安全处理转义字符。
同时正确处理前后逗号,保持 JSON 仍然有效。
"""
# JSON 字符串匹配:支持任意数量的转义字符(如 \" \\ \n ...)
# 说明:JSON 字符串不允许出现未转义的换行,因此不需 DOTALL。
json_string = r'"(?:\\.|[^"\\])*"'
# 情况 A:explanation 在中间/开头,后面跟逗号
# ... "explanation": "......", ...
pattern_after = re.compile(
rf'\s*"explanation"\s*:\s*{json_string}\s*,'
)
# 情况 B:explanation 在中间/末尾,前面有逗号
# ..., "explanation": "......"
pattern_before = re.compile(
rf',\s*"explanation"\s*:\s*{json_string}'
)
# 先删“后跟逗号”的情况,再删“前有逗号”的情况
new_text = pattern_after.sub('', text)
new_text = pattern_before.sub('', new_text)
# 情况 C:对象里只有一个键值对(既没有前逗号也没有后逗号)
# 比如:{ "explanation": "..." }
# 这会在 A/B 后仍残留:{ }(已是合法 JSON),无需额外处理。
# 若出现花括号内部多余空白也不影响合法性。
return new_text
def process_file(p: pathlib.Path, dry_run: bool = False) -> bool:
original = p.read_text(encoding='utf-8')
repaired = remove_explanation_fields(original)
if repaired != original:
if not dry_run:
# 备份
backup = p.with_suffix(p.suffix + '.bak')
shutil.copyfile(p, backup)
# 覆盖
p.write_text(repaired, encoding='utf-8')
return True
return False
def main():
ap = argparse.ArgumentParser(
description="在不使用 json 解析的前提下,删除所有 JSON 文件中的 \"explanation\": \"...\" 字段(安全处理转义字符与逗号)。"
)
ap.add_argument("folder", type=str, help="包含 .json 文件的文件夹路径")
ap.add_argument("--dry-run", action="store_true", help="仅显示将要修改的文件,不写回")
args = ap.parse_args()
root = pathlib.Path(args.folder)
if not root.is_dir():
raise SystemExit(f"路径不存在或不是文件夹:{root}")
changed = 0
total = 0
for p in sorted(root.glob("*.json")):
total += 1
if process_file(p, dry_run=args.dry_run):
changed += 1
print(f"[UPDATED] {p}")
else:
print(f"[SKIP ] {p}(无 explanation 字段或无需修改)")
print(f"\n完成:扫描 {total} 个 .json 文件,修改 {changed} 个。")
if not args.dry_run:
print("已为修改过的文件生成 .bak 备份。")
if __name__ == "__main__":
main()