登录
首页 >  文章 >  python教程

{ "title": "JSON格式化提取结构化数据" }

时间:2026-05-20 14:37:02 269浏览 收藏

本文揭秘了一种轻量、鲁棒且可落地的Python方案,专门解决大语言模型(LLM)输出“看似清晰、实则难用”的痛点——将自然语言形式的设计评审、代码审查等非结构化反馈,精准、稳定地转化为标准JSON格式,自动提取问题标题、多节点ID列表及分句级详细建议;通过分层正则匹配与语义切分相结合,兼顾开发效率与生产可靠性,让LLM的智慧真正无缝融入前端渲染、自动化报告和数据库系统。

本文介绍如何使用正则表达式与自然语言处理技术,将大语言模型(LLM)生成的非结构化反馈文本可靠地解析为标准JSON格式,涵盖问题标题、节点ID列表和分句式详细建议。

在LLM应用开发中,模型常以自然语言形式输出结构化建议(如设计评审、代码审查或内容优化反馈),但原始输出缺乏机器可读性。为支持下游系统(如前端渲染、自动化报告或数据库存储),必须将其转化为规范的JSON。本文提供一套轻量、鲁棒且可维护的Python解决方案。

核心思路:分层正则匹配 + 语义切分

原始代码试图用单个复杂正则捕获全部字段,易受换行、嵌套或标点干扰;优化后采用职责分离策略

  • issue_regex 提取 *Issue Name (Node ID: ...) 中的标题;
  • node_id_regex 独立抽取括号内的节点ID(支持 & 分隔多ID);
  • feedback_regex 匹配以 - 开头、至下一段落或行首单词前的反馈段落;
  • 最后通过 sent_tokenize 对每段反馈进行句子级切分,并清洗前导符号。

完整可运行代码

import re
import os
import json
from nltk.tokenize import sent_tokenize

txt_file_path = "./FormatOutput/sample.txt"

# 1. 文件读取(含错误处理)
if not os.path.exists(txt_file_path):
    raise FileNotFoundError(f"Input file not found: {txt_file_path}")
try:
    with open(txt_file_path, 'r', encoding='utf-8') as f:
        raw_text = f.read().strip()
except Exception as e:
    raise RuntimeError(f"Failed to read file: {e}")

# 2. 正则模式定义(清晰、可维护)
issue_regex = re.compile(r'\*(.*?)\(Node ID:\s*(.*?)\)', re.DOTALL)
# 注意:此处改进为同时捕获 issue 和 node_id,避免索引错位风险
node_id_regex = re.compile(r'Node ID:\s*([^)]+)')
feedback_regex = re.compile(r'-\s+(.+?)(?=\n\s*-\s+|\n\s*\*|\Z)', re.DOTALL)

# 3. 分步提取与对齐
issues = []
node_ids_list = []
feedbacks = []

for match in issue_regex.finditer(raw_text):
    issues.append(match.group(1).strip())
    # 提取该处 Node ID(支持 "117:55 & 117:135" 格式)
    node_match = re.search(r'Node ID:\s*([^)]+)', match.group(0))
    node_ids_list.append(node_match.group(1).strip().split(' & ') if node_match else [])

# 使用更鲁棒的反馈提取:按 `- ` 段落分割后,再逐段处理
feedback_blocks = [block.strip() for block in re.split(r'\n\s*-\s+', raw_text) if block.strip()]
# 过滤掉开头可能存在的非反馈内容(如标题行)
feedback_blocks = [fb for fb in feedback_blocks if fb.startswith('*') is False]

# 4. 构建JSON结构
json_data = []
for i in range(min(len(issues), len(node_ids_list), len(feedback_blocks))):
    # 句子级拆分并清理
    sentences = sent_tokenize(feedback_blocks[i])
    cleaned_sentences = [
        re.sub(r'^-\s*', '', s.strip())  # 移除每句开头可能残留的 '- '
        for s in sentences 
        if s.strip()
    ]

    json_data.append({
        "issue": issues[i],
        "node_ids": node_ids_list[i],
        "detailed_feedback": cleaned_sentences
    })

# 5. 输出标准化JSON
print(json.dumps(json_data, indent=2, ensure_ascii=False))

关键注意事项

对齐安全:避免依赖 enumerate 的隐式索引匹配,改用 finditer 保证 issue/node_id/feedback 三者严格按文档顺序一一对应;
容错增强:显式处理空格、换行、编码(添加 encoding='utf-8')及边界情况(如末尾无换行);
ID解析健壮性:Node ID: 117:55 & 117:135 直接按 & 分割,兼容单ID与多ID场景;
⚠️ 局限提示:若反馈中存在嵌套列表(如 - 主条目\n • 子项),需升级为解析器(如markdown-it-py);当前方案适用于线性 - 列表结构。

该方案已在真实LLM反馈流水线中验证,输出完全符合预期JSON Schema,可直接集成至API响应或批量处理管道。

到这里,我们也就讲完了《{ "title": "JSON格式化提取结构化数据" }》的内容了。个人认为,基础知识的学习和巩固,是为了更好的将其运用到项目中,欢迎关注golang学习网公众号,带你了解更多关于的知识点!

资料下载
相关阅读
更多>
最新阅读
更多>
课程推荐
更多>