人工智能技术文章
-
模型没有返回答案时，不能只看空字符串或 HTTP 状态码。本文把提示被拦截、候选被安全过滤、正常截断和服务异常分开，给出统一状态判断、用户提示与回归验收的方法。140 收藏 -
围绕 GLM-5.3-Flash 的图文输入场景，拆开消息、抽取字段与校验层，给出一套不把模型输出直接当事实的结构化抽取边界。140 收藏 -
模型流的网络字节、SSE 帧和 UTF-8 字符不是同一条边界。本文用 Go 的 unicode/utf8 保存不完整尾部，说明如何在增量渲染中避免半个字符变成乱码，并划清 SDK 文本事件与原始字节适配层的职责。140 收藏 -
从 provider 能力检查、单一后端加载到 providers 优先级回退，说明 Optimum ONNX Runtime 如何选择执行提供程序，以及 CUDA、TensorRT、量化模型的常见边界。136 收藏 -
统一 Hugging Face Evaluate 输入时，应该统一 predictions 和 references 的批次外壳，同时以 metric.features 保留每个指标的元素类型与嵌套边界。本文给出适配器写法、compute 与 add_batch 共用方式，以及组合指标前必须检查的兼容条件。134 收藏 -
梳理 Transformers generate 的 EOS、max_new_tokens、stop_strings 与自定义 StoppingCriteria，演示批量提示词、多候选返回、纯新增 token 解码和输出分组。133 收藏 -
RAG 的 top-k 不是越大越好。本文用候选召回、相关度过滤、片段去重和 token 预算拆解如何稳定组装上下文。133 收藏 -
AI Agent 执行长任务时，真正难的是中途失败后从哪里继续。本文围绕 checkpoint、恢复点和幂等回放，拆解状态保存、重启恢复、重复执行与回归验收的工程边界。132 收藏 -
PDF 图表检索失败时，先区分抽取、模态 embedding、向量集合和视觉重排四层。本文用固定回归样本和配置检查，定位图表到底在哪一层丢失。132 收藏 -
Sentence Transformers 的 truncate_embeddings 用于把已有嵌入矩阵截取到目标维度。本文说明样本轴与维度轴的区别、NumPy 与 Tensor 输入、相似度计算、索引迁移和模型适配边界。132 收藏 -
本文围绕 PyTorch ONNX 导出的 dynamic_axes，说明如何为文本模型声明动态 batch 和序列长度，解释输入输出轴对齐，并区分传统导出路径与新 dynamo 导出器的 dynamic_shapes。131 收藏 -
OpenAI API 中 top_p 直接影响候选概率范围，reasoning.effort 与 max_output_tokens 分别控制推理投入和输出预算。本文用 Responses API 示例说明如何区分职责并避免同时调 temperature 与 top_p。131 收藏 -
SacreBLEU 评估同一批机器翻译输出时，可以把多条参考译文作为多个位置参数传入，也可以按行合并为制表符文件并使用 --num-refs 声明参考数量。本文说明两种输入维度、常见误区和 BLEU、chrF、TER 的选择。131 收藏 -
科技周边 · 人工智能 | 2星期前 | 人工智能 · Hugging Face Datasets streaming IterableDataset Dataset.shuffle shuffle buffer
Hugging Face Datasets 的 Dataset.shuffle 会为内存数据集建立全量索引映射，IterableDataset.shuffle 则通过 shard 顺序和有限 shuffle buffer 做近似随机。本文解释两者的访问模型、随机范围、性能代价与训练参数选择。130 收藏 -
合成数据不能仅凭外观接近真实样本就直接替代。本文从覆盖率、分布与相关关系、真实留出集任务效果、偏差和隐私四层检查，说明如何决定它适合补充、加权使用还是禁止替代。128 收藏