人工智能技术文章
-
科技周边 · 人工智能 | 1星期前 | JSON · API · python · 人工智能 · 结构化输出 · 结构化输出 JSON Schema Gemini API response_schema response_mime_type additionalProperties
Gemini API 结构化输出要限制 JSON 字段，应把 response_mime_type 与 response_schema 一起配置，用 properties、required、enum 和额外字段策略约束形状，再在客户端校验业务语义。145 收藏 -
Embedding 做 L2 归一化后，向量长度不再参与点积排序，点积可以等价于余弦相似度。本文从公式、Sentence Transformers 用法和检索场景说明何时归一化，以及混用不同分数的风险。144 收藏 -
生成式回答的事实性评测不能只准备一组问题和一个总分。本文从样本边界、参考答案、事实原子、支持与矛盾判分以及人工复核五个方面，设计一套可比较的对照样本结构。144 收藏 -
模型流的网络字节、SSE 帧和 UTF-8 字符不是同一条边界。本文用 Go 的 unicode/utf8 保存不完整尾部，说明如何在增量渲染中避免半个字符变成乱码，并划清 SDK 文本事件与原始字节适配层的职责。140 收藏 -
从 provider 能力检查、单一后端加载到 providers 优先级回退，说明 Optimum ONNX Runtime 如何选择执行提供程序，以及 CUDA、TensorRT、量化模型的常见边界。136 收藏 -
RAG 的 top-k 不是越大越好。本文用候选召回、相关度过滤、片段去重和 token 预算拆解如何稳定组装上下文。133 收藏 -
Sentence Transformers 的 truncate_embeddings 用于把已有嵌入矩阵截取到目标维度。本文说明样本轴与维度轴的区别、NumPy 与 Tensor 输入、相似度计算、索引迁移和模型适配边界。132 收藏 -
本文围绕 PyTorch ONNX 导出的 dynamic_axes，说明如何为文本模型声明动态 batch 和序列长度，解释输入输出轴对齐，并区分传统导出路径与新 dynamo 导出器的 dynamic_shapes。131 收藏 -
OpenAI API 中 top_p 直接影响候选概率范围，reasoning.effort 与 max_output_tokens 分别控制推理投入和输出预算。本文用 Responses API 示例说明如何区分职责并避免同时调 temperature 与 top_p。131 收藏 -
SacreBLEU 评估同一批机器翻译输出时，可以把多条参考译文作为多个位置参数传入，也可以按行合并为制表符文件并使用 --num-refs 声明参考数量。本文说明两种输入维度、常见误区和 BLEU、chrF、TER 的选择。131 收藏 -
科技周边 · 人工智能 | 2星期前 | 人工智能 · Hugging Face Datasets streaming IterableDataset Dataset.shuffle shuffle buffer
Hugging Face Datasets 的 Dataset.shuffle 会为内存数据集建立全量索引映射，IterableDataset.shuffle 则通过 shard 顺序和有限 shuffle buffer 做近似随机。本文解释两者的访问模型、随机范围、性能代价与训练参数选择。130 收藏 -
合成数据不能仅凭外观接近真实样本就直接替代。本文从覆盖率、分布与相关关系、真实留出集任务效果、偏差和隐私四层检查，说明如何决定它适合补充、加权使用还是禁止替代。128 收藏 -
本地模型只缩短了资料到推理引擎的链路，并不会自动封闭插件、日志、向量库、监听端口、同步备份和输出协作等路径。本文用“本地受控处理区”模式梳理常见泄露面、典型实现、反例和上线检查清单。127 收藏 -
访问 Hugging Face Hub 私有模型时，关键不是把 token 写进 from_pretrained，而是先确认仓库权限，再用最小权限令牌登录，并通过环境变量或 huggingface_hub 的安全入口传递凭据。127 收藏 -
AI 结构化输出遇到字段缺失时，先用 JSON Schema 明确必填与可选字段，再在应用解析边界执行缺失检查、默认值和异常隔离。本文以 Hugging Face Inference Providers 的结构化输出为背景，给出一套可迁移的处理方式。126 收藏