Go语言技术文章
-
CNCF 宣布 Kubeflow 毕业，确认其作为 Kubernetes 云原生 AI 与机器学习运维平台的成熟度。本文按平台边界、工作负载、模型资产和上线门禁拆解这条新闻对实际落地的意义，也说明毕业不等于自动完成生产部署。422 收藏 -
区分AI图片API的文本生成与原图编辑，从输入条件、模型能力、资源版本到预览下载、超时处理和文件清理，说明如何保留原图并避免模式误用。484 收藏 -
多语言文档混合检索的关键不是盲目更换模型，而是让文档和查询进入同一向量空间，并统一查询模板、输入长度、归一化与相似度计算。本文结合 BGE-M3 和 multilingual-e5-large-instruct 的官方规则，给出跨语言召回与排序漂移的排查清单。381 收藏 -
模型路由不要只按模型名做分流。本文结合任务分类、质量与延迟约束、候选模型排序和失败回退，整理一套适合工程落地与审计的选择策略。104 收藏 -
AI 结构化输出遇到字段缺失时，先用 JSON Schema 明确必填与可选字段，再在应用解析边界执行缺失检查、默认值和异常隔离。本文以 Hugging Face Inference Providers 的结构化输出为背景，给出一套可迁移的处理方式。126 收藏 -
AI 工具调用中，JSON Schema 只负责参数形状与类型，业务校验还要判断权限、资源状态、幂等键和执行前置条件。本文用运行手册的方式拆分两层校验、错误分类、回滚与复盘字段。105 收藏 -
RAG 重排应位于初召回之后、最终上下文装配之前。本文用候选评分示例说明片段索引映射、引用保留和上下文预算，并区分召回遗漏、排序不当及超时降级。245 收藏 -
多语言知识库不能只靠提示词或扩大 topK 后过滤。本文以 Qdrant 为例，说明如何规范化 language 元数据、建立 keyword payload index，在向量检索阶段完成语言约束，并处理过滤后结果不足的边界。172 收藏 -
科技周边 · 人工智能 | 2星期前 | 人工智能 · 人工智能 Hugging Face Inference Providers OpenAI Chat Completions 路由 API 模型标识 HF_TOKEN
Hugging Face Inference Providers 提供 OpenAI 兼容的 Chat Completions 路由。本文从 baseURL、HF token、messages 消息结构和模型路由后缀入手，给出一套可迁移的 Python 调用方式，并说明图片、嵌入等非聊天任务为什么要改用官方 InferenceClient。442 收藏 -
用 snapshot_download 的 allow_patterns 和 ignore_patterns 按需筛选模型仓库文件，并说明默认缓存、cache_dir 与 local_dir 的落盘差异。243 收藏 -
TGI 的输入长度不能只看 max_input_tokens。本文拆开 max_input_tokens、max_total_tokens、max_new_tokens 与模型上下文上限，给出配置示例、取舍和上线前检查方法。474 收藏 -
用 huggingface_hub 的 HfApi.list_models 按 pipeline_tag 筛选模型，并结合排序、数量限制和 ModelInfo 字段整理出可追踪的候选清单。419 收藏 -
AI 输出过滤只负责内容风险，业务规则负责领域正确性。本文用三层状态和最小 Python 示例说明如何区分安全拒绝、结构重试、业务冲突与人工复核，避免把所有失败都记成一个 blocked。400 收藏 -
CNCF 年度云原生调查把 Kubernetes 的生产采用与生成式 AI 推理放在同一张基础设施图景中。本文按公开口径拆开 82% 和 66% 两个数字，再说明哪些工程判断可以成立、哪些结论不能由调查直接推出。168 收藏 -
TRACE 规范把 AI agent 的模型、运行时、策略、数据分类和工具调用组织成可携带、可验证的运行证据。本文区分日志、链路追踪、签名记录与硬件 attestation 的边界，并给出工程落地清单。114 收藏