人工智能技术文章
-
Gemini Files API 适合复用 PDF、图片、音视频等媒体,但上传成功不等于可以立刻调用。本文用 Go 拆开 ACTIVE 状态、48 小时保存、项目与单文件上限、主动删除和调用前复查,给出一条可回收、可重试的文件生命周期方案。433 收藏 -
本地大模型量化后变慢,不一定是量化本身造成的。本文用显存峰值、首 token 延迟、生成 token/s 和上下文长度的对照实验,区分权重显存压力与 KV Cache 上下文瓶颈,并比较 4/8 bit、缓存卸载和量化缓存的选择。433 收藏 -
大模型接口出现 429 时,连续立刻再发往往只会让队列更长。本文按运行手册的节奏说明如何保留响应线索,区分请求数量、令牌总量与并发积压三类原因,再用限并发、缩短上下文和带抖动的退避把线上对话从拥塞中拉回来。432 收藏 -
科技周边 · 人工智能 | 1个月前 | 人工智能 · api设计 · gemini · AI Agent Gemini Interactions API previous_interaction_id store=false 多轮状态
梳理 Gemini Interactions API 多轮状态的真实继承范围,说明 previous_interaction_id、交互级配置与 store=false 的取舍边界。432 收藏 -
大模型返回的 JSON 偶尔缺字段、枚举值漂移或混入解释文字时,不能只继续堆提示词。本文按输出稳定性、供应商能力和业务风险比较提示词约束、结构化输出与服务端校验,给出可落地的组合选择和验收门槛。431 收藏 -
多模态模型处理跨页 PDF 表格时,字段错位往往来自分页、表头和行号没有对齐。本文把 PDF 页面切片、表头继承、行号复核和低置信度回收串成一条可操作的排查链,给出结构化结果验收方法。430 收藏 -
长对话和工具循环会不断消耗上下文。本文用 Go 拆解 Responses API 的 /responses/compact、type=compaction 项和续接请求,说明什么时候压缩、哪些状态不能丢,以及如何做回归检查。428 收藏 -
Hugging Face 的 hf_fs MCP 把仓库、存储、文档和论文入口收进一个接口。本文解释它解决的上下文问题、如何划定权限边界,以及接入前应该核对哪些事实和回退路径。427 收藏 -
Gemini API 的 URL Context 能读取公开网页,但应用不能只看模型有没有输出。本文用 Go 检查 url_context_result、引用标注、输入 token 与失败回退,建立一条可验收的网页上下文链路。426 收藏 -
MCP Tasks 把耗时工具调用变成可查询的任务,但取消不是简单发一个通知。本文按能力协商、任务状态、tasks/cancel 请求和客户端收口拆开可取消流程,说明如何处理竞态与终态边界。426 收藏 -
用 FAISS 做向量检索时,不要把返回位置当成文档主键。本文用 IndexIDMap 绑定 int64 业务 ID,演示 search 结果如何安全回表,并说明 IndexIVF 的选型边界。426 收藏 -
LoRA 微调效果不只取决于 rank 和学习率,训练样本的角色、模板、结束标记与推理入口也必须保持一致。本文用 messages 示例说明如何固定这份格式契约。426 收藏 -
OpenAI File Search 可以在 vector store file 上写入 attributes,再用 file_search.filters 通过 eq、and、or、in 和数值范围条件缩小检索范围。本文用租户、语言和年份示例说明字段设计、复合过滤以及空结果排查。426 收藏 -
AI 对话的停止按钮不只是调用 abort()。要让用户、键盘操作和辅助技术都获得一致反馈,需要为每次请求新建 AbortController,正确收尾读取循环,并把生成、停止、失败状态放进合适的实时状态区域。425 收藏 -
把整张长图直接交给视觉模型,常见结果是文字区域太小、成本偏高且难以复核。本文用 OCR 返回的 boundingPoly 先定位目标区域,再把归一化坐标映射为像素矩形,最后用二次识别确认裁剪没有偏移。425 收藏