智能体工程 · 14f
昨天失败的生成任务,今天怎样安全续跑?
读完能做的判断:依次检查元数据、环境、授权探针与新输出目录,保留昨日失败历史。
生成环境预检与失败续跑
⏱ 阅读约 31 分钟 · 动手实践另计
本章保留教学代码、路径说明与历史验证结论;完整实验工程和运行记录未随本站及公开仓库分发。命令用于说明调用方式,复现需自行准备对应实现、数据与环境。
一句话带走:先确认这一次能否开始,再把失败、未完成和待复核各自记清,恢复时另存新记录。
预检范围与运行条件
第 1、2、6 节区分可读取的元数据和实际得到的答案。离线测试与只读预检无需可用模型。运行生成探针需要有合适的设备、可用模型和授权。
先读 真实模型问答与逐题验收。本章接住上次未完成的生成实验,重点是判断是否能启动、如何保留失败和怎样续跑;答案拿到以后,去 答案复核与分歧处理。原实验使用知识助手工程中的代码,只用既有虚构语料。
1.昨天的失败与今天的状态各写一行
2026 年 10 月 12 日,第十二批对同一既有 27.3B 模型做了四次加载诊断,分别遇到资源分配失败;一次轻量模型拉取也被本地服务安全检查拒绝。这些原始记录保留在本地历史材料 validation/generation-trial-*,没有因为后来成功而改写。
2026 年 10 月 13 日,第十三批先读取当前服务信息,再发一次极小探针。元数据返回 Ollama 0.40.3、qwen3.8:latest、GGUF/Q4_K_M,摘要以 22130167c4c2 开头;当时 /api/ps 返回空模型列表。探针使用自动 GPU 分配、1024 上下文、最多 8 个输出 token、batch32、关闭思考。完整回答为 OK,全流程约 24.188 秒,模型报告输入 16、输出 2 token。
这次参数、时点与上批不同,只证明一次受限请求成功;未做控制变量实验,不能宣布资源问题根治。
检查点 1:今天成功,昨天的四次失败可以删掉么?
不能。日期、配置、原始错误和请求目的都不同。保留两组证据,才知道哪一次发生了什么;不同条件下的一次成功不构成根因证明。
2.把四道门逐一打开
| 当前证据 | 本次能确认 | 下一道门仍缺什么 |
|---|---|---|
| version/tags/show 可读取 | 服务与模型描述能读取 | 权重是否加载、内存是否足够 |
| 本地极小请求完整返回 | 此配置下一次小请求有响应 | 工具调用、检索证据、答案格式 |
| 开发题得到完整记录 | 本次题目运行状态可检查 | 命题是否正确、引用是否支持 |
| 人逐项复核并处理分歧 | 此份输出的人工判断可追溯 | 更多题型、冻结范围与独立验收 |
metadata_ready 只是预检脚本自己的状态名,表示规定的元数据字段已经读取。它既不叫“模型准备完成”,也不自动开始生成。/api/ps 是模型驻留快照,不能证明没有其他客户端正在排队,更不能代替跨进程调度锁。因此本批只有一个执行者发真实请求。
模型大小不能证明可装入显存;本次未采集物理内存或GPU利用率。
检查点 2:模型列表里能看到名称,为什么还要探针?
列表说明本地服务能够描述这个条目。探针才会尝试实际生成。两者回答不同问题;探针成功后也只打开第二道门。
3.默认先读元数据,离线也能练习
示例工作目录是 knowledge-assistant。原环境使用 .venv/Scripts/python.exe;自备环境可替换为对应的 python。本模块仅用 Python 标准库,预检本身不安装依赖或模型。
python -X utf8 -m unittest test_generation_preflight -v
python -X utf8 generation_preflight.py --model qwen3.8:latest --budget-seconds 12 --output validation/preflight-reader-metadata-01.json
第一条测试使用受控输入和临时回环假服务,不访问真实模型服务。第二条才读取本机默认 http://127.0.0.1:11434 的 version、tags、ps 和 show。模型名必须已经安装;若名称不存在,脚本记录 model_not_installed 后停止,没有自动拉取。
输出必须是新路径;不要删除旧失败。脚本独占创建结果文件,中途退出留下started_not_completed也不算成功。无服务可只读保存记录。
检查点 3:机器没有 Ollama,测试失败了吗?
这组测试不依赖真实 Ollama。只读 CLI 的连接失败则属于环境记录,与测试结果分开。没有服务不需要用模拟回答来补成一次真实生成。
4.开启探针之前,先绑定安装记录
打开自己的元数据 JSON,核对 selected_model.name 与完整 digest。确认没有其他任务正在调用同一个服务,再在自己的运行范围内显式加 --probe:
python -X utf8 generation_preflight.py --model qwen3.8:latest --probe --expect-digest <元数据中的完整digest> --budget-seconds 45 --output validation/preflight-reader-probe-01.json
尖括号部分要替换为自己的值,不要原样执行。脚本重新读取元数据,摘要不一致、没有 completion 能力、思考模型不声明支持 false、发现另一个驻留模型,都会阻断探针。保守的本地权重检查还要求正数大小与 GGUF 格式,并拒绝明确的远端模型引用;它依赖受信任本地服务的元数据,不是服务身份认证。
通过后仅发一次Reply only OK.:关闭stream/thinking、ctx1024、predict8;不设置卸载、GPU层数或保活。工具与证据更长,不能直接沿用小探针的预算。
检查点 4:换成另一个模型,只改名称就能沿用结果吗?
不能。名称、完整摘要、能力和实际响应要重新绑定。旧探针结果只属于原来那次请求;模型换了需要新的记录和独立运行决定。
5.预算耗尽时,先停客户端
每个元数据请求最多使用 3 秒,所有请求共享总预算;探针只使用剩余时间。输入预算必须大于 0 且不超过 60 秒。传输只接受字面回环地址,不做 DNS 查找、不跟随重定向;脚本也不改变系统代理或服务配置。
请求使用独立工作进程;截止时终止客户端并保存client_deadline。调度可能产生少量超时开销;不能宣布服务器取消或显存释放。
HTTP 500 会留下状态码和响应正文;超长响应会被截断并标记,重复 JSON 键或非有限数字会拒绝。超时没有返回 token 数时,记录为 null,不能填零。done_reason=length 即使有字和 token 数,也作为不完整输出保留。
检查点 5:客户端超时后,马上再开一个终端重跑可行吗?
本章的停止规则不允许这样续接。先保存当前结果,确认服务是否仍在处理;客户端超时不是服务端取消证明。不要用并发重试增加资源竞争。
6.沿着证据续跑,不靠无限加轮数
先保留上批报告(仓库 output/yuque-thirteenth-batch/generation-report.md)中的失败;原开发题两次搜索后到达两轮上限,没有最终答案。第二轮输入已经包含180 W原文,两次查询措辞不同,所以不能先给它贴“重复调用bug”的标签。每次模型调用占一轮;只有工具返回,仍不算完成题目。
第十四批先只增加最多六轮,第三次请求收到HTTP500:no user query found in messages。把上下文由1024改2048后,第三、四轮可以处理1253、1662个输入token,却继续搜索,第五轮又遇同一错误。容量增加推迟了错误,没有让检索收敛。每轮都保存原始请求、响应和工具证据;整机同时有其他测试,不能按耗时差给参数作强因果判断。
接着采用明确的受限问答策略:第一轮允许原工具搜索,观察到真实search结果以后,第二轮不再提供tools,只据已有证据合成。仍由原agent校验JSON字段、引用revision、ACL、quote和证据是否给过模型;不把参考答案塞进请求。这与自由多轮Agent的运行策略不同,不能称通用Agent已经根治。
128个输出token时,模型写出180 W和chunk_id但在quote处截断,仍记失败。只将输出上限提高到512后,dev-01得到完整答案;三题小组随后暴露JSON围栏,原agent严格拒绝。再仅在合成阶段启用format=json,完整跑通可答dev-01、信息不足dev-19、无权限dev-17:各两次chat,三份答案。无权限题只写资料不足,没有泄露核算基数,也没有声称自己已经认证权限。
python -X utf8 -m unittest test_generation_completion -v
python -X utf8 generation_completion.py --run --ctx 2048 --predict 512 --synthesize --ids dev-01 dev-19 dev-17 --output validation/generation-completion-reader-new
每题最多六次chat,每请求≤60秒、每题≤180秒、整批≤600秒,首个错误停,不自动重试;输出目录必须新建。真实模型实验采用15分钟/最多12完整题次软预算,不会启动public_frozen。固定三题是开发演练;人审CSV空白,机器的180 W字面与quote检查不是语义通过率。默认没有--run时入口拒绝发送。
同批还把原创中文ZX-41检修卡的教学纠错入库结果复制到临时数据库,真实问答返回“0.65 MPa”,引用原文“压力:0.65 MPa”。这串起原图、OCR候选、作者参考纠错、教学入库与真实回答;作者参考不等于真人复核,复杂表格歧义仍保留停止边界。
复现时先在自备 knowledge-assistant 示例目录用原创教学材料生成自己的数据库,再显式指定DB与新输出路径:
python -X utf8 ocr_ingest_lab.py --demo --output .runtime/ocr-first
python -X utf8 validation/generation-completion-ocr-demo.py --db .runtime/ocr-first/accepted/teaching.sqlite --output .runtime/ocr-qa-first --run
第二条才发真实模型请求;没有--run会拒绝,--help只显示说明。脚本复制数据库到临时目录,保留源DB。已有输出就另取新名字,不删旧证据。
检查点 6:只要出现180 W,截断与JSON围栏就能忽略么?
不能。截断引用不是完整答案;JSON围栏违反原接口契约。保留两种原始失败,用新实验明确改变输出预算或格式,再通过原校验。可答、信息不足、无权限三题完成也仍要逐项人审。
7.续跑清单要留下三个时间点
停止时保存命令、时间、端点、摘要、载荷、预算与结果,写清最远阶段和未开始题。恢复前读取当前元数据,记录条件变化;另存范围、参数与停止规则,不机械重复旧失败。
本章记录第十四批开发阶段,当时公开运行0;后续结果见14d逐题验收与第十五批报告(docs/reports/yuque-fifteenth-batch/implementation-report.html)。20个公开问题、3次重复是60个计划题次;失败和未开始都保留,实际数以新记录为准。
本章不下载、卸载、重启服务、改代理、绕过拒绝或调用付费模型;这些需要单独的环境维护任务。
检查点 7:恢复时最少要写哪三件事?
写明上次停在哪里、这次外部条件与范围有什么变化、下一条停止规则是什么。随后用新路径保存,不覆盖旧证据。
8.走神救援:只追一条状态链
走神时只看mode、status/stop_reason与chat数。只读模式零chat正常;失败chat和OK都不是RAG答案。
做个两分钟练习:分别为“tags 成功”“探针返回 OK”“开发输出截断”“人工列空白”写一句结论。合格表述应依次落在“元数据可读取”“一次小请求完成”“输出不完整,停止”“语义质量未知”。不需要先记住 GPU 参数和所有 JSON 字段。
本批沿用已读取的 语雀 19:怎么解决大模型幻觉问题,将事实、引用与指令遵循分别复核;语雀 113:大模型 RAG 评测面试题 只读取到标题与附件入口,作为选题依据。预检实现、状态名、停止规则与本批样本均为项目原创,不声称来自未读附件。
本轮合成JSON模式契约还核对 Structured outputs。接口字段核对参考 Ollama Chat API、模型列表 和 驻留模型列表。官方接口说明与本机实际记录各负责自己的证据范围。
检查点 8:离开这一章前,只带走哪句话?
把“能读取、能响应、能完成题目、已经复核”分开写;每次恢复都另存证据,达到停止规则就停。