返回博客

AI Skill测试验收:5步覆盖正常、异常与交接完整指南

人工智能3096
AI Skill测试验收:5步覆盖正常、异常与交接完整指南

Skill 能运行不等于它能交付;真正的验收要覆盖输入缺失、信息冲突、敏感内容、写回失败和换人接手等情况。本文用正常案例、异常案例、人工检查、回滚和交接五个环节建立验收流程,让团队知道什么时候继续、什么时候停止,以及如何留下可复测的证据。文中只讨论可复现的步骤,不把单次结果扩展成产品承诺;每个结论都标注前提、证据和无法覆盖的边界。读者可以先完成最小验证,再按自己的版本、权限和数据补充实验。

但文件齐全,不代表 Skill 已经可以交付。

客户最容易失望的场景是:模型输出了一份看起来很完整的结果,却没人知道它是否能用;第一次运行成功,第二次输入缺一列就完全失控;设计者说“照着用就行”,新员工却不知道失败后该回哪里。

所以 Skill 的验收目标不是“模型回答得像不像”,而是:

text
输入完整时能稳定完成
输入缺失时能明确停下
信息冲突时能保留证据
敏感内容时能阻止外发
结果生成后知道谁检查
写回失败时可以回滚
换人接手时不依赖设计者口头解释

一、先画出旧流程,不要只问客户想要什么

很多项目一开始就问:

text
你希望 AI 帮你做什么?

客户通常会回答一串功能:总结、写邮件、更新表格、发消息、做报表。更有用的问题是:

text
你现在从收到材料到交付结果,按什么顺序做?
中间复制过哪些内容?
查过哪些系统?
哪一步需要确认?
出错后怎么返工?
最后是谁按下发送或提交?

建议把旧流程完整写下来:

text
收到输入
  -> 整理文件
  -> 查找历史资料
  -> 复制字段
  -> 人工判断
  -> 填写模板
  -> 复核事实
  -> 发送或归档

AI Skill 先接管其中一个重复环节,例如“把会议材料整理成待审核跟进表”,而不是一开始就接管从会议到客户发送的全部链路。

二、按 5 步完成一次 Skill 试运行

第 1 步:记录旧流程的每个动作

不要只记录“整理资料”这种抽象词,要具体到:

text
从哪个系统复制什么字段
如何判断某句话是事实还是猜测
遇到缺少负责人时怎么处理
哪些数字必须回看原始文件
谁在最后确认并发出结果

这些细节往往是老员工多年经验的集合,也是 Skill 最需要被写下来的部分。

第 2 步:删到一个结果

把工作范围压缩成一个可验收的结果:

text
会议结束后生成责任表
商品资料整理成上架 Brief
客服原话分类成待回复队列
产品更新整理成待审核大纲

不要同时做会议预约、纪要、邮件、任务分配和周报。结果越多,失败来源越难定位,客户也无法判断一次试运行到底完成了什么。

第 3 步:固定输入和输出模板

输入越固定,输出越稳定。至少要明确:

text
哪些字段必填
哪些字段可以为空
文件格式和大小限制
缺失信息如何提示
来源如何保留
草稿保存在哪里

输出也不要只返回一段文章。最好把结构化字段、待确认项、冲突项和人工检查栏分开。

第 4 步:用 3 个正常案例和 2 个异常案例测试

测试不能只挑模型容易处理的样例。建议准备:

text
正常案例 A:字段齐全,资料清晰
正常案例 B:表达方式不同,但结果规则相同
正常案例 C:材料较长,包含多个行动项
异常案例 A:缺少负责人或截止时间
异常案例 B:两份材料出现互相矛盾的信息

如果岗位涉及隐私,还要增加敏感内容案例;如果涉及外部系统写入,还要增加写回失败案例。

第 5 步:安排交接和复测

交付时至少留下:

text
一张操作说明
一张检查表
五个测试案例及预期结果
一个 10 分钟左右的操作视频
一个规则更新入口
一个异常反馈渠道

并明确谁拥有更新权限。没有交接的自动化,客户很快会因为一次错误而不敢继续使用。

三、正常案例看稳定性,异常案例看边界

正常案例测试“能不能完成”,异常案例测试“应该在哪里停下来”。

输入缺失

例如会议转写里没有客户名称、负责人和截止时间。错误做法是让模型自行补齐;正确做法是:

text
继续提取已有事实
把缺失字段列入待确认项
不生成虚构的负责人和日期
在输出顶部提示需要补充的信息

信息冲突

如果会议纪要写“周三交付”,项目表写“周五交付”,模型不应该默默选一个。

应该输出:

text
冲突字段:交付日期
来源 A:会议纪要,周三
来源 B:项目表,周五
当前状态:待项目负责人确认

保留冲突比给出一个漂亮但错误的结论更有价值。

内容敏感

当输入中出现客户身份证号、内部价格、账号密码、合同或未发布产品时,流程应该先阻断:

text
识别敏感字段
停止外部模型调用
提示脱敏或更换授权环境
记录阻断原因
交给管理员或业务负责人处理

不要先把原始内容发送给模型,再期待模型自己删除敏感信息。

系统失败

模型超时、格式错误、连接器失效和写回失败要分别处理。

text
模型超时:查询任务状态,按上限有限重试。
格式错误:保留原响应,进入格式修复步骤。
权限失败:停止任务,提示申请或更换授权。
写回失败:保留草稿,不重复执行有副作用的动作。

四、人工检查点必须写进输出

“AI 已经生成结果”不等于“结果可以直接使用”。每个输出模板最后建议固定增加人工检查区:

检查项谁确认不通过怎么办
事实和数字业务负责人回到输入表补充来源
负责人和日期项目负责人标记待确认,不自行分配
对外措辞销售或运营负责人改成草稿,禁止自动发送
隐私和权限管理员删除敏感字段,重新生成
格式和归档使用人按版本规则重命名并保存

检查项最好直接出现在结果里,而不是藏在另一份培训文档中。这样使用人每次提交时都会看到仍需完成的动作。

可以使用这样的输出尾部:

text
## 人工确认区
- [ ] 已核对事实、数字和来源
- [ ] 已确认负责人和截止时间
- [ ] 已检查隐私、客户资料和权限
- [ ] 已确认对外内容仍为草稿
- [ ] 已按版本规则归档

审核人:
审核时间:
退回原因:

五、异常处理卡应该怎么写

异常卡不是一份技术错误码手册,而是给使用人的下一步指令。

输入不完整

text
表现:必填字段为空,或原始资料不足。
先做:查看缺失字段列表。
不要做:不要让模型推测负责人、日期和价格。
恢复:补齐输入后重新提交原任务。

结果互相矛盾

text
表现:不同来源对同一事实给出不同内容。
先做:查看冲突来源和更新时间。
不要做:不要静默覆盖其中一个来源。
恢复:交给业务负责人确认后重新生成。

涉及敏感内容

text
表现:输入包含个人信息、密钥、内部价格或未公开资料。
先做:停止外部模型调用。
不要做:不要把原文复制到公共聊天窗口。
恢复:按企业脱敏规则处理,或改用已授权环境。

模型超时或连接失败

text
表现:页面无结果、请求超时或上游返回 5xx。
先做:查询 request_id 和任务状态。
不要做:不要直接重复有副作用的写入操作。
恢复:按规定次数重试,必要时切备用路由并重新检查结果。

结果写回失败

text
表现:草稿已生成,但没有写入目标文件或业务系统。
先做:确认草稿是否已保存。
不要做:不要反复点击发送或创建。
恢复:人工确认目标位置后再执行一次幂等写回。

六、版本、日志和失败样本要留下

Skill 会随着业务规则变化而更新。至少保存以下信息:

text
skill_name
skill_version
effective_date
owner
change_reason
changed_fields
approved_by
rollback_version

失败样本不要只在群聊里讨论。可以建立一个失败案例表:

字段作用
case_id方便定位和复测
输入摘要描述触发条件,不默认保存敏感原文
预期结果这次任务本来应当怎样处理
实际结果模型和流程实际返回什么
根因输入、规则、模型、权限还是人工遗漏
修复动作改 Prompt、模板、权限还是流程
回归状态新版本是否再次通过

这样每次规则修改都有依据,也能避免“修了一个案例,破坏另一个案例”。

七、上游 API 如何辅助测试和生产治理

岗位 Skill 的测试案例关注业务质量,上游 API 关注模型调用链路。两者应该在同一次试运行中一起观察。

建议对每次模型调用记录:

text
request_id
task_id
skill_version
model
route
input_size
output_size
latency
retry_count
status_code
cost

这些字段可以帮助定位:

text
是模型能力不够,还是输入没有清洗?
是路由选错,还是上游临时失败?
是输出质量问题,还是人工检查没有执行?
是一次调用失败,还是重试导致成本增加?

上游 API 适合在企业多模型场景中提供:

但要注意,模型网关的日志不等于业务验收。上游 API 可以告诉你请求有没有成功、用了哪个模型、花了多少钱;业务负责人仍然要确认结果是否符合岗位规则,业务后端仍然要控制数据权限和写入副作用。

八、交接时做一次“盲操作”

交接不要采用“我给你讲一遍,你应该会了”的方式。更可靠的是让接手人盲操作:

text
只给他操作说明和输入材料
不在旁边提示下一步
记录他每一次停顿和提问
让他独立完成一次正常案例
再让他处理一次异常案例
最后让他解释谁需要审核什么

交接合格的标志不是他能复述功能,而是他能回答:

text
什么时候不用这个 Skill?
输入缺失时在哪里停?
出现冲突时找谁?
结果由谁审核?
如何保留旧版本?
失败后怎样避免重复写入?

建议录制一段 10 分钟左右的视频,但视频不能替代文字文档。视频适合展示操作路径,文字适合查字段、查异常和查版本。

九、交付边界:哪些动作必须留下人工确认

下列操作不建议由第一版 Skill 自动完成:

如果确实要自动执行,至少要有明确授权、可回滚机制、幂等设计、审计记录和异常告警。否则,第一版先输出草稿,把最终动作交给人。

十、上线前验收清单

流程测试

人工检查

系统治理

交接

总结

AI Skill 交付的关键,不是把模型调用包装得多复杂,而是让失败可以被发现、责任可以被定位、结果可以被回滚、流程可以被接手。

把 3 个正常案例和 2 个异常案例跑完,把人工检查点写进输出,把版本、日志、失败样本和权限交接留下,再谈规模化推广。上游 API 可以为多模型调用提供统一入口、路由、Key、审计和成本治理,但业务质量和最终责任仍然属于岗位流程和人工审核。

结论

本文给出了问题定位、配置或创作流程的可执行路径。实际结果仍取决于当前版本、权限和运行环境,提交前应按官方文档复核可变字段,并保留失败证据和回滚边界。

标签:AI Skill测试异常处理验收交接工作流设计岗位交付

推荐阅读

探索更多前沿洞察与行业干货。