模型·智能体·自主性
首个由系统自行决策的责任险类别
AI系统的失效方式不同于软件。它以概率的方式、在分布的尾部失效，并且会采取行动。当模型被赋予工具、预算与执行权限，敞口便从职业责任转向更接近运营责任的范畴。1B承保的正是这一转变。
- 风险类别
- 人工智能风险
- 重点
- 模型·智能体·自主性
- 相关产品
- NOVA
- 运营模式
- 核验 → 监测 → 预防 → 恢复 → 承保
模型行为IDLE
激活 · 漂移 · 尾部敞口 · 自主等级
缺口
传统市场为何难以应对
科技类错误与遗漏（E&O）责任险预设的，是可以追溯、复现并修补的缺陷。而模型行为是涌现的、对数据分布敏感的，且往往无法复现。因果关系存在争议，责任链条横跨模型开发者、部署方与集成商，损失可能同时体现为声誉、监管与财务三重后果。承保这类风险需要的是评测证据，而非承诺。
敞口面
我们围绕什么设计承保结构。
决定该承保方案形态的各类风险面。保障结构按交易对手方逐一设定，此处呈现的是风险地图，而非保单条款。
错误输出与决策损害
在实际运行流程中依赖模型输出所导致的财务损失或实体损失。
自主智能体行为
当系统拥有工具调用权、支出权限或交易能力时所产生的敞口。
模型完整性
数据投毒、提示注入、模型窃取与对抗性操纵。
知识产权与内容
因训练数据、生成内容及下游分发而引发的第三方索赔。
监管与合规
新兴人工智能监管制度下的敞口，包括适用于高风险部署场景的各项义务。
性能与可用性
客户所依赖的生产系统出现性能退化、漂移与依赖项失效。
1B在此的运作方式
这套闭环，落到这一类别。
同样的五个阶段，依据这一风险类别所产生的具体证据加以校准。
- 核验
审查评测方法、防护栏设计、人在回路机制与部署边界。
- 监测
持续获取关于漂移、事件率、自主权范围以及模型或供应商变更的信号。
- 预防
事先约定的遏制措施：能力上限、升级触发条件与回滚条件。
- 恢复
涵盖技术遏制、信息披露与第三方敞口的事件响应。
- 承保
风险转移按生产环境中实际运行的自主等级进行校准。
持续信号
风险一经承保，哪些内容仍处于持续观察之下。
- 生产环境自主等级
- 评测与红队频率
- 人工监督覆盖率
- 工具与支出权限范围
- 模型与供应商变更率
- 事件与未遂事件遥测
- 数据溯源状况
适用对象
- AI模型开发者
- 部署智能体系统的企业
- 医疗、法律与金融领域AI服务商
- 平台与基础设施提供商
- 承担AI投资组合风险的投资人
产品