El primer ramo deresponsabilidad en elque decide el sistema
- Clase de riesgo
- Riesgo de IA
- Enfoque
- Modelos · Agentes · Autonomía
- Productos relacionados
- NOVA
- Modelo operativo
- Verificar → Supervisar → Prevenir → Recuperar → Asegurar
Las limitaciones del mercado tradicional
El seguro tecnológico de errores y omisiones presupone un defecto que puede rastrearse, reproducirse y corregirse. El comportamiento de un modelo es emergente, sensible a la distribución de los datos y a menudo no reproducible. La causalidad es controvertida, la cadena de responsabilidad abarca al desarrollador del modelo, al responsable del despliegue y al integrador, y el daño puede ser reputacional, regulatorio y financiero a la vez. Suscribirlo exige evidencia de evaluación, no promesas.
En torno a quéestructuramos.
Resultado erróneo y daño por decisión
Pérdida financiera o daño material causados por un resultado del modelo en el que se confía dentro de un proceso en producción.
Actuación de agentes autónomos
Exposición generada cuando un sistema dispone de acceso a herramientas, autorización de gasto o capacidad para realizar transacciones.
Integridad del modelo
Envenenamiento de datos, inyección de instrucciones, extracción del modelo y manipulación adversaria.
Propiedad intelectual y contenidos
Reclamaciones de terceros derivadas de los datos de entrenamiento, del contenido generado y de su distribución posterior.
Regulación y cumplimiento
Exposición ante los regímenes emergentes de IA, incluidas las obligaciones que recaen sobre los despliegues de alto riesgo.
Rendimiento y disponibilidad
Degradación, deriva y fallo de dependencias en sistemas de producción sobre los que se apoyan los clientes.
El ciclo, aplicadoa esta clase.
- Verificar
Revisión de la metodología de evaluación, las barreras de contención, el diseño de supervisión humana y los límites del despliegue.
- Supervisar
Señal continua sobre deriva, tasa de incidentes, alcance de la autonomía y cambios de modelo o de proveedor.
- Prevenir
Contención acordada: límites de capacidad, supuestos de escalado y condiciones de reversión.
- Recuperar
Respuesta al incidente que abarca la contención técnica, la comunicación y la exposición frente a terceros.
- Asegurar
Transferencia de riesgo calibrada al nivel de autonomía que realmente opera en producción.
Lo que permanece bajo observación una vez asumido el riesgo.
- Nivel de autonomía en producción
- Cadencia de evaluación y red team
- Alcance de la supervisión humana
- Alcance de herramientas y capacidad de gasto
- Tasa de cambio de modelo y proveedor
- Telemetría de incidentes y cuasi incidentes
- Trazabilidad del origen de los datos
- Desarrolladores de modelos de IA
- Empresas que despliegan sistemas agénticos
- Proveedores de IA sanitaria, jurídica y financiera
- Proveedores de plataforma e infraestructura
- Inversores que suscriben carteras de IA