Die ersteHaftungsklasse, in derdas System entscheidet
- Risikoklasse
- KI-Risiken
- Schwerpunkt
- Modelle · Agenten · Autonomie
- Zugehörige Produkte
- NOVA
- Betriebsmodell
- Verifizieren → Überwachen → Verhindern → Wiederherstellen → Versichern
Warum der traditionelle Markt an Grenzen stösst
Die Vermögensschadenhaftpflicht für Technologieunternehmen unterstellt einen Fehler, der sich nachvollziehen, reproduzieren und beheben lässt. Modellverhalten ist emergent, empfindlich gegenüber Verteilungsverschiebungen und häufig nicht reproduzierbar. Die Kausalität ist strittig, die Verantwortungskette reicht vom Modellentwickler über den Betreiber bis zum Integrator, und der Schaden kann zugleich reputationsbezogen, aufsichtsrechtlich und finanziell sein. Die Zeichnung verlangt Evaluationsnachweise, keine Zusicherungen.
Wonach wirstrukturieren.
Fehlerhafte Ausgaben und Entscheidungsschäden
Finanzielle oder physische Schäden durch Modellausgaben, auf die in einem laufenden Prozess vertraut wird.
Handeln autonomer Agenten
Exponierung, die entsteht, wenn ein System über Werkzeugzugriff, Ausgabenbefugnis oder die Fähigkeit zu Transaktionen verfügt.
Modellintegrität
Data Poisoning, Prompt Injection, Modellextraktion und gezielte Manipulation durch Angreifer.
Geistiges Eigentum und Inhalte
Ansprüche Dritter aus Trainingsdaten, erzeugten Ausgaben und deren nachgelagerter Verbreitung.
Regulierung und Compliance
Risiken aus den entstehenden KI-Regulierungen, einschliesslich der Pflichten für Hochrisiko-Anwendungen.
Leistung und Verfügbarkeit
Verschlechterung, Drift und Ausfall von Abhängigkeiten in Produktivsystemen, auf die Kunden angewiesen sind.
Der Regelkreis,hier angewandt.
- Prüfen
Prüfung von Evaluationsmethodik, Schutzmechanismen, Einbindung menschlicher Kontrolle und Einsatzgrenzen.
- Überwachen
Laufende Signale zu Drift, Vorfallrate, Umfang der Autonomie sowie Wechseln von Modell oder Anbieter.
- Vorbeugen
Vereinbarte Eingrenzung: Fähigkeitsgrenzen, Eskalationsauslöser und Rollback-Bedingungen.
- Wiederherstellen
Vorfallbewältigung, die technische Eingrenzung, Offenlegung und die Exponierung gegenüber Dritten umfasst.
- Versichern
Risikotransfer, kalibriert auf den Autonomiegrad, der im Produktivbetrieb tatsächlich wirkt.
Was unter Beobachtung bleibt, sobald das Risiko in Deckung genommen ist.
- Autonomiegrad im Produktivbetrieb
- Frequenz von Evaluation und Red-Teaming
- Abdeckung durch menschliche Aufsicht
- Umfang der Werkzeug- und Ausgabenbefugnis
- Änderungsrate bei Modell und Anbieter
- Telemetrie zu Vorfällen und Beinaheschäden
- Nachweislage zur Datenherkunft
- Entwickler von KI-Modellen
- Unternehmen mit agentischen Systemen im Einsatz
- KI-Anbieter im Gesundheits-, Rechts- und Finanzwesen
- Plattform- und Infrastrukturanbieter
- Investoren, die KI-Portfolios zeichnen