XAI@SV - ML-Modelle im GLM-Gewand

Die globale Erklärbarkeit von mittels Machine Learning (ML) trainierten Prognosemodellen dient dem Erkenntnisgewinn über die in den Daten erkannten Zusammenhänge. Sie ist ein häufig gefordertes Kriterium von Stakeholdern oder notwendige Voraussetzung für deren Akzeptanzgewinnung. Zudem präzisiert der EU AI Act regulatorische Anforderungen an die Transparenz von auf solchen Modellen aufbauenden KI-Systemen. Ein typischer Ansatz ist die Anwendung von expliziten Post-hoc-Erklärverfahren. Diese können modell-spezifisch oder -agnostisch sein und lassen sich danach unterscheiden, ob sie lokale und/oder globale Erklärungen bereitstellen. Die Erklärungen sind i.A. aufgrund von Methodik oder begrenzter Rechenkapazität approximativ. Ein intuitives modell-agnostisches Post-hoc-Verfahren ist die globale Erklärung anhand intrinsisch erklärbarer Surrogatmodelle, welche das originäre ML-Modell bestmöglich approximieren. Hier bieten sich verallgemeinerte lineare Modelle (GLMs) an, die in der Versicherungsbranche - und nicht zuletzt beim Regulator - eine historisch hohe Akzeptanz als prinzipiell vollständig erklärbare, visualisierbare und kommunizierbare Modelle genießen. Weiterhin existiert ein vergleichsweises hohes Maß an Verständnis auch bei interdisziplinären Stakeholdern. Wir demonstrieren in diesem Vortrag ein bei der SV SparkassenVersicherung im Einsatz befindliches Verfahren zur verstärkt maschinellen Surrogatmodellierung. Grundlage ist ein mittels ML trainiertes Initialmodell. Hierüber erfolgen insbesondere die maschinelle Vorauswahl von Merkmalen und die Erlernung der relevanten (nicht-linearen) Muster in den Daten, jeweils unter der Prämisse einer möglichst hohen Prognosegüte. Für dieses Initialmodell erfolgt anschließend die Surrogatmodellierung über adaptiv erlernte GLMs. Hierzu setzen wir eine datengetriebene und automatisierte Anpassung des Proxy-GLMs unter Berücksichtigung von nicht-linearen Haupt- sowie Interaktionseffekten ein. Im Nachgang sind wir in der Lage den Trade-off zwischen Prognosemodell und Erklärbarkeit über mehrere GLMs mit unterschiedlicher Komplexität abzubilden, zu messen und zu steuern. Je nach Zielsetzung und Eignung setzen wir das Surrogat-GLM lediglich als approximatives Post-Hoc-Erklärverfahren oder aber als tatsächlichen Ersatz des ML-Initialmodells ein. Wir demonstrieren die Kombination der ML- und GLM-Welten anhand einer Fallstudie aus dem Bereich Customer Analytics.