Predictive Analytic und die Haftung für fehlerhafte Ergebnisse gegenüber betroffenen Einzelpersonen. Susanne Mentel

2. Fehlerhafte Software

      Eine weitere Ursache für fehlerhafte Ergebnisse kann ein Fehler der verwendeten Analysesoftware sein. Dabei können gewöhnliche Programmierfehler (sog. bugs) der Predictive Analytic-Software der Grund für ein fehlerhaftes Ergebnis sein. Computerprogramme sind per se als riskante Systeme einzuordnen und selbst Informatiker räumen ein, dass keine komplexere Software fehlerfrei ist.196 Fehler einer Software können dabei auf verschiedenste Gründe zurückzuführen sein.197 Eine Einteilung in Fehlerarten kann nur einen Überblick liefern und nicht alle denkbaren Ursachen erfassen.198 Die existierenden Einteilungsversuche beziehen sich auf die einzelnen Phasen der Erstellung einer Software: Eine Ursache für Fehler kann zunächst darin liegen, dass innerhalb der Entwicklungsphase bei der Festlegung der Anforderungen, die die Software erfüllen soll, nicht alle möglichen Risiken berücksichtigt wurden (sog. Spezifikationsfehler). Daneben kann es, auch wenn bei der Planung vermeintlich an alle Risiken gedacht wurde, zu einem Fehler im Programmentwurf kommen, der sich in einer fehlerhaften Umsetzung des Programmes fortwirkt (sog. Konstruktionsfehler). Eine weitere Fehlerursache zeigt sich erst im Nachgang der Softwareentwicklung, nämlich wenn bei der Vervielfältigung eines an sich fehlerfreien Programmes Unregelmäßigkeiten entstehen, beispielsweise weil die Installation auf eine Hardware zu Fehlern führt (sog. Fabrikationsfehler) oder das Programm nachträglich durch Schadsoftware ins Fehlerhafte verändert wird.199 Bezogen auf Predictive Analytic-Verfahren können die genannten Softwarefehler die unterschiedlichsten Folgen haben. Denkbar ist, dass die Analyse-Software Daten nicht berücksichtigt, die nach dem Willen des Programmierers in die Berechnung hätten einfließen sollen. Bestimmte Datenarten können aber auch entgegen der geplanten Konzeption abweichend gewichtet werden oder aus anderen Gründen dafür verantwortlich sein, dass die Analyse nicht nach den Vorgaben des Programmentwurfes verläuft. Daneben sind noch viele weitere Fehler innerhalb der Software denkbar, die ein fehlerhaftes Analyseergebnis zur Folge haben können.

3. Fehlerhaftes Endergebnis aufgrund Black Box-Phänomen

      Einen weiteren Risikofaktor für die Fehleranfälligkeit der Ergebnisse stellen die Verfahren dar, mit denen Predictive Analytic entwickelt werden.200 Grund hierfür kann der automatisierte Ablauf einer Predictive Analytic-Anwendung sein, aber auch die Verwendung von Machine Learning sowie die in Teilen schon verwendeten selbstständig lernenden Algorithmen. Insbesondere der Aspekt des maschinellen Lernens, der häufig einen entscheidenden Einfluss auf die Ergebnisse einer Predictive Analytic nimmt, ist undurchsichtig. Die Funktion der verselbstständigten Generierung neuer Muster erschwert sowohl die Frage danach, welche Daten in die Analyse eingeflossen sind, als auch eine klare Aussage darüber, auf welche Art und Weise das Vorhersageergebnis konkret entstanden ist. Die Verwendung nicht-linearer Systeme kann zudem eine Zuordnung von bestimmten Aktionen, wie die Einspielung neuer Daten, zu einer darauf folgenden Änderung des Vorhersagewertes verhindern. Es tritt dann ein sog. Black Box-Phänomen ein. Bei diesem kann nur festgestellt werden, dass ein Fehler vorliegt, aber nicht nachgewiesen werden, auf welche Ursache dieser zurückzuführen ist. Die in der Folge bestehende Ungewissheit über die Ursachen des fehlerhaften Ergebnisses betrifft sowohl den Anwender einer Predictive Analytic als auch den Hersteller der betreffenden Software selbst.201 Die Ursache eines Black Box-Phänomens kommt jedoch nur für einen Teil von Predictive Analytic in Betracht und setzt voraus, dass diese mit jenen hochkomplexen Techniken erstellt wurden. Bei einfacheren Analyseformen, bei denen keine selbstständig lernenden Algorithmen angewandt wurden, sind nur die beiden übrigen Ursachen als Fehlerquelle in Betracht zu ziehen.

IV. Mögliche Folgen einer fehlerhaften Predictive Analytic

      Predictive Analytic werden zu den unterschiedlichsten Zwecken genutzt.202 Aus diesem Grund sind auch die möglichen Folgen für den Betroffenen weit gefächert und je nach Anwendungsart der Predictive Analytic in ihrer Intensität unterschiedlich ausgeprägt. Den folgenden Überlegungen sollen die bereits erwähnten, häufigen Anwendungsgebiete von Predictive Analytic zugrunde gelegt werden. Dazu zählen Predictive Analytic zu Marketingzwecken, als Kundenbindungsinstrument, zur Analyse von Arbeitnehmern, zur Preisbestimmung oder Tarifierung sowie zur Vorhersage von Schadensrisiken, z.B. in der Versicherungsbranche. Nicht unerwähnt bleiben sollen auch umfassende Verhaltensvorhersagen, die aktuell noch als Zukunftsszenario gelten, durch die geplante Reform Chinas203 aber Predictive Analytic-Anwendungen der Zukunft sind.

1. Abgrenzung zu rein internen Zwecken

      Innerhalb der diversen Anwendungsgebiete können Predictive Analytic eine Wirkung auf eine Person entfalten oder ausschließlich für interne Zwecke verwendet werden. Diese Unterscheidung ist deshalb relevant, weil eine nur für interne Zwecke verwendete Predictive Analytic, die keine Auswirkung auf eine einzelne Person entfaltet, für eine haftungsrechtliche Untersuchung nicht relevant ist. Ausschließlich interne Zwecke werden beispielsweise bei der eingangs erwähnten Predictive Maintenance verfolgt, die eine vorausschauende Wartung von Maschinen zum Ziel hat. Ebenfalls können Predictive Analytic zu Marketingzwecken ohne Außenwirkung ausgestaltet sein, wenn sie ausschließlich dazu verwendet werden, ein generelles Interesse des Marktes an einem neuen Produkt vorherzusagen.204 Diese Analysen müssen sich nicht zwingend auf eine Person oder Personengruppe beziehen und sind auch als Predictive Analytic ohne Bezug zu bestimmten Einzelpersonen möglich.

2. Marketing und Kundenbindung

      In den allermeisten Fällen werden im Marketingbereich jedoch auf Einzelpersonen bezogene Analysen verwendet, die voraussagen sollen, welche der bestehenden oder potenziellen Kunden besonders gut auf eine Marketingmaßnahme ansprechen werden. Je nach Ergebnis kann die Predictive Analytic dann z.B. zur Folge haben, dass eine Person besonders mit Werbung angesprochen wird. Dies kann in Form eines Newsletters oder durch ein auf die vermeintlichen Kundenwünsche gerichtetes persönliches Gespräch erfolgen. Das Ergebnis der Analyse kann aber auch dazu führen, dass ein Kunde eine Werbung nicht erhält oder ein bestimmtes Produkt nicht angeboten bekommt, weil er vermeintlich nicht daran interessiert ist. In der Folge werden dem Betroffenen Maßnahmen vorenthalten, die er bei einem anderslautenden Analyseergebnis möglicherweise erhalten hätte. Ebenfalls auf eine gezielte Ansprache des Kunden zielen Predictive Analytic zur Kundenbindung ab, allen voran die Anwendungen, die eine Vorhersage der Kündigungswahrscheinlichkeit bezwecken. So wollen beispielsweise Mobilfunkanbieter, deren Analysen ergeben, dass bei einem bestimmten Kunden eine hohe Wahrscheinlichkeit besteht, dass dieser demnächst kündigt und den Anbieter wechseln will, diesen gezielt ansprechen und so versuchen, seine Abwanderung zu verhindern. Als mögliche Gegenmaßnahmen kommen das Angebot eines günstigeren Tarifs, bessere Vertragsbedingungen oder Zusatzangebote in Form von Prämien in Betracht. Eine fehlerhafte Kündigungsvorhersage bestünde darin, dass eine hohe Kündigungswahrscheinlichkeit vorausgesagt wird, der Kunde aber tatsächlich nicht kündigen will (sog. falsch negativ Ergebnis).205 In der Folge wird der Kunde trotzdem mit besonderen Angeboten gelockt. Der ins Leere zielende Versuch, einen Kunden zu binden, der gar nicht an einem Wechsel interessiert war, ist haftungsrechtlich nicht relevant, da die betreffende Person in diesem Fall keinen Schaden erleidet. Umgekehrt könnte ein kündigungsbereiter Kunde aber fälschlicherweise als treu und zufrieden eingestuft werden (sog. falsch positiv Ergebnis). Der Mobilfunkanbieter würde in diesem Fall seine Kundenbindungsinstrumente entgegen der mit der Predictive Analytic verfolgten Zielsetzung nicht einsetzen. In dieser Situation stellt sich die Frage, ob die Vorenthaltung von Vergünstigungen einen rechtlich ersatzfähigen Schaden darstellt, wenn sie auf einer fehlerhaften Einschätzung durch Predictive Analytic beruht. Mit der generellen Ersatzfähigkeit möglicher Nachteile bei fehlerhaften Predictive Analytic-Ergebnissen beschäftigt sich das an diesen Abschnitt anschließende Kapitel näher.

3. Dynamic Pricing

      Die Folgen eines Dynamic Pricing, wonach der Kunde je nach Ergebnis der Analyse bessere oder schlechtere