Predictive Analytic und die Haftung für fehlerhafte Ergebnisse gegenüber betroffenen Einzelpersonen. Susanne Mentel

im Rahmen der Programmierung (1) Herleitung der Pflicht zur Verkehrssicherung (2) Pflichten zur Vermeidung von Programmierfehlern im Einzelnen ee) Erforderlichkeit und Zumutbarkeit ff) Fazit fehlerhafte Programmierung der Software b) Fehlende Implikation einer Fehlererkennungssoftware aa) Unterlassen als Anknüpfungspunkt bb) Einordnung als Konstruktionsfehler cc) Erforderlichkeit einer Fehlererkennungsimplikation (1) Gefährlichkeit von fehlerhaften Predictive Analytic (2) Objektive Erkennbarkeit der Gefahr (3) Keine Berufung auf Entwicklungsfehler (4) Vermeidbarkeit der Gefahr durch Fehlererkennungssoftware (a) Bestimmung des Standes von Wissenschaft und Technik (b) Stand der Technik zu Fehlererkennungssoftware (i) Dublettenbereinigung bei CRM- und ERP-Systemen (ii) Funktionsweise von Dublettenbereinigung (iii) Dublettenbereinigung bei Predictive Analytic-Anwendungen (iv) Stand zu komplexer Fehlererkennungssoftware (v) Auswirkung von Innovationen auf den Stand der Technik (vi) Fazit Stand der Technik zu Fehlererkennungssoftware bei Predictive Analytic (5) Sicherheitserwartung des Verkehrskreises (a) Bestimmung des maßgeblichen Verkehrskreises (b) Anlehnung an die Rechtsprechung zum ProdHaftG (c) Erwartungen der Betroffenen (d) Erwartungen der Predictive Analytic-Anwender dd) Zumutbarkeit einer Implikation ee) Fazit Fehlererkennungssoftware als Verkehrssicherungspflicht des Software-Herstellers c) Instruktionspflicht gegenüber den Anwendern der Predictive Analytic-Software aa) Warnpflicht vor unvermeidbaren Gefahren bb) Legitime Erwartungen an die Software-Anwender cc) Bestimmungswidriger Gebrauch durch Verwendung von Big Data? dd) Auswirkungen fehlender Standards auf Instruktionspflicht d) Fazit Verkehrssicherungspflichten des Software-Herstellers 3. Verkehrssicherungspflichten des Predictive Analytic-Anwenders a) Vermeidung fehlerhafter Ergebnisse als Verkehrssicherung b) Verwendung eines geeigneten Verfahrens c) Pflicht zur Verwendung zutreffender Daten d) Pflicht zur Verwendung einer geeigneten Datengrundlage e) Pflicht zur Kontrolle der Endergebnisse aa) Haftung des Verlegers nach der Entscheidung „Kochsalzlösung“ bb) Kontrolle vs. Echtzeit-Predictive Analytic f) Fazit Verkehrssicherungspflichten des Predictive Analytic-Anwenders VII. Weitere Voraussetzungen, insbesondere des haftungsausfüllenden Tatbestandes VIII. Beweislast und mögliche Erleichterungen zugunsten des Betroffenen 1. Identität von Software-Hersteller und Predictive Analytic-Anwender 2. Nachweis des Verantwortungsbereiches in allen anderen Fällen a) Anscheinsbeweis b) Fehlerkontrolle als Befundsicherungspflicht aa) Befundsicherungspflicht bei Software-Herstellung bb) Befundsicherungspflicht bei Herstellung der Analysen 3. Auswirkungen selbstlernender Elemente von Predictive Analytic auf die Verantwortungszuschreibung IX. Mögliche vom Ersatz erfasste Schäden H. Ergebnisse und Fazit I. Zusammenfassung der Ergebnisse 1. Begrenzt ersatzfähige Schäden 2. Probleme der vertraglichen Haftung 3. Probleme der gewöhnlichen deliktischen Haftung 4. Datenschutzrecht als weitreichende Haftungsmöglichkeit der Zukunft 5. Ansatz einer vielversprechenden Produzentenhaftung a) Einbezug des Persönlichkeitsrechts b) Anwendbarkeit der Produzentenhaftung auf Predictive Analytic-Ergebnisse c) Fehlen von Standards 6. Beweislast als Problem der Rechtsdurchsetzung 7. Auseinandersetzung mit der Forderung einer Gefährdungshaftung für neuartige IT-Systeme II. Fazit

      9  Literaturverzeichnis

Erster Teil: Fehlerhafte Predictive Analytic

       A. Problemaufriss, bisheriger Forschungsstand, Ziel der Arbeit und Gang der Untersuchung

       I. Allgegenwärtigkeit von Predictive Analytic

      Ob benutzerdefinierte Angebote, variable Preisfestsetzungen im Online-Shopping, auf Fitness- und Gesundheitsdaten basierende Angebote der Krankenkassen, vorbeugende Kundenpflege bei wahrscheinlichem Anbieterwechsel oder besseres Mitarbeitermanagement durch Kündigungsvorhersagen, die Vorhersage menschlichen Verhaltens rückt durch neue datengetriebene Analyse-Software namens Predictive Analytic in den Bereich des Möglichen. Diese und weitere „Vorhersagen der Zukunft“ bieten sich einerseits durch die enorm gestiegenen technischen Möglichkeiten, andererseits durch die massenhafte Existenz von Daten an. Letztere stellen sowohl durch Unternehmen erhobene Daten dar als auch zu einem nicht zu unterschätzenden Teil freiwillig preisgegebene persönliche Daten.

Der anhaltende Erfolg dieser „algorithmischen Orakel“ kann auf „das Zusammentreffen von drastisch verbilligtem Speicherplatz und Computerkapazitäten mit der Verfügbarkeit von immer mehr digital erfassten Lebensäußerungen“ zurückgeführt werden.1