Убийственные большие данные. Как математика превратилась в оружие массового поражения. Кэти О'Нил

Читать онлайн.



Скачать книгу

данных. Система исполнения наказаний переполнена информацией, особенно с учетом то, что заключенные еще в большей степени лишены права на privacy, чем любой из нас. Более того, эта система настолько примитивна, неэффективна, дорога и бесчеловечна, что она просто вопиет о необходимости улучшений. Кто же в тюремной администрации будет против подобных дешевых решений?

      Реформа системы исполнения наказаний – редкая тема в сегодняшнем поляризованном политическом мире, в которой либералы и консерваторы единодушны. В начале 2015 года братья-консерваторы Чарльз и Дэвид Кох объединились с либеральным аналитическим Центром за американский прогресс, чтобы продвинуть реформу тюрем и снизить число заключенных. Но я подозреваю, что эти межпартийные усилия реформировать тюрьму, как и множество других усилий, практически наверняка выльются в предполагаемо эффективное и справедливое решение – очередную модель, в которую человек будет вводить данные. Такова эпоха, в которой мы живем. Даже если другие инструменты потеснят LSI-R в качестсве основного вида оружия математического поражения, тюрьмы, скорее всего, останутся инкубатором для создания других видов ОМП в огромных масштабах.

      Если суммировать все сказанное, вот три главных компонента ОМП: непрозрачность, масштабность и высочайшая степень ущерба. Все эти компоненты присутствуют в той или иной степени в примерах, которые мы будем рассматривать дальше. Разумеется, всегда есть место для возражений. Вы, например, можете сказать, что оценку степени риска рецидива нельзя назвать вполне непрозрачной, потому что она основана на результатах, с которыми заключенные в некоторых случаях могут ознакомиться. И тем не менее она непрозрачна – ведь заключенные не могут посмотреть, как именно их ответы перерабатываются в результат. Подсчитывающий алгоритм от них скрыт.

      Есть несколько видов оружия математического поражения, которые, возможно, не вполне соответствуют критерию масштабности. Их распространение пока еще нельзя назвать повсеместным. Но они представляют собой опасные экземпляры, которые со временем неизбежно масштабируются – и, возможно, экспоненциально. Поэтому я включаю эти примеры в свой список.

      Наконец, вы можете заметить, что не все виды ОМП приносят исключительно ущерб. В конце концов, они помогают кому-то попасть в Гарвард, кому-то – получить на хороших условиях кредиты или приличные рабочие места, а также сокращают тюремные сроки для некоторых заключенных – для тех, кому повезло. Но вопрос же не в том, что некоторые люди получают от этих моделей пользу, а в том, что столь многие из-за них страдают. Эти модели, усиленные алгоритмами, захлопывают двери перед носом у миллионов людей, зачастую по ничтожнейшим поводам, и не подразумевают возможности апелляции. Эти модели несправедливы.

      И вот еще что можно сказать об алгоритмах: они могут переходить из одной области в другую, и это действительно зачастую происходит. Результаты эпидемиологических