Атлас искусственного интеллекта: руководство для будущего. Кейт Кроуфорд

Читать онлайн.
Название Атлас искусственного интеллекта: руководство для будущего
Автор произведения Кейт Кроуфорд
Жанр
Серия Программирование для всех
Издательство
Год выпуска 2021
isbn 978-5-17-148567-2



Скачать книгу

используют ярлыки для предсказания человеческой личности, обычно используя бинарный пол, эссенциализированные расовые категории, проблематичные оценки характера и кредитоспособности. Знак заменяет систему, прокси заменяет реальность, а игрушечная модель заменяет бесконечную сложность человеческой субъективности. Рассматривая создание классификаций, мы увидим, как технические схемы навязывают иерархию и увеличивают неравенство. Машинное обучение представляет нам режим нормативных рассуждений, которые, когда они набирают силу, приобретают форму мощной управляющей рациональности.

      Отсюда мы отправляемся в горные города Папуа-Новой Гвинеи, чтобы изучить историю распознавания аффектов – идею о том, что мимика лица является ключом к раскрытию внутреннего эмоционального состояния человека. В пятой главе рассматривается утверждение психолога Пола Экмана о том, что существует небольшой набор универсальных эмоциональных состояний, которые можно прочитать непосредственно по лицу. Технологические компании сейчас внедряют эту идею в системы распознавания аффектов, что является частью отрасли, стоимость которой, по прогнозам, превысит семнадцать миллиардов долларов[35]. Однако вокруг распознавания эмоций существует значительное количество научных противоречий, которые в лучшем случае неполны, а в худшем – вводят в заблуждение. И все же, несмотря на нестабильность предпосылок, эти инструменты быстро внедряются в системы найма, образования и охраны правопорядка.

      В шестой главе мы рассмотрим, как системы искусственного интеллекта используются в качестве инструмента государственной власти. Военное прошлое ИИ и его настоящее сформировали практику наблюдения, сбора данных и оценки рисков. Глубокие взаимосвязи между технологическим сектором и военным сейчас сдерживаются, чтобы соответствовать сильной националистической повестке дня. Тем временем внеправовые инструменты, используемые разведывательным сообществом, перешли из военной сферы в коммерческий технологический сектор и используются в классах, полицейских участках, на рабочих местах и в бюро по трудоустройству. Военная логика, сформировавшая системы ИИ, теперь является частью работы муниципальных органов власти, и она еще больше искажает отношения между государствами и субъектами.

      В заключительной главе оценивается, как искусственный интеллект функционирует в качестве структуры власти, объединяющей инфраструктуру, капитал и труд. От водителя Uber до иммигранта без документов и жильцов коммунальных квартир, которые сталкиваются с системами распознавания лиц в своих домах, системы искусственного интеллекта построены на логике капитала, охраны порядка и милитаризации, и эта комбинация еще больше усиливает существующую асимметрию власти. Способы видения зависят от двух шагов – абстрагирования и извлечения: абстрагирование от материальных условий создания и извлечение большего количества информации и ресурсов из тех, кто менее всего способен сопротивляться.

      Однако



<p>35</p>

«Emotion Detection and Recognition (EDR) Market Size.»