Атлас искусственного интеллекта: руководство для будущего. Кейт Кроуфорд

Читать онлайн.
Название Атлас искусственного интеллекта: руководство для будущего
Автор произведения Кейт Кроуфорд
Жанр
Серия Программирование для всех
Издательство
Год выпуска 2021
isbn 978-5-17-148567-2



Скачать книгу

Техническое сообщество исследователей ИИ полагается на дешевый труд людей для решения многих задач, которые не могут быть выполнены машинами. В период с 2008 по 2016 год термин «краудсорсинг» появился менее чем в тысяче научных статей и достиг более чем двадцати тысяч – что вполне логично, учитывая, что в 2005 году запустили Mechanical Turk. Но в тот же период времени почти не обсуждалось, какие этические вопросы могут возникнуть, если полагаться на рабочую силу, которая получает гораздо ниже минимальной заработной платы[135].

      Конечно, существуют серьезные причины игнорировать зависимость от низкооплачиваемой рабочей силы. Вся работа, которую выполняют люди, – от маркировки изображений для систем компьютерного зрения до тестирования правильности результатов работы алгоритма, – позволяет совершенствовать системы ИИ гораздо быстрее и дешевле, особенно если сравнивать с оплатой труда студентов за выполнение таких же задач (как это было принято раньше). По этой причине данный вопрос обычно игнорируется, и, как заметила одна исследовательская группа, использующая краудворкинг, клиенты, использующие эти платформы, «ожидают дешевого выполнения труда, как будто платформа – это не интерфейс для работающих людей, а огромный компьютер без затрат на проживание»[136]. Другими словами, клиенты относятся к человеческим работникам как к машинам, потому что признание их работы и справедливое вознаграждение за нее сделают ИИ более дорогим и менее «эффективным».

      Иногда работников напрямую просят притвориться системой искусственного интеллекта. Компания x.ai, создающая цифровой персональный помощник, утверждала, что ИИ-агент по имени Эми может «волшебным образом планировать встречи» и выполнять множество повседневных задач. Но подробное расследование Bloomberg, проведенное журналисткой Эллен Хуэт, показало, что это вовсе не искусственный интеллект. «Эми» тщательно проверялась и переписывалась командой контрактников, работавших по многу смен. Аналогичным образом, личный помощник Facebook, M, полагался на регулярное вмешательство человека со стороны группы работников, которым платили за проверку и редактирование каждого сообщения[137].

      Имитация ИИ – изнурительная работа. Сотрудники x.ai иногда работали по четырнадцать часов в смену, аннотируя электронные письма, чтобы поддерживать иллюзию того, что сервис автоматизирован и функционирует круглосуточно. Они не могли уйти в конце ночи, пока не заканчивались очереди писем. «Я уходил, чувствуя полное оцепенение и отсутствие каких-либо эмоций», – рассказал Хуэт, один из сотрудников в интервью[138].

      Все это можно рассматривать как своего рода «потемкинский» ИИ – не более чем фасады, созданные для демонстрации инвесторам и доверчивым СМИ внешнего вида автоматизированной системы, которая на самом деле опирается на человеческий труд[139]. При благожелательном прочтении эти фасады являются иллюстрацией того, на что система может быть способна при полной реализации, или «минимально



<p>135</p>

Silberman et al., «Responsible Research with Crowds.»

<p>136</p>

Silberman et al.

<p>137</p>

Huet, «Humans Hiding behind the Chatbots.»

<p>138</p>

Huet.

<p>139</p>

See Sadowski, «Potemkin AI.»