Кликнем на этот прямоугольник и увидим, что этот спонсор потратил $12,7 млн в поддержку избирательной кампании Трампа, разбив сумму на десятки трансакций в течение всей избирательной кампании.
Нередко визуализация данных вдохновляет на журналистское расследование. Так, когда я впервые увидела визуализацию расходов избирательного комитета Трампа, я заметила этот прямоугольник, помеченный словом «шляпы» (рис. 11.3). А в 2016 г. в рамках кампании комитет потратил $2,2 млн на шляпы производства компании Cali-Fame (рис. 11.4).
Осенью 2016 г. я ничего не знала о Cali-Fame, но мне казалось, что из этого может получиться расследование о том, как Трамп тратит деньги на шляпы. Та же идея пришла в голову репортеру Филиппу Бампу. 25 октября 2016 г. он опубликовал в Washington Post статью под названием «В период избирательной кампании Дональд Трамп тратит на шляпы, а не на опросы»[159]. И не только на это, надо сказать. Трамп также потратил $14,3 млн на футболки, кружки, стикеры и перевозку всего этого – все это было произведено компанией Ace Specialities LLC, специализирующейся на производстве рабочей одежды для нефтегазовых компаний. Владелец компании Кристл Махфуз состоит в совете директоров фонда Эрика Трампа[160]. Значит ли это что-нибудь? Я не знаю. Однако, будь я политическим журналистом, это послужило бы основой для нового расследования.
Эндрю Шивашман, журналист, пишущий об индустрии туризма для сайта Skift, иначе видел ситуацию. Он использовал данные в статье «Клинтон против Трампа: где кандидаты в президенты тратили свои доллары». В рамках статьи он анализирует то, как, пользуясь средствами избирательной кампании, Трамп платит собственной фирме TAG Air за перелеты[161]. Это не незаконно, но примечательно. Это также представляет почву для обсуждения множества вещей, которые не являются незаконными, но едва ли уместны. И журналистские расследования – единственный способ придать таким обсуждениям начальный импульс. Ведь истории помогают понять мир. Кроме того, не существует простых ответов. Чтобы разрешить эти вопросы в демократической манере, необходима социальная дискуссия, в которой бы присутствовали разные мнения.
Story Discovery Engine – это, скорее, система с оператором в контуре управления, нежели автономная система. Разница между ними подобна разнице между дроном и реактивным ранцем. И эта разница имеет значение в случае проектирования программного обеспечения. Если вы ждете от компьютера всевозможных чудес, то будете разочарованы. Однако если вы ожидаете, что он ускорит выполнение рутинных задач, то все будет хорошо. Позиция в пользу машинной поддержки человека набирает популярность в хедж-фондах с оборотом $2,9 млн – а они всегда были показательны с точки зрения внедрения новых количественных методов. Миллиардер Пол Тюдор Джонс, глава Tudor Investment Group, как-то произнес свою легендарную фразу: «Ни один человек не лучше машины, и ни одна машине не лучше человека»[162].
Другой способ разобраться в том, как работает движок, – это представить, что он отражает разницу между что есть и чем должно быть. Что должно быть: административные расходы не должны превышать 20 % от общих расходов. Что есть: независимо от процентов ежегодные расходы относятся к административным – согласно отчетам, передаваемым в Федеральную избирательную комиссию. И, если обнаруживается аномалия – если административные расходы превышают 20 %, тогда появляется почва для журналистского расследования.
Что я имею в виду под почвой для расследований? Нельзя гарантировать, что в каком-то случае совершенно точно есть готовая история, поскольку для больших объемов административных расходов в определенном квартале есть причина. И мы не хотим создавать механизм, который будет констатировать, что существует вероятность, равная 47 %, что та или иная политическая группа действует нелегитимно, ведь ее административные расходы в этом месяце превышены на 2 %. Это абсурд – и, вероятно, клевета.
Нередко, когда я беседую с учеными-информатиками, они советуют обращать внимание на пять самых высоких и пять самых низких показателей, а также на среднее значение по массиву данных. Это хорошая идея, но она не всегда работает с точки зрения журналистики. Допустим, мы «скормим» нашей программе список зарплат сотрудников школьного округа. Пять самых высоких позиций наверняка будут принадлежать директору и ключевым руководящим позициям. Пять самых низких позиций окажутся у низкооплачиваемых сотрудников, тех, кто не состоит в профсоюзах и работает неполный рабочий день. Ничего нового. Это может заинтересовать тех, кто не в курсе уровня зарплат в этой области, однако это точно не считается инфоповодом. Как журналисты мы должны быть одновременно точны и интересны массовому читателю. В этом смысле выкладки ученых могут быть интересными небольшому кругу лиц или достаточно подготовленной аудитории (я всегда им завидовала из-за этого). Порог интереса различается в каждой категории.
Так что, если бы я собиралась изучать крупные административные расходы, я бы обратила внимание на те, у которых были наивысшие проценты трат. Выбросы на графике – легкие данные. Поэтому я бы изучала категории как с самыми высокими процентами, так и с самыми низкими, и пыталась бы понять, есть ли там что-то любопытное.
Я также внесла одну важную правку в Story Discovery Engine. Когда я пыталась объяснить людям, что делает программа, они часто спрашивали: «Ты хочешь сказать, что создала программу, которая фонтанирует идеями для расследований?» Я объясняла, что это не так и что все сложнее, и рассказывала об автоматизации. Постепенно глаза моих слушателей стекленели. Поэтому для второй версии программы я решила придумать систему, представляющую настоящие идеи для историй. На рисунке 11.5 показан обновленный интерфейс программы.
Замечу, что это дополнение в данных является так называемым «минимально жизнеспособным продуктом» (Minimum Viable Product, MVP). Оно работает, вы видите результаты его работы – однако только для одного случая, а не для всех сразу, которые вы запланировали. И это упомянуто в справочной документации. Как по мне, дополнение работает достаточно хорошо, чтобы утверждать, что оно действительно работает. С моей точки зрения, с позиции разработчика, проблема решена. Однако с точки зрения компьютера, чтобы что-то работало, этому «что-то» необязательно работать хорошо. Это не бинарное понятие. Человек не может быть слегка беременным, в то время как софт, может немного работать. Так, суть минимально жизнеспособного продукта заключается в достаточном уровне функциональности для демонстрации заказчикам – чтобы получить новые заказы или финансирование для следующего круга разработки. Это не пример хорошей разработки, продукт неэффективен для пользователей, и уж тем более практика представления на рынок полифункционального продукта не является хорошим делом, но при этом такой подход стал обычным делом. Мне кажется, мы способны на большее. Ведь в большинстве случаев проблема одинакова для всех, и я столкнулась с ней, создавая «Бейливик»: у команды закончились деньги и время на разработку до того, как проект был завершен.
Есть и другой пример типичной проблемы, которая может принимать разные формы. Однажды код выдал ошибку, я не могла понять ее природу. Я решила создать новую базу данных и протестировать код на всех моих 3,5 млн записей – тот же результат. Первые 10 секунд все работало, затем появилась другая ошибка. Я исправила то, что – как мне казалось – стало ее причиной, и затем пыталась загрузить данные снова. Не сработало. Я что-то еще поменяла в коде, и все стало только хуже. Я переключилась на первую базу данных и попыталась воссоздать первую ошибку. Не вышло – вылезла новая ошибка. Тогда я поняла, что не смогу поправить первую базу данных, и перешла ко второй. У меня было плохое предчувствие; другие члены моей команды пользовались первой базой данных, и тот факт, что она была доступна и при этом содержала ошибки, мог сильно повлиять на результат их работы. На самом деле это была обычная ошибка контроля версий ПО, однако в связи с тем, что в программировании важную роль играет точность, получилось, что ошибки, спровоцированные мной, привели к каскаду новых неисправимых ошибок, затрагивавших работу других разработчиков.
Таковы в общих чертах препятствия, с которыми приходится сталкиваться в рамках внедрения того или иного программного обеспечения в новостные редакции. Встречаясь со сложностями, работая с небольшими программами, можно понять, как и что происходит в более крупных масштабах. Можно также увидеть, почему крупные проекты могут потерпеть неудачу. Кроме того, возможно понять, почему процесс написания кода нельзя поставить на поток. Есть модель фабричного производства – с конвейером, – и есть малое производство. В случае с фабричной системой вы смотрите на весь спектр задач и решаете, какая из них может быть автоматизирована и повторяема. В случае малого производства происходит то же самое – и все же часть работы выполняется вручную. Представьте себе вычислительную журналистику как движение за неспешную еду – слоуфуд.
На сегодняшний день мой проект не сильно распространен, но имеет мощное влияние. Я не слежу за тем, сколько репортеров использовали его для создания историй, однако я часто им пользуюсь на занятиях. Каждый семестр я учу около 30 студентов. Это значит, что каждый семестр с помощью «Бейливика» создается как минимум шесть историй. Результат вполне оправдывает затраченные усилия. Если бы им постоянно пользовались в новостных редакциях, можно было бы получать доход, разместив рекламу внизу страниц. Очевидно, что программа не станет ключевым параметром доходов, однако что-то будет капать. И, конечно, «Бейливик» не смог бы привлечь столько же средств, сколько продукты массового спроса, однако мог бы стать ремесленной продукцией, генерирующей небольшой доход.
Пока мой инструмент анализа системы финансирования избирательных кампаний не приносит денег вовсе. На финансовом языке это значит, что у него нет стратегии устойчивого развития. «Бейливик» имеет смысл как инструмент обучения, как модель для проектов – расследований, наконец, в качестве примера практического исследования (имеется в виду «нетеоретическое исследование») в рамках вычислительной журналистики. К моему сожалению, эта неочевидная ценность не помогла мне ежемесячно содержать серверы «Бейливика», что обходилось в $1000. А вот и очередной «секрет» техномира: инновации стоят дорого. Если бы я знала, что проект окажется настолько дорогим, в процессе разработки я бы принимала другие решения. Однако, поскольку никто до нас не создавал такой софт, было совершенно невозможно предсказать расходы. У меня была своя слепая зона – она есть всегда, когда создаешь новую технологию: необходима вера в то, что ты создашь то, что задумала и что на это хватит финансирования. Процесс разработки иногда может быть будоражащим прыжком в неизвестность.
12
Стареющие компьютеры
Я не планировала, что «Бейливик» будет работать вечно. В какой-то момент я отключу его, заархивирую и займусь другим программным проектом. Подобно автомобилю, растению или отношениям, софту нужна забота и постоянное внимание. И у него есть срок жизни.
Веб-сайты, приложения и программы всегда ломаются, потому что компьютеры, на которых они работают, необходимо постоянно обновлять. Мир меняется. Программному обеспечению нужны обновления. Если у вас на хостинге располагается даже простейший сайт компании, надо быть готовыми к тому, что компания всегда будет претерпевать управленческие изменения, что нужно будет обновлять серверы и что-то пойдет не так. Каждый год работы того или иного программного продукта накапливает технический долг – стоимость поддержания его актуальности, добавления патчей и латание багов. В своей редакторской колонке для The New York Times профессора Эндрю Рассел и Ли Винзел пишут, что 60 % всех затрат на софт приходятся на поддержание его работоспособности – исправление багов и обновления[163]. В противовес популярному представлению невероятное количество разработчиков и программистов не участвует в реальной разработке инновационных продуктов; 70 % задействованы в поддержании существующих проектов.
Проблема необходимости поддержания софта служит отличным напоминанием о том, что цифровой мир более не нов. Подобно первопроходцам первого бума доткомов, он вошел в стадию среднего возраста. И если полагать, что цифровой мир начинался с Минского и Тьюринга, то можно сказать, что он значительно постарел: пришло время быть более реалистичными и честными по отношению к тому, что происходит в области технологий и реальной необходимости их поддерживать. Я настроена оптимистично и уверена, что мы сможем найти путь использования технологий, чтобы одновременно поддерживать и демократию, и человеческое достоинство.
Ошибки сделаны. Это вполне могло бы быть рефреном к тому, как медиаиндустрия адаптировалась к цифровой революции. Также могло быть рефреном того, как индустрия технологий справлялась с той же цифровой революцией. Секрет понимания прошлого заключается в том, чтобы не сделать те же ошибки в будущем.
Во-первых, мы можем перестать относиться к технологиям как к чему-то новому, сверкающему и инновационному и вместо этого принять их как повседневную часть жизни. Первый компьютер ENIAC был создан в 1946 г. У нас было больше полувека для того, чтобы понять, как интегрировать технологии в общество. Полвека – это много времени. Однако, несмотря на все прошедшие годы, когда я посещаю какие-либо встречи, я знаю, что первые 10 минут всегда будут отданы на то, чтобы разобраться, как работает проектор и как вывести на экран презентацию PowerPoint. На сегодняшний день нам удалось научиться применять цифровые технологии и повышать экономическое неравенство, подрывать экономическую стабильность свободной прессы, провоцировать кризис фейковых новостей, откатиться назад в развитии систем голосования и защиты честного труда, следить за гражданами, распространять лженауку, оскорблять и преследовать (в основном женщин и цветных) онлайн, строить летающих роботов, способных в лучшем случае раздражать людей и в худшем – сбрасывать бомбы, повысить количество случаев хищения персональных данных, обеспечить почву для хакинга, выливающегося во взломы и кражи данных миллионов кредитных карт, продавать невероятные объемы персональных данных и выбрать Дональда Трампа президентом. Это вовсе не прекрасный мир, обещанный ранними техноевангелистами. Это тот же мир, с теми же людскими проблемами, которые всегда были. Однако теперь они спрятаны внутри кода и данных, из-за чего их сложнее увидеть и легче игнорировать.
Нам совершенно необходимо изменить наш подход. Нужно перестать подвергать технологии фетишизации, провести аудит алгоритмов, отслеживать акты проявления неравенства, сокращать наличие стереотипов как в вычислительных системах, так и в самой индустрии технологий. Если код есть закон, то, вспоминая Лоуренса Лессинга, необходимо удостовериться, что те, кто его пишет, сами ему же следуют. Пока что их попытки самоуправления оставляют желать лучшего. Мы не можем учиться на прошлых поступках, но нам нужно обратить на них внимание.
В нескольких современных проектах из области науки и журналистики говорится о том, что грядет новый, более сбалансированный подход к пониманию ИИ. Один из них – подход исследовательского центра Института современного искусственного интеллекта (AI Now Institute) при Университете Нью-Йорка, основанный в 2017 г. Кейт Кроуфорд из отдела исследований Microsoft и Мередит Уиттакер из Google. Созданный представителями Кремниевой долины, проект был запущен Управлением по политике в области науки и технологий при Белом доме президента Барака Обамы и Национальным экономическим советом. Первый отчет центра был сфокусирован на социальных и экономических проблемах ближайшего будущего, связанных с ИИ. Ученые выделили четыре области: здравоохранение, рынок труда, неравенство и этика. Второй отчет призывал «все публичные институции, в частности, ответственные за криминологическую экспертизу, системы здравоохранения, социального обеспечения и образования немедленно перестать использовать системы ИИ и алгоритмы типа “черный ящик” и перейти на системы, обеспечивающие прозрачность работы механизмов, например, посредством легализации, аудита и общественной экспертизы»[164]. Исследовательский центр данных и общества, возглавляемый Даной Бойд, придерживается цели понять и обратить внимание общественности на роль человек в ИИ[165]. Так, например, эксперимент с анализом «хороших селфи» из главы 9 мог бы выиграть от более детальной интерпретации социального контекста тех, кто селфи создает (и тех, кто придумал эксперимент). Другая интересная область, достойная внимания, – люди, фильтрующие нежелательный контент в социальных сетях. Когда контент с порнографией или сценами насилия обнаруживается онлайн, человек его проверяет, действительно ли это видео с обезглавливанием, неприличная фотография или другие примеры худших человеческих проявлений. Ведь психологические последствия ежедневного созерцания чего-то подобного могут быть травматичны[166]. Нам нужно изучить эту практику и вместе, как единая культура, принимать решения о том, что она означает и как с ней быть.
Внутри сообщества специалистов в области машинного обучения были подвижки в сторону качественно иного понимания алгоритмического неравенства и ответственности. Сообщество вокруг конференции о честности и прозрачности машинного обучения (Fairness and Transparency in Machine Learning) – лидеры в этом вопросе[167]. Тем временем профессор Латанья Суини из Лаборатории приватности данных при Гарвардском университетском институте количественного социального анализа проводит по-настоящему новаторскую работу с точки зрения понимания потенциала возможностей нарушения приватности больших массивов данных, в частности медицинских. Цель лаборатории состоит в том, чтобы разработать технологии и политику, «гарантирующие защиту приватности при сборе частной (в том числе конфиденциальной) информации для выполнения разных задач»[168]. Кроме того, в Кембридже Лаборатория медиа при МТИ под руководством Джои Ито проводит превосходную работу по трансформации нарратива о расовом и этническом разнообразии в области вычислительной науки, а также способствует запуску систем запроса. Благодаря аналитической работе студента МТИ Картика Динакара, изучавшего феномен человека в контуре управления, профессор Лаборатории медиа МТИ Ияд Рахван начал разрабатывать проблему, обозначенную им как общество в контуре управления машинного обучения, благодаря которой надеется артикулировать моральные проблемы в современных системах ИИ (напоминает проблему вагонетки). В другом проекте, инициированном медиалабораторией МТИ и Центром Беркмана Кляйна в Гарварде и спонсируемом Фондом этики и управления искусственным интеллектом, фокус исследователей обращен к этике и управлению ИИ.
И, конечно же, в эти обсуждения также включаются дата-журналисты, которые продолжают делать свою работу, несмотря на резкую смену контекстов индустрии. Множество невероятных инструментов позволяет проводить хитроумный анализ информации и данных. Так, насколько мне известно, в DocumentCloud, безопасном онлайн-хранилище документов, содержится около 3,6 млн источников, которыми пользуется около 8400 журналистов из 1619 организаций по всему миру. DocumentCloud используют как небольшие, так и крупные новостные агентства со всего света, там можно найти и документы, фигурировавшие в историях вроде «Панамского архива» и те, что опубликовал Сноуден[169]. Число дата-журналистов растет медленно. Ежегодная конференция NICAR для журналистов данных в 2016 г. насчитала немногим больше тысячи человек. Ежегодно вручаются премии – вроде премии в области журналистики данных – за истории, которые внесли наибольший вклад в расследование вычислительных проектов. Есть повод для оптимизма.
В рамках этой книги мы затронули историю и основы современных вычислительных технологий. Размышляя о том, как люди воспринимают компьютеры, я решила отправиться туда, где родилась теория вычислительных машин: в Электротехническую школу Мура при Пенсильванском университете. Именно здесь можно увидеть остатки ENIAC – как предполагается, первого компьютера. В каком-то смысле «дом» этой машины также стал и моей отправной точкой. Я родилась в госпитале почти что за соседней дверью. Будучи выпускниками Пенсильванского университета, мои родители начали встречаться в 1970-х гг. Они много времени проводили вместе в компьютерном центре кампуса – разбирали перфокарты по боксам и затем спускались в компьютерный центр и ждали своей очереди, чтобы вставить их в считывающее устройство и провести статистические эксперименты на большом компьютере. Мама мне когда-то сказала, что если уронить пачку карт, то все кончится, не успев толком начаться: пришлось бы сильно постараться, чтобы собрать их в правильном порядке.
Снаружи здания Мура стоит мемориальный знак, посвященный ENIAC, с информацией, представленной тем же шрифтом, который используется историками для составления мемориальных табличек для домов вроде Бетси Росс. В день моего приезда все шло чинно и мирно. Десятки студентов в темных костюмах и платьях шли мимо меня по тротуару. У некоторых из них можно было заметить папки с надписью «Модель конгресса»[170] (Model Congress). Несколько молодых людей носили пуховики поверх костюмов. На другом была камуфляжная куртка с мехом по капюшону. Я слышала, как девушка жаловалась подруге, идя по улице в туфлях-лодочках: «Я даже не знаю, как правильно ходить на каблуках». Они все были радостными, чистыми и наслаждались ощущением, будто они взрослые, за которыми на территории кампуса не следит учитель. Я вспомнила, как в студенческие годы роли вроде «Модель ООН» (Model UN) (когда приходилось носить неудобный костюм) и похожие события помогли мне и моим друзьям адаптироваться к взрослой жизни. Одеваться как взрослые и представлять, будто участвуешь в реальных рабочих процессах, – все это помогало нам понять, каково быть взрослым. Полагаю, в скором времени будет возможно заменить такого рода опыт участием в видеоконференциях или онлайн-чатах; однако это будет скучно и плотность информации будет ниже. Сложно представить, что подростки действительно этого захотят.
[159] Bump, “Donald Trump’s Campaign Has Spent More on Hats than on Polling.”
[160] Donn, “Eric Trump Foundation Flouts Charity Standards.”
[161] Sheivachman, “Clinton vs. Trump.”
[162] Fletcher and Zuckerman, “Hedge Funds Battle Losses.”
[163] Russell and Vinsel, “Let’s Get Excited about Maintenance!”
[164] Crawford, “Artificial Intelligence’s White Guy Problem”; Crawford, “Artificial Intelligence – With Very Real Biases”; Campolo et al., “AI Now 2017 Report”; boyd and Crawford, “Critical Questions for Big Data.”
[165] boyd, Keller, and Tijerina, “Supporting Ethical Data Research”; Zook et al., “Ten Simple Rules for Responsible Big Data Research”; Elish and Hwang, “Praise the Machine! Punish the Human! The Contradictory History of Accountability in Automated Aviation.”
[166] Chen, “The Laborers Who Keep Dick Pics and Beheadings Out of Your Facebook Feed.”
[167] Fairness and Transparency in Machine Learning, “Principles for Accountable Algorithms and a Social Impact Statement for Algorithms.”
[168] Data Privacy Lab, “Mission Statement”; Sweeney, “Foundations of Privacy Protection from a Computer Science Perspective.”
[169] Pilhofer, “A Note to Users of DocumentCloud.”
[170] Дает возможность студентам попробовать себя в роли конгрессменов США. – Прим. ред.