1304 0
1305 0
1306 1
1307 0
1308 0
1309 0
[418 rows x 1 columns]
This is the solution shape:
(418, 1)
Новая колонка с информацией о выживших содержит прогностические данные о 418 пассажирах из тестового массива. Можем сохранить полученные результаты в. CSV-файле под названием my_solution_one.csv, загрузить файл на DataCamp и выяснить, что точность наших прогнозов составляет 97 %. Ура! Мы только что обучили машину. И, когда кто-то говорит, что пользовался «искусственным интеллектом для принятия решения», обычно это означает «пользовался машинным обучением» и сделал примерно то же, что и мы сейчас.
Мы создали колонку с данными о выживших и можем с вероятностью 97 % сказать, что результаты точны. Нам удалось выяснить, что стоимость проезда имела критическое значение в случае математического анализа данных о выживших на «Титанике». И это был слабый ИИ. Он оказался совсем не страшным, способным привести нас к предположению, что компьютерный сверхинтеллект захватит мир. «Это всего лишь статистические модели, такие же, какие используют в компании Google для прогнозирования ходов в играх или которые ваш телефон использует, чтобы сделать предположение о том, что именно вы сказали, чтобы перевести голосовой запрос в текст, – именно так описал ИИ Закари Липтон, профессор Университета Карнеги – Меллона для журнала Register. – Они не умнее миски с лапшой»[91].
Программисту легко писать алгоритм: он создается, используется и вроде работает. Никто не отслеживает его работу. Возможно, он попытается усовершенствовать точность прогнозов, слегка изменив параметры. Попытается добиться наилучшего результата. А затем перейдет к другой задаче.
Тем временем во внешнем мире за каждым результатом стоят определенные последствия. И неразумно было бы в действительности полагать, что в морских крушениях выживают те, кто платит больше. Хотя какой-нибудь управленец вполне мог бы посчитать такой вывод статистически оправданным. При прогнозировании страховых тарифов можно сказать, что люди, способные оплачивать более дорогие билеты, вероятнее всего, выживут в крушениях, связанных со столкновениями с айсбергами, и, таким образом, относятся к категории малого риска ранней выплаты. Эти люди богаче тех, кто не может себе позволить дорогой билет. Значит, у более обеспеченных граждан может быть дешевый страховой тариф. А это плохо! Ведь страховки нужны как раз для того, чтобы поровну распределить риск между широким спектром людей. Так зарабатывают деньги наши страховые компании, но это никак не способствует чему-то по-настоящему хорошему.
Похожие компьютерные технологии используются для оптимизации цены или узкого сегментирования покупателей, в результате которого разным людям предлагается разная цена. Оптимизация цены используется в самых разных отраслях – от страховой до туристической, а результаты нередко приводят к ценовой дискриминации. Согласно анализу, проведенному в 2017 г. ProPublica и Consumer Reports в Калифорнии, Иллинойсе, Техасе и Миссури, страховые тарифы на жилье, предложенные ключевыми компаниями жителям районов компактного проживания меньшинств, были на 30 % выше тарифов в других районах со сходными оценками аварийности[92]. В 2014 г. аналитики The Wall Street Journal выяснили, что стоимость одного и того же степлера на staples.com различается для разных покупателей – в зависимости от предполагаемого почтового индекса пользователя она была выше или ниже[93]. Кристо Уилсон, Дэвид Лизер вместе с коллегами из Северо-Восточного университета выяснили, что разные цены предлагали покупателям homedepot.com и на туристических сайтах, в зависимости от того, просматривали ли они сайт с мобильных устройств или с компьютеров[94]. Компания Amazon признала, что в 2000-х гг. экспериментировала с ценами подобным образом. Джеф Безос, основатель компании, принес свои извинения, назвав это «ошибкой»[95].
В мире, где господствует неравенство и где мы создаем ценовые алгоритмы, анализирующие то, как выглядит мир, женщины, бедные и представители меньшинств будут неизбежно платить больше. Математиков это постоянно удивляет; а вот женщины, малообеспеченные и представители меньшинств не удивляются совершенно. Раса, пол, уровень жизни – очевидным и изощренным образом все эти факторы становятся значимыми. Для женщин стоимость парикмахерских услуг, химчистки, бритв и даже дезодоранта будет выше, чем для мужчин. Стоимость курсов подготовки к Академическому оценочному тесту (SAT) для американцев азиатского происхождения в два раза выше[96]. Афроамериканцы получают меньше чаевых, чем их белые коллеги[97]. Быть бедным также означает платить больше за предметы первой необходимости. Мебель, купленная в рассрочку, окажется дороже, чем покупка с немедленной оплатой. У «кредитов до получки» гораздо более высокий процент, чем у банковских займов. Жилищные условия считаются подъемными, если ежемесячный взнос составляет до 30 % заработной платы, однако бедным приходится априори платить больше из-за факторов банальной экономической нестабильности. «В Милуоки большинство бедных арендаторов платит как минимум половину собственного дохода, треть из них отдает и 80 %», – пишет социолог Пат Шарки в рецензии на две этнографические работы: Мэттью Десмонда «Изгнанные: Бедность и выгода американского города» (Evicted: Poverty and Profit in the American City) и Митчелл Дунае «Гетто: Изобретение места и история идеи» (Ghetto: The Invention of a Place, the History of an Idea)[98]. Феномен неравенства несправедлив, при этом он не является редкостью. И, если в рамках машинного обучения все это будет продолжаться, мы не сдвинемся с мертвой точки к более справедливому обществу. «Обаяние технологии объяснимо – в нем сошлись древние надежды на предсказание будущего с современным уклоном в статистическую строгость, – пишет в своей книге «Общество черного ящика» (The Black Box Society) профессор права и эксперт в области этики искусственного интеллекта Фрэнк Паскаль. – Тем не менее в обстановке секретности плохая информация, скорее всего, будет использоваться в качестве хорошей, что приведет к несправедливым и даже катастрофическим прогнозам»[99].
Отчасти это происходит из-за того, что при принятии социальных решений мы пользуемся машинным обучением, при котором числа скрывают важный социальный контекст. В случае с «Титаником» мы выбрали классификатор выживания и для его предсказания обратились к известным факторам. Но могли быть и другие. Например, массив данных для «Титаника» включает в себя информацию о возрасте, поле и прочее. И прогноз был сделан с опорой на данные, которыми мы обладали. Однако, поскольку это событие не из математической задачки, а из реальной жизни, вероятнее всего, имели место и иные факторы.
Рассмотрим подробнее ночь катастрофы. От находящихся неподалеку судов «Титаник» получал множество предупреждений об айсбергах по своему курсу на 14 апреля 1912 г. В 23:42 лайнер столкнулся с айсбергом. Сразу после полуночи капитан Эдвард Джон Смит оповестил пассажиров и начал эвакуацию. Он отдал приказ: «Сажать женщин и детей, затем травить тали!» Первый офицер Уильям Мердок отвечал за спасательные шлюпки на правом борту. Второй офицер Чарльз Лайтоллер – за левый. Каждый из них по-разному понял приказ капитана. Мердок подумал, что капитан велел сажать в шлюпки женщин и детей в первую очередь. Лайтоллер посчитал, что сажать в шлюпку нужно только женщин и детей. В итоге Мердок сажал в шлюпку мужчин тогда, когда поблизости не оставалось женщин или детей. Лайтоллер сажал женщин и детей в шлюпки и затем опускал их на воду – даже если еще оставались свободные места. Оба опускали шлюпки, рассчитанные на 65 человек, даже тогда, когда они не были заняты полностью. При этом на борту было недостаточно шлюпок: всего 20 на 3547 человек, хотя, по самым скромным расчетам, на судне предполагалось 892 члена команды и 1320 пассажиров.
Со спасательными шлюпками можно провести занимательный тест. Номера шлюпок на борту Мердока были нечетными, на борту Лайтоллера – четными. И, возможно, мужчины выживали также в зависимости от той шлюпки, в которой оказались, ведь Лайтоллер не сажал в шлюпки мужчин. Однако в имеющихся у нас данных не было информации о номерах шлюпок. А это принципиальная проблема. И, к сожалению, закономерность, связанную с номерами шлюпок, невозможно установить до тех пор, пока информация о них не превратится в компьютерные данные, которые машина способна обработать. Компьютер не может выяснить что-то потенциально значимое для нас. Но человек – может.
Мы также видим здесь ошибочную причинно-следственную связь. Ведь если бы мы располагали данными о номерах шлюпок, то могли бы решить, что мужчины, находившиеся в шлюпках с нечетными номерами, имели больше шансов пережить крушение «Титаника». Тогда, опираясь на результаты, нам следовало бы сделать вывод, что впредь все шлюпки должны быть нечетными, ведь это повышает шансы на выживание в критической ситуации. Конечно, это смешно. Не номер шлюпки, но офицер – вот что действительно имело значение.
История двух молодых людей также вносит коррективы в чисто математические расчеты. В художественном бестселлере Уолтера Лорда «Ночь, которую стоит помнить» (A Night to Remember) идет речь о последних часах «Титаника»[100]. Лорд рассказывает историю 17-летнего Джека Тейера, севшего на борт в Шербуре, во Франции, после долгих каникул в Европе с родителями. На «Титанике» Тейер познакомился со своим ровесником, пассажиром 1-го класса Милтоном Лонгом. По мере развития катастрофических событий молодые люди помогали пассажирам добираться в безопасные места. К двум часам ночи, когда практически все спасательные шлюпки были спущены на воду, Тейер и Лонг помогали женщинам и детям забраться в них. К 2:15 последние шлюпки исчезли из виду. Корабль кренился на левый борт. Произошел взрыв, взрывная волна вырвалась на шлюпочную палубу. В этот момент повар Джон Коллинз стоял там, держа в руках ребенка, помогая стюарду и женщине из 3-го класса с двумя детьми. Его и других выбросило за борт. Ребенка вырвало из его рук взрывной волной.
Тейер и Лонг видели хаос на палубах. Внезапно везде погас свет – уровень воды на судне достиг котельной в бойлерной № 2. Теперь источником света остались только луна, звезды и фонари шлюпок, удаляющихся от тонущего лайнера. Обрушилась с грохотом вторая дымовая труба. Тейер и Лонг осмотрелись: шлюпки уплыли, а судна, идущего на помощь, видно не было. Они поняли, что пришло время покинуть борт. Друзья пожали друг другу руки и пожелали удачи. Лорд пишет:
Он выжил, доплыв до ближайшей перевернутой шлюпки и ухватившись за нее вместе с 40 другими пассажирами. Он наблюдал за тем, как «Титаник» переломился пополам, как нос и задняя часть ушли под воду среди обломков. Тейер слышал крики людей. «Похоже на цикад», – подумал он. Наконец, шлюпка № 12 подобрала Тейера и других из ледяной воды. Помощь прибыла спустя несколько часов. До 8:30 утра, пока их не спасла «Карпатия», Тейер дрожал от холода в шлюпке.
Тейер и Лонг были молодыми людьми, одного возраста, со схожими физическими данными, примерно одинакового социального статуса и абсолютно равной возможностью выжить. Разница сказалась в момент прыжка. Тейер прыгнул так далеко от судна, как только мог; Лонг нырнул прямо рядом с кораблем. Лонга затянуло в водоворот, Тейера – нет. Меня смущает другое: что бы ни прогнозировал компьютер относительно будущего Тейера и Лонга, он все равно ошибется. Его прогноз основывается на данных о классе пассажиров, возрасте и поле – но значение имело не это, а разница в прыжках. Компьютер просто в принципе не думает. Случайная смерть Лонга показывает, что прогнозы относительно выживших на «Титанике» никогда не окажутся точными на 100 % и ни один статистический прогноз не будет точен на 100 %, потому что человеческие существа никогда не станут статистикой.
Это подтверждает принцип неоправданной эффективности данных. Пока вас не беспокоит потенциальная дискриминация и беспорядок, кажется, что ИИ работает превосходно. Одной из моих любимых работ, посвященных объяснению мира с точки зрения информатики, является статья исследователей Google Алона Халеви, Питера Норвига и Фернандо Перейра. Они пишут:
Данные неоправданно эффективны – звучит интригующе и точно. Это объясняет, почему мы можем создать классификатор, способный с точностью 97 % предсказать смерть пассажиров «Титаника», и почему компьютер может обыграть чемпиона по го. Это также объясняет, почему, когда мы обращаем внимание на то, что именно происходит в момент обучения компьютера, мы понимаем, что машина не учитывает множества случайностей, которые происходят в случае реальных катастроф. Данные действительно эффективны. Однако подход, основанный на данных, не учитывает множества факторов, которые – по мнению людей – оказываются значительными.
Закон и общество пытаются вместить все, что люди узнали о материальном мире. Решения, основанные на данных, редко вписываются в эту сложную систему правил. Бессмысленность данных мы можем наблюдать в случае машинного перевода, голосовых помощников и распознавания рукописей. Слова и их комбинации компьютер не понимает так, как их понимает человек. Поэтому статистические методы распознавания речи и машинного перевода полагаются на вероятности и огромные массивы данных коротких последовательностей слов, или N-граммы. Десятилетиями лучшие умы компании Google работали над этим, им удалось собрать больше данных, чем кому-либо. Архив Google, архив The New York Times, все поисковые запросы, когда-либо заданные системе: в итоге получается, что, когда все это соединяется воедино и вырабатывается зависимость частоты появления тех или иных слов в комбинации, мы имеем дело с неоправданной эффективностью данных. Рассмотрим что-нибудь простое. В N-граммах слово «лодка», скорее всего, появится рядом со словом «вода», а не с электрокаром или лесным клопом, поэтому поисковик соединяет термины и файлы, связанные с лодками и водой, а не с водой и клопами. Люди обычно говорят об одних и тех же вещах, ищут одно и то же, в конце концов, общие знания на то и общие. Машина не учится на самом деле; процесс поисковой обработки попросту вдохновлен человеческим обучением. Если вы когда-нибудь решали математические задачки, вы видели, что это не магия, а всего лишь математика. Компьютеру удастся что-то «понять» достаточно правильно только тогда, когда мы сможем признать, что он в целом «прав», то есть он «поймет», что что-то правильно, на совершенно другом основании.
Принятие социальных решений связано не только с вычислениями, и проблемы будут возникать всегда, когда мы будем использовать только данные там, где нужно обращаться к общественным и ценностным суждениям. Действительно, путешествие 1-м классом на «Титанике» могло повысить шанс на выживание, но неразумно на основе этого развивать модель, согласно которой пассажиры 1-го класса заслуживают получить шанс на выживание в крушении больше тех, кто путешествует 2-м или 3-м классом. На основе этой модели не стоит строить какие-либо предположения. Наша прогностическая модель могла бы пригодиться для того, чтобы объяснить, почему для пассажиров 1-го класса можно было предложить более дешевую страховку, но это абсурд: нельзя наказывать тех, кто недостаточно богат, чтобы путешествовать 1-м классом. Но важнее всего то, что мы должны понимать, что есть вещи, которые машины никогда не смогут понять о людях, поэтому будут всегда востребованы человеческие: суждение, подтверждение и интерпретация.
8
Эта машина сама не поедет
Массивы неоправданно эффективных данных хорошо работают применительно к электронному поиску, простому переводу и навигации. И при достаточном объеме обучающих данных алгоритмы действительно могут неплохо справляться с разными повседневными задачами, в то время как человеческая смекалка помогает заполнить «пробелы» ИИ. Благодаря поисковикам мы научились использовать как сложные комплексные запросы, так и конкретные термины (или их синонимы), что позволяет нам при помощи строки поиска находить определенные веб-страницы. Машинный перевод между языками сегодня развит лучше, чем когда-либо. Он, конечно, не так хорош, как человеческий, однако человеческий мозг превосходно справляется с интерпретациями значений и искаженных сентенций. Обычного пользователя вполне удовлетворяет высокопарный, неуклюжий машинный перевод веб-страниц. Системы GPS, помогающие добраться из пункта А в пункт Б, невероятно удобны. Если спросить любого профессионального таксиста или водителя-попутчика, они скажут, что GPS не предлагают наилучший путь в аэропорт, но способны довести вас в нужное место и проинформировать о загруженности на дорогах.
И все же у массивов неоправданно эффективных данных есть ряд недостатков, из-за которых я скептически отношусь к замене человека ИИ в потенциально опасных случаях вроде вождения. Беспилотные автомобили наилучшим образом показывают, как ИИ (не) состоятелен в данном случае.
[91] Quach, “Facebook Pulls Plug on Language-Inventing Chatbots?”
[92] Angwin et al. “A World Apart.”
[93] Valentino-DeVries, Singer-Vine, and Soltani, “Websites Vary Prices, Deals Based on Users’ Information.”
[94] Hannak et al., “Measuring Price Discrimination and Steering on E-Commerce Web Sites.”
[95] Heffernan, “Amazon’s Prime Suspect.”
[96] Angwin, Mattu, and Larson, “Test Prep Is More Expensive – for Asian Students.”
[97] Brewster and Lynn, “Black-White Earnings Gap among Restaurant Servers.”
[98] Sharkey, “The Destructive Legacy of Housing Segregation.”
[99] Pasquale, The Black Box Society.
[100] Lord, A Night to Remember; Brown, “Chronology – Sinking of S. S. TITANIC.”