Искусственный интеллект: читать книгу онлайн полностью и бесплатно

Спустя несколько лет я стала учиться программированию и поняла, что опыт сборки робота из конструктора вполне соотносится с миром кодинга: я могла себе представить невероятно сложные программы, однако реальные возможности компьютеров чаще всего разочаровывали. Нередко программы просто не работали из-за неисправностей компьютера. Это меня не остановило, и я продолжаю создавать и восхищаться технологиями. У меня множество аккаунтов в социальных сетях. Однажды я хакнула мультиварку, чтобы подогреть 11 кг шоколада, – это было частью проекта. Я даже создала компьютеризированную систему автоматического полива в саду.

Однако с недавних пор я перестала верить в то, что технологии спасут мир. Всю свою сознательную жизнь я слышала обещания о том, что технологии изменят мир к лучшему. В сентябре 1991 г. я поступила в Гарвард на отделение вычислительных машин. Спустя несколько месяцев в ЦЕРН (лаборатории физики под патронажем Европейской организации по ядерным исследованиям) Тим Бернерс-Ли создал первый в мире веб-сайт. Когда я была на втором курсе, мой сосед по комнате купил NeXTcube – тот же самый черный квадратный компьютер, который Барнерс-Ли использовал в качестве сервера в ЦЕРН. Было весело. Нам удалось подключить высокоскоростное соединение в нашей комнате, благодаря чему мы смогли проверять почту на компьютере стоимостью $5000. Другой сосед, который был слишком молод, чтобы посещать бостонский гей-бар, с этого же компьютера зависал на онлайн досках объявлений, чтобы познакомиться с парнями. Тогда было легко поверить в то, что в будущем все будет происходить онлайн.

Юные идеалисты моего поколения с радостью решили, что создаваемый нами онлайн мир будет лучше и справедливее нынешнего. В 1960-х гг. наши родители верили, что можно построить лучший мир, порвав с обычной жизнью и живя в коммунах. Мы наблюдали за тем, как они бросали наркотики и осознавали, что коммуны не привели к искомым ответам. Однако у нас впереди был совершенно новый, неизведанный мир «киберпространства», который предстояло создать. Связь между этими примерами далеко не метафорична. По словам Фреда Тёрнера, автора книги об истории цифрового утопизма «От контркультуры к киберкультуре»[1], на становление интернет-культуры того времени в известной степени повлияло движение Нового коммунизма 1960-х гг. В 1995 г. в специальном выпуске журнала Time под названием «Добро пожаловать в киберпространство» Стюарт Бранд, создатель Каталога всей Земли (Whole Earth Catalog), наметил связь между контркультурой и революцией персональных компьютеров в эссе «Мы всем обязаны хиппи»[2]. Эпоха зарождения интернета была весьма кайфовой.

Будучи третьекурсницей, я могла создать веб-страницу, запустить веб-сервер и написать код на шести языках программирования. Это было вполне естественным для студента, специализирующегося в математике, компьютерах и программировании. И я была одной из шести женщин на этой специальности в университете, где училось 20 000 студентов. Я знала двух девушек – специалистов по теории вычислительных машин. Остальные три казались мифом. Я ощущала себя изгоем и прекрасно видела причины, заставлявшие женщин бросать науку, технологии, разработки, математику и уходить со STEM-специальностей[3]. Я также знала, как можно устранить эту «неисправность», однако ни я, ни другие женщины не имели для этого достаточной власти и влияния. Поэтому я перешла на другую специальность.

После окончания колледжа я стала работать программистом. В мои обязанности входило создание симулятора, который, подобно рою пчел, вооруженных винтовками, должен был набрасываться на вновь созданные программы и проверять их на прочность. Работа была хорошей, но не приносила радости. Я снова почувствовала, будто не было вокруг никого, кто бы выглядел, как я, говорил, как я, и интересовался теми же вещами, что и я. Поэтому я оттуда ушла и стала журналистом.

Переместимся на несколько лет вперед: я вернулась в компьютерную науку в качестве дата-журналиста. Журналистика данных – это практика поиска и рассказывания историй посредством цифр. Программирование помогает проводить журналистские расследования. А еще я преподаю в университете, это мне подходит. И гендерный баланс там лучше.

Журналистов учат быть скептиками. Мы часто повторяем: «Если мама говорит, что любит тебя, это необходимо проверять». В течение многих лет я слышала фактически одни и те же обещания о светлом технологическом будущем, однако лично видела, как цифровой мир в точности повторял все нюансы неравенства в реальном мире. Например, процент женщин в пространстве технологических профессий никогда радикально не возрастал. Интернет превратился в новое публичное пространство, однако друзья и коллеги говорят, что именно онлайн они подвергаются харассменту больше, чем когда-либо. Мои подруги, пользовавшиеся сайтами и приложениями для знакомств, рассказывали об угрозах изнасилования и непристойных фотографиях, отправленных им. А тролли и боты превратили Twitter в какофонию голосов.

Тогда я начала серьезно задумываться над обещаниями, данными технокультурой, и стала замечать, как люди говорили о технологиях, не задумываясь о последствиях их внедрения. В конце концов, в основе всего, что мы делаем на компьютере, лежат математические действия, которые имеют свои фундаментальные ограничения, определяющие границы технологий. И, как мне кажется, мы приблизились к этим границам. Американцы достигли той точки развития, когда цифровые технологии с восторгом используются буквально везде – при приеме на работу, во время вождения, при оплате счетов и даже при выборе партнера, а способность критического осмысления новой реальности угасает на глазах.

Восторженные попытки применить компьютерные технологии в каждом аспекте нашей жизни привели к появлению невероятного количества недоработанных технологий. Они усложняют повседневную жизнь вместо того, чтобы делать ее проще. Так, например, поиск номера телефона нового знакомого или актуального адреса электронной почты занимает неожиданно большой объем времени. Проблема в том, что, как и во многих других случаях, вокруг слишком много новых технологий и недостаточно людей для управления ими. Мы перешли от протоколирования к компьютерным системам и при этом избавились от людей, способных содержать информацию в актуальном состоянии. И сегодня, поскольку никто не проверяет точность контактной информации в каждом институциональном справочнике, связаться с людьми оказывается гораздо сложнее. Как журналисту мне приходится общаться со множеством людей, которых я не знаю лично, и связываться с ними стало сложнее и дороже, чем раньше.

Есть поговорка «Когда у тебя в руках молоток, все кажется гвоздями». Компьютеры – это молотки. И пора наконец остановить слепую погоню за цифровым будущим и начать принимать более осознанные решения относительно того, когда и зачем использовать их.

Так появилась эта книга – некоторые размышления, помогающее понять, что могут и что не могут технологии, где технологические достижения пересекаются с человеческой природой. Эта грань похожа на обрыв, за которым нас ждет опасность.

В мире существует множество невероятных технологий: интернет-поисковики, устройства, распознающие вербальные команды, компьютеры, соревнующиеся с людьми в играх вроде Jeopardy![4] или го. Однако не стоит забывать о том, что как раз благодаря технологиям мы можем решать и определенные проблемы. В рамках моих университетских курсов я среди прочего учу одной фундаментальной вещи, а именно тому, что существуют ограничения. Подобно границам познаваемости в математике и естественных науках, имеются границы возможного применения технологий. Кроме того, существуют и пределы того, как нам следует использовать технологии. Смотря на мир через призму компьютерных наук или пытаясь решить глобальные проблемы только при помощи технологий, мы рискуем совершить известные и ожидаемые ошибки, замедляющие прогресс и усиливающие существующее неравенство. Наша книга посвящена способам понимания внешних ограничений того, на что способны технологии. Осмысление этих рамок поможет нам совершать более качественный выбор и сформировать коллективный диалог относительно применения технологий и того, что следует делать, чтобы сделать мир по-настоящему лучше для всех.

К таким размышлениям меня привела журналистика. Я специализируюсь на разделе журналистики данных под названием вычислительная журналистика, ее также называют анализом алгоритмической ответственности. Алгоритм – это вычислительная процедура с известным результатом; он похож на рецепт, который при выполнении всех шагов приводит к созданию определенного «блюда». Иногда под анализом алгоритмической ответственности понимается процесс написания программы, при помощи которой можно обнаружить алгоритмы, призванные принимать решения за пользователей. А порой подразумевается анализ не слишком качественных технологий или неверно интерпретированных данных, в результате которого мы обнаруживаем проблемную зону.

Одной из таких проблемных зон я собираюсь поделиться в этой книге, а именно техношовинизмом. Техношовинизм – это слепая вера в то, что технологии являются ответом на все вопросы. И, несмотря на то что цифровыми технологиями ученые и чиновники пользовались с 1950-х гг., а с 1980-х гг. компьютеры стали частью нашей повседневности, изощренные маркетинговые кампании все еще заставляют большинство людей верить в то, что цифровые технологии – это что-то совершенно новое и революционное. (Тем временем технологическая революция уже случилась, а цифровые технологии стали обыденностью.)

Техношовинизм нередко встречается вместе с созвучными ему идеями вроде меритократии в духе Айн Рэнд, технолибертарианских политических ценностей, торжества свободы высказывания до той степени, что бытование онлайн-харассмента не считается проблемой; с верой в то, что компьютеры более «объективны» и «беспристрастны», поскольку для них вопросы и ответы сведены к математическим уравнениям; и непоколебимой веры в то, что, если бы человечество больше полагалось на технологии и их правильное использование, социальные проблемы бы исчезли и мы создали утопическое общество на базе цифровых технологий. Никогда не было и не будет технологической инновации, способной избавить нас от необходимости сталкиваться с человеческой сущностью. Почему тогда люди упорно думают, будто где-то за поворотом человечество обязательно найдет свое светлое технологическое будущее?

Я задумалась о техношовинизме после встречи со знакомым специалистом по обработке данных, которому на тот момент было около 20 лет. Я тогда вскользь упомянула о том, что в школах Филадельфии недостаточно книг.

– Почему попросту не пользоваться ноутбуками, планшетами и электронными книгами? – спросил знакомый. – Технологии ведь делают все быстрее, дешевле и лучше, не так ли?

Он получил нагоняй (который и вы получите в следующей главе). И тем не менее его предположение засело в моей голове. Мой друг был уверен, что технологии решали все проблемы. Я же считала, что они годятся только в качестве инструмента для решения конкретной задачи.

За последние два десятка лет странным образом сформировалось представление о том, что компьютер всегда все делает правильно, а человек – нет. Мы говорим, что «компьютеры лучше, потому что они объективнее людей». Компьютеры стали вездесущи и настолько проникли в нашу жизнь, что, когда барахлит машина, мы тут же виним себя вместо того, чтобы подумать о возможных ошибках в тысячах строках кода, составляющего обычную программу. Как и любой разработчик, скажу, что на самом деле проблема чаще всего скрыта в компьютере. В частности, это может быть недоработанный и плохо протестированный код, дешевое аппаратное обеспечение или банальное непонимание разработчиками практики использования софта конечным потребителем.

Если вы согласны с моим другом-исследователем, то, вероятно, к последней фразе вы относитесь скептично. Может, вы тот самый человек, который обожает смартфоны, или всю вашу жизнь вам говорили, что компьютеры – дорога в будущее? Я вас прекрасно понимаю, мне тоже так говорили. Однако я прошу вас вместе со мной прочитать еще несколько историй о людях, которые создают технологии, и затем критически поразмыслить и о технологиях, и об их создателях. Эта книга – не инструкция и не учебник, она представляет собой сборник историй, объединенных одной идеей. Я выбрала несколько авантюрных историй из области программирования, каждая из которых позволяет понять нечто фундаментальное о технологиях и современной технокультуре. Все эти проекты соединяются в цепочку аргументов против техношовинизма. Кроме того, я расскажу, как функционируют компьютерные технологии, и покажу, как они служат потребностям человека.

Первые четыре главы посвящены базовым принципам работы компьютеров и основам концепции программирования. И если вам уже понятно, как аппаратное оснащение и софт работают вместе, или если вы знаете, как писать код, то стоит быстро пробежаться по главам 1–3 и перейти сразу к главе 4, посвященной данным. Первые три главы важны, поскольку дают представление о том, что любой искусственный интеллект (ИИ) работает на основе одних и тех же элементов – кода, данных, двоичной логики и электрических импульсов. И важно понять, что в ИИ является реальным, а что воображаемым. Искусственные суперинтеллекты вроде тех, что мы видим в телешоу «В поле зрения» или «Звездный путь», – выдуманные. Да, конечно, их интересно представлять себе вживую, и они вдохновляют многих людей на размышления о способности роботов завоевать мир и тому подобном, но они не настоящие. Эта книга помогает прорваться к реальным математическим, когнитивным и вычислительным концептам, бытующим в современной научной дисциплине ИИ: представлению знаний и построению логических рассуждений, логике, машинному обучению, обработке естественных языков, поиску, планированию, механике и этике.

В рамках первого вычислительного приключения (глава 5) я анализирую причины, по которым после двух десятилетий реформирования образования школы до сих пор неспособны подготовить учеников к сдаче стандартизированных тестов. И это не вина учеников или учителей. Проблема гораздо масштабнее: компании, разрабатывающие государственные и локальные школьные тесты, также издают учебники, в которых есть ответы на тесты. Однако далеко не все школы могут себе позволить такие учебники.

Я обнаружила эту щекотливую ситуацию, пока писала код ИИ для своих журналистских расследований. Associated Press использует ботов для написания новостных заметок о бизнесе и спорте, так что роботы-репортеры – явление нередкое для последних лет. Моя программа не находилась непосредственно в роботе-репортере (в этом не было нужды, но я и не отрицаю такую возможность), она также не писала истории (по тем же причинам). Напротив, эта программа была принципиально новым способом применения старого доброго искусственного интеллекта, она помогала обнаружить интересные моменты. Одним из наиболее удивительных открытий, сделанных в ходе вычислительного расследования, стало то, что даже в нашем высокотехнологичном мире простейшее решение – книга в руках ребенка – оказалось весьма эффективным. Это заставило меня задуматься о том, почему мы тратим так много денег на внедрение технологий в классах, когда у нас уже есть дешевое и эффективное решение, которое неплохо работает.

В главе 6 нас ждет насыщенный ретроспективный обзор истории компьютеров. Особое внимание будет отдано Марвину Минскому – человеку, известному в качестве отца искусственного интеллекта, – и той огромной роли, которую контркультура 1960-х гг. сыграла в формировании мнений об интернете, существующем в 2017 г., в котором была написана эта книга. Я хочу показать, как мечты и цели определенных людей сформировали научное знание, культуру, деловую риторику и даже правовые рамки современных технологий посредством череды взвешенных решений. Например, причина, по которой интернет не поделен на государственные территории, заключается в том, что создатели этой технологии стремились построить новый мир за пределами государств – подобно тому, что они (безуспешно) пытались построить в коммунах.

Размышляя о технологиях, необходимо также помнить о другом краеугольном камне массовой культуры – о Голливуде. Большая часть представлений о технологиях сформирована благодаря фильмам, телепередачам и книгам. (Помните робота из моего детства?) Говоря об ИИ, нужно различать сильный и слабый искусственный интеллект. Сильный – это голливудская версия. Как раз благодаря такому ИИ оживает робот-дворецкий, который теоретически может обрести сознание и захватить государство, что, в свою очередь, может привести к появлению настоящего Арнольда Шварценеггера в качестве Терминатора и иным не слишком приятным последствиям. Большинство исследователей в области вычислительной техники читают научно-фантастическую литературу и смотрят кино, поэтому всегда рады обсудить гипотетические возможности сильного искусственного интеллекта.

В 1990-х гг. исследователи поставили крест на сильном ИИ[5]. Сегодня его называют «старым добрым искусственным интеллектом». Слабый ИИ – настоящий. Он опирается исключительно на вычислительные методы и не настолько увлекателен, как его более старый собрат, но удивительно хорошо справляется с разного рода задачами. Хотя, конечно, существует знаковая лингвистическая путаница. Машинное обучение (МО) – популярная ныне форма искусственного интеллекта – не является сильным ИИ. Это слабый ИИ, хотя название действительно может ввести в заблуждение. Даже для меня фраза «машинное обучение» ассоциируется с каким-то разумным существом внутри компьютера.

Важное различие заключается в следующем: сильный ИИ – это то, чего мы желаем, на что надеемся и что представляем себе (без учета злобных роботических повелителей эпохи расцвета научной фантастики). Слабый ИИ – то, что у нас реально есть. Такова разница между мечтой и реальностью.

Затем, в главе 7, я представлю принцип работы МО и покажу, как создать такую структуру, которая способна предсказать, кто из пассажиров «Титаника» выжил бы в известном крушении. Понимание принципа работы МО позволит разобраться в примере из главы 8, где я окажусь за рулем автономной машины и расскажу, почему беспилотный школьный автобус обязательно попадет в аварию. Впервые в жизни я села в беспилотный автомобиль в 2007 г., тогда компьютерный «водитель» чуть не убил меня на стоянке фирмы «Боинг». С тех пор технологии прошли долгий путь, однако принципиально так и не стали работать так же хорошо, как человеческий мозг. Так что в ближайшее время киборгизированного будущего не наступит. Я также обращу внимание на то, как люди представляют технологии, заменяющие человека, и проанализирую, почему так сложно принять тот факт, что технологии не настолько эффективны, как мы того хотим.

Глава 9 станет плацдармом для размышлений о том, почему популярно не значит хорошо и почему это заблуждение – подкрепляемое машинным обучением – по-настоящему опасно. Главы 10 и 11 – очередные программистские приключения, где я создаю пицце-расчетную компанию на междугородном хакатон-автобусе (популярно, но не очень хорошо) и пытаюсь исправить финансовую систему США к президентским выборам 2016 г. (хорошо, но не слишком популярно). В обоих случаях я создаю софт, который работает не так, как изначально задумывалось, и его крах весьма поучителен.

С помощью этой книги я хочу воодушевить людей. Я хочу, чтобы они поняли принципы работы компьютера и перестали бояться программ. Мы все когда-то были в такой ситуации. Все чувствовали беспомощность и расстраивались перед, казалось бы, простой задачей, которая по факту становится невыполнимой из-за технологического интерфейса. Даже мои студенты, которых порой называют «цифровое поколение», иногда считают, что цифровой мир сбивает с толку, пугает и недостаточно проработан.

[1] Turner, From Counterculture to Cyberculture.

[2] Brand, “We Owe It All to the Hippies.”

[3] Science Technology Engineering And Math (STEM) – аббревиатура, обозначающая технические специальности, в которых традиционно наблюдался гендерный перевес. – Прим. пер.

[4] В России выходит на канале НТВ под названием «Своя игра». – Прим. ред.

[5] Dreyfus, What Computers Still Can’t Do.