Измерять и навязывать. Социальная история искусственного интеллекта: читать начало книги онлайн

Способность Аналитической машины следовать анализу подобно тому, как это делают алгебраисты, означает, что она может представлять и воплощать собой аналитическое устройство задачи. Более того, тот факт, что Аналитическая машина не способна «предвидеть аналитические отношения и истины», означает, что она не может разорвать цепочку рассуждений или выйти за ее пределы, поскольку представляет и материально воплощает эту цепочку – точно так же, как сегодняшние алгоритмы анализа данных, названные «машинным обучением» и «искусственным интеллектом», не могут творчески нарушить правила, на которых основаны, и, что важнее, устойчиво изобретать новые.

Бэббидж неохотно признал вклад Лавлейс, попросив опубликовать ее примечания об Аналитической машине анонимно. За сопротивление шовинизму Бэббиджа Лавлейс, без сомнения, следует назвать образцовой фигурой, проявившей техническое любопытство и эмансипацию в академическом и научном мире, где доминируют мужчины[161]. Однако ее агиографический портрет также следует поместить в контекст. Истории Бэббиджа и Лавлейс относятся к нарративам индустриальной эпохи, когда социальные иерархии и интеллектуальные заслуги мистифицировались предсказуемым буржуазным культом личности. Приведем в пример цитату Лавлейс, ставшую лозунгом диджерати: «Мы можем с полным правом сказать, что аналитическая машина ткет алгебраические схемы подобному тому, как жаккардовый станок ткет цветы и листья». В противовес романтизму этой цитаты Шаффер резко замечает: «Лавлейс никогда не касалась ни проблем, связанных с заменой разумного труда ткачих картами с автоматической программой, ни страданий потерявших работу квалифицированных работников в Лондоне»[162].

Марш материального интеллекта

Согласно представлениям Бэббиджа, счетные машины служили орудиями измерения, дисциплинирования и наблюдения за трудом, то есть «интеллектом» труда, по меньшей мере в том смысле, в каком это слово тогда употреблялось. По словам Шаффера, «в Британии начала XIX века под «интеллектом» [intelligence] понимали развивающуюся систему социального надзора и механизацию естественных философий разума одновременно»[163]. Задолго до технократических амбиций кибернетики XX века Бэббидж с помощью счетных машин стал культивировать широкое технократическое представление об обществе. Склонный к преувеличениям публицист Дионисий Ларднер утверждал, что новая система механической нотации Бэббиджа может быть полезна для описания и управления «обширной фабрикой или любым крупным общественным учреждением, где работает огромное число людей с регламентированными обязанностями»[164].

В духе индустриалистской пропаганды книга Бэббиджа о машинах и производстве заканчивалась главой о грандиозном прогрессе британского капитализма под знаменем «абстрактной науки»[165]. В частности, Бэббидж утверждал, что накопление научного знания не подчиняется законам нехватки физических сил и ограничениям материального производства и с течением времени ускоряется:

Комментируя идеологию Бэббиджа и ее поразительное сходство с заявлениями об обществе знания в XX веке, Нортон Уайз пишет:

Столь оптимистичные взгляды на развитие знаний в то время не были редкостью: как будет показано в следующей главе, рикардианские социалисты, в частности Уильям Томпсон и Томас Годскин, разработали похожие утопические теории о накоплении познавательного труда в перспективе рабочего движения. Согласно Бэббиджу, «постоянно растущая область человеческого знания» экспоненциально увеличивается и возникает вопрос (заботивший рикардианских социалистов и Маркса), какое влияние окажет такое перепроизводство знаний, в том числе научных, на экономику и накопление капитала. Именно в этот кульминационный момент Бэббидж пророчески провозгласил гегемонистский подъем новой науки – науки расчета:

Здесь идеология побеждает научные достижения Бэббиджа. В одной из более ранних глав книги он обосновывал науку расчета принципами анализа труда, но в конечном итоге представил ее как материализацию абстрактной науки.

Подобно тому, как это происходит в современном дискурсе ИИ, Бэббидж уловил коллективный интеллект, стоящий за разделением труда, и инструментализировал его, сконструировав технократический взгляд на общество[169]. Риторика Бэббиджа никогда напрямую не отвечала на Вопрос о машинах, то есть создатель машин не вовлекался в публичные дебаты о рабочих, которых эти изобретения заменяют. Для него знание паровой тяги и новая наука автоматических расчетов служили исключительно мультипликатором производительности[170]. По словам историка Уильяма Эшворта, «работа Бэббиджа над счетной машиной – это марш материального интеллекта в такт фабричной работе»[171].

3. Вопрос о машинах

Как ставить под вопрос технологию

Принято считать, что промышленная революция взяла английское общество штурмом, превратив экономику регулярных сельскохозяйственных циклов в экономику бурного и нестабильного роста. Долгое время сторонники любых политических взглядов считали, что капитализм зародился как машинный капитализм и что само возникновение рабочего класса и его судьба связаны с промышленной машиной[175]. Сам Фридрих Энгельс объявил это общим местом в первых строках «Положения рабочего класса в Англии» (1845, см. один из эпиграфов к этой главе). Однако сотрудничество с Карлом Марксом заставило Энгельса радикально изменить точку зрения: на смену технологическому детерминизму пришло признание рабочих и разделения труда (а не технологий) главными движущими силами капиталистического развития[176].

В индустриальную эпоху машины вытесняли рабочих, поделив их на квалифицированных и неквалифицированных, отдалив умственный труд от физического и установив новую социальную иерархию. Однако рабочие сопротивлялись разделению. Они восставали против машин и обсуждали их роль, противостояли «чуждой силе» и штурмовали фабричные цеха, чтобы ее уничтожить. Рабочие требовали дать общественности необходимые знания о машинах. Результатом этого протеста стал часто упускаемый из виду Вопрос о машинах – публичные дебаты, разгоревшиеся в английском обществе в то время в связи с массовой заменой рабочих новыми технологиями.

Служа необходимой прелюдией к исследованию современного ИИ, эта глава призвана осветить не только социальные конфликты, стоящие за Вопросом о машинах, но и обширную область производства знаний, связанную с промышленными машинами и машинным трудом. Уже в индустриальную эпоху существовала проблема машинного интеллекта, которая, в частности, заключалась в нехватке коллективного знания о машинах. Промышленный труд – это не только широко известные подвиги физической силы, энергии и термодинамики (см. книгу Энсона Рабинбаха «Человеческий мотор»)[177], но и знания о машинах, и знания, воплощенные в машинах, и знания, произведенные и спроецированные машинами. Это эпистемическое измерение индустриальной эпохи – отличающееся от родственного ему измерения энергетического, – менее исследовано. Оно всегда выступает на вторых ролях в обширной литературе по политической экономии (включая марксизм). В этой главе я надеюсь пролить иной свет на век тяжелого труда и отдать ему должное – с точки зрения производства знания и исследования форм знания индустриальной эпохи.

В авторитетной книге «Вопрос о машинах и создание политической экономии» историк Максин Берг указывает, что в индустриальную эпоху «машины стали непосредственной основой отношений между капиталистом и рабочим. Именно машина определяла организацию труда и удерживала баланс сил в вопросе о распределении трудовых доходов»[178].

Таково откровенное описание поля сил, точнее поля политической борьбы, на котором противостояли друг другу социальные и экономические акторы. Следует сразу отметить, что Вопрос о машинах был, прежде всего, не кампанией, организованной промышленниками, а реакцией рабочего класса на происходящее и выражением его требования владеть и управлять техническим прогрессом. Берг пишет:

Вопрос о машинах канонически изложен Давидом Рикардо в главе «О машинах», которая была добавлена к изданию 1821 года его работы «Начала политической экономии и налогообложения» (Principles of Political Economy). Тезис Рикардо заключался в следующем: новые машины удешевят товары, но рабочий класс от этого не выиграет, так как заработную плату снизит конкуренция между рабочими, вызванная потерей работы по технологическим причинам. Берг пишет:

Таким образом, Вопрос о машинах был сложным явлением: проблемой массовой культуры, политической пропаганды, научной полемики и социального контроля через образование одновременно. Это стало полем интеллектуального противостояния и политической деятельности радикальных мыслителей, промышленников-утопистов и социалистических (а иногда и консервативных) активистов[181]. Идеологическая борьба вокруг машин охватила популярную литературу, шла на страницах памфлетов, стихотворных и сатирических произведений, принимала форму индустриалистского прославления культа машин с его танцующими автоматами, «механическими турками» и промышленными двигателями, выставленными на площадях в качестве туристических достопримечательностей. Известно, что Чарльз Бэббидж, в частности, демонстрировал в своем салоне «танцующую женщину» – автомат, установленный «рядом с незавершенной частью первой Разностной машины»[182]. Как подчеркивает Берг, возникновение политической экономии как новой дисциплины тоже стало частью интеллектуальной борьбы в рамках Вопроса о машинах[183].

В ответ на использование машин и последующую утрату работы по технологическим причинам и рабочие, и промышленники требовали увеличить общественную осведомленность, поднять уровень образования и подготовки. Одним из откликов на эти требования стало Движение Института механики. Лондонский институт механики, позже известный как Университет Биркбека, был основан в 1823 году и до сих пор использует латинский девиз In nocte consilium («Утро вечера мудренее»): студенты посещали (точнее, их заставляли посещать) вечерние и ночные курсы после дневной рабочей смены. В 1826 году Генри Брум, будущий лорд-канцлер, основал Общество распространения полезных знаний, чтобы помочь тем, кто не имел доступа к школьному образованию. В том же году был основан Лондонский университет (сейчас Университетский колледж Лондона). Хоукс Смит, последователь Роберта Оуэна, даже применял к образованию механические метафоры: «Работают интеллектуальные машины, действует паровая тяга ума – их сила растет, делая образование дешевым и столь же доступным для человека ограниченного достатка, как одежда и домашнее хозяйство»[184]. Впоследствии почти забылось, что британский академический ландшафт в значительной степени уходит корнями в эпистемическое ускорение Промышленной революции[185].

Какие формы знания обсуждались в рамках Вопроса о машинах? Рабочих, инженеров, педагогов и промышленников интересовало знание, понимаемое как навык и механическое изобретение, то есть прикладная, а не абстрактная наука. Воплощением такого понимания стали работы Института механики, сотрудники которого искали, по выражению Максин Берг, «оптимального сочетания науки и мастерства… высшей формы квалифицированного труда, освобожденного от деградации разделения труда и проникнутого творческим духом и новаторским инстинктом»[186]. Все соглашались, что экономический рост связан с изобретением новых машин, и считали интеллект машиной внутри машины; однако роль интеллекта в этом процессе не была тогда ясна до конца (впрочем, не ясна она и сегодня).

В этих дебатах Марксу принадлежал, вероятно, один из самых оригинальных и резких голосов. Он поставил под сомнение технологический детерминизм, согласно которому машина представляет собой главный двигатель промышленного капитализма. Отринув общепринятое представление о связи между технологией и экономикой, Маркс утверждал, что технологическое развитие (средства производства) обусловлено разделением труда (производственные отношения), а не наоборот[187]. По Марксу, накопление капитала подталкивается не технологическим ускорением, а эксплуатацией прибавочной стоимости и постоянно усугубляющимся разделением труда. Создает машины не наука как таковая, а развивающаяся разумность разделения труда вместе со спонтанными и распределенными когнитивными способностями мастеров и рабочих. Наука вступила в игру позже, улучшив машины, порожденные устройством общества. Для Маркса, если быть точным, реальная чуждая сила, движущая капитализм, – вовсе не машины, а живой труд.

Эти короткие зарисовки, связанные с Вопросом о машинах, нужны, чтобы раскрыть спектр социальных сил, которые формировали интеллектуальный мир индустриальной эпохи, отвергнув технологический детерминизм в качестве основной теории. Действительно, в ту эпоху диалектика социальных, технических, научных и культурных форм была столь сложна, что свести ее лишь к одной из форм невозможно. Расширенный список моделей знания и модальностей производства знаний, которые прошли сквозь индустриальную эпоху, должен, по меньшей мере, включать в себя следующее: тип знания, который представлен изобретением машины; разделение труда, определившее проект; инженерные ноу-хау и символический язык, необходимые для описания механизма; точные науки — механику и термодинамику; нетехнические дисциплины, такие как политэкономия; метрологию ручного и умственного труда, а также инструменты их измерения; коллективное знание, воплощенное как в машине, так и в общественных отношениях («всеобщий интеллект»); образовательные движения – например, Института механики; политические кампании – например, Марш интеллекта; и, наконец, популярные мифологии вокруг автоматов вроде Механического турка. Вопрос о машинах охватывал все эти спорные формы знания. Его нельзя назвать полностью публичным – он не похож на историю заметных движений, давших зримый эффект. Скорее, это анонимная история – история невидимости (особенно женского труда) и политической амнезии, окружавшей ранние понятия политической экономии, в частности, умственный труд.

Чтобы снять заклинание невидимости, наложенное на рабочую силу, и понять, почему умственный труд стал демонизироваться и затем игнорироваться в дебатах о технологиях, рассмотрим с противоположной – по отношению к предыдущей главе – точки зрения трудовую теорию машины Бэббиджа. С одной стороны, она показывает, как знание влияло на определение труда, намечая рамку познавательной теории труда (в равной степени близкой рикардианским социалистам XIX века и экономистам знания XX века). С другой стороны, теория демонстрирует то решительное влияние, которое новые машины и приборы оказали на развитие новых знаний, расширив таким образом машинную теорию науки, играющую главную роль в материалистической эпистемологии этой книги.

Познавательная теория труда

В наши дни наука доминирует в определении и навязывании социальных иерархий, что затрудняет изучение отношений между знанием и трудом. Эпистемический империализм научных институтов затемнил роль, которую сыграли в технологических трансформациях труд, мастерство, эксперименты и спонтанные формы знания. До сих пор широко распространено мнение, что изобретению новых технологий и экономическому росту способствует лишь применение науки в промышленности, хотя на практике это случается редко. Уже в начале XIX века политическая экономия признавала производительную роль умственного труда и познавательного компонента любых форм ручного труда в технических изобретениях. Социалисты-рикардианцы, в частности Уильям Томпсон и Томас Годскин, предложили такой анализ умственного труда, который в значительной степени предвосхитил теории, относящиеся к обществу знаний XX века. Согласно познавательной теории труда рикардианцев, главные составляющие труда – не мышечные, физические и энергетические, а психологические, интеллектуальные и информационные.

Уильям Томпсон – «ирландский экономист, социалист-утопист, последователь Р. Оуэна»[188] – «использовал теорию Рикардо для социалистических выводов»[189]. В 1824 году Томпсон опубликовал книгу с оптимистичным названием «Исследование принципов распределения богатства, наиболее способствующих человеческому счастью, применительно к недавно предложенной системе добровольного равенства богатства». В этой давно забытой работе Томпсон дал одно из первых систематических определений современного познавательного труда:

Как пророчески утверждал Томпсон, экономика знаний следует правилам, отличающимся от экономики дефицита материальных благ, развиваясь за счет непрерывного распространения и свободного преумножения:

Томпсон, однако, понимал амбивалентность инструментального знания, согласно своего рода «диалектике просвещения», ante litteram. В духе типичной оуэнистской полемики он заявлял, что машины унижают «общие интеллектуальные способности» рабочих, сводя их к «вымуштрованным автоматам». Фабрика выступала для него аппаратом, который держит рабочих «в неведении о тайных пружинах, управляющих машиной, и подавляет общие силы разумов» так, чтобы «плоды трудов были отняты сотнями ухищрений»[191]. В «Капитале» Маркс приводит цитату Томпсона, которая выражает эту мысль в самом чистом виде:

Так он не только дал первое современное описание познавательного труда и когнитивной составляющей любого труда вообще, но и указал, что отчуждение знаний превращает их в репрессивную силу, враждебную самим рабочим.

Аналогичные позиции отстаивал рикардианский социалист либертарианского толка Томас Годскин, веривший в прогресс коллективного знания и автономию общества как от капитала, так и от вмешательства государства. Годскин был одним из основателей лондонского Института механики, где в 1826 году прочитал лекцию «О влиянии знания», позже опубликованную в его книге «Популярная политическая экономия» (1827). Переиначивая на современный им лад девиз Бэкона «Знание – сила», социалисты, в частности Томпсон и Годскин, утверждали, что знание представляет собой ключ к экономическому процветанию. Годскин сетовал, что Адам Смит, отец политической экономии, не уделил этому вопросу должного внимания:

[161] См.: Light J. When Computers Were Women // Technology and Culture 40, no. 3 (1999): 455–483.

[162] Schaffer S. Babbage’s Dancer and the Impresarios of Mechanism // Cultural Babbage: Technology, Time and Invention. Francis Spufford and Jenny Uglow (eds). London: Faber & Faber, 1996. P. 77.

[163] Schaffer. Babbage’s Intelligence. P. 204.

[164] Цит. по: Priestley. A Science of Operations. P. 30. Lardner D. Babbage’s Calculating Engine // Edinburgh Review, 59, 263–327 (1834). Перепечатано: Babbage Ch. The Works of Charles Babbage. Vol. 2. London: William Pickering, 1989.

[165] Babbage. On the Economy of Machinery. P. 307.

[169] Уайз о политическом плане Бэббиджа: «Бэббидж сделал знание, или умственный труд, источником экономических преобразований… он стремился вписать их в сферу действия механических законов, точно так же как в случае Аналитической машины». Wise and Smith. Work and Waste. P. 416.

[170] Незадолго до смерти Бэббидж задумался об истощении ресурсов – не человеческих, а природных. Его аргумент предвосхищал лейтмотив следующего столетия: «Источник этой силы не безграничен, и угольные шахты мира в конце концов будут исчерпаны». Ранее Бэббидж уже рекомендовал перейти на геотермальную энергию, рассматривая в качестве альтернативы углю даже исландские гейзеры.

[171] Ashworth W. J. Memory, Efficiency, and Symbolic Analysis: Charles Babbage, John Herschel, and the Industrial Mind // Isis 87, no. 4 (1996): 648.

[175] Индустриальный век сегодня рассматривается в более широком контексте и большем временном масштабе. О долге британского промышленного капитализма перед колониями и ограничениях марксизма в этом отношении см.: Robinson C. Black Marxism: The Making of the Black Radical Tradition. Chapel Hill: University of North Carolina Press, 1983.

[176] Прочтение Энгельса отличается от прочтения Маркса в «Капитале», где разделение труда и общественные отношения производства описываются как главный двигатель технологического развития. Встреча Энгельса и Маркса произошла в 1844 г. после знакомства в 1842‑м.

[177] См.: Rabinbach A. The Human Motor: Energy, Fatigue, and the Origins of Modernity. Berkeley: University of California Press, 1992.

[178] См.: Berg M. The Machinery Question and the Making of Political Economy. Cambridge: Cambridge University Press, 1980. P. 101.

[181] Эти дебаты не всегда носили прогрессивный характер. Например, Томас Карлайл был расистским мыслителем, который использовал виталистские и готические образы, призывая рабочих выступать против промышленных машин. См.: Carlyle Th. Chartism // The Works of Thomas Carlyle. Henry Duff Traill (ed.). Vol. 29. Critical and Miscellaneous Essays IV. Cambridge: Cambridge University Press, 2010. P. 118–204.

[182] Schaffer S. Babbage’s Dancer and the Impresarios of Mechanism // Cultural Babbage: Technology, Time and Invention. Francis Spufford and Jenny Uglow (eds). London: Faber & Faber, 1996. P. 53–80.

[183] Berg. The Machinery Question. P. 17.

[184] Smith H. On the Tendency and Prospects of Mechanics’ Institutions // The Analyst, 1835.

[185] Описание движения Института механики как формы социального контроля и поля идеологической битвы см.: Shapin St. and Barnes B. Science, Nature and Control: Interpreting Mechanics’ Institutes // Social Studies of Science 7, no. 1 (1977): 31–74.

[186] Berg. The Machinery Question. P. 149.

[187] Ibid. P. 158.

[188] Маркс в примечании представляет Томпсона именно так. См.: Экономические рукописи 1857–1861 гг. (Первоначальный вариант «Капитала»). В 2‑х ч. Ч. 2. М.: Политиздат, 1980. С. 554.

[189] У М. Пасквинелли – criticised political economy from a utopian socialist position («критиковал политическую экономию с социально-утопических позиций»). – Прим. ред.

[191] Thompson. Principles of the Distribution of Wealth. P. 272–275, 290, 292.