Генеративный искусственный интеллект. Как ИИ меняет нашу жизнь и работу: читать книгу онлайн полностью и бесплатно

8.4.3. Обзор ситуации в Китае

К 2023 году Китай ввел три обширных целевых закона о машинном обучении и ИИ: о регуляции рекомендательных алгоритмов от 2021 года, о правилах глубокого синтеза (дипфейках) от 2022 года и проект правил о генеративном ИИ от 2023 года. Эти законодательные акты устанавливают новые правила создания и развертывания ИИ-систем, а также – какую информацию разработчики ИИ должны раскрывать правительству и общественности.

В отличие от Европейского союза Китай придерживается итеративного и вертикального подхода в управлении в области ИИ. Например, Закон ЕС об ИИ – это горизонтальное регулирование, охватывающее все варианты применения данной технологии. А вертикальный подход нацелен на конкретное применение технологии. Китайские регулирующие органы предъявляют требования с учетом своих опасений, и если они оказываются недостаточными или ошибочными, то издают новые нормативные акты, заполняющие пробелы, или расширяют существующее законодательство. Такой итеративный процесс нормативно-правовой регуляции может показаться запутанным и сложным для соблюдения разработчиками ИИ, когда дело доходит до выполнения всех требований, однако китайские чиновники считают, что это необходимый компромисс в быстро меняющейся технологической среде.

В 2021 году китайское постановление об алгоритмических рекомендательных системах положило начало введению ограничений на системы ИИ и машинного обучения. Первоначально это постановление, регулирующее употребление и ненадлежащее использование рекомендательных алгоритмов, было инициировано Коммунистической партией Китая (КПК), у которой возникла озабоченность по поводу роли алгоритмов в распространении информации в интернете³⁸. Этот нормативный акт требует прозрачности в работе алгоритмов и предоставления пользователям большего контроля над тем, какие данные компании могут использовать для обучения алгоритмов, а также предписывает поставщикам рекомендательных услуг «придерживаться основных ценностных ориентаций» и «активно передавать онлайн позитивную энергию»³⁹. Постановление также требует, чтобы платформы работали над предотвращением распространения нежелательной или незаконной информации и при необходимости осуществляли вмешательства, чтобы гарантировать соответствие политике правительства.

Согласно КПК, дипфейки – это угроза информационной среде. Мы должны отметить, что по сравнению с Соединенными Штатами, в конституции которых закреплены гарантии свободы выражения мнений, и даже с Европейским союзом в информационной среде Китая больше ограничений и контроля. Спектр того, что в Китае классифицируется как информационная угроза, довольно широк. Например, критика государства или КПК будет рассматриваться как угроза информационной среде.

В 2022 году Китай принял Положение о глубоком синтезе, которое охватывало алгоритмы, позволяющие создавать синтетические изображения, текст, видео и голосовой контент. Этот нормативный документ предусматривает добавление меток или тэгов в синтетически сгенерированный контент, а также содержит расплывчатые цензурные требования, например: «придерживаться правильного политического направления» и «не нарушать экономический и социальный порядок»³⁸. Кроме того, он требует от поставщиков услуг глубокого синтеза принимать меры по защите персональных данных, технической безопасности и прозрачности. Постановление было окончательно доработано 25 ноября 2022 года, всего за пять дней до публичного выпуска ChatGPT⁴⁰.

Несмотря на опережающие инициативы регулирующих органов Китая, выпуск ChatGPT поставил их эффективность под сомнение. Государственная канцелярия интернет-информации КНР сочла Положение о глубоком синтезе недостаточным, поскольку оно было создано для регуляции дипфейков, но не текста, сгенерированного с помощью LLM. Этот нормативный акт касался только онлайн-услуг по генерации контента, из-за чего возник пробел в регулировании контента, сгенерированного искусственным интеллектом офлайн. В итоге китайские регулирующие органы решили быстро повторно пройтись по тем же областям применения ИИ, но с учетом новым проблем.

В апреле 2023 года Государственная канцелярия интернет-информации опубликовала проект мер, регулирующих сервисы генеративного ИИ. Проект основан на Положении о глубоком синтезе, которое вступило в силу в январе 2023 года и применяется ко всему машинно-сгенерированному контенту онлайн или офлайн⁴¹. Первоначальный проект содержал в себе несколько трудновыполнимых требований, например, чтобы обучающие данные были правдивыми, точными и разнообразными и при этом не нарушали права любой интеллектуальной собственности³⁸. Главная проблема заключалась в том, что эти правила могут привести к подавлению инноваций в индустрии искусственного интеллекта в стране, которая стремится стать мировым лидером в этой области. Во временных правилах, которые вступили в силу 15 августа 2023 года, после активного общественного обсуждения были смягчены несколько ранее объявленных положений, а также указано, что китайские регулирующие органы будут поддерживать разработку технологии⁴². Временные правила применяются только к услугам, доступным для общественности в Китае, и не распространяются на любые технологии, разрабатываемые в научно-исследовательских институтах или предназначенные для использования зарубежными пользователями.

Вертикальный и итеративный подход Китая к нормативно-правовой регуляции в области ИИ имеет как сильные, так и слабые стороны. Сильной стороной вертикального подхода является возможность находить точные решения или устранять конкретные проблемы. Однако, как это видно из ситуации с Положением о глубоком синтезе, при появлении новых областей применения или проблем регулирующим органам приходится разрабатывать новые правила. Благодаря предыдущему опыту в управлении ИИ и применению системы регулирования из прошлых вертикальных нормативных документов Государственная канцелярия интернет-информации КНР смогла быстро пересмотреть Положения о глубоком синтезе и ввести правила для генеративного ИИ, продемонстрировав скорость как еще одно преимущество данного подхода.

В июне 2023 года Государственный совет КНР объявил, что будет разработан проект Закона об искусственном интеллекте – всеобъемлющего горизонтального законодательного акта, основанного на существующих нормативных актах [115]. Это говорит о том, что китайское регулирование в области ИИ приближается к поворотному моменту, повторяя эволюцию китайских нормативных актов, регулирующих интернет. Интернет в Китае первоначально регулировался узкими и специализированными нормативными актами, которые позже переросли в Закон о кибербезопасности от 2017 года – обширный и исчерпывающий документ, который был составлен на основе существующих законов³⁸. Повторяя тактику подхода к регуляции интернета, проект Закона об искусственном интеллекте, если будет одобрен, станет первым национальным сводом законов Китая в области ИИ.

8.4.4. Корпоративное самоуправление

Как обсуждалось в разделе 8.4.1, в июле 2023 года администрация Байдена – Харрис заручилась добровольными обязательствами семи ведущих компаний, занимающихся искусственным интеллектом, – Amazon, Antrophic, Google, Inflection, Meta [116], Microsoft и OpenAI, – чтобы способствовать безопасной, защищенной и прозрачной разработке ИИ-технологий. Однако это соглашение было встречено как с одобрением, так и с критикой – является ли оно шагом вперед или пустым обещанием?

На первый взгляд, добровольные обязательства выглядят многообещающими, но формулировки условий довольно расплывчаты и в основном фиксируют то, что эти семь компаний делают и так: работают над безопасностью ИИ-систем, инвестируют средства в кибербезопасность и стремятся к прозрачности. Соглашение также является добровольным, что не возлагает на компании ответственность за соблюдение условий и не привлекает их к ответу при нарушениях. Однако стоит отметить, что компании, скорее всего, были вынуждены участвовать в соглашении, поскольку перед ними могла стоять угроза жесткого регулирования.

Но у добровольных обязательств есть и положительная сторона: они помогают администрации избегать принятия жестких и трудных для соблюдения правил, которые могут препятствовать развитию инноваций в Соединенных Штатах, как это происходит в Европейском союзе⁴³. Известно, что осуществление надзора за финансовым сектором началось с самоуправления в этой отрасли. В XVII веке коллективы торговцев встречались в конкурирующих кофейнях, соревнуясь в эффективности этических правил, которые должны были соблюдать их члены⁴⁴. Эти правила были призваны убедить публику торговать с какой-либо конкурирующей стороной. Если кто-либо из состава сообщества нарушал этические нормы, портилась его репутация в целом. Следовательно, все участники были заинтересованы в том, чтобы отслеживать неэтичное поведение, и, если кто-то вел себя неподобающим образом, его исключали из группы. В конце концов все коллективы приняли в качестве стандарта правила, которые лучше всего защищали общественность. Эти коллективы – первые биржевые трейдеры на лондонской Ломбард-стрит – прекрасный пример отраслевого самоуправления в секторе, который в настоящее время жестко регулируется. Как только коллективы смогли установить лучшие стандарты, мониторинг и обеспечение соблюдения правил были переданы третьей стороне, такой как правительство, при этом члены коллективов и третья сторона работали вместе над внесением изменений и разработкой новых стандартов⁴⁵.

Похожим образом добровольные обязательства перед администрацией Байдена – Харрис дают ИИ-компаниям свободу устанавливать свои собственные правила, благодаря чему могут появиться меры, которые будут наилучшим образом защищать общественность, как это было в финансовом секторе. Как мы уже говорили, добровольные обязательства просто формализуют стремление компаний, занимающихся ИИ, внедрять лучшие практики. Например, OpenAI не разрешает использовать свои модели для незаконной или любой другой деятельности, которая сопряжена с высоким риском физического или экономического ущерба, а также для других недопустимых целей (см. http://mng.bz/5w9q). Google также опубликовала для генеративного ИИ дополнительные условия с похожей политикой, предписывающей блокировать любой контент, подпадающий под критерии запрещенного использования, что включает (но не ограничивается) в себя любой контент, применяемый для выполнения опасных, незаконных, злонамеренных действий или для содействия им (см. http://mng.bz/6DW5). В то же время компания Inflection AI заявляет, что «безопасность лежит в основе нашей миссии», а «внутренняя команда по безопасности постоянно тестирует наши модели на предмет рисков и работает с внешними экспертами над всесторонней проверкой наших технологий методом „красных команд“» (см. http://mng.bz/o1Xj). Даже в Llama 2, свободно доступной для исследований и коммерческого применения, действует политика допустимого использования, запрещающая определенные виды действий, чтобы гарантировать ответственное использование моделей (см. http://mng.bz/nW48).

В Соединенных Штатах более чем вероятно, что в итоге именно рынок будет определять практики управления. Компании будут активно работать над тем, чтобы их LLM вели себя адекватно. Возможно, такая мотивация обусловлена сообщениями о злонамеренном использовании LLM, или тем, что широкая общественность считает их методы обработки данных ненадежными, или просто они пытаются избежать неприятных (и дорогостоящих) происшествий, как в истории с публичным выпуском Bard от Google. Конечно, коммерческим компаниям может быть проблематично разрабатывать свои собственные системы регуляции, особенно когда они больше заинтересованы в успешном развитии бизнеса, нежели в защите пользователей, но стоит отметить, что американская администрация действительно делает упор на привлечение широкого круга заинтересованных сторон (о чем расскажем далее в разделе 8.5). Во всяком случае, добровольные обязательства подкрепляют представление о том, что компании несут ответственность за свои обязательства ответственно разрабатывать ИИ с учетом их потенциального влияния на общество. Поощрение корпоративного самоуправления могло бы дополнить существующие или будущие усилия по регулированию, а также восполнить критический пробел в разработке более комплексного подхода к управлению ИИ-системами или любой новой технологией, особенно на ранних стадиях развития.

8.5. На пути к системе регулирования в области ИИ

В этой книге мы описали гонку в области искусственного интеллекта, проиллюстрировав потенциал технологии генеративного ИИ и попытавшись вникнуть в ее недостатки. Энтузиасты ожидают, что генеративный ИИ изменит привычные способы работы, ведения личных дел и бизнеса, а также создания материальных благ. С другой стороны, все большее число экспертов в этой технологии разделяют серьезные опасения по поводу экзистенциальных опасностей делегирования задач и принятия решений компьютерам при ограниченном в ближайшем будущем участии людей. Эта обеспокоенность усугубляется существующим дисбалансом власти и богатства, из-за которого критики ИИ опасаются, что выгода от этой технологии будет диспропорционально распределяться среди 1 % самых состоятельных людей. В главе 6 мы написали, что считаем технологию генеративного ИИ эволюционной, а не революционной, но при условии, что мы ответственно используем и регулируем ее.

На протяжении всей книги мы заостряли внимание на практических перспективах генеративного ИИ, от прироста производительности до агентных систем. Но в то же время мы подчеркивали, что у технологии генеративного ИИ есть риски и ограничения, ее могут случайно или преднамеренно использовать ненадлежащим образом. По мере того как растет осведомленность о рисках, связанных с ИИ, появляются стандарты и рекомендации по их снижению. Мы прошли долгий путь, но впереди нас ждет еще больший. Мы надеемся и верим, что найдем баланс между сторонниками идеи о приостановке создания ИИ-систем и теми, кто утверждает, что ChatGPT – это чудо. Независимо от того, как будут разворачиваться глобальные изменения в связи с ИИ, мир не станет более приятным местом для жизни, работы или участия в демократических процессах, пока не будут приняты меры по регулированию развития ИИ, его воздействия и мер безопасности при его применении.

Как мы обсуждали в разделе 8.4, усилия по регулированию предпринимаются в основном добровольно; они охватывают многочисленные протоколы и принципы, которые поддерживают добросовестное проектирование и контролируемое поведение. Это особенно актуально в Северной Америке, где общие цели крупных технологических компаний включают в себя приведение ИИ в соответствие к потребностям человека и обеспечение безопасности на протяжении всего процесса создания и внедрения алгоритмов. Также перед разработчиками систем ИИ стоят такие цели, как алгоритмическая прозрачность, справедливость в использовании ИИ, конфиденциальность и защита данных, надзор со стороны человека и соблюдение нормативных стандартов. Учитывая амбициозность всех этих целей, мы должны подчеркнуть, что разработчики ИИ часто их не достигают. Многие компании используют для разработки ИИ-систем свою интеллектуальную собственность, которую не раскрывают, чтобы сохранить конкурентное преимущество. Для участников cообществ по этике ИИ это свидетельствует о том, что компании больше заинтересованы в получении финансовой выгоды, чем в принесении пользы обществу.

В различных странах с начала 2020‐х годов акцент на добровольном самоконтроле внутри ИИ-компаний начал смещаться в сторону всеобъемлющей регуляции. Румман Чоудхури в своей статье для Wired написала: «Чтобы мы могли действительно принести пользу обществу, нам нужны механизмы контроля»46. Однако важно отметить, что большинство дискуссий вокруг ИИ и возможных подходов к устранению непреднамеренных негативных последствий были в основном сосредоточены на Западе: в Европейском союзе, Соединенных Штатах и странах с развитой экономикой. Такой перекос понятен, учитывая, что крупные ИИ-компании, включая OpenAI, Google, Meta [117] и Anthrophic, сосредоточены в Кремниевой долине. Но стоит подчеркнуть:

Итак, куда нам идти дальше? Как мы действительно можем гарантировать, что генеративный ИИ или системы ИИ в целом будут использоваться для улучшения общества? В ранее упомянутой статье Чоудхури говорит:

Риски, связанные с генеративным ИИ, подчеркивают то, к чему призывали многие эксперты: необходимость нового, постоянного, независимого, хорошо финансируемого и обеспеченного ресурсами учреждения или группы учреждений для комплексного обеспечения общественного блага. Далее Чоудхури заявляет:

Мы должны отметить, что в мире уже есть пример глобальной, независимой и хорошо финансируемой организации, которая принимает решения на благо общества. Международное агентство по атомной энергии (МАГАТЭ) (см. https://www.iaea.org/) было создано после Второй мировой войны для регуляции в области ядерных технологий. МАГАТЭ, сформированное под руководством Организации Объединенных Наций, является независимым от правительств и корпораций органом, предоставляющим консультативную помощь и ресурсы. Хотя агентство имеет ограниченные полномочия, оно показывает, что мы уже проходили этот путь и можем пройти его снова.

По сути, недавние достижения в области генеративного ИИ высветили то, что многие из нас знали уже давно. Мы никогда не сможем «решить» проблему злоупотребления технологиями и их ненадлежащего использования. Поэтому вместо половинчатых технических мер нам нужны инвестиции в социотехнические подходы к устранению корня проблемы. Как сказала Чоудхури, МАГАТЭ является отправной точкой для глобального регулирующего органа, а не конечной целью. В отличие от МАГАТЭ, у этого органа должны быть полномочия принимать независимые и подлежащие исполнению решения. Он должен опираться на консультативные советы ИИ-компаний, но при этом сотрудничать с гражданским обществом, правительством и научными кругами. Этот орган не будет и не обязан заменять ни одну из этих структур, но он должен сформировать коалицию для обеспечения общественного блага в условиях существования ИИ. Хотя мы признаем, что для создания глобального органа по управлению ИИ необходимы значительные усилия, мы с оптимизмом смотрим в будущее и надеемся, что ИИ-компании и правительства будут работать над созданием независимого глобального органа для принятия решений, касающихся регулирования ИИ-систем и их воздействия.

8.6. Итоги

LLM обучаются на непостижимых объемах данных из интернета. В процессе они запоминают содержащиеся в обучающих данных предвзятость, вредные стереотипы и токсичность, а также конфиденциальную информацию и материалы, защищенные авторским правом.

LLM дают предвзятые, токсичные и несогласованные ответы из-за специфики обучающих данных. Они также могут механически повторять конфиденциальную или защищенную авторскими правами информацию. LLM могут галлюцинировать, то есть они уверенно выдумывают неверную информацию, поскольку работают на статистических принципах.

Злоумышленники могут воспользоваться уязвимостями LLM и провести атаки по извлечению обучающих данных, промпт-инъекции, джейлбрейки или отравление данных.

LLM могут помогать злоумышленникам проводить масштабные персонализированные и недорогостоящие атаки, а также снижают порог входа для новичков в этом деле.

[115] По состоянию на середину 2024 года документ все еще в стадии активной разработки. – Прим. науч. ред.

[116] Организация признана экстремистской и запрещена на территории РФ.

[117] Организация признана экстремистской и запрещена на территории РФ.