Генеративный искусственный интеллект. Как ИИ меняет нашу жизнь и работу: читать книгу онлайн полностью и бесплатно

Степень экспертных знаний LLM – это знания людей. Что нам дает сама технология, так это возможность обрабатывать информацию из гораздо большего количества документов, чем любой человек когда-либо мог бы прочитать и тем более упорядочить в уме, – а затем использовать эту информацию для генерации текста (обычно ответов на запросы) в масштабах, недоступных ни одному человеку. Чего технология не может гарантировать – это понимание смысла: модель его не понимает. Это приемлемо для создания песни о кролике, который любит морковку, но не подойдет для применения в областях особой важности, от медицинской диагностики до юридической аргументации. Как мы уже говорили в главе 6, применение модели в этих областях требует участия человека, который мог бы выявлять ее ошибки. LLM – это инструменты, которые помогают нам выполнять часть нашей работы быстрее и проще, а иногда даже лучше, но нам все равно необходимо использовать собственный опыт, чтобы корректировать и улучшать эти модели.

По мере того как мы будем наблюдать изменение ролей человека и искусственного интеллекта в образовании и полях профессиональной деятельности, неизбежно будут возникать непростые вопросы. И перспективы их решения будут зависеть от совместной инициативы, как со стороны общественности, так и технологий. Например, в вопросах конфиденциальности наблюдается огромный технический прогресс. Появляются новые стартапы, которые используют генеративные модели для создания анонимизированных синтетических обучающих датасетов с такими же статистическими свойствами, что и у реальных данных. Компания Illumina, занимающаяся генетическим секвенированием, объявила о партнерстве со стартапом по созданию синтетических данных Gretel.ai, чтобы разработать синтетические геномные данные, которые были бы чрезвычайно полезны в здравоохранении, но при этом не разглашали генетическую информацию какого-либо человека. И эти усилия набирают обороты благодаря социальному аспекту проблемы конфиденциальности: бурной деятельности вокруг этого вопроса, повышению осведомленности общественности, противостоянию практикам массового сбора данных и наконец ужесточению нормативно-правовой базы. И эта активность должна продолжаться в области ответственного ИИ и смежных темах.

Для создания позитивных изменений, способствующих ответственному использованию технологии, необходимо, чтобы люди были хотя бы в общих чертах осведомлены о том, как работают эти технологии и как используются в настоящее время. Цифровая грамотность – это коллективная работа. Компании, предоставляющие решения на основе LLM, должны не только продавать пользователям волшебство, но и работать над тем, чтобы познакомить их с возможностями и ограничениями моделей. Школы должны стремиться подготовить своих учеников к жизни в современном мире, а не игнорировать новейшие технологии, включая LLM, и наказывать за их использование. Эта книга – наш скромный вклад в то, чтобы общественность была лучше информирована и внимательно относилась к генеративному ИИ.

8.4. Правовое регулирование ИИ с точки зрения этики

Хотя лучшие практики ответственного использования ИИ, описанные в разделе 8.3, являются основополагающими, их недостаточно. Необходимы сбалансированные рекомендации правительства, опирающиеся на информацию от отрасли, научных кругов и гражданского общества, а также методы обеспечения управляемости. Государственные структуры по всему миру все глубже осознают необходимость принятия руководящих принципов и создания инфраструктуры, регулирующей разработку, развертывание и использование систем ИИ. Конечная цель нормативных актов – найти идеальный баланс между продвижением инноваций и соблюдением принципов этичности и ответственности при разработке систем ИИ. Также эти акты могут быть направлены на решение общих проблем, связанных с конфиденциальностью данных, прозрачностью алгоритмов, устранением предвзятости и подотчетностью. В этом разделе мы обсудим систему нормативно-правового регулирования использования ИИ в Северной Америке, Европейском союзе и Китае, а также обсудим практики корпоративного саморегулирования. Мы уделим внимание этим регионам, поскольку крупные технологические компании сконцентрированы в Соединенных Штатах и Китае и играют передовую роль в глобальном развитии ИИ, а ведущим мировым технологическим регулятором является Европейский союз.

8.4.1. Обзор ситуации в Северной Америке

В Соединенных Штатах и Канаде преобладающий подход на федеральном уровне заключается во внедрении передовых практик на уровне государственных ведомств, иногда в сотрудничестве с ведущими технологическими компаниями и организациями гражданского общества. Примером последнего является заявление администрации Байдена в июле 2023 года о том, что они заручились обязательствами семи компаний, занимающихся разработкой ИИ, – OpenAI, Microsoft, Google, Amazon, Meta [111], Anthropic и Inflection – соблюдать ряд добровольных принципов. К этим принципам, указанным на рис. 8.5, относятся: «обеспечение безопасности продуктов перед тем, как они будут представлены общественности» путем проведения внутреннего и внешнего тестирования безопасности и обмена информацией об управлении рисками; «создание систем, в которых защита ставится на первое место» с надлежащими мерами кибербезопасности, защиты от внутренних угроз и отчетности об уязвимостях; и «укрепление доверия общественности» – обширная категория, которая включает усилия по разработке систем маркировки контента и публичную отчетность о возможностях и ограничениях общедоступных систем ИИ²⁸.

Поскольку обязательства являются добровольными, некоторые критики утверждали, что это объявление скорее подняло шумиху вокруг компаний, чем привело к значимым изменениям. Кевин Руз, технический обозреватель New York Times, проанализировал каждый принцип в пресс-релизе и оценил, насколько серьезными были обязательства. Основная критика Руза была направлена на то, что перечисленные принципы являются расплывчатыми и не уточняют, какие виды тестирования и отчетности должны проводиться, что оставляет много места для свободной интерпретации. Он заключил:

Действительно, некоторые из обязательств, судя по всему, продиктованы непосредственно событиями прошлого. Второй принцип – создание систем, где защита ставится на первое место, – конкретно касается защиты «проприетарных и неопубликованных весов модели». Как описано в главе 1, весовые коэффициенты (веса) в LLM – конечный продукт ее обучения. Доступ к весам позволяет успешно воспроизвести всю модель. Всего через несколько дней после выпуска LLaMA произошла утечка, и веса модели были опубликованы на 4chan, после чего пользователи сайта смогли быстро создать высококачественную LLM на базе LLaMA. Заметим, что соглашение не регулирует модели с открытым исходным кодом.

Рис. 8.5. Три основных принципа добровольных обязательств, которые взяли на себя ведущие ИИ-компании перед Белым домом

Эти принципы касаются именно генеративного ИИ, но другие государственные органы уже давно обеспокоены потенциальными негативными последствиями работы более ранних систем ИИ, особенно тех проблем, которые связаны с предвзятостью и прозрачностью. Например, Комиссия по равным возможностям трудоустройства (Equal Employment Opportunity Commission, EEOC) выпустила руководство о том, как Закон о гражданских правах 1964 года следует применять к автоматизированным системам на основе ИИ, которые используются в работе кадровых служб, таким как просмотр резюме, отбор кандидатов и мониторинг эффективности работы. По сути, ведомство заявило, что бремя соблюдения требований ляжет на работодателей, которые используют эти инструменты, и порекомендовало проверять, что модели не приводят к «существенно более низкому коэффициенту отбора для лиц с характеристиками, защищенными разделом VII», такими как лица определенной расы или пола³⁰. Федеральная торговая комиссия (Federal Trade Commission, FTC) также показала стремление к надзору за автоматизированным процессом принятия решений, написав в своем блоге от 2021 года, что Закон FTC, который запрещает «недобросовестную или вводящую в заблуждение практику», будет однозначно применяться к продаже или использованию алгоритмов с расовой предвзятостью. Не только модели для кадровых служб, но и модели для принятия решений по жилью, кредитам и страхованию должны стать предметом проверки в соответствии с Законом о добросовестной кредитной отчетности (см. http://mng.bz/JgKQ). В 2019 году правительство Канады выпустило Директиву об автоматизированном принятии решений, в которой также была приведена оценка негативных последствий работы автоматизированных систем (см. http://mng.bz/mVn0). Хотя модели генеративного ИИ не были предметом этих документов, они бы тоже подверглись тщательной проверке, если бы использовались в любой из вышеперечисленных областей.

Вслед за закреплением добровольных обязательств в октябре 2023 года Белый дом выпустил предписывающее постановление по ИИ, требующее от ИИ-компаний делиться оценками безопасности и прочей информацией с правительством и принять меры предосторожности против использования LLM для создания «опасных биологических материалов» и проведения «мошенничества и дезинформации» (см. http://mng.bz/6nM5). Администрация Байдена также опубликовала абстрактные правила разработки искусственного интеллекта. Возможно, знаковым документом по этой теме является Проект билля о правах в области ИИ, который был составлен Управлением научно-технической политики Белого дома (White House Office of Science and Technology Policy, OSTP) (см. http://mng.bz/wv8g). Как показано на рис. 8.6, в основе этого документа лежат пять принципов: «безопасные и эффективные системы» – здесь излагаются стандарты оценки и меры снижения рисков; «защита от дискриминации в алгоритмах» – выявление потенциальной предвзятости в модели или системе; «конфиденциальность данных» – право пользователей знать, как собираются данные о них, и иметь свободу выбора в отношении этого; «уведомления и разъяснения» об использовании автоматизированных систем; «альтернативы, связанные с человеком, и резервные меры» для случаев, когда приходится отказываться от автоматизированных систем или нужно исправить ошибки, допущенные системой. Поскольку эти принципы по работе с ИИ более современны, они относительно непротиворечивы, но все же достаточно расплывчаты, чтобы оставить некоторую неопределенность в отношении того, как каждый из них может применяться на практике. Билль о правах в области ИИ – скорее задающий ориентиры документ, чем директива, а OSTP – орган, формирующий общую политику. Детали реализации такого принципа, как «разъяснения» («автоматизированные системы должны снабжаться пояснениями, которые являются технически обоснованными, значимыми и полезными для вас и любых операторов или тех, кто должен разобраться в работе системы и учитывать возможные риски в зависимости от контекста»), предстоит еще доработать. Наиболее удачной среди регулирующих инициатив государственных ведомств США оказалась Система управления рисками (AI Risk Management Framework, AI RMF), разработанная Национальным институтом стандартов и технологий, которая была опубликована 26 января 2023 года, но даже эта система является довольно общей и пространной, поэтому может служить только в качестве отправной точки. В документе AI RMF подробно описывается, что ИИ-системы должны быть «достоверными и надежными», «безопасными», «защищенными и устойчивыми к атакам», «контролируемыми и прозрачными», «объяснимыми и интерпретируемыми», «справедливыми, без вредных предубеждений», но как всего это добиться – читатели должны догадаться сами³¹.

Рис. 8.6. Пять принципов, перечисленные в Проекте билля о правах в области ИИ (см. http://mng. bz/wv8g)

В последние годы политики проявляли двойственное отношение к регулированию деятельности ИИ-компаний. С одной стороны, такие представители власти, как конгрессмен-республиканец из Висконсина Майк Галлахер, надеялись избежать подавления инноваций технологических компаний. «Сложность заключается в том, что мы не хотим чрезмерным регулированием свести на нет наше преимущество в гонке ИИ», – сказал Галлахер, выступая за «точечный, целенаправленный» подход, а не за всеобъемлющий. «Конгресс редко добивается успеха во всеобъемлющих мерах»³². С другой стороны, как свидетельствует слушание cудебного подкомитета Сената, о котором мы говорили в главе 5, изрядное количество его членов обеспокоены тем, что текущее состояние саморегуляции будет недостаточным, а некоторые выразили готовность принять всеобъемлющее законодательство в области ИИ. Представитель Калифорнии Ро Ханна сказала:

Возможно, что некоторые меры управления, предложенные в соответствии с принципами Билля о правах в области ИИ и более поздними положениями, будут поддержаны обеими партиями, хотя перспектива принятия федерального закона в Соединенных Штатах далеко не очевидна. Разработчики LLM признают, что их самая большая угроза со стороны регулирующих органов находится за Атлантическим океаном – в Европейском парламенте.

8.4.2. Обзор ситуации в Европейском союзе

Европейский парламент 14 июня 2023 года подавляющим большинством голосов одобрил свою версию закона ЕС об искусственном интеллекте, подготовив условия для принятия окончательной версии закона в ускоренные сроки к концу года³³. Закон ЕС об ИИ станет одним из первых основных документов, регулирующих использование ИИ, и, возможно, будет служить моделью для политиков во всем мире.

Закон об ИИ реализует «учитывающий риски» подход к регулированию в области ИИ, уделяя особое внимание применению ИИ в тех областях, где он может нанести наибольший вред обществу. Другими словами, различные уровни риска будут определять, насколько сильно должна регулироваться эта технология, то есть ИИ-системы с высокой степенью риска будут требовать более строгого регулирования. Некоторые ИИ-системы признаны неприемлемо рискованными и будут полностью запрещены из-за нарушения основных прав человека; к ним относятся когнитивно-поведенческое манипулирование людьми из уязвимых групп, присвоение социальных рейтингов [112], а также системы биометрической идентификации, в том числе работающие в удаленном режиме (за некоторыми исключениями)34. Под эту категорию попадает, например, игрушка с голосовой активацией, которая провоцирует агрессивное поведение у детей, – и она будет запрещена.

На один уровень ниже ИИ-систем с неприемлемо высоким риском находятся системы с высоким риском, негативно влияющие на безопасность или основные права (которые защищены Хартией ЕС об основных правах человека). К ним относятся потребительские товары, на которые распространяются ограничения [113], и ИИ-системы, используемые для принятия социально-экономических решений, включая правоприменение, найм сотрудников, доступ к образованию и финансовым услугам. Все ИИ-системы с высоким риском будут оцениваться не только перед выходом на рынок, но и на протяжении всего их жизненного цикла. Эти системы должны соответствовать стандартам управления данных, точности и отсутствия дискриминации. Кроме того, для них потребуется дополнительно внедрить систему управления рисками, ведения записей, надзора, осуществляемого человеком, а также разработать техническую документацию. Системы ИИ из этой группы также необходимо будет зарегистрировать в базе данных ЕС, что обеспечит не только прозрачность в отношении количества систем с высоким риском, но и будет отражать степень их воздействия на общество.

Системы с небольшим риском должны будут соответствовать требованиям прозрачности, чтобы пользователи могли принимать обоснованные решения. Эти требования включают в себя информирование пользователя о том, взаимодействует ли он с ИИ, например с дипфейком, системами распознавания эмоций или чат-ботами. Закон об ИИ содержит дополнительные требования к генеративному ИИ, согласно которым необходимо соблюдать принципы прозрачности при раскрытии ИИ-сгенерированного контента, предотвратить генерацию незаконного контента, публиковать краткие сведения об использовании материалов, защищенных авторским правом, при обучении модели.

Рис. 8.7. Четыре категории рисков, обозначенные в Законе ЕС об ИИ

Наконец, ИИ с минимальным риском включает такие применения, как видеоигры и спам-фильтры. Предполагается, что он будет регулироваться в основном добровольными кодексами поведения. На рис. 8.7 показаны уровни риска, предусмотренные Законом ЕС об ИИ. Однако на момент написания этой книги европейские политики еще не решили, попадут ли базовые LLM под эти рамки, вопрос пока обсуждается [114].

Конечно, Закон об ИИ – не единственный важный документ в ЕС, регулирующий риски, связанные с ИИ. В главе 3 мы кратко обсудили Общий регламент ЕС по защите персональных данных (далее – Общий регламент ЕС), который требует от компаний защищать персональные данные и конфиденциальность граждан ЕС. Закон об ИИ принимается для того, чтобы дополнить Общий регламент ЕС, а не заменить его. Кроме вопросов конфиденциальности данных, Общий регламент ЕС также содержит две статьи, касающиеся систем машинного обучения. Во-первых, «Общий регламент ЕС гласит, что алгоритмическим системам не следует позволять принимать важные решения, нарушающие законные права, без какого-либо контроля со стороны человека»35. Примером является ситуация, когда в 2021 году американская транспортная компания Uber была обязана восстановить в должности шестерых водителей в Нидерландах, которые были «несправедливо уволены по решению алгоритмических инструментов»36. Во-вторых, «Общий регламент ЕС гарантирует право человека на получение важной информации о логике алгоритмической системы, которое иногда спорно рассматривается как право на объяснение»35. Проще говоря, потребители в ЕС имеют право спросить компании, которые используют автоматизированное принятие решений на основе их персональных данных, например компании, предоставляющие услуги по страхованию жилья, как и почему были приняты те или иные решения.

В рамках направления работы по регулированию цифровых технологий ЕС уже принял такие нормативные акты, как Закон о цифровых услугах (Digital Services Act, DSA) и Закон о цифровом рынке (Digital Market Act, DMA). Закон о цифровых услугах, принятый в ноябре 2022 года, распространяется на онлайн-платформы и поисковые системы, требует от компаний проводить оценку рисков, разрабатывать меры по их снижению и проходить сторонние проверки на соответствие требованиям³⁷. Наиболее строгие требования Закона о цифровых услугах применяются только к очень крупным онлайн-платформам и в основном регулируют платформы, имеющие наибольший охват и влияние среди граждан ЕС. Одна из целей этого закона – сделать большие платформы более прозрачными, особенно с помощью контроля над работой алгоритмов и модерации контента. Эти требования к прозрачности призваны выявлять любые систематические риски, связанные с проектированием и предоставлением услуг. Например, если ИИ-система рекомендаций контента будет способствовать распространению дезинформации, то в соответствии с этим законом компании будут грозить штрафы. Подход ЕС в отношении очень крупных онлайн-платформ стоит особого упоминания, поскольку при такой регуляции может подорвать внедрение инноваций. Другими словами, как компании должны внедрять инновации, если они сталкиваются со строгими правилами? А пока таким платформам уделяется особое внимание, малые предприятия освобождаются от бремени соблюдения некоторых положений Закона о цифровых услугах и поэтому могут продолжать внедрять инновации. Однако, если они станут заметной силой в обществе, им тоже придется задуматься о том, как они используют свои данные и как их платформа влияет на пользователей.

Закон о цифровом рынке направлен на усиление конкуренции на этих рынках. Он нацелен на так называемых «ключевых игроков» – корпоративные группы, оказывающие значительное влияние на внутренний рынок, то есть на крупные технологические компании. Здесь на таких игроков по сравнению с другими компаниями будет распространяться дополнительный уровень нормативно-правового регулирования. Например, им будет запрещено передавать данные между своими сервисами без согласия пользователей, осуществлять самостоятельно выбор их услуг и продуктов, а также они будут обязаны делиться с рекламодателями дополнительной информацией о том, как будет работать их реклама³⁵. Закон о цифровом рынке может повлиять на то, как крупные технологические игроки обрабатывают данные и как ИИ-системы управляют ранжированием результатов в поисковых системах и сортировкой товаров на платформах электронной коммерции. Хотя Закон о цифровых услугах и Закон о цифровом рынке по большей части не касаются ИИ, эти документы помогают регулировать модели ИИ и требуют большей прозрачности от технологических компаний.

Выше мы подчеркивали, что Европейский союз прилагает усилия по разработке согласованного подхода к управлению и стандартизации в области ИИ. В частности, Закон ЕС об ИИ потенциально может де-факто стать общемировым стандартом по регулированию в области ИИ. У подхода ЕС к регулированию ИИ есть явные преимущества, в частности, методология на основе управления рисками, но при этом остается и несколько вопросов. Примечательно, что регулирование будет благоприятствовать развитию экосистемы независимого аудита, способной привести к более прозрачному, справедливому и менее рискованному применению ИИ. Однако остаются открытыми вопросы относительно того, в какой степени законодательство сможет адаптироваться к новым возможностям ИИ-систем и рискам, которые они в себе несут, а также управлять влиянием ИИ на общество в долгосрочной перспективе.

В конечном счете цель ЕС состоит в том, чтобы создать нормативно-правовую базу для ИИ-компаний и организаций, которые используют ИИ, и обеспечить баланс между инновациями и защитой прав граждан. Однако их успех будет зависеть от хорошо продуманной структуры правоприменения и способности создать экосистему аудита в области ИИ.

[111] Организация признана экстремистской и запрещена на территории РФ.

[112] Например, китайская система социального кредита, где поведение граждан оценивается, и на основе этого рейтинга определяются их права и возможности в обществе. – Прим. науч. ред.

[113] Медицинские устройства, транспортные средства, товары для детей и пр. – Прим. науч. ред.

[114] Попадают и классифицируются как категория высокого риска. – Прим. науч. ред.