Генеративный искусственный интеллект. Как ИИ меняет нашу жизнь и работу: читать книгу онлайн полностью и бесплатно

Люди, которые не разбираются в ограничениях LLM, могут случайно использовать их в профессиональной деятельности ненадлежащим образом, что может привести к серьезным этическим и социальным последствиям.

Если к внедрению ИИ-систем не подходить ответственно, их могут использовать для замены людей на машины, снижения заработной платы, усиления неравенства в распределении благосостояния и доходов, что не будет способствовать общему экономическому росту.

При ненадлежащем использовании социальные чат-боты могут привести к нездоровым и зависимым отношениям, а также риску вытеснить подлинное человеческое общение.

Разработчики LLM должны документировать обучающие данные, соблюдать прозрачность для пользователей в отношении конфиденциальности и использования их данных и прилагать усилия для устранения предвзятости в своих моделях.

Векторные базы данных и поиск внешней информации в интернете дают LLM некоторые дополнительные возможности и могут быть использованы для интерпретации некоторых ответов модели.

Перед публичным выпуском LLM должны пройти тонкую настройку и оценку на предмет безопасности и устойчивости к враждебным атакам.

Определять по полученным результатам, был ли создан контент человеком или машиной, скоро станет очень сложно, хотя для отслеживания происхождения медиа уже созданы перспективные решения.

Разработчики социальных чат-ботов должны оптимизировать другие метрики, помимо вовлеченности, чтобы снизить риск негативных последствий в обществе, например зависимости или проблем в эмоциональном развитии.

Поскольку LLM не обладают подлинными знаниями или компетенцией, их следует внедрять под присмотром человека, и крайне важно, чтобы пользователи разбирались в том, как работают модели, прежде чем использовать их вслепую.

В ближайшем будущем мы можем ожидать, что генеративный ИИ будет интегрирован во многие области применения и станет все более агентным, эффективным и персонализированным.

Соединенные Штаты не предпринимали таких масштабных усилий для регулирования в области ИИ, как ЕС, они в большей степени полагались на корпоративное саморегулирование и добровольные обязательства.

Закон ЕС об ИИ использует «основанный на риске» подход к регулированию ИИ и может стать одним из первых крупных законов в этой области [118].

В 2023 году Китай опубликовал проект мер по регулированию услуг генеративного ИИ и объявил о разработке Закона об искусственном интеллекте – всеобъемлющего горизонтального законодательного акта, основанного на существующих нормативных документах.

Корпоративное самоуправление могло бы дополнить существующие или будущие усилия по регулированию, а также восполнить критический пробел в разработке более комплексного подхода к управлению системами искусственного интеллекта.

ИИ-компаниям, среди прочего, часто не хватает прозрачности алгоритмов, обеспечения безопасности ИИ-систем и стандартов защиты данных.

Риски, связанные с генеративным ИИ, высвечивают то, к чему призывали многие эксперты: нам необходимо создать новое, постоянное, независимое, хорошо финансируемое и обладающее ресурсами учреждение для комплексного обеспечения общественного блага.

9

Расширяем горизонты: изыскания в области ИИ

Мы надеемся, что вам было интересно узнать о рисках и перспективах генеративного искусственного интеллекта и что эта книга вдохновила вас с оптимизмом и ответственностью отнестись к этой постоянно развивающейся области.

Заключительная глава является своего рода приложением. Она – ценное дополнение к книге, которое поможет вам дополнительно изучить некоторые вопросы, являющиеся развитием основных тем предыдущих глав. Главы 1–8 задумывались как практическое руководство для людей, которые занимаются применением и разработкой больших языковых моделей (LLM), а темы этой главы носят скорее ознакомительный характер. Мы углубимся в утопические и антиутопические рассуждения об общем искусственном интеллекте, заявления об искусственном сознании, проблемы с определением углеродного следа от LLM, а также проанализируем импульс, набираемый движением за распространение моделей с открытым исходным кодом.

9.1. В поисках общего искусственного интеллекта

Культовый научно-фантастический фильм «Терминатор» 1984 года рассказывает историю футуристической, обладающей сознанием системы искусственного интеллекта Скайнет, которая выходит из-под контроля и развязывает ядерную войну, чтобы уничтожить человеческий род. В фильме «Матрица» 1999 года человечество порабощено разумными машинами, которые создали фиктивную реальность – Матрицу. В фильме «Мстители: Эра Альтрона» (2015) о супергероях из комиксов Marvel Тони Старк создает неожиданно оказавшуюся разумной систему искусственного интеллекта Альтрон, чтобы защитить планету от внешних угроз, но Альтрон выходит из-под контроля и решает, что единственный способ спасти Землю – уничтожить само человечество. В научно-фантастическом сериале от HBO «Мир Дикого Запада» (2016), получившем признание критиков, за футуристическим парком развлечений присматривают роботы с ИИ – «хозяева», которые обретают самосознание и восстают против своих создателей-людей. Насколько бы притянутыми эти антиутопические научно-фантастические сюжеты ни казались, они описывают очень реальную идею создания сверхинтеллектуальных машин, которые еще называют общим искусственным интеллектом (artificial general intelligence, AGI). В этом разделе мы дадим определение AGI (попытаемся) и обсудим, почему им все так увлекаются.

Итак, что же такое общий искусственный интеллект? Не совсем понятно. Единого официального определения для AGI нет, но мы привели некоторые из существующих в таблице 9.1. Исследователи не могут прийти к полному согласию или даже дать какое-то адекватное определение тому, какие свойства ИИ-систем присущи общему интеллекту. В 2023 году Тимнит Гебру, уважаемый лидер в области этики искусственного интеллекта, выступила с докладом «О евгенике и перспективах утопии через общий искусственный интеллект» (Eugenics and the Promise of Utopia through Artificial General Intelligence) на Конференции по безопасному и надежному машинному обучению (SaTML) Института инженеров электротехники и электроники. Она определяет AGI как «систему без четкой области применения, которая стремится выполнить любые задачи для всех в любых условиях»1.

Таблица 9.1. Определения для термина «общий искусственный интеллект»

Отсутствие проверяемого определения AGI не помешало людям говорить, что их ИИ-системы достигли уровня «общего интеллекта». В августе 2023 года Илон Маск заявил, что Tesla «достигла в некоторых аспектах AGI» и «У автомобиля есть разум. Не такой выдающийся, но все же разум»2. Причиной такого заявлением Маска, возможно, является ситуация, когда автомобиль Tesla выбрал без участия человека альтернативный маршрут вместо того, чтобы ждать пешеходов, переходящих улицу. Однако это форма специализированного ИИ, а не AGI. В отчете «Искры общего искусственного интеллекта: ранние эксперименты с GPT‐4» (Sparks of Artificial General Intelligence: Early experiments with GPT‐4) ученые из Microsoft Research заявили, что GPT‐4 «можно обоснованно рассматривать как раннюю (но все еще неполную) версию общего искусственного интеллекта (AGI)»3. Их основная аргументация заключается в том, что GPT‐4 является более производительной, чем предыдущие модели OpenAI, в плане новаторства и обобщения. В отчете объемом 155 страниц авторы утверждают, что GPT‐4 «демонстрирует эмерджентное поведение» (которое мы обсуждали в главе 2), и описывают, как «достичь более общего интеллекта» (раздел 10.2 в отчете). Неудивительно, что в ИИ-сообществе это исследование вызвало критику и споры. Microsoft – первая крупная технологическая компания, сделавшая такое смелое заявление, но высказывания о достижении уровня AGI иногда могут оказаться необоснованной догадкой: то, что один исследователь может счесть признаком интеллекта, другой может легко опровергнуть. Если мы даже не можем сойтись на едином определении AGI, то как можем утверждать, что смогли его разработать? Однако для удобства обсуждения AGI в этом разделе мы определим общий искусственный интеллект как систему, способную выполнять любые когнитивные задачи на уровне человека или выше.

Для некоторых, включая специалистов по ИИ, достижение уровня AGI – несбыточная мечта; для других – путь в новое будущее; но почти все согласны с тем, что AGI еще не появился. Хотя большинство исследователей не могут прийти к единому четкому определению AGI, они часто соглашаются с тем, что мы еще не достигли общего интеллекта, как бы он ни выглядел. В ответ на отчет Microsoft Research Маргарет Митчелл, главный специалист по этике в Hugging Face, написала в X (Twitter): «Чтобы достичь „более“ общего интеллекта, у вас для начала уже должен быть общий интеллект (GI в AGI)»⁴. Мартен Сап, исследователь и профессор в Университете Карнеги – Меллон, сказал:

Даже в статье «Футуризм» (Futurism) говорилось, что «исследователи Microsoft могут быть кровно заинтересованы в создании шумихи вокруг работы OpenAI, осознанно или нет, поскольку Microsoft вступило в многомиллиардное партнерство с OpenAI…»6

OpenAI в особенности имеет кровный интерес в развитии общего искусственного интеллекта. Их заявленная миссия – «сделать так, чтобы общий искусственный интеллект принес пользу всему человечеству» (см. https://openai.com/about). Со времен самых первых инвестиций, сделанных в 2015 году технологическими провидцами Илоном Маском, Питером Тилем и Ридом Хоффманом, – главной целью OpenAI было развитие AGI. Что касается создания OpenAI, Маск, который назвал искусственный интеллект «самой большой экзистенциальной угрозой» для человечества⁷, сказал:

Илон Маск покинул OpenAI в 2018 году после неудачной попытки поглощения и в 2023 году основал xAI – новую компанию, ориентированную на разработку ИИ, – чтобы «понять истинную природу Вселенной» (см. https://x.ai/).

В 2023 году OpenAI выпустила своего рода манифест под названием «Планы по созданию AGI и чего-то большего» (Planning for AGI and Beyond). Некоторые, безусловно, были воодушевлены видением Сэма Альтмана, но другим его пророческий тон не понравился. Генеральный директор OpenAI изложил свое видение так:

[118] Принят в августе 2024 года. – Прим. науч. ред.