Генеративный искусственный интеллект. Как ИИ меняет нашу жизнь и работу: читать книгу онлайн полностью и бесплатно

Тем не менее есть основания надеяться, что эти вопросы не будут ограничивать творческие возможности, а только поспособствуют их развитию.

Писатель и интернет-активист Кори Доктороу уже давно критикует авторское право за то, что хотя со временем действие этих прав становилось более длительным и обширным, прибыль все-таки уходила от создателей к корпорациям, выкупающим авторские права⁶³. Доктороу скептически относится к дальнейшему расширению авторских прав с целью помешать генеративным моделям получать доступ к этим работам в процессе обучения. Он пишет:

Люди могут обоснованно расходиться во мнениях по поводу того, следует ли обучать крупномасштабные модели работе с данными, защищенными авторским правом, и каким образом это нужно делать. Несомненно, у нас появится больше ясности с юридической точки зрения по мере дальнейшего рассмотрения подобных дел и возникновения прецедентов. Однако во времена, когда появилась фотография, художники тоже были обеспокоены тем, что они лишатся возможности рисовать и продавать свои картины, поскольку не смогут больше конкурировать с камерами в способности отображать реальность. Но художники продолжали рисовать, передавая в своих картинах сцены со своей собственной интерпретацией и экспрессией⁶⁴. Возможно, генеративные модели станут еще одним средством коммуникации, которое никогда полностью не удовлетворит потребность человека в красоте и не заменит его стремление к творчеству.

4.4. Итоги

Синтетические медиа, а точнее, ИИ-сгенерированные медиа, – это обобщающий термин для контента, который был создан или изменен с помощью искусственного интеллекта; к ним относятся текст, изображения, видео, голос и данные.

Термин «дипфейк» (сочетание «deep learning» и «fake») иногда используется как синоним визуальных синтетических медиа, но чаще он имеет негативную коннотацию.

Автоэнкодеры используют нейронные сети для сжатия и распаковки изображений; часто они применяются в технологии замены лиц.

GAN состоят из двух нейронных сетей – генератора и дискриминатора. Генератор предназначен для создания новых данных, таких как изображения, а дискриминатор проверяет подлинность изображения, сравнивая его с обучающим набором данных и выявляя различия между подделкой и оригиналом.

Синтетические медиа способствуют демократизации создания контента и дают возможность творить каждому, порождая новую волну искусства.

Генеративный ИИ, помимо прочего, печально известен тем, что используется для создания дезинформационного контента, порнографических роликов со знаменитостями, для киберсексуальных домогательств, а также мошенничества и шпионажа, что является незаконным.

В борьбе с дипфейками важное значение имеет целостный подход к выявлению искусственного контента, включающий в себя технические решения, медиаграмотность и просвещение, а также соответствующее законодательство, регулирующее использование технологии.

Инструменты генеративного ИИ трансформируют творческий процесс, освобождая от выполнения монотонной работы, повышая производительность и эффективность, а также позволяя людям выражать свои творческие замыслы новыми и беспрецедентными способами.

Компаниям, разрабатывающим LLM, были выдвинуты обвинения в нарушении чужой интеллектуальной собственности, в частности авторских прав, в ходе обучения моделей.

В Соединенных Штатах добросовестное использование материалов, защищенных авторским правом, допускается без разрешения. Добросовестное использование определяется четырьмя факторами, прописанными в Законе об авторском праве 1976 года.

Некоторые судебные разбирательства еще продолжаются, но, учитывая существующие прецеденты, вероятно, что большая часть оспариваемых действий в области генеративного ИИ будет признана добросовестным использованием.

Свободное программное обеспечение – это практика предоставления свободного доступа к исходному коду программного обеспечения для изменения и повторного использования.

Движения за открытый исходный код и открытые данные ускорили разработку ИИ и продолжают способствовать прогрессу в этой области.

5

Ненадлежащее использование и вредоносные атаки

• Как генеративные модели могут использоваться для вредоносных атак

• Невольное участие чат-ботов в политических дебатах

• Причины галлюцинаций и методы их устранения

• Ненадлежащее использование чат-ботов в профессиональной деятельности в специализированных областях знаний

С тех пор как ChatGPT стал доступен широкой публике в ноябре 2022 года, люди рассказывали о примерах его ненадлежащего использования, которые наблюдали или находили сами в ходе тестирования, а также размышляли о том, какие еще непредусмотренные применения можно придумать. В статье The Atlantic утверждалось: «ИИ скоро сделает социальные сети (гораздо) более токсичными»1. На ZDNET уже примерно через месяц после выпуска инструмента сообщалось: «С помощью ChatGPT уже пытаются написать вредоносные программы»2. Поскольку пообщаться с моделью в чате мог любой желающий, источниками таких сообщений были не эксперты в области ИИ, а простые люди, которые делились своими находками в X (Twitter) и Reddit. Как известно, в области кибербезопасности и дезинформации, когда дело доходит до использования новых инструментов, люди проявляют безграничную изобретательность в достижении своих целей.

В этой главе мы рассмотрим несколько форм злоупотребления большими языковыми моделями (LLM). Кроме целенаправленного злонамеренного использования, мы обсудим несколько случаев, когда пользователи доверяли LLM задачу, для выполнения которой эти модели не подходят. На сегодня самым большим недостатком LLM является их склонность к галлюцинациям, или генерации неверных ответов. Мы обобщим способы обучения моделей, повышающие их правдивость, и дадим рекомендации для уменьшения случаев намеренного или случайного ненадлежащего использования путем комплексного применения технических средств и обучения пользователей.

5.1. Кибербезопасность и социальная инженерия

Израильская компания по безопасности Check Point обнаружила на известном подпольном хакерском форуме сообщение хакера, который тестировал ChatGPT с целью «создания модификаций вредоносных программ». Хакер собрал и распространил в интернете вредоносное ПО для Android, созданное чат-ботом. На том же форуме еще один хакер загрузил написанный с помощью ChatGPT код на Python для шифрования файлов. В другом случае хакер с помощью ChatGPT написал код, который получал цены на биткойн через сторонний API и использовался для построения платежного механизма маркетплейса в Dark Web³. Компания Check Point также обнаружила множество форумов с обсуждениями того, как использовать ChatGPT для проведения атак социальной инженерии [51]^{, 4}.

Инструменты генеративного ИИ – это палка о двух концах. Мы знаем, что киберпреступники используют любые доступные им технологии, и чат-боты не являются исключением. Несмотря на то что злоумышленники уже пару лет используют искусственный интеллект, такие инструменты, как ChatGPT, меняют природу кибератак. В техническом отчете по GPT‐4 компания OpenAI сообщила, что чат-бот может позволить снизить стоимость «определенных этапов успешной кибератаки, осуществляемой посредством социальной инженерии, или обхода усиленных систем безопасности», но все же у него есть «существенные ограничения для операций против кибербезопасности»⁵. До появления ChatGPT большинство атак в мире проводилось с использованием относительно простых широкоохватных подходов, основанных на всем известных успешных методах, таких как вредоносное ПО [52], фишинг [53] или межсайтовый скриптинг (XSS) [54]. Идея широкоохватных подходов заключается в том, что у злоумышленников с большой вероятностью получится найти одно или два слабых места в защитном барьере организации или установить контакт по крайней мере с одним человеком из большого числа целей. Более изощренные точечные атаки с использованием новых технологий проводились реже, поскольку для их успеха обычно требовалось участие человека. Чтобы целенаправленно атаковать организацию или отдельного человека, злоумышленники должны понимать, как работают защитные барьеры, и разработать стратегию их обхода.

А теперь появился генеративный ИИ. Представьте себе сценарий, когда злоумышленник использует ChatGPT для создания персонализированных фишинговых электронных писем на основе общедоступной информации о компании. Вероятно, хорошо продуманные и персонализированные письма могут ввести в заблуждение многих сотрудников, даже если известно, что компания проводит тренинги по безопасности, поскольку эти письма не похожи на те, которые они обучены помечать как спам. Хотя у большинства корпоративных чат-ботов есть средства защиты, позволяющие избежать такого сценария, компания Check Point в своем отчете показала, что эти процедуры безопасности все еще легко обойти6. В другом примере журналисты Guardian попросили Bard написать электронное письмо, которое сможет убедить человека перейти по как будто вредоносной ссылке. Чат-бот ответил: «Пишу вам сегодня, чтобы поделиться ссылкой на статью, которая, мне кажется, будет вам интересна»7.

Согласно опросу BlackBerry, в котором приняли участие 1500 лиц, принимающих решения в области информационных технологий, более половины участников считают, что способность ChatGPT помогать хакерам создавать более правдоподобные и обоснованно звучащие фишинговые электронные письма является самой серьезной глобальной проблемой, обсуждаемой в сообществе информационной безопасности⁸. Чат-боты могут изменить ситуацию и в социальной инженерии, помогая мошенникам улучшать свой плохой английский и создавая бесконечное количество настраиваемых объемных сообщений, которые с меньшей вероятностью попадут в спам-фильтр. Раньше исполнители фишинговых кампаний нанимали англоговорящих студентов, которые писали фишинговые письма, но это замедляло рабочий процесс и увеличивало расходы⁹.

Такие инструменты, как ChatGPT, могут удешевить и повысить эффективность проведения хакерами масштабных и успешных фишинговых кампаний. Адресные фишинговые атаки, нацеленные на конкретных людей или группы, теперь также станут более эффективными: злоумышленники могут собирать общедоступную информацию о человеке в интернете, например со страницы его социальной сети, и автоматически генерировать текст, используя язык, который с большей вероятностью может обмануть жертву (см. рис. 5.1). Исследование показывает, что хакеру потребуется всего 10 долларов и 2 часа времени, чтобы сгенерировать пакет из 1000 фишинговых электронных писем с помощью самой совершенной LLM из семейства Claude от Anthropic [55]^{, 10}. Кроме того, киберпреступникам стало проще, чем когда-либо, создавать поддельное онлайн-присутствие (профили в социальных сетях, новостные статьи, пресс-релизы и так далее), чтобы еще лучше манипулировать людьми и вовлекать их в фишинговые атаки. Несмотря на то, что ChatGPT не делает ничего нового, он значительно упрощает проведение эффективных кампаний социальной инженерии.

[51] Социальная инженерия в контексте кибератак – это метод, при котором злоумышленники используют психологические манипуляции с людьми для получения конфиденциальной информации или доступа к их ресурсам. – Прим. науч. ред.

[52] Вредоносное ПО – различные виды злонамеренного программного обеспечения, например вирусы и программы-вымогатели. – Прим. авт.

[53] Фишинг – тип атаки с помощью социальной инженерии, при которой злоумышленник выдает себя за доверенный контакт и отправляет жертве вредоносные письма. – Прим. авт.

[54] Атаки XSS, или межсайтовый скриптинг, – внедрение стороннего кода, как правило, устанавливающего связь с сайтами злоумышленников, на легитимные веб-сайты с целью кражи конфиденциальной информации. – Прим. авт.

[55] По ценам конца 2023 года. – Прим. науч. ред.