Генеративный искусственный интеллект. Как ИИ меняет нашу жизнь и работу: читать книгу онлайн полностью и бесплатно

Рис. 6.6. Отрывок из ответа ChatGPT на вопрос о теории струн

Сегодня большинство людей ищут информацию о товарах и услугах в основном через поисковые системы, а иногда через сайты для отзывов или в крупных интернет-магазинах. Когда мы придумываем для себя интересные занятия, мы просматриваем афишу событий в нашем регионе на выходные, фильмы, которые идут в кинотеатрах, или популярные шоу в потоковых сервисах. Когда мы собираемся совершить серьезную покупку – скажем, дорогой техники для кухни, – часто требуется провести тщательное исследование: сначала мы можем поискать в Google лучшую мультиварку, затем выбрать несколько вариантов на Amazon и прочитать отзывы и рейтинги. Возможно, вы предпочитаете почитать отзывы в журналах или газетах, посвященных домашнему хозяйству, а затем приобрести выбранный вариант на веб-сайте продавца. Хотя чат-боты, которые не умеют выполнять поиск в интернете, будут ограничены в информации о новом продукте, модели с функцией поиска внешней информации смогут предоставлять актуальную и многостороннюю информацию и выполнять роль помощника по покупкам, например как Bard с ответом на вопрос на рис. 6.7.

Рис. 6.7. Фрагмент ответа Bard с рекомендациями для покупки гриля

На самом деле именно это предел мечтаний создателей виртуальных помощников, которые начинались с голосовых помощников на естественном языке, таких как Siri и Alexa. Однако Siri, Alexa и Google Assistant являются (по крайней мере, на данный момент) «системами управления и контроля», то есть они понимают ограниченный список и не могут разумно отвечать на запросы, которые в него не входят, – они просто откажутся отвечать. С другой стороны, чат-боты на базе LLM по умолчанию отвечают на любой вопрос или запрос и иногда делают это чересчур уверенно. Поэтому системы управления и контроля благодаря их лучшей управляемости уже подключены к другим разнообразным системам, будь то «умный дом» (выключить свет, изменить настройки термостата) или покупки на Amazon.

В применении к искусственному интеллекту агент – это система, которая может гибко достигать поставленных целей16. По сути, это означает, что система должна уметь взаимодействовать со средой и реагировать на изменения в ней. Такие возможности, как изменение настроек освещения или онлайн-покупки, являются примерами взаимодействия со средой, в данном случае с реальным миром. Siri и Alexa не являются агентами, потому что не адаптируют свои цели, а для выполнения сложных многоэтапных задач это требуется. Например, предположим, что вы просите Siri порекомендовать вам одежду с учетом прогноза погоды для вашего местоположения, а также планов на день. Помощник может получить прогноз погоды, но не сможет выполнить последовательность действий из получения прогноза погоды, просмотра вашего календаря и последующего предложения подходящих вариантов одежды, если это специально не запрограммировано. А вот LLM могла бы разбить задачу на составные части. Если попросить модель, она сможет выполнить нужные шаги и при условии, что у нее будет доступ к календарю и погоде, совершить эти шаги последовательно. Доступ к внешним данным, например через API, для поиска ответа на вопрос – это пример поведения, ожидаемого от агента.

LLM-агенты – следующий логический шаг для некоторых существующих областей коммерческого применения моделей. Например, веб-сайт по планированию путешествий Expedia интегрирован с ChatGPT, благодаря чему пользователи могут вести беседы с ботом и получать рекомендации по рейсам, отелям и мероприятиям для запланированных поездок¹⁷. В настоящий момент бот не может забронировать свои рекомендации, однако все, что для этого требуется, – соединить модель с каким-нибудь API для оплаты. Конечно, есть много веских причин для того, чтобы этого не делать. Бот может галлюцинировать несуществующими рейсами или неправильно понимать предпочтения пользователя. Но это только вопрос времени, когда подобные приложения станут реальностью. В главе 8 мы более подробно поговорим о том, как работают LLM-агенты.

В мире открытого исходного кода мы уже можем наблюдать всплеск активности по созданию LLM-агентов. В таких проектах, как LangChain (см. http://mng.bz/a1WY), разрабатываются приложения на базе LLM, которые одновременно могут взаимодействовать со средой и иметь доступ к внешним источникам данным. Auto-GPT – это проект с открытым исходным кодом, который обещает «расширить границы возможного с помощью искусственного интеллекта» и использует GPT‐4 в качестве инструмента для долгосрочного планирования, необходимого для достижения цели. На данный момент это все еще очень сложная задача для ИИ, даже для GPT‐4. В документации Auto-GPT в разделе об ограничениях говорится: «Может плохо работать в сложных применениях в реальном бизнесе. Но если у вас что-то получилось, пожалуйста, поделитесь своими результатами!»¹⁸ Несмотря на большие амбиции, модель Auto-GPT обычно застревает на промежуточных действиях или забывает о результатах предыдущих действий. Реализация, конечно, еще сырая, но все больше людей неизбежно будут тестировать систему на определенных задачах. И стоит отметить, LLM уже продемонстрировали некоторую полезность в составлении планов с учетом поставленных целей.

Для тех, кто стремится к увеличению продуктивности, чат-боты могут представить структурированный план для достижения целей, например план физических упражнений или еженедельных домашних дел. Брайан Чен, ведущий обозреватель потребительских технологий в New York Times, объясняет, что для получения лучших результатов вы должны упомянуть книгу практических советов, релевантную для текущей задачи, чтобы направить чат-бота в нужном направлении19. Чен привел пример цели – пробежать марафон – и предложил такой промпт:

Этот промпт подробный, обращается к надежным источникам и дает понять, какие ответы нужны Чену. Более простой промпт – например: «Напиши мне план подготовки к марафону» – тоже даст результаты, но они могут не соответствовать тому, что ожидает Чен. Поскольку план не просто размещен на сайте, а составлен с помощью LLM, пользователь может запросить столько уточнений, сколько захочет, пока не будет удовлетворен результатами. Теоретически такой подход может быть использован для достижения любых целей.

Наконец, LLM можно без ограничений использовать для всех видов задач, связанных с написанием текстов. Будучи генеративными моделями, они хорошо подходят для мозговых штурмов и обмена идеями, где могут играть роль помощника по написанию текста. Большие языковые модели иногда создают забавные и оригинальные тексты, особенно если дать интересный промпт или настроить температуру повыше. Однако они все же склонны выбирать наиболее вероятное слово для данного контекста, поэтому их ответы часто довольно предсказуемы. И именно это делает их идеальными кандидатами для генерации шаблонных текстов: электронных писем, заметок о встречах и отчетов о результатах работы, – которые многие пишут ежедневно.

В разделе 6.1 мы упомянули доказательства того, что врачи тратят много времени на выполнение административных задач вместо того, чтобы непосредственно общаться с пациентами. Покойный антрополог Дэвид Гребер в своей книге-бестселлере «Бредовая работа» (Bullshit Jobs) описал всплеск бессмысленной бумажной работы, отчетов и так называемой работы «для галочки» за последние несколько десятилетий. Хотя у Гребера есть своя теория о том, почему современная экономика изобилует работой «для галочки», это правда, что, несмотря на красивые картинки будущего, наполненного досугом благодаря техническому прогрессу, в реальности мы еще не добились больших успехов в этом направлении. Джон Мейнард Кейнс предсказал в 1930 году, что спустя столетие люди будут в основном бороться со скукой, а не с усталостью, и возможно, будут работать по три или около того часа в день, просто чтобы чувствовать свою значимость и полезность.

Излишне говорить, что предсказание Кейнса не сбылось. Обнадеживающая перспектива заключается в том, что с появлением LLM офисные работники во всем мире смогут делегировать часть скучной или более шаблонной работы моделям и направить свою энергию на более интересные вещи. Однако здесь существует примечательный цикл обратной связи: чем меньше модель потребляет качественного, созданного человеком контента, тем более стабильно она будет деградировать. В статье 2023 года было показано, что значительный процент специалистов, которые занимаются разметкой выходных данных ИИ, сами используют ИИ²⁰. Сложно упрекать их за использование ИИ в своей работе, но, если сгенерированный моделью текст станет нормой в интернете, это может иметь серьезные последствия для будущих LLM, обученных на интернет-данных, а также для нашего пользовательского опыта от использования сети. Нам бы попадалось сравнительно меньше оригинального контента, будь то познавательная публикация или стремительно разлетающиеся мемы. Не исключено, что мы вступаем в фазу, когда LLM будут предоставлять более дешевую альтернативу таким дорогостоящим услугам, как персональный коучинг, обучение и написание креативных текстов. Но пусть эти инструменты и являются отличным ресурсом, на сегодняшний день ничто не может заменить человеческий опыт и изобретательность.

6.4. Как генеративный ИИ влияет на образование

Как и в случае с любой «революционной» технологией, при появлении ChatGPT у одних людей открылся рот от удивления, а другие нахмурили брови. Выпуск чат-бота был встречен с беспокойством и критикой со стороны некоторых преподавателей, которые опасались, что студенты будут злоупотреблять этим инструментом при выполнении заданий. Американский журнал The Atlantic, пусть даже преждевременно, зашел весьма далеко, написав, что это «конец английскому языку в старших классах»21 и «эссе в колледже мертвы»22. Итан Моллик, профессор Уортонской школы бизнеса Пенсильванского университета, написал в X (Twitter): «ИИ уничтожил смысл выполнения домашних заданий»23. В ответ на эти страхи школы в исступлении начали блокировать доступ к чат-ботам. Ссылаясь на «опасения по поводу негативного влияния на обучение студентов и вопросы относительной безопасности и точности контента», департамент образования Нью-Йорка заблокировал доступ к ChatGPT на всех своих устройствах и в сетях24. Тем временем Питер Ванг, соучредитель и генеральный директор Anaconda, написал X (Twitter): «Я думаю, мы можем переосмыслить концепцию образования в принципе. Колледж в том виде, в каком мы его знаем, прекратит свое существование»25.

Для многих преподавателей обман является реальной проблемой: студенты с помощью ChatGPT пишут эссе и исследовательские работы, решают задачи по математике и естественным наукам, выдавая работы, написанные искусственным интеллектом, за свои. Учителя и школьная администрация были застигнуты врасплох возможностями чат-бота и пытались изо всех сил не только уличить учеников, которые использовали этот инструмент, но и соответствующим образом обновить программу своих уроков. Некоторые учителя обеспокоены тем, что у студентов исчезнет потребность учиться писать, или они разучатся создавать эссе или рефераты с нуля. Их опасения усугубляются тем, что ответы, полученные с помощью ChatGPT и аналогичных инструментов, не всегда точны (см. раздел 5.4). Чат-боты имеют тенденцию выдумывать цитаты, добавлять неточные факты или многократно ссылаться на один и тот же источник, но информация часто может быть настолько детальной и правдоподобно звучащей, что учителям это может добавить дополнительную работу по тщательной проверке и подтверждению ссылок и фактов.

И пока одни преподаватели запрещают использование ChatGPT, другие с радостью принимают этот инструмент. Во-первых, чат-бота вряд ли можно назвать отличником: ему хорошо удается создание текста, но не критическое мышление26. Во-вторых, есть ли ChatGPT или нет, полностью остановить обман невозможно. ChatGPT – это просто еще один инструмент, помогающий обманывать, как, например, заказ эссе в интернете у кенийских авторов27 или копирование ответов из Chegg [83]на онлайн-экзаменах28. Наконец, запрет на использование ChatGPT просто не работает. Учащиеся легко могут обмануть систему, воспользовавшись инструментом вне класса, на своих персональных устройствах, или используя VPN[84] в школьных сетях. Конечно, учителя и школьные администраторы, которые запрещают использование таких инструментов, как ChatGPT, понимают, что некоторые учащиеся все равно будут обходить запрет, поэтому нужно быстро найти способ определения машинно-сгенерированного контента, что является, как мы обсуждали ранее (и продолжим этот разговор в следующем разделе), непростой задачей. Инструменты для выявления машинно-сгенерированного текста, например классификатор OpenAI и GPTZero (см. https://gptzero.me/), показали свою ненадежность и ограниченность. Если учащиеся немного отредактируют свой текст, то смогут легко обойти эти инструменты. Кроме того, если учителя для выявления списывания будут полагаться исключительно на такие инструменты, то могут ошибочно идентифицировать текст как сгенерированный машиной и поставить под удар академическую карьеру учащегося.

Вскоре после публичного дебюта ChatGPT Стэндфордский университет провел опрос, который показал, что студенты уже используют этот инструмент для выполнения заданий и сдачи экзаменов²⁹. А пока одни колледжи борются с ChatGPT, многие другие уже включили использование инструментов генеративного ИИ в свою политику академической честности и подготовили рекомендации для учителей по внедрению ИИ-инструментов в учебный процесс^{30, 31}. Аналогичным образом преподаватели, выступающие в академических кругах за ChatGPT, считают, что при правильном использовании он может стать эффективным инструментом обучения. В учебном блоге Ditch That Textbook перечислено множество способов использования ChatGPT (или аналогичных инструментов) для улучшения процесса обучения как для преподавателя, так и для студента (см. https://ditchthattextbook.com/ai/). Некоторые из них показаны на рис. 6.8. Учителя могут использовать бота при подготовке плана урока или даже для создания персонализированной программы обучения на основании потребностей и способностей учащегося, а также для проверки работ. Учащиеся могут использовать этот инструмент в качестве отправной точки для выполнения задания, оценивать первоначальные ответы и затем критически обдумывать, как их можно переработать и улучшить. Чат-бота можно использовать как дополнение к очному обучению, предоставляя студентам еще один источник знаний за пределами аудитории, например для объяснения материала после занятий или совершенствования навыков письма для изучающих английский язык. Если подойти к ChatGPT творчески, то его можно включить в планы уроков – использовать как инструмент для оттачивания навыков ведения дебатов [85] или просить учащихся оценивать ответы, сгенерированные чат-ботом. Стартапы в области образовательных технологий (EdTech) также используют LLM для преподавания и обучения, разрабатывая например: ИИ-репетитора (см. https://riiid.com/), персонализированную платформу для обучения (см. https://www.alefeducation.com/), разговорного виртуального помощника для изучения естественных наук (см. https://www.cognii.com/).

Рис. 6.8. Примеры использования чат-ботов в учебном процессе

Конечно, такой инструмент, как ChatGPT, будет нарушать привычное течение учебного процесса, но преподавателям не стоит его бояться. Инструменты генеративного ИИ можно задействовать, чтобы сделать процесс обучения более глубоким и увлекательным, и это особенно актуально в современном мире. Прорывные технологии всегда вызывали восторг и страх: некоторые опасались, что телефоны уменьшат живое общение между людьми, а с изобретением телевизора возникло опасение, что появится общество домоседов. Сэм Альтман, генеральный директор OpenAI, в ответ на опасения преподавателей по поводу списывания в школе сравнил генерацию текста с калькулятором:

Хотя Альтман уклоняется от обсуждения законных опасений по поводу ненадлежащего использования и ограничений применения инструмента, преподавателям действительно надо приспособиться к этой технологии, а не запрещать ее полностью.

Адаптироваться к новым технологиям не всегда бывает легко, и хотя такие инструменты, как ChatGPT, меняют процесс обучения и преподавания, это еще не конец формального образования. Эндрю Ын, всемирно признанный лидер в области искусственного интеллекта, и Андреа Пассерини, генеральный директор Kira Learning, в своей статье на веб-сайте VentureBeat призвали школы обучать тому, как использовать ИИ и как программировать, чтобы подготовить своих учеников к жизни в мире, где есть искусственный интеллект³³. Восхищает ли он нас или пугает, мы живем в мире, где есть инструменты генеративного ИИ, и учащиеся должны понимать, как с ними работать. Мы должны рассказать им о сильных и слабых сторонах этих инструментов: как они могут повышать продуктивность и креативность, как их можно неправильно использовать и какие риски с ними связаны. ChatGPT и аналогичные инструменты при правильном использовании могут дополнить процесс обучения и помочь учащимся ориентироваться в мире, где искусственный интеллект и люди работают вместе.

6.5. Выявляем машинно-сгенерированный текст

В главах 4 и 5 мы обсудили несколько способов обнаружения контента, созданного машиной, и некоторым из них преподаватели уже нашли применение, выявляя домашние задания, полностью написанные ИИ. Несмотря на многообещающие результаты в разработке методов обнаружения, идеальное решение пока не придумано – это чрезвычайно сложная задача, и с развитием генеративных моделей она становится все сложнее. Стоит также отметить, что условия этой задачи не так хорошо сформулированы, как может показаться. Если мы изменим одно или два слова, то должен ли текст по-прежнему считаться сгенерированным с помощью ИИ? Нечеткая постановка задачи только усложняет разработку надежных методов обнаружения. В этом разделе мы более подробно рассмотрим методы обнаружения текста, сгенерированного с помощью ИИ.

К традиционным подходам обнаружения машинного текста относятся статистические методы обнаружения выбросов, такие как GLTR (обсуждается в разделе 5.2). В основе GLTR лежит предположение, что модель склонна подбирать наиболее вероятные слова для каждой позиции в предложении, тогда как в естественном написании чаще встречаются слова, неожиданные для текущего контекста³⁴. Чтобы отличить тексты, написанные машиной и человеком, здесь используются базовые статистические методы, например распределение вероятностей слов в тексте. Другой статистический подход, DetectGPT, для определения того, сгенерирован ли текст с помощью LLM, также использует склонность моделей генерировать наиболее вероятные последовательности³⁵. Например, если в предложении, написанном машиной, произвести перестановку слов, то новое предложение, как правило, будет оценено самой моделью как менее вероятное (действительно, ведь она выбрала наиболее вероятный вариант для ответа). А вот в предложении, написанном человеком, это может не соблюдаться – после перестановки слов предложение может оказаться как более, так и менее вероятным с точки зрения модели.

Как обсуждалось в предыдущих главах, для обнаружения машинного текста часто используются обучаемые классификаторы. Классификатор – алгоритм, который обучен определять, к какому классу или группе принадлежат объекты, которые ему показали. В январе 2023 года OpenAI выпустила «несовершенный» классификатор, позволяющий определять, написан текст искусственным интеллектом или человеком. Это стало примером того, как классификатор можно использовать для этой задачи. OpenAI признавала, что невозможно надежно выявлять любой созданный с помощью ИИ текст, но предлагала задействовать ее классификатор в качестве дополнения к другим методам обнаружения таких текстов, а не как основной инструмент принятия решения (но, как отмечалось в главе 4, классификатор OpenAI был удален через пять месяцев после выпуска из-за проблем с точностью)³⁶. Хотя хорошие классификаторы играют свою роль в обнаружении машинно-сгенерированного текста, важно знать об их ограничениях (как и в случае с другими техническими решениями этой задачи) и понимать, что они не являются гарантированным средством идентификации текста, написанного с помощью ИИ. Стоит также отметить, что классификаторы могут быть хорошо знакомы только с особенностями конкретной генеративной модели. Другими словами, классификатор, предназначенный для обнаружения текста из GPT‐4, будет не так хорошо выявлять текст, сгенерированный другими чат-ботами, такими как Bard или Bing Chat. Тем не менее они показали свою перспективность как мера предотвращения ненадлежащего использования машинно-сгенерированного текста, особенно в сочетании с другими социальными и техническими методами определения источника фрагмента контента.

Учитывая растущую сложность в надежном определении контента, сгенерированного с помощью ИИ, исследователи разрабатывают новые методы маркировки контента, которые иногда называют нанесением водяных знаков. Исторически маркировка в виде водяных знаков использовалась на изображениях и видео, защищенных авторскими правами, чтобы предотвратить кражу интеллектуальной собственности. Используя инновационный подход, исследователи предложили, как можно встроить маркировку в текст, сгенерированный LLM, чтобы его было легче выявлять³⁷. Маркировка текста производится путем изменения порядка отбора слов в генерируемом тексте, то есть меняется вероятность определенных специальных слов, после чего природу текста можно идентифицировать именно по этим словам. Давайте проиллюстрируем эту идею (см. рис. 6.9). Представьте, что словарь модели случайным образом разделен пополам на зеленый и красный списки. Идея маркировки состоит в следующем: когда LLM, например ChatGPT, генерирует текст, мы можем попросить ее использовать слова из зеленого списка чаще, чем обычно. Таким образом, частота зеленых слов будет индикатором искусственного происхождения: чем больше слов из зеленого списка, тем более вероятно, что текст был сгенерирован машиной. В то время как текст, написанный человеком, представлял бы собой более случайное сочетание слов.

[83] Chegg, Inc. – американская образовательная технологическая компания, которая помогает выполнять домашнюю работу, предоставляет в аренду цифровые и бумажные учебники, учебные пособия, предоставляет онлайн-репетиторство и другие услуги для учащихся. – Прим. авт.

[84] VPN (VPN-сервис) – С ноября 2022 г. на территории Российской Федерации запрещено распространять информацию о VPN-сервисах с целью доступа к запрещенному контенту. Научная, научно-техническая и статистическая информация о VPN-сервисах для обхода блокировок признана запрещенной в России, исключением является информация о VPN для обеспечения защищенного удаленного доступа. – Прим. ред.

[85] Например, можно попросить ChatGPT подготовить список аргументов, поддерживающих вашу позицию. Или наоборот, список аргументов оппонента, чтобы подготовиться к защите. – Прим. науч. ред.