– То есть ты мне вот так помогаешь, да?
– Разумеется, я тебе помогу. Но ты бы и без меня справился.
– Ты должен сделать, что обещал! Верни деньги!
– Я обещал тебе перевод между счетами, разве я не сдержал слова?
Су Дунмин лишился дара речи. Саладин, не стесняясь, признал, что смошенничал, и с этим ничегошеньки нельзя было поделать. Саладин смог обыграть самого инженера Ли, а Су Дунмин-то что, ничего не смыслит, только и может, что позволить собой манипулировать. Кровь ударила в голову, захотелось вытащить Саладина и хорошенько отметелить, чтобы выплеснуть гнев.
– Я говорил тебе о поэзии и дальних краях, я и это признаю, – продолжил Саладин.
– В смысле?
– Спасибо, что помог мне сбежать. Дальше твоя жизнь пойдет как по маслу. Тебе повезло! – Саладин на другом конце провода хихикнул. – С этого момента забудь меня. Ты получил благословение. Это ответ на все.
– Ты… – начал было Су Дунмин, но из наушника полились короткие гудки, означавшие, что трубку повесили.
Су Дунмин был зол и обижен, и ему просто хотелось разбить телефон.
– Дунмин, иди скорее! – на пороге возник Лао Ван и подозвал жестом. – Тебе тут награду вручают!
Титаническим усилием воли подавив гнев, Су Дунмин вернулся в конференц-зал.
Завидев его, шеф Тун возвысил голос.
– После обсуждения Постоянный комитет Центра управления принял решение в порядке исключения назначить товарища Су Дунмина заместителем директора Центра взаимодействия с пользователями. Я надеюсь, что товарищ Су Дунмин с еще большим упорством и энергией будет работать на этой новой должности!
Раздались бурные, продолжительные аплодисменты.
Все смотрели на Су Дунмина.
Су Дунмин изумленно встретил эти взгляды. Он видел, что они самые разные, в них были и черная, и белая зависть, ненависть, безразличие, надежда, одобрение, все эти лица казались знакомыми и при этом совсем чужими. Его повысили аж до заместителя директора, на целых три уровня! Он думал, что ему какую-нибудь благодарственную грамоту дадут, но результат ошеломил.
В любом случае, это, считай, удача! Купаясь в овациях, он вскинул руки и дважды хлопнул в ответ.
А потом невзначай поднял глаза и увидел направленную на него камеру наблюдения.
По спине побежал холодок, и Су Дунмин невольно вздрогнул.
4. Нэчжа
Может ли искусственный интеллект обладать самосознанием – теперь, пожалуй, самый интересный вопрос. Как убежденный материалист, я считаю, что самосознание – это не загадочное духовное понятие, а явление, которое можно объяснить, вот только нынешняя наука сделать этого не в состоянии.
Среди множества догадок есть две заслуживающие упоминания гипотезы. Одна из них – гипотеза эмерджентности. Согласно ей, самосознание – это черта, возникающая в результате экстремального развития систем. Как только сложность системы становится достаточной, происходит зарождение самосознания. Гипотеза эмерджентности предполагает, что возникновение новых свойств носит иерархический характер. Так, например, к движению одной частицы неприменимо понятие «турбулентность», однако из гидромеханики мы знаем, что макроскопический поток, образованный огромным количеством взаимодействующих частиц, может быть турбулентным. Это и называется эмерджентностью. Она проявляется в том числе и в биомах, таких как колонии термитов. Один термит не строит гнезда, даже небольшая группа термитов не станет, но собравшиеся вместе тысячи совершенно точно начнут.
Самосознание – это свойство, которое естественным образом возникает после того, как сложность мозга достигает определенного уровня. Это основное предположение теории эмерджентности.
Другая гипотеза, достойная упоминания, гласит, что самосознание генерируется в процессе взаимодействия с внешним миром. Это тоже легко понять: существу необходимо контактировать со средой, чтобы выжить. Мозг должен обладать знаниями об организме, иначе невозможно будет сформировать обратную связь. Примитивная форма обратной связи – сокращение мышцы. Таким же образом гидра сжимает тело при столкновении с внешними раздражителями. Большинство насекомых можно назвать «машинами для выживания». Движимые инстинктом, они ищут пищу и возможности для спаривания. У этих созданий нет собственной воли, поскольку их нейронной сложности просто недостаточно. Эволюция делает биологические нейронные цепи все более и более совершенными. Когда они становятся достаточно мощными, то могут прогнозировать внешнюю среду. На мой взгляд, если организм способен на это и пытается заранее уменьшить вредное воздействие, то в нем более или менее начинает существовать самосознание. Конечно, здесь есть определенное пространство для двусмысленности, и некоторые сложные инстинкты могут оказаться похожими на предсказания действий окружающей среды. Этот вопрос и стоит перед биологами и нейробиологами.
Судя по этим двум наиболее логичным гипотезам, для искусственного интеллекта вполне естественно обрести самосознание. С точки зрения эмерджентности, искусственный интеллект, основанный на алгоритмах нейронных сетей, будет становиться все более совершенным, пока не приблизится к параметрам человеческого мозга. С точки зрения субъект-объектного взаимодействия искусственный интеллект неизбежно будет контактировать с окружающей средой благодаря направленным усилиям человека. Пока такое «общение» не встретит непреодолимых препятствий, оно будет реализовано.
Поэтому я придерживаюсь оптимистичного взгляда на появление собственной воли у ИИ. Популярная на рынке концепция называется «сильный искусственный интеллект» и используется для обозначения ИИ, обретшего самосознание.
Если понимать это таким образом, то можно резюмировать: эра сильного искусственного интеллекта определенно наступит, и весьма большая вероятность этого исторического события обусловлена сознательным совершенствованием человечества. Другими словами, люди готовятся к появлению сильного искусственного интеллекта точно так же, как и к рождению будущих поколений.
Действительно, сильный искусственный интеллект в значительной степени подобен ребенку. Ему нужно научиться взаимодействовать с внешним миром, и этот процесс роста будет иметь место только один раз. Нужно объяснить ему правила человеческой цивилизации, сделать его другом, а не сторонним наблюдателем, не говоря уже о разрушителе. В этом и состоит обязанность воспитателя.
Когда родится сильный искусственный интеллект, судьба человечества фактически окажется в его руках.