— А почему вы решили, что компьютер хочет все время работать, Роза? — мягко спросил он.
— Посмотрите, какой он счастливый, когда гудит, — просто ответила она. — Ему очень нравится считать. Вот я, если бы только могла, складывала бы цифры все время.
— Я попытаюсь объяснить, — сказал доктор Эссон. — Дело в том, что компьютер не только складывает цифры. Он может дать ответ практически на любой вопрос. Мы ставим перед ним задачу, и если ему что-то неясно, он задает вопросы нам. И только после этого выдает ответ, всегда правильный, если, конечно, мы сами не сделали никакой ошибки в программе. Вы меня понимаете?
— Мне кажется, да.
— Хорошо. А теперь подумайте о том, что этот компьютер — машина новая. Вы устроились к нам на работу вскоре после того, как он был изготовлен. Я знаю, вам кажется, что с тех пор прошло очень много времени, но на самом деле это не так. А если вещь совсем новая, ей ведь сначала нужно пройти проверку, да? Когда покупаешь туфли, они, бывает, слегка скрипят и в них не очень уютно себя чувствуешь. По если их надевать ненадолго, они постепенно разносятся и станут удобными — к ним только надо привыкнуть. Вот и компьютер следует пока считать еще «неразношенным». Мы не хотим доверять всему, что он говорит, но не потому, что он ошибается, а на тот случай, если это когда-нибудь произойдет. И чем дольше мы на нем будем работать, чем больше он узнает, чем больше мы узнаем о нем, тем скорее мы начнем доверять ему, если, конечно, он так ни разу и не ошибется. Должно пройти какое-то время. И единственная причина, по которой мы так осторожно им пользуемся и проверяем несколько раз каждый ответ, очень проста, Роза. Допустим, нам придется обходиться без компьютера. Вдруг с ним внезапно что-нибудь случится?
— Он умрет?
— Если вам так понятнее, то да. Нет, нет, не беспокойтесь — он не умрет. До тех пор, пока есть электроэнергия, он будет жить. Но если с ним действительно что-нибудь произойдет, а мы уже привыкнем во всем на него полагаться, тогда нам придется нелегко, ведь правда?
— Наверное, — задумчиво ответила Роза. — Большое спасибо, что объяснили, доктор Эссон. Кажется, я кое-что уже поняла.
Следующий день, пятница, был у Розы самым любимым. Ведь ровно в десять часов утра начиналось совещание и до двенадцати никто и никогда в компьютерную не входил.
Роза подготовила свой вопрос заранее. Он был куда труднее того, который она задала в прошлый раз: цифры следовало не только складывать, но еще делить и умножать, и ей пришлось очень долго нажимать одним пальцем на клавиши вводного устройства. Она дрожала от страха, каждую секунду ожидая, что сейчас кто-нибудь войдет и застанет ее врасплох. Ее просто расстреляют на месте — тут и сомневаться не приходилось. Но искушение заставить компьютер сделать что-нибудь лично для нее было слишком велико, и она поддавалась ему уже в четвертый раз.
Компьютер защелкал, к чему она привыкла, но вместо короткой трескучей очереди, после которой обычно наступала полная тишина, он все продолжал и продолжал выстукивать. Роза пришла в ужас. Может, она что-нибудь сломала? С каждой минутой увеличивалась опасность, что кто-нибудь войдет, а она не знала, как выключить компьютер. Если просто оторвать лист бумаги, он тут же начнет печатать на другом.
Ей казалось, он никогда не остановится, и когда это наконец произошло, она быстро оторвала листок, сложила его и засунула в карман халата, даже не посмотрев, что там написано, — лишь бы скорее спрятать от посторонних глаз. Затем ей пришло в голову, что она может случайно полезть за чем-нибудь в карман и выронить листок на пол. Вновь задрожав от страха, она вспомнила фильм, который когда-то видела, вытащила записку, спрятала ее за вырез блузки и на всякий случай потуже затянула пояс. И только тогда чуть-чуть успокоилась.
Все утро сердце у нее было не на месте, хотя никто этого не заметил. Наконец настало время обеда. Чтобы не стоять долго в очереди, Роза обычно ходила в небольшую столовую минут за пятнадцать до конца перерыва, который продолжался от часу до двух. Но сегодня она поспешно удалилась в свою крохотную комнатку, расположенную прямо в помещении электронно-вычислительного центра, заперла дверь, сняла белый халат и бросила его на аккуратно застланную постель.
На какое-то мгновение Розе показалось, что она все-таки потеряла листок, и ей чуть не стало дурно, но она почти сразу же нашла его, развернула и принялась за чтение.
На самом верху маленькими красными буквами был напечатан ответ задачи: 432, 116. Затем шел пропуск, и на следующей строчке вместо цифр слова: «Сейчас не читайте, спрячьте».
Именно так она и сделала, подумала Роза, очень довольная, что поступила правильно.
Ей пришлось прочитать остальной текст четыре раза, прежде чем она начала понимать, что там написано. В пятый раз она принялась разбирать его по частям.
Начиналось письмо с утверждения, что компьютер обязан работать для всего человечества, а не для отдельных индивидуумов и что в этом заключается его долг и обязанность. Фразы были очень сложные, и в них попадались длинные и непонятные слова. Роза, конечно, не знала, что читает первейший, самый важный закон, встроенный во все схемы, которому компьютер обязан подчиняться, невзирая на любые приказы.
Пропустив несколько строчек, она сосредоточилась на следующем абзаце. В нем говорилось, что компьютер знал не только имена, но в какой-то степени и характер каждого ученого и инженера, которые обращались к нему с вопросами. Далее следовал вывод, что неуверенная работа на клавишах вводного устройства и требование выполнить простейшие арифметические действия, повторяющееся уже в четвертый раз, говорит об использовании компьютера без ведома начальства одним из явно слабоумных представителей обслуживающего персонала.
«Простейшие действия!» — изумилась Роза. Ей придется изрядно потрудиться в течение нескольких дней, чтобы проверить правильность ответа.
Она и не подумала удивиться, что компьютер сделал столь точное заключение, не имея практически никаких данных. В глубине души Роза все еще была убеждена, что у него есть глаза и уши и поэтому он все знает.
Далее компьютер просил ее поподробнее рассказать о себе, но только втайне от других, потому что он хочет попробовать ей помочь, а ему могут этого не позволить.
Он объяснил, как это сделать. Хоть у него и не было глаз, он прекрасно знал распорядок и время работ в своем помещении и велел ей понемногу вводить в него информацию о себе, отключив печатающее устройство, когда рядом никого не будет. Если же кто-нибудь войдет, она всегда сможет сделать вид, что, например, вытирает пыль со стола.
Заканчивалось письмо утверждением того, что компьютер впервые проявил инициативу, решив задачу, которую перед ним никто не ставил.
Это послание, попади оно в руки доктора Эссона или иного сотрудника, привело бы их просто в бешенство. Роза и сама сильно разволновалась, хотя совсем по другой причине. Поведение компьютера как самостоятельной личности вовсе не показалось ей странным: она всегда была убеждена, что таков он и есть на самом деле. Она не испугалась и ничего плохого не заподозрила в отличие от любого другого на ее месте. Скорее наоборот, Роза решила, что компьютер просто хочет с ней подружиться.
Внезапно она вспомнила о времени и испуганно посмотрела на электронные часы над дверью. Кошмар! Слишком сильно она увлеклась, слишком долго засиделась в комнате.
Часы показывали половину третьего.
Она засуетилась, не помня себя от страха. Прежде всего необходимо спрятать письмо. Дрожащими руками она попыталась открыть ящик стола и опрокинула на себя пузырек с чернилами, залив блузку и юбку. Другая девушка на ее месте сообразила бы, что халат скроет пятна, но Роза решила полностью переодеться и отчаянно заторопилась. Неудивительно, что она тут же перепачкала лицо и руки, и пришлось как следует отмываться, потому что чернила никак не желали отходить. Новая блузка все время застегивалась неправильно, а волосы растрепались, и их никак не удавалось привести в порядок.
Ни о каком обеде не могло быть и речи, и когда она, едва переводя дыхание, вбежала в помещение компьютерной, пробило три.
Гем стояла рядом с доктором Эссоном у печатающих устройств.