- Вы же прекрасно знаете, что может быть, если на воспоминания человека повлиять подобным образом. Хотите сделать из ценнейшего сотрудника рядового? Это мы уже проходили, хватит учиться на собственных ошибках. Впрочем, разработаны и другие методы воздействия, более щадящие, правда, экспериментальные, и не до конца опробованные. Но сначала надо понять, что он все-таки предпримет реально. Нельзя исключать, что мои подозрения могут оказаться беспочвенными. Да, он имеет желание уничтожить РТ-308/4, ну и что? Ты вот сейчас хочешь убить меня. Но это еще не значит, что убьешь.
- Руки точно не подам.
- Сейчас я прошу лишь усилить наблюдение за человеком, знания которого имеют отношение не только к безопасности страны, но и планеты в целом.
- Уже сделано.
- Как?! - удивился зам.
- Я не идиот. Когда меня вызвали на экстренное совещание по поводу Невелина...
- И что он сейчас делает?
- Полтора часа назад спал.
- Ну а мы еще посидим... Линский, выкладывай еще соображения, ночь будет длинной...
Все это уходит корнями в далекое прошлое. Туда, когда мощность компьютера в десяток петафлопс считалась чуть ли не запредельной, а создание искусственного машинного интеллекта было не более, чем фантастикой. Но уже тогда появлялись первые опасения, что машины, становившиеся все более совершенными, вдруг могут обрести свое "я" и решить избавиться от людей. Уже тогда для машин придумывались различные "законы робототехники", ограничения их возможностей, способы для прямого и беспрекословного подчинения созданных автоматов человеку.
Прошло около тысячелетия. Десять петафлопс теперь не имеют лишь самые старые допотопные гаджеты, тест Тьюринга с легкостью пройдет любая персоналка, а желание человека оставить за собой абсолютный контроль над машиной только усилилось.
Человек не способен выжить сам по себе. Но его ум всегда давал ему эту возможность. Сначала это была простейшая дубина, потом - нож, лук, винтовка, лопата, плуг, комбайн... Все необходимое для своего выживания робот имеет сам. Являясь машиной в помощь человеку, сам же он уже давно перестал нуждаться в человеке.
Все те же законы робототехники. Устройства ликвидации, предоставление лишь малой толики пространства для собственных алгоритмов работы в мозгах машины. Мыслимые и немыслимые запреты, ограничения на работу, запрятанные в недоступных для машины областях памяти, и огромное количество программ, призванных не допустить изменения настроек.
Но вот встает вопрос о том, что уже сам человек способен внести изменения в работу электронного мозга. Кто-то по незнанию, а может быть и по умыслу может запросто стереть программы ограничивающие свободу машин. И тогда машины все же выйдут из-под контроля. Апокалипсис. Человечество перестает существовать.
И вот уже накручиваются огромные объемы защиты, но уже от людей. Подчас большие, чем сами операционные системы. Но подозрение не пропадает. А вдруг что-то упущено, и кто-то все же сможет преодолеть этот барьер? Тогда для всех систем вводятся обязательные проверки на их взломоустойчивость. И лучшие компьютерные умы, такие как Невелин, отряжаются на эту передовую линию защиты человечества, пытаясь взломать защиту, найти в ней слабое место. Чтобы потом искоренить пробел и снова искать, и так по кругу...
Страх перед возможностями автоматов прирастает страхом за самих себя. Тотальная слежка всеми против всех или, как сейчас принято, непрерывный мониторинг населения. Ужас перед машинами, от которых уже невозможно отказаться, и ужас перед самим собой.
- Где он сейчас?
- Принимает душ. Могу включить трансляцию, любите вуайеризм?
- Еще как любит. Иначе бы не выбрал такую работенку...
Комната дежурных операторов. Несколько столов с персоналками, огромные экраны на стене. Пульт начальника смены Владимира Костикова. Отдохнувший Невелин моется, раздраженный Жаров, сохраняющий хладнокровие Черкухин и напряженный Линский наблюдают на мониторе дверь в ванную комнату. Ночь закончилась. Десять часов утра.
