Знание-сила, 2001 № 09 (891) - страница 9

Но будет ли тогда это человек? Вопрос, обсуждение которого явно выходит за рамки короткой заметки. Поэтому мы вернемся к нему в следующем номере.

Александр Семенов

Впервые смутное чувство беспокойства кольнуло меня в 1996 году, когда компьютер IBM выиграл у Гарри Каспарова: работая тогда в Германии, я наблюдал за ходом матча в Интернете. Зрелище было душераздирающее поскольку на специальных сайтах каждый ход партии комментировали не только профессионалы шахмат и любители, но и шахматные компьютеры. Я до сих пор не знаю, как был организован этот поток машинного сознания, но они активно участвовали в «чате». У меня завертелись мысли, что компьютеры постоянно совершенствуются (точнее, это мы их совершенствуем!), а человек мало чем отличается от своих собратьев времен Шекспира и Сократа. Не было бы беды… Но логичное и прагматичное сознание научного работника решительно отогнало эти мысли как панические и попахивающие солипсизмом.

Беспокойство вернулось гораздо более мощной волной во время чтения статьи Билла Джоя в журнале «Wired» в апреле прошлого года. Ее название я вынес в заголовок. Суть статьи в том, что технологические прорывы последних лет – в робототехнике, генетической инженерии и нанотехнологиях – являются совершенно реальной угрозой роду человеческому\ который в ближайшее время может оказаться под угрозой исчезновения.

Не могу понять одного: почему эта статья прошла незамеченной и практически не обсуждалась в наших и зарубежных журналах? Паниковать9 конечно, дело неразумное> но думать над проблемой и обсуждать ее уже пора. Что я и делаю, предлагая вниманию читателей некую смесь из своих мыслей и соображений Билла Джоя, тем более что они сильно пересекаются.

Компьютерная наука уже много лет стремится создать искусственный интеллект и сделать робота, который бы смог не только заменить, но и превзойти человека. Предположим, что эти мечты реализовались и удалось создать устройства, которые делают все гораздо лучше людей. В таком случае возможны два сценария развития событий.

Быть может однажды появится робот с человеческим лицом

Первый. Машины принимают все решения самостоятельно, без участия человека. Невозможно предсказать нашу судьбу в таком случае, поскольку она полностью будет зависеть от машин. Самый простой аргумент против такого сценария: «Не настолько же мы глупы, чтобы отдавать свое будущее в механические руки?!» Конечно, нет. Речь идет о том, что постепенно все больше и больше человеческих функций будет передаваться роботам, и мы в конце концов попадем в такую зависимость от них, что не сможем влиять на развитие событий. Причем передача функций будет происходить потому, что роботы будут показывать при их выполнении гораздо лучшие результаты, чем люди. Многие современные системы столь сложны, что люди просто не в состоянии охватить их разумом и эффективно управлять. На это способны только роботы. И даже если они поведут себя не так, как хотелось бы, их невозможно будет отключить, потому что это означало бы остановку и гибель многих важных производств.

Второй сценарий – сохранение некоторого контроля над машинами. В этом случае каждый человек сможет управлять некоторым набором персональных машин-роботов, автомобилем, компьютером и т.п. Но управление крупными системами машин будет находиться в руках немногочисленной элиты (так же, впрочем, как и сегодня). А поскольку потребности в рабочих руках большинства населения планеты больше не будет (из-за всемогущества роботов), с ним что-то придется делать: в более гуманном случае – сокращать рождаемость, в менее гуманном… Еще один возможный вариант: при помощи биологического или психологического воздействия убрать из человеческих голов желание работать, оставив людям лишь прием пищи и другие удовольствия.

Такое «новое общество» можно назвать счастливым, но уж никак не свободным, потому что люди в нем будут низведены до уровня современных канареек или кошек.

Какой из сценариев вам больше по душе?

Вспоминая старика Дарвина, нельзя не признать, что в борьбе за существование роботы с искусственным интеллектом победят нас просто потому, что они все делают лучше, ибо мы их такими создали. Причем до недавнего времени особой угрозы человечеству не было, потому что роботы не могли воспроизводить себя. Теперь эта угроза становится реальностью благодаря прорывам в области не только роботостроения, но и генной инженерии и нанотехнологии.