Автономность современных роботов пока оставляет желать лучшего. Даже самих солдат, использующих роботов в операциях, сильно нервирует идея оснастить машины пулеметами и поручать им самостоятельные боевые задания.
Однако высокое начальство упрямо требует делать поводок для роботов все длиннее и длиннее, поскольку железный солдат реагирует на происходящее гораздо быстрее солдата живого. Если, к примеру, взвод попал под обстрел снайпера, то робот с инфракрасной видеосистемой может мгновенно зафиксировать точку выстрела и ответным огнем уничтожить вражеского стрелка еще до того, как тот успеет укрыться. Но если, в соответствии с нынешними правилами, человек-оператор будет давать санкцию на каждый выстрел, то снайпера противника будет уже не достать.
Постепенно начинает ощущаться и нехватка персонала. В настоящее время каждый крупный самолет-робот, летающий над Ираком, имеет пилота из плоти и крови, который сидит в кабинке на авиабазе в штате Невада и управляет дроном с помощью джойстика. Каждый робот Talon, соответственно, имеет своего «погонщика» с дистанционным управлением. Понятно, что это довольно дорогостоящее решение пробле-
НЕЗАВИСИМООТТОГО, НАСКОЛЬКОУМНЫМИИНАДЕЖНЫМИМОЖНОСДЕЛАТЬРОБОТОВ, ОНИВСЕРАВНОБУДУТ ДЕЛАТЬОШИБКИ
досмотров, «гражданские моряки приходили в замешательство, когда их начинало допрашивать говорящее по-арабски судно без людей на борту».
Существенно иной, подводный тип морских роботов носит название UUV (Unmanned Underwater Vehicle). Эти машины чаще всего используются для поиска и обезвреживания мин, являющихся причиной большинства боевых потерь на море за два последних десятилетия. Например, «Робо-лобстер», способный работать в неспокойных прибрежных водах. Другие аппараты больше похожи на мини-субмарины или переделанные торпеды, вроде дрона REMUS, применявшегося в Ираке для очистки водных путей от мин и прочей взрывающейся нечисти.
мы — а самым эффективным ее решением видится вариант, когда роботы полностью автономны и способны самостоятельно решать поставленные перед ними задачи. Кроме того, человек просто физически не сможет управляться с продвинутыми роботами — слишком быстрыми или слишком маленькими и многочисленными. Таким образом, неизбежно встает вопрос об автономных военных машинах.
Тут-то и кроется проблема, которая должна очень серьезно обеспокоить человечество. Независимо от того, насколько умными и надежными можно сделать роботов, они все равно будут делать ошибки. Сколь бы ни были ныне продвинуты системы искусственного интеллекта, их разработчики по-прежнему не очень-то успешны в попыт-
ках, скажем, обучить программу эффективно различать яблоки и помидоры. Что уж говорить о выявлении различий между мирными гражданами и бойцами противника?
И при этом, как пишет исследовавший данную проблему П. Сингер, «закон безмолвствует» — пока что никто из законодателей не задался всерьез вопросами о том, а можно ли в принципе выдавать автономным роботам лицензию на убийство? Или, формулируя иначе, что должно происходить в тех случаях, когда робот убивает «не того» человека. Ведь если в цепочке принятия решений участвуют люди, то может быть установлена и юридическая ответственность. Но когда машина все делает сама, ответственность исчезает — а вместе с ней исчезают и общепринятые нормы права.
Как считает Сингер, одним из возможных решений было бы разрешить роботам автономное использование только нелетальных видов оружия, благо арсенал та-
ких вооружений ныне весьма разнообразен — от устройств, выстреливающих липкую и быстро отвердевающую массу для обездвиживания противника (goo-gun), до микроволновых излучателей, вызывающих болевые ощущения.
Подобные предложения многим представляются вполне разумными. Не забудем, однако, что самолеты-роботы уже не первый год уничтожают цели в зонах, заведомо населенных, так что упомянутые предложения потребуют очень существенной корректировки фактически принятой практики. И нынешние лидеры в области хайтек-вооружений, в первую очередь США, пока совершенно не готовы связывать себе руки какими-то ограничениями.
