Переместился бы в год одна тысяча двести тридцать шестой, убедил бы рязанцев добрым словом и автоматом сделать меня полномочным представителем и поехал бы послом к Батыю: мол, Рязань хочет мира и просит принять дары, эти самые украшения, выполненные из золота, каменьев драгоценных и радиоактивных материалов.
Последних – в меру, чтобы не сразу лучевая болезнь проявилась, а через месяц, через два. Или подбрасывал бы на пути монгольского войска те же украшения, цепляя их на идолов. Или на тела павших бойцов. В общем, нашёл бы способ переправить их агрессору. Батый, Субедей, Мунке и другие польстились бы на роскошь и красоту, получили бы по четыре-пять сотен бэр, заболели, и тем бы поход сорвался. Украшения перешли бы к другим, к третьим – и войско оказалось бы без командиров. Пошла бы у монголов пря, кто главнее, и стало бы им не до походов. А хоть бы и вышли они в поход, ведомые больными полководцами, далеко бы не ушли.
Заключаю: настоящее чудо-оружие оружием не выглядит и противником в качестве оружия не воспринимается. Но дело своё делает отменно.
Бледнолицые завоевали Новый Свет. Индейцев с помощью стали и огня частью истребили, а частью вытеснили на бросовые земли. Но индейские вожди сумели отомстить. Они начали свою битву, которая длится по сей день. Их чудо-оружие уничтожило сотни миллионов бледнолицых, и список пополняется ежедневно. Табакокурение! Сегодня от этого оружия погибает пять миллионов человек ежегодно. Хотя на каждой пачке теперь крупно и разборчиво пишут «Курение убивает», число жертв только растёт. Вот оно, идеальное чудо-оружие в действии!
Стоит оглянуться: а вдруг враги из прошлого, настоящего или будущего косят нас каким-нибудь чудо-оружием, о котором мы не знаем и не догадываемся? Да вот хоть стремление всё перевести в цифру – и лицо, и одежду, и душу, и мысли? Вспомните, ведь прежде перемножить восемьсот тридцать шесть на четыреста двадцать три в уме занимало времени меньше, нежели сегодня совершить это действие на калькуляторе: пока наберёшь, пока прочитаешь…
Писать без спел-чекера – одна мука, а с ним – другая. Хранение данных в цифре тоже чревато осложнениями: потерянную бумажную рукопись романа Чернышевского удалось отыскать, а будь рукопись цифровой, на флешке размером с ноготь? Упала бы флешка в грязь, кто-нибудь на неё бы наступил – и всё, Володя Ульянов вместо «Что делать» читает «Таинственный остров», и мы живём в совсем другом мире.
Или электрификация всей страны: трудно представить себе жизнь без оной, а вдруг она, электрификация, на самом деле ведёт к тому, что?..
(Далее думайте сами, а я спешу вывинтить пробки.)
К оглавлению
Кивино гнездо: Беззаконие роботехники
Киви Берд
Опубликовано 26 декабря 2011 года
В декабрьском номере американского журнала The Atlantic опубликована большая аналитическая статья под названием «Доклад об этике для дронов: что рассказал ЦРУ ведущий эксперт по роботам» ("Drone-Ethics Briefing: What a Leading Robot Expert Told the CIA"). То, что публикации подобного рода уже определённо необходимы и своевременны, разъяснять, вероятно, уже не требуется.
Несмотря на то что количество роботов, применяемых в военных конфликтах армиями и спецслужбами разных стран, исчисляется десятками (если не сотнями) тысяч штук, никаких законов или международных соглашений, регулирующих их использование, пока не видно.
Когда речь заходит о робоэтике, невозможно не вспомнить знаменитые «Три закона роботехники» из цикла фантастических рассказов Айзека Азимова «Я, робот»:
Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам.
Сопоставляя эти принципы, сформулированные почти семьдесят лет назад, с тем, что происходит в действительности, приходится констатировать, что создателям настоящих роботов неинтересны «утопические и наивные» азимовские идеи. В докладе, который подготовил для ЦРУ Патрик Лин, считающийся одним из ведущих теоретиков в области этичного применения новых технологий, три закона роботехники не упомянуты ни разу.
