Техно

ООН запретит использовать универсальных солдат

Рботы-убийцы стали темой встречи экспертов ООН в рамках Конвенции ООН об обычных вооружениях

В ближайшие два дня на саммите ООН будет рассмотрен вопрос о моратории на разработку боевых автономных роботизированных систем (БАРС). Ничего хорошего для БАРС-ов - или так называемых роботов-убийц - это обсуждение не сулит. Речь пойдет о том, стоит ли запрещать эти разработки вообще или пока ввести мораторий "до лучших времен". Т.е. сам вопрос запрета не дебатируется.

О моратории на роботов-убийц - автономные системы с элементами искусственного интеллекта, которые "сами принимают решения" - говорят давно. Но до недавнего времени это был вопрос преимущественно теоретический. Роботы-убийцы - это все еще туманная перспектива, которая постоянно отодвигается под давлением обстоятельств технического и финансового толка.

Однако правительства нуждаются в новых типах вооружения и способах ведения войны в целом. Например, специфика войны, которую НАТО ведет на Востоке и которая уже много лет отнимает многи сил, жизней и денег, подталкивает разработчиков вооружений в совершенно определенном направлении - к созданию робота-солдата.

У человека с воображением идея вооруженного робота, который сам выбирает цель и принимает решение о ее уничтожении, скорее всего, вызовет содрогание и аналогии с разнообразными фантастическими "робото-апокалипсисами" - от "когтей" Филипа Дика до говорящих самосвалов "Матрицы". Но интересно, что и эксперты по вопросам вооружений в своих выступлениях время от времени уклоняются от болезненных столкновений с реальностью.

Чего стоит, например, любимый аргумент "антиБАРСовцев" - о "бесчеловечности" такого типа оружия. А какое орудие убийства - от стрелы с кремниевым наконечником до термоядерной бомбы - было "человечным"? Новые военные технологии мало что меняют в самой идее войны. Любые роботы, в том числе с ИИ - это только очередной тип вооружения. Но они вредят некоторым "полезным мифам". Вот и миф о том, что война может быть "гуманной", трещит по швам перед очевидной "бесчеловечностью" применения роботов-автономов. Но этот миф необходим - и его будут спасать, в том числе, ценой сдерживания технологий очевидно дегуманизирующих войну.

Эксперты также любят упомянуть о том, что роботы-убийцы превращают войну в "механическое уничтожение". Но то же самое лет сто назад, возможно, думали о пулемете. Что же касается сравнения БАРС-ов с ядерным оружием - аргумент вообще не выдерживает никакой критики, поскольку роботы-убийцы не являются оружием массового поражения.

Впрочем, кое-что общее с ядерным оружием все же есть. Легализация роботов-убийц может повлечь за собой цепную реакцию с непредсказуемыми последствиями. Конечно, речь идет совсем не о том, что их ИИ разовьется в полноценное сознание и они захватят власть, а человечество пустят под нож - такого теперь, кажется, уже даже в приличных фантастических романах не сыщешь. Проблема заключается в том, что за такими вооружениями, например, трудно проследить, а бряцать ими, как во время гонки вооружений бряцали по обе стороны железного занавеса, никто не станет. То, как и для чего конструируют роботов-убийц будет оставаться под спудом до последнего момента - а иногда и после него. Такие роботы могут применяться не только в военных конфликтах - в России, например, заявляют о разработке автономных роботов-полицейских. Их могут использовать для диверсионной деятельности и, главное, в террористических целях - причем определить "кто виноват" будет непросто, поскольку робот может быть украден, перепрограммирован, заражен вирусом и т.д. А еще бывают просто ошибки. Которые в данном случае будут оплачены кровью.

Эксперты, настроенные "проБАРСовски" считают, что с выпуском таких роботов надо просто повременить - до тех пор, пока все не будет просчитано и вылизано до последней детальки. И это было бы приемлемое предложение, если бы речь шла именно и только о технологии. Но главная закавыка не в железе, а, как обычно, в душе человеческой.

Концепция создания машины, чья основная функция - убийство - серьезный этический вызов. Машина, которая принимает решение - вообще звучит неприятно для человеческого уха, а если это вопрос жизни и смерти - просто неприемлемо. Кроме того, экспертов очень тревожит то, что к роботам-убийцам не готово правовое поле. Пока радетели за роботов-убийц подсчитывают преимущества, в частности, указывая на то, что машина неподвержена психологическим срывам и обидным ошибкам, т.е. выпуск БАРСов обязательно сократит collateral damage, эксперты в области права совершенно справедливо указывают на то, что "машинизация" войны открывает новые возможности в области военных преступлений. Просто потому, что машина не может отвечать на суде за свои действия.