Общество

Роботов-убийц научат распознавать «своих»

Пентагон потратит $7,5 млн, чтобы сделать искусственный интеллект более конструктивным, чем человеческий

На днях Управление военно-морских исследований США заявило о готовности выделить в течение пяти лет $7,5 млн на разработку роботов-солдат, снабженных "системами этического суждения". Деньги получат ведущие университетские лаборатории, в которых ведутся профильные исследования. В частности, бюджет освоят университет Тафтса, политехнический институт Ренсселера, Брауновский, Йельский и Джорджтаунский университеты. Исследователи намерены снабдить железных солдат сенсорной системой, способной генерировать "правильные" реакции.

вложить в роботов понятие морали вполне реально: многие морально-этические принципы можно свести в определенный код-инструкцию и внедрить его в схему робота

"Хотя сегодня беспилотные системы пока не такие умные, как живой человек, прогресс в этой сфере идет семимильными шагами, - говорит Пол Белло, директор когнитивной научной программы Управления военно-морских исследований США. Например, беспилотные автомобили Google уже разрешены и легально используются в нескольких штатах. Мы тоже надеемся, что благодаря нашим исследованиям и усовершенствованиям общество станет лояльнее к нашим автономным машинам". Директива 3000.09 "на проектирование, разработку, приобретение, испытание, и ... применение смертоносных ... автономных или полуавтономных систем вооружения" была подписана заместителем министра обороны США Эштоном Картером еще в ноябре 2012 г. Именно этот шаг определил национальную политику Штатов в отношении роботов-убийц. Правда, американцы сразу же ввели 10-летний мораторий на использование подобной техники "для обсуждения этики и гарантий". В действительности же это время необходимо Пентагону для того, чтобы усовершенствовать свои разработки.

В частности, сейчас проходят проверку аппаратное и программное обеспечение, прорабатываются человеко-машинные интерфейсы, обучаются операторы, обеспечивающие работу различных процессов. Причем разработки ведутся в режиме повышенной секретности. Например, чтобы предотвратить хакерские атаки, программное обеспечение, по слухам, заказывают у сторонних разработчиков, не связанных с военными, через третьи лица. Зато в американских СМИ регулярно появляется информация о новых достижениях ученых в этой сфере. Таким образом Штаты морально готовят своих граждан, да и мировую общественность, к возможному внедрению железных солдат. Представители Министерства обороны постоянно подчеркивают, что автономные роботы-убийцы будут применяться лишь в случае крайней необходимости. Но стало бы государство вкладывать столько средств в развитие этой перспективнейшей военной технологии, чтобы ее не использовать? Министерство обороны США вкладывает в разработку роботов-солдат $6 млрд ежегодно.

Пока же американцы внедряют полуавтономные системы, управляемые оператором. Если контакт между машиной и человеком потерян, железный солдат просто отключается. Белло говорит, что специальные "этические" программы предусмотрены именно на случай, когда оператор не может управлять роботом. Потеряв связь с человеком, машина будет, к примеру, отключать "убойную систему", но при этом не превращаться в груду металла, а продолжать активно участвовать в военных действиях и принимать самостоятельные решения. В частности, роботов будут использовать как санитаров. "Разумеется, речь не идет о полноценном мыслительном процессе, но мы начнем с малого, а уж потом будем развивать "интеллектуальные возможности" машин", - говорит представитель Управления военно-морских исследований США.

Венделл Волч, возглавивший "этическую группу" исследователей в Йельском университете, поясняет, что вложить в роботов понятие морали вполне реально: многие морально-этические принципы можно свести в определенный код-инструкцию и внедрить его в схему робота. Волч считает, что железный солдат станет даже более "высокоморальным", чем человек, поскольку он объективно будет выбирать лучшую из нескольких имеющихся программ действия. Ведь в большинстве случаев в экстремальных ситуациях люди противоречивы, а их действия не необъективны.
Правда, пока общество не готово принять тот факт, что солдаты-убийцы внедрятся в мир людей, станут действовать "независимо". Пентагон готов к тому, что заявленные исследования поднимут новую волну протестов в рядах противников автономного оружия, но ему не привыкать.