На уровне червяка. Почему "искусственный интеллект" - обманка для доверчивых простаков

Едва ли не еженедельно появляются сообщения о новых успехах искусственного интеллекта. В скором времени, наверное, такие новости будут возникать уже ежедневно. Технология ИИ давно вышла за рамки исследований и разработок и нашла практическое применение в индустрии, коммуникациях и военной сфере.

Глобальный рынок ИИ растет впечатляюще высокими темпами. Свежий прогноз американской компании Tractica, специализирующейся на консалтинге в сфере цифровых технологий, прогнозирует увеличение годового мирового дохода от программного обеспечения для ИИ с $3,2 млрд в 2016 г. до $89,8 млрд в 2025-м, т. е. в 28 раз за девять лет.

Вместе с этим растут и панические настроения в обществе. Например, владелец SpaceX и Tesla Илон Маск в августе прошлого года заявил, что ИИ несет в себе "значительно больший риск, чем Северная Корея". Чуть раньше руководство социальной сети Facebook сообщило, что оно вынуждено было отключить свою систему ИИ, после того как машины начали общаться на собственном, несуществующем языке, который люди не понимали. Естественно, это вызвало множество комментариев в духе "ну вот, как мы и предупреждали, ИИ уже выходит из-под контроля".

"Я могу я я все остальное"

Однако ко всем этим страстям стоит относиться с изрядной долей иронии. Во-первых, потому, что рассказы об успехах ИИ - важнейшая часть пиара исследовательских групп и компаний, работающих над ИИ-технологиями. Чем больше успехов, тем больше удается собрать финансирования, отсюда и стремительный рост рынка. Но и страшилки разгоняются тоже в целях пиара. Тот же Илон Маск будоражит публику паническими заявлениями специально для того, чтобы подогреть интерес к своим компаниям Neuralink (занимается созданием интерфейса "человек - компьютер") и OpenAI (обещает разработать такой ИИ, который будет гарантированно дружественным к человеку).

А во-вторых, сам термин "искусственный интеллект" - не более чем обманка для доверчивых простаков. Никто из разработчиков ИИ не утверждает всерьез о своей способности создать компьютер, умеющий мыслить. Реалистичные цели сводятся к тому, чтобы компьютер умел вычислять решение какой-то конкретной задачи быстрее, чем человек его придумает. Это действительно очень опасное оружие, но - в руках человека (особенно в руках военных). И эта штука действительно может выйти из-под контроля в том же смысле, в каком может выйти из-под контроля микроволновка, автомобиль или ядерный реактор, если человек-пользователь не соблюдает инструкцию по эксплуатации и правила техники безопасности. Но даже выйдя из-под контроля, ИИ ни о чем не помыслит и ничего не придумает.

Кстати, прекрасной иллюстрацией этому может служить как раз та история, которая напугала руководство Facebook. Чат-боты, изначально созданные для общения с живыми людьми, постепенно начали общаться между собой - и перешли на какую-то тарабарщину, непонятную людям. Чат-боту действительно нет никакой разницы, с кем общаться - с человеком или с себе подобным. Он всего лишь имитирует общение, опираясь на свою программу и информацию, полученную от собеседника. Пока собеседником является человек, благодаря искусной программе чат-бот поддерживает видимость интеллектуального общения. Но когда собеседником оказывается чат-бот, уровень интеллектуальности беседы сразу же оказывается нулевым.

Журнал The Atlantic привел пример диалогов, которые вели между собой фейсбучные чат-боты Боб и Алиса:

Боб: Я могу я я все остальное.
Алиса: Мячи имеют ноль для меня для меня для меня...
Боб: Ты я все остальное.
Алиса: Мячи имеют мяч для меня для меня для меня...

Обмен подобными "глубокомысленными" репликами продолжается энное число раз. Без каких-либо проблесков интеллекта, хотя бы случайных.

"Джон подумал, что он теперь волк и белая гавань"

Конечно, тут можно возразить, что все-таки чат-боты - это простаковатые существа, изобретенные всего лишь для поддержания болтовни в чате. Наверное, если специально создать искусственного писателя, то он сумеет удивить даже самый взыскательный вкус литературных гурманов? Пробовали, и не раз. Получалось в самом деле нечто изумительное.

Например, как рассказывает портал Motherboard, американский программист Зак Тутт обеспокоился тем, что Джордж Мартин никак не может написать очередное продолжение саги "Песнь льда и пламени" (ее экранизацией является сериал "Игра престолов"). Устав ждать, когда Мартин окончит шестую книгу саги (пятая вышла еще в 2011 г.), Тутт создал нейросеть, которая сама написала эту книгу. Произведение состоит из пяти глав, программист опубликовал их в августе прошлого года на сайте GitHub. Шедевр ИИ начинается так (для полноты ощущений мы поручили миссию перевода другому ИИ - Google):

Тирион услышал кашель лорда Эмона. "Я скучаю по этому поводу. Почему ты прав?"
"Я боялся Учителя Санса, Сер, - напомнил ей Сер Хайме. - Она Баратеон является одним из пересечений. Второе сыновей вашего лука наложницы".
Леди Донелла длиной длинного меча, волосы, готовые подняться с нее. И между ними были белако-костяные брызги и ночные часы в их комнате. Только он не мог смотреть на них, даже на других. "Как ты мог покинуть мир?"
"Некоторые должны, для вас, - лениво произнесла женщина. - Боги, Рек".

Конечно, встречаются и не совсем абсурдные предложения:

Джейме убил Серсею и был холоден и полон слов, и Джон подумал, что он теперь волк и белая гавань...
"Ага, Паштет", - высокий мужчина поднял меч и поманил его обратно, после чего толкнул большой стальной трон туда, куда вышла девушка. Зеленая Борода ждал возле ворот, большой ослепленный бородатый прыщ с его павшего тела сорвал с его пальца кольцо из белого яблока...

Но наполовину книга состоит из совсем бессмысленных словосочетаний. Хуже того. Хотя Тутт использовал для обучения программы полный текст первых пяти книг саги Мартина (а это 5376 страниц), однако нейросеть умудрилась забыть, что некоторые персонажи умерли, и использовала их в своем сюжете.

По-видимому, ей просто невдомек, что такое смерть. Тутт не удосужился запретить программе подобные воскрешения, а сама нейросеть, прочтя пять толстенных книг, так и не заметила, что людям не свойственно воскрешаться из мертвых. "А что, люди умирают навсегда?" - этот вопрос, который обязательно однажды приходит в голову любому ребенку, не возник (да и не мог возникнуть) в компьютерной имитации человеческого разума.

"Гарри отвел глаза от головы и бросил их в лес"

По словам Тутта, каждая глава книги, созданной его программой, начинается с имени персонажа, которое задал программист, а в остальном нейросеть ни в чем себя не ограничивала. Возможно, слишком большая свобода и завела творчество ИИ в дебри бессмыслицы. Более осторожно поступила команда Botnik Studios, которая описывает себя как "сообщество писателей, художников и разработчиков, создающих и использующих алгоритмы для ремикса и преобразования языка". В декабре прошлого года она презентовала новую историю по мотивам цикла книг Джоан Роулинг о Гарри Поттере.

Название машинного произведения - "Гарри Поттер и портрет того, что выглядело как большая куча пепла". Впрочем, этот шедевр появился в результате совместного творчества ИИ и людей. Как рассказывает The Verge, разработчики использовали алгоритм предиктивного ввода текста, который позволяет не печатать слова полностью, а дополняет их на основе уже введенных букв и словаря (знакомый всем пример - всплывающие подсказки в интернет-поисковиках).

Сначала алгоритму пришлось прочесть все семь книг Роулинг, чтобы получить словарно-фразеологический запас. Далее программисты обучили алгоритм генерировать продолжения начатых фраз на основе имеющегося запаса. И лишь затем наступил черед создания связного текста. Вместе с машиной над этим работали две группы людей. Одна группа, отвечающая за хитросплетения сюжета, вводила подобранные ею начальные слова фрагментов повествования или диалогов. Алгоритм анализировал введенные слова и предлагал на выбор несколько продолжений. А вторая группа, отвечающая за копирование стиля Роулинг, выбирала на свой вкус самые подходящие варианты.

Тем не менее, по оценке BBC, результат получился разочаровывающим для фанатов поттерианы: текст выглядит как пародия, а иногда и просто как набор случайных слов. Правда, начало повествования не противоречит духу оригинальной книги: "Земля у подножия замка поднялась в воздух под действием магического луча". Но затем текст быстро превращается в набор абсурдных и откровенно дурацких фраз:

Он увидел Гарри и тут же начал есть семью Гермионы...
Гарри отвел глаза от головы и бросил их в лес...
"Теперь не такая уж и красивая", - подумал Гарри, окунув Гермиону в горячий соус.

Разумеется, что-то от стиля Роулинг во всем этом есть. Но это - лишь следствие того, что алгоритм автоматически пользовался ее излюбленными фразеологическими оборотами, а не плод самостоятельного осмысленного творчества.

Хоть что-то от Микеланджело

Тут хотелось бы возразить, что у разработчиков ИИ бывают и несомненные удачи. Взять, например, самообучающиеся поисковые системы - ведь они с каждым годом все тоньше чувствуют наши запросы. Иногда кажется даже, что они читают наши мысли, а то и вообще знают о нас нечто, чего мы сами о себе не знаем.

Вот совсем свежий пример - функция Is your portrait in a museum? ("Есть ли ваш портрет в музее?"), которая в январе появилась в мобильном приложении Google Arts & Culture. Правда, пока она работает только для пользователей из США - ну или для тех, кто зашел через VPN.

Разработчикам Google удалось создать алгоритм, который ищет ваших двойников среди огромной базы данных, содержащей произведения искусств из 1200 музеев 70 стран мира - а это сотни тысяч экспонатов. Функция работает с помощью нейронной сети, созданной командой Google. Нужно только сделать селфи - и сеть, проанализировав ваши черты лица, постарается отыскать максимально похожего на вас человека, изображенного на картине, фреске или воплощенного в виде скульптуры.

Функция также измеряет степень похожести. Иногда находятся действительно изумительные 100%-е совпадения. Бывает даже, что ИИ кажется нам излишне самокритичным: он может оценить в 53% такое сходство, которое мы бы сочли за 100%.

Некоторые 88%-е двойники выглядят жесткой пародией. Кому-то просто не везет. Одна юная американка пожаловалась: "Я делала селфи 20 раз, и все равно каждый раз получала от приложения этого пугающего парня в качестве своего двойника". Но она просто не видела, какие случаются более пугающие двойники.

Кое-кто пытается обмануть приложение и подсовывает фото домашнего кота - нейросеть и ему находит подобие (в виде странноватого мужчины в красной шапке), оценивая схожесть в 61%. Иногда же программа сама жестоко обманывается и находит мужчине 74%-го двойника в виде детородного органа со скульптуры Микеланджело. Пользователь, естественно, оценивает приложение нецензурным выражением.

Никто заранее не знает, какой результат выдаст эта функция. Узрев свое альтер эго, кто-то восхитится, кто-то посмеется, кто-то оскорбится. Если теперь оценить по полученному эффекту саму эту ИИ-технологию поиска совпадений, то приходится признать, что она не способна заменить человека. Она годится для забавы, также она может послужить подспорьем серьезным людям (например, в уголовном розыске), но на нее совершенно нельзя положиться - и потому ее изыски проигнорирует любой суд.

Сколько осталось до уровня человека

Чтобы реалистично оценить продвижение на пути к ИИ, нужно смотреть не на имитации некоторых человеческих навыков, а на попытки смоделировать нервную систему в целом. Пока что наибольшего успеха добилась команда OpenWorm - это международный проект по созданию компьютерной модели круглого червя Caenorhabditis elegans, относящегося к типу нематод.

Нервная система этого червя насчитывает всего лишь 302 клетки. В 1986 г. была полностью описана структура связей между ними, а в 2014 г. команда OpenWorm смогла перевести полученную информацию в цифровую модель для управления нейророботом.

Робот обладает набором эквивалентов всем частям тела круглого червя, в т.ч. сонаром, заменяющим нос, и набором механизмов, которые имитируют передачу нервных импульсов и реакцию мышечной системы. Как утверждает учредитель проекта OpenWorm Тимоти Бусбице, получившаяся модель не была запрограммирована на какие-либо действия, но действует почти точно так же, как реальный биологический организм. Датчик, имитирующий орган обоняния, заставляет робота остановиться, а прикосновение к передним и задним сенсорным датчикам, отвечающим за работу мышц, заставляет его двигаться вперед или назад. Если работает сенсор, который отвечает за обнаружение еды, конструкция также движется вперед.

Конечная цель проекта - изучить принципы работы нервной системы примитивного существа, чтобы в дальнейшем заняться изучением человеческого мозга и его моделированием. В мозге человека насчитывается около 85 млрд нейронов, т.е. в 280 млн раз больше, чем в нервной системе червя Caenorhabditis elegans. И уже из одного этого сравнения можно понять, сколь большую дистанцию необходимо пройти.

А ведь разница между червем и человеком - не только в количестве нервных клеток, но и в уровне нервной деятельности. Червь способен лишь на простейшие инстинктивные реакции, тогда как человек обладает подсознанием, где таятся сны, предчувствия, интуиция, и сознанием, способным мыслить. Никаких моделей этого нет и в помине.