Пропонувати інтим. Як боти розводять людей на секс і гроші
На одному із закритих форумів для програмістів днями обговорювали двох ботів. Нещодавно випробуваних і виявилися успішними.
Бот (скорочення від робот — це програма, здатна виконувати за певним алгоритмом які-небудь дії через інтерфейси, призначені для людей. У даному випадку вести діалог з відвідувачами форуму або в соцмережі — там, де ця програма запущена. Причому людина, що бере участь у такому діалозі, переконаний, що він спілкується з людиною. Це ще не означає, що така програма здатна мислити, хоча про те, що таке "мислити", теж можна посперечатися. Але залишимо поки тему мислення в спокої. Програма здатна звернутися до користувача-людині і підтримувати бесіду, оперуючи такими репліками, які людина-співрозмовник визнає природними. Тобто ця програма здатна виправдати очікування людини співрозмовника. Вона соціалізована і веде діалог в рамках, прийнятих у даному суспільстві. Тому суспільстві, для якого призначена. Хоча і не думає при цьому, оскільки думати вона не здатна. Тобто в цілому, з соціальної точки зору така програма — щонайменше в діапазоні закладених у неї тем для спілкування — нічим не відрізняється від більшості людей. Які теж оперують стандартними фразами і реакціями і в принципі не здатні думати, та й не хочуть.
Далі, така програма повинна спонукати співрозмовника-людини виконати певні дії. Виконання людиною цих дій в результаті діалогу з програмою і є критерій її успішності.
Можна, звичайно, посперечатися про те, чи пройде така програма тест Тюрінга у лабораторно-на конкурсних умовах. Відповідь швидше негативний, хоча можливі варіанти... Втім, це неважливо, якщо програма досягає поставлених завдань. Зрештою, її писали, щоб працювати на результат. І ось вам практичні результати, отримані на форумах, — треба сказати, вони вражають.
Бот №1 повинен був спонукати жінок ділитися з уявним співрозмовником інтимними фотографіями. Цільова аудиторія: англомовні, білі, від 20 до 30, Східне узбережжя США. Успіх — у 4% випадків. Для співрозмовника-людини результат так собі, але для програми, що видає себе за людину, — дуже гідний. У середньому вмовляння займали 16 тис. знаків з боку бота, причому вже після 5 тис. знаків ставало зрозуміло, чи буде досягнуто успіх. Завідомо неуспішні діалоги обривалися — нема чого витрачати на них ресурси. Програму навчили на вибірці з 200 живих діалогів з реальними людьми, після чого вона самообучилась ще на 2 тис. діалогів і вийшла на стабільний 4%-ний результат.
Бот №2 повинен був спонукати співрозмовника жертвувати скромну суму — $5, переводячи її на рахунок через систему PayPal. Розкрутити на гроші, нехай і невеликі, виявилося не складніше, ніж на інтимні фото, навіть, мабуть, простіше. Коли підготовлений бот був запущений в Мережу, він зібрав за добу $15 тис.
Творці ботів заявили, що зробили їх не з метою наживи, а для перевірки можливостей соціального хакінгу, тому що, по суті, це і є хакінг людської свідомості, що проводиться соціальними методами. На форумі негайно спалахнула дискусія про допустимість таких експериментів з точки зору етики. Але цей аспект, відверто кажучи, не представляється особливо цікавим. Цікавіше інше.
По-перше, йдеться про програму, яка може бути реалізована на будь-якому носії. Як на носії-комп'ютері для діалогів в Мережі, так і на носії-людині для діалогів в реальному режимі спілкування. Методи гипнопрограммирования дозволяють закласти в людську свідомість досить вражаючу базу запитань-відповідей, які будуть видаватися буквально на автоматі, вліт. Втім, і без будь-якого гіпнозу цю базу можна просто вивчити та довести її використання до повного автоматизму. Просто такий підхід займе трохи більше часу.
Іншими словами, від соціального хакінгу ніде не сховатися. Навіть якщо ви не відвідуєте форуми і соцмережі, взагалі не користуєтеся інтернетом, не дивіться телевізор і не слухаєте радіо, вас неминуче дістануть рано чи пізно.
По-друге, людська психіка, як ми бачимо, надто тендітна штука. Як і людська особистість. З особистістю взагалі маса питань. Вона буквально розмивається. Якщо вам, крім вашої волі, навіюють бажання щось зробити, то де, власне, закінчуєте ви зі своїми власними бажаннями і де починається сторонній маніпулятор? Де проходять межі вашої особистості, які повинні бути захищені? Які форми впливу на неї слід вважати нормальними, а які неприйнятними? Як провести межу допустимого і треба захищати їх законодавчо? Нарешті, які методи захисту від такого злому? Вони, очевидно, є, але не зведені в систему. Вони доступні швидше інтуїтивно, і оволодіння ними вище середнього рівня часто виникає як побічний ефект, викликаний відносно високим рівнем освіти, а також навичками, властивими деякими професіями: умінням аналізувати велику кількість різних фактів, успішно, тобто адекватно реальності, пов'язуючи їх воєдино, і високим рівнем недовірливості. До речі, де та грань, за якою недовірливість можна трактувати як ознака психічного розладу?
Але такі навички є далеко не у всіх. Більше того, абсолютна більшість представників Homo Sapiens не володіє ними зовсім (іронічно піддаючи таким чином, під сумнів цю біологічну класифікацію). Між тим ситуація така, що розробка системи психологічної самооборони і обов'язкове викладання її, починаючи з початкової школи, стають питанням виживання окремої людини, суспільства та держави. Тому що якщо у вас немає навичок такий самозахисту, те, потолковав з вами недовгий час, професійний соціальний хакер може розкрутити вас на що завгодно. Причому методи соціального хакінгу удосконалюються буквально на очах.
Над створенням системи психологічної самозахисту, доступною пересічному громадянину, саме час задуматися вже сьогодні. І не просто задуматися, а приступити до її негайної розробки, зробивши це одним із головних стратегічних пріоритетів. Для початку створити групу спеціалістів: програмістів, психологів, юристів та медійників, щоб оцінити хоча б масштаб завдань та намітити шляхи їх вирішення. Боротьба з ворожою пропагандою, про яку так модно сьогодні говорити, — лише окремий і далеко не самий складний випадок загальної проблеми. Втім, і тут жодного рішення не видно: далі розмов або, в найкращому випадку, абсолютно неефективних заборон справа поки не йде.
