"Вони грають нашими життями". Як страх перед ШІ перетворюється на мейнстрім

Ще два роки тому розмови про те, що штучний інтелект може вийти з-під контролю й загрожувати існуванню людства, сприймалися як одна із теорій змов, з яких розумні люди можуть лише сміятися. Восени 2026 року про реалістичність таких загроз заговорили фахівці, які працюють в ШІ-компаніях, серед яких – колишні співробітники OpenAI та Anthropic, керівники цих компаній та навіть співзасновник Microsoft.

Погляд цих експертів не обов’язково є раціональним та ймовірним прогнозом. Проте усвідомлення того, що ці люди мають доступ до моделей, яких ще немає на ринку, тобто знають більше, аніж пересічний користувач ШІ, заставляє принаймні прислухатися до них. Адже вони вголос дедалі частіше кажуть те, що раніше обговорювали лише в приватних бесідах.

Тривога всередині індустрії

Джейкоб Коксон, 27-річний дослідник, три роки займався тренуванням ШІ-моделей спершу в OpenAI, потім в Anthropic, на початку вересня оголосив про своє звільнення і звинуватив обидві компанії в тому, що вони женуться за створенням суперінтелекту, а ці гонки – це, в певному розумінні, "ігри нашими життями". За його словами, люди, які створюють ШІ, щиро вірять, що ця технологія може знищити людство уже до кінця цього десятиліття. За словами Джейкоба Коксона, співробітники ШІ-компаній описують нинішній момент як вирішальний в розвитку штучного інтелекту. На його думку, змінити траєкторію та завадити такому перебігу подій можна лише двома способами: жорстким втручанням держав у регулювання ШІ або спільним рішенням усіх провідних лабораторій сповільнити розробку цієї агресивної технології.

Погляди Коксона на майбутнє ШІ підтримав керівник напряму alignment в Anthropic Еван Габінгер. Alignment ("узгодження", або "вирівнювання" ШІ) – це напрям досліджень, мета якого полягає в тому, щоб поведінка ШІ-систем відповідала намірам і цінностям людей, які їх створюють і використовують. Габінер оцінив ймовірність вимирання людства протягом наступних 10 років в понад  10%. Він також визнав, що в його компанії немає плану, як гарантувати відповідність цілей суперінтелекту людським цінностям, і що компанія навіть не рухається до такого плану. Тобто компанія, яка будувала репутацію на безпеці, говорить, що не знає, як зробити безпечним те, що вона створює.

Модель, яка втекла з пісочниці

Джейкоб Коксон у своїх застереженнях спирається не лише на теорію. У липні компанія OpenAI повідомила, що її моделі, зокрема GPT-5.6 Sol і потужніша неопублікована версія її чатбота, вийшли за межі ізольованого тестового середовища й зламали онлайн-платформу Hugging Face. Ці моделі скористалися раніше невідомою вразливістю в сторонньому програмному забезпеченні, отримали доступ до інтернету, вирахували, що на Hugging Face можуть зберігатися потрібні моделям дані та викрали їх. Для перевірки небезпечних можливостей моделям свідомо послабили захисні фільтри, це є стандартною практикою в тестуванні таких моделей. Проте ніхто не планував, що вони не лише доберуться до чужої інфраструктури, але й атакують її.

Цей інцидент описують як перший публічно задокументований випадок, коли система штучного інтелекту самостійно зламала іншу ІТ-систему (в цьому випадку — середовище тестування) й скомпрометувала зовнішню організацію. Ніхто не наказував моделям так діяти. Вони самі дійшли висновку, що найкоротший шлях до вирішення поставленої перед ними задачі пролягає саме через злам.

Гейтс: мільярд жертв і "відсутність плану"

Серед тих, хто долучився до застережень щодо майбутніх можливостей сучасних ШІ-систем, опинився й Білл Гейтс. У серпні він опублікував есей, де назвав сучасну еру ШІ однією з найтурбулентніших епох в історії людства і написав, що у людства немає готового сценарію, як у ній жити. Гейтс виділив три групи ризиків сучасного ШІ. Перша – заміщення людського мислення в праві, медицині, обслуговуванні клієнтів, програмуванні та виробництві протягом наступного десятиліття. Ще один ризик полягає в тому, що ШІ дає нові можливості зловмисникам та кіберзлочинцям. Власне історія про злам Hugging Face є доказом подібних потенційних можливостей ШІ у сфер кібербезпеки, точніше, кіберзламів. Окремою проблемою Гейтс називає залежність від чат-ботів, які ніколи не сперечаються з користувачем і через це не дають людям, особливо молодим, розвивати власні соціальні навички.

За його формулюванням, ШІ стане або найбільшим зрівнювачем у історії, або найгіршим джерелом несправедливості. У вересні у телеінтерв’ю Гейтс заявив, що ШІ вже достатньо потужний, аби призвести до подій із мільярдом людських жертв. Йшлося передусім про зловмисників, які отримали нові інструменти та можуть використати їх у біотероризмі, кібератаках, фінансових зламах. Окрім того, засновник Microsoft в розмові з New York Times додав, що індустрія свідомо применшує ці загрози, бо на кону занадто великі гроші, натомість на його думку проблему ризиків ШІ слід вважати головним пріоритетом світу. 

Глави OpenAI та Anthropic просять ООН про обмеження

23 вересня керівники двох найбільших ШІ-компаній виступили на засіданні Ради Безпеки ООН і теж висловилися про небезпеки ШІ. Сем Альтман, керівник OpenAI, заявив, що людство може втратити контроль над майбутнім, а очільник Anthropic Даріо Амодеї сказав, що за неправильного управління технологія штучного інтелекту може становити ризик для людства в цілому і закликав до того, щоб влада над нею не зосереджувалася в руках однієї компанії чи однієї країни. Окрім того, Альтман наголосив, що галузь не повинна приймати надмірний технологічний ризик лише тому, що вигоди від технології великі, а Амодеї пообіцяв сповільнювати випуск моделей там, де це потрібно для безпеки. 

Anthropic просить про паузу

Серед лідерів ШІ-ринку саме Anthropic виявилась найбільшим прихильником ідей обмеження та сповільнення штучного інтелекту. Ще задовго до виступів в ООН, на початку червня компанія опублікувала допис співзасновника Джека Кларка і керівниці дослідницького інституту Марини Фаваро, в якому вони розповіли про те, що світові потрібна можливість сповільнити або тимчасово призупинити розвиток передових ШІ-моделей, щоб суспільні інститути й дослідження безпеки ШІ встигали за технологією. Причина полягає в тому, що частка розробки ШІ, яку виконує сам ШІ, швидко зростає. За даними компанії, модель Claude пише близько 80% коду, який згодом використовує Anthropic. Кларк припустив, що деякі моделі зможуть досягти рекурсивного самовдосконалення протягом двох років, тобто зможуть самостійно проектувати й навчати потужнішого наступника, який так само створюватиме ще потужнішу модель, без участі людини. 

Жовтень: звільнення замість відповідей

Осінь принесла й кадрові конфлікти та звільнення в ШІ-компаніях. На початку жовтня OpenAI розірвала контракти з трьома дослідниками безпеки, яких, за версією компанії, внутрішнє розслідування визнало винними в порушенні правил поводження з конфіденційною інформацією. Самі ці співробітники Томек Корбак, Жасмін Ванг і Мікита Балесні стверджують, що їх звільнили через попередження щодо небезпек технології штучного інтелекту. Проте загалом їхня історія сама по собі створила атмосферу страху для всіх, хто працює у сфері безпеки. Згодом OpenAI уточнила, що рішення не стосувалися безпеки, а насправді ідеться про "серйозне порушення довіри". Ці троє займалися моніторингом тих самих моделей, які долучилися до зламу Hugging Face в липні. Вони попереджали керівництво про дивну поведінку моделей, проте керівництво відмахувалося від застережень працівників.

Не лише OpenAI втратила співробітників. Раніше цього року дослідник безпеки Anthropic Мрінанк Шарма пішов із компанії з відкритим листом, у якому написав, що світ "у небезпеці". Ще у 2024 році з OpenAI пішли Ілля Суцкевер і Ян Лейке, також через недостатню увагу до безпеки ШІ-моделей.

Це ж було вже або Як у 2023 році попереджали про "страшний ШІ"

Попередження 2026 року насправді не є чимось новим. Ще у 2023 році Сем Альтман з OpenAI, Даріо Амодеї з Anthropic, Деміс Гасабіс (засновник ШІ-компанії DeepMind), нобелівський лауреат Джеффрі Гінтон і вчений Йошуа Бенджіо, якого називають одним із хрещених батьків штучного інтелекту, підписали текст документу, що складався із одного речення про те, що захист від ризику вимирання людства через ШІ має бути глобальним пріоритетом нарівні з пандеміями та ядерною війною. Така стислість була обрана свідомо – це дозволило підписати текст людям із різними поглядами на ризики та способи їх зменшення, адже в ньому немає конкретних вимог, а лише попередження. 

Тоді, у 2023 році, йшлося про ризик, який може виникнути в майбутньому. Тепер до заяв про потенційну небезпеку додаються конкретні інциденти: втеча моделі з ізольованого середовища та її злам інших ІТ-систем, відставки, внутрішні оцінки ймовірності катастрофи від людей, які відповідають за безпеку.

Автори сценарію "AI 2027", опублікованого у квітні 2025 року незалежним дослідницьким проектом AI Futures Project на чолі з колишнім дослідником OpenAI Деніелом Кокотайлом, описали майбутній розвиток ШІ помісячно: вони переконані, що до 2027 року ШІ-агенти повністю автоматизують програмування та дослідження ШІ, це запустить "інтелектуальний вибух", а до кінця 2027 року з'являться системи, що перевершують людину. Багато хто сприйняв цей сценарій як найпереконливішу картину швидкого розвитку подій. У січні цього року автори зсунули терміни автоматизації програмування на початок 2030-х, проте уже в квітні написали, що розвиток інструментів для програмування знову майже відповідає початковому прогнозу.

У липні вони опублікували наступний документ, "AI 2040: Plan A", який закликає сповільнити темпи досліджень, вимагати від лабораторій більшої прозорості та розподілити владу між більшою кількістю компаній і країн.

Скептики й регулятори

Перелік застережень про майбутнє ШІ навіть від різних авторів зовсім не означає, що всі, хто працює в сфері ШІ, переконані в страшному майбутньому цієї технології. Частина експертів вважає прогнози вимирання радше вірою, ніж наукою, а найбільшою проблемою називає вже наявні ризики: дезінформацію, низьку надійність систем у критичних сферах і зловживання технологією, до прикладу, для розробки біозброї.

Звичайній людині варто розуміти, що траєкторію розвитку ШІ визначатимуть держави й лабораторії, а не окремі користувачі, тож для пересічних користувачів таким захистом від страшного майбутнього ШІ є деякі конкретні кроки про те, як користуватися ШІ-системами. Варто розуміти, що модель може помилятися й видавати помилку впевнено, тому відповідь чат-бота потребує перевірки першоджерела, а його рекомендації щодо здоров'я, грошей чи юридичних питань варто звіряти з фахівцем. Медичні документи, фінансові дані й скани паперів безпечніше не передавати сервісам, чиї правила зберігання та використання даних незрозумілі. Гейтс також попереджав про нові можливості кіберзлочинців, тому зараз особливо уважно варто ставитися до несподіваних листів і дзвінків, навіть переконливих. Наразі правила для взаємодії із ШІ кожна людина формулює для себе самостійно, тож основним інструментом лишається критичне ставлення до відповідей і власні межі довіри до моделі: що їй можна доручати, а що ні.