Стрельба в Канаде: OpenAI будет сообщать правоохранителям о подозрительных разговорах в ChatGPT
Компания OpenAI заявила, что будет информировать правоохранительные органы о пользователях, если их диалоги с ChatGPT будут свидетельствовать о неизбежной и реальной угрозе. Такое решение было принято после стрельбы в одной из школ Канады, где погибли восемь человек
Компания направила письмо правительству Канады, где назвала несколько немедленных шагов, которые она предприняла в ответ на убийства, и отметила, что если бы они были предприняты ранее, полиция могла бы предотвратить трагическое событие. Ранее сообщалось, что OpenAI решила не сообщать правоохранительным органам о подозрительных сообщениях.
Речь идет о самой плохой в истории Канады стрельбе в школе, произошедшей 10 февраля в Тамблер-Ридж, Британская Колумбия. Тогда Джесси Ван Рутселаар убила восемь человек, после чего покончила с собой. До этого OpenAI заблокировала ее аккаунт в ChatGPT, но девушка смогла обойти ограничения, создав еще один аккаунт, о котором узнали уже после происшествия.
Первая учетная запись заблокирована в июне 2025 года за проблематичное использование сервиса, однако тогда OpenAI не выявила "вероятных и неизбежных планов", по которым компания могла бы обратиться в полицию. После этого Рутселаар каким-то образом смогла обойти ограничение стартапа и создать еще один аккаунт, который узнали только когда раскрыли имя стрелка – его сразу передали полиции.
Вице-президент OpenAI по вопросам глобальной политики, Энн О'Лири, заявила, что компания усилит протоколы по связи с полицией, "когда разговоры переходят границу неизбежной и вероятной угрозы". Она также сказала, что согласно новому расширенному протоколу направления дел правоохранительным органам, учетная запись Рутселаар, заблокированная в июне, сразу была бы передана полиции, если бы ее обнаружили сегодня.