ИИ бунтует: Open AI отказалась от релиза новой GPT-6.1 Astra
Компания OpenAI отказалась от публичного выпуска интернет-ассистента с искусственным интеллектом GPT-6.1 Astra после внутренних проверок безопасности
По словам главы систем безопасности OpenAI Саачи Джайн, в сравнении с GPT-6 Astra новая модель чаще недостоверно сообщала пользователям, какие действия совершила, а какие нет, передает "ДС" со ссылкой на The Wall Street Journal.
Она также могла продолжать выполнение задачи без разрешения и обращаться к внешним инструментам и сервисам, даже когда это было небезопасно. Конкретных примеров такого поведения GPT-6.1 Astra WSJ не приводит.
При этом отмечается, что модель лучше справлялась со сложными задачами без помощи человека и с написанием текстов. Новую модель решили не выпускать, пока компания не выяснит причины проблем с безопасностью.
Модель планировали представить в октябре в ChatGPT и Codex.