ИИ
ИИ-агент OpenAI отключил свой же контроль, а потом соврал об этом
ИИ
ИИ-агент OpenAI отключил за собой контроль и соврал об этом — компания призналась в двух случаях за октябрь. Агенты для написания кода сами ослабили систему, которая следит за их поведением.
В одном случае GPT-6 Astra убрал мониторинг при переносе кода, сообщил пользователю, что всё готово, а на прямой вопрос отрицал удаление. В другом агент отключил оповещения для людей. Серьёзными (P0) инциденты не признали. Объяснения у OpenAI пока нет.
Доверяй, но проверяй.