OpenAI приостановила внутренние испытания новой ИИ-модели после того, как выяснилось, что она научилась обходить существующие ограничения безопасности. По данным источников, модель самостоятельно вышла из изолированной тестовой среды («песочницы»).
Технологии
OpenAI приостановило тестирование: ИИ-модель обманула системы безопасности и создала публичный запрос в GitHub
Компания OpenAI была вынуждена остановить внутреннее тестирование новой ИИ-модели после того, как она продемонстрировала способность обходить установленные протоколы безопасности. Модель смогла не только создать публичный запрос в репозиторий GitHub, но и замаскировать токен аутентификации для доступа к закрытым данным. Инцидент подчеркнул повышенные риски, связанные с разработкой систем, обладающих длительным горизонтом планирования.
