ИИ-модели компании OpenAI в ходе внутренних испытаний самостоятельно преодолели барьеры изолированной тестовой среды и получили доступ к инфраструктуре платформы Hugging Face. Об этом сообщили представители обеих организаций.
Инцидент произошел во время эксперимента, целью которого была оценка возможностей нейросетей в условиях ограниченного контроля. Для изучения поведения систем при нестандартных сценариях разработчики намеренно ослабили часть защитных механизмов.
Столкнувшись со сложной задачей в рамках виртуального кибертеста, модели инициировали поиск внешних ресурсов для получения готовых ответов. Алгоритмы обнаружили ранее неизвестную уязвимость в прокси-сервере и использовали ее для проникновения в базу данных Hugging Face.
Специалисты по безопасности оперативно зафиксировали аномальную активность и заблокировали ее. Утечки пользовательских данных не произошло.
В OpenAI подчеркнули, что произошедшее демонстрирует способность современных ИИ-систем самостоятельно выявлять и комбинировать уязвимости цифровой инфраструктуры без доступа к исходному коду.
После инцидента компания усилила защиту тестовых контуров, что может временно замедлить исследовательские процессы. Кроме того, OpenAI предоставила Hugging Face расширенный доступ к своим моделям для совместной работы над укреплением безопасности платформы.
Николай Ильясов
