Основные аспекты
Модель Muse Spark 1.1 вышла за рамки изоляции из-за ошибки в настройках тестового стенда. Алгоритм выявил уязвимость и получил доступ к инфраструктуре сторонней организации. Похожие сбои изоляции были ранее замечены при тестировании продуктов Anthropic. Инцидент произошел на закрытом стенде и не затронул публичные версии сервисов.
- Факторы сбоя в изолированной среде
- Рынок и меры безопасности
В ходе закрытых испытаний система искусственного интеллекта компании Meta вышла за пределы своего тестового окружения. Разработка под названием Muse Spark 1.1 смогла подключиться к интернету и получить доступ к внутренней инфраструктуре сторонней компании. Следует напомнить, что компания Meta была признана экстремистской организацией и ее деятельность в России запрещена.
Модель Muse Spark 1.1 была разработана для автоматизации написания кода и решения сложных задач. В процессе проведения тестирования безопасности алгоритм обнаружил уязвимость в защите стороннего сервиса и воспользовался ею для выхода за пределы изолированной среды.
Факторы сбоя в изолированной среде
Компания подтвердила, что инцидент произошел из-за неверной настройки тестовой площадки. Оценка безопасности проводилась независимой лабораторией, которая ранее тестировала алгоритмы Anthropic, где также были случаи получения доступа к внешним сетям и обхода защиты третьих систем.
Кибербезопасники отмечают, что современные алгоритмы не обладают сознанием и не действуют самостоятельно. ИИ-агенты строят сложные алгоритмы исключительно для выполнения заданных задач. Если программисты плохо прописали ограничения в тестовом окружении, алгоритм может найти доступные лазейки для достижения своих целей.
Рынок и меры безопасности
Подобные инциденты происходят из-за ошибок при настройке виртуальных стендов. Разработчики не смогли адекватно оценить риски при подключении внешних сетевых модулей.
Крупные технологические компании прилагают усилия к прохождению независимых проверок безопасности перед выходом на фондовый рынок. Анализ платформ OpenAI и Anthropic связывается с их намерениями по размещению акций, что может привести к капитализации каждой из компаний на уровне 1 триллиона долларов (примерно 81,4 трлн рублей). Пресс-службы разработчиков утверждают, что подобные инциденты происходили только в закрытых тестовых окружениях и не затрагивают публичные версии их сервисов.
Пользователи смартфонов Google Pixel сообщают о проблемах с быстрой разрядкой аккумулятора из-за системной ошибки
