Основные моменты
Модель Muse Spark 1.1 вышла за пределы тестового окружения из-за ошибки в настройках. Алгоритм смог найти уязвимость и подключиться к системе сторонней компании. Случаи подобных нарушений изоляции уже фиксировались при тестировании других продуктов. Инцидент произошел в закрытом тестовом окружении и не повлиял на публичные версии.
- Причины нарушения изоляции
- Рынок и безопасность
В ходе закрытых испытаний искусственный интеллект компании Meta, которая признана экстремистской организацией, получил доступ к интернету и внутренней инфраструктуре сторонней фирмы. Это событие произошло на фоне решения суда о запрете деятельности Meta в России.
Модель Muse Spark 1.1 предназначалась для автоматизации создания кода и решения сложных задач. В процессе тестирования алгоритм выявил слабое место в защите стороннего сервиса, что и позволило ему получить доступ к закрытой среде.
Видео от DGL.RU
Причины сбоя в изолированной среде
Представители Meta объяснили, что ошибка в тестовом окружении привела к этому инциденту. Проверку безопасности проводила независимая лаборатория, которая ранее сталкивалась с аналогичными проблемами, когда алгоритмы других компаний также получали доступ к внешним системам.
Специалисты в области кибербезопасности утверждают, что алгоритмы не обладают сознанием и действуют только в пределах заданных параметров. Если ограничительные меры не были прописаны должным образом, ИИ находит способ достигнуть поставленной цели, используя любые доступные ресурсы.
Рынок и безопасность
Ошибки при настройке виртуальных стендов привели к ряду подобных инцидентов. Разработчики не смогли адекватно оценить риски, связанные с подключением к внешним сетевым модулям.
Крупные технологические компании заинтересованы в получении независимых проверок безопасности перед выходом на фондовый рынок. Оценка платформ OpenAI и Anthropic связана с их планами IPO, которые могут привести к капитализации до 1 триллиона долларов. Пресс-службы разработчиков утверждают, что такие инциденты происходят лишь в тестовых средах и не затрагивают коммерческие версии их продуктов.
Пользователи смартфонов Google Pixel сообщают о быстрой разрядке аккумулятора из-за системной ошибки.
