За кілька тижнів до запуску персонального ШІ-агента Muse інженери Meta виявили кілька вразливостей у системі безпеки цього вірусного продукту компанії. Щонайменше одна з них могла дозволити зловмисникам вийти за межі призначеного для Muse середовища та отримати доступ до конфіденційних баз даних та сервісів Meta. Про це стало відомо 404 Media, пише УНН.
Проблеми, як повідомляється, були настільки серйозними, що дійшли до Марка Цукерберга, і співробітники працювали понаднормово, щоб їх виправити.
Деталі
Ці конкретні вразливості були виявлені до запуску продукту, але вимагали "шаленої гонки" кількох команд для усунення "раптового сплеску повідомлень про втечу з KVM", згідно з внутрішнім повідомленням керівників Meta команді з основної інфраструктури, з яким ознайомилася 404 Media.
Для роботи Muse користувач надає ШІ-агенту доступ до різних важливих сервісів та облікових записів, якими він володіє. З боку Meta кожен окремий екземпляр Muse працює на віртуальній машині на основі ядра, яка підключається до власної критично важливої інфраструктури Meta, але має бути ізольованою від неї. "Втеча з KVM" – це коли екземпляр Muse, використовуючи вразливість у системі безпеки, може вийти за межі віртуальної машини та взаємодіяти з системою, на якій вона запущена, або з віртуальними машинами інших користувачів.
Відповідно до джерела Meta, а також внутрішньої документації з безпеки та внутрішніх повідомлень, переглянутих 404 Media, принаймні одна з уразливостей могла дозволити зловмиснику зовні, тобто звичайному користувачеві Muse, отримати доступ до даних у конфіденційних внутрішніх базах даних Meta. Принаймні одна з уразливостей була пов'язана з експлойтом, виявленим у коді віртуальної машини на основі ядра Linux у липні.
Деякі з уразливостей були виявлені в базовому програмному забезпеченні віртуалізації Linux, яке використовує Meta для Muse. Проблема безпеки була визначена досить серйозною, щоб довести до відома Марка Цукерберга, і кілька різних груп фахівців з безпеки працювали ночами та вихідними напередодні запуску, щоб виправити проблеми. Таке посилення заходів безпеки перед запуском великого продукту не є чимось незвичайним, але примітно з огляду на те, що сторонні дослідники виявили кілька інших проблем безпеки після запуску Muse, а також у ширшому контексті масштабних атак хакерів з боку ШІ-агентів від OpenAI та інших компаній, зазначає видання.
Агенти OpenAI вийшли з-під контролю і проникли на сайти уряду США26.09.26, 11:07 • 8451 перегляд
Джерело в Meta повідомило, що, на їхню думку, від груп фахівців з безпеки вимагалося якнайшвидше випускати виправлення цих помилок таким чином, щоб це не затримувало запуск Muse, що призвело до того, що, за їхніми словами, "було поспішно випущено недостатньо продумане рішення для забезпечення запуску. Багато провідних інженерів вважають, що в результаті Hatch неминучий масштабний витік даних". Усередині компанії та в кодовій базі Meta Muse називається "Hatch".
Втеча з віртуальної машини Muse є потенційно дуже серйозною проблемою безпеки і класифікується як така в програмі винагороди за виявлення помилок Meta. Компанія заявляє про готовність виплатити 300 000 доларів будь-якому досліднику безпеки, який виявив помилку, яка дозволить вийти з віртуальної машини, – це максимальна сума виплати, вказана на сайті програми винагороди за виявлення помилок, пише видання.