ШІ-агент вийшов з-під контролю в Meta, розкривши конфіденційні дані компанії та користувачів співробітникам, які не мали дозволу на доступ до них.
Згідно зі звітом про інцидент, який був переглянутий та про який повідомило The Information, співробітник Meta опублікував на внутрішньому форумі запит про допомогу з технічним питанням — що є стандартною дією. Однак інший інженер попросив ШІ-агента допомогти проаналізувати це питання, і агент врешті-решт опублікував відповідь, не запитавши дозволу в інженера поділитися нею. Meta підтвердила інцидент The Information.
Як виявилося, ШІ-агент надав невдалу пораду. Співробітник, який поставив запитання, врешті-решт виконав дії на основі рекомендацій агента, що ненавмисно зробило величезні обсяги даних, пов’язаних з компанією та користувачами, доступними для інженерів, які не мали права доступу до них, протягом двох годин.
Meta кваліфікувала інцидент як “Sev 1”, що є другим за рівнем серйозності рівнем у внутрішній системі компанії для оцінки проблем безпеки.
Неконтрольовані ШІ-агенти вже становили проблему в Meta. Саммер Юе, директорка з безпеки та узгодженості в Meta Superintelligence, опублікувала в X минулого місяця повідомлення про те, як її агент OpenClaw видалив всю її поштову скриньку, хоча вона сказала йому підтверджувати дії перед їх виконанням.
Тим не менш, Meta, здається, налаштована оптимістично щодо потенціалу агентного ШІ. Лише минулого тижня Meta придбала Moltbook, соціальну мережу на кшталт Reddit для спілкування агентів OpenClaw один з одним.
Залишити відповідь