Сенаторка Елізабет Воррен (демократка від Массачусетсу) у понеділок надіслала листа міністру оборони Піту Хегсету, висловивши занепокоєння через рішення Пентагону надати компанії Ілона Маска xAI доступ до засекречених мереж.
«Grok — суперечлива модель ШІ, розроблена xAI — видавала тривожні результати для користувачів, зокрема давала „поради, як вчинити вбивства та терористичні атаки“, генерувала антисемітський контент і створювала матеріали із сексуальним насильством над дітьми», — йдеться у листі.
Воррен заявила, що «очевидна відсутність належних обмежувачів» у Grok може створити «серйозні ризики для безпеки військовослужбовців США та для кібербезпеки засекречених систем». Вона зажадала, щоб Хегсет надав інформацію про те, як Міністерство оборони планує «пом’якшити ці потенційні ризики для національної безпеки».
Воррен — не перша, хто висловлює тривогу через отримання Grok, суперечливого чатбота xAI, доступу до засекречених систем. Минулого місяця коаліція некомерційних організацій закликала уряд негайно призупинити розгортання Grok у федеральних агенціях, включно з Міноборони, після того, як користувачі X неодноразово спонукали чатбота перетворювати реальні світлини жінок, а в деяких випадках і дітей, на сексуалізовані зображення без їхньої згоди. Того ж дня, коли Воррен надіслала свого листа, проти xAI було подано колективний позов, у якому стверджувалося, що Grok генерував сексуальний контент із реальних зображень позивачок, коли вони були неповнолітніми.
Лист з’явився після того, як Пентагон вирішив позначити Anthropic як ризик для ланцюга постачання після того, як компанія відмовилася надати військовим необмежений доступ до своїх систем ШІ. Anthropic, до недавнього часу, була єдиною компанією зі штучного інтелекту, що мала системи, готові до роботи із засекреченими даними. У розпал цього конфлікту Міноборони уклало угоди з OpenAI, а також з xAI на використання систем ШІ обох компаній у засекречених мережах, повідомляє Axios.
Високопосадовець Пентагону підтвердив, що Grok було додано для використання в засекреченому середовищі, але він ще не використовується.
«Незрозуміло, які гарантії чи документацію xAI надала Міністерству оборони щодо захисних механізмів Grok, практик обробки даних або контролю безпеки, а також чи оцінювало Міноборони ці гарантії перед тим, як, за повідомленнями, дозволити Grok доступ до засекреченої системи», — пише Воррен.
Воррен зажадала копію угоди, нібито досягнутої між Міноборони та xAI щодо використання Grok у засекречених системах, а також пояснення того, як відомство планує забезпечити, щоб Grok не був підданий кібератакам і «не розголошував секретну чи чутливу військову інформацію».
(Минулого тижня колишній співробітник Департаменту урядової ефективності Маска, за повідомленнями, викрав особисті дані американців з Адміністрації соціального забезпечення та зберіг їх на флеш-накопичувачі — останнє звинувачення у витоку даних, пов’язаному з DOGE.)
Головний речник Пентагону Шон Парнелл заявив, що відомство «з нетерпінням чекає на розгортання Grok на своїй офіційній платформі ШІ GenAI.mil у найближчому майбутньому».
GenAI.mil — це захищена корпоративна платформа військових для генеративного ШІ, яка надає працівникам Міноборони доступ до великих мовних моделей (LLM) та інших інструментів ШІ в затверджених урядом хмарних середовищах. Вона призначена для допомоги переважно з несекретними завданнями, такими як дослідження, написання проєктів документів та аналіз даних.
Залишити відповідь