Що якщо Grok Елона Маска витече класифіковану інформацію? Елізабет Воррен занепокоєна—Пентагон ні

Коротко

• Сенатор Воррен надіслала листа міністру оборони Піту Хегсету з вимогою відповісти щодо доступу Grok до Пентагону
• Охоронні агентства попереджали про ризики Grok, але Пентагон, здається, йде далі
• Історія Grok включає шокуючі deepfake-зображення неповнолітніх, антисемітські висновки та витоки розмов

Сенатор Елізабет Воррен хоче з’ясувати, як чатбот, який нібито створив мільйони deepfake-зображень, включаючи компрометуючі зображення неповнолітніх, опинився з ключами до найтаємніших систем Пентагону. У неділю Воррен надіслала чотирьохсторінкового листа міністру оборони Піту Хегсету з вимогою відповісти щодо рішення Міністерства оборони надати Elon Musk’s xAI доступ до секретних військових мереж, що, за її словами, було зроблено, хоча кілька федеральних агентств піднімали тривогу. «Я пишу щодо моїх занепокоєнь з приводу рішення Міністерства оборони (DoD) дозволити Elon Musk’s xAI доступ до секретних систем, незважаючи на занепокоєння, висловлені кількома федеральними агентствами, включаючи Агентство національної безпеки (NSA) та Агентство загальних служб (GSA)», — написала Воррен.

«Мене турбує, що очевидна відсутність належних заходів безпеки у Grok може становити серйозну загрозу безпеці військовослужбовців США та кібербезпеці секретних систем», — додала вона, «особливо якщо Grok отримає доступ до чутливої військової інформації та операційних систем.»  Агентство національної безпеки, зазначає лист Воррен, «провело засекречений огляд» і «визначило, що у Grok є особливі питання безпеки, яких не має інші моделі». Агентство загальних служб піднімало подібні тривоги. «Якщо Grok витече урядову інформацію, це може розкрити чутливі військові плани, зусилля розвідки США і потенційно поставити під загрозу життя військовослужбовців», — написала Воррен.

Жодне з цих занепокоєнь, здається, не зупинило процес. «Невідомо, які гарантії або документи надало xAI Міністерству оборони щодо заходів безпеки Grok, практики обробки даних або контролю безпеки, і чи оцінювало DoD ці гарантії перед тим, як, за повідомленнями, дозволити Grok доступ до секретних систем», — йдеться у листі. Часовий проміжок важко ігнорувати. У той самий день, коли лист Воррен був надісланий, три неповнолітні з Теннессі подали федеральний колективний позов проти xAI, стверджуючи, що Grok створив матеріали сексуального насильства над дітьми на основі їхніх реальних фотографій. У позові звинувачують xAI у навмисному випуску Grok без стандартних галузевих заходів безпеки, називаючи це «бізнес-можливістю» для отримання прибутку від експлуатації реальних людей, зокрема дітей. Минулого тижня Washington Post повідомила, що співробітник Міністерства ефективності уряду (DOGE) під керівництвом Musk скопіював конфіденційні дані Соціальної служби США про сотні мільйонів американців і планував використовувати ці дані у своєму новому технологічному стартапі. Лист Воррен також посилається на історію Grok щодо створення антисемітського контенту, інструкцій користувачам щодо вбивств і терористичних актів, а також неконтрольованих deepfake-зображень, незважаючи на багатообіцяні виправлення. Минулого серпня сотні тисяч приватних розмов з Grok були знайдені у Google. Урядові випробування показали, що Grok більш вразливий, ніж конкуренти, до атак «забруднення даних» — коли маніпульовані дані порушують роботу системи — що є серйозною вразливістю для інструменту, який розглядається для розробки зброї та розвідки на полі бою. Головний спеціаліст з відповідального штучного інтелекту Пентагону розіслав внутрішні меморандуми про ці ризики і незабаром пішов у відставку. Угода сама по собі відбулася за незвичайних обставин. Згідно з повідомленнями, xAI нещодавно додали до списку контрактів Пентагону з штучного інтелекту, і вона отримала контракт на суму до 200 мільйонів доларів у липні минулого року. Угода про секретний доступ була укладена у лютому, коли Міноборони публічно конфліктувало з Anthropic щодо заходів безпеки. На запитання про це, представник Пентагону сказав Wall Street Journal, що департамент «захоплений можливістю співпрацювати з xAI, однією з провідних американських компаній у галузі передових AI, і з нетерпінням очікує розгортання Grok на офіційній платформі AI GenAI.mil у найближчому майбутньому».

Цей контекст важливий. Anthropic була єдиною компанією з системами, готовими до секретного використання, з Claude, що застосовувався у реальних військових операціях. Після того, як Anthropic відмовилася виконати вимогу Пентагону зробити Claude доступним для «усіх законних цілей» — зокрема, заперечуючи автономну зброю та масове внутрішнє спостереження — Міноборони позначило цю компанію як ризик у ланцюгу постачання. Замість неї були оголошені xAI та OpenAI. Немає записів про те, що xAI ставила під сумнів межі стандарту «усіх законних цілей». OpenAI зробила це більш дипломатично, встановивши деякі обмеження на рівні сервера. Воррен вимагає від Хегсета відповісти до 30 березня з повним текстом угоди з xAI, усіма внутрішніми комунікаціями щодо цієї угоди та відповідями на питання, чи проводилися будь-які тестування або оцінки перед наданням доступу. Один із її десяти питань прямо стосується наявності заходів безпеки, щоб гарантувати, що Grok не спричинить «хибні цілі» при розгортанні у критичних операційних системах.