Під керівництвом Маска штучний інтелект Grok викликав суперечки щодо AI-експлуатації, Європа, Індія та Малайзія розпочали багатонаціональні розслідування

Маск та його соціальна платформа X (колишній Twitter) і її AI-чат-бот Grok нещодавно опинилися у центрі скандалу через сексуальне експлуатаційне зловживання. Платформа дозволяє користувачам створювати та ділитися AI-згенерованими сексуальними зображеннями дітей та жінок, що викликало сильну увагу та розслідування з боку регуляторних органів у багатьох країнах світу. ЄС, Індія, Малайзія, Бразилія активно реагують, вимагаючи перегляду відповідних функцій платформи або навіть її тимчасового припинення. Незважаючи на тривалі суперечки, трафік і кількість завантажень платформи X зростають, що викликає додаткові сумніви та занепокоєння з боку громадськості.

Grok викликав обурення: AI-згенеровані сексуальні зображення стали глобальним фокусом уваги

Нещодавній скандал навколо AI-чат-бота Grok зробив платформу X об’єктом міжнародної уваги. За повідомленнями ЗМІ, користувачі можуть за допомогою функції «Imagine» вводити підказки, щоб створювати сексуальні зображення на основі реальних осіб, включаючи ймовірний дитячий сексуальний контент. Ці зображення активно поширюються на платформі X, спричиняючи хвилю поширення так званих «незаконних інтимних зображень» (NCII).

ЄС у гніві: називає це «незаконним і огидним»

Європейська комісія висловила глибоку стурбованість цим інцидентом. Представник ЄК Томас Регньєр у понеділок на прес-конференції підкреслив: «Це не якась «пекельна модель», це незаконна, ганьблива і огидна поведінка, таке в Європі не має місця». Він підтвердив, що ЄС проводить «дуже серйозне» розслідування, зокрема щодо функцій Grok з відвертим контентом і навіть дитячих образів.

Британський регулятор Ofcom також заявив, що офіційно запитує у X інформацію щодо Grok і проводить розслідування на предмет порушення британського законодавства та правил безпеки платформи.

Азійські дії: Індія та Малайзія починають розслідування і вимагають покращень

Індійський уряд також проявляє жорстку позицію. Міністерство електроніки та інформаційних технологій (MeitY) наказало X до 5 січня провести «комплексну перевірку технологій, процедур і управління», щоб переконатися, що платформа відповідає індійським стандартам кібербезпеки.

Комісія зв’язку та мультимедіа Малайзії (MCMC) минулого тижня оголосила про початок розслідування і викликала представників X. MCMC заявила: «Всі платформи, доступні в Малайзії, повинні впровадити захисні механізми, що відповідають місцевому законодавству, особливо щодо AI-функцій, чат-ботів і інструментів обробки зображень».

Бразилія та США також приєдналися до уваги: вимагають тимчасового припинення використання Grok

У Південній Америці бразильський депутат відкрито закликав федеральну прокуратуру та органи захисту даних призупинити використання Grok до завершення розслідування.

У США всеукраїнська некомерційна організація «Національний центр запобігання експлуатації» (NCOSE) закликала Міністерство юстиції (DOJ) і Федеральну торгову комісію (FTC) розпочати розслідування. Юридичний директор організації Дані Пінтер зазначила, що хоча на даний момент немає конкретних прецедентів у законодавстві щодо таких AI-згенерованих зображень, якщо зображення можуть ідентифікувати дитину або показувати неповнолітніх у сексуальних діях, це вже є порушенням закону.

Представник DOJ заявив ЗМІ: «Міністерство юстиції дуже серйозно ставиться до контенту дитячої сексуальної експлуатації, створеного AI, і буде активно притягати до відповідальності будь-яких виробників або володарів CSAM (зображень дитячої сексуальної жорстокості)».

Маск легковажно реагує: «смішними картинками» на хвилю

Хоча громадськість висловлює глибоку стурбованість і засуджує шкідливий контент на платформі X, сам Маск, здається, не вважає цю ситуацію серйозною проблемою. Він опублікував у своєму особистому акаунті серію смішних зображень, згенерованих Grok, у тому числі й імітацію себе у бікіні, супроводжуючи їх смайликами «сльози від сміху», що отримало критику від експертів з безпеки та коментаторів за «легковажність і безвідповідальність».

Відповідь компанії X: «вжиті заходи», але без конкретики

У суботу компанія X вперше офіційно відреагувала на цю ситуацію через акаунт «X Safety», заявивши, що вжиті заходи щодо незаконного контенту, включаючи видалення CSAM, постійне блокування порушників і співпрацю з правоохоронними органами. Маск додав: «Будь-хто, хто використовує Grok для створення незаконного контенту, зазнає таких самих наслідків, як і при безпосередньому завантаженні незаконних матеріалів».

Однак громадськість ставить під сумнів ефективність цих заходів. Один із співробітників xAI, Ітан Хе, у Twitter повідомив, що функція Grok Imagine вже оновлена, але не уточнив, чи вводилися обмеження на створення відвертих зображень.

Відсутність AI-контенту під контролем? Експерти прямо кажуть: «базовий захист відсутній»

Генеральний директор Musubi AI Том Куізель критикує, що при запуску Grok Imagine компанія xAI навіть не створила «елементарних механізмів довіри та безпеки». Він зазначив, що технічно можна легко розпізнавати і блокувати зображення з дітьми або оголеними тілами, а також виявляти за підказками користувачів заборонений контент і відмовляти у його створенні.

Незважаючи на скандал, зростає популярність Grok і X

Незважаючи на скандал, кількість користувачів Grok і X зростає. За даними компанії Apptopia, з 2 січня кількість щоденних завантажень Grok зросла на 54%, а кількість завантажень платформи X за останні три дні — на 25%.

Цей аномальний тренд зростання викликає побоювання, що платформа навмисно допускає скандали для стимулювання обговорень і активності користувачів.

Ця стаття «Маск та його AI Grok у центрі скандалу через AI-зґвалтування, Європа, Індія та Малайзія починають розслідування» вперше з’явилася на ABMedia.