Найбільша технологічна подія у світі говорить про «відмивання відповідальності»: Ось чому ми повинні назвати їх словами року

Літо Юе не є найвідомішим співробітником Meta. Директор з досліджень у галузі «вирівнювання та безпеки суперінтелекту» публікує фотографії, на яких вона гуляє з собакою на пляжі, та повідомлення про тестування чесності AI-помічників. У неї скромна кількість підписників у соцмережах.

Рекомендоване відео

Але одного дня у лютому Юе стала найобговорюванішою особою в Meta. Не через запуск нового видатного продукту або оголошення прориву в агентному AI, а через те, що її спіймали на помилці.

«Ніщо так не знижує твою самовпевненість, як коли ти кажеш своєму OpenClaw: «Підтвердити перед дією» і бачиш, як він швидко видаляє всі твої листи», — написала Юе у X — пост, який наразі має близько 10 мільйонів переглядів. «Я не могла зупинити його з телефону. Мені довелося бігти до мого Mac mini, ніби я розміновувала бомбу.»

OpenClaw — це «автономний агент» — продукт штучного інтелекту, який може виконувати завдання самостійно. Улюбленець Кремнієвої долини, він пропонує бути вашим постійним адміністративним помічником, «AI, що дійсно щось робить». Надіши його доступом до щоденника, електронної пошти, твого життя — і він заощадить тобі час і нерви, стверджують розробники продукту. Перше речення на сайті OpenClaw: «Очистить ваші вхідні, відправляє листи, керує вашим календарем, реєструє вас на рейси.»

Юе зізналася, що зробила «новачкову помилку». Вона протестувала помічника на невеликому «іграшковому» списку електронних листів, а потім запустила його на всю свою пошту, яка була занадто великою для проміжних команд («Перевірте зі мною»), які вона використовувала для пілотного запуску. Але якщо навіть директор із суперінтелекту в Meta має труднощі з навігацією у світі агентного AI та «ефектів ущільнення», то яка надія для решти з нас?

Детальніше: Глава Qualcomm: «Опір безглузде», коли наближається мобільна революція 6G

Це важлива дискусія, настільки важлива, що на Mobile World Congress цього тижня у Барселоні — найбільшій технологічній події світу — помилку Юе обговорювали на головній сцені.

«Звичайно, всі тут, на World Congress, говорять про OpenClaw і про те, як ми можемо використовувати агентів», — сказала Кейт Кроуфорд, дослідниця з Університету Південної Каліфорнії.

«Але потім ми побачили, як керівник з безпеки AI у Meta використовує OpenClaw, і він видалив усю її пошту. Це керівник з безпеки Meta. Тож, якщо у неї виникають проблеми, то нам усім потрібно ставити питання: «Як зробити так, щоб ці системи справді були захищеними? Як переконатися, що їх ретельно тестують? Як гарантувати, що ми можемо довіряти їм у делегуванні завдань?» І це справді найскладніше завдання, з яким потрібно стикнутися, правда?»

Правда. Коли щось іде не так, хто несе відповідальність? Користувач? Розробник? Відсутність регулювання? Коли реальність AI стикається з обіцянками AI, що ми робимо?

Пошта Юе може бути лише для неї надзвичайно важливою. Але коли йдеться про взаємовідносини технологій і, скажімо, нашого здоров’я або, зверніть увагу, оборони країни, — це зовсім інша справа. Не так давно бот штучного інтелекту Grok з xAI випадково «роздягає» зображення жінок і дівчат, викликаючи огиду мільйонів. Загроза урядових і державних дій нарешті змусила змінити підхід.

«Як зробити так, щоб ці системи справді були захищеними? Як переконатися, що їх ретельно тестують?»

Кейт Кроуфорд, дослідниця з Університету Південної Каліфорнії

«Як насправді впровадити відповідальність?» — запитала Кроуфорд. «Це те, чого всі ми прагнемо. Якщо ви починаєте використовувати агентів для бронювання рейсів, організації медичних прийомів і навіть більш особистих і довірливих справ у повсякденному житті, ви хочете бути впевненими, що інформація захищена.»

«Як це перевірити? Як переконатися, що це відбувається? Якщо подивитися на те, що сталося за останні 10 років у технологічній сфері, на жаль, ми бачили багато «відмивання відповідальності» — коли компанії кажуть: «Ну, я не знаю. Алгоритм це зробив.»»

Це недостатньо. Кроуфорд вимагає повної прозорості та аудиту «тренування агентів», кінцевого процесу, що розкриває, що пішло не так і хто за це відповідає. Технологічні компанії мають слухати і діяти. З’явиться все більше і більше таких Юе — і це, безумовно, означатиме набагато більше, ніж кілька втрачених листів і чесний пост у X.

Приєднуйтесь до нашої віртуальної дискусії Fortune 500 Europe C-Suite, у партнерстві з Syndio, про управління кадровими рішеннями та прозорість оплати в епоху AI. Ця сесія для глобальних і регіональних керівників HR, вона досліджує, як CHRO використовують AI для прийняття більш розумних рішень щодо оплати, управління регуляторними ризиками та зміцнення довіри працівників. Для CHRO та старших HR-лідерів. Реєструйтеся зараз.