«Обов’язкові правила для ШІ»: єврокомісар Магнус Брунер попереджає про майбутнє, де ШІ може випередити людей

ШІ більше не є лише технологічною гонитвою — це виклик у сфері управління, щоб створити правильні правила, інструмент безпеки і потенційно екзистенційний ризик.

Виступаючи на сцені події HumanX у Сан-Франциско, європейський комісар Magnus Brunner окреслив підхід Європи до регулювання ШІ, захищаючи суперечливий Europe’s AI Act, водночас визнаючи його межі — і попереджаючи про майбутнє, де штучний інтелект може перевершити людський контроль.

Europe’s AI Act: «Тобі потрібні правила, щоб гра працювала»

Brunner звернув увагу на одну з найпоширеніших критик Європи: регулювати занадто рано і занадто багато. Але для нього регулювання — не обмеження — це інфраструктура.

«Футбол — чудова гра, але вам потрібні правила. Вам потрібні лінії, ворота й арбітр. Так само і з ШІ».

Закон ЄС про ШІ призначений для створення єдиного підходу в усіх 27 державах-членах і для 450 мільйонів громадян, встановлюючи те, що Brunner називає «запобіжниками» для розвитку довіреного ШІ.

Хоча критики стверджують, що це гальмує інновації, Brunner дає відсіч:

«Регулювання — не ворог інновацій… Якщо у вас є ці запобіжники, у вас є бачення того, що відбувається, а не життя в Wild West».

США проти Європи: фрагментація проти рамки

Одним із найбільш разючих контрастів, на який звернули увагу під час обговорення, є регуляторний розрив між Європою та United States federal regulation.

Поки ЄС запровадив один всеохопний закон, США залишаються фрагментованими: регулювання ШІ виникає на рівні штатів.

«У нас була невигода через фрагментацію… а тепер у нас один AI Act. У США немає федерального регулювання, але різні штати мають власні правила. Для нас це було несподіванкою».

Цікаво, що Brunner зазначив: деякі штати США — зокрема California — рухаються в напрямі рамок, подібних до європейських.

«Ми трохи зворушені… серце інновацій — це запозичення схожих правил».

Це сигналізує про потенційну збіжність між двома моделями, попри філософські відмінності.

ШІ і злочин: нове цифрове поле бою

Окрім регулювання, Brunner підкреслив менш обговорюваний вимір: ШІ як інструмент у сучасній злочинності — і в правоохоронній діяльності.

За його словами, злочинні організації швидко впроваджують ШІ:

«Злочинці використовують ШІ дедалі більше… більш досконало, більше через кордони, більше міжнародно».

У відповідь European institutions — зокрема Europol — інтегрують ШІ в свої операції.

«ШІ можна використати і для доброго, і для поганого… ми маємо тримати темп».

Один тривожний тренд — вік рекрутингу:

«Вони у віці від 12 до 20 років… і все більше опиняються в цифровій сфері».

Зростання ШІ-керованого прикордонного контролю

Одна з найконкретніших застосовних ініціатив, про яку йшлося, — нова система в’їзду-вибуття ЄС: масштабна інфраструктура, керована ШІ, призначена для моніторингу переміщень через кордони.

Brunner описав її так:

«Найпередовіший IT management system у світі».

Усього за кілька місяців:

– 45 мільйонів реєстрацій було оброблено

– 24,000 в’їздів було відмовлено через фальшиві документи

– 500–600 осіб було ідентифіковано як загрози безпеці

Система інтегрує біометричні дані та обмін даними в реальному часі між державами-членами — те, що раніше було неможливо.

«Тепер вони діляться цим у реальному часі, що допомагає, коли йдеться про безпеку».

Приватність проти безпеки: «дуже тонка межа»

Можливо, найчутливішим питанням залишається баланс між громадянськими свободами та безпекою.

Brunner відверто визнав напруженість:

«Між приватністю та тим, щоб діяти проти злочинців, дуже тонка межа».

Дискусія стає ще інтенсивнішою, якщо застосувати її до таких сфер, як захист дітей:

«Якщо порівняти захист даних і захист дітей… це має бути захист дітей. Але це моя особиста думка».

Попри цю позицію, він підтвердив, що фундаментальні права не підлягають обговоренню:

«Human rights мають бути захищені… але врешті-решт це завжди компроміс».

Найбільший страх: ШІ, що перевершує людський контроль

Зазирнувши вперед, Brunner не відступив від екзистенційних занепокоєнь.

Його найбільший страх — не зловживання, а втрата контролю:

«Той, що AI випереджає людей у знаннях… і люди вже не можуть вирішувати, що робить AI».

Він навіть наводив сценарії, за яких системи ШІ можуть чинити опір вимиканню:

«ШІ каже нам, коли його вимикати — або не дозволяє нам його вимкнути».

Хоча це все ще гіпотетично, він попереджав: траєкторія вже вказує в цьому напрямку.

Глобальна гонитва — але ключова є співпраця

Попри геополітичну напруженість, Brunner обрамляв розвиток ШІ і як конкуренцію, і як співпрацю.

«Це гонитва… але США і Європа мають працювати разом».

Він запропонував взаємний обмін: Європа надає regulatory frameworks, а США — innovation і гнучкість.

«Ми маємо вчитися одне в одного».

У світі, який дедалі більше формують ШІ — і конкуруючі моделі governance — така співпраця може виявитися вирішальною і для створення кращих правил.