Сам Альтман після того, як у його домі кинули запальну пляшку, опублікував повідомлення: Я люблю свою сім'ю і вірю, що ШІ належить усім людям

Автор: Сэм Альтман

Переклад: Deep潮 TechFlow

Deep潮 Вступ: Хтось у 3:45 ночі кинув запальну бомбу у будинок Сэма Альтмана. Він рідко публічно публікує сімейне фото, сподіваючись, що це зупинить наступну людину. Ця стаття — не лише звинувачення у нападі, але й вперше повністю викладає його віру в ШІ: ШІ має бути демократизованим, кілька лабораторій не повинні вирішувати майбутнє людства, а спокуса “не повернутися назад, побачивши AGI” наповнює цю галузь шекспірівськими драматичними конфліктами.

Це фотографія моїх рідних. Я люблю їх понад усе.

Я хочу, щоб зображення мало силу. Зазвичай ми зберігаємо досить приватності, але в цьому випадку я ділюся фотографією, сподіваючись, що вона може зупинити наступну людину не кидати запальну бомбу у наш дім, незалежно від того, як вони мене сприймають.

Перша людина зробила це минулої ночі, о 3:45 ночі. На щастя, вона відскочила від будинку, ніхто не постраждав.

Слова також мають силу. Кілька днів тому з’явилася провокаційна стаття про мене. Вчора хтось сказав мені, що вважає, що ця стаття з’явилася в момент, коли люди дуже тривожаться щодо ШІ, і це робить моє становище ще більш небезпечним. Я тоді не звертав уваги.

Зараз я прокинувся посеред ночі з гнівом і зрозумів, що недооцінив силу слів і оповідання. Це гарний час, щоб поговорити про кілька речей.

По-перше, моя віра.

Прагнення до процвітання кожної людини, надання можливостей усім, просування науки і технологій — це для мене моральний обов’язок.

ШІ буде найпотужнішим інструментом для розширення людських можливостей і потенціалу. Попит на цей інструмент майже безмежний, люди будуть використовувати його для неймовірних речей. Світ має мати багато ШІ, і ми повинні з’ясувати, як це зробити.

Не все йтиме гладко. Страх і тривога щодо ШІ є цілком обґрунтованими; ми свідки довгого періоду, можливо, найбільшої соціальної зміни за всю історію. Ми повинні забезпечити безпеку, і це не лише вирівнювання моделі — нам терміново потрібна реакція всього суспільства для протистояння новим загрозам. Це включає нову політику для подолання важких економічних перехідних періодів і досягнення кращого майбутнього.

ШІ має бути демократизованим; влада не може бути надто зосереджена. Контроль над майбутнім належить усім і їхнім інституціям. ШІ потрібно надавати можливості окремим особам, ми маємо колективно визначати наше майбутнє і нові правила. Я не вважаю правильним, щоб кілька лабораторій ШІ приймали найважливіші рішення щодо нашого майбутнього.

Адаптивність є надзвичайно важливою. Ми всі дуже швидко навчаємося новому; деякі наші переконання будуть правильними, деякі — ні, іноді нам потрібно швидко змінювати думки відповідно до розвитку технологій і суспільних змін. Ще ніхто не розуміє впливу суперінтелекту, але він буде величезним.

По-друге, кілька особистих роздумів.

Коли я оглядаю свою роботу в OpenAI за перше десятиліття, я можу назвати багато того, чим пишаюся, і безліч помилок.

Я думаю про наш майбутній суд з Ейлоном і згадую, наскільки я наполегливо відмовлявся погодитися з його бажанням мати односторонній контроль над OpenAI. Я пишаюся цим, пишаюся тим, що ми пройшли вузький шлях, що дозволило OpenAI існувати, і всіма подальшими досягненнями.

Я не пишаюся тим, що не уникнув конфліктів, це принесло мені і OpenAI великий біль. Не пишаюся тим, як я неправильно поводився у конфлікті з колишнім радою директорів, що спричинило хаос у компанії. У божевільній траєкторії OpenAI я зробив багато інших помилок; я — недосконала людина, яка опинилася в надзвичайно складній ситуації, намагаючись щороку ставати краще, завжди працюючи заради місії. З самого початку ми знали, наскільки великі ризики ШІ, і що особисті розбіжності між добросовісними людьми можуть бути дуже посилені. Але пережити ці гострі конфлікти і часто доводиться їх арбітрувати — це зовсім інше, і це дорого коштує. Я вибачаюся перед тими, кого я образив, і сподіваюся, що навчуся швидше.

Я також дуже добре розумію, що OpenAI зараз — це головна платформа, а не маленька стартап-компанія, і нам потрібно працювати більш передбачувано. Останні кілька років були надзвичайно напруженими, хаотичними і напруженими.

Але найгордішим я є тим, що ми реалізуємо нашу місію, що здавалося майже неможливим на початку. Подолавши всі труднощі, ми з’ясували, як створити дуже потужний ШІ, як зібрати достатньо капіталу для побудови інфраструктури для його доставки, як створити продуктові компанії і бізнеси, як масштабувати безпечне і стабільне обслуговування — і багато іншого. Багато компаній кажуть, що вони змінять світ; ми справді це зробили.

По-третє, кілька думок про цю галузь.

З досвіду останніх років і з розуміння, чому у нашій галузі так багато шекспірівських драм, я зводжу це до одного: “Якщо ти побачив AGI, ти не можеш не побачити його.” Це має справжню динаміку “кільця влади”, що спонукає людей до божевільних вчинків. Я не кажу, що AGI сама по собі — це кільце, а радше — філософія “стати тим, хто контролює AGI”, — тоталітаризм.

Єдине рішення, яке я можу уявити, — це рух у напрямку широкого поширення технологій і відсутності у когось кільця влади. Два очевидних способи досягти цього — це надання можливостей окремим особам і забезпечення контролю демократичних систем.

Важливо, щоб демократичний процес був сильнішим за компанії. Законодавство і норми змінюються, але ми маємо працювати у межах демократичного процесу, навіть якщо він буде хаотичним і повільнішим, ніж нам хотілося б. Ми хочемо бути голосом і зацікавленими сторонами, але не володіти всією владою.

Багато критики нашої галузі походять із щирої тривоги щодо високих ризиків цієї технології. Це цілком обґрунтовано, і ми вітаємо добросовісну критику і дискусії. Я розумію антивірусні настрої, очевидно, технології не завжди корисні для всіх. Але в цілому я вірю, що технологічний прогрес може зробити майбутнє неймовірно кращим для твоїх і моїх родин.

Коли ми ведемо цю дискусію, нам слід знизити тон і стратегію, і намагатися зменшити кількість вибухів у домівках — будь то метафорично чи буквально.