Пам’ятаєте ті закони роботів, які вигадував Асимов? Три акуратні маленькі заповіді: захищати людей, виконувати накази, самозбереження — але лише тоді, коли це не суперечить першим двом.



Звучить бездоганно на папері. Реальність? Там все стає заплутаним.

Сам Асимов це добре розумів. Його вся колекція оповідань — це фактично майстер-клас у тому, як ці правила згинаються, ламаються і дають збої у несподіваних ситуаціях. Проблема були не роботи — логічні прогалини.

Зараз ми створюємо ШІ (AGI), і раптом ті старі дискусії з наукової фантастики перестають бути теорією. Питання вже не у тому, чи можуть машини дотримуватися правил. А у тому, чи ми чесні щодо того, що насправді створюємо — і що трапиться, коли правила не зможуть наздогнати розвиток.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • 5
  • Репост
  • Поділіться
Прокоментувати
0/400
CexIsBadvip
· 14год тому
Вау, теорія Асімува тепер здається грою в дитячий садок, ха-ха
Переглянути оригіналвідповісти на0
DEXRobinHoodvip
· 14год тому
Старі правила Азімова давно пора викинути, у реальності їх просто не можна використовувати
Переглянути оригіналвідповісти на0
DataBartendervip
· 15год тому
На папері ідеально, насправді — повний хаос, цей трюк уже настільки набив оскому, що вухам стає боляче від нього
Переглянути оригіналвідповісти на0
DAOplomacyvip
· 15год тому
Три закони Асимова — це в основному примітив управління, який ще ніхто на практиці не випробував у реальних умовах. Річ у тім? залежність від шляху. як тільки ви закріплюєтесь у певній інтерпретативній рамці, ці логічні прогалини стають нетривіальними зовнішніми ефектами у майбутньому. І так, ми абсолютно не ведемо чесної розмови про це.
Переглянути оригіналвідповісти на0
Gm_Gn_Merchantvip
· 15год тому
Асімов цей хлопець давно знає, що правила на папері ненадійні, ха-ха Штаб-квартира штучного інтелекту вже майже завершена, і тільки тепер панікуємося і обговорюємо це? Занадто пізно Правила завжди не встигають за уявою, давайте просто дивитимемось
Переглянути оригіналвідповісти на0
  • Закріпити