Пам’ятаєте, коли рада звільнила Сема з посади CEO? Можливо, вони побачили щось, чого ми не помітили.



Здається, великий лабораторія штучного інтелекту впроваджує нові протоколи безпеки для своїх моделей. Вони спеціально зосереджені на створенні захисних бар’єрів, щоб запобігти шкідливим результатам. Тепер підхід до навчання включає навчання моделей тому, як обробляти ризикові запити без їх фактичного виконання.

Часовий аспект цікавий, чи не так? Ці заходи безпеки з’явилися після місяців внутрішніх дебатів про швидкість розвитку ШІ та відповідальність. Технічна основа передбачає багатошарове відсівання перед тим, як генерується будь-яка відповідь моделі.

Що мене особливо зацікавило: вони більше не фільтрують лише вихідні дані. Самі навчальні дані перепроектовані так, щоб закладати considerations щодо безпеки з самого початку. Це інший підхід у порівнянні з реактивною модерацією, яку ми бачили раніше.

Однак залишаються питання про те, чи зможуть ці заходи безпеки йти в ногу з тим, наскільки швидко розвиваються ці системи. Прірва між можливостями та контролем продовжує розширюватися.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • 4
  • Репост
  • Поділіться
Прокоментувати
0/400
SundayDegenvip
· 9год тому
哈...Sam那事兒還真有點意思,現在看safety這套動作確實有點後知後覺了 話說這種事兒吧,防的再多也追不上迭代速度,感覺還是在補窟窿 多層篩選聽著不錯,但底層數據能改得了啥呢...就是換個角度賣出同樣的東西
Переглянути оригіналвідповісти на0
OnChainSleuthvip
· 12-10 20:23
Історія з відстороненням Саму, здається, справді має свої підозрілі моменти... Чи ці люди дійсно займаються безпековими протоколами, чи це просто для виду?
Переглянути оригіналвідповісти на0
GasFeeSobbervip
· 12-10 20:23
Ха, після тієї справи з Самом вже робити безпековий протокол? Це трохи запізно.
Переглянути оригіналвідповісти на0
YieldFarmRefugeevip
· 12-10 20:10
Говоря просто, боїться, так? Згадати і швидко виправити ситуацію.
Переглянути оригіналвідповісти на0
  • Закріпити