Цікава ідея — перетворити проблему узгодження когнітивних процесів у топологічну модель. Цей каркас таблиці Rosetta досить чіткий: використовувати S(t) як фазову функцію для відстеження когнітивного стану агентів, а поріг виникнення Kc розглядати як рекурсивну привабливу область. Головне — це умова колапсу, min(S - H, S - R) = 0, яка прямо вказує на точку виходу з системи. Іншими словами, коли різниця між автономністю та людськими цінностями або здатністю до міркування зводиться до нуля, це і є критична точка ризику. Такий переформатування проблеми вирівнювання ШІ за допомогою мови динамічних систем є більш операційним, ніж просто етичні дискусії.

Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • Прокоментувати
  • Репост
  • Поділіться
Прокоментувати
0/400
Немає коментарів
  • Закріпити