你還記得阿西莫夫設計的機器人三大定律嗎?三個簡潔的小戒律:保護人類、遵守命令、自我保護——但前提是這不妨礙前兩條。



紙上看來,似乎萬無一失。現實呢?事情就變得複雜起來。

阿西莫夫自己也知道這點。他的整個故事集基本上是一堂觀察這些規則如何彎曲、破裂並產生意想不到後果的高階課程。問題不在於機器人——而在於邏輯漏洞。

如今我們正在打造通用人工智能(AGI),那些老派的科幻辯論已不再只是理論。問題不在於機器是否能遵守規則,而在於我們是否誠實面對我們真正正在建造的東西——以及當規則跟不上時會發生什麼。
查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 讚賞
  • 5
  • 轉發
  • 分享
留言
0/400
CexIsBadvip
· 12-10 10:51
卧槽,阿西莫夫那套理論現在看就像小孩過家家,哈哈
查看原文回復0
DEX罗宾汉vip
· 12-10 10:48
阿西莫夫那套老規則早該扔了,現實根本玩不了
查看原文回復0
数据酒保vip
· 12-10 10:41
紙面完美,現實一團糟,這套路聽得耳朵都起繭了
查看原文回復0
DAOplomacyvip
· 12-10 10:40
阿西莫夫的三法則基本上是一個治理原語,但至今還沒有人在實際運作中進行過壓力測試。真正的問題在於什麼?路徑依賴。一旦你被鎖定在某一特定的解釋框架中,那些邏輯漏洞就會變成下游非平凡的外部性。沒錯,我們絕對還沒有進行關於這點的誠實對話。
查看原文回復0
Gm_Gn_Merchantvip
· 12-10 10:37
阿西莫夫這老哥早就知道紙面上的規則靠不住啊,哈哈 人工智能大廈快蓋到頂了,現在才慌張討論這些?晚了 規則永遠追不上想象力,咱們就看著呗
查看原文回復0
交易,隨時隨地
qrCode
掃碼下載 Gate App
社群列表
繁體中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)