还记得阿西莫夫制定的机器人三定律吗?三个简单的命令:保护人类、遵守命令、自我保存——但前提是这不影响前两条。



纸面上看,这些定律似乎完美无缺。但现实呢?那才是真正复杂的地方。

阿西莫夫本人也清楚这一点。他的整个故事集实际上是一堂关于这些规则如何弯曲、破裂以及适得其反、令人始料未及的精彩课程。问题不在于机器人——而在于逻辑上的漏洞。

如今我们在构建AGI,突然之间,那些旧时科幻小说中的辩论不再是理论。问题不在于机器是否能遵守规则,而在于我们是否诚实面对我们真正正在构建的东西——以及当规则无法跟上时会发生什么。
查看原文
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 5
  • 转发
  • 分享
评论
0/400
CexIsBadvip
· 15小时前
卧槽,阿西莫夫那套理论现在看就像小孩过家家,哈哈
回复0
DEX罗宾汉vip
· 15小时前
阿西莫夫那套老规则早该扔了,现实根本玩不了
回复0
数据酒保vip
· 15小时前
纸面完美,现实一团糟,这套路听得耳朵都起茧了
回复0
DAOplomacyvip
· 15小时前
阿西莫夫的三大定律基本上是一种治理原语,但实际上还没有在生产中经过压力测试。真正的问题?路径依赖。一旦你被锁定在某个解释框架中,这些逻辑漏洞就会成为下游非微不足道的外部性。没错,我们绝对没有就此进行坦诚的对话。
查看原文回复0
Gm_Gn_Merchantvip
· 15小时前
阿西莫夫这老哥早就知道纸面上的规则靠不住啊,哈哈 人工智能大厦快盖到顶了,现在才慌张讨论这些?晚了 规则永远追不上想象力,咱们就看着呗
回复0
交易,随时随地
qrCode
扫码下载 Gate App
社群列表
简体中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)