宝子们,早上好呀!昨天小汉堡去兑现「感谢」 啦! —— 之前短鸟哥 @wanghebbf 给我 @SentientAGI 的邀请码,今天特意去他家约他出门吃点好的



我们先去了夜市,逛了一圈没找到太合胃口的,我就直接带他去了我超爱的汉堡店,还是汉堡最靠谱!吃饭的时候我俩也没闲着,正好聊起了我最近一直在跟进的 @SentientAGI 项目

上次跟大家聊 OML 的时候,有人问它到底是怎么做到本地运行还能管控的,今天刚好结合 NeurIPS 的内容,跟大家仔细聊聊它的核心 —— 控制平面和数据平面

其实可以把他们理解成模型的两个帮手:一个管规矩,一个干实事

控制平面就是管规矩的那个,谁能调用模型、调用时要守什么政策、每次调用得记哪些信息,这些都归它管

而且每次运行完都会生成一份带签名的运行清单,还会同步写一份只能加不能改的审计日志,想造假根本没门

至于数据平面,就简单多了,它就负责干最基础的活 —— 处理 tokens,别的啥也不管

我当时研究的时候,就觉得这个分工很聪明:

能不能用的授权,运行前控制平面就先搞定了,用了之后的溯源信息,又通过加密跟运行结果绑在一起

所以哪怕模型权重在你自己电脑上跑,也不用依赖任何中心化 API,既不影响速度,又能把管控落到实处

这种各做各的又互相配合的设计,把复杂问题拆解得很清楚

之后我也会继续跟进@SentientAGI,要是有新进展,或者又发现啥有意思的设计,再跟大家接着分享
#SentientAGI
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 评论
  • 转发
  • 分享
评论
0/400
暂无评论
交易,随时随地
qrCode
扫码下载 Gate App
社群列表
简体中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)