寶子們,早上好呀!昨天小漢堡去兌現「感謝」 啦! —— 之前短鳥哥 @wanghebbf 給我 @SentientAGI 的邀請碼,今天特意去他家約他出門喫點好的



我們先去了夜市,逛了一圈沒找到太合胃口的,我就直接帶他去了我超愛的漢堡店,還是漢堡最靠譜!喫飯的時候我倆也沒閒着,正好聊起了我最近一直在跟進的 @SentientAGI 項目

上次跟大家聊 OML 的時候,有人問它到底是怎麼做到本地運行還能管控的,今天剛好結合 NeurIPS 的內容,跟大家仔細聊聊它的核心 —— 控制平面和數據平面

其實可以把他們理解成模型的兩個幫手:一個管規矩,一個幹實事

控制平面就是管規矩的那個,誰能調用模型、調用時要守什麼政策、每次調用得記哪些信息,這些都歸它管

而且每次運行完都會生成一份帶籤名的運行清單,還會同步寫一份只能加不能改的審計日志,想造假根本沒門

至於數據平面,就簡單多了,它就負責幹最基礎的活 —— 處理 tokens,別的啥也不管

我當時研究的時候,就覺得這個分工很聰明:

能不能用的授權,運行前控制平面就先搞定了,用了之後的溯源信息,又通過加密跟運行結果綁在一起

所以哪怕模型權重在你自己電腦上跑,也不用依賴任何中心化 API,既不影響速度,又能把管控落到實處

這種各做各的又互相配合的設計,把復雜問題拆解得很清楚

之後我也會繼續跟進@SentientAGI,要是有新進展,或者又發現啥有意思的設計,再跟大家接着分享
#SentientAGI
查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 讚賞
  • 留言
  • 轉發
  • 分享
留言
0/400
暫無留言
交易,隨時隨地
qrCode
掃碼下載 Gate App
社群列表
繁體中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)