Babe, chào buổi sáng! Hôm qua, tiểu hamburger đã đi đổi "cảm ơn" rồi! —— Trước đây, ngắn chim anh @wanghebbf đã cho tôi mã mời @SentientAGI, hôm nay tôi đặc biệt đến nhà anh ấy rủ đi ăn món ngon.

Chúng tôi đã đến chợ đêm trước, đi một vòng mà không tìm thấy gì hợp khẩu vị, tôi liền dẫn anh ấy đến tiệm hamburger mà tôi cực kỳ yêu thích, hamburger vẫn là lựa chọn đáng tin cậy nhất! Trong khi ăn, chúng tôi cũng không nhàn rỗi, đúng lúc nói về dự án @SentientAGI mà tôi đã theo dõi gần đây.

Lần trước khi nói chuyện với mọi người về OML, có người đã hỏi nó làm thế nào có thể hoạt động cục bộ và vẫn quản lý được, hôm nay đúng lúc kết hợp với nội dung của NeurIPS, tôi sẽ nói rõ với mọi người về cốt lõi của nó - mặt điều khiển và mặt dữ liệu.

Thật ra có thể hiểu họ như hai trợ lý của mô hình: một người quản lý quy tắc, một người làm việc thực tế.

Bề mặt điều khiển chính là cái quản quy tắc, ai có thể gọi mô hình, khi gọi thì phải tuân theo chính sách gì, mỗi lần gọi phải nhớ những thông tin nào, tất cả đều thuộc quyền quản lý của nó.

Và mỗi lần chạy xong sẽ tạo ra một danh sách chạy có chữ ký, còn đồng bộ ghi một bản nhật ký kiểm toán chỉ có thể thêm mà không thể sửa đổi, muốn giả mạo hoàn toàn không có cơ hội.

Về mặt dữ liệu, thì đơn giản hơn nhiều, nó chỉ chịu trách nhiệm cho công việc cơ bản nhất - xử lý tokens, không quan tâm gì đến những thứ khác.

Tôi nghĩ rằng sự phân công này rất thông minh khi tôi nghiên cứu vào lúc đó:

Có thể sử dụng quyền hạn, trước khi chạy, mặt phẳng điều khiển đã được hoàn thành, thông tin nguồn gốc sau khi sử dụng lại được liên kết với kết quả chạy thông qua mã hóa.

Vì vậy, ngay cả khi trọng số mô hình chạy trên máy tính của bạn, bạn không cần phải phụ thuộc vào bất kỳ API tập trung nào, không ảnh hưởng đến tốc độ và có thể thực hiện việc kiểm soát.

Thiết kế này, mỗi người làm việc riêng nhưng lại phối hợp với nhau, đã phân tích rõ ràng các vấn đề phức tạp.

Sau đó, tôi cũng sẽ tiếp tục theo dõi @SentientAGI, nếu có tiến triển mới, hoặc phát hiện ra điều gì thú vị khác, tôi sẽ tiếp tục chia sẻ với mọi người.
#SentientAGI