Babe'ler, günaydın! Dün küçük hamburger "teşekkür" için gitmiş! — Daha önce kısa kuş kardeş @wanghebbf bana @SentientAGI'nin davetiyesi vermişti, bugün onu dışarı çıkmaya davet etmek için evine gittim.

Önce gece pazarına gittik, bir tur attık ama pek hoşumuza gidecek bir şey bulamadık, ben de onu çok sevdiğim hamburgerciye götürdüm, hamburger her zaman en güvenilir! Yemek yerken de boş durmadık, tam da son zamanlarda takip ettiğim @SentientAGI projesinden bahsetmeye başladık.

Geçen sefer OML'den bahsederken, bazıları bunun yerel olarak nasıl çalıştığını ve kontrol edilebildiğini sordu. Bugün NeurIPS ile ilgili içeriklerle birleştirerek, bunun çekirdeği - kontrol düzlemi ve veri düzlemi hakkında detaylı bir şekilde konuşalım.

Aslında onları modelin iki yardımcısı olarak anlayabilirsiniz: biri kuralları yönetir, diğeri ise işleri yapar.

Kontrol düzlemi, kuralları yöneten birimdir; kimlerin model çağırabileceği, çağırırken hangi politikalara uyması gerektiği ve her çağrıda hangi bilgilerin kaydedilmesi gerektiği gibi konular onun sorumluluğundadır.

Ayrıca her çalıştırma tamamlandığında imzalı bir çalışma listesi oluşturulacak ve sadece eklenebilen, değiştirilemeyen bir denetim kaydı da senkronize edilecektir, sahtecilik yapmak imkansız.

Veri düzlemi için, çok daha basit. Temel işlevleri yerine getirir - token'ları işler, başka hiçbir şeyi umursamaz.

Araştırdığımda, bu iş bölümünün çok akıllıca olduğunu düşündüm:

Kullanılabilir bir yetkilendirme, çalıştırma öncesi kontrol düzlemi öncelikle halledildi, kullanıldıktan sonraki izleme bilgileri ise şifreleme ile çalışma sonuçlarıyla birleştirildi.

Bu nedenle, model ağırlıkları kendi bilgisayarınızda çalışsa bile, herhangi bir merkezi API'ye bağlı kalmadan, hem hızı etkilemeden hem de kontrolü pratikte uygulayarak çalışabilirsiniz.

Bu, herkesin kendi işini yaptığı ve aynı zamanda birbirleriyle uyum sağladığı tasarım, karmaşık sorunları çok net bir şekilde parçalara ayırıyor.

Daha sonra @SentientAGI ile de devam edeceğim, eğer yeni gelişmeler olursa ya da ilginç bir tasarım bulursam, bunu herkesle paylaşmaya devam edeceğim.
#SentientAGI