RAMのコストが上昇し続ける中、誰かが異なるアプローチを取りました—低スペックのデバイスでも実行できる軽量なLLMエンジンをRustで構築することです。私にとってはかなり実用的な解決策です。問題にハードウェアを追加する代わりに、最適化は直接コードレベルに行きます。リソースが逼迫したときにエコシステムが必要とするような回避策です。