08:28
IT House の 6 月 25 日のレポートによると、開発者の Iván Martínez Toro 氏は最近、ユーザーがインターネット接続なしで自分のドキュメントに基づいて質問できる PrivateGPT オープン ソース モデルを立ち上げました。報告によると、PrivateGPT オープン ソース モデルは家庭用デバイス上でローカルに実行でき、gpt4 と呼ばれるオープン ソースの大規模言語モデル (LLM) は実行前にすべてダウンロードする必要があります。次に、モデルがすべてのデータを取り込むように、すべての関連ファイルをディレクトリに配置するようにユーザーに指示します。 LLM をトレーニングした後、ユーザーはモデルに任意の質問をすることができ、モデルは提供されたドキュメントをコンテキストとして使用して答えます。 PrivateGPT は 58,000 ワードを超えるワードを取り込むことができますが、現在セットアップには大量のローカル コンピューティング リソース (ハイエンド CPU を推奨) が必要です。 Toro 氏は、PrivateGPT は現在概念実証 (PoC) 段階にあり、ChatGPT に似た大規模なモデルを完全にローカルで作成できることを少なくとも証明していると述べ、この PoC の実際の製品への変換の可能性により、企業がパーソナライゼーション、セキュリティ、プライバシーにアクセスし、ChatGPT で生産性を向上させます。

