分散型AIセキュリティにおける興味深い展開があります。

Subnet 23は最近、「Adversaries track（敵対者トラック）」と呼ばれる仕組みを導入しました。仕組みは次のとおりです。

マイナーは基本的にAIモデルを壊そうとします。システムを混乱させたり、脆弱性を露呈させたり、予期しない動作を引き起こすようなプロンプトを作成します。攻撃が効果的であればあるほど、報酬も高くなります。

なぜこれが重要なのか？いくつかの企業研究所の少数の研究者に頼るのではなく、何千人もの人々が積極的にこれらのモデルをストレステストしているのです。大規模なクラウドソースによるセキュリティです。

この試練を生き延びたモデルは、はるかに堅牢になります。すべての角度から叩かれているため、一つのチームがチェックしようと考えたエッジケースだけではなく、あらゆる可能性を考慮しているのです。

これは、悪役になって報酬を得るようなものです—ただし、みんなの防御力が向上すれば全員が勝者となります。