Vitalik：安全性とユーザー体験は独立した分野ではなく、最小化すべき意図とシステムの挙動の偏差を目指す

Foresight Newsの報道によると、Vitalik ButerinはFarcasterで次のように述べています。安全性の目標は、ユーザーの意図とシステムの実際の動作との偏差を最小化することです。「ユーザーエクスペリエンス」も同様に定義できるため、安全性とユーザーエクスペリエンスは独立した領域ではありません。安全性は、尾部リスク（偏差のコストが大きいもの）や対抗行動によって引き起こされる尾部リスクにより焦点を当てています。完全な安全性は不可能です。なぜなら、「ユーザーの意図」自体が非常に複雑であり、ユーザーが明確に表現しにくいためです（例：「1 ETHをBobに送る」の場合、Bobを数学的に定義することはできません）。より複雑な目標、例えば「プライバシーの保護」も同様に定義が難しいです（メタデータの漏洩は暗号化そのものをはるかに超えています）。これは、初期のAIの安全性問題と類似しており、目標の堅牢な設定が難しいという点に共通しています。

優れた安全性のためのソリューションは、次の特徴を備えるべきです。ユーザーは多重かつ重複した方法で意図を表現し、システムは複数の観点から整合性が取れた場合にのみ動作を実行します。具体例としては、プログラミングにおける型システム、形式的検証、取引のシミュレーション、取引後のアサーション、多署名やソーシャルリカバリー、支出制限や異常確認などがあり、冗長性によってリスクを低減します。さらに、大規模言語モデル（LLM）は意図のシミュレーションに利用でき（汎用LLMは人間の常識を近似し、ユーザーが微調整したLLMはユーザー自身に近づけることができる）、しかし単独で意図を決定してはならず、あくまで異なる観点からの補完として用いることで冗長性の有効性を高めるべきです。