AI エージェントを信頼できるでしょうか?

このダイナミックな分野の研究者として、私は人工知能 (AI) が近年もたらした変革を振り返るのが興味深いと感じています。 AI エージェント (環境を認識して特定の目標を達成するために行動できるソフトウェア エンティティ) の急速な進歩と比較すると、スキナー氏の洞察はほとんど時代遅れに見えます。 2020 年代初頭の消費者向け AI ブームから誕生したこれらのデジタル アシスタントは、私たちの日常生活に不可欠な部分となり、予約のスケジュールから投資の決定に至るまでのタスクをシームレスに処理し、私たちのデジタル存在の構造に微妙に織り込まれています。

AIエージェントとは何ですか?

AI エージェントは、独立したアクションを実行する能力において、ChatGPT などの大規模言語モデル (LLM) よりも際立っています。主にテキストを処理して生成する LLM とは異なり、AI エージェントは周囲を認識し、意思決定を行い、特定の目的を達成するためのアクションを実行するように設計されています。自然言語処理、コンピューター ビジョン、強化学習などの複数の AI テクノロジーを統合することで、これらのエージェントは対話から適応して学習できます。

AI エージェントがより一般的かつ高度になるにつれて、不安感が増大しています。私たちはこれらのデジタル存在に完全に依存することはできるのでしょうか?これは単なる理論的な問題ではありません。 AI エージェントは複雑な設定で機能し、開発者ですら完全に把握するのが難しい膨大なデータセットと高度なアルゴリズムに基づいて意思決定を行います。この透明性の欠如が疑惑を助長します。 AI エージェントが治療法を提案したり、市場の動向を予測したりするとき、その選択を導くロジックをどうやって確信できるのでしょうか?

AI エージェントを安易に信頼しすぎると、重大な影響が生じる可能性があります。たとえば、AI ファイナンシャル アドバイザーが誤解されたデータ ポイントにより市場を崩壊させるような間違いを犯したり、ヘルスケア AI が偏見のあるトレーニング情報に基づいて誤った治療法を処方したりすることを考えてみましょう。被害の可能性は特定の業界に限定されません。 AI エージェントが私たちの日常生活に深く浸透するにつれて、その影響は急速に増大します。たとえ小さなミスでも連鎖反応を引き起こし、個人のプライバシーから世界経済に至るまでさまざまな側面に影響を与える可能性があります。

この信頼不足の中心には、集中化という根本的な問題があります。 AI モデルの開発と展開は、主に少数のテクノロジー大手の権限で行われてきました。これらの集中型 AI モデルはブラック ボックスとして動作し、その意思決定プロセスは一般の監視から隠蔽されています。この透明性の欠如により、一か八かの作戦において彼らの決定を信頼することが事実上不可能になります。 AI エージェントの推論を理解できない、または検証できない場合、どうやって AI エージェントに依存して重要な選択を行うことができるでしょうか?

答えとしての分散化

ただし、これらの懸念に対する解決策は存在します。それは、分散型 AI です。より透明性が高く信頼できる AI エージェントへの道を提供するパラダイム。このアプローチは、ブロックチェーン テクノロジーやその他の分散型システムの強みを活用して、強力なだけでなく説明責任も備えた AI モデルを作成します。

AI エージェントに対する信頼を構築するためのツールはすでに存在します。ブロックチェーンにより検証可能な計算が可能になり、AI アクションの監査と追跡が可能になります。 AI エージェントが行うすべての決定は公開台帳に記録され、前例のない透明性が実現します。同時に、信頼できる実行環境機械学習 (TeeML) などの高度な暗号化技術により、機密データを保護し、モデルの整合性を維持して、透明性とプライバシーの両方を実現できます。

AI エージェントの使用がパブリック ブロックチェーンと並行して、またはパブリック ブロックチェーン上で急速に増加する中で、確認可能性の概念が重要性を増しています。従来の AI モデルでは、その動作の信頼性を証明するのが難しい場合がありますが、ブロックチェーン テクノロジーに基づいて構築された AI エージェントは、その動作について暗号化による保証を提供できます。この確実性は、単なる技術的な贅沢ではありません。これは、ハイリスクのシナリオにおける信頼のための中核的な前提条件です。

信頼できる実行環境 (TEE) は、機密コンピューティングにおける重要なセキュリティ対策です。基本的に、人工知能の計算に安全ゾーンを提供し、外部の妨害から保護します。これは、AI の計算がこの保護された空間内で行われ、侵入や操作の可能性がないことを意味します。その結果、AI システムを管理する者でさえ、エージェントの意思決定プロセスに干渉したり密かに監視したりすることができなくなり、信頼性とセキュリティが強化されます。

Oasis Network のランタイム オフチェーン ロジック (ROFL) などの革新的なフレームワークは、この方法論の最前線を示しており、検証可能な AI 計算とオンチェーンの監査可能性および透明性の簡単な組み合わせを促進します。これらの進歩により、AI を活用したアプリケーションの視野が広がり、同時に一流の信頼性とオープン性の基準が維持されます。

信頼できるAIの未来に向けて

信頼できる AI エージェントをナビゲートするのに困難がないわけではありません。技術的な障壁は依然として存在しており、分散型 AI システムをより大規模に採用するには、産業上の手法と一般の人々の認識の両方に変化が求められます。それでも、その恩恵は計り知れないものになる可能性があります。 AI エージェントが重要な意思決定を透過的に実行し、全員が精査および監査できるアクションを実行し、人工知能の力が少数の企業によって独占されるのではなく、多くの企業に分散される世界を想像してください。

さらに、大幅な経済拡大の可能性もあります。 2023年に北京で実施された調査では、AI統合の1%の増加は全要素生産性（TFP）の14.2%の向上に相当することが明らかになった。ただし、AI に関連する生産性に関する研究の多くは、自律型 AI エージェントではなく、主に一般的な言語学習モデル (LLM) に焦点を当てています。これらの自律型 AI エージェントは、さまざまなタスクを独立して実行できるため、生産性がさらに大幅に向上する可能性があります。さらに、信頼性が高く監査可能な AI エージェントは、この点でさらに効果的であることが証明される可能性があります。

スキナーの有名な発言を修正する必要があるかもしれない。課題は、単に機械が思考できるかどうかではなく、むしろ機械の思考プロセスを信頼できるかどうかです。 AI とブロックチェーンが分散型モデルに移行するにつれ、私たちは信頼を確立する手段を手に入れました。しかし、現在問題となっているのは、これらのツールを賢く適用するための洞察力を私たちが備えているかどうかです。

この記事内で共有される意見はライターにのみ帰属し、CoinDesk Inc.、その所有者、または関連当事者の見解と必ずしも一致しない可能性があることに留意してください。