ギャビン・ニューサム知事、シリコンバレーが反対したAI安全法案に拒否権を発動

by

ギャビン・ニューサム知事、シリコンバレーが反対したAI安全法案に拒否権を発動
SAN FRANCISCO —

数え切れないほどの大ヒット映画やインディーズ映画を見てきた経験豊富な映画評論家として、私は映画の世界とニューサム知事による最近のSB 1047の拒否権発動の間に類似点を描かずにはいられません。監督が映画制作において革新性と安全性の間で微妙なバランスをとらなければならないのと同じように、人工知能 (AI) の開発と展開においてもそのバランスを見つけなければなりません。

ギャビン・ニューサム知事は日曜日、人工知能の安全性に関する法案であるSB1047への署名を拒否した。この法案は、高度な AI システムの開発者に、災害を回避するための予防策を確立することを義務付ける規制を課すことになるでしょう。

この提案に基づき、サンフランシスコ選出のスコット・ウィーナー上院議員は、開発者がAIシステムの安全戦略を州司法長官に提出するよう提案している。開発者が直接管理しているAIモデルが公共の安全に危害や差し迫った危険をもたらした場合、司法長官から責任を問われる可能性がある。

さらに、この法律はテクノロジー企業に対し、AIシステムに問題が生じた場合にAIシステムを停止する能力を備えることを義務付けることになる。

ニューサム氏は拒否権を発動した声明の中で、この法案が国民に先端技術を効果的に管理できると誤解させる可能性があると懸念を表明した。これは、この法案が大規模でコストのかかる AI モデルに重点を置き、小規模でより特殊なシステムを無視しているためです。

ニューサム氏は拒否権を発動したメッセージの中で、SB 1047はAIシステムが高リスク環境で使用されているか、重要な意思決定を行っているか、機密データを扱っているかを考慮していない、と表明した。その代わりに、同法案は潜在的なリスクに関係なく、大規模システムの基本的な機能にさえ厳しい規制を課していると主張した。同氏は、このアプローチはテクノロジー関連の脅威から国民を守るのに最適ではないとの考えを述べた。

日曜日、知事も同様に、州内での人工知能の使用に対する実際的な安全策の開発を支援するために、さまざまな分野の専門家が彼のチームに招かれたと宣言した。重点は、その潜在的および潜在的な危険性を評価することにあります。ニューサム知事は、次期セッション中にこの問題に関して議会と協力するという決意を再確認した。

シリコンバレーでは、ある法案について激しい議論があった。 AI 安全センター、SpaceX のイーロン マスク、L.A. タイムズ編集委員、および著名な AI 研究者がこの計画への承認を表明しました。しかし、Facebookを所有するMeta、ChatGPTの開発者であるOpenAI、そしてナンシー・ペロシを含むサンフランシスコの民主党議員数名が反対した。

支持者らは、将来起こり得る悲惨な結果を回避するために、急速に発展する人工知能の境界線を設ける必要性を強調したが、批判者らは、こうした制限が進歩や創意工夫を妨げる可能性があると主張した。

同法案は議会両院で３分の２の多数を必要とするため、知事の拒否権を無効にするのは極めて困難だ。このような結果は珍しいことです。

今月初め、サンフランシスコで開催された技術カンファレンス Dreamforce での討論中に、ニューサム氏は上院法案 1047 が広範な公開討論を引き起こしたと指摘した。同氏はさらに、この法案が独自の「風土」や「雰囲気」を生み出しているようだと述べた。

同氏はAIを規制する際の課題についても語った。

過去数年間、私たちは計算されたリスクを奨励しながら、不注意または無責任な行動を阻止する賢明な規制の確立に努めてきました」とニューサム氏は述べた。

SB 1047 の支持者と敵対者は協力して、この問題について意見を表明しました。俳優、プロデューサー、監督、ミュージシャンなどエンターテインメント業界の100人以上の影響力のある人物と著名な民主党員がニューサム知事に法案の承認を求める書簡を書いた。著名な署名者には、ペドロ・パスカル、アレック・ボールドウィン、そして「ブリジャートン」の製作総指揮を務めるションダ・ライムズが含まれる。

手紙のメッセージは本質的には次のとおりです。「私たちは、あなたがシリコンバレーの一部のハイテク巨人のニーズに応えるだけでなく、全体的な福祉の擁護者となるという信念を持ち続けたいと考えています。

同時に、この法案に反対している進歩会議所はコンピューター生成のロック曲を発表した。この曲の歌詞は、「私たちに重くのしかかる束縛を拒否してください。

タイムズ紙との最近のインタビューでニューサム氏は、問題の法案は通常、頻繁に机の上に置かれるわけではなく、法案が受け入れられるかどうかは最後に話をした人の説得力に大きく左右されると述べた。この法案は多くの人々の間に大きな分裂を引き起こしました。

2024-09-30 00:01