この物議を醸したカリフォルニア州の AI 法案は、シリコンバレーの懸念を鎮めるために修正されました。何が変わったかというと、

経験豊富なテクノロジー愛好家であり、20 年以上カリフォルニアに住んでいる私は、SB 1047 (AI 安全法案) を巡る現在進行中の議論に非常に興味をそそられています。シリコンバレーの流星的な台頭とそれが私たちの日常生活に与える影響を目の当たりにしてきた私は、野放しのAI開発が私たち全員にもたらすかもしれない潜在的な危険について不安を感じずにはいられません。

映画評論家として、私は、カリフォルニア州民を AI テクノロジーによって引き起こされる潜在的な災害から守ることを目的とした法案をめぐる激しい議論の中心にいることに気づきました。今週の委員会の承認後、テクノロジーコミュニティは大騒ぎになっているが、シリコンバレーにとって物事を円滑に進めることを目的とした修正が含まれている。

スコット・ウィーナー上院議員のSB 1047はサンフランシスコ発の先駆的な法案で、今月下旬に州議会の議場で採決される予定だ。もしこの法案が議会を通過できれば、ギャビン・ニューサム知事はこの画期的な法案に署名するか拒否権を発動するかの決定に直面することになる。

この法案の支持者らは、高度なAIシステムが予期せぬ送電網の停止などの壊滅的な事態を引き起こすのを阻止するための安全メカニズムを確立することを目的としていると主張している。彼らは、テクノロジーの進歩のペースが、それを効果的に管理し規制する人間の能力を上回っていることを懸念しています。

議員らは開発者にテクノロジーを倫理的に使用するよう奨励する取り組みを進めており、差し迫った危険や危害が生じた場合に州司法長官に罰則を施行する権限を与えている。また、提案された法律では、開発者が何らかの事故が発生した場合に直接管理する AI モデルを無効化できる能力を備えていなければならないことも義務付けています。

私は、フェイスブックのオーナーであるメタ・プラットフォームズのような特定のハイテク企業や、ロー・カンナ下院議員（民主党、フリーモント）のような政治家が、この法案がイノベーションを妨げる可能性があると主張していると信じている断固たる支持者である。一部の批評家は、プライバシーや誤った情報といった差し迫った問題ではなく、遠く離れた壊滅的なシナリオに焦点を当てていると述べ、懸念を表明している。しかし、これらの問題に直接取り組むことを目的とした法案は他にもあります。

1047 SBは、人工知能（AI）が雇用、誤った情報、公共の安全に与える影響についての懸念が高まる中、州議会で提案されている人工知能（AI）に焦点を当てた約50の法案の1つである。政治家がこの急速に拡大する分野に対する規制を確立しようと努める中、一部の企業や専門家は裁判所に境界線を定めさせようとしてAI企業に対する訴訟に訴えている。

OpenAI や Anthropic などの先駆的な AI スタートアップを育成する都市であるサンフランシスコの中心部に住む情熱的な映画愛好家として、私はまさに興味深い議論の渦中にいることに気づきました。

木曜日、同氏は法案を大幅に修正し、法律の厳格性を緩めると一部の人が考えている修正を加えたが、議会で承認される可能性は高まった。

この修正案では偽証罪の罰則が法案から削除され、先進的なAIモデルの安全性に関する開発者向けの法的基準が変更された。

安全対策を検討するためのフロンティアモデル部門として知られる新たな政府組織を設立する代わりに、提案された計画は放棄された。当初の提案では、開発者は安全計画をこの新設部門に送信することになっていた。ただし、改訂版では、開発者はこれらの安全対策を直接司法長官に提出することになります。

「南カリフォルニア大学の政治学および公共政策教授クリスチャン・グロース氏は、特定の修正が承認される可能性を潜在的に高める可能性があるとの考えを表明した。」

この法案の支持者は、AI安全性センターやAIの「創始者」と呼ばれることが多いジェフリー・ヒントンなど、一部の技術界から来ている。しかし、この分野の他の関係者は、カリフォルニアの繁栄しているテクノロジーセクターに悪影響を与える可能性があると懸念を表明しています。

カリフォルニア代表8名：カンナ、ゾーイ・ロフグレン（サンノゼ出身）、アンナ・G・エスシュー（メンローパーク出身）、スコット・ピーターズ（サンディエゴ出身）、トニー・カルデナス（パコイマ出身）、アミ・ベラ（エルク・グローブ出身）、ナネット・ディアスバラガン氏（サンペドロ出身）とルー・コレア氏（サンタアナ出身）は木曜日、ニューサム氏に書簡を書き、法案が州議会に提出された場合には否決するよう求めた。

サンフランシスコのウィーナーの文脈では、彼は重大なジレンマに直面している。一方で、AIは潜在的な危険性があるため規制されるべきだと主張する専門家がいる一方で、AI研究に生計を立てている専門家もいる。グロース氏は、AIに関連する利点とリスクの両方を乗り越えるウィーナー氏のキャリアにおいて、これが重大な岐路を迎える可能性があると指摘した。

一部のハイテク大手は規制には前向きだが、ウィーナー氏のアプローチには同意しないとしている。

LAタイムズ編集委員会との最近の議論の中で、メタ社の州政策マネージャーであるケビン・マッキンリー氏は、法案とその目的に関するウィーナー氏の見解に同意を表明した。しかし同氏は、特にカリフォルニア州におけるAIの進歩、特にオープンソースのイノベーションに対するこの法案の潜在的な影響について懸念を表明した。

企業の 1 つである Meta は、Llama と呼ばれる一連のオープンソース AI モデルを提供しており、開発者はその上に特定のプロジェクト用の AI モデルを作成できます。最新バージョンの Llama 3 は Meta によって 4 月にリリースされ、テクノロジー大手の発表によると、すでに 2,000 万回以上ダウンロードされています。

メタ氏は最近の修正案についてはコメントしないことを選択した。以前、マッキンゼーは、SB 1047は「見直しと変更を加えるのが非常に困難」であると述べた。

ニューサム氏の広報担当者は、同氏の事務所は通常、保留中の法案についてコメントしないと述べた。

イジー・ガードン氏が電子メールで発表した声明によると、知事は法案が審議のために提出された場合、その長所に基づいて法案を評価するつもりだという。

AIアシスタント「クロード」で知られるサンフランシスコに本拠を置くAI企業アンスロピックは、修正が加えられた場合には法案を支持する可能性をほのめかした。アンスロピック州・政策責任者のハンク・デンプシー氏は、バフィー・ウィックス下院議員（民主党、オークランド）に宛てた7月15日付の書簡で修正を提案した。これらの変更には、損害が発生する前に規制を施行するのではなく、大惨事を引き起こした企業に対する説明責任を強調する法案の言い換えが含まれる。

ウィーナー氏は、修正案はアンスロピック社の懸念を考慮したものだと述べた。

ウィーナー氏によれば、進歩と安全性の両方を同時に促進することが可能だという。それらは相反する目標である必要はありません。

提案されている変更が法案に対する Anthropic のスタンスに影響を与えるかどうかは依然として不明です。アンスロピックは最近の宣言で、木曜日に行われる予定の「法案の発表に合わせて新しい文言」を検討すると述べた。

スタンフォード大学の人間中心人工知能（HAI）で副所長を務めるラッセル・ウォルド氏は、法案提案には依然として反対であると強調した。この機関は、AI 研究と政策開発の推進に重点を置いています。

Wald氏は声明の中で、最近の変更は実際の内容よりも見た目を優先しているようだと述べた。これらの変更は、主要な AI 企業間の論争を避けるために設計されているようですが、学術機関やオープンソースコミュニティから生じる真の懸念に対処することはできません。

政策立案者は州のテクノロジー産業の成長を促進しながら、同時に AI 関連の懸念を考慮する必要があるため、微妙な均衡を保つことは政策立案者にとって課題となっています。

委員会会合後、ウィックス氏は「私たちは皆、経済発展を促進する可能性を含むAIの進歩を妨げることなく、必要な保護手段を提供する規制環境の構築に取り組んでいる」と述べた。

2024-08-17 02:01