リップルCTO、AIの重大問題に注意喚起

by

テクノロジーとその影響、特に人工知能の分野に強い関心を持つ経験豊富な研究者として、私は、低品質で潜在的に危険な書籍の制作に関わる最新の AI 論争を深く懸念しています。 AIが生成したキノコ識別帳によって毒殺された一家についてのレディット投稿をデビッド・シュワルツがシェアして話題になった話は、控えめに言ってもぞっとするものだ。

リップル社の CTO であるデビッド・シュワルツ氏は最近、ソーシャル メディア プラットフォームでの最近の AI 論争を強調しました。

シュワルツ氏は広く共有されたレディットのスレッドに投稿し、AIが作成したキノコ識別ガイドを信頼した家族が中毒を経験し、病気になったと主張した。

Redditの投稿者によると、家族全員が毒キノコを食べて病院に運ばれたという。

報道によれば、この本は有名店から購入されたようだ。しかし、詳しく調べてみると、中にあったキノコを描いた絵が人工知能によって作成された可能性があることが判明した。さらに、一部の文章の繰り返しと定型的な性質を考慮すると、この本の文章は AI の支援を受けて書かれた可能性があり、チャットボットの応答を彷彿とさせるフレーズも含まれています。

小売業者は書籍の代金を返金することに同意したにもかかわらず、ウェブサイトで引き続き販売されているその他の水準以下の書籍については懸念が残っています。

レディターは、著者らの責任を追及する目的で、本の内容についてこのような不注意を当局に通報できないか考えた。

シュワルツ氏はソーシャルメディアへの投稿で、「この報道が真実なら、歴史は繰り返すことになる」と述べた。

リップル幹部が言及したこの事件は1991年に遡り、ウィンター対G・P・パットナムの息子として知られており、2名が参考目的で「キノコ百科事典」というタイトルの本を購入した。

このガイドには、キノコを見つける場所、収集方法、調理方法に関する広範な情報が含まれていました。英国のこの本は、ニューヨークに拠点を置くアメリカの書籍出版社、G. P. Putnam’s Sons によって配布されました。この本を使用した後、夫婦は重篤な状態になりました（肝臓移植が必要なほど）。

法的紛争において、二人はキノコ識別ガイドブックの不正確な情報を理由に、製造物責任、過失、虚偽表示を主張して、P.パットナムの息子たちに対して訴訟を起こした。残念なことに、この誤ったデータにより、ハンターたちは危うく死亡するところだった。しかし、この訴訟では裁判所は最終的に出版社に有利な判決を下した。

AI によって作成された標準以下の文献が過剰に多すぎると、より多くの虚偽に遭遇する可能性があるため、信頼できるデータを求める読者にとって問題が複雑になる可能性があります。

2024-08-18 13:51