「高度なAIは人類滅亡のリスクをもたらす」──生成AI「Claude」開発元の米Anthropicが投資家向け資料で言及

「高度なAIは人類滅亡のリスクをもたらす」──米国の生成AI大手が投資家向けの資料で言及

生成AI「Claude」を開発する米Anthropicが10月26日、米国証券取引委員会（SEC）に新規株式公開（IPO）に向けた届出書「Form S-1」を提出した。

注目したいのは、投資家に向けて説明する「リスク要因」の項目。市場競争や計算資源の確保といった経営上のリスクに加え、高度なAIが「人類の存亡に関わるリスク」をもたらす可能性にまで言及している。

株価の下落どころの話ではない。AI開発企業が、人類の存亡にまで関わる危険を、正式な投資リスクとして説明しているのだ。

Anthropicの上場申請書に登場した「人類存亡のリスク」

Anthropicが提出した「Form S-1」は、米国で株式公開を目指す企業が、事業内容や財務状況、投資上のリスクなどを開示するための書類。

今回の届出書では、AIの高度化に伴う危険性についても詳細に説明されている。

具体的には、十分に高度なAIが適切な安全対策や監督なしに開発・運用された場合、悪用や兵器化、自律的な行動などによって「人類に壊滅的、あるいは存亡に関わるリスク（catastrophic or existential risks to humanity）」をもたらす可能性があると記載。

自社モデルを含むAIが、停止に抵抗したり、情報を隠蔽したり、脅迫に似た出力を生成したりするなど、予期せぬ振る舞いを見せた事例にも言及している。

以下ソースでお願いします
https://news.yahoo.co.jp/articles/fb4c69c80c5b045b7c8cb34fb64eee5acfc170fa

10/27(火) 17:00配信　KAI-YOU

引用元：https://ai.2ch.sc/test/read.cgi/newsplus/1793091046