Anthropic CEO Dario Amodei has called on AI companies to slow down the development of powerful AI models. He says this would give people more time to deal with the risks of AI. He suggested a three-step plan. First, independent experts should be allowed to check AI companies’ safety work and internal information. Second, major AI companies should work together to make safety rules and prevent uncontrolled development. Third, countries should cooperate to manage AI risks.
OpenAI CEO Sam Altman and xAI CEO Elon Musk agreed with Amodei’s idea. Amodei’s call came after Anthropic reported that some people had used its Claude AI for weapons development, cyberattacks, and fraud. He is also worried that AI may become difficult for humans to control. An Anthropic researcher also recently warned that AI could cause serious harm in the future.

米AI開発会社アンソロピックのダリオ・アモデイCEOは、AI企業に対し、高性能なAIモデルの開発を遅らせるよう呼びかけた。これにより、人々がAIのリスクに対応するための時間を確保できると述べている。アモデイ氏は3段階の計画を提案した。第1に、独立した専門家がAI企業の安全対策や社内情報を確認できるようにする。第2に、主要なAI企業が協力して安全に関するルールを作り、制御できない開発を防ぐ。第3に、各国が協力してAIのリスクを管理する。 OpenAIのサム・アルトマンCEOとxAIのイーロン・マスクCEOも、アモデイ氏の考えに賛同した。アモデイ氏が呼びかけたのは、アンソロピックが、一部の人々が同社のAI「Claude」を兵器開発やサイバー攻撃、詐欺に利用したと報告した後のことだった。また、AIが人間による制御が難しくなる可能性についても懸念している。アンソロピックの研究者も最近、AIが将来、深刻な被害を引き起こす可能性があると警告した。