World leaders at a U.N. Security Council meeting talked about the rise of artificial intelligence (AI). They praised its amazing abilities but warned of serious risks if it is misused. AI can help predict food shortages, stop violence, improve medicine, and give fast information. But it can also spread false news, be used in war, or even cause accidents if not controlled.
U.N. Secretary-General Antonio Guterres (pictured) and others urged countries to set “guardrails” to keep AI safe. The U.N. has created two new groups: a global forum and a panel of experts to guide AI rules, but some fear these bodies may be too slow to handle fast changes. Leaders also worried that poorer nations could be left behind in the AI boom. Experts are calling for global agreements, similar to nuclear treaties, to stop the most dangerous uses of AI.

国連安全保障理事会の会合で、各国の首脳が人工知能（AI）の急速な発展について議論した。彼らはAIの驚異的な能力を称賛する一方で、悪用された場合の深刻なリスクについて警鐘を鳴らした。AIは食料不足の予測や暴力の抑止、医療の改善、迅速な情報提供などに役立つ一方で、偽情報の拡散や戦争への利用、制御を誤れば事故を引き起こす危険性もある。 アントニオ・グテーレス国連事務総長（写真）らは、AIを安全に活用するための「ガードレール（安全策）」を各国に設けるよう呼びかけた。国連はすでに、AIのルールづくりを導くための「国際対話（正式名称：AIガバナンスに関する国際対話）」と「専門家委員会（正式名称：AIに関する独立国際科学パネル）」という2つの新組織を設立しているが、技術の変化の速さに対応できないのではないかとの懸念も出ている。各国首脳はまた、AIの急速な発展の中で貧しい国々が取り残される可能性にも懸念を示した。専門家たちは、核兵器の条約に類似した国際的な協定を結び、AIの最も危険な用途を防ぐ必要があると訴えている。