核兵器をAIに委ねるな――『ローマ宣言』が採択される

ローマ教皇レオ14世は、新著『武装せず、武装を解く。平和は贈り物(仮訳)』(バチカン出版局)の序文で、「平和は真理の上に構築される」と記している。戦争する者でさえも、「平和のために戦争をしている」と主張し、「戦争のために戦争しているなどと、ずうずうしく言う者はいない」と述べている。さらに、(戦争する)地上の強権者さえ、「人々が正義を希求し、平和のうちに生きたいと願っていることを知っている」と記す。特に、「ヒロシマとナガサキで起きた出来事の恐るべき結果の後で、ヨハネ・パウロ2世が主張したように、戦争が“後戻りできない冒険”であるという真理の認識が必要とされる」と指摘する。
教皇が含蓄的に指摘する、戦争と核兵器にまつわる「噓(うそ)の構造」(核の抑止論をも含めて)は、人間の及ばない速度での決断が可能な人工知能(AI)をも巻き込もうとしている。敵国よりも数秒早く核兵器を使用できる可能性に自国の安全保障を託し、核戦争になったら、人類と地球全体が壊滅の危機に晒(さら)されるという「真理」に眼をつぶる。噓の構造」に従って動く傾向を強くしつつある現代世界においては、核兵器使用の判断をAIに託し、人間の道徳的責務から外そうとする試みまで生まれてくる。だから、教皇は核軍縮とAIの「非武装化」(非軍事化)を強く訴えるのだ。
ローマ郊外・カステルガンドルフォの教皇避暑宮殿内には、教皇レオ14世が2025年に開所した庭園施設「ボルゴ・ラウダート・シ(ラウダート・シ村)」がある。同施設は、先代の教皇フランシスコが公布した環境回勅『ラウダート・シ』に基づいて23年に創設されたものだ。この庭園施設で7月14日から16日にかけて、「AIと核戦争に関する世界ノーベル賞受賞者会議」が開かれた。テーマは『AIと核兵器を超えて』。30カ国から30人のノーベル賞受賞者、20人のAI開発者、30人以上の大学研究者を中心に、200人を超える政治家、平和研究機関の責任者、諸宗教指導者たちが参加した。
参加者たちが抱く切迫した危機感は、核兵器とAIの相乗効果が生み出す「人類存亡の危機」への懸念として表明され、「もし、AIが人間の管理を逸脱したら」という問いに答える形で議論が進められた。第2セッションでは、『核の時代における人類家族の弱さ』と題し、「現代の核兵器、その破壊能力、健康への被害、危険性、ニアミス(危険の異常接近)」などの問題について意見が交わされた。各セッションの間には、作業部会が開かれた。第3セッションでは『人類に奉仕するテクノロジー』をテーマに、「核兵器システムにおけるAIの利用/戦略的不安定から兵器の管理と軍縮へ」といった議論が展開された。『AIと戦争の生み出す道徳的挑戦』を掲げた第4セッションでは、「殺人ロボット、AIや兵器の自律問題、戦争のエスカレーション(過激化と急速化)、機械的なスピードで展開されていく紛争」について討議した。
『AIと核兵器の時代における信仰と人類』と題した第5セッションでは、世界の諸宗教指導者たちが、それぞれの信仰伝統の立場から、AIと核兵器の生み出す諸問題に向き合った。このセッションの発題者の中には、ユダヤ教のラビ(指導者)で、世界宗教者平和会議(WCRP/RfP)国際共同議長のデビッド・ローゼン氏の姿があった。第6セッションのテーマは、教皇が強く主張する、『AIの非武装化/対話と協調による存亡危機の管理』だった。第7セッションで「デジタル時代における共通善」について討議した参加者たちは、「AIと核の恐怖に関する若者たちの声」に耳を傾け、最終セッションでは、知識や情報などのデジタル資源を人類の共通財産として扱う、「人類のためのデジタルコモンズ(共通財産)の構築」についての議論が展開された。
同会議に出席した核兵器廃絶国際キャンペーン(ICAN)のメリッサ・パーク事務局長は、「バチカンニュース」(英語版)のインタビューに対し、戦争が続発し、核の脅威が国際政治の中心課題に回帰してきた状況に言及しながら、「核の抑止論がウクライナやイランでの戦争に平和をもたらさず、予防もしなかった」と指摘。核抑止論は、「戦略的に効果が薄く、極限的に危険で、高価である」とし、「AIの軍事使用が、核抑止論と核兵器使用のリスクを高めている」と警鐘を鳴らした。
庭園施設での会議を終えた参加者たちは16日、ローマ市庁舎の「ジュリオ・チェザレ会議場」へと移動し、同会議場から「ローマ宣言」を公表した。同宣言は、核兵器が開発された当時、世界は、恒常的な恐怖の中で生きることを回避するチャンスがあったが、「われわれは失敗し、その結果として、人類は、核兵器がもたらす壊滅の淵で生きてきた」と自省し、「AI自体が、同じような危険性を持っている」と主張する。なぜなら、核兵器システムに組み込まれるAIが、危機的状況にある人間の判断に僅(わず)かな時間しか与えないどころか、人間の判断に取って代わる可能性があるからだ。「このAI技術が、核保有国間での核競争の状況を変えていく」と、「ローマ宣言」は危惧を表す。
さらに、「悪化していく核兵器競争の真っただ中にあって、われわれは、同じように危険なAI競争の時代に突入しようとしている」と主張。核兵器と同じようにAIも戦略的な競争の対象だが、「ローマ宣言」の署名者たちは、政府、第一線のAI開発者、研究者、国際共同体に対し「直ちに行動を起こし」「AIの恩恵を全ての人が分かち合える仕組み、人間の福祉に奉仕するAIの活用、不安定な状況を生み出すAI活用の制限、人間による選択を縮小する危険性の抑制」などに関するAI管理政策の実現を呼びかけている。そして、「AIの責任ある使用」に関するアピールでは、「核兵器使用に関する最終決断が、絶対に自動的なシステムに委託されてはならない」と警告する。宣言文の署名者たちは、「核兵器の統制・管理・発射システムをAIに委託することを禁じ、人間によるコントロールが保持されるように定める、国際協定の締結」を求めている。





