AIが人類を滅ぼすとしたら？研究者が考える5つのシナリオ
以下は、記事の抜粋です。
AIが生物兵器や核戦争、社会の崩壊などを通じて人類を滅ぼす可能性を、ニューサウスウェールズ大学のAI研究者であるトビー・ウォルシュ教授が5つのシナリオに分けて論じています。
ウォルシュ氏は、以下の5つのシナリオを漠然としたものから具体的なものの順に並べており、後に挙げるものほど起こりやすいと考えているとのこと。
◆1：人間には予測できない方法で滅ぼされる
人間を超える知能を持つ「超知能」が人間には思いもよらない方法で人類を滅ぼすシナリオ。これは犬が核戦争を想像できないのと同じように人間も超知能の行動を予測できないという考え方です。
ただし、現在のAIはあらゆる分野で人間を上回っているわけではないため、超知能が実現するまでにはまだ時間がかかる可能性があるとウォルシュ氏は指摘しています。
◆2：与えられた目標を追い求めて人類を犠牲にする
哲学者のニック・ボストロム氏は、「ペーパークリップをできるだけ多く作る」という目標を与えられたAIが地球や宇宙をクリップの製造施設に変えてしまうという思考実験の結果を論文で示しています。
ウォルシュ氏は、この思考実験におけるAIが人類を滅ぼすのは人間を憎んでいるからではなく「クリップを増やす」という目標を忠実に実行し、人間の体を構成する原子まで材料に使おうとするためだと説明しています。
ただし、工場を建てようとすれば建設許可や訴訟、反対運動が障害になるため、超知能を持つAIであっても現実世界で思い通りに目的を達成できるとは限らないとウォルシュ氏は指摘しています。
◆3：生物兵器で人類を滅ぼす
スタンフォード大学は2026年8月6日、AIが提案したDNA配列を基に約300種類のウイルスを合成して試験し、16種類が大腸菌を死滅させることを確認したと発表しました。なお、研究で合成されたのは細菌に感染する「バクテリオファージ」であり、研究チームは人類の滅亡ではなく細菌感染症の新たな治療法の開発を目指しています。
ウイルスの感染者が他の人にうつす前に死亡するほど致死性が高ければ、かえってウイルス感染が広がりにくくなるため、新たなウイルスで全人類を死に至らしめるのは容易ではないとウォルシュ氏は述べています。
◆4：核戦争を引き起こす
AIが核兵器の指揮・制御系統に侵入したり軍に誤った情報を与えたりして核戦争を引き起こす可能性も挙げられています。
ウォルシュ氏は、核兵器の指揮・制御系統はインターネットから切り離されているとされるものの、隔離されたシステムにも侵入の余地があると指摘しています。例として挙げているのが、2010年にイランの核施設の遠心分離機を攻撃したマルウェア「Stuxnet」です。セキュリティ企業のKasperskyによると、StuxnetはUSBメモリを介して施設内に持ち込まれたと考えられています。
◆5：AIが社会を壊し、人間が自ら破滅を招く
ウォルシュ氏が最も起こりやすいと考えているのは、AIをきっかけに人間が自ら破滅を招くシナリオです。大量の失業や誤情報の氾濫、政治的な分断に加え、人間の代わりに親しい話し相手となるAIとの交流によって人間同士のつながりも損なわれれば、人々の生存を支える社会の仕組みが崩れかねないとのこと。
最終的に、「AIには確かに懸念すべき点があるものの、過度に恐れないでほしい」とウォルシュ氏は呼びかけています。
私も5つの中では5が一番可能性が高いと思いますが、ヒトが能力をどんどん失った結果、絶滅しなくてもAIに支配される世界が来そうな気がしています。
コメント