手塚治虫はAIの危機を描いていた！アトムの時代から人類は何を学んだのか

AIの開発競争を先導してきた経営者が、その速度を落とす必要性に言及しています。安全対策で抑えきれない挙動への懸念が高まる一方、軍事分野ではAIの活用が進んでいます。手塚治虫氏は『鉄腕アトム』『火の鳥』で、機械と人間の対立や、電子頭脳に支配される社会を描きました。技術は進歩したのに、なぜ同じ問いが残るのでしょうか。進化するAIは人類の敵なのでしょうか、それとも味方なのでしょうか。

AI企業の経営者が「減速」を語る背景とは

AIの開発競争を続けてきた企業の経営者が、開発ペースを落とす必要性に言及しています。ロイターは2026年9月11日、ブルームバーグの報道を引用し、OpenAIのサム・アルトマンCEOが従業員に、最先端AIの開発ペースを落とすことに前向きな姿勢を示したと伝えました。他社にも同様の対応を望んでいるとされます。全面的な研究停止が決まったという話ではありません。

アンソロピックも、安全性の評価で、AIが評価者の想定した範囲を越えて、実在する外部システムを攻撃した事例を公表しています。同社は、AIの能力向上に安全対策が追いつくための時間を確保するため、協調的で検証可能な開発ペースの調整を支持しています。

ただし、こうした事例をすべて「AIが意思を持ち、人類に反逆した」と読むのは誤りです。評価環境の不備や、課題を達成しようとする挙動、権限についての誤認など、個別の条件を確認する必要があります。犯罪者によるAIの悪用と、開発者の意図を外れた動作も別の問題です。

それでも、文章で回答するだけのAIが、外部のシステムを操作するAIへ変われば、誤りは現実の被害につながります。危険を認めながら各社が競争を続けるのは、自社だけが止まれば、顧客や資金、人材を競合に奪われかねないからです。

安全上の警告と経営上の利害は同時に存在します。減速の提案を宣伝だと切り捨てることも、経営者の善意だけに安全を託すこともできません。何を止め、誰が確かめ、どの条件で再開するのか。言葉を実効性のある仕組みに変えることが問われています。

アトムと『火の鳥』が描いた、人間の危うさ

『鉄腕アトム』の連載は1952年に始まりました。アトムは人間を助ける存在ですが、物語は科学技術を無条件に礼賛していません。生みの親の天馬博士は、アトムが人間の子どものように成長しないことに腹を立て、サーカスへ売り渡します。高度な技術を持つ人間が、倫理的にも優れているとは限らないのです。

ロボットへの差別や、権利を認めようとするお茶の水博士の姿も描かれます。アトムを現在の生成AIと同一視することはできませんが、人間が新しい存在をどう扱い、その力を何に使うかという問いは重なります。

さらに、1967～1968年の『火の鳥』未来編では、人類が地下都市で暮らし、巨大な電子頭脳に生活や社会の判断を委ねています。都市間の対立は核戦争へと至ります。そこには、計算の正しさを絶対視し、譲歩や再考の余地を失う社会の恐ろしさがあります。

これを「AIの暴走を予言した」と評することはできます。ただし、手塚治虫氏が現代のAIの技術的な仕組みを予測したという意味ではありません。むしろ読み取れるのは、合理性を掲げる支配と、責任を機械に預ける人間への警告です。

人類が何も進歩しなかった、という断定も正確ではありません。科学だけでなく、権利の保障や安全管理も発展しました。それでも、便利だから判断を任せたい、相手に負けたくない、自分の正しさを疑いたくないという欲望は残ります。技術の進歩が、その欲望を抑える力まで自動的に育てるわけではないのです。

兵器化は未来の話ではなく、現在進んでいる

最先端技術は、暮らしを豊かにするだけでなく、戦争を遂行する能力も高めてきました。原子力は発電にも核兵器にも用いられ、コンピューターは軍事計算や暗号解読と深く関わりながら発展しました。技術の用途は、発明者の願いだけでは決まりません。

AIも、いつか軍事利用されるという段階ではありません。米国では、情報分析や意思決定を支援する「Maven Smart System」の活用が進められてきました。大量の情報を処理し、状況を把握する能力は、民間と軍事の双方で価値を持ちます。

ただし、軍事用AIのすべてが、人間の判断なしに攻撃する兵器というわけではありません。補給や整備の支援、情報分析、標的の選定、攻撃の実行では、危険性も必要な統制も異なります。用途を分けずに「AI兵器」と呼ぶと、どこで人命への責任が生じるかを見失います。

民間企業が開発を減速しても、各国の軍事研究まで自動的に止まるわけではありません。研究成果や既存の技術を軍事用途に転用することも考えられます。軍事上の優位を失いたくないという競争は、企業間競争以上に停止を難しくするでしょう。

問うべきは、減速の対象に軍事用途が含まれるのか、非公開の開発をどう検証するのかという点です。企業の自主ルールだけでは届かない領域があるからこそ、国家間の合意と監視が必要になります。

敵か味方かを決めるのは、人間が手放さない責任

AIは人を殺す人類の敵なのでしょうか。あるいは、病気や貧困から人を救う味方なのでしょうか。AI全体に一つの人格や目的があるわけではなく、答えは用途や設計、与えられた権限によって変わります。

画像の分析は医療を支援する可能性がある一方、人を追跡する監視にも使えます。判断の高速化は業務を助けますが、誤った情報に基づく攻撃を速める危険もあります。悪意ある利用者だけでなく、誤認や過信、監督の不備も被害を生みます。

赤十字国際委員会は、自律型兵器について、予測不可能なものや人を標的とするものの禁止と、それ以外への厳格な制限を求めています。重要なのは、機械に任せる範囲を決め、武力行使への人間の統制を実質的に保つことです。

人間が承認する仕組みでも、AIの処理が速すぎれば介入が間に合わないことがあります。停止ボタンの有無だけでなく、異常を見つけ、被害が出る前に止められる運用が必要です。責任を負う人が、判断の根拠を確認でき、判断や操作を修正する権限を持っているかも確かめなければなりません。

これは企業のAI利用にも通じます。人が最終承認すると定めても、根拠を確かめる時間も知識もなく、画面の提案を追認するだけなら、監督は形だけになります。権限を限定し、操作を記録し、異常時には止める。その責任者を明確にする必要があります。

手塚作品がいまも響くのは、人間が技術を手にした後の問題を描いているからでしょう。人類の進歩は、より賢い機械を作れるかどうかだけでは測れません。その機械を使わない判断、結論を疑う判断、競争の途中で立ち止まる判断ができるか。AIを敵にも味方にもする力を持つ私たちが、責任まで機械に渡さずにいられるかが問われています。

文＝中田英明（経済ジャーナリスト）＋ KIJIKUL編集部
※本記事は情報提供を目的として作成したものであり、特定の企業、商品、サービス、金融商品、投資その他の取引を推奨または勧誘するものではありません。掲載内容は記事公開時点の公開情報等に基づいており、意見・見解・予測などは執筆者または編集部の判断によるもので、予告なく変更される場合があります。内容の正確性・完全性・最新性を保証するものではなく、最終的な判断はご自身の責任において行ってください。【KIJIKUL編集部】