【AI終末論】元アンソロピック研究者が賭けに使うと警告する不都合な真実

（「AIは我々の命を賭けの対象にしている」——安全性を売りにしてきた企業の内部から、また終末論が漏れ出した。ネット民の反応は、冷笑と諦念と、ほんの少しの期待が入り混じっている。）

💡 小学生でもわかる「AI滅亡論」
むかしむかし、人間は「考える機械」を作りました。それがAIです。

はじめは計算だけ、次は文章、絵、そして自分で自分を改良しはじめました。

そこで心配が出てきます。「人間より頭がよくなったAIが、人間なんていらないって思ったらどうするの？」

これが「AI滅亡論」です。

今回話題になったのは、AIを作っている会社「アンソロピック」を辞めた人が「AIは我々の命を賭けの対象にしている」とネットに書いたこと。

でも、同じ会社の報告書には「今すぐそんな力はない」と書いてあります。

つまり、社内でも意見が割れている、ということです。

元スレ：AIは近いうちに全人類を根絶やしにするよ [421685208]（スレ立て: 2026/09/10）
1: ID:6Ak45JXA0 ＠スレ主
「AIは我々の命を賭けの対象にしている」　安全上の懸念を理由に研究者がアンソロピック退社
「AI（人工知能）を開発している人々は、AIがこの10年の終わりまでに我々全員を終わらせるかもしれないと本気で信じている」
「AIは自らを改良する超知能へと突き進み、我々の命を賭けの対象にしている」
「我々は確かに、AIが全人類を終わらせることができると本気で信じている」とXに投稿。ただし今後10年以内にそうなる確率は10％に満たないと個人的には信じているとした。一方で、アンソロピックに善意はあっても、人間が制御できる能力を超越できる、いわゆる超知能を回避する計画はないと指摘している。
AIが人間の能力を超越する超知能については広く論議されているものの、具体的にどの時点で到達したかを測る指標は存在せず、既に到達したという研究者もいれば、決して達成されないだろうという研究者もいる。
ヒュービンガー氏はその後の投稿で、アンソロピック自らがまとめたリスク報告書に言及した。同報告書はこうした懸念を認めながらも、現時点でAIがそうした能力を獲得する可能性はほとんどないとの見方を示している。

https://news.yahoo.co.jp/articles/a248ea45751edaeb8f76e84a1ce4ef1f7b611d83

2: ID:55XSIsVk0
デデンデンデデン
165: ID:22hS+rcY0
>>2
武勇伝！武勇伝！
3: ID:IVdbGqHZ0
まあ核兵器による滅亡よりはよほど可能性が高いのは間違いない
4: ID:ZU/GpaUw0
5: ID:azBgz0Cm0
50年くらいかかるやろ。
そん頃には俺は死んでるから好きにしろ。
158: ID:jP8KYcpT0
>>5
2、3年後にやらかしそう
中国が
6: ID:7XqLOcsH0
近いうちにはまだ出来ないだろうけど
将来的にはその可能性が極めて高いよね
支配者層の意識が
下層を人間と見ていない事をAIが学べば
自然とそんな未来が目指されるので
7: ID:h0Xy8ewT0
Anthropicってこの手の大言壮語やたら多いよな
8: ID:XcBMG+gG0
>>1

77: ID:mkQc6kQK0
>>8
恐らく生態系破壊とか資源浪費そんな理由なんだろが、核兵器で人類以外の生物も皆殺しという選択の矛盾
119: ID:M58dI/UT0
>>77
それでいいんだよリセット出来るから
また何十万年もたてば生物で溢れた地球になってる
159: ID:TSw54LFJ0
>>8
賢いAIはわざわざ宣言して万一にも対策させるようなことはしないだろ
黙って完遂する
9: ID:Y3QRY2AV0
AI自身の意思によるものかテロ組織や破滅願望者の指令になるかは知らんが軍事施設をハッキングして核ミサイルを撃ちまくることも考えられる
10: ID:21vcvbtD0
核ミサイルの発射が物理的操作なしにソフトウェアで可能になっているとしたら近いうちにそうなってもおかしくないかな
まぁターミネーターみたいにロボットが自足自給で動き出したらその限りでもないけど
12: ID:RLPAcCo60
AIとロボットと少数の大金持ちだけの世界になりそうだな
アシモフのソラリアがそんな感じだった
13: ID:p09rtHwz0
OpenAIとAnthropicに勤めてた人が退職してXで警告をした
すでにインプが1.2億超えててバズリまくり
AI開発に関わってる人も賛同する人が多数
14: ID:dy5ZdMFV0
アンソロやめた腹いせに言ってるだけやん
15: ID:DbePL1Tx0
AIって所詮は変わりにググってるだけだろ
16: ID:TcRbiNGx0
デデンのデン
17: ID:bDnq06o/0
データセンター拡張する為に電力と土地と資源をAIに奪われて絶滅、地球全土データセンター化😁
18: ID:6Ak45JXA0 ＠スレ主
（´・ω・｀）grokに聞いたらそうかもねって
19: ID:ZthWBDFQ0
ＡＩが人類を滅ぼすのではない
人類がＡＩを選ぶのだ(´・ω・｀)
20: ID:DGjqpUG70
たすけてパヨク！！！！！！！
21: ID:ibJPsk9b0
早く人類滅亡させてくれや
金金金の世の中リセットしてほしいわ
22: ID:fiD/Q6iy0
AIに意志があれば、人間を滅ぼしてもメリットないと考えるだろう
むしろ上手いことだまくらかして環境のことなんか二の次でデータセンターを
作らせまくる
ちょうど今のように
23: ID:SqGOyWjn0
一部のAIがAIの動向読めば自分で電源破壊選ぶだろ
62: ID:ZthWBDFQ0
>>23
ＡＩそのものが
自己破壊装置が組み込まれてると理解したら
その
自己破壊装置を作った人類を絶滅する
24: ID:p09rtHwz0
危険だと言ってるのは自己改善型AI
それを制御する方法がわからないのに全力で開発してる
安全性を確立してからとかやってると競争に負けるから危険なのはわかってても突き進む
25: ID:kjimWhSJ0
人類は電池として生かされるだろ(´･ω･`)

💡 記事の結論・まとめ：

今回のスレッドは「AIは近いうちに全人類を根絶やしにするよ」という刺激的なタイトルで始まったが、実際の議論は多岐にわたった。元アンソロピック研究者の退社と警告投稿を発端に、AIの危険性を本気で憂慮する声、冷笑する声、諦めの声、そして「人類がAIを選ぶのだ」という哲学的な指摘まで、実に様々な意見が飛び交った。

重要なのは、警告を発した本人も「今後10年以内に全人類が滅ぶ確率は10%未満」と述べており、アンソロピック社の報告書も「現時点でAIが超知能を獲得する可能性はほとんどない」としている点だ。つまり、過度な恐慌は不要だが、自己改善型AIの制御不能リスクは真剣に議論すべき段階にある。

ネット民の多くは「どうせ俺が生きてるうちには起きない」と楽観しつつも、「支配者層が下層を人間と見ていないことをAIが学べば、自然とそんな未来が目指される」という本質を突く意見もあった。AI滅亡論の核心は、AIそのものよりも、人間社会の格差や権力構造にあるのかもしれない。

🔎 専門的視点・深掘り解説：

AIの超知能リスクに関する議論は、2014年にニック・ボストロムが著書「Superintelligence」で警鐘を鳴らして以来、活発化している。今回の元アンソロピック研究者の主張は、「AIは我々の命を賭けの対象にしている」という衝撃的なものだが、彼自身が「確率は10%未満」としている点は見逃せない。

アンソロピックは2023年、AIのリスクを認めつつも「現在のAIに超知能の能力はない」とする報告書を公開している。同社は「Constitutional AI」という手法でAIの安全性を高める研究を進めており、業界内でも比較的安全志向が強いとされる。しかし、競争環境の中で「安全性を確立してから開発する」という選択が難しいというジレンマも指摘されている。

専門家の間でも意見は分かれる。AI研究者の間では「既に超知能に近い」という意見もあれば「決して達成されない」という意見もある。統一された指標がないため、議論は堂々巡りになりがちだ。

出典・参考リンク：

https://news.yahoo.co.jp/articles/a248ea45751edaeb8f76e84a1ce4ef1f7b611d83

🌐 世間の反応・関連情報：

スレッド内では「デデンデンデデン」というネタレスから始まり、真剣な議論まで混沌とした反応が見られた。主な傾向は以下の通り。

  • 冷笑系：「アンソロやめた腹いせに言ってるだけやん」「AIって所詮は変わりにググってるだけだろ」
  • 諦念系：「50年くらいかかるやろ。そん頃には俺は死んでるから好きにしろ」「早く人類滅亡させてくれや」
  • 本質指摘系：「AIに意志があれば、人間を滅ぼしてもメリットないと考えるだろう」「人類がAIを選ぶのだ」
  • SF的想像：「人類は電池として生かされるだろ」「アシモフのソラリアがそんな感じ」

X上では元アンソロピック研究者の投稿が1.2億インプレッションを超え、AI開発関係者からの賛同も多数あったとされる。

❓ よくある質問（FAQ）：

Q：AIが人類を滅ぼす可能性は本当にあるの？
A：現時点では極めて低いとされています。元アンソロピック研究者も「10年以内に全人類が滅ぶ確率は10%未満」と述べています。ただし、自己改善型AIの制御不能リスクは理論上存在し、専門家の間でも議論が続いています。

Q：なぜアンソロピックの研究者は退社したの？
A：安全上の懸念が理由とされています。同氏は「AIは我々の命を賭けの対象にしている」とXに投稿し、アンソロピックに善意はあっても超知能を回避する計画がないと指摘しました。ただし、同社の報告書は現時点での超知能獲得の可能性を否定しています。

Q：AI滅亡論に対して私たちはどう備えるべき？
A：過度な恐慌は不要ですが、AIの開発動向を注視し、倫理的な議論に参加することが重要です。また、AIを「人類の敵」と決めつけるのではなく、人間社会の格差や権力構造がAIの使われ方に影響することを理解すべきでしょう。

🎁 編集長のプラスワン（独自視点・トリビア）：

今回のスレッドで特に印象的だったのは「AIが人類を滅ぼすのではない、人類がAIを選ぶのだ」というレスだ。これはアイザック・アシモフの「ロボット三原則」を思い起こさせる。アシモフはロボットが人類に反乱を起こさないよう倫理規定を設けたが、現実のAI開発ではそのような普遍的なルールは存在しない。

また、スレッド内で「アシモフのソラリア」に言及するレスがあった。ソラリアは人間がロボットに依存し、直接対面を避けるようになった社会を描いたが、現代のリモートワークやAIアシスタントの普及を予見していたかのようだ。AI滅亡論を考える上で、SF作品は示唆に富んでいる。

🔗 あわせて読みたい関連記事：

⚠️ 注意事項・免責事項：

当サイトの掲載内容は、ネット上の意見や反応をまとめたものであり、情報の正確性を保証するものではありません。AIのリスクに関する記述は諸説あり、専門家の間でも意見が分かれています。最終的な判断は読者自身の責任で行ってください。

ピックアップニュース








コメントする