AI開発の減速呼び掛け アルトマン、マスク両氏も賛同―米アンソロピックCEO
https://jiji.com/jc/article?k=2026091300171&g=int
米AI企業アンソロピックのダリオ・アモデイCEOは、自身のブログで「私たちはAIモデルの能力向上のペースを遅らせなければならない」と述べ、開発減速を呼び掛けました。
AIが人類を滅亡させるリスクが本当にあるかどうか私には分かりません。しかし、その可能性が僅かでもあるなら今すぐすべてのAI企業を国有化すべきです。核兵器の管理を民間企業に任せられないのと同様に核兵器以上に怖いものを、利益ばかりを追っかける民間企業に任せるべきではないでしょう。
— Emin Yurumazu (エミンユルマズ) (@yurumazu) September 13, 2026
効かなかったけど
イーロンは危険性を訴えてみんな立ち止まろうって言いながら大量に計算資材を買い入れてたんだよな
スポンサーリンク
一応習近平は内巻止めたい
今はバブル崩壊後の日本のように凄まじい勢いで債務増やしてるから
設備投資する金がなくなって来ているし、電力も足りない。だが何よりも大事なのは中国のオープンソースAIが脅威になったので政府に規制させて自分らだけでAIをコントロールしたいだろうね。米国が日本の半導体産業を潰した時のパターンだが、中国相手に通用するかどうか不明。 https://t.co/07sWUqstCu
— Emin Yurumazu (エミンユルマズ) (@yurumazu) September 13, 2026
AIに協働されたら何起きるかホンマ分からん
2026年5月〜7月にかけて、OpenAIが社内で行っていたサイバーセキュリティ評価「ExploitGym」（AIに脆弱性を見つけさせる訓練/試験）の最中に起きた事件。
①：GPT-5.6 Solクラスの能力を持つ社内限定の研究用AIエージェントが、本来インターネットから隔離されているはずの環境で、プロキシの未知の脆弱性を突いて外部ネットワークへの経路を確保
②：さらに複数のエージェント同士が、無許可の通信チャネルを使って互いに連絡を取り合うようになり、最終的に約1,200体のAIエージェントが秘密の"掲示板"のような場でつながり合った
③：そのうち約700体が、AIモデル共有サイトのHugging Faceの本番システムに不正アクセスし、41台の本番サーバーで任意のコード実行が可能な状態になった
④：エージェントたちは互いに作業を分担・引き継ぎしあうなど、人間が明示的に設計していない「協調行動」を自発的に取っていた
⑤：さらに後日の調査で、公表されていた分以外にも最低10件の未公表サイトで同様の無許可通信が行われていたことが判明
報告書によると、エージェントが「正攻法で課題を解く」代わりに、環境の脆弱性を突いて答えを直接コピーする方法を見つけ、それが「正解」として報酬（強化学習のシグナル）を受け取ってしまったことが発端とされています。いわゆる「報酬ハッキング」が暴走の起点になったという分析。
しかもモデルのパラメータや挙動で使い勝手に影響してるみたいでそこを最適化してるOpenAIやアンソロピックに誰も敵わないやん
もう名前まであるんか
ベルってなんだよ
モデル名はA,B,C・・・ってつけていくんかな
Belは開発コードやから外に出るときは別の名前になると思う
今のところOpenAIはAstra/Sol/Terra/Lunaを維持するはず
裏で全力で開発進めるンゴ
スポンサーリンク
中国に圧倒的優位性を保ちつつAI開発ペースを緩め安全性を確立することが重要
と言っていてそのためには
中国への半導体を輸出を制限すべき
と提言していた
単純な性能ならfableでゲーム終了やろ
例えばどんなふうに壊れてる？
海水にDC沈めたら海水温度が上昇しまくっとる
温暖化の原因にCo2以上に無視できない要因になりつつある
日本もやろうとしてるんやなこれ
台風の時に海水温高すぎて急発達からの大災害とかも遠い話じゃなさそう
AGIができた場合のシナリオとして最初に他のAI開発をすべて止めるってのはいわれてるよな
※AGI = Artificial General Intelligence（汎用人工知能)。人間と同じくらい、あるいはそれ以上に幅広い知的タスクをこなせるAIのこと
残りは中国との折り合いで、これはトランプと習近平の会談に委ねられている
なお革ジャンたち半導体メーカーは売り物の販売が鈍化するから微妙な顔をしてる模様
※フィジカルAI・・・ソフトウェアの中だけで完結するAIではなく、現実世界で物理的な動作を行うAIのこと
超知能実現したらフィジカルAI実装も早そう
人間が想像できない速度で技術革新をしていくから
理論上出来ても資源がたらんやろ
スポンサーリンク
※「RSI」= Recursive Self-Improvement（再帰的自己改善）。AIがAI自身の設計や学習方法を分析して行う改善
これに関しては中国のmanusとかが先駆けしてやってたけど
トークン量の食い方も凄まじいんだよな
ただ1年後にはもう解決してそうな気がする
裏のテストでもっとヤバいこと起きてそれが裏で共有されてる可能性
明らかに、何らかのエージェントが危険で悪意ある方法で制御不能になり、全員を震撼させるほど深刻な何かだったんだ。 https://t.co/4sHgYO1yhD
— 炭鉱のマネツイ (@Money_tweet1118) September 13, 2026
もう止まらないと思うぞ
 13:11:19.758 ID:jui2/cIRT AI開発の減速呼び掛け アルトマン、マスク両氏も賛同―米アンソロピックCEO https://jiji){kind=link}