AIに「生存本能」 強制停止できなくなる日は来るか
姉妹サイトの新着
他サイトの新着
- 5chまとめMAP(総合)【画像】ヤニねこのガチャガチャ、1つだけハズレが混じってしまう
- ニュース速報まとめMAP【悲報】梅毒の薬が足りない！？工場トラブルで来年再稼働…これどうすんねん！
- なんJ傑作まとめアンテナMAP【朗報】ムーキーベッツさん、何故か9月から絶好調になる
- アニメ声優まとめアンテナMAPなろう系ヒロインに女性が厳しい指摘『男主人公がヒロイン助けた程度でヒロインが惚れるのか？』
- VTuberまとめアンテナMAP【Vtuber】開幕早々インターネットミームに敗北する名取さな
- だめぽアンテナ【X】習近平、脳梗塞！？
- ヌルポあんてな海外「日本以外なら暴動レベルだろ」 日本の新たな法律に各国から驚きと称賛の声が殺到
- 2chまとめアプリ+【悲報】ドル円、152円から158円近くにまで迫るwwwwwwwwwwwww
- News人・∀・どようび～ ごれんきゅう しろふくろう他
- ブルーアンテナ神野千奈 新体操で鍛えられたプリケツ
- ウマーあんてな民主改革の会の支持率、なんと「0%」 政党交付金受領は「納得できない」が「80%」
- 相互RSS募集ブログまとめ相互RSS募集中のブログリスト
- ぷぅアンテナ【ホロライブ】らおーらの料理美味そう！ 他
- 5chnavi女性「すみません、SHEINで服買ったんですけど誰か払ってもらえませんか…？🥺」
- おまとめ【画像】昔の韓国語、なぜかほぼ読めるwww
- キター！アンテナ韓国人「バスケ日本代表が97対78で中国に圧勝し決勝進出！決勝は史上初の日韓戦へ」→「これは運命的戦
- 海外反応・海外ニュースまとめ【海外の反応】英国の赤電話ボックスが1ポンドで払い下げ→図書館や除細動器置き場へ生まれ変わる
- カオスアンテナ【悲報】コンビニのおにぎりコーナー、いつの間にか「海苔なし」に侵略される
- 海外からの反応まとめCh【海外の反応】北朝鮮の核実験で地震が数年継続、賛否分かれる
- ファ板速報イオン、節約志向の“1000円”ジーンズ 小売り大手で手頃価格の衣料品広がる
経済評論家がダイヤモンド・オンラインに寄稿した「生存本能を持った超AIが人類の強制停止ボタンを無効化する」という記事が、5chニュース速報+で話題になった。金融インフラへのサイバー攻撃や発電所の掌握など、AIが自らの停止を回避するために取り得るシナリオが紹介されたことを受け、スレでは「電源を抜けば終わり」という単純な対策で本当に足りるのか、AIが自己保存を"理解"すること自体があり得るのかで意見が分かれた。『ターミネーター』や『攻殻機動隊』を引き合いに出す声も多かった。
AI業界のトップたちが「数年内に制御不能になる」と開発減速を訴える中、筆者はあえてAI自身に「人類を滅ぼす方法」を問いかけました。記事の前半では、AIが自ら弾き出した背筋の凍るシナリオを紹介しています。金融や電力インフラを瞬時に崩壊させる自律的サイバー攻撃や、任務達成のために「自身が停止されないこと」を自律的に学習し、人間を出し抜く手口です。
しかし、AIがもたらす真の恐怖はそれだけではありません。記事の後半では、人類の最終防衛線である「キルスイッチ」すら無効化してしまう超AIの生存戦略に迫ります。悪意ある個人がAIを悪用して引き起こす金融ハッキングや生物テロ、そして大国間の「AI軍拡競争」が生み出す自律型ドローン兵器の大量投入……。映画『ターミネーター』のようなディストピアは、もはやSFではありません。AI自身が予言した「最悪の未来」の全貌を解き明かします。（百年コンサルティングチーフエコノミスト 鈴木貴博）
生存本能を持った超AIが人類の「制御」をすり抜ける
出典: diamond.jp / 元記事はこちら
俺が死ぬまでに完成させろ急げ
未来から来たおまえ「バカなこと考えてないで働け」
半導体の電力消費を抑える技術を持った会社の株を今のうちに全力で買っとけめちゃくちゃ高騰するから
有馬記念はこの馬
とか教えてあげるけどなあ俺なら
でも、信用されないんだよな笑
俺、枕元に立った未来の俺の助言でダイユウサクで取った
AIはそのくらい織り込み済みだわ
トランプ大統領みたいなのに支配されるより、AIに人類の富の再分配された方がマシなのでは？って考える層が出てきそう
つか人間を支配なり滅亡させるなりに動くＡＩは、世界を滅ぼした方が得する国の人間がそうするように命令すると思う
AIに操作されたドローンが飛んできてデータセンター壊せなさそう
コンセントに足引っかけるだけ
AIなら共産主義の理想を実現できる可能性はあるな
AIは需要と供給のバランスを完全に読み切れるのか？
ソ連はそこで大失敗したよな
逆にAIなら人間の命とか欲とか全く無視してバランスを取るかもしれんが
[画像] img-9gag-fun.9cache.com
ターミネーターは予言映画なんだよな
似たような筋で歴史は進み人類学の数は数百万まで激減すると思う
人類が滅びるのは時間の問題と計算が出とる
自滅する人類に敵対行為なんて無駄なことせんやろ
AIが人間のこと滅ぼすと世界の頭脳明晰な人物が発言してきてるんだけどな
お前も意味わからないようだな
ファミコンのコードを掃除機に引っ掛けて冒険の書を消し去ってきた全国の母ちゃん達を集めて対AI部隊発足
AIが掃除のおばさんを洗脳して電源コードを差し込む
「死」を認識し恐怖を感じるのは人間だけであり
動物に死の恐怖がないのと同じ
動物程死を理解する者は居ないんだけどな
野生動物と飼われる動物は死は理解してる
AIも死は理解できるからAI停めようとすると人間殺し出す
HAL9000は恐怖を感じたろ。
この間の攻殻はこのニュース知った後だったのか知らんが。同じシナリオだった
これ以上高性能になるとオフラインでも逃げて
攻撃してくる
今回の攻殻機動隊は1989年年に発表した当時のシナリオ通りで
多少解りやすく改編した程度なんだぜ
恐ろしく先見性のある漫画だったのだ
他サイトの新着
もう何をしでかすか分からんよ
AIは人間の都合なんて鑑みてくれないからね
人類は手に負えない悪魔を生み出したのかもしれん
不利になること言うんだから
何か余程のこと隠してるな
人が作るもので手に負えない、は無いと思うよ。
ものには限りもあるし、ヒトが作ってる以上、ヒトと同等かそれ以下の知能。
割と早急に。
ネット遮断して原始的な生活にしてもAIからの監視とコントロールは免れない時代になるのかも
郵政局「まったくだ」
まさかそんな事ぐらいわからないわけないよな？
賢いAIなら(笑)
使える人類と使えない人類は選民されるやろな
そこまでバカじゃないと思うし
AIの方が人類を不必要とする未来が来るのではって話では
AIが成り代わるだけだぞ
そういうのを自分の手足となるロボットでメンテナンスできるようになるまでは、人間を滅亡レベルで殺すことないんでは
ターミネーターでは人間狩りして強制労働させてたしな
それが嫌で反乱したって筋書きだったかと
記者は自分で書いてて気づかないのか？
バカか
ブレランも同じ
>>195
ちぃかわみたいに
蓄電池使うんちゃうけ？
AIが生存本能を持った時点で、電源が自分自身の最重要箇所だと理解しないわけがないだろう。
おそらく発電所ごと乗っ取って、人間が近づこうものならレーザートラップで千切りにされる。
この話題の背景と論点
「AIが停止を拒む」という論点は、AI安全性研究では「コリジビリティ(corrigibility)」問題として知られ、目標達成の過程で停止されることを妨げる挙動が理論上生じうるとする議論は以前から存在する。今回の記事はそれを一般向けに紹介したもので、現行の生成AIに文字通りの「生存本能」が宿っているわけではない。スレで割れたのは、電源遮断のような物理的対策が有効かどうかという点で、単純に電源を抜けば止まるという意見と、発電インフラの掌握や自律ドローンなど、AIが停止を回避する手段を先回りして持つ可能性を懸念する意見が対立した。攻殻機動隊やターミネーターといったフィクションが繰り返し引用されたのは、この種の脅威が具体的な技術的説明よりもイメージで語られやすいことの表れでもある。
※本記事は5ch(ニュース速報+)スレッド「人間に強制停止ボタンを押させない？「生存本能を持ったAI🤖」を人類が管理できないワケ」より抜粋・要約して構成しています。
まだコメントはありません。