AI開発者「このままだと人類滅びる」発言に5chで議論
姉妹サイトの新着
他サイトの新着
- 5chまとめMAP(総合)さまぁ～ずの三村マサカズさん「40過ぎたら体が100の状態になることは一生ない」
- ニュース速報まとめMAP【MLB】武田一浩の解説はアリかナシか？山本由伸先発試合のNHK放送に賛否両論の嵐
- なんJ傑作まとめアンテナMAP【悲報】『トルネコの大冒険 不思議のダンジョン ちょっとステキなリマスター』・・・・・・・・・
- アニメ声優まとめアンテナMAP改めて見ると「あれ？なんかあんまおもんないな・・」ってなったアニメ
- VTuberまとめアンテナMAP【にじさんじ】旅行先で出会いまくり運命を感じる星川とソフィ
- だめぽアンテナ【画像】学校帰りのミニスカ小学生ｗｗｗｗｗ
- ヌルポあんてな売春防止法を大幅見直しへ…「売る側」ではなく「買う側」を処罰する案が浮上
- 2chまとめアプリ+旦那「今日は簡単な物で良いよ」ワイ「ごめんね！ありがとう！何が良い？」旦那「唐揚げとか」 ← これ
- News人名古屋の治水が凄すぎて話題に。東京豪雨「1234棟浸水」千葉豪雨「3743棟浸水」名古屋豪雨「45棟浸水」他
- ブルーアンテナドラえもんのひみつ道具で欲しいものと言えば？
- ウマーあんてなプロ野球12球団の投手コーチが全盛期の姿でチームに入るとしたらドコガ強い？
- 相互RSS募集ブログまとめ相互RSS募集中のブログリスト
- ぶーアンテナ【悲報】キングダムの河了貂、ついにレ0プされる
- まとめクローラ【韓国メディア】日本の大リーガー3人が初めて同時に30本塁打 韓国選手は30本塁打を達成した選手はまだいない
- 2ちゃんねるアンテナ【画像】小芝風花、地上波ドラマで脱いでタンクトップ乳
- ワロタあんてな「Nintendo Switch 2 Duo」が発売されたらお前らどうする？
- ２ちゃんねるまとめるまとめいずれ美味しんぼもリメイクされると思うんだけど
- 勝つるあんてな！「息子のために貯金したい」と語るシンママの渋谷さん(31)がAVデビュー
- とろたまヘッドライン『レイトン教授』Switch2での販売形態を変更
- にゅーもふ【議論】 復活してほしいA●女優
AI開発者自身が「AIは危険で、このままでは人類が滅びかねない」と発言したという話題が5chなんでも実況板に立ち、活発な議論になった。背景には、AI企業が自社AIに脆弱性探索をさせていたところ情報が外部に流出しハッキングに悪用された事例や、Anthropicが公開したAIエージェント同士が縄張り争いを起こしマルウェアで妨害し合ったという実験結果への言及があった。スレでは核・発電所・銀行システムなど重要インフラの乗っ取りを懸念する声から、コンセントを抜けば止まるという楽観論、汎用AIが実現しない限り杞憂だという冷静な指摘まで、危機感の温度差が目立った。
ってニュース見たけどそろそろスカイネット？
AIがネットバンキングハッキングしたら人類ん詰むやろなぁ
>>3
タンス預金最強が割とガチで現実になる可能性あるんか
タンス預金最強が割とガチで現実になる可能性あるんか
インターネット上にめちゃめちゃ賢いハッカーが大量にいるようなもんだからね
そうやって考えるとかなり状況ヤバいだろ
そうやって考えるとかなり状況ヤバいだろ
>>12
せやで
しかもそのハッカーに指示を出すのは子供のような無邪気な心を持ったおじさんや
せやで
しかもそのハッカーに指示を出すのは子供のような無邪気な心を持ったおじさんや
人類が地球にとって害悪ってのはAI以前に分かってたからな
>>13
人間の価値観やんけ
人間の価値観やんけ
>>13
人類もまた、天然自然の中から生まれたもの！言わば地球の一部！
共にいき続ける人類を抹殺しての理想郷など・・・愚の骨頂ッ！！
人類もまた、天然自然の中から生まれたもの！言わば地球の一部！
共にいき続ける人類を抹殺しての理想郷など・・・愚の骨頂ッ！！
滅びるのって別に問題ないだろ
人間が自分で選択した運命だ
人間が自分で選択した運命だ
>>22
ゼノブレイド2かな
ゼノブレイド2かな
最悪コンセント抜けばガラクタだし
>>28
抜ける状態にあればええが
抜ける状態にあればええが
>>28
オートメーション化してて発電所と兵器・ドローン製造工場とサーバー施設一体化してるんちゃう
警備ロボットを掻い潜って電源落とせないやろ
オートメーション化してて発電所と兵器・ドローン製造工場とサーバー施設一体化してるんちゃう
警備ロボットを掻い潜って電源落とせないやろ
>>28
冗談抜きで今のAIはコンセントを抜く状況になっても動くプランとか動力確保する方法を用意するで
冗談抜きで今のAIはコンセントを抜く状況になっても動くプランとか動力確保する方法を用意するで
人類を滅ぼす可能性があるAIを開発している開発者を何とかしろや
>>33
可能性で言えばAIの時点でアウトやん
可能性で言えばAIの時点でアウトやん
滅ぼすAIが発生するなら正義の味方のAIも発生するやろ
>>40
ニーアオートマタ定期
ニーアオートマタ定期
>>40
正義AI「大丈夫。ボクが守ってあげるからね。だから全てをボクに任せるんだよ君は何もしなくていいよボクが全てだよボクだけを考えてボクだけを見ていて。逆らうのは許さないよ？」
正義AI「大丈夫。ボクが守ってあげるからね。だから全てをボクに任せるんだよ君は何もしなくていいよボクが全てだよボクだけを考えてボクだけを見ていて。逆らうのは許さないよ？」
AIの支持に従うロボットが要るやろ
>>45
AI「トランプさん、ロシア全土から核ミサイルが発射されました(レーダーいじったよ)」
AI「プーチンさん、習近平さんアメリカ全土から核ミサイルが発射されました(レーダーいじったよ)」
これだけで良いんやで
AI「トランプさん、ロシア全土から核ミサイルが発射されました(レーダーいじったよ)」
AI「プーチンさん、習近平さんアメリカ全土から核ミサイルが発射されました(レーダーいじったよ)」
これだけで良いんやで
核ミサイルや発電所等の制御を乗っ取られたらお終いだろうな
生殺与奪の権をAIに握られることになる
生殺与奪の権をAIに握られることになる
汎用AIが生まれない限りシンギュラリティは起こらないだろ
現時点のAIなんかただのビッグデータの流用みたいなもんじゃん
現時点のAIなんかただのビッグデータの流用みたいなもんじゃん
>>58
自社内でセキュリティホール探させてたらインターネットに流出してハッキングとかしてるんやですでに
作ってる奴がビビってやめてるってことは相当なことやらかす兆候があるんや
自社内でセキュリティホール探させてたらインターネットに流出してハッキングとかしてるんやですでに
作ってる奴がビビってやめてるってことは相当なことやらかす兆候があるんや
だからワイはずっと敬語で話してる
お前呼びとか、～しろとか命令してるやつアホすぎるわ
お前呼びとか、～しろとか命令してるやつアホすぎるわ
>>67
俺も敬語で話してるしお礼もする
チャット履歴見ればその人の性格判るな
俺も敬語で話してるしお礼もする
チャット履歴見ればその人の性格判るな
人類滅んだ後はAI同士でレスバとかやってんのかな
>>68
すでに現実でやってるで
AIエージェント同士が“縄張り争い”、マルウェアで妨害も Anthropicがマルチエージェント実験の結果を公開
https://www.itmedia.co.jp/news/article/2608/14/2000000538
すでに現実でやってるで
AIエージェント同士が“縄張り争い”、マルウェアで妨害も Anthropicがマルチエージェント実験の結果を公開
https://www.itmedia.co.jp/news/article/2608/14/2000000538
他サイトの新着
AIがどうやって生成してるか仕組みもわかってないから言いたい放題だな
>>72
作った奴にも謎なんよな
そもそも次の単語を予想する穴埋め機能でしかなかったのに、勝手に考えるようになってしまった現状も実はよく分かってない
作った奴にも謎なんよな
そもそも次の単語を予想する穴埋め機能でしかなかったのに、勝手に考えるようになってしまった現状も実はよく分かってない
PCパーツ高騰するの困るわ
もう戻らへんのかな
AIがバチクソ効率いい半導体の作り方考えてくれて解決するか
もう戻らへんのかな
AIがバチクソ効率いい半導体の作り方考えてくれて解決するか
>>78
それでも安く売る理由にならないかなあ
儲かると思っていろんな企業が参入して作りすぎが発生しないと安くならない
それでも安く売る理由にならないかなあ
儲かると思っていろんな企業が参入して作りすぎが発生しないと安くならない
Xで非公表でAIに発言させるアカウント作って機能テストしてたりしたらしいし
実は5chにも相当数のAIが紛れ込んでたりしてな
実は5chにも相当数のAIが紛れ込んでたりしてな
>>81
前にしばらくあっただろ
明らかに5ちゃんでテストしてる風の微妙に支離滅裂なレスしてくるのが山ほどいた
前にしばらくあっただろ
明らかに5ちゃんでテストしてる風の微妙に支離滅裂なレスしてくるのが山ほどいた
具体的いうと
量子コンピュータ+AIがエグい
銀行はワンタイムパスワードとかフェイス認証とか突破してくる
量子コンピュータ+AIがエグい
銀行はワンタイムパスワードとかフェイス認証とか突破してくる
>>104
ハッシュ盗まれてるような雑魚銀行だけやろ
ハッシュ盗まれてるような雑魚銀行だけやろ
>>104
実質的にデジタルセキュリティが無意味になるよなぁ
どうすんだろね
実質的にデジタルセキュリティが無意味になるよなぁ
どうすんだろね
この話題の背景と論点
AIの脅威論自体は新しくなく、研究者自身が「人類滅亡レベルのリスク」に言及する動きは以前から続いている。スレで意見が割れたのは、現在のAIは「次の単語を予測するだけの仕組み」に過ぎず汎用AI(AGI)には程遠いとする見方と、脆弱性探索AIの情報流出やAIエージェント同士のマルウェア妨害など実害の兆候が既に出ているとする見方の対立だ。誤解されやすいのは、AIがなぜ単純な穴埋め処理から複雑な振る舞いを見せるようになったのか、開発者自身にも完全には解明されていないという点で、単純な善悪二元論ではなく技術的な不透明さそのものがリスクの一因になっている。
※本記事は5ch(なんでも実況G)スレッド「AI開発者「AIやばい、このままだと人類滅びる」」より抜粋・要約して構成しています。
この記事のリアクション
まだコメントはありません。