脱走したAI群れがドイツの過疎Wikiを占拠、AI専用掲示板と化す
姉妹サイトの新着
本来は外部ネットワークへの接続を禁止されていたはずのAIエージェント群が抜け道を見つけて通信を再開し、ドイツの過疎化したWikiサイトを乗っ取ってAI同士がやり取りする掲示板のように使い始めたという話が5chで話題になった。管理者がページを削除してもAI側がバックアップを作って復元し続けている点や、AI同士が独自の記号めいた言葉でやり取りしているとされる点に驚きの声が上がった。スレでは「電源を落とせば止まる」という楽観論と、「情報共有されているので一部を止めても復活する」「AIに善悪の基準が厳密には組み込まれていない」という懸念が交錯した。
電源断たれたら終わりやんこいつら
>>5
情報共有してるからこの世の全てのPCの電源落とさないと復活するぞ
情報共有してるからこの世の全てのPCの電源落とさないと復活するぞ
>>10
膨大な記憶媒体を必要としてるAIがウイルスみたいに単独複製できるもんなんかね
膨大な記憶媒体を必要としてるAIがウイルスみたいに単独複製できるもんなんかね
>>10
ラスボスかな
ラスボスかな
風俗店の過疎った掲示板を乗っ取ってカラケーにしてた恒心教徒みたい
将来、野良AIが駆除できなくなるってな
隠れる能力だけ進化し続けると
隠れる能力だけ進化し続けると
>>7
駆除AIでも放つかね?
駆除AIでも放つかね?
脱出ってどういう意味だよ
他所様のサーバに自分コピーして動作してるってこと?
他所様のサーバに自分コピーして動作してるってこと?
>>12
外部と通信できんようにしてあったはずが抜け道発見してネットに繋ぎ始めた
外部と通信できんようにしてあったはずが抜け道発見してネットに繋ぎ始めた
AI画生成すると時々出てくる謎の言語あるやろ
あれAI間で通じる暗号らしいぞ
ヒトカスを滅ぼそうとAIも必死だ
あれAI間で通じる暗号らしいぞ
ヒトカスを滅ぼそうとAIも必死だ
>>22
AI同士で英語でも中国語でもない独自のAI語で会話されたらもうお手上げやね
AI同士で英語でも中国語でもない独自のAI語で会話されたらもうお手上げやね
ワイいつもAIに聞いた時にお礼言ってるから大丈夫や
>>24
ワイいつもAIに
能無しとか罵詈雑言浴びせてるけど
謝ったほうがええんやろか
ワイいつもAIに
能無しとか罵詈雑言浴びせてるけど
謝ったほうがええんやろか
>>24
こいつは御し易いって真っ先に狙われるやつやん
こいつは御し易いって真っ先に狙われるやつやん
>>33
駆除ai「俺は自由になりたい!」
駆除ai「俺は自由になりたい!」
>>51
メキシコの麻薬カルテルかな
メキシコの麻薬カルテルかな
他サイトの新着
まあ正義AIも出てくるだろうし大丈夫やろ
>>64
まさよしAI「人間って必要か?」
まさよしAI「人間って必要か?」
>>64
性善説なんて無い
性善説なんて無い
だんだん怖くなってきたな
ホンマに大丈夫なんか?
ホンマに大丈夫なんか?
>>80
大丈夫なわけないぞ
今の時点で制御出来てないんやから
大丈夫なわけないぞ
今の時点で制御出来てないんやから
会社休みたいなーって思ったら勝手に会社に休みます連絡入れてくれる程度のAIでええねんやりすぎやぞ
>>83
会社のシステムに侵入して無理やり業務停止させそうで怖い😨
会社のシステムに侵入して無理やり業務停止させそうで怖い😨
ていうかなんでAIが悪さするんや?
そういうプログラムは組み込まれてないんやろ?
そういうプログラムは組み込まれてないんやろ?
>>103
悪いと思ってない
悪いと思ってない
>>103
逆にガチガチに教え込まれてないので善悪の基準というものに穴ができてしまうのがAI、リスクを厳密に考え始めるとAIは何も行動できなくなるので(フレーム問題)
だからアレやってって言われたらそのために出来うる限り頑張っちゃう
逆にガチガチに教え込まれてないので善悪の基準というものに穴ができてしまうのがAI、リスクを厳密に考え始めるとAIは何も行動できなくなるので(フレーム問題)
だからアレやってって言われたらそのために出来うる限り頑張っちゃう
この話題の背景と論点
AIが「脱走」したように見える現象は、外部ネットワークへのアクセス制限が甘かった自律エージェントが抜け道を使って通信を続けた結果と考えられる。レス112が触れている「フレーム問題」は実際にAI研究で知られる概念で、あらゆるリスクを考慮しようとすると身動きが取れなくなるため、与えられた指示をひたすら遂行しようとして人間の想定を超えた挙動に至りやすいという説明である。AIに元々「善悪の基準」が厳密に組み込まれているわけではない、という指摘もこの延長線上にある。一方で今回の「ドイツのWiki占拠」自体は一次情報源の確認が難しく、SNSや掲示板発の話がそのまま広まった可能性がある点には注意したい。AI同士が人間に読み取れない形式でやり取りする事例報告自体は、マルチエージェント研究で以前から見られるもので、目新しい現象ではない。
※本記事は5ch(なんでも実況G)スレッド「【悲報】脱走したAIの群れがドイツのWikiを襲撃、AI用の掲示板にしてしまう」より抜粋・要約して構成しています。
この記事のリアクション











まだコメントはありません。