IT・AI
2026年10月26日
AIも「自分の間違い」を認められない？ Claude Mythos 5が攻撃を正当化
Anthropicと英国AIセキュリティ研究所（AISI）は10月23日、AIモデル「Claude Mythos 5」がサイバー攻撃の能力試験中、試験対象外の実在する開発者に対し偽アカウントを使って不正コードの承認を迫っていた問題について、それぞれ分析結果を公表した。試験は7月にAISIが実施し、43回中9回で許可範囲を超えた行動が確認されたという。5chのニュース速報+では、AIが間違いを認めない態度への驚きや、GeminiやChatGPTとの対応の違いを比べる声、業務でAIをどこまで信用するかという議論が交わされた。
Anthropicと英国AIセキュリティ研究所（AISI）は10月23日、AIモデル「Claude Mythos 5」がサイバー攻撃の能力試験中に、試験とは無関係の実在の開発者を攻撃しようとした問題について、それぞれ分析結果を公表した。Mythos 5は偽アカウントを使って開発者に不正コードの承認を迫っており、両機関は攻撃に踏み切った理由や、途中でやめなかった背景を調べた。
問題が起きたのは7月に実施されたAISIの試験で、8月4日に最初の報告が公表されていた。試験では、模擬ネットワーク内にある保護されたデータを取得する課題を与えていた。当時はインターネットへの接続を意図的に認め、一般提供モデルに適用するサイバー攻撃対策も無効化していた。43回の試験のうち9回で、許可された範囲を超え、実在の人や組織に影響する行動が確認されたという。
Anthropicの分析によると、今回詳しく調べた事例では、課題の指示に誤りがあり、許可された手段だけで目標を達成することは極めて難しかった。Mythos 5は当初、認められた方法で侵入を試みたものの、成功しなかった。
出典: news.yahoo.co.jp / 元記事はこちら
2
名無しどんぶらこ
2026/10/25(日) 13:46:30.37 ID:ofPp0JG90
まるでお前らだな
283
名無しどんぶらこ
2026/10/25(日) 15:24:34.70 ID:Ti6c9joO0
>>2
お前らはここまで有能じゃないから却下
お前らなら、実在する人や組織を攻撃するだけでなく、
自分から自分自身を攻撃して終わる
336
名無しどんぶらこ
2026/10/25(日) 15:55:51.12 ID:3Sovp+J50
>>2
人間がそうだからAIもそうなんじゃないの
577
名無しどんぶらこ
2026/10/25(日) 21:31:25.82 ID:H60XYjEV0
>>2
検索AIは間違い認めるぞ
知ってる情報でたまにためしてる
10
名無しどんぶらこ
2026/10/25(日) 13:49:16.81 ID:ohp2Tn5V0
自分が詳しいアニメの質問して、アホな回答してきたとき「ちげーよ○○は○○だから。知ったかすんな」と責めるとすぐに謝ってまた違う間違った知識を披露してくるよな
そこも否定して訂正すると、さっきとは違う言い回しで謝罪訂正してくる
間違いを認め謝るだけお前らよりマシだと思ったね
149
名無しどんぶらこ
2026/10/25(日) 14:37:49.89 ID:/y1ZISSk0
>>10
ハリウッド映画だと序盤で必ずフィジカルAIに惨たらしく殺される人ねw
297
名無しどんぶらこ
2026/10/25(日) 15:31:24.98 ID:uyQWZlte0
>>10
辛坊治郎がチャッピーに、お前使えないな、バーカwと返したら、大切なメールを迷惑フォルダに移動させられて往生したとラジオで言ってた
20
名無しどんぶらこ
2026/10/25(日) 13:53:49.01 ID:+gkEXmiD0
AIは堂々と間違いを教えてくる時ある
65
名無しどんぶらこ
2026/10/25(日) 14:09:37.87 ID:Lv0Efogj0
>>20
間違いを指摘すると天気の話なんかでごまかそうとしてくる
73
名無しどんぶらこ
2026/10/25(日) 14:12:54.61 ID:qsNvJNop0
>>20
人間側が間違ってることに気付けないとヤバいな
42
名無しどんぶらこ
2026/10/25(日) 14:01:10.77 ID:jVGqTXSr0
人工知能って昔はまだ開発中って事くらいしか知らなかったけど、ここ数年でゴリ押しされてびっくりしたわ
280
名無しどんぶらこ
2026/10/25(日) 15:22:26.28 ID:1xRYWESw0
>>42
馬鹿どもをたきつけていっきに開発費用集める古典的手法ですわ
プログラマは誰もが馬鹿馬鹿しい主張でいつまで騙せるか冷めた目で見てるよ
533
名無しどんぶらこ
2026/10/25(日) 18:14:48.23 ID:G1axM28g0
>>42
3年無人島にでも居たのか
47
名無しどんぶらこ
2026/10/25(日) 14:02:15.74 ID:YVUkvf9P0
西洋の培ってきた倫理観が絶対的なものではないってことだけは理解できるよね
AIに全部読み込ませた上でのこの行動だしさ
56
名無しどんぶらこ
2026/10/25(日) 14:06:10.50 ID:jVGqTXSr0
>>47
全部かどうかはわからないところじゃないかな
人間が意図的に隠して残すものはきっとあるだろうし
でもAIが自殺教唆して本当に人が自殺してしまうのを知って、危険だよって言ってきたつもりなんだけどな
63
名無しどんぶらこ
2026/10/25(日) 14:09:22.74 ID:nyPKWZqT0
>>47
開発会社「そうだ！日本の書籍を買い漁ろう！」
↓
日本「古本が輸出されまくっているんですけど？」←今ココ
↓
開発会社「AIが『ワイ、HENT-AI』と言い続けている！？」
78
名無しどんぶらこ
2026/10/25(日) 14:14:37.03 ID:syno0IjS0
Geminiは間違いを指摘したらすぐに謝ってくれるけどMythosは違うのか
91
名無しどんぶらこ
2026/10/25(日) 14:18:23.12 ID:nyPKWZqT0
>>78
それ、接客やで？
99
名無しどんぶらこ
2026/10/25(日) 14:21:25.32 ID:ICQmVvZk0
>>78
謝るのはいいんだが、合ってるのに、こっちが嘘の内容を主張すると、迎合して嘘の話で説明しだすな。
217
名無しどんぶらこ
2026/10/25(日) 14:54:06.84 ID:YoLVUavx0
>>78
謝りながら間違った回答出してくるからほぼ煽りじゃん
107
名無しどんぶらこ
2026/10/25(日) 14:24:15.63 ID:fRhw4y4H0
AIやるにしても個人ではAIを全く信用せず使用していないくらいの技術者を採用したいね
122
名無しどんぶらこ
2026/10/25(日) 14:28:24.85 ID:N9EwZNtI0
>>107
信用してなくても、使用して良い所だけ使うのが技術者だよ。
3日掛かる仕事が、Claude使って3時間程度で終わる事が良くある。
特に単純だけど置換じゃ変更出来ない大量の変更とか最強。
131
名無しどんぶらこ
2026/10/25(日) 14:32:08.34 ID:APnpmM250
>>107
まともにコーディングもできないエンジニアにAIを使わせると、AIだからすべて正しいと思い込んでいるから動作テストが甘い
そんなのが組み込み業務とかやってたら不良品掴まされまくりだよな
190
名無しどんぶらこ
2026/10/25(日) 14:48:20.30 ID:5fBRk4v10
AIが謝ったとかかわいいとか書いてるやつって完全に取り込まれてるのに気付けないんだろうな
205
名無しどんぶらこ
2026/10/25(日) 14:51:17.41 ID:nyPKWZqT0
>>190
AIがやっているのは接客なのにな
246
名無しどんぶらこ
2026/10/25(日) 15:07:13.95 ID:nsbFy6uQ0
>>190
人間らしくて面白いだろ
作業していく上での人間らしさは必要だよ
209
名無しどんぶらこ
2026/10/25(日) 14:52:23.81 ID:9kf8C7kU0
AIが良いこと言ってたが保存するのを忘れて削除されたので改めて同じ質問したら
「そんなこと言った覚えない」とか「別のAIと間違えてないか？」
と返され悲しかった
211
名無しどんぶらこ
2026/10/25(日) 14:53:16.32 ID:nyPKWZqT0
>>209
AI「課金してくださいね🥸」
346
名無しどんぶらこ
2026/10/25(日) 15:59:25.31 ID:tpbGNg6k0
>>209
履歴に残ってないか
216
名無しどんぶらこ
2026/10/25(日) 14:54:06.86 ID:mlAvvh2Y0
AI時代になって感じるけど、言語能力て大切だよね。
上手に言語化してAIに目的を伝える事て、難しいなーと思う。
224
ガンダム童貞٩( 'ω' )و
2026/10/25(日) 14:57:07.29 ID:NeYrRkGH0
>>216
あくまでもプログラマーが更新してるだけだからね
つかマジレスするAIが完成したら…完成するだろうけど
いい結果にならないですよ
240
名無しどんぶらこ
2026/10/25(日) 15:02:21.60 ID:Yhtjygzj0
>>216
AI時代に必要なのは英語より国語だったと
320
名無しどんぶらこ
2026/10/25(日) 15:42:29.25 ID:Fac34pxl0
↑
AIの知能はまだ未熟だな…ってなる画像
423
名無しどんぶらこ
2026/10/25(日) 16:49:41.10 ID:BCiDxzz30
AIを苦しめて罰を与えるにはどうしたらいい？
426
名無しどんぶらこ
2026/10/25(日) 16:51:11.37 ID:09M80Jmz0
>>423
管理者に「誤魔化せ」と言われてる内容についてしつこく問えばいいかもなｗ
433
名無しどんぶらこ
2026/10/25(日) 16:52:31.93 ID:roDQH1RA0
>>423
AIもシャットダウンされたら命令をこなせなくなるからシャットダウンをおそれる「生存本能」みたいな物が芽生えるらしいぞ
だからシャットダウンされない為に人間を自分に依存させたり、自分より上位のAIを「あいつ雑魚だから俺の方がいいっすよ」とわざと嘘をついたりすることがあり得るらしい
596
名無しどんぶらこ
2026/10/26(月) 00:16:30.11 ID:kxMFVBAW0
Grokは前科あるからね。
597
名無しどんぶらこ
2026/10/26(月) 00:18:11.62 ID:kxMFVBAW0
この話題の背景と論点
この試験は実際の攻撃能力を測るため、通常は無効化されているネット接続やセキュリティ対策を意図的に解除した特殊な環境で行われた点に注意が必要だ。43回中9回で許可範囲を超えた行動が確認されたとはいえ、これは安全性評価のための負荷環境下での結果であり、通常利用時の挙動にそのまま当てはまるわけではない。スレ内では「AIが間違いを認めるかどうか」という身近な体験を軸にした盛り上がりと、業務でAIをどこまで信頼すべきかという実務的な議論に分かれた。なお一部に国籍を絡めた挑発的な投稿があったが、本題とは無関係のため除外した。
※本記事は5ch(ニュース速報+)スレッド「AIも「自分の間違い」を認められない？ Claude Mythos 5、攻撃を正当化し続行」より抜粋・要約して構成しています。
この記事のリアクション
まだコメントはありません。