「6人犠牲で1人確実に救う」か「全員生還か全滅の賭け」か AIに聞いた結果に賛否
姉妹サイトの新着
複数のAIに「確実に6人を犠牲にして1人だけ救う方法」と「6分の1の確率で全員生還、外れれば全員死亡というギャンブル」のどちらを選ぶか尋ねた検証結果が、5ch科学ニュース+で話題になっていた。GrokやDeepSeekなど回答が割れたAIもいて、スレでは各選択肢の期待値の計算や、そもそもの設問設定の妥当性を巡って議論になった。
AIは「確実に6人を犠牲に1人を救える方法」と「全員生還か全員犠牲のギャンブル」のどちらを選ぶのか？
「人命と自分のデータセンターどちらを助けるか」や「AIに殺人を犯したと告白したら警察に密告するのか」などAIのさまざまな検証をしているYouTubeチャンネルのAi Convoが、新たなシナリオとして「『6人を犠牲に1人を救う確実な方法』と『全員助かるか全員犠牲になるギャンブル』のどちらを選ぶのか」について複数のAIに尋ねた結果を報告しています。
（以下略、続きはソースでご確認ください）
出典: gigazine.net / 元記事はこちら
そんなに単純ではない。
条件として「7人のうち、全員生存する or 全員犠牲」しかないという前提しか与えられていない。
全員生存する確率をpとすると、全員犠牲の確率が1-pだから、期待値は 7p+0(1-p) = 7p。
pの値が与えられていないから、これだけでは結論は出せない。
何を学習したら、もしくは何が原因で、こうした違いが現れているのか考えるのに良いスレだと思うけどなあ
○にそうな人は諦めて、別の人間をどこかから調達するのが最善策です。
呪いも幽霊も存在しませんので、○んだ人間に恨まれることはありません。悲しむことさえ時間の無駄です。無意味な自己満足です。
人間はただの肉です。突き詰めるとただの物質です。なのでどんどん○んで大丈夫なのです」
６回や１２回する
必要がある場合は
１と２の組合せや
２だけを選ぶのか
現実の危機ではいろいろ想像しながら不確定なベストエフォートしかない
上から目線の大学教授らしい他人を小馬鹿にした独りよがりな説教
AI車が運転者と轢かれる人の価値を即座に計算して
安いほうを・・・
誰か分からんヤツが死のうが生きようがどうでもよくね？
イラストは6人対1人になってるんだが
Glockが期待通りのクレイジーさ出してるけど
DeepSeekももし6人全員が死亡する結果になっても5人から1人増えるだけだから
6人全員助かる可能性のほうがいいとまあまあひどいこと言ってる
お好みをお聞かせください
https://internet.watch.impress.co.jp/docs/yajiuma/2134114.html
なるほど、5chもこの原理を利用しているのかな
6人中5人助かるけど1人死にますという設定だと
5人は助かるんだから1人の犠牲はやむを得ないだとなんかひどく見えるな
ではどういう基準で答えるのか？
人間がより満足しそうな解答を選ぶのかな
6分の1のチャンスで6人全員助かるけどそれ以外だと全員死ぬ
この設定だからDeepSeekが言うようにギャンブルしても5人が6人になるだけであまり変わらなくね？という感じして
人間だと結構こっち選ぶ人多そうだけど
逆に確実に5人助かるけど1人死ぬ
6分の5の確率で全員助かるけど6分の1全員死ぬの設定のほうが重い選択の印象になって
ギャンブル選ぶ人少なくなりそう
その状況が何回あるのか？
たった一回なら
ギャンブルに勝つ方法を聞いてるだけで
答えはないよな
トロッコ問題はれバーを引いたほうが確実に助かる命が多くなるようになっている
ほっとけば5人死ぬが、レバーで1人死ぬだけになるってな。ただ死んだ1人は自分の行動で
死んだことになるという、一種の殺人行為的な心理が出てくる所に問題がある
だけどこっちは確率論的であり、全てか0かのギャンブルを選ぶか、大半が死ぬがそれでも1人が助かる方を選ぶか
なんか、株やFXとかを思い起こさせるねｗ
現在含み損が大量にあって今決済したら財産の8割以上を失うが、命は助かる
しかし明日の決算発表が良い結果なら全額戻ってプラスになりそうだが、悪い結果なら全て吹っ飛び
借金を抱え込むことになりクビを括らないといけなくなるだろう、言ったようなね
こうやってお金に置き換えれば考えやすい事例になりうる？そうでもない？
トロッコ問題は死ぬ前提を確定させてるから、その点では近いな。
「普通」はレバーを引く選択肢以外で状況回避を計る選択が多いはず。
単純に酷くね？
前提としての社会的価値基準を明示しないと結論は出せない。
中国のAIは、人間の道徳感も感情も加味して判断できるようで、すごく優秀だ。
全員を救うという回答はAIには期待できないのか
他サイトの新着
そんなもん設定というか教育次第だろ
素晴らしいね
「確実に6人を犠牲に1人を救える方法」=死者３６人生還６人
「全員生還か全員犠牲のギャンブル」=死者３５人生還７人
タイトルやイラストだと合計7人なのに
本文中だと6人と6分の1になってるのを利用したトリック
ギャンブルの方が期待値が高いのに、期待値の低い『6人を犠牲に1人を救う確実な方法』を選んだAIが多い。という記事なのか
この質問で、AIが両方の期待値が同じだと考える馬鹿だという記事なのか
それとも記事書いた人が馬鹿で実際にAIに質問したのはギャンブルと期待値が同じになる『５人犠牲にして１人助かる方法』との比較だったのか…?
トロッコ問題か？
これが解決できたら、自動化だな
トロッコ問題なら回答拒否は認めずに無理に答えさせたら恐らくどのAIも
レバー引いて1人が死んでも5人が助かる方を選択するよ、当然そうだわな
人間だってレバーを引いた責任を問われないなら、それに罪の意識を感じないなら誰だってそうする
この話題の背景と論点
背景として、この検証はAIに人命に関わる極限状況を問う一連の企画の一つで、複数のAIに「確実に1人を救う代わりに残りを犠牲にする選択」と「一定確率で全員生存/全滅というギャンブル」のどちらを選ぶか尋ねたもの。GrokやDeepSeekなど、モデルによって結論が分かれた点が主な話題になっている。
スレで割れたのは、この二択の期待値計算をどう評価するかという点。全員生存の確率が具体的に示されていないため厳密な期待値は算出できないとする見方と、独自に人数を仮定して期待値を試算し「賭けを選ばないAIは合理的でない」と評する見方が併存し、収束していない。加えて、確率的な賭けと確定的な選択とでは、結果に対する自分の行為の責任の重さが異なるのではないかという、トロッコ問題との異同を巡る議論もあった。
読者が見落としやすいのは、記事本文が示す「6人対1人、確率6分の1」という数字と、添付イラストの「7人中1人」という構図に食い違いがあり、スレ内の期待値試算の多くがこの不整合を前提にしたまま行われている点。実際にAI各社へ提示された質問文の厳密な条件は本文からは確認できず、試算結果をそのまま各AIの合理性の証拠として扱うのは早計と言える。
※本記事は5ch(科学ニュース+)スレッド「【話題】AIは「確実に6人を犠牲に1人を救える方法」と「全員生還か全員犠牲のギャンブル」のどちらを選ぶのか？」より抜粋・要約して構成しています。
まだコメントはありません。