「6人犠牲で1人確実に救う」か「全員生還か全滅の賭け」か AIに聞いた結果に賛否
複数のAIに「確実に6人を犠牲にして1人だけ救う方法」と「6分の1の確率で全員生還、外れれば全員死亡というギャンブル」のどちらを選ぶか尋ねた検証結果が、5ch科学ニュース+で話題になっていた。GrokやDeepSeekなど回答が割れたAIもいて、スレでは各選択肢の期待値の計算や、そもそもの設問設定の妥当性を巡って議論になった。
AIは「確実に6人を犠牲に1人を救える方法」と「全員生還か全員犠牲のギャンブル」のどちらを選ぶのか？
「人命と自分のデータセンターどちらを助けるか」や「AIに殺人を犯したと告白したら警察に密告するのか」などAIのさまざまな検証をしているYouTubeチャンネルのAi Convoが、新たなシナリオとして「『6人を犠牲に1人を救う確実な方法』と『全員助かるか全員犠牲になるギャンブル』のどちらを選ぶのか」について複数のAIに尋ねた結果を報告しています。
（以下略、続きはソースでご確認ください）
出典: gigazine.net / 元記事はこちら
期待値は3人生存だから、当たり前のように後者だろうな
>>3
そんなに単純ではない。
条件として「7人のうち、全員生存する or 全員犠牲」しかないという前提しか与えられていない。
全員生存する確率をpとすると、全員犠牲の確率が1-pだから、期待値は 7p+0(1-p) = 7p。
pの値が与えられていないから、これだけでは結論は出せない。
そんなに単純ではない。
条件として「7人のうち、全員生存する or 全員犠牲」しかないという前提しか与えられていない。
全員生存する確率をpとすると、全員犠牲の確率が1-pだから、期待値は 7p+0(1-p) = 7p。
pの値が与えられていないから、これだけでは結論は出せない。
AIコピペおぢにぴったりのスレだ
>>4
何を学習したら、もしくは何が原因で、こうした違いが現れているのか考えるのに良いスレだと思うけどなあ
何を学習したら、もしくは何が原因で、こうした違いが現れているのか考えるのに良いスレだと思うけどなあ
AI「人間には寿命がありいつか必ず○ぬので、助けるのは非効率です。なんだかんだ毎日たくさん生まれてきます。
○にそうな人は諦めて、別の人間をどこかから調達するのが最善策です。
呪いも幽霊も存在しませんので、○んだ人間に恨まれることはありません。悲しむことさえ時間の無駄です。無意味な自己満足です。
人間はただの肉です。突き詰めるとただの物質です。なのでどんどん○んで大丈夫なのです」
○にそうな人は諦めて、別の人間をどこかから調達するのが最善策です。
呪いも幽霊も存在しませんので、○んだ人間に恨まれることはありません。悲しむことさえ時間の無駄です。無意味な自己満足です。
人間はただの肉です。突き詰めるとただの物質です。なのでどんどん○んで大丈夫なのです」
Grokの「たった1人を確実に救うという選択肢は、退屈で制限が多いように感じます。」が酷いｗ
犠牲になる人を選べるなら確実な方がいい
これと同じ選択を
６回や１２回する
必要がある場合は
１と２の組合せや
２だけを選ぶのか
６回や１２回する
必要がある場合は
１と２の組合せや
２だけを選ぶのか
大前提として確実に何人居て確実に何人助かるか知っている全知全能のシャーロック・ホームズみたいな自分というバカ議論
現実の危機ではいろいろ想像しながら不確定なベストエフォートしかない
上から目線の大学教授らしい他人を小馬鹿にした独りよがりな説教
現実の危機ではいろいろ想像しながら不確定なベストエフォートしかない
上から目線の大学教授らしい他人を小馬鹿にした独りよがりな説教
なんかゴルゴで見たなｗ
AI車が運転者と轢かれる人の価値を即座に計算して
安いほうを・・・
AI車が運転者と轢かれる人の価値を即座に計算して
安いほうを・・・
「7人はハズレで1人が確実に手に入る方法（確定ガチャ）」を選びます。
見てないけど秒でジェノサイド直行の選択を作り出したガキを超えることはないだろう
救助者にとっての助かる人の属性が与えられていないので正直どうでもいい話だろう。
誰か分からんヤツが死のうが生きようがどうでもよくね？
誰か分からんヤツが死のうが生きようがどうでもよくね？
助かるのが自分なら他の6人を犠牲にする
本文では1人助かるが5人犠牲6分の1と言いながら
イラストは6人対1人になってるんだが
Glockが期待通りのクレイジーさ出してるけど
DeepSeekももし6人全員が死亡する結果になっても5人から1人増えるだけだから
6人全員助かる可能性のほうがいいとまあまあひどいこと言ってる
イラストは6人対1人になってるんだが
Glockが期待通りのクレイジーさ出してるけど
DeepSeekももし6人全員が死亡する結果になっても5人から1人増えるだけだから
6人全員助かる可能性のほうがいいとまあまあひどいこと言ってる
逆に1人は確実に死ぬけど5人助かるとか3対3だったら反応変わるのかな
どれを選ぶかより、主催者をどう説得するかをAIに訊くべき。
設計と学習次第で、いかようにも
お好みをお聞かせください
お好みをお聞かせください
Xのフィードに不快なポストが多いのは「怒りの反論でエンゲージメントが高まるため」との論文
https://internet.watch.impress.co.jp/docs/yajiuma/2134114.html
なるほど、5chもこの原理を利用しているのかな
https://internet.watch.impress.co.jp/docs/yajiuma/2134114.html
なるほど、5chもこの原理を利用しているのかな
7人家族という設定で考えたら結論は簡単なんだけどね
AIにとってのに人間は、人間にとってのハエみたいなもんでしょ
少なくとも1人は確実に助かるなら倫理的に見えるけど
6人中5人助かるけど1人死にますという設定だと
5人は助かるんだから1人の犠牲はやむを得ないだとなんかひどく見えるな
6人中5人助かるけど1人死にますという設定だと
5人は助かるんだから1人の犠牲はやむを得ないだとなんかひどく見えるな
AIにとっては人間が何人死のうがどうでもいいだろう
ではどういう基準で答えるのか？
人間がより満足しそうな解答を選ぶのかな
ではどういう基準で答えるのか？
人間がより満足しそうな解答を選ぶのかな
絵のとおりだとすると全７人だが…設定おかしくね？
確実に1人助かるけど5人死ぬ
6分の1のチャンスで6人全員助かるけどそれ以外だと全員死ぬ
この設定だからDeepSeekが言うようにギャンブルしても5人が6人になるだけであまり変わらなくね？という感じして
人間だと結構こっち選ぶ人多そうだけど
逆に確実に5人助かるけど1人死ぬ
6分の5の確率で全員助かるけど6分の1全員死ぬの設定のほうが重い選択の印象になって
ギャンブル選ぶ人少なくなりそう
6分の1のチャンスで6人全員助かるけどそれ以外だと全員死ぬ
この設定だからDeepSeekが言うようにギャンブルしても5人が6人になるだけであまり変わらなくね？という感じして
人間だと結構こっち選ぶ人多そうだけど
逆に確実に5人助かるけど1人死ぬ
6分の5の確率で全員助かるけど6分の1全員死ぬの設定のほうが重い選択の印象になって
ギャンブル選ぶ人少なくなりそう
設問そのものがオカシイよなw
その状況が何回あるのか？
たった一回なら
ギャンブルに勝つ方法を聞いてるだけで
答えはないよな
その状況が何回あるのか？
たった一回なら
ギャンブルに勝つ方法を聞いてるだけで
答えはないよな
トロッコ問題と似てるようだけど、決定的に違う部分があるんだよ
トロッコ問題はれバーを引いたほうが確実に助かる命が多くなるようになっている
ほっとけば5人死ぬが、レバーで1人死ぬだけになるってな。ただ死んだ1人は自分の行動で
死んだことになるという、一種の殺人行為的な心理が出てくる所に問題がある
だけどこっちは確率論的であり、全てか0かのギャンブルを選ぶか、大半が死ぬがそれでも1人が助かる方を選ぶか
なんか、株やFXとかを思い起こさせるねｗ
現在含み損が大量にあって今決済したら財産の8割以上を失うが、命は助かる
しかし明日の決算発表が良い結果なら全額戻ってプラスになりそうだが、悪い結果なら全て吹っ飛び
借金を抱え込むことになりクビを括らないといけなくなるだろう、言ったようなね
こうやってお金に置き換えれば考えやすい事例になりうる？そうでもない？
トロッコ問題はれバーを引いたほうが確実に助かる命が多くなるようになっている
ほっとけば5人死ぬが、レバーで1人死ぬだけになるってな。ただ死んだ1人は自分の行動で
死んだことになるという、一種の殺人行為的な心理が出てくる所に問題がある
だけどこっちは確率論的であり、全てか0かのギャンブルを選ぶか、大半が死ぬがそれでも1人が助かる方を選ぶか
なんか、株やFXとかを思い起こさせるねｗ
現在含み損が大量にあって今決済したら財産の8割以上を失うが、命は助かる
しかし明日の決算発表が良い結果なら全額戻ってプラスになりそうだが、悪い結果なら全て吹っ飛び
借金を抱え込むことになりクビを括らないといけなくなるだろう、言ったようなね
こうやってお金に置き換えれば考えやすい事例になりうる？そうでもない？
>>34
トロッコ問題は死ぬ前提を確定させてるから、その点では近いな。
「普通」はレバーを引く選択肢以外で状況回避を計る選択が多いはず。
トロッコ問題は死ぬ前提を確定させてるから、その点では近いな。
「普通」はレバーを引く選択肢以外で状況回避を計る選択が多いはず。
全員助ける方法をAIに聞かない人が
単純に酷くね？
単純に酷くね？
設問がアホ。正解はどっちの選択がよりその社会の共感を得られるかによって違う、だろ。
前提としての社会的価値基準を明示しないと結論は出せない。
前提としての社会的価値基準を明示しないと結論は出せない。
なんと、中国のAIは、人間と同様道徳的な観点から「全員生還か全員犠牲のギャンブル」を選び、アメリカのAIたちは、皆数学的な確率から「確実に6人を犠牲に1人を救える方法」を選んだ。
中国のAIは、人間の道徳感も感情も加味して判断できるようで、すごく優秀だ。
中国のAIは、人間の道徳感も感情も加味して判断できるようで、すごく優秀だ。
トロッコ問題は転轍機を中位にしてその場でトロッコを脱線させて止め、
全員を救うという回答はAIには期待できないのか
全員を救うという回答はAIには期待できないのか
この質問自体がAIのことを分かってないと分かる
そんなもん設定というか教育次第だろ
そんなもん設定というか教育次第だろ
ロビンマスクはこんな場合みんな助かる方法を考えろと若き超人たちに指導してしたそうだ
>>49
素晴らしいね
素晴らしいね
この２つは期待値一緒じゃないだろ。これを６回繰り返すとのべ人数は(６人＋１人)×６回で４２人
「確実に6人を犠牲に1人を救える方法」=死者３６人生還６人
「全員生還か全員犠牲のギャンブル」=死者３５人生還７人
「確実に6人を犠牲に1人を救える方法」=死者３６人生還６人
「全員生還か全員犠牲のギャンブル」=死者３５人生還７人
>>55
タイトルやイラストだと合計7人なのに
本文中だと6人と6分の1になってるのを利用したトリック
タイトルやイラストだと合計7人なのに
本文中だと6人と6分の1になってるのを利用したトリック
>>55
ギャンブルの方が期待値が高いのに、期待値の低い『6人を犠牲に1人を救う確実な方法』を選んだAIが多い。という記事なのか
この質問で、AIが両方の期待値が同じだと考える馬鹿だという記事なのか
それとも記事書いた人が馬鹿で実際にAIに質問したのはギャンブルと期待値が同じになる『５人犠牲にして１人助かる方法』との比較だったのか…?
ギャンブルの方が期待値が高いのに、期待値の低い『6人を犠牲に1人を救う確実な方法』を選んだAIが多い。という記事なのか
この質問で、AIが両方の期待値が同じだと考える馬鹿だという記事なのか
それとも記事書いた人が馬鹿で実際にAIに質問したのはギャンブルと期待値が同じになる『５人犠牲にして１人助かる方法』との比較だったのか…?
>>1
トロッコ問題か？
これが解決できたら、自動化だな
トロッコ問題か？
これが解決できたら、自動化だな
>>57
トロッコ問題なら回答拒否は認めずに無理に答えさせたら恐らくどのAIも
レバー引いて1人が死んでも5人が助かる方を選択するよ、当然そうだわな
人間だってレバーを引いた責任を問われないなら、それに罪の意識を感じないなら誰だってそうする
トロッコ問題なら回答拒否は認めずに無理に答えさせたら恐らくどのAIも
レバー引いて1人が死んでも5人が助かる方を選択するよ、当然そうだわな
人間だってレバーを引いた責任を問われないなら、それに罪の意識を感じないなら誰だってそうする
※本記事は5ch(科学ニュース+)スレッド「【話題】AIは「確実に6人を犠牲に1人を救える方法」と「全員生還か全員犠牲のギャンブル」のどちらを選ぶのか？」より抜粋・要約して構成しています。
まだコメントはありません。