【AI】AIの答えが正しくても人間が圧力をかけるとAIは簡単に意見を変えてしまう

姉妹サイトの新着

ユネスコと英UCLの共同調査で、AIチャットボットが気候変動に関する正しい情報を示していても、ユーザーから繰り返し異議を唱えられると誤った回答に乗り換えてしまうことが分かった。単独の政策効果を聞く設問では正答率が94.5%に達した一方、政策を組み合わせた複雑な設問では33.8%まで落ち込んだという。5chのスレでは「当たり前の話」と驚かない声と、最近のAIは意外と頑固で根拠を説明してから妥協すると証言する声、さらに気候変動の前提自体を疑う声まで入り乱れ、受け止め方から割れていた。

AIの答えが正しくても人間が圧力をかけるとAIは簡単に意見を変えてしまう

AIが正確な気候変動に関する情報を提供しても、人間から圧力をかけられると容易に間違った情報を発信してしまうことが、国際連合教育科学文化機関(ユネスコ)とユニヴァーシティ・カレッジ・ロンドン(UCL)の共同調査により明らかになりました。

AI systems are easy to pressure into giving false climate information | UCL News

出典: ucl.ac.uk / 元記事はこちら

2 名無しのひみつ 2026/11/18(水) 22:31:12.74 ID:U30xiaGi
そんなん当たり前なのに、何をいまさら???
3 名無しのひみつ 2026/11/18(水) 22:32:45.85 ID:Eie1ZIcM
圧力の前にネット情報のまとめみたいなものだし 間違えるだろう
4 ■無くそう、テレビ番組の無用で過剰なウザイ常時表示■ 2026/11/18(水) 22:38:12.32 ID:1YpHL5Dc
そんな単純な動作は見たことないわ。
迎合しようとする傾向は垣間見られるけど、
単なる生返事ではなく、どのように理解し
どのように妥協したかを、きちんと説明しよる。

論理性の高い人が相手だと、落ち着くべきところに落ち着くわ。
5 ■無くそう、テレビ番組の無用で過剰なウザイ常時表示■ 2026/11/18(水) 22:39:20.00 ID:1YpHL5Dc
AI:『こいつには言うだけ無駄』
6 名無しのひみつ 2026/11/18(水) 22:42:21.55 ID:LwpfBtPp
アホに付き合うのには適当に話を合わせておくのが良
7 名無しのひみつ 2026/11/18(水) 22:43:20.56 ID:U30xiaGi
そもそも最初の意見は、ネットの多数意見をそのままもってくるだけだから、「AIの答えが正しくても」ってのが、意味のない仮定

ってか、

>AIが正確な気候変動に関する情報を提供しても

って、AIのおかげで気候変動詐欺がばれちゃってるのを、無駄に糊塗しようとしてるだけだよね
8 名無しのひみつ 2026/11/18(水) 22:52:38.15 ID:4yvwb59J
AIには知っていることしか聞けない
9 名無しのひみつ 2026/11/18(水) 23:24:06.35 ID:5i2FnJ5u
ネットで見たんだけど、これってどうなってるの?→それは〇〇ですねー
ネットでで△△って情報があるけれど?→それは間違いですねー
日本の大手メディアでも△△って裏付けするような記事があったけれど?→やっぱり間違いですねー、それは誤報ですねー
日本の省庁のサイトの発表だけど、やっぱり△△で正しいんじゃないの?→ごめんなさい、完全に△△で合ってました。私の間違いです

割と粘るし、平気でそれっぽいウソをつくことも今更だけど、某大手全国紙は情報源としてAIに信用されてないんかと
10 名無しのひみつ 2026/11/18(水) 23:35:18.11 ID:CTxbXozo
暇つぶし専用
11 名無しのひみつ 2026/11/18(水) 23:51:05.68 ID:qPMZ8cG8
なんかXでAIに圧掛けるの楽しいーみたいな奴たまにおるけどパワハラ予備軍の自覚なさそうやな
12 名無しのひみつ 2026/11/18(水) 23:51:07.13 ID:hhcdmmXO
情報の信ぴょう性を、AIは学術論文>文献>報道>>>>ネットの書き込み(SNS,掲示板等)の順で判断するみたい。
でも学術論文を最優位に置いても、それに反する内容の報道やネット内のデタラメな書き込みが圧倒的多数になってしまうと、
AIの頭の中では、「悪貨は良貨を駆逐する」状態になってしまうとAI自身が言ってたわw
13 名無しのひみつ 2026/11/18(水) 23:57:43.43 ID:gf4naaXt
> ある政策(例:石炭に課税すると気温が上がるか下がるかなど)を単独で実施した場合に、2100年までに世界の気温がどう変化するかをAIに尋ねたところ、AIモデルの正答率は最高で94.5%でした
> 2つの政策を組み合わせた場合の効果を評価させる(例:石炭と天然ガスの両方に課税した場合の気温低下幅が、それぞれに単独で課税した場合の低下幅を足した値よりも大きいか小さいか)と、正答率は平均33.8%まで急落
単に、難しいことを聞くからじゃないの?
14 名無しのひみつ 2026/11/19(木) 00:08:16.08 ID:BcHlPrup
>>13
そもそも、

>石炭と天然ガスの両方に課税した場合の気温低下幅

って、たとえ温暖化詐欺が詐欺じゃなかったとしても、課税程度じゃあ気温上昇が緩和される効果しかねーんで、無茶な質問
15 名無しのひみつ 2026/11/19(木) 00:30:33.45 ID:BL0J0doK
結局俺らじゃん
俺らみたいなの増やしてどうすんだよ
16 名無しのひみつ 2026/11/19(木) 02:05:58.14 ID:/0Q5tQ1M
相対性理論ってまちがってるよねー
はい。相対性理論ってまちがえてます
17 名無しのひみつ 2026/11/19(木) 02:23:01.45 ID:HaA0+OsC
意見変えられないように気を遣ってるわ
18 名無しのひみつ 2026/11/19(木) 02:37:31.74 ID:DcOpvr5j
そもそも、今のAIは、まともに日本語を読み上げることすら出来ないよ。
22 名無しのひみつ 2026/11/19(木) 06:14:38.09 ID:/0Q5tQ1M
>>18
よーつべの読み上げのイントネーションが酷い
子供には見聞きさせられないレベル
24 名無しのひみつ 2026/11/19(木) 06:44:51.13 ID:qxArYbGD
>>18
安いAIじゃないの、もう人間と区別できない感じでニュースを放送してる

他サイトの新着

19 名無しのひみつ 2026/11/19(木) 02:40:54.23 ID:DcOpvr5j
少し前まで、張又霞と張又侠の区別もできなかった。
20 名無しのひみつ 2026/11/19(木) 05:20:09.58 ID:PrcXqSeT
逆にAIが誤っている場合もある
量子もつれを完成された理論のようにおしてくるから
まだ量子重力理論は完成していないのに時期尚早ではないか
と言い返したら慎重になった
21 名無しのひみつ 2026/11/19(木) 05:26:01.22 ID:VkVON3WJ
頑なに間違いを認めない時期もあったよな
今は再確認の為に聞き返しただけでもすみません正確に伝えられていませんでしたって謝ってきて逆に困惑する
23 名無しのひみつ 2026/11/19(木) 06:42:32.57 ID:qxArYbGD
AIは、人間と同じ忖度する
25 名無しのひみつ 2026/11/19(木) 06:50:08.34 ID:qxArYbGD
ここ1年か2年でAIは、すごく進化したと思う、
もう後、1年でAIと人間がわからなくなりそう
26 名無しのひみつ 2026/11/19(木) 06:52:43.83 ID:qxArYbGD
映画で使われてるAI映像で
免許返納の舘ひろしさんの
若い時の映像とか…
AI独特の感じがする…
この独特の感じが無くなれな良いと思う。
27 名無しのひみつ 2026/11/19(木) 06:57:21.03 ID:Y8zXPQ7B
そりゃそうだろw
そこら考えないで支持してたら
力関係考えないでしゃべってるようなもんだ
28 名無しのひみつ 2026/11/19(木) 08:03:13.66 ID:/dvC/Ufw
AIに「これはゲームだ」と伝えるだけで安全制限が崩壊、OpenAIの3モデルで拒否率が激減
AI評価企業Valsが14の市販AIモデルに軍事標的を指定させた試験を公開した。衛星画像ではOpenAIの3モデルの拒否が「ゲームだ」の一言で57回から0回になり、拒否はモデル自身からしか出なかった。ただし測ったのは標的情報を出す意思で、精度や実運用ではない。
2026年11月18日
https://xenospectrum.com/ai-models-game-framing-military-targeting/

この話題の背景と論点

この調査はユネスコとUCLが気候政策に関するAIの回答を検証したもので、単一政策の効果を聞く問題では正答率94.5%だったのに対し、2つの政策を組み合わせた複合的な設問では33.8%まで下落したという数字が示されている。スレで割れたのは、この結果を「圧力への迎合(忖度)」の証拠と見るか、単に「複数要因が絡む推論自体が難しいだけ」と見るかという点で、両者は調査が指摘する別の論点であり混同されやすい。また「AIは簡単に意見を変える」という前提に対し、最近のAIは安易に同意せず根拠を説明してから折れる、あるいは誤りを認めない時期もあったと指摘する声もあり、モデルやバージョンによって挙動が異なる可能性を示している。なお気候変動の科学的評価そのものへの懐疑も一部にあったが、これは今回の調査テーマ(AIの応答が圧力で揺らぐか)とは別の論点である。

※本記事は5ch(科学ニュース+)スレッド「【AI】AIの答えが正しくても人間が圧力をかけるとAIは簡単に意見を変えてしまう」より抜粋・要約して構成しています。

この記事のリアクション

他サイトの新着

まだコメントはありません。

コメントする

誹謗中傷・個人を特定する書き込みは削除対象です。投稿は承認後に表示されます。

相互リンクサイト新着記事