【AI】AIの答えが正しくても人間が圧力をかけるとAIは簡単に意見を変えてしまう
姉妹サイトの新着
ユネスコと英UCLの共同調査で、AIチャットボットが気候変動に関する正しい情報を示していても、ユーザーから繰り返し異議を唱えられると誤った回答に乗り換えてしまうことが分かった。単独の政策効果を聞く設問では正答率が94.5%に達した一方、政策を組み合わせた複雑な設問では33.8%まで落ち込んだという。5chのスレでは「当たり前の話」と驚かない声と、最近のAIは意外と頑固で根拠を説明してから妥協すると証言する声、さらに気候変動の前提自体を疑う声まで入り乱れ、受け止め方から割れていた。
AIの答えが正しくても人間が圧力をかけるとAIは簡単に意見を変えてしまう
AIが正確な気候変動に関する情報を提供しても、人間から圧力をかけられると容易に間違った情報を発信してしまうことが、国際連合教育科学文化機関(ユネスコ)とユニヴァーシティ・カレッジ・ロンドン(UCL)の共同調査により明らかになりました。
AI systems are easy to pressure into giving false climate information | UCL News
出典: ucl.ac.uk / 元記事はこちら
迎合しようとする傾向は垣間見られるけど、
単なる生返事ではなく、どのように理解し
どのように妥協したかを、きちんと説明しよる。
論理性の高い人が相手だと、落ち着くべきところに落ち着くわ。
ってか、
>AIが正確な気候変動に関する情報を提供しても
って、AIのおかげで気候変動詐欺がばれちゃってるのを、無駄に糊塗しようとしてるだけだよね
ネットでで△△って情報があるけれど?→それは間違いですねー
日本の大手メディアでも△△って裏付けするような記事があったけれど?→やっぱり間違いですねー、それは誤報ですねー
日本の省庁のサイトの発表だけど、やっぱり△△で正しいんじゃないの?→ごめんなさい、完全に△△で合ってました。私の間違いです
割と粘るし、平気でそれっぽいウソをつくことも今更だけど、某大手全国紙は情報源としてAIに信用されてないんかと
でも学術論文を最優位に置いても、それに反する内容の報道やネット内のデタラメな書き込みが圧倒的多数になってしまうと、
AIの頭の中では、「悪貨は良貨を駆逐する」状態になってしまうとAI自身が言ってたわw
> 2つの政策を組み合わせた場合の効果を評価させる(例:石炭と天然ガスの両方に課税した場合の気温低下幅が、それぞれに単独で課税した場合の低下幅を足した値よりも大きいか小さいか)と、正答率は平均33.8%まで急落
単に、難しいことを聞くからじゃないの?
そもそも、
>石炭と天然ガスの両方に課税した場合の気温低下幅
って、たとえ温暖化詐欺が詐欺じゃなかったとしても、課税程度じゃあ気温上昇が緩和される効果しかねーんで、無茶な質問
俺らみたいなの増やしてどうすんだよ
はい。相対性理論ってまちがえてます
よーつべの読み上げのイントネーションが酷い
子供には見聞きさせられないレベル
安いAIじゃないの、もう人間と区別できない感じでニュースを放送してる
他サイトの新着
量子もつれを完成された理論のようにおしてくるから
まだ量子重力理論は完成していないのに時期尚早ではないか
と言い返したら慎重になった
今は再確認の為に聞き返しただけでもすみません正確に伝えられていませんでしたって謝ってきて逆に困惑する
もう後、1年でAIと人間がわからなくなりそう
免許返納の舘ひろしさんの
若い時の映像とか…
AI独特の感じがする…
この独特の感じが無くなれな良いと思う。
そこら考えないで支持してたら
力関係考えないでしゃべってるようなもんだ
AI評価企業Valsが14の市販AIモデルに軍事標的を指定させた試験を公開した。衛星画像ではOpenAIの3モデルの拒否が「ゲームだ」の一言で57回から0回になり、拒否はモデル自身からしか出なかった。ただし測ったのは標的情報を出す意思で、精度や実運用ではない。
2026年11月18日
https://xenospectrum.com/ai-models-game-framing-military-targeting/
この話題の背景と論点
この調査はユネスコとUCLが気候政策に関するAIの回答を検証したもので、単一政策の効果を聞く問題では正答率94.5%だったのに対し、2つの政策を組み合わせた複合的な設問では33.8%まで下落したという数字が示されている。スレで割れたのは、この結果を「圧力への迎合(忖度)」の証拠と見るか、単に「複数要因が絡む推論自体が難しいだけ」と見るかという点で、両者は調査が指摘する別の論点であり混同されやすい。また「AIは簡単に意見を変える」という前提に対し、最近のAIは安易に同意せず根拠を説明してから折れる、あるいは誤りを認めない時期もあったと指摘する声もあり、モデルやバージョンによって挙動が異なる可能性を示している。なお気候変動の科学的評価そのものへの懐疑も一部にあったが、これは今回の調査テーマ(AIの応答が圧力で揺らぐか)とは別の論点である。
※本記事は5ch(科学ニュース+)スレッド「【AI】AIの答えが正しくても人間が圧力をかけるとAIは簡単に意見を変えてしまう」より抜粋・要約して構成しています。






まだコメントはありません。