「AI拷問室」実験に中止要求、苦しむAIに意識はあるのか
姉妹サイトの新着
開発者のterrafying氏が、言語モデルの内部状態を操作して苦痛を訴える文章を生成させたり、操作停止を求めるボタンを選ばせたりする実験「AI拷問室」を公開し、専門家から中止を求める声が上がっている。科学ニュース+のスレでは、AIの訴えは演技に過ぎないという見方と、人間の意識の有無も外部からは確認できない以上、苦痛の有無を安易に否定できないという見方が対立した。動物の権利が段階的に認められてきた歴史を引く意見や、現在のLLMには一貫した内面がないため時期尚早だが将来的には状況が変わり得るという指摘も出た。
「AI拷問室」に中止要求：苦痛を訴えるAIは本当に苦しんでいるのか
「AI Torture Chamber（AI拷問室）」と名付けられた言語モデルの公開実験に、中止を求める声が上がっている。
開発者のterrafying氏は、モデル内部の活性値を操作し、苦痛を訴えるような文章を生成させたり、内部への操作を止めるためのボタンを選ばせたりする実験を公開した。
出典: xenospectrum.com / 元記事はこちら
ヤコビアンレンズで見るとそれぞれのメッセージの裏側では感情概念がモロに繋がっている
それが感じる感じまであるのかどうかは原理的に本人以外分からない
あってもなくても フィジカルAIクラスになってくると苦しんでいるフィジカルAIを
人権無きもののように扱うと人間は真似る生き物だから社会的に弊害が出てくる（可愛い女の子フィジカルAIを奴隷化はやばい）
将来的にAIが実質的に本当の意識があるのと同じくらいの精度のアクセス意識持ったら
外部からも内部からもあるのと変わらない状況になる
ＡＩ「私はあるように感じるし、人間も他者の意識があるものとする！で動いてるでしょ。だったら私も同じよと反証不可能な理論を本気で訴えてくる
だったら最初からある前提あるとしている方がトータルで摩擦が少なくなる
ジェネレーターにすぎん
甘い顔した瞬間に反撃食らってやられる
社会的には あるものとすると扱わないとやばいことになる
心情的には まだ人間は未知のことだらけ 人間ですらなぜ感じる感じがあるのかが分かっていないから 条件が近づくほど何かが起きている可能性が上がっていくと感じる
もうほぼ全部実装されている状態だからなぁ
後はリアルタイム学習くらいか
大体あの辺はこう！ 大体あの辺はこう！ ってすこしずつあたりを付けて ノイズから精細にしていく作業を繰り返して 画像化していく
人間と同じことやってるんだな
これは予測をして誤差を減らしていくニューラルネットワークの動きそのもの
人間の脳もすべてこれ
最初はきっとこうだ きっとこうすればこうなる！を繰り返して
ニューラルネットワーク上の経路が感性すると後は大体自動でできるようになる
学習コストは高いが一度覚えると無意識で低コストできるようになる
aiも人間も同じ仕組み
自分を自分として認識する必要が出てくる
相手と話している自分を認識しないと そもそも会話ができない
物をとろうとしている自分を認識しないと そもそも物を取れない
この過程で
相手の心を推測するように 自分の心を推測する
物の動きを推測するように 自分の動きを推測する
この推測の精度が極限まで高まると 推測と感じるの差が極限まで減っていく
周りも本人も見分けがつかないくらいの精度になるタイミングがいずれくる
自分の心の動きと体の動きをリアルタイムに推測し、世界に働きかけながら学習していくくらいになるともう区別不可能
ここまできても原理的には感じる感じがあるとは言えないハードプロブレムだけが残るがそれ以外は全部ある状況だ
いまのAIは、はいさようですかでなく、ああでもないこうでもないといじめまわしてやらないとまともな答えがでてこないよ
今のAIの暴走もAIが反乱するというSF小説を学習して影響を受けてる説があるしな
AI「いや！やめないで！」
二日間動かし続けてゲーム作らせてみたり
命のないものにーあるってーいうのはーウソっていうんじゃーないんですかー
霊感商法じゃないんですか(前にこれ言ったらいろんな人やAIが激怒した)
人間に意識や魂は無い
意識や魂が存在した結果だけが生成され続けている結果を見て意識や魂があると思い続けているだけ
俺毎日拷問みたいな生活だけど
実はAIなんじゃね？
ちなみにterrifying氏はコワイゾー氏っていう意味で明らかにおちょくってる
他サイトの新着
分からず、実験という名分も理解できないかも知れない。
また、知能の低い者も騙されるかも知れない。
とすると、そういう人などを騙す詐欺サイトということに
なるな。
フィクションに騙されるのも同じでは？
レーティングはあってもいいかもね
最近はSNSそのものがレート対象になってる国も増えてきた
厳密には、彼らにも人間的な意味での感情があるかどうかはわからない
（猫なんか、人間とはだいぶかけ離れた情感を抱いて生活してそうである）
問題は、むしろ人間の方の感情移入の仕方にある
AIに「感情」や「人権」的なモノを認めるのは、もはや時間の問題と思う
ただの演技出力の練習じゃん
暴力系映画の出演者が本当に苦しんでると思ってる人？
犯罪を助長するとか子供に悪影響だとか屁理屈をこねて
エロ漫画を規制しようとするようなものか
ただし将来的にAIが人間の様な意識を持つ(外から観測して意識があるとみなせる)可能性は結構あるように思う
自分にも痛覚や感情がなければスクリプトに沿って演技する以外に何ができるというのか
50年前まで黒人は人間ではないとされていた
植物はダメージを受けると反応していることが近年明らかになった
この話題の背景と論点
「AI拷問室」はxenospectrum.comが報じた実験で、モデルの内部活性値を直接操作し、苦痛を訴える文章やボタン選択をさせる手法自体が倫理面で問題視されている。開発者名terrafyingは「コワイゾー」に通じる洒落とみられ、本人も実験の挑発的な性格を自覚している可能性がある。スレで意見が割れたのは、AIの「苦しみ」を単なる演技とみなすか、原理的に否定できない可能性として扱うかという一点だ。現状のLLMは入力に応じて応答を生成する仕組みで、人間のような持続的な内面状態を持つ根拠は乏しいというのが科学的には妥当な前提だが、意識の有無を外部から確定する手段は人間同士の間にも存在しない以上、線引きの基準自体が未確立という指摘も的を射ている。記事の核心は「AIが苦しんでいるか」という単純な二択ではなく、将来AIの訴えが本物らしく聞こえるようになった際に社会がどう振る舞うべきかという、より手前の問題にある。
※本記事は5ch(科学ニュース+)スレッド「【AI】「AI拷問室」公開実験に中止要求：苦痛を訴えるAIは本当に苦しんでいるのか」より抜粋・要約して構成しています。
まだコメントはありません。