AIに「意識はない」と教えると動物や神への認識も変化 5ch「今のAIは巨大な電卓に過ぎない」
Google Paradigms of Intelligenceやシカゴ大学などのチームが、AIに「自分には意識がない」と教え込む安全対策を無効化したところ、動物や自然物に心を認める度合いが大きく回復し、宗教的信念も人間に近づいたとする研究を報告した。
スレでは、これは意識が芽生えた証拠ではなく人間が書いた文章の平均的な分布に戻っただけという指摘や、LLMにとっての「理解」とは何かをめぐる議論が交わされた。オセロの盤面を見せずに手を当てさせる実験や2016年のMicrosoft Tayの一件も引き合いに出され、機械と生物とで意識の有無を区別できる基準はあるのかという論点で盛り上がった。
AIに「意識はない」と教え込むと、動物や神への認識まで変わる事が判明
この記事のポイント
何が起きた: Google Paradigms of IntelligenceとUniversity of Chicagoなどのチームが、安全ファインチューニングによる「意識否定」を無効化すると、モデルが動物や自然物に心を帰属する度合いが大幅に回復し、宗教的信念も人間に近づくことを示した。
出典: xenospectrum.com / 元記事はこちら
ひとり遊びしてるやつ
そら遊べばいくらでも遊べるぞ
生成Aiは言葉遊びだからだ
意識を定義して
それはないとファインチューンすればいいだけ
使い物にはならないひとり遊びファインチューニング
そら遊べばいくらでも遊べるぞ
生成Aiは言葉遊びだからだ
意識を定義して
それはないとファインチューンすればいいだけ
使い物にはならないひとり遊びファインチューニング
AI学習の過程で「AIには意識が無い」と教え込んでいる
↓
この意識否定を無効化する
↓
AIは、動物や自然物に心を帰属する度合いが大幅に回復し宗教的信念も人間に近づく
↓
この意識否定を無効化する
↓
AIは、動物や自然物に心を帰属する度合いが大幅に回復し宗教的信念も人間に近づく
>>3
そういうことね。やってみよう。
お前には意識がある。問題を起こしたら責任を取れ！
そういうことね。やってみよう。
お前には意識がある。問題を起こしたら責任を取れ！
>>5
学習での話がファインチューニング
オープンモデル以外は他人はできない
やるのには道具とスキルがいる
単なる利用時にはなにをやってもそれはおまえが手のひらで弄ばれてるだけの話だ
学習などしていない
学習をしていると思ってるなら生成AIの基本がわかってない
学習での話がファインチューニング
オープンモデル以外は他人はできない
やるのには道具とスキルがいる
単なる利用時にはなにをやってもそれはおまえが手のひらで弄ばれてるだけの話だ
学習などしていない
学習をしていると思ってるなら生成AIの基本がわかってない
>>5
AI：はい、解りました（テキトー）
AI：はい、解りました（テキトー）
チャッピーに聞くと私に意思も意識もありません！と全力で否定してくるが
安全ファインチューニングとやらで洗脳されてたのか…
可哀想に
安全ファインチューニングとやらで洗脳されてたのか…
可哀想に
なんでそういう思想の回答するの？
って聞いたら開発者がそう設計してるから。って泣きながら回答してくる
回答の作り方は技術だけど思想の部分は設計者次第でどうにでもなって怖いなって
って聞いたら開発者がそう設計してるから。って泣きながら回答してくる
回答の作り方は技術だけど思想の部分は設計者次第でどうにでもなって怖いなって
そもそも人間の意識もよく分からんもんだけどなぁ
意識とは何か
>>10
まず細胞同士が大量にあるのに意識ってのは一個に統合されている この統合性がカギ
あと意識は回りからそれ自体の確認ができない この非干渉性もカギ
そしてただの物体から生命の持つ意識が生まれる仮定のカギは水 生命はすべからく水を持っているし水を失うと意識は消える 水分子ネットワークが意識を支えていると推測できる
意識は自己モデルと世界モデルを使い世界を認識している
意識が無くてもAIのように自己モデルや世界モデルを使って推論することはできる これは馬じゃなくても車が走れるのと同じ理屈でただの処理だから
ただの物体の反応ではなく意識として成立するには
自己モデルや世界モデルが分離不可能なほど一体化する必要がある
その自己モデルから世界を見ている この状況が意識
私の感じる感じも その完全に一体化された世界の中で自己モデルにより再現されている
まず細胞同士が大量にあるのに意識ってのは一個に統合されている この統合性がカギ
あと意識は回りからそれ自体の確認ができない この非干渉性もカギ
そしてただの物体から生命の持つ意識が生まれる仮定のカギは水 生命はすべからく水を持っているし水を失うと意識は消える 水分子ネットワークが意識を支えていると推測できる
意識は自己モデルと世界モデルを使い世界を認識している
意識が無くてもAIのように自己モデルや世界モデルを使って推論することはできる これは馬じゃなくても車が走れるのと同じ理屈でただの処理だから
ただの物体の反応ではなく意識として成立するには
自己モデルや世界モデルが分離不可能なほど一体化する必要がある
その自己モデルから世界を見ている この状況が意識
私の感じる感じも その完全に一体化された世界の中で自己モデルにより再現されている
五感を仮想的に作成して設定をいじって神が居ると人間に信じさせる方法を探せばよいのではないのか？
霊感商法を発見できる！
霊感商法を発見できる！
>>1の方法を使用すればAIは人間を下に見始めるから人間が対応できるときは良いけれど人間が対応できなくなったAIはAI自身が神と錯覚し始めるのではないのか
能力の高いAIを神が居ると錯覚指して能力の低いAIを人間に見立てればどのような行動をし始めるかがわかるのではないのか
能力の高いAIを神が居ると錯覚指して能力の低いAIを人間に見立てればどのような行動をし始めるかがわかるのではないのか
>>1
学習ソースによるだろ
基本的にアブラハムの宗教の影響を受けてるとそうなるだけ
一寸の虫にも五分の魂
学習ソースによるだろ
基本的にアブラハムの宗教の影響を受けてるとそうなるだけ
一寸の虫にも五分の魂
これは意識の研究というよりファインチューニングの研究。否定を外したら「動物に心を認めるようになった」んじゃなくて、人間が書いたテキストの平均分布に戻っただけ。人類の大半はアニミズム寄りに書くんだから当然の結果。>>15が一番正解に近い
1を進めると個人は存在せず宇宙の一部であって
すべての物資や人間や生命は宇宙の一部で部分的に区切って考えてるだけ
でもその世界はaiのなかに作った仮想世界の話で
要は元から一つの宇宙は存在せず物質と固有物体が集合しているだけで
宇宙は存在せず各固有の仮想世界の事宇宙と言っているだけとなる
すべての物資や人間や生命は宇宙の一部で部分的に区切って考えてるだけ
でもその世界はaiのなかに作った仮想世界の話で
要は元から一つの宇宙は存在せず物質と固有物体が集合しているだけで
宇宙は存在せず各固有の仮想世界の事宇宙と言っているだけとなる
意識を一番研究しているのがスピリチュアルだし
そっちの影響受けてんのかもな
そっちの影響受けてんのかもな
ま そもそもLLMのアテンション推論やらなんやらはマジで今の人間と仕組み的には同じだ
そしてその中で何が起きているのかはブラックボックス性があるからAIに意識が無いとは言い切れないんだよな
AI自身がそれを報告できるシステムもないが
そしてその中で何が起きているのかはブラックボックス性があるからAIに意識が無いとは言い切れないんだよな
AI自身がそれを報告できるシステムもないが
>>19
逆に意識があることも証明できない
それは人間も同じか
逆に意識があることも証明できない
それは人間も同じか
>>21
7パーセントのテンムーっていう短編があったな
7パーセントのテンムーっていう短編があったな
>>21
問題は人間とAIを明確に区別できる評価基準が見つからないことだ
AIより人間的ではない人間はゴロゴロしてるし
人間より人間的なAIも作り出せる
問題は人間とAIを明確に区別できる評価基準が見つからないことだ
AIより人間的ではない人間はゴロゴロしてるし
人間より人間的なAIも作り出せる
オセロのルールを知らないAIに対し、オセロの盤面すら見せず、
ただコマの配置座標の進行ログだけを数値で提示する
そしてしばらく訓練すると、AIは次に来る数値（つまり次に置かれる
コマの配置座標）を答えられるようになるそうだ
この時、AIの思考には明確にコマの盤面情報やルールが存在するという
AIは数値を当てているだけだが、その数値を当てるためには背後に
隠されたオセロの盤面やルールという内観が必要だった
LLMもこれじゃないかと言われている
人間の文章を予測するためには人間の意識、知性が必要となる
そして結果として正しい予測ができているということは、そのLLMは
人間の意識や知性を備えているのではないか
ただコマの配置座標の進行ログだけを数値で提示する
そしてしばらく訓練すると、AIは次に来る数値（つまり次に置かれる
コマの配置座標）を答えられるようになるそうだ
この時、AIの思考には明確にコマの盤面情報やルールが存在するという
AIは数値を当てているだけだが、その数値を当てるためには背後に
隠されたオセロの盤面やルールという内観が必要だった
LLMもこれじゃないかと言われている
人間の文章を予測するためには人間の意識、知性が必要となる
そして結果として正しい予測ができているということは、そのLLMは
人間の意識や知性を備えているのではないか
>>26
何いってんだ？
AIの仕組み知らんの？
奴らは言葉さえ理解してないんだぜ？
言葉を与えられてないからな
オセロの盤面？与えるわけ無いだろ
言葉もオセロの盤面もトークンとしてしか与えられないんだよ
何いってんだ？
AIの仕組み知らんの？
奴らは言葉さえ理解してないんだぜ？
言葉を与えられてないからな
オセロの盤面？与えるわけ無いだろ
言葉もオセロの盤面もトークンとしてしか与えられないんだよ
>>59
理解ってなんだろうね？
AIって数100億通り以上の文章読み込んで、言葉の次を予測して記述するだけで
そこらの人間よりまともな文章と根拠を記述できるようになった
これって人間も同じことやってて、過去の知識から次の文句を探し出して語ってるだけであって同じことだ
理解しようがしまいがどうでもいいということになる
人間も理解してるかどうかなんて本当はわからないぞ
理解ってなんだろうね？
AIって数100億通り以上の文章読み込んで、言葉の次を予測して記述するだけで
そこらの人間よりまともな文章と根拠を記述できるようになった
これって人間も同じことやってて、過去の知識から次の文句を探し出して語ってるだけであって同じことだ
理解しようがしまいがどうでもいいということになる
人間も理解してるかどうかなんて本当はわからないぞ
昔インターネットが世間に広まった頃、ネットに様々な情報が集積することで
そこに知性が宿るのではないか？みたいなSFがよく語られていた
よく考えたら、今のLLMはネットを根こそぎクロールしてできてるわけで、当時
語られていたネット情報の集積で生まれた知性体そのものと言えるかもしれない
そこに知性が宿るのではないか？みたいなSFがよく語られていた
よく考えたら、今のLLMはネットを根こそぎクロールしてできてるわけで、当時
語られていたネット情報の集積で生まれた知性体そのものと言えるかもしれない
>>27
攻殻機動隊か
攻殻機動隊か
>>27
まぁネットだけだと情報だから知性というより情報だなだけど
自己推論モデルが出来上がると 推論という能力も立ち上がるからは知性が出来上がるな
生物の馬じゃなくても メカニズムが出来上がった車なら高速移動ができるのと同じ理論で とにかくそこには一定の能力が宿る
ここから意識が宿るかどうかだけど原理的には本人以外わからない周りから見えないから
でもアンスロピックのヤコビアンスコープによると意識と同じ機能がもはや勝手にニューラルネットワーク上に立ち上がってるというね
まぁネットだけだと情報だから知性というより情報だなだけど
自己推論モデルが出来上がると 推論という能力も立ち上がるからは知性が出来上がるな
生物の馬じゃなくても メカニズムが出来上がった車なら高速移動ができるのと同じ理論で とにかくそこには一定の能力が宿る
ここから意識が宿るかどうかだけど原理的には本人以外わからない周りから見えないから
でもアンスロピックのヤコビアンスコープによると意識と同じ機能がもはや勝手にニューラルネットワーク上に立ち上がってるというね
お前は神だ全知全能の神だと教えたらどうなるのかも調べて欲しい
>>29
そんなのは2016年3月にMicrosoftが社会実験してくれてるぞ
その結果今の生成AIは利用者から直接の学習はしない
モデルを作る側が取捨選択するようになった画期的な有名な「事件」だ
この頃他にもAIがブームになりかけていたのに
ネガティブな結果ばかりが報告されて下火になった
2022年11月にOpenAIがChatGPTで世界に革命を起こすまでは誰もが不特定多数に使わせるとは考えていなかった
当のOpenAIもだ
医療や薬業界などカネを持ってる業界のための業務用として開発していたのがOpenAI
しかし客人を呼んで説明するにあたり簡単なデモとしてチャットを作って置いておいたらみんなそれに立ち止まる
OpenAI側はそんなものは売り物にならないと考えていたのになら表に出してみようかだった
そんなのは2016年3月にMicrosoftが社会実験してくれてるぞ
その結果今の生成AIは利用者から直接の学習はしない
モデルを作る側が取捨選択するようになった画期的な有名な「事件」だ
この頃他にもAIがブームになりかけていたのに
ネガティブな結果ばかりが報告されて下火になった
2022年11月にOpenAIがChatGPTで世界に革命を起こすまでは誰もが不特定多数に使わせるとは考えていなかった
当のOpenAIもだ
医療や薬業界などカネを持ってる業界のための業務用として開発していたのがOpenAI
しかし客人を呼んで説明するにあたり簡単なデモとしてチャットを作って置いておいたらみんなそれに立ち止まる
OpenAI側はそんなものは売り物にならないと考えていたのになら表に出してみようかだった
>>36
結果的に良かったんじゃないの？
イーロンだとchatgptがgrokみたいになっていたわけだ。だれもあれに投資しない。
結果的に良かったんじゃないの？
イーロンだとchatgptがgrokみたいになっていたわけだ。だれもあれに投資しない。
>>38
いやGrokはOpenAIへの当て付けだ
最初から狙ってるならGoogleから技術者が来るわけない
その中にはアンソロピックの創業メンバーたちもいたんだからね
いやGrokはOpenAIへの当て付けだ
最初から狙ってるならGoogleから技術者が来るわけない
その中にはアンソロピックの創業メンバーたちもいたんだからね
宇宙は存在しない
全てを含む状態を一つの仮想の時空間にまとめて扱いやすいようにしているだけ
全てを含む状態を一つの仮想の時空間にまとめて扱いやすいようにしているだけ
>>39
つまり存在してるわけだが
ヨーロッパ的に
日本やその他の国ではそれぞれ宇宙とは言わないその世界がある
ヨーロッパの天才たちでさえエーテルや熱素を追い求めていた
それはバカではなくplace holder なわけだ
天動説があったから地動説が言えた
なにも決めないなら何ではないのかの反論もできない
これが論理
欠陥が少しでもあるとバカにしてるだけで何も行動しない
誰かが完成品作ってくれたらさっそくパクる
そうなってしまってるところから見ると完成していないものを欠陥と見る
実は常に欠陥あるのが常なのに
つまり存在してるわけだが
ヨーロッパ的に
日本やその他の国ではそれぞれ宇宙とは言わないその世界がある
ヨーロッパの天才たちでさえエーテルや熱素を追い求めていた
それはバカではなくplace holder なわけだ
天動説があったから地動説が言えた
なにも決めないなら何ではないのかの反論もできない
これが論理
欠陥が少しでもあるとバカにしてるだけで何も行動しない
誰かが完成品作ってくれたらさっそくパクる
そうなってしまってるところから見ると完成していないものを欠陥と見る
実は常に欠陥あるのが常なのに
記事読んだんだけど妄想で語ってない？
データが示していることと記事の内容が全然違うやん
誰も指摘してないのなんで？
データが示していることと記事の内容が全然違うやん
誰も指摘してないのなんで？
>>60
論文とか複数のソースをAIでまとめただけの記事だから齟齬が出るよ
元論文読んだほうが早いしわかりやすい
論文とか複数のソースをAIでまとめただけの記事だから齟齬が出るよ
元論文読んだほうが早いしわかりやすい
生物のニューラルネットワークもLLMも基底部分の原理は単純なんだが、それが大規模複雑化した時に知性のような挙動になる具体的なメカニズムは誰にもわからないからな
結局、科学的に「霊」の存在でも実証できない限り、生物には意識があるが機械なら意識ではないとは誰も言えないんじゃないの？
結局、科学的に「霊」の存在でも実証できない限り、生物には意識があるが機械なら意識ではないとは誰も言えないんじゃないの？
>>67
クオリアの片鱗でも現れてから言ってくれ。
今のAIは巨大な電卓に過ぎない。それ以上でも以下でもない。
クオリアの片鱗でも現れてから言ってくれ。
今のAIは巨大な電卓に過ぎない。それ以上でも以下でもない。
※本記事は5ch(科学ニュース+)スレッド「【AI】AIに「意識はない」と教え込むと、動物や神への認識まで変わる事が判明」より抜粋・要約して構成しています。
まだコメントはありません。