「ハルシネーションしないAI」目指し数学的超知能を研究 5ch「人間も正解を手探りなのに」
姉妹サイトの新着
他サイトの新着
- 5chまとめMAP(総合)【社会】物価高に7割超“年収追い付かず” 必要な年収増加額は平均約38万円 住友生命
- ニュース速報まとめMAP【宇野千代】ちょｗ「ブラッサム」第3話の展開ヤバすぎｗｗｗここまでの見どころを総まとめ
- なんJ傑作まとめアンテナMAP中国政府、岩屋前外相の要請によりレアアースの輸出手続き迅速化を約束。「岩屋氏の言うことなら聞く」
- アニメ声優まとめアンテナMAP【朗報】まどマギ映画、フィルム特典解禁。社会現象復活へ
- VTuberまとめアンテナMAP【ホロライブ】初期スバル体験会場！消えたスバルのアーカイブ(約1.5年分)
- だめぽアンテナ【画像】学校帰りのミニスカ小学生ｗｗｗｗｗ
- ヌルポあんてな「白菜を土足で踏んで吸い殻」中国産野菜の実態が想像以上だった →使用する外食チェーンの実名も公開される
- 2chまとめアプリ+宇多田ヒカル「将来の夢が公務員って言うガキの多い日本は狂ってる」
- News人【高市悲報】AIマンガの作り方の本、作例のクオリティが高すぎると話題 もうこれ漫画家廃業だろ他
- ウマーあんてな【話題】東日本大震災後のユーロ予選、ドイツ代表とサポーターが日本へ示した思い
- 相互RSS募集ブログまとめ相互RSS募集中のブログリスト
- ぶーアンテナ【画像】ボディビル世界一の肉体、ヤバいを超えすぎて草生えるｗ
- 勝つるあんてな！巨人、板東湧梧と石田隼都が今季限りで現役引退
- ぷぅアンテナ【画像】子ども部屋おじさん、16歳母親にマジレスして自らを晒し上げてしまうｗｗｗｗ 他
- 海外の反応アンテナ.com韓国人「日本代表・中村敬斗のガールフレンドの抜群のスタイルをご覧ください…」→「羨ましい…（ﾌﾞﾙﾌﾞﾙ」＝韓国の反応
- 2ちゃんねるアンテナ【画像】国仲涼子って思ってたより乳デカいな
- 5chnaviAI業界、巨大データセンター投資を回収するには年6兆ドルの売上が必要―ベイン
- アニメ・漫画アンテナ新美味しんぼの栗子、劣化
- カオスアンテナ結局のところ白飯に一番合うのってさ
- おまとめ【スカッと】義母・義弟・義伯母の介護を押し付け続けたモラハラ夫⇒娘の彼氏を叩く暴言で妻がスン…と冷めて即離婚ｗｗ
Konoe Intelligenceが一般社団法人Nyx Foundationと共同で、ハルシネーションを構造的に排除する「数学的超知能」の研究を始めたと発表した。6カ月でPutnamBenchのスコア改善を目指すという内容に、5chでは「実現すれば数学研究をAI単独で進められそう」と期待する声が上がる一方、「人間自体が正解を常に手探りしているのに、AIにだけ正解を出せというのは無理がある」との懐疑的な反応も相次いだ。
Konoe Intelligenceは一般社団法人Nyx Foundationと、ハルシネーションしないAIの共同研究を開始した。
同社は、答えが正しいかどうかは、答えの中ではなく論理的な過程（推論）にあり、AIの推論において、推論の一歩一歩を機械的に検証できる仕組みが必要とした。最新のAIが持つ“高い推論能力”と“推論が正しいと保証される”ことは同一ではないため、検証が必要となるが、正しさを証明してきた唯一の手段として挙げたのが“数学”であり、ハルシネーションしないAI、として数学的超知能を開発すると発表した。
AIの安全性の最終形態として、出力を事後的に検知しフィルタリングする対症療法ではAIの安全は完成しない。構造的に誤りが起こり得ないAIを作ることこそが、AIセーフティの最終形とした。AIの出力を、確率ではなく数学的な証明によって保証する枠組みを構築していく。
今回の提携により、同社はAIの安全性を「確率の管理」から「数学的な保証」へと引き上げる挑戦とコメントしており、第一歩として、金融、自動車、航空、半導体など、高い品質と信頼性が求められる業界における仕様書やプロトコルの形式化といった形式検証のタスクにおいて、ハルシネーションを構造的に排除した、質の高いモデルを開発していくという。
ここ6か月での成果指標として、PutnamBench（大学レベルの難問集）で明確な改善を出すほか、AIが問題文を数式に翻訳する段階で意味を取り違えることがあるため、これを機械で検出し、Nyx独自技術で今の半分に減らすことなどを挙げている。
出典: ai.watch.impress.co.jp / 元記事はこちら
だけ答え解けばOK
それではAIじゃなくなるような気がする
単純な質問でも気分でハイと言ったりいいえと言ったりコロコロ変わるAI
人間とは根本的に違う
学習した内容を推論して出力しただけ
論理優先すると嫌われる
新しい条件によって1つ前の条件を完全に無視したりとか
情報の繋がりを人間のようには理解しきれてない感じ、動画とかでもそこまでの流れがなかったかのような事するし
開発しても使えるものが生き残る世界がネット時代以降もう30年前から
デファクトスタンダード言われて35年
これからやりますは誰でも言えるのに
現状だと計算するなら専用ソフトを使ったほうがいいだろうな
それなー。
エクセルでコピペした方が早かったってやつ。
ただ下手なVBAの書き直しはAIの方がラクだけど。
真実は常に一つじゃないんだよ
それまにで研究間に合えばいいけどね
リアルタイムで起きてることをAIが収集して
出力する
不可能だろ
人間自体が、なにが正解かを常時手探りしているのに
ＡＩに正解だけを出せって頭悪いんか？
他サイトの新着
単純な数学で無理だったから、とりあえず脳みそ真似てのニューラルネットワークから、なんとなく多層化してみたら凄くなったのディープラーニングと、理論より実践で進化してきて理論が後追い状態だし、結局のところ、どうやって回答出してるのかも追いきれてないんだし
そもそも、人間でも頓珍漢な事言うのはいるし
ポンコツデータベース依存なんだから
未来永劫ポンコツのままなんじゃないの？
ハルシネーションと同じプロセスで生成された文章が事実と一致してるものも多々あるけど
それも不確実なものなので一応の答えが出せないAIとなる
>>34
まるでおまえの書いたのがハルシネーションがない確実なものだとでも言いたいようだが
おまえの文自体がおまえのハルシネーションだぞ
人間の吐き出してる言葉のほとんどがいいかげんなハルシネーションだ
この話題の背景と論点
今回の取り組みは、AIの推論過程を確率ではなく数学的証明で保証しようとするもので、指標としてPutnamBench(大学レベル数学の証明ベンチマーク)のスコア改善と、問題文を数式に翻訳する際の意味の取り違えを6カ月で半減させる目標が示されている。対象は金融・自動車・航空・半導体分野の仕様書やプロトコルの形式検証であり、雑談や一般知識で誤答する「よくあるハルシネーション」全般を指すわけではない。
スレでは、数学研究をAI単独で進められるとの期待と、人間自身も何が正解か手探りしている以上AIにのみ完全な正解を求めるのは無理があるという懐疑論とで意見が割れた。加えて、誤りが構造的に起こり得ない設計を突き詰めると、確率的推論という現行AIの本質から外れてしまうのではという指摘もあった。
押さえておきたいのは、これは製品ではなく「共同研究を開始した」という発表段階に過ぎない点、そして数学的に検証可能な体系が扱えるのは形式化された論理・数式の領域に限られ、自然言語全般の事実誤認をなくす技術ではない点である。
※本記事は5ch(ビジネスnews+)スレッド「【AI】「ハルシネーションしないAI」の実現に向けて数学的超知能の研究を開始」より抜粋・要約して構成しています。
まだコメントはありません。