【海外の反応】AIの文章に入る電子透かしの仕組み 「汎用のAI検出器ではなく、モデルの作成者しか使えない」
海外の技術系掲示板で、AI文章に埋め込まれる電子透かしの仕組みを図解したdeclaude.orgの記事が話題になった。スレでは「汎用のAI検出器ではなく、モデルの作成者しか使えない」という記事の指摘への納得の声が集まる一方、透かしを外す手法を扱うdeclaude.orgというサイト自体への不信感も広がった。「it is」を「it’s」に置換するだけで壊れるのではという指摘に対しては、記事内で誤字修正から大幅な編集まで段階別に透かしの壊れ方が図解されているとの反論も出ていた。
AIの文章に入る電子透かしはどう機能しているのか：図解ガイド
出典: declaude.org / 元記事はこちら
「declaude」というのは「degoogle（脱グーグル）」みたいなものだと思っていた。ところが違って、やっていることはまさに正反対だった。記事で説明されている印を取り除こうとするサービスなんだ。かなりあくどい
>>3 自分はLLMを「検閲」しようとすることには反対だけど、これに関しては同意する。Claudeから不可視の電子透かしを剥がすことに、そもそも建前上でもいいから善意のシナリオってあるだろうか。悪魔の代弁者になろうとしても、一つも思いつかない。確かにあくどいよ
>>3 なるほど、それでこの記事自体がLLMに書かれたような匂いがするのか
>>2 目的は自分たちのモデルが近親交配を起こさないようにすることであって、自分たちが引き起こした問題を解決することじゃない
>>9 自分たちが吐き出したものを学習データとして再び取り込まないようにするのには機能する。実のところ、それがこの仕組みの本当の目的だと思う。鍵を一般に公開する気はないだろう。ただ、他のLLM企業とは互いの鍵を交換する形で共有するんじゃないかな
でもこれは機能していない。ある文章がその特定の生成器で書かれたかを（ある程度の確率で）確認できるのは、どうやらその文章生成器の持ち主だけらしい。この技術に使い道が見当たらない
>>9 エンドユーザーにとっては実用上ほとんど意味がない。これはAI企業が自分たちのために作った道具で、「この文章は自社のモデルが生成したものだ」と主張できるようにするためのものだ。確率の問題は、走査する文章が長くなるほど問題ではなくなる
>>17 とはいえ、それが濫用の98%くらいなんだよ。AIの濫用の圧倒的大部分は、何も考えていない、純粋な怠惰だ。本気で「検出回避」を気にするような悪意ある行為者は、そもそもClaudeなんて使わない
これで捕まえられるのは（文字どおり）何の手間もかけていない濫用だけだ
>>17 公平を期すと、そういうのは大量にある。今週だけで職場で2件、1. 明らかにAI生成で、2. 明らかに校正も修正も一切されていない資料の発表を見た
>>59 記事を読んでないな？
>>59 電子透かしごとコピペされるだけだよ
その文章をコピー＆ペーストしたらどうなるんだ？
これがどう動いているのか全く分かっていなかったので、あのインタラクティブなデモと解説はかなり助かった。それと、これは汎用のAI検出器では全くなく、モデルの作成者しか使えないという非常に重要な点も指摘されている
>>5 なるほど、確かに。外部での利用ばかり考えていて、なぜかLLM内部のメンテナンス用の道具として捉えていなかった
>>13 自分の読み方が正しければ、記事には一部のモデルでは外部の人間が検出のために文章を提出できると書かれていた気がする。それはなかなか良いやり方だと思う。生のデータを「オープンソース化」してしまうと、人々はそれを回避しようと色々やり始める。たいていのウェブサイトが自前のスパム対策手法を明かさないのと同じ理由だ
>>10 文章についてはなんとも言えないが、あのサイト自体は全部AI任せで作られている。CSSもJSも何もかもだ。それを踏まえると文章の方もあまり信用できない。ましてやClaudeの検出器を回避する方法を説明しているサイトなのだから
よく書かれた記事だし、なかなか賢い手法だ
誰も君が何を書こうと気にしないような内容なら、それがAIによって書かれたと証明できたところで誰も気にしない。だから電子透かしを取り除いても、良いことは何も起きない
良い記事だ。同じ印を、AIが生成したコードの検出にも使えるのだろうか（コメントを除いた場合に）。コードは自由に流れる文章と比べて、はるかに厳密な構文を要求されるわけだけど
>>25 それでも選択の余地はあるよ。変数名はかなり自由だし、switch文とif/elseは同じことを実現する二つの選択肢になる。この二つの間をふらふらするのは相当に怪しい。人間はそこまで優柔不断ではないからね。だから構造上の選択も使える。もっとも、AIが書いたコードは文章よりもさらに露骨にAIっぽく見えるものだけど
>>2 Claudeの学習に使われたくない文書に、誰かが電子透かしを入れ始めたらどうなるんだろうな
>>26 そこには我々が持っていない鍵が関わっているから、自分たちで勝手にやることはできない。なかなか興味深い話だ。モデルを学習させる側は、電子透かしを確認して無視するように指示しなければならなくなる。とはいえ確かに、提供者が自社のAI出力を取り込まずに済ませる有効な方法ではある
何か見落としていなければ、これはかなり脆そうに見える。透かしは直前の文章から導き出されるのだから、ちょっとした編集でも壊れてしまうんじゃないか。たとえば「it is」を「it's」に一括置換するとか
>>31 少なくとも一節まるごと見落としているよ。誤字修正、軽い言い換え、中程度の編集、大幅な編集で透かしがどう壊れていくかを示した図まで載っている
>>16 それはずいぶん変わった同意の仕方だけど、まあいいか。自分は二進計算そのものが悪魔の道具だと言っているわけじゃない。まあ、Windowsは別かもしれないが
>>36 技術そのものが本質的に悪だと本気で信じている人には、実際に会ったことがあるよ（笑）
これは本当に興味深い、ありがとう。試せる方法やコマンドラインのツールはあるんだろうか。自分で作ってみることもできそうだけど、たぶん既にある道具を見落としているだけだと思う。このスレでは色々な主張がとても多く飛び交っている。どちらの立場であれ、証拠を出してくれるとありがたいんだが
>>46 何を試すんだ？ Anthropicはまだ検出方法を公開していないし、無料のモデルはどれも8月2日より前のものだから、電子透かしはまだ入っていないと思う
※本記事は5ch(Lemmy c/technology)スレッド「How AI text watermarking works: a visual guide」より抜粋・要約して構成しています。
まだコメントはありません。