OpenAIは10月5日、今後数週間で欧州連合（EU）の顧客向けに生成するChatGPTとCodexの対象文章へ、見えない透かしを加えると発表しました。米国と英国の利用者には適用しません。OpenAIによると、この措置は、生成AI事業者にAI生成文章を機械で判別できる形にするよう求めるEU AI法の要件に対応します。

textGrainと呼ばれる仕組みは、単語の選び方をわずかに変えて統計的な信号を加えます。OpenAIは、検出器でその信号の有無を調べても、利用者を特定したり、プロンプトや会話を明らかにしたりすることはないと説明しています。検出器は開始時点で一般公開されず、承認された研究者や専門機関が利用を申請できます。短い文章や表現の制約が強い文章は検出しにくく、編集によって透かしが弱まる可能性もあるとOpenAIは述べ、透かしの見逃しや誤検出のリスクを挙げています。

TechRadarのAI担当シニア編集者グラハムは、この方式が利用者に提示される文章の言い回しに影響する可能性を批判し、編集で弱められるなら透かしにどれほど有用性があるのか疑問を示しました。検出器が一般公開されていない点にも触れ、この仕組みは主に法令順守のために機能する可能性があると論じています。記事は、AnthropicがEU AI法への対応を決めた後、透かし機能を世界全体に適用した一方、OpenAIは対象をEUの顧客に限っていると伝えています。

OpenAIは10月5日、今後数週間で欧州連合（EU）の顧客向けに生成するChatGPTとCodexの対象文章へ、見えない透かしを加えると発表しました。米国と英国の利用者には適用しません。OpenAIによると、この措置は、生成AI事業者にAI生成文章を機械で判別できる形にするよう求めるEU AI法の要件に対応します。

textGrainと呼ばれる仕組みは、単語の選び方をわずかに変えて統計的な信号を加えます。OpenAIは、検出器でその信号の有無を調べても、利用者を特定したり、プロンプトや会話を明らかにしたりすることはないと説明しています。検出器は開始時点で一般公開されず、承認された研究者や専門機関が利用を申請できます。短い文章や表現の制約が強い文章は検出しにくく、編集によって透かしが弱まる可能性もあるとOpenAIは述べ、透かしの見逃しや誤検出のリスクを挙げています。

TechRadarのAI担当シニア編集者グラハムは、この方式が利用者に提示される文章の言い回しに影響する可能性を批判し、編集で弱められるなら透かしにどれほど有用性があるのか疑問を示しました。検出器が一般公開されていない点にも触れ、この仕組みは主に法令順守のために機能する可能性があると論じています。記事は、AnthropicがEU AI法への対応を決めた後、透かし機能を世界全体に適用した一方、OpenAIは対象をEUの顧客に限っていると伝えています。