Anthropicのウォーターマーキングは類義語を代替可能なものとして扱う――オーサーシップをめぐる議論に火がつく
Anthropicが、リスクの低い判断において語彙の選択を変えるテキストウォーターマーキング手法を発表。批評家たちは、ニュアンスを持つ類義語を交換可能な変数として扱うことで、書くことの価値を損なうと批判している。
Anthropicは、将来のClaudeリリース用のウォーターマーキングシステムを明らかにした。このシステムは、単語の選択時にモデルのランダムシードを変更し、数学的に検出可能なパターンを作成する。同社は、「overcast」を「grey」に置き換えるといった例を挙げており、こうした区別は重要でないと主張している。このアプローチは、特定の単語の選択はほとんど交換可能ではなく、この技術は言語を単なる確率に還元していると、作家や学者が批判している。この反発は、AIの安全性に関する研究目標と人間のコミュニケーションのニュアンスとの間の緊張が高まっていることを浮き彫りにしている。