Anthropic的水印技術將同義詞視為可互換——引發了對作者身份的辯論
anthropic推出了一種文本水印方法，該方法會改變「低風險」決策中的措辭。批評者認為，通過將細緻的同義詞視為可互換的變量，此舉貶低了寫作。
Anthropic 公開了一個未來 Claude 版本的浮水印系統，該系統在單詞選擇過程中修改模型的隨機種子，以創建數學上可檢測的模式。該公司使用諸如將「overcast」替換為「grey」之類的示例 —— Anthropic 宣稱這些區別是低風險的 —— 將信號嵌入其中，而不會影響文本質量或元數據。這個方法引起了作家和學者的批評，他們認為特定的單詞選擇很少是可以互換的，而且該技術將語言簡化為純粹的概率。反彈凸顯了人工智能安全研究目標與人類溝通的細微差別之間日益增長的緊張關係。