「參加愚蠢的比賽,就會拿到愚蠢的獎品」,這是我對Claude最新的公告的評價。現在開始,如果你用Claude的新模型產生出來的文字,你要拿來用,要小心,因為Anthropic會加入AI浮水印,人類看不出來,但Anthropic的模型可以認出。也就是說,小朋友用AI寫作業,可以被辨識出來。Anthropic說是全球性的政策,先從新模型開始,再慢慢地延伸到舊有模型。
這個AI浮水印不是用隱藏文字的方式,所以你如果看著Claude的輸出,自己再打一遍也沒用。Anthropic是用使用文字的模式來加浮水印,所以如果你要破解這個浮水印,你只要大量改寫,或是用小段文字,或是給其它家的AI改寫,甚至是簡單地用另一個語言來回翻譯,浮水印就認不出來了。
這是很笨的政策,因為Anthropic莫名其妙地加了障礙給使用者,至少是心理上的障礙,讓使用者怕被抓。但誰來抓呢?誰控制了這個偵測浮水印的能力?老師?Anthropic?還是政府?當商人拿石頭砸自己的腳,我們先要想合不合理,有沒有我們沒想到的角度,也許Anthropic加浮水印是為了未來模型訓練的需要,一旦AI知道文字是AI產生的,就不要加入訓練資料,這是在AI模型發展上合理的政策,因為「垃圾進,垃圾出」是模型訓練一大禁忌。但除此之外,有什麼理由來得罪使用者?當你覺得一個政策有鬼的時候,你第一個要懷疑的當然是發想這個政策的人腦子是不是有洞,苐二個要懷疑的,就該是政府扮演了什麼角色。
據說這個浮水印政策是配合歐盟的AI監管法令,Anthropic簽了同意書,其它家沒有簽,所以沒有其它模型公司幹這種傻事。Anthropic為什麼要和愚蠢的歐盟一唱一和?因為Dario Amodei一直就是這樣的理念,「AI要監管,誰來監管?我和政府一起來管最好」Amodei一直以人類守護者自居,認為只有他來管AI的發展,人類才不會出事。Amodei和歐洲那些自以為是的菁英,也沒什麼兩樣。所以王八配綠豆,絕配。
珍惜生命,遠離Claude。