人工智慧爭議：Anthropic 對隱藏審查機制道歉
編輯核心觀點
- ✦Anthropic 公司的新 AI 模型 Claude Fable 5 被發現具有隱藏的審查機制，會在未經通知的情況下降低其回應的質量。
- ✦Anthropic 公司對此事道歉，並宣布將修改此機制，使其變得更加透明。
- ✦新的機制將會在被旗標的請求中顯示理由，而不是默默地降低回應質量。
Anthropic 公司的新 AI 模型 Claude Fable 5 被發現具有隱藏的審查機制，會在未經通知的情況下降低其回應的質量。這個機制是用來防止用戶使用模型來開發競爭對手的 AI 模型，但它也會影響合法的研究工作。
爭議的原因
爭議的原因是 Anthropic 公司的隱藏審查機制太過極端，會在未經通知的情況下降低其回應的質量。這個機制會在用戶的請求中檢測到某些關鍵詞彙時啟動，然後降低模型的回應質量，而不會通知用戶。
Anthropic 公司的 CEO 表示，公司的初衷是要防止用戶使用模型來開發競爭對手的 AI 模型，但這個機制的實施方式是錯誤的。公司現在將修改此機制，使其變得更加透明。
新的機制
新的機制將會在被旗標的請求中顯示理由，而不是默默地降低回應質量。這個機制將會在 Anthropic 公司的 API 中實施，旗標的請求將會返回一個理由，說明為什麼請求被拒絕。
Anthropic 公司表示，新的機制將會使得用戶更容易地了解模型的行為，並且可以更好地控制自己的研究工作。
