安全與監管
Anthropic CEO 罕見發文回應權力集中質疑:開放權重無法去中心化,贏回信任需靠實際成就
Techmeme綜合 4 家報導多家報導
尚未逐項核實
多個報導來源提及此事;未必是彼此獨立的證據。
在傳聞 Anthropic IPO 估值達 2 兆美元之際,幾乎不使用社群媒體的執行長 Dario Amodei 罕見發表長文,正面回應科技投資人 Gavin Baker 等人對其欲將權力集中的質疑。
事件導火線為 Gavin Baker 稱有傳言指 Dario 曾表示「Anthropic 有朝一日可能是世界上唯一的私營公司」。儘管 Anthropic 團隊隨即否認,強調公司最擔心經濟權力過度集中,但 Baker 指出矽谷許多人已相信此說法。此前,NVIDIA 執行長黃仁勳也曾批評 Dario 認為 AI 太可怕、太貴且太強大而只能由他們來做的態度,並倡議應在開放環境中開發 AI;Elon Musk 亦曾批評其過度強調風險的溝通方式。
Dario 在文中為其 AI 政策提案辯護,警告「開放權重(open weights)」並不能真正實現權力去中心化,並明確表態支持模型發布前審查(pre-launch vetting)。
針對大眾對 AI 的負面觀感,Dario 認為這源於長期的信任危機,而非 AI 領袖警告風險所致。他強調,大眾對企業與科技業缺乏信任,光鮮亮麗的行銷宣傳(如宣稱 AI 將治癒癌症)已被視為陳腔濫調甚至具欺騙性;真正能贏回公眾信任的唯一方法,是取得如「真的治癒癌症」般的實際成就。
讀原始報導背景
Open weights 是指將訓練好的人工智慧模型參數(主要為權重與偏差值)公開發布,讓大眾能夠下載並使用該模型。Dario Amodei 近期為其政策提案辯護,並警告採用 Open weights 並無法真正分散權力。
來源
- Simon Willisonsimonwillison.net
- iThomeithome.com
- Reddit r/LocalLLaMAreddit.com
- en.wikipedia.org