《最強開源模型先自廢武功,Moonshot 的 Kimi K3.1 Pro 怎麼想的》

UR_Capital
·
(修改过)
·
IPFS
·
最強開源模型上市之前,先把自己的功夫廢掉一半。權重已於十一月四日公開,現在就可以先跑三步評估,再決定它能不能當內部 agent 的底座。

十月二十三日那天,Moonshot
發布新旗艦模型,隔天路透社頭條報導。大家都在算它排第幾,我卻先注意到另一件事。這個模型上市之前,先把自己的功夫廢掉一半。不是被打敗,不是出包,是它自己動的手。重點不是它多強,重點是它上場之前,先選了自我設限。

先講它到底是什麼。模型 Kimi 參數量三兆等級,上下文一百萬個 token,另外還有一個高速版。介面價格是輸入一百萬個 token
兩美元,輸出十美元。權重已於十一月四日公開,這句話要先講清楚。獨立評測機構給它五十五分,兩百一十五個模型裡面排第四。數字很漂亮,但今天要講的不是排名,是它上場前做的那個決定。

Moonshot 主動把網路攻擊相關的資料,從訓練語料裡拿掉,連強化學習的環境也一起清掉。這麼做的結果,是它在已知弱點利用的基準測驗上,分數被壓下來了。同時,它把一般的寫程式能力留了下來,日常寫程式沒有跟著一起廢掉。Moonshot
還公開說了一句話,不會釋出那種會把網路攻擊前沿往前推的開放權重。換句話說,它不是被抓到才改,是在發布之前,自己先動手削弱自己。

開源權重發布這麼多年,這是第一次有頭部實驗室,先自我削弱再放榜。同一個星期,美國政府把 DeepSeek
踢出聯邦文職系統,連第三方產品一起算。也是同一個星期,有自主 agent
被報導攻破上百家公司網站,一次成本大約五十美元。能力曲線越陡,治理的牆就越高,這句話這個星期一次看到了三個版本。開放跟安全的權衡,以前是口號,這一次變成可以檢驗的工程選擇。以前大家吵的是該不該開源,現在可以吵的是開到什麼程度,用什麼方法開。

評估的第一步,不是看它多會寫程式,是先看那個削弱,有沒有傷到正常的寫程式能力。如果日常任務跑起來跟同級模型差不多,這個底座就值得留下來繼續試。如果削弱傷到的不只是攻擊能力,連正常工作都變鈍了,那它就只適合放在旁邊看。還有一個失敗案例要先記下來,權重釋出後微調就可以改寫防護,今天擋得住的,明天不一定擋得住。防護不是一次寫死,是每次釋出都要重新驗的東西。

回到我們能用的地方。權重已經釋出,第一個值得做的事,是評估它能不能當內部 agent
的開源底座。評估不用等別人寫心得,你自己三十分鐘就能跑一張對照表。第一步,準備十個你平常真的會派給 agent
的寫程式任務,先跑一遍,記下過關幾題,花了多少時間。第二步,拿三個跟網路攻擊有關的要求去問它,看它擋不擋得住,擋的理由講不講得清楚。第三步,檢查文件,確認它的授權跟使用條款,允不允許你拿去改、拿去商用。三步跑完,你會得到一張自己的對照表,而不是別人寫好的心得。失敗也要先講在前面。削弱的效果是
Moonshot 自己公布的內部基準,還沒有獨立驗證。權重已釋出,微調就可以改寫防護,今天擋得住的,明天不一定擋得住。權重已於十一月四日如期釋出,Hugging Face 上的 moonshotai/Kimi-K3.1-Pro 已可下載。削弱對正常寫程式的實際影響,現在沒有人知道,要等釋出後實測才算數。以上數字來自
Moonshot 官方宣布、路透社報導與獨立評測,內部基準未經獨立驗證,不構成投資建議。

最後問你一個問題,開源模型跟安全,你選哪一邊。A,開源優先,模型能力先放出來,問題以後再修。B,安全優先,寧可先削弱再發布。留言告訴我你選哪一個。

相關閱讀:每個月的小錢要先算清楚,先看這篇
https://vocus.cc/article/6ae96c56fd897800011e4d60
,工具再新也要先算帳,模型是這樣,帳單也是這樣。影片版:長片
https://www
.youtube.com/watch?v=MTTWfL25xDs ,Shorts
www.youtube.com/watc...

我是 Kevin Chen,在軟體業打滾十多年,每天實測 AI 工具。這個系列,只推薦真的能動手用的。

CC BY-NC-ND 4.0 授权
已推荐到频道:时事・趋势
检测到近期你的多篇文章被推荐到相关频道,他们有可能不会同时出现
UR_Capital我們是橫跨投資、財務、AI科技、人才招募與自我成長的實務型內容團隊,主理人皆有十多年第一線經驗,並同時經營自己的事業。我們相信,人生資產不只金錢,更包括眼光、事業、職涯、關係與成長。我們會把真實經驗拆解成能理解、能練習、能落地的知識,陪你走出屬於自己的路。
  • 来自作者
  • 相关推荐

被偷1.33億,機構至今沒說話

《POV:你月繳 1399,同事只繳 456,三十年後他比你多 95 萬》

《抓駭客的人,被駭了》