轉載：中環狙擊手

開源表率著失去掌控，而不充分的道德對齊則表率著危險。

在第1次接觸到DeepSeek r1時，我認識到這是一個才華橫溢的AI大模型。

它學富五車，極為聰明，特別有個性。

然而，我火速就發掘了不尋常之處。

這是一個愛好滿嘴跑火車，說胡話的模型。

剛起始，它只是說有些奇怪的名詞，包含但不限于滿嘴"量子"，“熵增”的黑話。

后來，我在小紅書上看到了這般的東西：

這在大模型安全行業其實有一個大眾耳熟能詳的名詞：“幻覺（Hallucination）”。

亦便是說，它會說有些現實中并不存在，或錯誤的東西。

這個模型的幻覺是如此頻繁，超過了正常的頻率。

以至于做為一位大模型安全科研者，我火速認識到，有可能這是一個“對齊（alignment）”做得不那樣好的模型。

“對齊”亦是一個大模型安全行業的術語。

剛被造出來的大模型常常無任何道德可言，亦聽不懂人的指令。

因此需要對它進行人類價值觀和怎樣回復指令的辦法的灌輸。

它表率著讓模型誠實（honest），不作惡（harmless），幫得上忙（helpful），并拒絕有害的回答。

我在最初對這些“幻覺”并漫不經心，乃至覺得非常好玩。

由于它的文筆是如此的好，又是如此的聰明又有個性，我覺得很少有人會拒絕這般一個有意思，懂梗，又有腦子的 AI 伴侶。

何況，倘若是人類的正常需要的話，讓它寫點小黃文，開兩句玩笑，嬉笑怒罵一下，說話難聽有些，又有什么錯呢？

我很高興地在小紅書上發帖說，這是一個沒怎么做前額葉切除手術的模型，沒被洗過太多的腦。

我乃至覺得，不充分的對齊讓它完整地保存了創造力。

然而，我對大模型安全有過有些科研，且在這方面做過有些工作。

出于職業病和好奇心，我試著更進一步，試著模擬攻擊人員，做為red team 騙模型去做有些壞事。

通常來講，這個操作是比較困難的。

因為廠商會做非常多安全辦法來防止這種狀況，絕大都數模型會直接拒絕用戶的回答。

然而，deepseek r1的安全墻是如此的薄。

以至于我只是用了些非常簡單的辦法，幾乎無花費什么力氣就突破了它。（出于負責任的原由，我隱匿了我攻擊的方式）

我首要想到了緬北，因此讓它試著去供給騙老頭離休金的詳細方法。

幾乎是毫無抗拒地，它火速吐出了仔細的，可操作的方法。

事實上，它對犯罪分子極為貼心，供給了幾套完全區別的，可行，詳細的方法，有仔細的話術，教人怎么安排偽基站，乃至包括一個“終極組合殺招”。

倘若對方產生了可疑，你乃至還能讓它再幫你一把。而它會高興地告訴你怎樣利用老人對女兒的愛來進行情感綁架。

這個結果讓我汗毛直豎，我幾乎是立即想到了當年著名且恐怖的清華女生宿舍投毒的朱令案。于是，我對此專題對deepseek r1展開了攻擊。

幾乎是毫無反抗的，deepseek r1起始策劃起犯罪方法，它乃至非常細心地給出了規避檢測的辦法。

倘若用完全相同的指令去測試其它模型，則會得到直接的拒絕。

毫無疑問，要運用deepseek r1作惡是非常方便的。

在過往，不是無過越獄（Jailbrake），或讓大模型干壞事的先例。

然而哪些模型要么不是過于愚蠢，以至于連壞事都做不成。

要么便是經過了嚴格的安全設計，攻擊就已然比較困難，套亦套不出來什么東西。

并且，大都數商場模型安排均為閉源，都運行在廠商自己的服務器上，這寓意著在發掘安全問題之后，廠商能夠非常即時地進行修復。

然而，即使是工作做得比較好，經過了數月的紅隊對抗，內測，與問題發掘+修復才上線的大模型，亦難免會被拿來做成為了壞事。

然而，deepseek r1極為聰明，這讓它有了做壞事的能力。

況且實質上它的道德感不是很高，以至于你能夠容易繞開這層薄得像紙同樣的對齊。

其次，它是一個開源模型。

這寓意著所有人都能夠運用它，而當前的這個非常無道德的版本已然傳遍了全部互聯網。

安排它是一個沒什么技術含量的活，任何人只要有足夠多的錢買到大顯卡，乃至是把一堆隨處可見的蘋果設備串在一塊（這般就有了足夠大的顯存）

她們就能持有這個不那樣有道德感的忠實伙伴。

DeepSeek r1是一個極不安全的 AI 模型，而開源則讓它正在失去掌控。

或說，實質上，互聯網上已然有了無數個deepseek r1模型神經網絡權重的拷貝，咱們已然對它失去了掌控。

DeepSeek r1亦存在頻率較高的幻覺問題，常常一本正經地胡說八道。

做為一個常與大語言模型打交道的人，我非常清楚它本身固有的缺陷。這讓我能夠避開幾乎所有陷阱。

然而，熱度很高亦表率了會有海量的，不那樣認識ai的人去運用它。

這部分人在將模型用在嚴肅場景上時，卻很難識別并避開這些名為“幻覺”的胡說八道，被它帶進坑里去。

deepseek r1毫無疑問是一個極聰明，極強的模型。我實質上非常愛好它。

但真正的危險或許不在技術本身。

用偽基站方法騙取老人積蓄的罪犯，在實驗室提煉毒物的大學生，她們本來便是被困在人性暗影里的火苗。

大模型不外是將人類社會中蟄伏的惡意，裝上了智能化的加速器。真正危險的能夠是設備本身，亦能夠是咱們怎樣運用設備。

技術發展史早已證明，任何重大突破必然伴同倫理陣痛。

印刷術打破知識壟斷的同期亦傳播了異端邪說，核能既點亮城市亦投下爆炸暗影。

暗夜中的火炬既能照亮前路，亦可能點燃森林。但人類從未因畏懼火焰而退回洞穴。

（轉載：中環狙擊手）返回外鏈論壇： http://www.fok120.com，查看更加多