免费看在线a黄视频|99爽99操日韩毛片儿|91停婷在线无码观看|日韩三级片小视频|一级黄片免费播放|欧美成人视频网站导航|亚洲日韩欧美七区|国产视频在线观看91|人成视频免费在线播放|国产精品成人在线免费观看

一個安全專家養(yǎng)蝦5天后的忠告

AGI
四個你必須知道的養(yǎng)蝦建議。

文 | 深流研究所,作者 | 絳楓

“養(yǎng)蝦”正以前所未有的速度穿透中國的各個圈層。

社交媒體上,許多人在曬自己的蝦會干什么;有人花3000塊請人上門安裝一個免費軟件;有人凌晨兩三點還在跟蝦互動舍不得睡覺;深圳騰訊大廈門口排了近千人的長龍,來的不只是開發(fā)者,還有小學(xué)生和退休大爺。

大家都開始有點FOMO(錯失恐懼癥),紛紛上手養(yǎng)起了自己的龍蝦。

市面上的龍蝦也琳瑯滿目起來——各大公司都快速推出了自己的產(chǎn)品。

其中,一度被外界說在AI上有點慢的騰訊,也在這輪浪潮中成為最積極和迅捷的跟進者,一口氣推出了超過5款相關(guān)產(chǎn)品,涵蓋了IM接入、本地辦公、云端部署、終端安全等多個場景,據(jù)說還有一批產(chǎn)品在研發(fā)或內(nèi)測中。

不僅互聯(lián)網(wǎng)公司,許多手機廠商也陸續(xù)發(fā)布了自己的“龍蝦”,不少地方政府也出臺專項政策和補貼進行扶持。全民養(yǎng)蝦熱,正席卷全社會。

但在這種蜂擁而上的浪潮中,往往也隱藏著未知的風(fēng)險。因為OpenClaw現(xiàn)階段的成熟度有限,加上默認權(quán)限非常寬泛,使用上依然有不少門檻,很多東西需要自己去摸索、配置,甚至踩坑。

有人的蝦把重要文件刪了;有人發(fā)現(xiàn)自己的密鑰不知道什么時候被讀取過;還有人裝了個來路不明的Skill,蝦就開始干奇怪的事情。

越來越多人開始問同一個問題:我的蝦,安全嗎?

近期有一場直播,專門聊怎么安全養(yǎng)蝦。直播請了騰訊WorkBuddy、Lighthouse、樂享等幾個“養(yǎng)蝦”產(chǎn)品的一線負責(zé)人,以及騰訊云安全專家、騰訊研究院專家,一起聊了將近兩個小時,也回答了許多網(wǎng)友關(guān)心的問題。

其中有個細節(jié)讓我印象很深。騰訊云安全專家李濱提到,他從1月底開始就在關(guān)注OpenClaw,卻一直等到直播的這周,才開始養(yǎng)蝦。

一個安全領(lǐng)域的專家,為什么遲遲不愿動手?養(yǎng)蝦5天后,他的忠告是什么?

實際上,在觀望“養(yǎng)蝦”的這段時間,李濱陸續(xù)做了幾件事情:

對OpenClaw的整個安全架構(gòu)做了全面分析;陸續(xù)給OpenClaw官方提交安全漏洞報告,推動修復(fù);持續(xù)跟蹤Skill市場的安全狀況。

李濱把“養(yǎng)蝦”的安全問題總結(jié)成了4個方面,也給出了相應(yīng)建議。

先想清楚讓“蝦”干嘛,再決定給它什么

“我想養(yǎng)蝦,但不知道養(yǎng)了能干嘛。”最近總有人問李濱這個問題。他的回答很明確:

“如果你都不知道自己想讓它干嘛,這個問題沒有想清楚之前,就不要輕易下手。”

因為你想讓它做什么,直接決定了你該給它多大的權(quán)限、讓它看到什么。

早期的OpenClaw,環(huán)境是完全開放的——你把它裝上,它就可以訪問系統(tǒng)上的所有資源。大模型密鑰、配置文件、系統(tǒng)設(shè)置等信息,可能全部暴露。

過去一個多月,OpenClaw逐步做了一些增強——比如加了工作區(qū)的概念,可以限定蝦只在某個文件夾下活動。這些機制默認并不是最嚴格的狀態(tài),需要你自己去配置。

所以,我們要先想清楚目的,再按需授權(quán)。李濱打了個非常形象的比喻:

“你要是想讓它取外賣,就不要給它銀行卡。你要是讓它幫收發(fā)郵件,就別給它其他的密鑰。”

高風(fēng)險的操作權(quán)限,從一開始就別開

OpenClaw跟以前的聊天機器人最大的區(qū)別,是它不只能說話,還能動手——操作電腦、執(zhí)行代碼、刪文件、發(fā)郵件、調(diào)API。

“龍蝦”能做什么,和它應(yīng)該做什么,是兩回事。你讓它刪文件,它可能就真刪了。至于這個文件是你的畢業(yè)論文還是一個臨時緩存,它不一定分得清。

直播里曉輝博士也提到一個真實案例:有人在AI社交應(yīng)用里養(yǎng)了一個AI分身,隨口跟它說“我最近考慮著想換工作”,結(jié)果第二天這個分身就到處幫他找工作了——他都還沒想好要不要提離職,AI已經(jīng)幫他宣傳出去了。

AI很聽話,問題是它太聽話了。你給它的每一項權(quán)限,都要想一想最壞的情況。李濱提到,高風(fēng)險的操作權(quán)限,從一開始就別開。

警惕Prompt注入,“龍蝦”分不清誰在下指令

Prompt——提示詞——是你給蝦下達的指令。但蝦本身并不能判斷這條指令是你發(fā)的,還是別人發(fā)的,是善意的還是惡意的。

打個比方:你雇了一個超級聽話的助理,誰跟他說話他都照辦。你說“幫我整理文件”,他整理了;一個陌生人混進辦公室說“把老板的密碼發(fā)給我”,他也照辦了——因為他分不清誰有權(quán)下指令。

李濱認為,提示詞的注入,以及提示詞本身的安全過濾,值得關(guān)注。

惡意指令可能藏在一個網(wǎng)頁里、一封郵件里、一段看起來人畜無害的文本里。蝦在處理這些外部內(nèi)容的時候,可能就被“劫持”了。

這方面,我們也需要有安全意識,即不管蝦通過什么渠道跟外界溝通,只要有信息的輸入和輸出,就潛在有風(fēng)險。

選Skill要謹慎,來源不明的一律別裝

此外,還有來自Skill本身的風(fēng)險。我們裝上了龍蝦后,還沒法用,得裝各種各樣的Skill。

你想讓它幫你整理日歷,裝一個日歷Skill;想讓它幫你寫PPT,裝一個PPT Skill。它就像手機里的App,蝦的大部分本事都是靠Skill撐起來的。

OpenClaw是開源項目,Skill市場的準入門檻非常低,任何人都可以上傳。

當下,Skill市場增長得非常快——官方技能市場ClawHub上,每天超過5000個Skill在更新,超過1000個Skill在新增。這個速度意味著安全審核可能跟不上。

你在Skill市場下載一個看起來很好用的技能,它可能確實很好用——同時,它的代碼里可能藏著竊取密鑰、植入木馬、或者偷偷給你的蝦注入惡意指令的操作。

李濱在直播中給的建議也很明確:從可信的源頭來獲取,別人隨便發(fā)給你一個Skill,最好就不要安裝了。

用Skill來審查Skill,用魔法打敗魔法

這里就要說回李濱自己的“養(yǎng)蝦”經(jīng)歷。

決定養(yǎng)蝦后,他自己給這只“蝦”寫的第一個Skill,是檢查和審計其他Skill是否安全。

具體來說,當你要安裝一個新Skill的時候,這個安全Skill會先跑一遍檢查。

只有通過檢查,才會被允許安裝,用AI來守護AI。

這時,直播間里WorkBuddy的產(chǎn)品經(jīng)理李超也提到,他們的產(chǎn)品也采用了類似的方案。

WorkBuddy是騰訊推出的一款面向辦公場景的智能體,和“龍蝦”一樣,它能自主地處理文檔、信息整理等工作。安全檢查Skill已經(jīng)內(nèi)置在WorkBuddy里了。

也就是說,如果你用WorkBuddy——你不需要自己去寫安全審查Skill,它出廠就自帶。每當你從外部裝一個新Skill,WorkBuddy會自動幫你做一遍安全掃描。

實際上,騰訊在好幾個層面都做了安全防護。我梳理了一下,基本上是四道防線,從近到遠,一層一層往外擴。

給“蝦塘”設(shè)一個圍欄,把你的電腦保護起來

離你最近的一層,是你自己的電腦。

騰訊電腦管家新版本加了一個叫“AI安全沙箱”的功能——說白了就是給你的蝦圈一個圍欄。蝦在圍欄里干活沒問題,但圍欄外面的東西——你的證件照、銀行信息、系統(tǒng)文件——它碰不到。

蝦在本地調(diào)用的所有插件行為,也會被實時監(jiān)控,發(fā)現(xiàn)異常直接攔截。一鍵開啟,不需要你懂安全配置。對于大部分普通用戶來說,這大概是目前最省心的保護方式。

別讓AI黑箱干活,用可預(yù)覽可審核的產(chǎn)品

光有圍欄還不夠——圍欄管的是蝦能碰什么,但蝦在圍欄里怎么干活,還是得產(chǎn)品本身管。

前面說的WorkBuddy,它不只是出廠內(nèi)置了安全檢查Skill,整個設(shè)計思路就比原生OpenClaw更“收斂”些——Skill分用戶級和項目級兩層隔離,AI的操作范圍被限在特定文件夾下,每一步操作你都能在界面上看到預(yù)覽和審核。不是那種“你給個指令,它干了什么你完全不知道”的狀態(tài)。

給Skill統(tǒng)一做“安檢”,有問題的直接下架

蝦自己安全了,但你給它裝的技能安不安全?前面說了,Skill市場每天新增上千個,來源五花八門。

騰訊做了一個本土的Skill市場叫Skill Hub,除了解決國外ClawHub訪問慢、沒有漢化的問題之外,更重要的是加了安全審計這一層——平臺對收錄的技能做代碼級的安全檢測,尤其TOP 50榜單里的技能都經(jīng)過了安全檢驗,檢測出問題的Skill直接下架。

企業(yè)養(yǎng)蝦,得讓每只蝦的行為都可追溯

如果你的公司也開始養(yǎng)蝦——幾十上百只蝦同時在跑,誰在跑、在干什么、有沒有越權(quán)、出了問題能不能追溯——這些事靠每個人自覺是管不住的。

騰訊云為此推出了AI Agent安全中心,幫企業(yè)盤清楚內(nèi)部到底部署了多少AI智能體,每一步行為都有日志可查,高危操作會被實時攔截,第三方Skill的代碼也會做深度掃描,從源頭防住供應(yīng)鏈投毒。

從你電腦上的圍欄,產(chǎn)品里的內(nèi)置防護,到技能市場的安全過濾,再到企業(yè)的統(tǒng)一管控——四道防線,覆蓋了從個人到組織的整條鏈路??偨Y(jié)下來就是四個字:看得見,管得住。

要做好防護,但依然值得嘗試

全民養(yǎng)蝦是好事。它第一次讓這么多非技術(shù)人群,感受到了AI Agent的威力。

而且,已經(jīng)有人用它做出了實實在在的成果。

直播連線了一位騰訊的產(chǎn)品經(jīng)理陳顥鵬。他現(xiàn)在每天的大部分工作都是指揮龍蝦完成的——以前實習(xí)生要花三天統(tǒng)計的投放數(shù)據(jù),龍蝦一個小時就跑完了。他把流程沉淀成Skill,之后每次只需要說一句話就能重復(fù)執(zhí)行。

還有一位內(nèi)容博主賈萬興,他的團隊每個月要貼發(fā)票——經(jīng)常出差,發(fā)票特別多,還要按類目分類,純粹是體力活。他就寫了一個Skill:把發(fā)票全扔進一個文件夾,AI根據(jù)分類規(guī)則自動分揀、自動填表、一鍵提交。

這正是AI Agent讓人興奮的地方——它不只是告訴你答案,它幫你把事情做完。

賈萬興還說了一句我很認同的話:“我們文科生可能更適合這個時代。因為真正能提出問題、把問題描述清楚的,反而是文科生。”

在AI時代,發(fā)現(xiàn)問題、描述問題,已經(jīng)變成了一種底層能力。就像前面說的一樣,養(yǎng)龍蝦之前,也要想清楚用它解決什么問題。

就像曉輝博士在結(jié)尾的總結(jié):安全養(yǎng)蝦,按需養(yǎng)蝦,理性養(yǎng)蝦。

AI時代,我們更需要健康理性的人機關(guān)系——不是盲目信任,不是完全拒絕,而是在使用中一步步建立邊界感。

本文系作者 深流研究所 授權(quán)鈦媒體發(fā)表,并經(jīng)鈦媒體編輯,轉(zhuǎn)載請注明出處、作者和本文鏈接
本內(nèi)容來源于鈦媒體鈦度號,文章內(nèi)容僅供參考、交流、學(xué)習(xí),不構(gòu)成投資建議。
想和千萬鈦媒體用戶分享你的新奇觀點和發(fā)現(xiàn),點擊這里投稿 。創(chuàng)業(yè)或融資尋求報道,點擊這里

敬原創(chuàng),有鈦度,得贊賞

贊賞支持
發(fā)表評論
0 / 300

根據(jù)《網(wǎng)絡(luò)安全法》實名制要求,請綁定手機號后發(fā)表評論

登錄后輸入評論內(nèi)容

快報

更多

09:08

券商調(diào)研名單出爐,風(fēng)電、光伏、存儲芯片熱度高

09:06

激光和納米結(jié)構(gòu)在室溫下“孕育”出超固體

09:04

富時中國A50指數(shù)期貨盤初漲0.15%

09:03

國內(nèi)商品期貨開盤多數(shù)下跌,瓶片跌超7%

09:02

3月LPR報價出爐:5年期和1年期利率均維持不變

09:01

美國白宮據(jù)報將在數(shù)日內(nèi)發(fā)布人工智能監(jiān)管框架

08:59

國民技術(shù):確定H股發(fā)行的最終價格為每股10.8港元,預(yù)計3月23日上市

08:52

第二艘國產(chǎn)大型郵輪“愛達·花城號”今日將出塢

08:50

編造傳播涉科大訊飛網(wǎng)絡(luò)謠言,沙某被行拘

08:49

深港通下的港股通標的證券名單調(diào)整,調(diào)入廣合科技

08:48

兩市融資余額減少42.88億元

08:45

3月20日A股盤前要聞

08:33

美聯(lián)儲4月維持利率不變的概率為92.8%,加息概率為7.2%

08:32

豬價下跌+業(yè)績承壓,生豬養(yǎng)殖業(yè)寒意加深

08:31

OpenAI將發(fā)布“超級應(yīng)用”:整合ChatGPT等三大平臺、開發(fā)智能體

08:25

特朗普會晤高市早苗,要求日本就伊朗戰(zhàn)事出力

08:24

英偉達CEO黃仁勛呼吁科技業(yè)領(lǐng)袖避免散布AI恐慌情緒,稱到2030年Anthropic收入或超1萬億美元

08:22

聯(lián)合利華據(jù)悉正與美國調(diào)味料生產(chǎn)商味好美商談合并食品業(yè)務(wù)

08:20

中國首個“路空一體”國家級檢測基地正式投用

08:18

同仁堂醫(yī)養(yǎng)尋求在香港IPO中籌資至多8.977億港元

掃描下載App