圖片來源@視覺中國
鈦媒體注：本文來源于微信公眾號愛范兒（ID：ifanr），作者 | 張成晨，鈦媒體經(jīng)授權發(fā)布。
新年新氣象，除了和財神爺搞好關系，守住錢袋子也很重要。
技術落地的過程，往往是黃色內(nèi)容和詐騙套路的進化史。
趁著假期還有余額，教長輩警惕 AI 新型騙局，才能實現(xiàn)「相親相愛一家人」家族群的「共同富?！?。
一抓一大把的 AI 博主，比「假靳東」更能騙人
《大話西游》里說，人是人他媽生的，妖是妖他媽生的，代碼產(chǎn)出的 AI 沒有父母，但想裝得有血有肉，讓你誤解它是人類。
最近，視頻號冒出了不少「俄羅斯美女」。她們個個膚白貌美，普通話流暢但斷句和咬字奇怪，聲調(diào)和前后鼻音讀不準。當然，考慮到她們外國人的身份，帶點口音才顯得自然。
她們熱情，也熱愛中國文化，為視頻打上「俄羅斯女孩在中國」「中俄友誼」之類的標簽，為觀眾朋友帶來「家鄉(xiāng)特產(chǎn)」的牛筋腸、大列巴、羊奶粉、酸黃瓜、巧克力、手工皂。
她們兩彎似蹙非蹙罥煙眉，一雙似喜非喜含情目，除了帶貨也會輸出觀點，相信愛情無國界，信奉平平淡淡才是真，感嘆這里的繁華，想把爸媽和妹妹也接來發(fā)展。
她們可能是彼此失散多年的姐妹，葉連娜和艾琳娜就長得一模一樣，IP 還都是山東的。她們聚是一團火、散是滿天星，分布在五湖四海，莉娜是上海的，尼娜是安徽的，艾琳是河北的，卡佳是遼寧的，阿麗莎是福建的。
這些俄羅斯美女都是 AI，平臺貼心地標注了。通過她們虛化夸張的模糊背景、沒摳好的頭發(fā)絲、循環(huán)的幾套表情和動作、過于接地氣的臺詞，我們也能分辨一二。
但評論區(qū)的中老年看不出來，真心希望她們留下來，「俄羅斯美女」們回復時也只掛念著自己的任務，完成了一場不動聲色的軟性詐騙。
被美貌所惑是人之常情，不分年齡。小紅書的AI顏值博主，用時髦的、極具網(wǎng)感的人設實現(xiàn)老少通殺?！肝餮b精英男」「白襪體育生」「純欲女神」......乍一看，只以為是 P 圖 P 過了的真人。
這時候辨別是不是 AI，看手仍然是一種方式，因為臉相對平面，容易學習，而手有三維結構，比較耗費功夫。手指數(shù)量超出無須多言，手指關節(jié)扭曲得留個心眼，非必要不露手也十分可疑。類似地，肌肉、四肢、衣服等細節(jié)也可能有著顯而易見的破綻。
其余的分辨方式越來越向玄學和直覺發(fā)展：畫風油膩、文案網(wǎng)抑云、沒有生活氣息、光影效果不自然、眼神透著死氣，臉部過于精致完美，只有靜態(tài)圖片沒有視頻，單看一張圖片不好確定，但多看幾張就能發(fā)現(xiàn)，什么姿勢都是一個表情......
小紅書 AI 博主 @cyberAngel_ 本職是一名軟件工程師，AI 繪畫權當為愛發(fā)電的業(yè)余愛好，他不隱藏使用 AI 的事實，帖子標題注明「AI 繪畫」，賬號簡介也寫著「我只是一個沒有感情的機器人」。
圖片來自：小紅書 @cyberAngel_
同時 @cyberAngel_ 認為，未來的 AI 繪畫將越來越難以分辨真假，AI 生成和 AI 檢測是互相進化的，創(chuàng)作者們更加清楚 AI 哪里不像真人，所以會努力讓這部分「像」真人，比如 AI 產(chǎn)出的美少女過于完美，可以適當模糊化，加點「膠片感」。
哪怕 AI 顏值博主還沒那么真，和「俄羅斯美女」大同小異的劇情已經(jīng)出現(xiàn)，平臺明明已經(jīng)提示「疑似包含 AI 創(chuàng)作信息」，評論區(qū)仍有人留下彩虹屁，甚至追著詢問衣服鏈接，似乎真或假的問題，最終將不可避免地讓位于美麗即是正義。
等到粉絲量上來了，AI 顏值博主的變現(xiàn)方式可以十分多樣，有的自力更生，通過廣告等將流量變現(xiàn)，有的知識付費，賣課、賣定制模型，按 @cyberAngel_ 的話說，「新媒體有新媒體的變現(xiàn)方式，技術有技術的變現(xiàn)方式」。
真人模型.
AI「俄羅斯美女」和「顏值博主」，和之前騙中老年女性情感和錢財?shù)摹讣俳鶘|」有些相似之處，卻更加可怕，也更加有想象空間。
「假靳東」沒什么技術含量，和明星相關的視頻和照片是下載或者打包購買的，深情的聲音是用變聲軟件偽造的，粗糙得「一眼假」，AI 的段位更高，有時候還真的沒那么好辨別。
只能說，當我們看到盤靚條順的互聯(lián)網(wǎng)帥哥美女時，最好不要默認是真人，也不必太真情實感，網(wǎng)紅公司不想花錢在真人 KOL 上，觀眾也更加快速地消費批量的美貌和廉價的觀點，多么符合互聯(lián)網(wǎng)的傳播規(guī)律。
AI 模仿你的臉，還要恐嚇你的心
除了通過「顏值博主」和「俄羅斯美女」廣撒網(wǎng)，AI 同樣也能精準鎖定。
或者說，AI 既能編織出溫柔鄉(xiāng)，也能改頭換面當 PUA 大師。
一類常見的 AI 詐騙是，騙子偽造來電顯示和熟人聲音，告訴接到電話的中老年，他們的孫子孫女遇到了麻煩，要么是犯了事需要拿錢消災，要么是身陷險境得用贖金救出。
國外報道了好幾起這樣的電話詐騙事件，劇情大同小異，綁架、受傷、酒駕追尾......類似的事情也發(fā)生在國內(nèi)，尤其是利用「時空差」，編造留學生被綁架，從而詐騙家長。
套路本身并不新鮮，已經(jīng)橫行了幾年，但因為技術發(fā)展，算力、樣本等各方面的要求降低了，效果更逼真了，騙局更容易實施了。
AI 語音克隆界的領頭羊 ElevenLabs 只需一美元和一分鐘的高質(zhì)量音頻，讓你瞬間掌握 29 種語言和多種語氣，還保留自己的口音、語調(diào)和節(jié)奏。
雖然如今的 Elevenlabs 再三保證，只有你可以克隆自己的聲音，并且有驗證程序證明聲音屬于你自己，然而這是亡羊補牢，2023 年 Elevenlabs 剛推出測試版時，泰勒·斯威夫特等名人的克隆語音已經(jīng)滿天飛了。AI 泰勒·斯威夫特說什么，本人無權決定。
不過，對方固然可以偽造來電顯示和聲音，但如果當事人頭腦清醒，掛斷電話，重新輸入手機號，主動聯(lián)系到親人，謊言往往不攻自破。
比起語音，視頻通話可能更讓相信「眼見為實」的中老年懷疑人生。
屏幕那端不知是人是狗的古早笑話永不過時，技術上也不難實現(xiàn)。比較常見的操作是，騙子通過虛擬攝像頭軟件和 AI 換臉功能，和對方進行視頻聊天。
CCTV 采訪的、為公安機關提供技術支持的一家深圳科技公司表示，進行視頻聊天的實時換臉時，不管是頭像還是朋友圈照片，上傳圖像后，特征識別只需要 30 秒左右，然后 AI 開始建模，建模完成后進行實時轉換。
一對一的視頻或許尚存戒心，如果一對多的「專業(yè)團隊」呢？
最近，一家跨國公司香港分公司因為 AI 被騙走了 2500 萬美元（約 1.8 億人民幣）。受害人是一名財務職員，其收到了英國總部「CFO」的郵件，受邀參與了一場涉及「秘密交易」的視頻會議，會上不僅有「CFO」，還有幾個眼熟的「同事」。
與會同事并非真的在場，騙子下載了公開視頻，通過 Deepfake 偽造了真人的臉和聲音，再套用到視頻會議。為了避免露餡，「CFO」單方面下指令，「同事」們沒有和受害人交流，并且視頻很快掛斷了，騙子之后通過郵件等方式繼續(xù)和受害人聯(lián)系。
警方示范怎么用 Deepfake 偽造多人視頻會議.
雖然此事有了調(diào)查結果，也有網(wǎng)友懷疑是內(nèi)鬼作祟而已?？鐕镜娘L險管控措施如何不為人知，但可以確定的是，AI 換臉還可以延伸到很多地方，從最早的色情片換頭，到假冒明星在直播間帶貨。
所幸，AI 還沒有那么完美，辨別方式依然簡單可行。
假如是通過 AI 換臉視頻，攝像頭的原始畫面在幾層轉換時十分消耗算力，聲音和畫面往往會有延時。另外，可以引導對方做些動作，比如張嘴、大幅度搖頭、把手指擋在臉前來回移動等，若是 AI 換臉，「人臉」可能會出現(xiàn)變形和瑕疵。
除了從技術的 bug 突破重圍，還有百試不爽的一招是，問些你知我知但他不知的隱私問題，或者編造謊言故意套路，看對方如何接招。
當然，技術的不足只能解一時之困，不妨戰(zhàn)略上蔑視、戰(zhàn)術上重視，不能覺得自己一定不會被騙，可能只是高端局還沒出現(xiàn)。
AI 詐騙并不新，但新的數(shù)字鴻溝已經(jīng)出現(xiàn)
2023 年被稱為生成式 AI 的元年，然而技術的推廣有滯后性，或許大多數(shù)普通人更能感知的是，看似并不新鮮的、但近年越發(fā)普及的技術，如何影響了日常生活。
技術是把雙刃劍的道理人人明白，Elevenlabs 可以讓有語言障礙的人發(fā)聲，HeyGen 讓霉霉對口型說出不帶翻譯腔的中文，妙鴨相機讓人足不出戶收獲精修證件照，技術的光明面和陰暗面并無長短，只是客觀存在罷了。
然而，對于很多中老年來說，智能手機和互聯(lián)網(wǎng)本來就玩不明白，現(xiàn)在 AI 又來搗亂了。
AI 時代，文字、聲音、圖片和視頻都有可能是假的，甚至以組合形式上場，騙子偽造的身份更加具體，詐騙也更加對癥下藥和真情實感，讓中老年受騙的概率更高。
以魔法對抗魔法，以技術攻防技術，是個此消彼長的貓鼠游戲，中老年未必能快速消化，我們或許從詐騙的本質(zhì)入手，降低中老年上當?shù)目赡堋?/p>
不管技術如何發(fā)展，很多詐騙的套路萬變不離其宗：竊取隱私，利用恐懼、貪欲、情緒價值編故事，冒充熟人或包裝自己獲取信任，圖窮匕見以錢為最終目的。
在 AI 時尚教皇出圈后，一位粉絲近 1300 萬的 X（原 Twitter）大 V 感嘆：「我以為教皇的羽絨服是真的，沒有多想。我不可能在技術的未來中幸存下來?！?/p>
對于中老年來說，眼見不等于真實、有圖未必是真相的規(guī)則更難被適應。我們可以告訴他們一些簡單、傳統(tǒng)但依然有效的辦法。
一類是小心駛得萬年船，不輕易相信互聯(lián)網(wǎng)的內(nèi)容，不接騷擾電話，不點陌生鏈接，盡量不在互聯(lián)網(wǎng)過度暴露人臉、聲音、指紋等個人生物信息。
尤其接到可疑電話、短信時，不要盲目相信「一面之詞」，不管對方是誰，談到錢就多個心眼，通過多種方式驗證對方身份，如果對方說家人遭遇了某事，再次回撥家人電話確認情況是否屬實。
另一類是主動出擊有備無患，中老年有自己偏好的媒體，家人可以將政府部門微信公眾號等信源的反詐內(nèi)容轉發(fā)給他們。如果條件允許，也可以向中老年展示如何使用 ChatGPT 等 AI 工具。
當然，對于不懂智能手機的老人，盡量在源頭解決問題，最好不要在微信、支付寶綁定銀行卡，只存少量的零錢。
AI 詐騙得逞只是最后的結果，防范 AI 騙局卻可以隨時開始。
技術應當服務于每一個人，引路人為后來者照亮數(shù)字世界的燈塔，探明水下未知的暗礁，我們才能共同走向一個技術不被恐懼而是被合理使用的未來。
快報
根據(jù)《網(wǎng)絡安全法》實名制要求，請綁定手機號后發(fā)表評論
我們應該更好的應用這些技術給人們?nèi)?chuàng)造價值和便利，而不是坑蒙拐騙
AI制作的還自帶口音？
在神奇的AI技術面前，沒有什么事情是辦不到，別說把中國人變成俄羅斯人了，就連大叔都可以變成美少女
電信詐騙太猖狂了，騙子套路日新月異
嘗鮮看過這類的視頻，不過輸出都是一個人，這種久了也會飽和