圖：小米CEO雷軍是近期AI仿冒聲音的熱門對象，網(wǎng)上有不少以AI複製其聲音的視頻教程。

　　「國慶假期7天，被『雷軍』罵了8天」「劉曉慶回應(yīng)『畫面是我、聲音像我、但不是我』」……隨著AI生成技術(shù)普及，複製他人聲音、面貌的成本大幅下降，一些產(chǎn)品更以低至5-10元的價格，號稱「10秒生成明星聲線」，相關(guān)的濫用問題層出不窮。

　　近年更有不法分子以AI擬聲等技術(shù)「移花接木」，盜用名人聲音用於商業(yè)欺詐，令消費者以為其商品獲得名人代言、推薦，使商品銷量在短時間內(nèi)暴漲。專家指出，由於對新技術(shù)存在「代際技術(shù)鴻溝」，老年群體更是這類AI消費陷阱的「重災區(qū)」。

　　抖音平臺監(jiān)測數(shù)據(jù)顯示，去年國慶假期期間，AI合成的小米CEO雷軍語音「吐槽」調(diào)休政策的短視頻持續(xù)霸榜熱搜；有網(wǎng)友調(diào)侃「國慶假期7天，被『雷軍』罵了8天」，相關(guān)話題累計播放量突破1.2億次。

　　更值得警惕的是，AI擬聲技術(shù)已被不法分子用於商業(yè)欺詐。

一杯咖啡價格 仿冒「華仔推薦」

　　在社交媒體平臺上出現(xiàn)的《一路繁花》劉曉慶吃魚改編片段中，AI技術(shù)不僅篡改臺詞植入產(chǎn)品，更匹配了與原嘉賓極為相似的音色。由於AI合成語音比AI換臉視頻更難辨別，且其成本已大幅下降，讓這項新技術(shù)成為詐騙分子的「新寵」。

　　2024年3月，某電商平臺出現(xiàn)300餘條克隆劉德華聲音的促銷視頻。這些視頻通過AI技術(shù)完美復刻其嗓音，以「華仔推薦」名義推銷某品牌保健品。數(shù)據(jù)顯示，相關(guān)商品銷量在3天內(nèi)暴漲217%，但隨後大量消費者作出投訴，當中78%用戶表示「因信任劉德華才購買」。

　　只需要15秒的語音片段，花費不到一杯咖啡的價格，任何人的聲音都能被完美克隆。記者在購物平臺上搜索「AI人聲克隆」，「10秒生成明星聲線」「專業(yè)設(shè)備錄製+AI精修」等宣傳語下，價格從5.9元（人民幣，下同）到159元不等的多款AI聲音克隆軟件在售。據(jù)中國網(wǎng)絡(luò)視聽節(jié)目服務(wù)協(xié)會2025年1月發(fā)布的《2024網(wǎng)絡(luò)視聽內(nèi)容生態(tài)治理白皮書》顯示，全年監(jiān)測到AI聲音克隆平臺2850家，生成語音總量超15億條；確認違規(guī)內(nèi)容中，商業(yè)欺詐類佔比58%（偽造企業(yè)家?guī)ж浀龋?/p>

雷軍：明確AI應(yīng)用邊界紅線

　　而據(jù)中國老齡協(xié)會2025年1月發(fā)布的《中國老齡事業(yè)發(fā)展報告（2024）》顯示，涉及AI技術(shù)的電信詐騙案件中，60歲以上受害者佔比達42.7%；老年人人均直接經(jīng)濟損失2.87萬元。不法分子通過AI換臉生成「專家」形象，利用變聲技術(shù)偽造權(quán)威聲線，在直播中宣稱普通食品「包治百病」，精準「圍獵」銀髮群體。

　　廣西消費者權(quán)益保護委員會宣傳部主任李佩霞表示，由於新技術(shù)對老年群體存在「代際技術(shù)鴻溝」，使得AI詐騙分子能夠精準突破心理防線，政府、平臺以及社會各界需要共同努力，構(gòu)建全鏈條防護體系。

　　身為AI合成受害者，雷軍亦在今年全國兩會期間提議，加快單行法立法進程，在安全與發(fā)展並重的基礎(chǔ)上提升立法位階。建議針對「AI換臉擬聲」等某一代表性問題，探索推出人工智能單行法，明確「AI換臉擬聲」應(yīng)用邊界紅線，加大對利用人工智能技術(shù)實施犯罪行為的刑事處罰力度。