盧越

企業(yè)直播間內(nèi)，央視知名主持人“出鏡”推薦某款“深海多烯魚油”，直播間展板上標注著“適合頭暈頭痛、手麻腳麻、記憶下降人群”等用語，但該產(chǎn)品實際執(zhí)行標準為糖果，不具備疾病治療功能，且視頻中的主持人形象其實是利用AI技術(shù)偽造生成——據(jù)央視財經(jīng)報道，近日，北京市場監(jiān)管部門查處了首例利用AI技術(shù)進行虛假廣告宣傳的案件。

商家因?qū)κ称贰⒈＝∑返冗M行虛假宣傳被行政處罰的事件并不少見，而在上述案件中，涉案虛假廣告披上了AI外衣，迷惑性更強——當看到熟悉的知名主持人“親自”推薦具有神奇功效的產(chǎn)品，語氣、動作甚至表情都與真人無異，消費者極易輕信，從而導致權(quán)益受損。

近來，利用AI技術(shù)冒充專家、企業(yè)家、明星等公眾人物“躺槍”虛假廣告宣傳的新型違法行為屢屢引發(fā)關(guān)注。此前，“AI靳東”通過短視頻平臺誘騙中老年女性轉(zhuǎn)賬投資，多名被告人因犯詐騙罪獲刑；奧運冠軍全紅嬋等人被AI仿冒用于帶貨“增高藥”、土雞蛋，多人受騙；前段時間，利用AI“復活”已故茶界泰斗張?zhí)旄椴杵蟆按浴笔录l(fā)廣泛爭議……

技術(shù)被濫用的背后，其現(xiàn)實原因不容忽視。一方面，AI技術(shù)門檻的降低，拉低了虛假視頻制作的成本，如今在一些手機APP上，“一鍵換臉”輕而易舉，依托語音大模型技術(shù)，十幾秒就能“克隆”他人聲音。另一方面，以假亂真的AI視頻自帶流量，能快速吸引用戶點擊，從而形成“造假—傳播—變現(xiàn)—繼續(xù)造假”的惡性循環(huán)。

濫用AI技術(shù)不僅侵犯他人合法權(quán)益，擾亂市場秩序，更沖擊社會的信任基礎，對這一現(xiàn)象須持續(xù)加強關(guān)注，采取有效監(jiān)管。

當前，相關(guān)部門已出臺一系列治理舉措，如今年中央網(wǎng)信辦部署開展的“清朗·整治AI技術(shù)濫用”專項行動中，就包括重點治理利用AI假冒他人實施侵權(quán)違法行為；北京市市場監(jiān)管系統(tǒng)也在廣告市場秩序?qū)ｍ椪沃?，重點關(guān)注AI生成虛假違法廣告等新業(yè)態(tài)風險。

長遠看，防范AI技術(shù)濫用不能止于個案查處，還須打出組合拳。面對新技術(shù)發(fā)展帶來的新情況、新問題，立法有待進一步完善，執(zhí)法部門也要與時俱進。不久前開始施行的《人工智能生成合成內(nèi)容標識辦法》已經(jīng)要求所有AI生成的文字、圖片、視頻等內(nèi)容都要添加顯式標識“亮明身份”。而對于哪些內(nèi)容可以合成、哪些不能，技術(shù)提供方、平臺審核方、內(nèi)容發(fā)布方的責任如何界定等，還需法律法規(guī)進一步劃定邊界。監(jiān)管部門則需打破部門壁壘，加強協(xié)作，對AI虛假廣告精準打擊。

此外，平臺方作為信息傳播的重要載體，應切實擔起主體責任，加強內(nèi)容審核，有效識別、攔截虛假廣告，暢通舉報渠道。今年以來，一些頭部平臺已開始試點“AI內(nèi)容溯源系統(tǒng)”，研發(fā)能捕捉AI換臉時眼球轉(zhuǎn)動細微異常的“光流特征識別技術(shù)”。消費者面對網(wǎng)上未經(jīng)核實的“名人推薦”，也不妨多審慎少輕信，維護好自身合法權(quán)益。

只有多方協(xié)同，凝聚共治之力，才能讓AI在法治的軌道上釋放技術(shù)向善的力量，讓公眾在清朗、有序、健康的網(wǎng)絡數(shù)字生態(tài)中，享受技術(shù)進步帶來的美好生活。