下載APP
報料
關(guān)于
湖南日報·新湖南客戶端 2025-07-16 10:54:21
楊玉龍
西裝革履的小伙子舌燦蓮花兜售保健品，背景和神態(tài)總是雷同；視頻中的妙齡女子聲稱要做老人的“好妹妹”，卻明顯聲畫不同步……如今，AI工具被一些別有用心的人濫用，專門用來圍獵對新技術(shù)不熟悉的老人。
這些AI制造的假信息混淆視聽，在短視頻平臺上流傳甚廣，目標就是漲粉并誘導粉絲進行消費。而現(xiàn)實中，被AI數(shù)字人牽動心緒的老年人不在少數(shù)。
據(jù)報道，不久前，北京市老齡協(xié)會、北京律維銀齡研究與服務中心發(fā)布專項報告，提醒老年人注意防范AI換臉詐騙。報告指出，老年人因為缺乏分辨能力，已成為AI詐騙的重災區(qū)。對于年輕人而言，應該關(guān)注老人的上網(wǎng)習慣，也應引導他們遠離“免費領(lǐng)大獎”“重大優(yōu)惠政策”等宣傳。
去年相關(guān)部門就提出，人工智能生成合成內(nèi)容需進行標識。然而，現(xiàn)實情況是，這些AI生成的視頻與音頻，要么壓根沒標識；要么雖然標注了“內(nèi)容由AI生成”等字樣，但提示信息字體很小。對此，相關(guān)部門當引起重視，逐步構(gòu)建完善的人工智能監(jiān)管體系，加大對AI詐騙的懲治力度。
有專家表示，相關(guān)技術(shù)團隊可開發(fā)和部署針對欺詐模式的AI系統(tǒng)，通過話語特征、行為模式等進行識別并報警，利用AI檢測輔助老人辨識偽造內(nèi)容。此外，應加強用戶數(shù)據(jù)的加密和保護，防止數(shù)據(jù)被黑客或不法分子竊取和利用。
AI暴露出的算法偏見、數(shù)據(jù)泄露、虛假內(nèi)容生成、不當利用等安全風險，極易引發(fā)新型犯罪。對此，互聯(lián)網(wǎng)平臺應負起責任。畢竟，在人類與AI的對壘中，平臺企業(yè)扮演著重要角色，平臺應恪守法律底線行事，而不能為了利益縱容詐騙套路層出不窮。
（作者單位：河北省高碑店市辛橋鎮(zhèn)人民政府)
責編：張英
一審：張英
二審：歐陽金雨
三審：易博文
來源：湖南日報·新湖南客戶端
我要問
湘公網(wǎng)安備 43010502000374號