【导语】近日，网络上兴起一股AI克隆声音“带货”风潮，奥运冠军全红婵、孙颖莎、王楚钦等人成为不法分子利用AI技术仿冒的对象。法律专家指出，此类行为已侵犯被仿冒者的肖像权与声音权，并损害消费者知情权，构成违法行为。随着《人工智能生成合成内容标识办法》的实施，公众应保持警惕，勿轻信AI音视频，被仿冒者可依法维权，网站平台也应加大监管力度。
你刷到过全红婵、孙颖莎、王楚钦卖土鸡蛋的视频吗？别信，那都是假的。近日，网络上掀起一波“打假”风浪，目标直指AI（人工智能）克隆声音乱象。法律专家称，利用AI仿冒他人身份“带货”是违法行为，已侵犯被仿冒者和消费者权益。
“我是你们的婵宝，有事请大家帮忙，今天让妈妈先拿出300单老家的土鸡蛋，给大家放福利”“大家好，我是莎莎，我为婵宝家农家土鸡蛋代言”“大家好，我是王楚钦，昨天收到婵妹私信，说她家土鸡蛋大丰收，这么好的土鸡蛋不发出去就可惜了”……听到熟悉的“声音”，粉丝误以为是奥运冠军本人，纷纷下单购买。殊不知，这些都是通过AI伪造，克隆出的名人声音。
中国人权研究会理事、云南大学人权法研究中心执行主任刘红春说，利用AI仿冒奥运冠军“带货”的行为，已侵犯了他们的肖像权与声音权。他强调，该类仿冒行为并非仅针对名人，仿冒任何自然人均属违法。不法分子选择名人下手，正是看中其社会影响力和公众信任，从而更易达成误导消费者、推销商品甚至实施诈骗的目的。
“这些行为违反了民法典中‘任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权’‘对自然人声音的保护，参照适用肖像权保护的有关规定’等条文。”刘红春说，以上述为例，商家利用AI伪造声音，编造故事，推销商品，已构成对全红婵等奥运冠军声音权的侵害，被侵权人可以要求商家停止侵权行为、赔偿损失与赔礼道歉。
“此举还侵犯了消费者知情权。”刘红春说，如果商家诱导消费者购买高价、低质或不存在的商品，且骗取财物数额较大，就触犯了刑法，涉嫌诈骗罪。
中国政法大学人权研究院教授刘小楠认为，当前互联网平台出现不少AI移花接木的视频，AI换脸、AI盗声的不当滥用，易引发侵犯肖像权、声音权，侵犯公民个人信息及诈骗等犯罪行为，是人工智能技术带来的新挑战之一。她表示，我国目前对AI合成技术已经作出一些规定，如《生成式人工智能服务管理暂行办法》就明确规定：提供和使用生成式人工智能服务，不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益。
“还有一个好消息是《人工智能生成合成内容标识办法》将从今年9月1日起施行，所有AI合成的内容，必须依法打电子水印，没有标识的，大家可以举报。如果刷到疑似假货，也可录屏举报，或者@官方客服。”刘红春说。
法律专家提醒公众要保持警惕，勿轻信AI生成的音视频或直播，避免财产损失；被仿冒者可拿起法律武器，维护自身权益；网站平台要提升检测鉴伪能力，对此类乱象加大监管，对发布者内容严格审核，做(zuò)好(hǎo)处(chù)置(zhì)。
“对(duì)于(yú)AI，我(wǒ)们(men)既(jì)要(yào)有(yǒu)开(kāi)放(fàng)包(bāo)容(róng)的(de)心(xīn)态(tài)，用(yòng)好(hǎo)发(fā)展(zhǎn)好(hǎo)，对(duì)于(yú)它(tā)所(suǒ)带(dài)来(lái)的(de)新(xīn)问(wèn)题(tí)，也(yě)要(yào)坚(jiān)持(chí)在(zài)发(fā)展(zhǎn)中(zhōng)治(zhì)理(lǐ)，明(míng)确(què)使(shǐ)用(yòng)AI技(jì)术(shù)的(de)底(dǐ)线(xiàn)与(yǔ)红(hóng)线(xiàn)，真(zhēn)正(zhèng)让(ràng)科(kē)技向上、向善，为人类造福。”刘小楠说。（记者岳冉冉）