专家：细化技术标准（zhǔn）让“AI数字人”透明化合规化（huà）

　　□ 本报记者（zhě） 　赵 丽

　　□ 本报实习（xí）生 宋昕怡

　　“生西红柿和（hé）生黄（huáng）瓜不（bú）能一起吃了（le）！黄瓜中的（de）分解酶会（huì）破坏维生素C，一起吃（chī）轻则影响西红柿中维生素C的（de）吸收，重则可能导致腹泻、肠胃不适甚至食物中毒。”电话那头，母亲说（shuō）得头（tóu）头是道，电话（huà）这头的赵女士却听得一头（tóu）雾水（shuǐ）。

　　随即，母亲（qīn）发来（lái）一则视频。赵女士回忆说（shuō）：“一（yī）位满头花白头发、身着白大褂的‘医生’在视频（pín）里侃侃而谈‘养生（shēng）秘籍’，甚至宣称‘清淡饮食就是只吃素（sù）食，完全不吃肉’。我妈把这个（gè）‘医生’的话奉为圭臬。”但赵（zhào）女士仔细查看后，在视频右下角发现（xiàn）一串几乎（hū）透明的标注——“此视（shì）频（pín）由AI辅助生（shēng）成（chéng）”。

　　“后来，我妈戴着老（lǎo）花镜（jìng），在我的指点下找了（le）一会儿才看见那（nà）行字。”赵女士无（wú）奈地说，“这（zhè）也（yě）不能怪老（lǎo）人，现在AI生成的‘数字人（rén）’泛（fàn）滥，还难辨真假，实在让人防不胜防。”

　　有此困（kùn）扰的（de）并非（fēi）只有（yǒu）赵女（nǚ）士一家。《法治日报》记者近日随机采访了数十名路人，至少有（yǒu）七（qī）成受（shòu）访者称（chēng）曾刷到（dào）过（guò）“AI数字人”视频，并且“难以分清到底是真人还是‘数字人’”，而原因主要在于“找（zhǎo）不（bú）到有效提（tí）示（shì）”。

　　很（hěn）多人担忧：真人“数（shù）字人”傻傻分（fèn）不清楚，背（bèi）后是肖像权（quán）侵权乃至敲诈（zhà）、诈骗等违法（fǎ）犯罪的风险隐患。

　　是（shì）否数字人难（nán）辨（biàn）别

　　在重庆读大学的郑媛浏览某社交平台时，刷到一则帖子——照片里的女生外（wài）形温婉可人，穿搭清爽时尚，很夺人眼（yǎn）球。郑（zhèng）媛（yuán）点赞并（bìng）关（guān）注了该账号。

　　但不多（duō）时，郑（zhèng）媛却刷到另一名博（bó）主揭露用（yòng）“AI生成（chéng）人（rén）”起（qǐ）号的内容，被打假的恰恰是她先前（qián）所关注的（de）这个账号。“我仔细翻（fān）阅了那个女（nǚ）生的账（zhàng）号（hào）主页，她并（bìng）未标（biāo）明使用AI技术（shù），还在（zài）评论区亲切地与（yǔ）其他用户互动。”面对这（zhè）样的局面，郑媛说自己也“糊涂（tú）了”。她后来观（guān）察（chá）了一个多（duō）星（xīng）期，找（zhǎo）到了该账号图片（piàn）确为（wéi）AI生成（chéng）的证据（jù）——有网友在其（qí）他账号上发现了妆容（róng）和衣着几（jǐ）乎一样的“数字人（rén）”，而人物介绍却完全不（bú）同。

　　习惯在直播间（jiān）购物的北京市民李菲说（shuō），自己经（jīng）常误入“数字人（rén）”直（zhí）播间（jiān），“数字人”主（zhǔ）播侃侃（kǎn）而谈（tán）介绍商品，手部动作还能（néng）随着她（tā）说话的节奏不断变动，声音流畅而（ér）自然。

　　“要仔细看才能（néng）看到直播间左侧（cè）一行‘现直（zhí）播内容为（wéi）数字人直播（bō），非真（zhēn）人直播’的（de）小字提醒。”李菲说，自己现在习惯（guàn）了进直播间“先找小字（zì）”，确（què）认主播是否为真人，“但真的‘费眼睛’，不（bú）是在犄角旮旯，就是字体几乎透（tòu）明，不注（zhù）意根本看不到”。

　　袁伟(化名)是（shì）某985高（gāo）校（xiào）计算机系研究生。他（tā）告诉记者：“现在一些（xiē）AI大模型生成的图，别说中老年人会（huì）误以为真，很多没（méi）怎么接触过（guò）AI技术的年轻人都（dōu）不见得能分辨真假。”

　　他随即（jí）为记者演示，向某（mǒu）AI软件输（shū）入指（zhǐ）令“帮我生成图片：一个容貌（mào）姣（jiāo）好的（de）女性，精细的皮肤纹理，室外自然（rán）光”，随（suí）即（jí）生成的图片与真人照（zhào）片（piàn）相差（chà）无（wú）几，如果不是右下角自带的水印，只让人觉得是一张普通的美女照片。“如果说早期的AI软（ruǎn）件大（dà）多不能生（shēng）成自然的手指和人（rén）体比例，现（xiàn）在（zài）技（jì）术进步得很快（kuài），生成的手指和（hé）人体比例（lì）已经比较（jiào）像样了，更加大了分辨（biàn）的难度（dù）。”

　　“这样的AI生成图片或视频，如果不作标识提示，会让很多人信以（yǐ）为真。”袁伟说。

　　大量账号未作标（biāo）识

　　记者在某社交平台上注意到一（yī）名为“××AI打假人”的账户，其发（fā）帖称自己将致力于“揪出纯（chún）AI生成的内容（róng）博主，帮小白识别（bié）真伪”，还（hái）表示“关注了很多（duō）AI生成非真实的（de）帅哥（gē）美（měi）女”。

　　在其关注列表里有300多个账号，记者（zhě）随机选取了其中（zhōng）20个账号浏览（lǎn）发现，若（ruò）没有看到评论区“这（zhè）是AI吧（ba），手指的细节很诡异”“背景里的文字都是（shì）乱（luàn）码”等留（liú）言，记（jì）者第一反（fǎn）应只以为他（tā）们是（shì）普（pǔ）通的颜值时尚（shàng）类博主。

　　这20个粉（fěn）丝量（liàng）几（jǐ）百到几万不等的（de）账号，仅有（yǒu）3个账号在简介中（zhōng）写（xiě）明“虚拟（nǐ）男友”“AI”“友情提示（shì）视频由虚拟现实技术制（zhì）作”，两个（gè）账号主页的内容经平台审核后被打上了“疑似（sì）包含（hán）AI创作信息（xī），请谨慎甄别”的标签。其余账号在简介、内容中并（bìng）未提及“AI”字眼，平（píng）台的监（jiān）测（cè）机制也并未识别（bié）到，这些账号甚至（zhì）还在（zài）评论区熟稔地与其他用户互动，让自己看（kàn）上去更有（yǒu）“真（zhēn）人感（gǎn）”。

　　在调（diào）查过程（chéng）中，有超过一半的受（shòu）访者向记者表（biǎo）示AI生成的“数字人（rén）”和真人（rén）难（nán）以分辨，相关的提（tí）示也（yě）并不显眼。

　　此（cǐ）外，记者发（fā）现，有（yǒu）人还会特意教人如何绕过平台的“AI打（dǎ）标（biāo）”。据了解（jiě），目前（qián），各平台已（yǐ）普遍（biàn）升级AI内容（róng）识别系统（tǒng），要求对AI生（shēng）成（chéng）作品（pǐn）进行（háng）显著标注（zhù）。但在调查中，有分（fèn）享经验的博主表示花费不到千元就可以购买所谓的AI工具中预配置的镜像文件，称（chēng）用这（zhè）些镜像参数一（yī）键生成的虚拟人形象可（kě）以以假乱真（zhēn），最大（dà）限度规避平台的AI内容强制标注机制。

　　细（xì）化标准（zhǔn）加（jiā）大惩（chéng）处

　　记者梳理公开信（xìn）息发现（xiàn），实践中（zhōng），一些有心人士利用（yòng）“数字人”形象行不法之（zhī）事（shì）。

　　据（jù）报道，张文宏、雷军等公众人（rén）物形象曾被利用生（shēng）成“AI数字人”，用来带（dài）货、恶（è）搞。一些直播间内，“AI数字人”向（xiàng）中老年人群体（tǐ）虚假宣传保健品，诱（yòu）导购买。更有甚者，一些不法分（fèn）子利用（yòng）“AI数（shù）字人（rén）”进（jìn）行敲诈、诈骗等犯罪。例如，山（shān）西忻（xīn）州公安机关工作发现，犯（fàn）罪（zuì）嫌疑人王某（mǒu）某利用AI技术（shù），制作合成“数字人”新闻视（shì）频引流，进而进行有偿发帖、有偿删帖（tiē）等敲（qiāo）诈勒（lè）索活动。2024年，江西（xī）一（yī）名65岁老人到银行办理业务，声称要贷款200万元给男朋友“靳东”拍戏，后经调查，老（lǎo）人手（shǒu）机里的“靳东”视（shì）频是AI合（hé）成的。

　　重庆大学（xué）网（wǎng）络与大数据研究院副（fù）院长罗勇（yǒng）认为，就价值取向而言（yán），AI产（chǎn）业发展不能凌驾于网络安全之上。对于利用AI技术生（shēng）成的短视频（pín），网络用户特别是未成年人和（hé）老年（nián）人由于（yú）缺乏必（bì）要的鉴别能力，往往会信以为真，由（yóu）此可能产生（shēng）负面网络舆情，甚至（zhì）对网（wǎng）络安全（quán）造成负面影响。

　　据受访专家介绍，当（dāng）前我国已经（jīng）出台了《生（shēng）成式人工智（zhì）能（néng）服（fú）务管理暂行办（bàn）法（fǎ）》《互联网信（xìn）息服务（wù）深度合（hé）成管理规定》等法规，对“AI数（shù）字人”和AI生成内（nèi）容（róng）的标识、数据来源等提出了具体要求（qiú）。

　　今年3月，国（guó）家网信办等四部门联合发布《人（rén）工智能（néng）生成合成内容标识办法（fǎ）》(以下简称标识办法)，通过标识（shí）提醒（xǐng）用户辨别（bié）虚假（jiǎ）信（xìn）息，规范内容制作、传（chuán）播各（gè）环节标（biāo）识行为，为规范AI生（shēng）成内（nèi）容划定红线。该办法将于9月1日起施行。

　　中国政（zhèng）法（fǎ）大学教授（shòu）郑飞指出，相关规定一定（dìng）程度存在落（luò）地难的问题。一是监（jiān）管（guǎn）和技（jì）术手段（duàn）有限（xiàn），难以彻底发现并纠正违规行为。例如（rú），一（yī）些“AI起号”从业者（zhě）通过预置“镜（jìng）像参（cān）数”生成极为（wéi）逼真的虚拟（nǐ）人像，从而（ér）逃避（bì）平台的强制标注要求。而监管部门特别是基层（céng）执法部门，通常面临职（zhí）责不清、执法（fǎ）手段（duàn）和执法力量（liàng）不足的问题；二是部分平（píng）台在（zài）一定程度（dù）上“管不了（le）”也“不想管（guǎn）”。“管不了”在于平台管理能（néng）力与技术手段欠缺，尤其是（shì）一些（xiē）小（xiǎo）型（xíng）平台，缺（quē）乏足（zú）够（gòu）的审核人力（lì）和技术支持。“不想管”则是背后利益驱动。未明显标识“AI数字人”或合成内（nèi）容（róng），会让受众误以（yǐ）为是真人（rén）或真实事件，从而更容（róng）易引起人们的兴趣和好奇心，吸引更多的流量和关（guān）注（zhù），进而带来更多的商（shāng）业（yè）利益。

　　“以网络社交平台（tái）为代表（biǎo）的网络服务提供者在AI生（shēng）成内容的应用场（chǎng）景中，应当进一步完善用（yòng）户使用AI协议规（guī）定，并（bìng）强化对AI生成内容的审核。”罗勇说。

　　郑飞（fēi）建议（yì），应（yīng）从明确（què）标识要求和加大责（zé）任追究两方面发力。标识（shí）办法明（míng）确要求，一旦（dàn）检（jiǎn）测到（dào）AI生成内（nèi）容，传播平台应在发（fā）布内容周边添（tiān）加显著提示标识，并在文件元数据中加隐式标识，确保（bǎo）全流程可（kě）溯源。在未（wèi）来落实过程中（zhōng），可（kě）进一步细化技术标准，比如规（guī）定标识文字的最（zuì）小高度、对比度、展（zhǎn）示时长等，让标识一目了然。另外，对于不按规（guī）定标注（zhù）的行为，需要严厉处罚：除加大行（háng）政罚（fá）款（kuǎn）、暂停业（yè）务或纳入不良信用记录等行政措施（shī）外，还要利用法律手段加大威慑。通过明确、显著的标识标（biāo）准和更严厉的（de）责任追究，才能从根本上震慑违规不标注行为，实现“AI数字人”应用的透明化、合规化。