专家：细化技术标准让“AI数字人”透明化合规化

　　□ 本报记者（zhě） 　赵（zhào） 丽

　　□ 本报实习生 宋（sòng）昕怡

　　“生（shēng）西红柿和生黄瓜不能（néng）一起吃了！黄瓜中的分解酶会破（pò）坏（huài）维生素C，一起吃（chī）轻则影（yǐng）响（xiǎng）西红柿中维（wéi）生素C的吸收，重（chóng）则可能（néng）导致（zhì）腹泻、肠胃不适甚至（zhì）食物中毒。”电话那头，母亲说得头头是道，电（diàn）话（huà）这头（tóu）的赵女士却（què）听得一头（tóu）雾水。

　　随即，母亲发来一则视频。赵女士回忆说：“一位满头花白头发、身（shēn）着白大褂的‘医生（shēng）’在视频（pín）里侃侃（kǎn）而谈‘养生（shēng）秘籍’，甚至宣称（chēng）‘清淡饮食就是只吃素食，完全（quán）不吃肉’。我（wǒ）妈把（bǎ）这个‘医生’的话（huà）奉为圭臬。”但赵（zhào）女士仔细查看（kàn）后，在视（shì）频右下角发现一串（chuàn）几乎透（tòu）明的标注——“此视频由AI辅助生成”。

　　“后来，我妈戴着老花镜，在我的（de）指（zhǐ）点下找了（le）一会儿才看见那行字。”赵女（nǚ）士（shì）无奈地说（shuō），“这也不能怪老人，现在AI生成的‘数字人’泛（fàn）滥（làn），还难辨真假（jiǎ），实（shí）在让人（rén）防不胜（shèng）防。”

　　有此困扰的并非只有赵女（nǚ）士一（yī）家。《法（fǎ）治日报》记（jì）者近日随机采访了数十名路人，至少有七成受访者称（chēng）曾刷到过“AI数字人”视（shì）频，并（bìng）且“难以（yǐ）分清到底是真人还是‘数字人’”，而原因主要在（zài）于“找不到（dào）有效（xiào）提（tí）示（shì）”。

　　很多人（rén）担忧：真人（rén）“数字人”傻傻（shǎ）分不清楚，背后是肖像权侵（qīn）权乃至（zhì）敲（qiāo）诈、诈骗等违法（fǎ）犯（fàn）罪的风险隐患。

　　是否数字（zì）人难（nán）辨别

　　在重庆读大（dà）学的（de）郑媛浏览（lǎn）某社交平台时（shí），刷到一则帖（tiē）子——照片（piàn）里的女生外形温（wēn）婉（wǎn）可人，穿搭清爽时尚，很夺（duó）人（rén）眼球。郑媛点赞并（bìng）关注了该账号（hào）。

　　但不多时，郑（zhèng）媛却刷到另（lìng）一名博主揭（jiē）露用“AI生成人（rén）”起（qǐ）号（hào）的内容，被打假的恰恰是她先前所关注的这个（gè）账号。“我仔细翻阅了（le）那个（gè）女生（shēng）的账号（hào）主页，她并未标明使用AI技术，还在评（píng）论区亲（qīn）切（qiē）地与其他用户（hù）互动。”面对这样的局面，郑媛说自己也“糊涂了”。她后来观察了一个多星（xīng）期，找到了该账号（hào）图片确（què）为（wéi）AI生成的证据——有（yǒu）网友（yǒu）在其他账号上发现了（le）妆（zhuāng）容和（hé）衣着（zhe）几乎一样的“数字人”，而人（rén）物介（jiè）绍却完（wán）全不（bú）同。

　　习惯在直播（bō）间购物的北（běi）京市民李菲说，自（zì）己经常误入（rù）“数字（zì）人”直播间，“数字人（rén）”主（zhǔ）播侃（kǎn）侃（kǎn）而谈介绍商品，手部动作（zuò）还能随着她说话（huà）的（de）节奏不（bú）断（duàn）变动（dòng），声音流（liú）畅而自然（rán）。

　　“要（yào）仔细看（kàn）才能看到直（zhí）播间左侧一行‘现直播内容为数（shù）字人直（zhí）播（bō），非真（zhēn）人（rén）直播’的小字提醒。”李菲说，自己现在习惯了进（jìn）直播间“先找小字”，确认主播是否为真人，“但真（zhēn）的‘费眼睛’，不是（shì）在犄角旮（gā）旯，就（jiù）是字体几乎（hū）透明，不（bú）注（zhù）意根本看不到”。

　　袁伟(化（huà）名)是某985高校计算机（jī）系研究（jiū）生。他告诉记者：“现（xiàn）在一些AI大（dà）模型生成的图，别（bié）说中老年人会误以为真，很多没（méi）怎么接触过（guò）AI技（jì）术（shù）的年（nián）轻人都（dōu）不见得（dé）能（néng）分辨真（zhēn）假。”

　　他随即为记者演示，向某AI软件输入指（zhǐ）令“帮我生成（chéng）图片：一个容貌姣好的女性，精细的皮肤纹理，室外（wài）自然（rán）光”，随即生成的图片（piàn）与真人照片相差（chà）无几，如果不是（shì）右下角（jiǎo）自带的水印，只让人（rén）觉得（dé）是一张普（pǔ）通的美女照片。“如果说早期的AI软件大多不能生成自然的手指（zhǐ）和人体比例，现在技术进步得很（hěn）快，生成的（de）手指和（hé）人体比（bǐ）例已经比较像样了，更加（jiā）大了分（fèn）辨的难度。”

　　“这样的AI生成图（tú）片或（huò）视频，如果不作标识（shí）提示，会让很多人信（xìn）以为真。”袁伟（wěi）说。

　　大（dà）量账号（hào）未作标识

　　记者在某社（shè）交平台上注意到一名为“××AI打假人”的账户（hù），其（qí）发帖（tiē）称自己将致力于“揪出纯AI生（shēng）成的内容博主，帮小白识别真伪”，还表（biǎo）示“关注了（le）很（hěn）多AI生成非（fēi）真实的帅哥美女（nǚ）”。

　　在其关（guān）注列表里（lǐ）有300多个账号（hào），记者随机选取了其中20个账（zhàng）号（hào）浏览发现（xiàn），若没有看到（dào）评论区（qū）“这是（shì）AI吧，手指的细节很诡异”“背（bèi）景里（lǐ）的文字都（dōu）是乱码”等留言，记者第（dì）一反应（yīng）只以为他们是普通的颜值（zhí）时尚类（lèi）博主。

　　这（zhè）20个粉丝量几百到几万不（bú）等的（de）账号，仅有3个（gè）账号（hào）在简介（jiè）中写明（míng）“虚拟男友（yǒu）”“AI”“友情提示视频由（yóu）虚拟（nǐ）现实技（jì）术（shù）制作”，两个账号主页（yè）的内容经（jīng）平台审核（hé）后被（bèi）打上了“疑似包（bāo）含AI创作（zuò）信息，请谨慎甄别”的标签。其余账号在简介、内（nèi）容（róng）中并未提及“AI”字眼，平台的监（jiān）测机制也（yě）并未识（shí）别到，这些账号（hào）甚至还在评论区熟稔地与其他用（yòng）户互（hù）动，让（ràng）自己看上去更有（yǒu）“真人感”。

　　在调查过程中（zhōng），有（yǒu）超过一半的受访者向（xiàng）记（jì）者表示AI生成的“数字人”和真人难（nán）以分辨，相关的提（tí）示也（yě）并不显眼。

　　此外，记（jì）者发现（xiàn），有人还会特（tè）意教人如何绕过（guò）平台的“AI打标（biāo）”。据了解，目前，各平台已普遍升（shēng）级AI内（nèi）容识别系（xì）统，要求对AI生成作品（pǐn）进（jìn）行显著标注。但在（zài）调查中（zhōng），有（yǒu）分（fèn）享经验（yàn）的博主表示花费不到千元就可以购买所谓的AI工具中预（yù）配置的镜像文件，称用这（zhè）些镜像参数（shù）一（yī）键生成的虚拟人形象可以以（yǐ）假乱真，最大限度规（guī）避平台的AI内（nèi）容强制（zhì）标注机制。

　　细（xì）化标准加大惩（chéng）处（chù）

　　记者梳理（lǐ）公（gōng）开信息发现，实践中，一（yī）些（xiē）有心（xīn）人士利用“数（shù）字人”形象行不法之事。

　　据报道，张文宏、雷军等公众人物形（xíng）象曾（céng）被利用生成“AI数（shù）字人”，用来带货、恶搞。一些直（zhí）播间内，“AI数（shù）字（zì）人”向中（zhōng）老年人群体（tǐ）虚假宣传（chuán）保健（jiàn）品，诱（yòu）导购（gòu）买（mǎi）。更有甚者，一些不法（fǎ）分子利（lì）用“AI数字人”进行敲诈、诈骗等犯罪。例如，山西忻州（zhōu）公安（ān）机（jī）关工作（zuò）发现，犯罪嫌疑人（rén）王（wáng）某某利用AI技术（shù），制作合成“数字人”新（xīn）闻视频引（yǐn）流，进而进行有偿发帖、有（yǒu）偿删帖等敲（qiāo）诈勒（lè）索活（huó）动。2024年，江西一名65岁老人到（dào）银行（háng）办理业（yè）务，声称要贷款200万元给男朋（péng）友“靳东”拍戏，后经调查，老人手机里的“靳东（dōng）”视频是（shì）AI合成的。

　　重庆（qìng）大学网络与（yǔ）大数据研究院副院长罗勇认为，就价值取向而言，AI产业（yè）发展不（bú）能凌驾于网络安全之上（shàng）。对于利用AI技术生成的（de）短视频，网络用户特别是未成年人和老年人由于缺（quē）乏必要的鉴别能力（lì），往往（wǎng）会信以为真，由此可能产生负面网络舆情，甚至对网络安（ān）全造成（chéng）负面影响。

　　据受访专家介绍，当前我国已经出台了《生成式人工智能服务管理暂行办法》《互联（lián）网（wǎng）信息服务深（shēn）度合成（chéng）管理规（guī）定（dìng）》等（děng）法规，对（duì）“AI数字（zì）人”和AI生成内容（róng）的标（biāo）识、数（shù）据来源等提出（chū）了具体要（yào）求。

　　今年3月，国家网信办等四部门联合发布《人工智能生成合（hé）成内容标识办法》(以下简称标识办法)，通过（guò）标识提醒用户辨别虚假信息，规范内容（róng）制作、传（chuán）播各（gè）环（huán）节标识行（háng）为，为规范AI生（shēng）成内容划定红线。该办法将（jiāng）于9月1日起施（shī）行。

　　中国政法大（dà）学教（jiāo）授郑飞指出，相关（guān）规定一定程度存在落地难的问（wèn）题。一（yī）是监管（guǎn）和技术手段有限，难以彻底发现并纠正（zhèng）违规行为。例如（rú），一些“AI起号”从业（yè）者通过预置“镜像参（cān）数”生成极为逼真的虚拟人像，从（cóng）而逃避平台的强（qiáng）制标注要求（qiú）。而监管部门特别（bié）是基层执法部门，通常面临职责（zé）不清、执法（fǎ）手段和执法力量不足（zú）的问（wèn）题；二是部（bù）分（fèn）平台（tái）在一定程度上“管（guǎn）不了”也“不想管”。“管不了（le）”在于平台管（guǎn）理能力与技（jì）术手段欠缺（quē），尤其是一些（xiē）小（xiǎo）型（xíng）平台，缺乏足（zú）够的审（shěn）核人力（lì）和技术（shù）支（zhī）持。“不想管（guǎn）”则是背后利益驱动。未明显标识（shí）“AI数字人”或合成内容，会让受众误（wù）以为是真人或真实（shí）事件，从而更容易引起人（rén）们的兴趣和好（hǎo）奇心，吸引更多的流（liú）量和关注，进而带来更（gèng）多的商业（yè）利（lì）益。

　　“以网络社（shè）交平台为代表的（de）网络服务提供者在AI生成内容的应用（yòng）场景中，应当（dāng）进一（yī）步完（wán）善用户（hù）使（shǐ）用AI协议规定，并强化对AI生成（chéng）内容的审核。”罗勇说。

　　郑飞（fēi）建议，应从明（míng）确标识要求和加（jiā）大责任（rèn）追究（jiū）两（liǎng）方面发力。标识（shí）办法（fǎ）明确（què）要求，一旦检测到AI生（shēng）成内容（róng），传播平台应在发布内容周边添加显著提示标识，并在（zài）文件元数据中（zhōng）加隐（yǐn）式标识（shí），确保全（quán）流程可（kě）溯源。在未来落实过程中（zhōng），可进一（yī）步细化（huà）技（jì）术标准，比如规定标识文字的最小高度、对比度、展示（shì）时长等，让（ràng）标（biāo）识一目了然。另外，对于不按规定标注的行为，需要严厉处（chù）罚（fá）：除加大行政罚款（kuǎn）、暂停业务或纳入不良（liáng）信用记录等行政措施外，还要利用法律手段加大威慑。通（tōng）过明确、显（xiǎn）著的标识标准和更严（yán）厉的责任追（zhuī）究，才能从根本（běn）上震慑（shè）违规不（bú）标（biāo）注行为，实（shí）现“AI数字人”应（yīng）用的透明化、合规化。