今年，利用AI技术伪造名人代言、带货的虚假广告让越来越多消费者感到困扰。
比如，北京市场监管局近日通报了查处某公司利用AI技术冒用央视知名主持人发布虚假广告的案件。通报显示，该公司在直播间销售的深海多烯鱼油产品，实际执行标准为糖果，属于普通食品，不具备疾病治疗功能。同时，直播间出现的 央视 主持人李梓萌的形象为AI技术伪造生成。
实际上 ， AIGC 带来 的 广告 乱象 还有 很多。一些分辨 能力 较弱 的 群体 成为 了 这些 广告 乱象 的 受害者 。
在抖音旗下营销服务平台巨量引擎举办的商业安全开放日上，巨量引擎商业安全治理标准负责人项韵 对 界面 新闻 表示 ， 在 广告 领域 ， A I 衍生 出来 的 问题 并不想 大家 想象 得 那么 简单 。 “ 很多 从业者 原本 认为 A I 带来 的仅仅 是 广告 素材 合规 方面 的 问题 ， 但 从 实际 出现 的 案例 来 看 ， AI结合到每一个行业，都可能产生一个新的问题 。 ”
通过 收集 、分析抖音 平台 的 违规 广告 案例 ， 项韵表示，AIGC 给 广告 营销 带来 的 风险 主要 包括 三大类 ： 违背公序良俗、侵权和虚假。
这三类 风险 在 过去 的 广告 营销 中 同样 存在 ， 但 在 项韵 看来 ， A I G C 让 创造 素材 变得 更容易 ， 不仅 让 风险 的 严重性 提升 ， 也 让 平台 对 违规 问题 的 识别 变得 困难 。
类似 的 挑战 在 抖音 内容 生态 治理 中 同样 存在 。 面对 A I G C 带来 谣言 激增 、 人工 识别 困难 的 问题 ， 抖音 在 内容 生态 治理 上 采用 “ 以 魔法 打败 魔法 ” 的 方式 ，引入A I 大模型 技术 进行 违规 内容 研判 、 处置 ， 取得了 一定 的 成效 。在 A I G C 带来 的 违规 广告 营销 问题 上 ， 抖音 同样 引入 了 AI大模型 等 技术 手段 进行 治理 。
据 界面 新闻 了解 ， 使用 技术 手段 治理违规广告 营销 比 治理 违规 内容 更为 复杂 。 平台 除了 需要 研判 广告 营销 内容 是否 违规 之外 ， 还需要 研判 商家 资质 、 后续 履约 等 一列 环节 是否 存在 违规 。
抖音 在 治理 违规 广告 营销 时 ， 一方面 通过 前置 的 研判 识别商家资质以及违规 广告 素材 。 项韵 表示 ， 平台 从 商家 资质 、 广告 内容 以及 内容 表达 三方面 设置 了 防线 。 同时 ， 针对违规行为，平台设置了预警整改、限制新开、账户封停、主体清退等梯度化、多元化处置体系 。
在 开放日 现场 ，抖音展示 了 平台 自研 的交互式审核系统 ， 该系统依托自研多模态大模型 ，审核效率比传统时代提升75% 。对于涉及违规的广告，大模型还能快速提供拒审理由，告知违规内容出现在视频中的具体时间点或具体画面。根据 抖音 方面 公布 的 数据 ，今年第三季度，平台已前置拦截涉AI违规素材84万余个。
另一方面 ， 抖音 也 在 探索 通过 技术 手段 识别 广告 履约 和 后链路 的 问题 。 巨量引擎商业安全治理策略负责人郭泽斌 对 界面 新闻 表示 ， 广告 履约 包括 实物交易 、 虚拟物品 交易 以及线下服务 三种 类型 ， 履约 过程 可能 涉及 虚假宣传 、 不良暗示 等 违规 问题 。
但 这些 问题 都 涉及 消费者 体验 ，使用技术手段研判时，很难 像研判违规广告素材 内容 一样 通过设定明确 的 规则 来实现。 抖音 探索 的 治理 方案 是把用户的每一条评论、每一次举报都转化为可落地的治理依据 。 为此 ， 其 研发 了广告CCR 指标（消费者抱怨指数），整合用户评论、举报、投诉等多维负反馈并数字化、可视化 ， 这在 广告 行业 也是 首创 。
郭泽斌 透露 ， 平台 根据 用户 反馈 整理 出 了 4级风险体验标签 ， 包括 广告内容 问题 、 广告 履约问题 、 广告 分发 问题 以及 其他 问题 ，平台会通过 CCR指标 来 量化和定性 。 其中 ， 针对 广告 履约问题 ， 平台 还会 通过广告监察员去做线下核验 和 固定 。 针对 涉及 后链路 欺诈 的 客户 ， 平台 会 直接 进行 清退 。
同时 ，老年人、未成年等 特定 群体 在 遭遇 广告 后链路 问题 时 可能 面临 着 风险 识别 和 维权 方面 的 挑战 ， 平台 还 提供 了 专项 保障 服务 。 用户 可通过抖音广告客服热线或通过抖音APP内“广告客服”专属入口 直达 人工服务 ， 反映 相关 问题 。
在 开放日 活动 上 ， 抖音 方面 试图 传达 的 信息 就是 技术 成为 治理 的 核心 驱动力 。 在巨量引擎商业安全产品负责人潘荻 看来 ，过去，平台在治理违规广告营销内容的底线是安全，经常存在“宁可错杀一千，不可放过一个有害内容”的问题。技术 提升 了 平台精确治理 的 能力 ， 避免 了误杀行为对广告主造成的影响， 这 将会 带来 平台 变现效率 的 提升 。
<!-- 非定向300*250按钮 17/09 wenjing begin --> <!-- 非定向300*250按钮 end -->
</div>
