海外抖音AI伪造加拿大总理！瞎编政策传疯了！

据加拿大国际广播电台（RCI）报道，社交平台TikTok（俗称“海外抖音”）近日封禁了一个视频账号，该名为“SmartFeed”的账号因“在加拿大联邦大选期间频繁发布经由人工智能（AI）篡改的加拿大政治人物演讲”而获得海量关注。

真卡尼发布假政策，一天收获700多万次浏览

其中一条传播甚广的视频伪造了马克·卡尼（Mark Carney）的发言内容：

注：画面字样“视频由AI生成”并非出自原视频，是媒体在报道新闻时为防止再次发生错误传播而后加的提示。

视频显示：卡尼在一个后面插有两面加拿大国旗的讲台前说：“从6月1日起，所有2000年之前生产的车辆将逐步淘汰，以符合加拿大道路安全和排放标准。目前，不合规的车窗色调（包括后窗）已被禁止，司机将有14天的宽限期来安装经过批准的替代品。必须拆除卡车上的升降机和水平仪，这不仅为了车主安全，而且为了周围人的安全，将卡车举到空中是没有意义的。我们将非常认真地对待这些问题。”

实际上，联邦政府和竞选中的自由党团队从未出台或宣布过类似政策。联邦政府此前仅承诺“到2035年实现销售100%零排放车辆的目标”。

该视频于发布当天就在TikTok平台获得了300多万次浏览。而同时发布在X平台上的同样视频获得了400多万次浏览……

不久后，该视频在TikTok平台消失（不知是发布者主动删除还是被平台下架）。X平台则给该视频打上了“不实信息”的标记，但视频仍然保留。

视频带有AI标签，但仍有可能误导公众

尽管在“SmartFeed”账号发布的视频上带有“创作者已标明此内容由AI生成”的说明标签，甚至还带有“AI语音克隆工具”的图标水印，但事实上，该视频依然存在“让观看者信以为真”的误导风险——尤其是在敏感的政治大选期间，尤其是该内容还涉及到具体的民生政策或承诺——其所可能造成的影响显而易见。

除了上述有关“汽车政策”的视频，该账号还发布了多段有关卡尼的其他虚假视频。在其中一段视频中，卡尼说，“我不代表人民，而是代表精英。”事实上，卡尼从来没有当众说过这样的话，但AI将卡尼的嘴型伪造得“严丝合缝”……

此外，该账号中还有很多“加拿大政党领导人互相辱骂”的视频，或讽刺，或幽默……制作者似乎是想借此表达其对政治的不屑。

据知情者透露，虽然该账号虚拟了不少政治场景，但令其真正触及平台红线而被封禁的，还是那段有关“汽车政策”的视频——

首先，该视频的逼真程度极高，其次，该视频发布并流行于加拿大联邦大选竞选之时，第三，该视频涉及具体国家政策的变动……总而言之，可以想见，被该视频误导而不再选择卡尼的选民恐怕不在少数……

不过，由麦吉尔大学与多伦多大学联合运营的“媒体生态系统观察站”数据分析师纳德·赫迪菲（Naël H'dhili）表示，“SmartFeed是迄今为止我们观察到的唯一一个从事此类活动的账号，在此之前，我们从来没有在加拿大流行的社交媒体上发现‘由AI深度伪造政治内容’的类似案例。”

然而不得不承认的是，就算同类账号只有这一个，其“威力”之巨大仍令人震惊——尽管目前没有统计表明，在观看并传播这段视频的700多万人次中，“有多少重合部分”，“有多少人是加拿大选民”以及“有多少选民因此而改变了投票意愿”。

根据TikTok社区规则，所有使用AI生成图像、音频或视频的创作者均须如实标注相关内容。但平台同时强调，即便某些创作者已经正确标注AI内容，但如果发现其依然造成伤害，该内容仍然可能会被移除，特别是当虚构内容涉及到真实的公众人物，或者其“超现实篡改内容”被用于政治或商业目的。

媒体《解码者》（Le Décodeur）试图采访TikTok，询问关于“SmartFeed”账号被封禁的更多细节，但截至发稿，TikTok没有回应。

一组统计自TikTok平台，相关“2025年加拿大选举”的数据显示，仅在3月24日至4月6日这段时间内，平台管理者就删除了超过1400条“违反公民诚信”，“涉及虚假信息传播”以及“违反AI生成内容管理规则”的帖子。

加拿大联邦大选在4月28日举行，马克·卡尼领导的自由党赢得“少数派政府”。经“验票及依法复核程序”后，自由党目前共拥有170个国会席位，距组建“多数政府”仍差2票。