这段25秒的录音是由一个名为“@Leo_Hutz”的X账户发布的，该账户创建于2023年1月。在这段视频中，显然可以听到工党领袖基尔·斯塔默爵士(Sir Keir Starmer)反复咒骂一名员工。“我已经获得了凯尔·斯塔默在(工党)会议上辱骂他的员工的音频，”X账户发帖称。“这个恶心的恶霸即将成为我们的下一任总理。”
目前还不清楚这段录音是真实的，还是人工智能生成的，还是使用了模仿者录制的。英国事实核查机构Full Fact表示仍在调查。“就像我们现在谈论的那样，它不能以一种方式或另一种方式得到验证。但它的一些特征表明它是假的，”Full Fact的倡导和政策主管格伦·塔曼(Glen Tarman)说。“有一个短语似乎是重复的，而不是第二次使用不同的语调，背景噪音中有一些小故障。”
随着英国和其他50多个国家将于2024年举行大选，音频造假正成为民主进程的主要风险。操纵音频内容正变得越来越便宜和容易，而事实核查人员表示，很难快速、明确地识别一段录音是假的。这些录音在被揭穿之前可能会在社交媒体上流传数小时或数天，研究人员担心，这种深度虚假的内容可能会创造一种政治氛围，让选民不知道他们可以相信哪些信息。
谢菲尔德大学(Sheffield University)数字政治教授凯特?多米特(Kate Dommett)表示:“如果你在网上听一段录音或一段视频时，对它的真实性心存怀疑，这可能会破坏辩论发生的基础，以及人们获得信息的能力。”
X的操纵媒体政策规定，被欺骗性修改或操纵的视频或音频应被标记或删除。这两件事都没有发生，X也没有回复《连线》杂志关于该平台是否调查过录音真实性的置评请求。
斯塔默的团队尚未对此发表评论。但执政党保守党的几名议员称这段录音是深度造假。另一位保守党议员马特·沃曼(Matt Warman)在推特上写道:“有一段关于凯尔·斯塔默(Keir Starmer)的虚假录音在流传。”“过去30年的公共生活见证了对机构信心的灾难性破坏，有好有坏。”但在人工智能和社交媒体的推动下，如今的凯尔·斯塔默爵士(Sir Keir Starmer) deepfake创下了新低。民主正受到真正的威胁——核实内容的技术至关重要。”
一周前，在斯洛伐克竞选活动的最后几个小时，Facebook上发布了一段录音，显示反对党斯洛伐克进步党(Progressive Slovakia)领导人似乎在谈论他操纵选举的计划。Michal ?ime?ka谴责这段音频是假的，法新社的事实核查部门表示，这段音频显示出被操纵的迹象。当时，事实核查员表示，他们觉得自己没有能力彻底揭穿人工智能生成的录音。
世界各国都在为如何应对被认为是假的录音而苦苦挣扎。据称深度伪造的录音在苏丹和印度都引起了混乱。在苏丹，前领导人奥马尔·巴希尔(Omar al-Bashir)的“泄露录音”被怀疑是被操纵的，巴希尔已经一年没有公开露面了。在印度，反对派政治家帕拉尼维尔·蒂亚加拉扬(Palanivel Thiagarajan)的一段录音被公布，据称他指责自己的党内同僚腐败。Thiagarajan说，录音是机器生成的。
专注于技术的人权组织Witness的执行董事萨姆?格雷戈里(Sam Gregory)表示，检测工具并不普及，加剧了易于制造的深度虚假媒体的问题。“在人工智能生成的深度假音频中添加水印或来源信号没有共同的标准，只是单个公司的努力。当同样的工具会对市场上许多其他工具所创造的虚假音频做出错误的否定时，拥有一个工具来识别内容是否由一家公司生成是毫无意义的。”
格雷戈里补充说，无法明确证明录音的真实性增加了模糊性，这也将被真实音频中的政治家所利用。“政客们会声称真实的音频是伪造的，并向事实核查人员施压，要求他们在缺乏工具或快速能力的情况下揭穿这一说法。”