有人利用 AI 制造假冒拜登电话，遭 FCC 重罚 600 万！

近日，美国联邦通信委员会（FCC）对民主党操盘手史蒂夫・克雷默(Steve Kramer)处以600万美元的巨额罚款。今年 1 月，在美国新罕布什尔州民主党初选期间，发生了一起利用 AI 技术伪造拜登声音的事件。数千选民接到一通骚扰电话，内容是一段由 AI 伪造的拜登总统 “讲话”，大意是告诉选民 “你们的选票在 11 月很重要，不要在本周去投票”。为了让更多选民接听，呼出显示的电话还被伪造成了前新罕布什尔州民主党主席凯西・沙利文的个人手机号码。

这起事件的策划人是政治顾问史蒂文・克拉默。他曾为民主党候选人、明尼苏达州众议员迪恩・菲利普斯的竞选团队工作。克拉默在 2 月就主动接受全国性电视台的采访，公开宣布自己就是事件背后的策划者。他当时辩称，自己做这件事情是为了警告 “即将到来的危险”，促进政府对 AI “深度伪造” 制定更加严格的规则。

美国联邦通信委员会（FCC）于 9 月 26 日宣布，对史蒂文・克拉默处以高达 600 万美元的巨额罚款。FCC 表示，该行为严重违反了相关规定。此外，被指控发送语音电话的公司 lingotelecom 也因在电话诈骗中可能未能采取足够的 “了解你的客户” 措施，导致来电显示数据的真实性受到质疑，面临 200 万美元的罚款。除了 FCC 的罚款，克拉默还面临新罕布什尔州四个县提出的刑事指控，共计 26 项罪名，包括 13 项压制选民罪（重罪）和 13 项冒充选举人罪（轻罪）。按照该州的法条，压制选民罪可能会被判处 3 年半至 7 年的监禁，冒充选举人罪最高的量刑是 1 年。值得注意的是，虽然传统的垃圾电话和机器人电话通常由人类管理，但现在的 AI 系统已经能够自动化处理这些任务，利用 AI 工具的语音和语音生成能力，带来了新的挑战。