AI 聲音克隆只要 3 秒錄音就能以假亂真，FBI 首度把 AI 詐騙單獨列为犯罪類別，一年損失逼近 9 亿美元，其中三分之一以上受害者是 60 歲以上长者。 （前情提要：马斯克 xAI 推出「極速聲音克隆」Custom Voices：自然说話 1 分鐘打造个人專屬 Grok 聲優） （背景補充：中国AI詐騙案例：換臉、變聲打視訊，10分鐘騙走台币2千万）
本文目錄
Toggle
当电話那头傳来女兒的哭聲，美国佛州 Dover 的退休老太太雪倫（Sharon Brightwell）就已经失去了所有防備。2025 年夏天，她聽见女兒 April 帶著哭腔说自己出了车禍、被警方拘留；接著「律師」上線，开口就要 1.5 万美元保釋金，还警告她別把用途告訴银行。
她照做了。直到聯絡上正在上班、根本沒出过车禍的女兒，她才明白：电話裡的哭聲、语气、換气的節奏，全部出自一台机器，而複製这一切，只需要 3 秒的錄音。
今年 4 月，FBI 旗下 IC3 公布 2025 年度报告，26 年来首度把「AI 相关詐騙」單獨列为一類：逾 22,000 件申訴、调整后損失超过 8.93 亿美元，其中 3.52 亿美元的受害者是 60 歲以上族群，全美網路犯罪損失一年暴增 26%，60 歲以上就佔 77 亿美元，年增近 60%。
FBI 自己都承认，这只是「地板价」，因为多數受害者根本不知道剛剛跟自己講話的是演算法。国际刑警組织的统计更驚人：2025 年全球金融詐騙損失达 4,420 亿美元，相当於丹麥一整年的 GDP，AI 加持的詐騙比傳统手法多賺 4.5 倍。
技術门檻低到近乎於零。一段语音信箱留言、一支生日影片、一則 TikTok，就足夠餵給聲音克隆模型。
Consumer Reports 在去年評測了 Descript、ElevenLabs、Lovo、PlayHT、Resemble AI、Speechify 六家工具，发现多數缺乏有意義的防濫用机制；六家裡有四家，用戶只要打勾聲稱「我有權克隆这段聲音」就能生成，连验证都省了。ElevenLabs 算是相对嚴謹，设有分類器、可追溯紀錄、封锁特定人物聲音等多層防護，但这些机制幾乎都是事后追查，等到聲音已经被複製、电話已经打出去，防護才开始运作。
更糟的是，连辨识合成语音的人類專家都撐不住了。加州大学柏克萊分校教授 Hany Farid，公认是全球最強的深偽鑑识權威，但他今年 6 月接受《紐约时报》專訪时坦承，自己已经连自己的測試都通不过：「我覺得我快瞎了。」
被锁定的是老年人，不是因为他們笨，而是因为他們是效率最高的目標：存款餘額高、習慣把电話当成真实世界的延伸、对聲音克隆这種技術幾乎一无所知，而且对家人的愛，正是这场詐騙唯一想利用的弱点。
语音安全公司 Pindrop 的 Amit Gupta 说得直白：「目標不是完美複製聲音，而是製造足夠的情緒不確定与急迫感，让受害者在查证前就先行动。」费城律師 Gary Schildhorn 本人也中招，他事后说：「我到死都会发誓那就是你的聲音。」连受过訓練、專门质疑证據的律師都被騙倒，更別说一位聽见孫子哭喊「被綁架了」的阿嬤，水牛城的 Liz Benz 形容那是「整整二十分鐘的恐懼」。
FTC 在去年 12 月的报告指出，60 歲以上族群通报的詐騙損失，2020 到 2024 年间翻了快 4 倍，达约 24 亿美元，其中 68% 来自單筆超过 10 万美元的損失；若把不敢通报的黑數算进去，FTC 自己估计真实年損可能高达 815 亿美元。
目前业界最常见的建议，是全家约定一个安全暗號，电話裡对不出来就結束通話，立意良善，但这卻等於把攔截一整套工业化詐騙产业链的责任，丟給一个正在崩潰边緣的老人。
这就是不对稱的本质。Adaptive Security 執行长布说得精準：「一个人在房间裡敲鍵盤，就能製造出无限多个攻擊者。」自动化系统幾乎零成本量产詐騙电話，防守的一方卻只有一位受到驚嚇的老人，和一通电話的时间。
唯一被证明有效的，是银行这一关。英国支付系统監理局（PSR）2024 年 10 月起，強制银行为授權推送付款詐騙全額賠付受害者，收付雙方银行各賠一半，上限 8.5 万英鎊。制度上路后，被詐金額的賠付比率从过去的 65%，一路升到 89%。逻辑很簡單：银行一旦要为詐騙埋單，就有动机去攔截大額提款、給老客戶设冷靜期、让行員多打一通电話確认。
歐盟 AI 法案的相关義務已在 2025 到 2026 年陸续生效，美国田納西州的 ELVIS 法案也要求複製聲音須经书面同意。監管永远跑得比技術慢，让机構为经手的东西负责，才是唯一经得起验证的解方。
121.52万 热度
2.58万 热度
64.8万 热度
90.47万 热度
2915.02万 热度
3 秒就能复制你的声音，FBI 证实 AI 诈骗飙增：责任在机构不在阿嬤
AI 聲音克隆只要 3 秒錄音就能以假亂真，FBI 首度把 AI 詐騙單獨列为犯罪類別，一年損失逼近 9 亿美元，其中三分之一以上受害者是 60 歲以上长者。
（前情提要：马斯克 xAI 推出「極速聲音克隆」Custom Voices：自然说話 1 分鐘打造个人專屬 Grok 聲優）
（背景補充：中国AI詐騙案例：換臉、變聲打視訊，10分鐘騙走台币2千万）
本文目錄
Toggle
当电話那头傳来女兒的哭聲，美国佛州 Dover 的退休老太太雪倫（Sharon Brightwell）就已经失去了所有防備。2025 年夏天，她聽见女兒 April 帶著哭腔说自己出了车禍、被警方拘留；接著「律師」上線，开口就要 1.5 万美元保釋金，还警告她別把用途告訴银行。
她照做了。直到聯絡上正在上班、根本沒出过车禍的女兒，她才明白：电話裡的哭聲、语气、換气的節奏，全部出自一台机器，而複製这一切，只需要 3 秒的錄音。
今年 4 月，FBI 旗下 IC3 公布 2025 年度报告，26 年来首度把「AI 相关詐騙」單獨列为一類：逾 22,000 件申訴、调整后損失超过 8.93 亿美元，其中 3.52 亿美元的受害者是 60 歲以上族群，全美網路犯罪損失一年暴增 26%，60 歲以上就佔 77 亿美元，年增近 60%。
FBI 自己都承认，这只是「地板价」，因为多數受害者根本不知道剛剛跟自己講話的是演算法。国际刑警組织的统计更驚人：2025 年全球金融詐騙損失达 4,420 亿美元，相当於丹麥一整年的 GDP，AI 加持的詐騙比傳统手法多賺 4.5 倍。
三秒鐘，一个打勾
技術门檻低到近乎於零。一段语音信箱留言、一支生日影片、一則 TikTok，就足夠餵給聲音克隆模型。
Consumer Reports 在去年評測了 Descript、ElevenLabs、Lovo、PlayHT、Resemble AI、Speechify 六家工具，发现多數缺乏有意義的防濫用机制；六家裡有四家，用戶只要打勾聲稱「我有權克隆这段聲音」就能生成，连验证都省了。ElevenLabs 算是相对嚴謹，设有分類器、可追溯紀錄、封锁特定人物聲音等多層防護，但这些机制幾乎都是事后追查，等到聲音已经被複製、电話已经打出去，防護才开始运作。
更糟的是，连辨识合成语音的人類專家都撐不住了。加州大学柏克萊分校教授 Hany Farid，公认是全球最強的深偽鑑识權威，但他今年 6 月接受《紐约时报》專訪时坦承，自己已经连自己的測試都通不过：「我覺得我快瞎了。」
別再教阿嬤懷疑孫子的聲音
被锁定的是老年人，不是因为他們笨，而是因为他們是效率最高的目標：存款餘額高、習慣把电話当成真实世界的延伸、对聲音克隆这種技術幾乎一无所知，而且对家人的愛，正是这场詐騙唯一想利用的弱点。
语音安全公司 Pindrop 的 Amit Gupta 说得直白：「目標不是完美複製聲音，而是製造足夠的情緒不確定与急迫感，让受害者在查证前就先行动。」费城律師 Gary Schildhorn 本人也中招，他事后说：「我到死都会发誓那就是你的聲音。」连受过訓練、專门质疑证據的律師都被騙倒，更別说一位聽见孫子哭喊「被綁架了」的阿嬤，水牛城的 Liz Benz 形容那是「整整二十分鐘的恐懼」。
FTC 在去年 12 月的报告指出，60 歲以上族群通报的詐騙損失，2020 到 2024 年间翻了快 4 倍，达约 24 亿美元，其中 68% 来自單筆超过 10 万美元的損失；若把不敢通报的黑數算进去，FTC 自己估计真实年損可能高达 815 亿美元。
目前业界最常见的建议，是全家约定一个安全暗號，电話裡对不出来就結束通話，立意良善，但这卻等於把攔截一整套工业化詐騙产业链的责任，丟給一个正在崩潰边緣的老人。
让机構痛，机構才会蓋牆
这就是不对稱的本质。Adaptive Security 執行长布说得精準：「一个人在房间裡敲鍵盤，就能製造出无限多个攻擊者。」自动化系统幾乎零成本量产詐騙电話，防守的一方卻只有一位受到驚嚇的老人，和一通电話的时间。
唯一被证明有效的，是银行这一关。英国支付系统監理局（PSR）2024 年 10 月起，強制银行为授權推送付款詐騙全額賠付受害者，收付雙方银行各賠一半，上限 8.5 万英鎊。制度上路后，被詐金額的賠付比率从过去的 65%，一路升到 89%。逻辑很簡單：银行一旦要为詐騙埋單，就有动机去攔截大額提款、給老客戶设冷靜期、让行員多打一通电話確认。
歐盟 AI 法案的相关義務已在 2025 到 2026 年陸续生效，美国田納西州的 ELVIS 法案也要求複製聲音須经书面同意。監管永远跑得比技術慢，让机構为经手的东西负责，才是唯一经得起验证的解方。