在一次针对她祖父的深度伪造电话后，这位创始人构建了设备端防御

前言

背景： 一起使用极具说服力的伪造声音的个人诈骗事件促使 Tarini Padmanabhuni 采取行动。本文说明为何设备端的深伪语音检测很重要，以及一家初创公司如何将家庭危机转化为技术解决方案。目的是概述问题、当前市场格局，以及她创立的公司 DetectifAI 采取的独特方法。通过强调 对实时且隐私保护的防护需求，文章阐明为何设备层级的防御不同于云端解决方案，以及它们如何帮助缺乏工具来验证可疑来电的人。

要点摘要

关键要点： 深伪语音诈骗正在增加，尤其重创老年群体。DetectifAI 专注于构建 可在手机上运行的小型 AI 模型，以提供即时检测而不将音频发送到云端。该初创公司优先锁定手机制造商，提供可以集成为系统功能的 SDK —— 同时也向处理敏感通话的企业授权。

正文

故事始于一通令人不安的电话。Tarini Padmanabhuni 的祖父收到一段语音信息，他以为是他兄弟所录，声称被绑架并要求赎金。模仿听起来足够逼真，导致他付了钱。家人后来才发现那兄弟平安无事且全然不知情；那段声音是由 AI 生成的。对 Padmanabhuni 而言，这起事件的重点不是损失的金钱，而是受害者没有任何可靠的方法来分辨真实声音与深伪音频。

那次经历成为 DetectifAI 的催化剂，这是一家总部在旧金山的初创公司，专门检测 AI 生成的声音。公司的创立前提很直接：随着合成音频变得更真实且更易获取，人们——尤其是老年人——越来越容易成为利用声音熟悉感与信任的诈骗目标。执法机构与行业数据也强化了这项担忧。例如，近期数据表明 AI 驱动的诈骗损失显著增加，损失金额达数百万美元，且老年群体受影响比例较高。

许多公司已在进行深伪检测，该领域包含既有厂商与新进入者。像 Reality Defender、Pindrop、Resemble AI、Microsoft Azure AI Content Safety 与 Nuance 等公司都有相关解决方案。然而，这些方案通常在云端分析音频。云端检测能利用大型模型与大量算力资源，但也有其限制：提供结果时存在延迟、依赖网络连接，以及因为音频会离开用户设备而产生隐私顾虑。DetectifAI 主张这些限制在电话通话情境中特别重要，因为即时性与用户隐私至关重要。

DetectifAI 的做法有所不同，从一开始就专注于构建紧凑模型——体积足够小以在智能手机操作系统内运行。公司不是先使用大型云端模型再尝试压缩以适配设备，而是设计用于移动部署的轻量架构。这带来双重优势：检测变得即时且私密，手机制造商也能将此功能作为内建能力出货，而无需依赖第三方云服务。

公司的上市策略以手机制造商为优先。DetectifAI 授权一套软件开发工具包 (SDK)，OEM 能将其集成进操作系统，使深伪检测成为手机的显著差异化功能——类似于相机规格曾成为设备卖点的方式。Padmanabhuni 表示，率先采用设备端深伪检测的厂商可能获得竞争优势，她也设想未来智能手机可能将深伪检测列为标准规格。

除了设备 OEM，DetectifAI 还计划通过向需要审核语音交互的企业授权获得次要收入——例如银行、催收公司与防欺诈机构等。该初创公司已报告早期成效：它为印度的金融机构每月处理超过 100,000 通通话。在这种情境中，AI 语音代理会拨打用于催收或贷款后续跟进的电话，而 DetectifAI 在每次互动中提供检测与说话者验证，以降低滥用与冒充风险。虽然 Padmanabhuni 因保密原因拒绝点名客户，但通话量显示出需求与运营能力。

Padmanabhuni 的背景说明了她的自信来源。她年轻时便开始从事机器学习研究，并在 Manipal Institute of Technology 学习网络物理系统。她也领导学生工程团队打造无人驾驶赛车——这显示她早期即结合软件、硬件与严谨系统思维。这类经验的组合十分相关：为手机打造紧凑且可靠的 AI 需要理解模型设计、系统限制与实际部署挑战。

实际的用户测试也带来令人鼓舞的迹象。一次 WhatsApp 的测试版允许用户转发可疑语音信息并收到评估结果。某位测试者表示，他的亲属曾遭诈骗，会愿意付费使用此类服务——凸显了未被满足的需求。Padmanabhuni 将这些早期用户反应置于她祖父经历的背景下：关键区别在于是否有一个可取得且可靠的工具来判断声音是否为真。

从商业角度看，DetectifAI 已从天使投资人与早期支持者那里募得一小笔种子资金，为其精炼技术与扩展与手机制造商的整合讨论提供了运行资金。该初创公司也参与一些高能见度的行业项目，这可加速建立合作伙伴与市场认可。随着深伪音频成为主流的安全与隐私议题，能结合效能、速度与隐私——特别是设备端解决方案的公司——可能在硬件与企业市场找到愿意合作的伙伴。

然而，挑战依然存在。设备端模型受限于算力、内存与电池限制，这会限制检测架构的复杂度。对手也会持续改进合成技术，要求模型不断调整以保持有效性。与各式手机平台的集成以及各地区法规环境也会影响采用时间表。最后，用户教育与清晰的 UX 也很重要，让人们理解检测结果的含义以及该如何采取行动。

最终，DetectifAI 的主张建立在一个明确的权衡上：接受较小、专用的模型以保护隐私并提供即时反馈，或依赖较大的云端模型，可能在原始检测能力上更强，但代价是延迟与隐私问题。对于像电话通话这类即时性与信任至关重要的使用情境，设备端检测提供了一个令人信服的解决方案。对 Padmanabhuni 来说，这项使命仍然是个人的：给予他人她祖父所缺乏的能力，一种简单的方法来辨别通话中声音是真实或被伪造的。

关键见解表