谷歌将在印度扩大人工智能驱动的欺诈检测和安全运营

谷歌在印度公布了其安全宪章，该宪章将扩大其人工智能主导的欺诈检测和打击诈骗开发范围，遍及印度，这是该公司在美国以外最大的市场。

印度的数字欺诈正在上升。根据政府的数据，与印度政府即时支付系统 UPI 相关的欺诈行为去年同比增长 85%，达到近 110 亿印度卢比（1.27 亿美元）。印度还发生了几起数字逮捕诈骗事件，欺诈者冒充官员通过视频通话和掠夺性贷款应用程序勒索钱财。

通过其安全宪章，Google 旨在解决其中的一些问题。该公司还在印度设立了安全工程中心，这是继都柏林、慕尼黑和马拉加之后的第四个中心。

谷歌安全工程副总裁希瑟·阿德金斯 （Heather Adkins） 在接受 TechCrunch 采访时表示，安全工程中心 （GSec） 在去年的谷歌印度峰会上宣布，安全工程中心 （GSec） 将允许谷歌与当地社区合作，包括政府、学术界和学生以及中小型企业，以创建解决网络安全、隐私、安全和人工智能问题的解决方案。

谷歌在一篇博文中表示，该公司已与内政部的印度网络犯罪协调中心 （I4C） 合作，以提高对网络犯罪的认识。这建立在公司现有工作的基础上，包括推出其在线欺诈识别程序 DigiKavach，该程序于 2023 年首次亮相，旨在限制恶意金融应用程序和掠夺性贷款应用程序的有害影响。

阿德金斯告诉 TechCrunch，谷歌在印度的 GSec 将专注于三个关键领域：在线诈骗和欺诈现象以及人们如何安全地上网;企业、政府和关键基础设施的网络安全;以及构建负责任的 AI。

“这三个领域将成为我们印度安全宪章的一部分，在未来几年……我们希望利用我们在这里有工程能力的事实来解决印度发生的事情，靠近用户所在的地方，“Adkins 说。

在全球范围内，Google 正在利用 AI 来打击在线诈骗并删除数百万个广告和广告帐户。该公司的目标是在印度更广泛地部署 AI 以打击数字欺诈。

许多 Android 设备上预装了 Google Messages，它使用 AI 驱动的诈骗检测功能，帮助保护用户每月免受超过 5 亿条可疑消息的侵害。同样，谷歌去年在印度试行了 Play Protect，它声称已经阻止了近 6000 万次安装高风险应用程序的尝试，导致超过 1300 万台设备上的超过 220,000 个独特应用程序停止。Google Pay 是该国基于 UPI 的顶级支付应用程序之一，也显示了 4100 万条针对疑似潜在诈骗的交易的警告。

—

Adkins 是 Google 安全团队的创始成员之一，在这家互联网公司工作了超过 23 年，他在接受 TechCrunch 采访时讨论了其他几个话题：

关于人工智能工具的滥用

Adkins 说，首先要考虑的一件事是恶意行为者对 AI 的使用和误用。

“我们显然正在非常密切地跟踪 AI，到目前为止，我们主要看到像 Gemini 这样的大型语言模型被用作生产力提升。例如，为了使网络钓鱼诈骗更加有效——尤其是在行为者和目标使用不同的语言的情况下——他们可以利用翻译的好处，使用深度伪造、图像、视频等使诈骗更加可信，“Adkins 说。

Adkins 表示，Google 正在对其 AI 模型进行广泛的测试，以确保它们了解不应该做什么。

“这对于可能有害的生成内容很重要，但对于它可能采取的行动也很重要，”Akins 说。

Google 正在开发框架，包括安全 AI 框架，以限制其 Gemini 模型的滥用。但是，为了保护生成式 AI 在未来不被黑客误用和滥用，该公司认为需要一个框架来构建多个代理通信方式的安全性。

“该行业正在非常、非常迅速地 [通过] 推出协议。这几乎就像互联网的早期，每个人都在实时发布代码，我们在事后考虑安全性，“Adkins 说。

Google 不想仅仅引入自己的框架来限制生成式 AI 被黑客滥用的范围。相反，Adkins 表示，该公司正在与研究界和开发人员合作。

“你不想做的一件事就是在早期研究阶段过多地限制自己，”Adkins 说。

关于监控供应商

除了生成式 AI 可能被黑客滥用外，Adkins 还将商业监控供应商视为一个重大威胁。这些可能包括间谍软件制造商，包括以其 Pegasus 间谍软件而臭名昭著的 NSO Group，或其他销售监控工具的小型企业。

“这些公司在世界各地发展起来，他们开发、制造和销售黑客平台，”Adkins 说。“你可能会支付 20 美元，你可能会支付 200,000 美元，这取决于平台的复杂程度，它允许你在没有任何专业知识的情况下扩展攻击对象。”

其中一些供应商还出售他们的工具以监视包括印度在内的市场上的人。然而，除了成为监控工具的目标外，该国还面临着其独特的挑战，部分原因是其规模。该国不仅看到了人工智能主导的深度伪造和语音克隆欺诈，还看到了数字逮捕的例子，Adkins 强调，这些只是适应数字世界的常规骗局。

“你可以看到威胁行为者本身的进展有多快……正因为如此，我喜欢在这个地区学习网络。这通常暗示了我们将在某个时候在全球范围内看到什么，“Adkins 说。

在多重身份验证时

长期以来，Google 一直鼓励其用户使用密码之外更安全的身份验证方法来保护他们的在线状态。该公司过去为所有用户帐户启用了多因素身份验证 （MFA），并且还推广了基于硬件的安全密钥，Adkins 指出其员工积极使用笔记本电脑。Passwordless 也正在成为一个流行的技术术语，具有多种含义。

尽管如此，由于印度庞大的人口结构和多样化的经济格局，期望人们在印度这样的市场放弃密码是很困难的。

“我们很长一段时间都知道密码不安全。这种多因素身份验证的概念是向前迈出的一步，“Adkins 说，并补充说印度人可能更喜欢基于 SMS 的身份验证，而不是其他 MFA 选项。