前情回顾·AI应用频遭攻击

安全内参11月19日消息,根据日前公布的一项研究,印度AI债务催收平台CreditNirvana存在两个安全漏洞,导致660万个账号可能泄露,智能体呼叫中心约31.5万段通话录音也面临风险。

CreditNirvana由印度金融科技公司Perfios运营,主要用于全面分析借款人情况,自主判断最佳后续行动,并在既定政策范围内持续执行催收任务。

该平台前端硬编码了有效API密钥,

并存在身份越权问题

这两个漏洞已于今年6月在CreditNirvana系统中修复,并于10月对外披露。独立研究人员Eaton Zveare发现并报告了这些漏洞。他指出,在漏洞修复前,数百万借款人的个人信息都面临暴露风险。

Zveare表示,他直接与印度计算机应急响应小组(CERT-In)合作,推动漏洞修复。CERT-In将其中一个漏洞定为“高危”,另一个定为“严重”。

高危漏洞影响呼叫中心数据,不仅导致数十万段通话录音面临暴露风险,还涉及平台在通话结束后自动生成的后续行动建议。攻击者还可能利用这一漏洞操控平台内的AI智能体,指挥它们自主开展催收活动。

严重漏洞则影响CreditNirvana的主平台。Zveare表示,该漏洞导致三家金融企业客户的数据暴露。这三家客户都是印度知名金融服务企业,且都在使用CreditNirvana开展债务催收。

这两个漏洞还让数百万个人账号面临数据暴露风险。相关数据包括信用报告、身份证件、案件管理信息和法律文件,以及大量与金融服务、逾期账户和债务催收相关的通信记录。这些通信记录涉及数百万封电子邮件、短信和通话文字记录。

攻击者还可能利用这一漏洞追踪债务催收人员的行踪,并获取系统内的部分管理权限。

CERT-In在漏洞通报中指出:“成功利用该漏洞,攻击者可能枚举平台用户,冒充任意用户(包括管理员用户)建立会话,并以被冒充用户的权限访问和修改敏感信息。”

AI并没有让应用系统更安全,

反而可能涌现大量不安全的新系统

Zveare表示,漏洞能迅速修复让他感到庆幸,但他也意识到,这些漏洞可能已经在CreditNirvana系统中存在多年。

债务催收数据涉及逾期账户和未偿债务,往往还包含大量个人经历和财务记录,因此本身就高度敏感。

Zveare在接受外媒《连线》采访时表示:“他们在一天之内就修复了漏洞,这一点值得肯定。但这确实是一起影响很大的安全事件。印度一些规模最大的金融科技公司都在使用这家公司的服务,通过自动化方式开展债务催收。因此,CreditNirvana掌握着大量数据,包括信用评分、通话录音、通话文字记录、法院记录以及其他敏感文件。涉及的信息实在太多,问题的严重性不言而喻。”

CreditNirvana和Perfios均未回应《连线》的置评请求。

随着AI不断融入各类自动化系统,这些系统能够整合越来越多来源的数据,并据此进行分析和判断。Zveare认为,此次事件给业界敲响了警钟,表明由AI驱动的服务同样可能造成高度敏感数据的大规模暴露。

参考资料:bleepingcomputer.com

声明:本文来自安全内参,版权归作者所有。文章内容仅代表作者独立观点,不代表安全内参立场,转载目的在于传递更多信息。如有侵权,请联系 anquanneican@163.com。