蚂蚁集团赵闻飙:可信AI是数字时代抵御风险的“核心基础设施”

2021年09月27日/ 浏览 138

数字时代是人工智能(AI)深度应用和发展的时代。AI的发展,正在以一日千里的速度改变着这个世界,并在交通、医疗、环境保护、城市管理等多个领域中,发挥着越来越不可替代的作用。但同时,AI的安全性问题,也成为了数字化发展进程中不可回避的问题。在数字经济欣欣向荣的发展态势下,安全被许多业内人士视为木桶上的那一块“短板”。

如何让安全为数字化发展“保驾护航”?8月6日,2021新京报贝壳财经夏季峰会——数字经济时代的风险防控线上论坛举行,蚂蚁集团副总裁,蚂蚁集团安全事业群总裁赵闻飙表示,可信人工智能的研究和落地或是抵御“数字化”风险的关键能力。

用可信AI解决智能化风险

伴随着数字化经济的发展,用户在享受数字化带来的便捷与普惠的同时,也面临数字化背后的风险,如羊毛党通过操纵多账户套取商户营销资金、个人用户遭遇网络欺诈、账户盗用等。“过去,我们一直重点谈的是‘数字化’背后的风险和应对,而对‘智能化’背后的风险讲得很少。因为当时行业普遍认为,人工智能技术的落地应用还相对有限。但事实上,早在六七年前,我们就在平常应对黑产攻击中,发现了AI的痕迹。”赵闻飙表示。

新京报贝壳财经记者注意到,当下的确有越来越多的黑灰产团伙将AI等新技术投入到了薅羊毛、诈骗等非法活动中。如使用AI工具操控大量账号进行违规操作、使用AI换脸技术试图绕过人脸识别认证等。

这意味着伴随人工智能技术的高速发展和加持,数字化背后的风险将持续加剧,并且演变为“智能化”背后的风险挑战。

据了解,目前黑产作案越来越趋于多平台、多链路、团队化和智能化。这对行业协同、风险响应机制的速度和准确性提出了更高的要求,而且还需要切合“数字化浪潮”下社会对于隐私保护、技术伦理治理等多方面的需求。

在赵闻飙看来,要对抗“智能化”的风险,就需要“智能化”的手段,这也是“可信AI”技术进入快速发展阶段的核心驱动力。可信AI技术要求人工智能技术应当具备可解释性,以帮助人类理解和信赖他们的决策;具备鲁棒性(robustness),以抵御黑产的攻击,以保障计算和决策的稳定性和效能;具备隐私保护的能力,以满足社会和民众对于个人数据资产保护的需求;具备公平性,强调决策结果的公平性,同时关注技术背后的社会责任和伦理治理。

“数字时代,安全是AI与AI的博弈,而可信AI,则是抵御风险的关键能力。”

面向可信AI技术的下一代风控体系“IMAGE”

据了解,蚂蚁集团自2015年起投入可信AI技术的研究。2016年,全面启动了人工智能风控防御战略。目前,可信AI技术已在包括反欺诈、反洗钱、反盗用、企业联合风控、数据隐私保护在内的多个风控场景下落地,支撑着其全风险域的防御需求。根据今年6月全球专利权威机构IPR Daily发布的报告,蚂蚁集团目前拥有全球范围内数量最多的“AI安全可信关键技术”专利,并上线部署了以“IMAGE”命名的下一代风控体系。它包含着“交互式风控”、“多方安全风控”、“智能决策”、“全图风控”、“端云协同风控”五大组成部分。

赵闻飙表示,“全图风控”技术能够以“图”的形态,聚合“动态发展变化的风险信息”,解决了传统风控中只能依靠单一或静态信息维度追踪风险的困境,实现对风险变化趋势的预测,提前遏制风险的发生。在反电诈等风控场景,对于打击团伙型、多链路作案,具有重要意义。而“全图式”的风险分析和追踪形式,也对人工智能的“可解释性”发展提供了更广泛的空间。

而“多方安全风控”和“端云协同风控”则是“智能化”趋势下,实现风控与隐私保护平衡发展的实践探索。“多方安全风控”实现了在数据不交换的前提下,多企业、多平台之间的联合风控协作。“端云协同风控”的价值则是保障数据的使用和保有权真正属于用户。通过将风控模型部署在智能终端,如手机上,蚂蚁的技术团队建立起了一套“终端进行数据计算和决策、云端仅获取决策结果”的风控模式。终端计算,意味着敏感信息被保留在用户手中,规避了信息传输过程中可能出现的被攻击风险。云端仅获取决策,不仅保障了安全防御和风险控制不受影响,还节约了云端的计算资源。目前,“端云协同风控”已经被广泛用于支付宝的日常风控中,在去年的双十一期间,95%的风控决策都是在用户智能终端上完成的。

赵闻飙在分享中强调,传统风控受制于技术成本、数据规模和算法效能,许多场景还是专家经验驱动,而不是数据智能驱动。“支付宝每天有数亿笔交易,面对如此庞大的计算量,一旦决策产生延迟,就给了黑产可乘之机。” 通过人工智能与金融风控的深度融合,蚂蚁安全实验室打造了能够实现“智能决策”的AI大脑——AlphaRisk。其能够在零人工干预的全自动模式下,对风险进行毫秒级的响应。但更重要的是——AlphaRisk具备的自学习、自适应的能力,将极大地提升人工智能的抗打击能力。AI大脑通过对每一次黑产攻击行为的学习和研究,不断提升防御手段,进行高效的自我进化。

在技术快速发展的同时,可信AI的公平性也考验着研究者对社会责任的坚守。赵闻飙提到,早在2016年,蚂蚁就成立了针对电信网络诈骗的技术研究小组,借助包括“图神经网络”“博弈攻防”在内的一系列创新技术应用,极大地遏制了平台电诈发生率。但许多骗子引导受害人转而使用其他的支付渠道,社会欺诈问题仍旧严峻。如何依靠技术力量,真正将诈骗罪案止步于支付环节,成为研究的重点,“交互式风控”也因此应运而生。

贝壳财经记者注意到,区别于以往的安全风控模式,交互式主动风控的关键在于“主动”二字——传统的安全往往依赖于已知风险模式,只有风险发生过,才知道如何预防,这也使得安全风控往往处于“被动防守”的态势。

对此,赵闻飙表示,安全必须从静态的被动防守,转变为动态的主动对抗,特别是金融安全。“以交互式风控产品‘叫醒热线’为例,当用户被骗子诱导转账时,AI机器人将向用户发出来电提醒。充分学习了欺诈罪案分析的AI机器人,能够捕捉用户交流中的关键信息,采取恰当有效的反诈劝阻话术和措施。为了跟骗子拼速度,目前蚂蚁的反诈骗叫醒热线中,有超9成电话是由AI打出的,叫醒成功率超过了人工客服。除了事中的防护,如果用户深度受骗、执意支付,技术人员还开发了‘延迟到账’和‘资金截留’的功能,让欺诈者没有办法支取赃款。”

“人工智能技术的快速发展,引领了第四次工业革命的浪潮。而可信人工智能的研究和落地,则代表了人工智能技术发展的新阶段。在未来,与人类社会深度耦合的人工智能技术,如何在安全、可信、公平的原则下,持续发展和进步?这是每一位从业者和研究者,为推动科技有序、健康发展都不应回避的命题。”赵闻飙表示。

新京报贝壳财经记者 罗亦丹 编辑 李薇佳 校对 王心

picture loss