蚂蚁集团赵闻飙：可信AI是数字时代抵御风险的“核心基础设施”

数字时代是人工智能（AI）深度应用和发展的时代。AI的发展，正在以一日千里的速度改变着这个世界，并在交通、医疗、环境保护、城市管理等多个领域中，发挥着越来越不可替代的作用。但同时，AI的安全性问题，也成为了数字化发展进程中不可回避的问题。在数字经济欣欣向荣的发展态势下，安全被许多业内人士视为木桶上的那一块“短板”。

如何让安全为数字化发展“保驾护航”？8月6日，2021新京报贝壳财经夏季峰会——数字经济时代的风险防控线上论坛举行，蚂蚁集团副总裁，蚂蚁集团安全事业群总裁赵闻飙表示，可信人工智能的研究和落地或是抵御“数字化”风险的关键能力。

用可信AI解决智能化风险

伴随着数字化经济的发展，用户在享受数字化带来的便捷与普惠的同时，也面临数字化背后的风险，如羊毛党通过操纵多账户套取商户营销资金、个人用户遭遇网络欺诈、账户盗用等。“过去，我们一直重点谈的是‘数字化’背后的风险和应对，而对‘智能化’背后的风险讲得很少。因为当时行业普遍认为，人工智能技术的落地应用还相对有限。但事实上，早在六七年前，我们就在平常应对黑产攻击中，发现了AI的痕迹。”赵闻飙表示。

新京报贝壳财经记者注意到，当下的确有越来越多的黑灰产团伙将AI等新技术投入到了薅羊毛、诈骗等非法活动中。如使用AI工具操控大量账号进行违规操作、使用AI换脸技术试图绕过人脸识别认证等。

这意味着伴随人工智能技术的高速发展和加持，数字化背后的风险将持续加剧，并且演变为“智能化”背后的风险挑战。

据了解，目前黑产作案越来越趋于多平台、多链路、团队化和智能化。这对行业协同、风险响应机制的速度和准确性提出了更高的要求，而且还需要切合“数字化浪潮”下社会对于隐私保护、技术伦理治理等多方面的需求。

在赵闻飙看来，要对抗“智能化”的风险，就需要“智能化”的手段，这也是“可信AI”技术进入快速发展阶段的核心驱动力。可信AI技术要求人工智能技术应当具备可解释性，以帮助人类理解和信赖他们的决策；具备鲁棒性（robustness），以抵御黑产的攻击，以保障计算和决策的稳定性和效能；具备隐私保护的能力，以满足社会和民众对于个人数据资产保护的需求；具备公平性，强调决策结果的公平性，同时关注技术背后的社会责任和伦理治理。

“数字时代，安全是AI与AI的博弈，而可信AI，则是抵御风险的关键能力。”

面向可信AI技术的下一代风控体系“IMAGE”

据了解，蚂蚁集团自2015年起投入可信AI技术的研究。2016年，全面启动了人工智能风控防御战略。目前，可信AI技术已在包括反欺诈、反洗钱、反盗用、企业联合风控、数据隐私保护在内的多个风控场景下落地，支撑着其全风险域的防御需求。根据今年6月全球专利权威机构IPR Daily发布的报告，蚂蚁集团目前拥有全球范围内数量最多的“AI安全可信关键技术”专利，并上线部署了以“IMAGE”命名的下一代风控体系。它包含着“交互式风控”、“多方安全风控”、“智能决策”、“全图风控”、“端云协同风控”五大组成部分。

赵闻飙表示，“全图风控”技术能够以“图”的形态，聚合“动态发展变化的风险信息”，解决了传统风控中只能依靠单一或静态信息维度追踪风险的困境，实现对风险变化趋势的预测，提前遏制风险的发生。在反电诈等风控场景，对于打击团伙型、多链路作案，具有重要意义。而“全图式”的风险分析和追踪形式，也对人工智能的“可解释性”发展提供了更广泛的空间。

而“多方安全风控”和“端云协同风控”则是“智能化”趋势下，实现风控与隐私保护平衡发展的实践探索。“多方安全风控”实现了在数据不交换的前提下，多企业、多平台之间的联合风控协作。“端云协同风控”的价值则是保障数据的使用和保有权真正属于用户。通过将风控模型部署在智能终端，如手机上，蚂蚁的技术团队建立起了一套“终端进行数据计算和决策、云端仅获取决策结果”的风控模式。终端计算，意味着敏感信息被保留在用户手中，规避了信息传输过程中可能出现的被攻击风险。云端仅获取决策，不仅保障了安全防御和风险控制不受影响，还节约了云端的计算资源。目前，“端云协同风控”已经被广泛用于支付宝的日常风控中，在去年的双十一期间，95%的风控决策都是在用户智能终端上完成的。

赵闻飙在分享中强调，传统风控受制于技术成本、数据规模和算法效能，许多场景还是专家经验驱动，而不是数据智能驱动。“支付宝每天有数亿笔交易，面对如此庞大的计算量，一旦决策产生延迟，就给了黑产可乘之机。” 通过人工智能与金融风控的深度融合，蚂蚁安全实验室打造了能够实现“智能决策”的AI大脑——AlphaRisk。其能够在零人工干预的全自动模式下，对风险进行毫秒级的响应。但更重要的是——AlphaRisk具备的自学习、自适应的能力，将极大地提升人工智能的抗打击能力。AI大脑通过对每一次黑产攻击行为的学习和研究，不断提升防御手段，进行高效的自我进化。

在技术快速发展的同时，可信AI的公平性也考验着研究者对社会责任的坚守。赵闻飙提到，早在2016年，蚂蚁就成立了针对电信网络诈骗的技术研究小组，借助包括“图神经网络”“博弈攻防”在内的一系列创新技术应用，极大地遏制了平台电诈发生率。但许多骗子引导受害人转而使用其他的支付渠道，社会欺诈问题仍旧严峻。如何依靠技术力量，真正将诈骗罪案止步于支付环节，成为研究的重点，“交互式风控”也因此应运而生。

贝壳财经记者注意到，区别于以往的安全风控模式，交互式主动风控的关键在于“主动”二字——传统的安全往往依赖于已知风险模式，只有风险发生过，才知道如何预防，这也使得安全风控往往处于“被动防守”的态势。

对此，赵闻飙表示，安全必须从静态的被动防守，转变为动态的主动对抗，特别是金融安全。“以交互式风控产品‘叫醒热线’为例，当用户被骗子诱导转账时，AI机器人将向用户发出来电提醒。充分学习了欺诈罪案分析的AI机器人，能够捕捉用户交流中的关键信息，采取恰当有效的反诈劝阻话术和措施。为了跟骗子拼速度，目前蚂蚁的反诈骗叫醒热线中，有超9成电话是由AI打出的，叫醒成功率超过了人工客服。除了事中的防护，如果用户深度受骗、执意支付，技术人员还开发了‘延迟到账’和‘资金截留’的功能，让欺诈者没有办法支取赃款。”

“人工智能技术的快速发展，引领了第四次工业革命的浪潮。而可信人工智能的研究和落地，则代表了人工智能技术发展的新阶段。在未来，与人类社会深度耦合的人工智能技术，如何在安全、可信、公平的原则下，持续发展和进步？这是每一位从业者和研究者，为推动科技有序、健康发展都不应回避的命题。”赵闻飙表示。

新京报贝壳财经记者 罗亦丹 编辑 李薇佳 校对 王心