可信AI是“数字时代”抵御风险关键能力

2022年02月04日/ 浏览 243

8月6日,蚂蚁集团副总裁、蚂蚁集团安全事业群总裁赵闻飙在2021新京报贝壳财经夏季峰会——数字经济时代的风险防控线上论坛发表演讲。 企业供图

数字时代是人工智能(AI)深度应用和发展的时代。AI的发展,正在以一日千里的速度改变着这个世界。AI与大数据、互联网相互融合,推动着社会、经济、产业的数字化变革,在交通、医疗、环境保护、城市管理等多个领域中,发挥着越来越不可替代的作用。

但另一方面,AI的安全性,也成为了数字化发展进程中不可回避的问题。在数字经济欣欣向荣的发展态势下,安全被许多业内人士视为木桶上的那一块“短板”。

如何让安全为数字化发展“保驾护航”?8月6日,2021新京报贝壳财经夏季峰会——数字经济时代的风险防控线上论坛开幕,蚂蚁集团副总裁、蚂蚁集团安全事业群总裁赵闻飙表示,可信人工智能的研究和落地或是抵御“数字化”风险的关键能力。

AI安全可信是数字时代抵御风险的关键

赵闻飙表示,前两年虽然大家习惯于将“数字化”、“智能化”风险并提,但其实我们一直在重点谈的是“数字化”背后的风险和应对,对“智能化”背后的风险则讲得很少。因为当时行业普遍认为,人工智能技术的落地应用还相对有限。“其实,早在六七年前,我们就在平常应对黑产攻击中,发现了AI的痕迹。”

当下的确有越来越多的黑灰产团伙将AI等新技术投入到了薅羊毛、诈骗等非法活动中。如使用各类技术手段测试平台的安防漏洞,再有的放矢地攻击、使用AI工具操控大量账号进行违规操作、使用AI换脸技术试图绕过人脸识别认证等。这意味着许多经济活动在“数字化”的同时,也面临着新的风险。

什么是“数字化”背后的风险?赵闻飙认为,它指的是数字经济生活中,用户在享受数字化带来的便捷与普惠同时,所面临的、伴随而来的风险。例如,对于行业商户来说,羊毛党造成的“营销资金风险”,足以让商户精心打造的营销活动毁于一旦。对于个人用户而言,网络欺诈、账户盗用等,更是成为了数字经济中高发的、危害性极大的安全问题。“目前,全行业对这些大家共同面对的风险已经有了充分的认知。但不可忽略的是,伴随着人工智能技术的高速发展和加持,这一风险仍将持续地加剧,并且演变为‘智能化’背后的风险。”

目前,黑产作案越来越趋于多平台、多链路、团队化和智能化。这也使得对抗黑产、防范智能化风险转化为了一个全新的命题。

赵闻飙表示,该命题不但对行业协同、风险响应机制的速度和准确性提出了更高的要求,还需要切合“数字化浪潮”下社会对于隐私保护、技术伦理治理等多方面的需求。这也是“可信AI”技术进入快速发展阶段的核心驱动力。公平性是技术伦理治理的准绳;隐私保护是人工智能技术发展不可触碰的红线;可解释性帮助厘清了风险的由来、定位问题和有效解决方案,让人类能够信赖AI的决策和结果;鲁棒性则加强了AI的稳定性和抗打击能力。“数字时代,安全是AI与AI博弈,我们相信可信AI是抵御风险的关键能力。”

可信AI如何落地应用?

据了解,蚂蚁集团自2015年起投入可信AI技术的研究。2016年,全面启动了人工智能风控防御战略。目前,可信AI技术已在包括反欺诈、反洗钱、反盗用、企业联合风控、数据隐私保护在内的多个风控场景下落地,支撑着其全风险域的防御需求。根据今年6月全球专利权威机构IPR Daily发布的报告,蚂蚁集团目前拥有全球范围内数量最多的“AI安全可信关键技术”专利,并上线部署了以“IMAGE”命名的下一代风控体系。

什么是“IMAGE”?赵闻飙表示,2016年,蚂蚁成立了针对电信网络诈骗的技术研究小组,针对性预防和治理网络欺诈的问题。借助包括“图神经网络”、“智能交互技术”、“博弈攻防”在内的一系列创新研究技术的落地应用,平台电诈发生率大幅度降低。但自家平台上的欺诈大幅度减少了,社会面临的欺诈却没有因此发生太大改变。“识别风险、阻断交易看似就已经承担起了平台应有的责任,但我们在反思,作为用户高频使用的数字支付平台,能否将黑产团伙的犯罪实施止步于支付环节中,防范罪案的发生?在可信AI体系中,AI的公平性和伦理治理是一切技术架构设计的起点和准绳。而践行这一理念的第一步就是立足于社会价值的思考——运用我们掌握的领先技术如何解决社会问题。”

区别于以往的安全风控模式,交互式主动风控的关键在于“主动”二字——传统的安全往往依赖于已知风险模式,只有风险发生过,才知道如何预防,这也使得安全风控往往处于“被动防守”的态势。

对此,赵闻飙表示,安全必须从静态的被动防守,转变为动态的主动对抗,特别是金融安全。“以我们的交互式风控产品‘叫醒热线’为例,当用户被骗子诱导转账时,我们通过‘叫醒热线’的AI机器人向用户发出来电提醒。借助语义分析等技术,我们的技术人员让充分学习了欺诈罪案分析的AI机器人,能够通过捕捉用户交流中的关键信息,采取恰当有效的反诈劝阻话术和措施。为了跟骗子拼速度,目前蚂蚁的反诈骗叫醒热线中,有超9成电话是由AI打出的,叫醒成功率超过了人工客服。除了事中的防护,如果用户深度受骗、执意支付,技术人员还开发了‘延迟到账’和‘资金截留’的功能,让欺诈者没有办法支取赃款。”

需要注意的是,由于黑产往往都是“跨平台作案”,因此在传统风控模式下,单一平台的风控体系难以对风险进行全链路的识别和治理。

赵闻飙表示,借助多方安全计算等关键技术,多方风控能够在保护用户隐私和商业秘密的前提下,在平台之间实现风险共治。“今年初,我们与江苏电力、阿里巴巴集团共同启动了‘电力反欺诈专项’,依托多方风控技术展开反欺诈联合治理,针对性打击黑产以电力充值渠道作为销赃渠道的做法。借助合作,真正实现了既保护隐私,又共建了风控能力。接下来,我们将面向合作伙伴进一步开放多方风控技术,帮助更多的企业在保护数据隐私的基础上,实现联合风控。”

让AI对抗黑灰产 让技术保护隐私

赵闻飙表示,传统风控受制于技术成本、数据规模和算法效能,许多场景还是专家经验驱动,而不是数据智能驱动。“支付宝每天有数亿笔交易,面对如此庞大的计算量,一旦决策产生延迟,就给了黑产可乘之机。”

那么,如何让AI来对抗黑灰产呢?

赵闻飙透露,通过人工智能与金融风控的深度融合,蚂蚁安全实验室打造了能承载每天数亿笔交易的AI大脑AlphaRisk,这也是支付宝第五代智能风控引擎,其能够在零人工干预的全自动模式下,对风险进行毫秒级的响应。以前述提及的“叫醒热线”为例,当系统识别到用户遇到诈骗风险时,AI机器人能以小于0.1秒的速度向用户呼出“叫醒电话”。此外,在快速响应当下风险的同时,AlphaRisk还具备自学习、自适应的能力。AI大脑通过对每一次黑产攻击行为的学习和研究,不断提升防御手段,通过高效的自我进化,实现持续成长和进步。

此外,作为AI的原料之一,信息一直是人工智能发展中不可回避的话题。传统的风控计算全部在云端完成,这意味着信息在传输和计算过程中存在着更多的被攻击的风险。

为了解决这一问题,2018年,蚂蚁集团“端云协同风控”技术研究正式立项。端云协同风控的理念是在智能手机、物联网设备这些互联网入口和用户终端设备上,也部署相应的安全风控能力,让风险的计算和决策能够在本地进行。与传统风控相比,支撑端风控决策操作行为的数据无需上传到云端,云端仅获取决策结果,同样可以为用户提供安全的风控服务和保障,从而达到保护用户隐私的目的。

赵闻飙表示,目前,端云协同风控技术已经覆盖了支付宝上日常支付交易中的绝大多数场景,并且在双11大促上也得到了应用。“去年双11,支付宝超过95%交易的风控都是在用户自己的终端设备上完成。在人工智能技术快速发展的今天,只有将隐私保护作为企业科技发展的红线,才能保障技术发展能够真正地造福社会、造福于人。”

新京报贝壳财经记者 罗亦丹 编辑 宋钰婷 

picture loss