中新网客户端北京12月6日电(张旭)5日,在阿里安全与清华大学联合举办的AI与安全研讨会上,阿里巴巴集团首席风险官郑俊芳判断,安全成为数字经济时代的新基建,安全基建又必须靠AI(人工智能)来实现。

AI面临算法安全问题

中国科学院院士、清华大学人工智能研究院院长张钹认为,人工智能将先在交通、医疗、金融、智能制造等领域产生革命性的变化。从长远来看,AI会根本性改变这些领域,从现实来看,还有许多困难要克服。

中国科学院院士、清华大学人工智能研究院院长张钹。中新网记者 张旭 摄

现在,已有厂商在国内部分地区试点自动驾驶出租车服务,不过整体来看,现在所有的自动驾驶产品或者即将上市的产品都处于L4级以下。

西安交通大学人工智能与机器人研究所教授薛建儒认为,无人驾驶的安全可信面临的挑战性在于,无人驾驶面临动态决策,它固有的复杂性、不确定性和歧义性都是一些开放式问题。

薛建儒说,“当前我们的无人驾驶在应对复杂场景和人类驾驶员相比在适应性上存在很大差距。在如何引入人类的驾驶知识,把人类的直觉推理和演绎推理这样的认知机理放到驾驶模型里,提高当前模型表征能力,我们还有所欠缺。”

张钹表示,AI面临着算法安全的根本原因在于,神经网络只是进行函数映射,缺乏对任务的理解,算法的鲁棒性(Robust的音译,指在异常和危险情况下系统生存的能力)差,具体表现在“一是测试集的鲁棒性差,当测试集和训练数据有差别,推广能力就会变差。二是对噪声的鲁棒性很差,导致AI算法容易被滥用、攻击、误用。”

安全能力提升需开放合作

正如郑俊芳所说,安全基建必须靠AI来实现,安全的AI正在给多个领域带来变化。

清华大学计算机系副主任朱文武介绍了其在多媒体与AI上的研究,希望人工智能给多媒体提供研究的新思想和范式,比如原来的语义处理通过特征提取进行分析,语义学习给多媒体提供了语义和多模态信息,这能帮助机器学习做得更好。多媒体和AI呈互相促进,互相帮助、互相指导的态势发展。

阿里巴巴集团首席风险官郑俊芳在会上演讲。中新网记者 张旭 摄

据阿里安全资深算法专家薛晖介绍,近五年来,阿里每万笔交易的一次侵权商品量下降将近三分之二;近三年来,阿里平台通过输出线索协助公安打击线下制售假窝点,拘捕嫌疑人近万名,累计涉案金额超过200亿元。

这两个数字背后,是阿里建立的一套基于人工智能的复杂电商环境治理体系在发挥巨大作用。算法专家不仅要保障上述体系的两大能力高速发挥其作用,还要十分关注电商关键节点模型自身的安全性,以保证模型不会出现漏洞,不被黑产所利用,保证模型的鲁棒性。

郑俊芳称,阿里在安全领域投入非常大,技术人员在安全团队中占比超过50%。“这几年我们和顶级的团队在不同领域进行合作,合作背后就是因为我们遇到了很多挑战,所以说,安全必须要靠坚定的投入和更开放的合作,才能解决今天面临的复杂挑战。”(完)

关注中国IDC圈官方微信:idc-quan 我们将定期推送IDC产业最新资讯

查看心情排行你看到此篇文章的感受是:


  • 支持

  • 高兴

  • 震惊

  • 愤怒

  • 无聊

  • 无奈

  • 谎言

  • 枪稿

  • 不解

  • 标题党
2020-12-04 13:43:14
市场情报 中软国际云智能全球运营中心落户深圳 参与共建数字经济创新发展试验区
中软国际正处于夯实基石业务,以云化和平台化转型升级发力数字业务,实现自我突破的关键时期 <详情>
2020-12-03 18:17:45
市场情报 华为云API入门学习赛·AI人脸识别 未来工程师梦想的起点
华为云上开放了2400+ API,包括计算、存储、网络、应用服务、软件开发服务、视频、数据库、EI智能等74+产品,如何利用这些丰富强大的API快速开发自己的应用和服务,成为大 <详情>
2020-12-03 13:16:17
国内资讯 增城数字经济添新动能!南香谷云数据中心三期项目开工
12月2日,位于增城区南香谷产业园的南香谷云数据中心三期项目正式开工奠基! <详情>
2020-12-03 09:12:36
大数据资讯 中科曙光数据工程服务解决方案:服务数字经济,彰显数据价值
中科曙光数据工程服务解决方案围绕用户数据提供专业全流程数据服务,帮助用户完成数据采集、数据规范、数据智能分析,生成数据资源目录、构建知识图谱,设计可视化主题,支 <详情>
2020-12-02 11:36:36
国际资讯 开放包容 中日共享数字经济创新活力
数字技术在支撑数字经济乃至社会治理过程中,能够扮演什么角色? <详情>