瑞莱智慧RealAI打造人工智能安全技术工具 推动行业发展

2021-04-26 15:05     来源: 新华网

  4月26日,由国家互联网信息办公室主办人工智能分论坛举办,论坛以“人工智能—社会实验视角下的社会治理”为主题。各产业相关领域专家代表一同围绕人工智能发展可能带来的风险和问题,探讨人工智能赋能社会治理的规律和经验,共同推进人工智能产业健康发展。

 

  论坛期间,由中央网信办信息化发展局组织评选的“人工智能企业典型应用案例”正式发布,本次案例评选在发现和挖掘人工智能行业的最新场景和杰出企业,进一步推动我国人工智能健康稳定发展。经人工智能社会实验专家组评审,华为、百度、旷视、商汤、依图等在内三十五家企业的典型应用案例入选,其中包括瑞莱智慧RealAI的“人工智能安全与深度伪造治理应用案例”。

  瑞莱智慧RealAI CEO田天介绍,由于当前的人工智能仍处在初级阶段,算法本身存在不透明、不可解释等结构性缺陷,这就导致技术漏洞可能被用于恶意攻击,通过对抗性数据污染、算法修改、恶意样本等方式对算法进行深层次攻击,让人工智能系统“精神紊乱”,以高置信度给出错误输出。这产生的后果将可能威胁到人类财产生命安全。比如通过佩戴特定设计、有对抗攻击能力的眼镜等实体物件,导致能够攻破手机解锁、线上身份认证、线下安防等领域的AI系统,让安全验证形同虚设。甚至在交通领域,车辆的辅助驾驶或自动驾驶系统也可能因为AI算法缺陷而丧失正常的视觉识别能力,错误识别交通指示牌、“看不到”大型障碍物等,严重威胁人身和财产安全。

  本次论坛主题切实讨论人工智能发展可能带来的风险和问题,作为“人工智能企业典型应用案例”入选企业,瑞莱智慧RealAI的“人工智能安全与深度伪造治理应用案例”深入提出了当下深度伪造治理的方案。据介绍,作为清华人工智能研究院的官方产学研机构,北京瑞莱智慧科技有限公司依托其自身在AI安全攻防领域的积累,利用“产学研”一体化优势,创新性地提出了“攻防动态平衡”机制,以子之矛、攻子之盾,通过攻防对抗不断升级,演练出针对性的防御技术。通过对抗性算法研究,先于黑客发现并修补漏洞,避免攻击隐患;通过生成更为逼真的深度伪造视频,再训练出更为领先的检测算法。

  在此基础上,瑞莱智慧RealAI还打造出一套完备且行之有效的技术工具来辅助解决人工智能安全问题。例如,业内首个人工智能安全平台RealSafe,这也是针对人工智能系统的防火墙与杀毒软件之一,通过集成业内主流的领先攻防算法,采用对抗训练手段对AI系统进行自动化的安全审查,输出检测报告后可选择不同的防御解决方案进行加固升级,提升AI系统及设备对对抗样本等攻击手段的识别能力。在应用管控层面,瑞莱智慧RealAI推出DeepReal深度伪造检测工具和一体机,能够高效精准的判断视频、图片等内容素材是否是经过AI伪造生成的,能够有效避免舆情与预警相关滥用。

  当前,人工智能研究高度开放,即便编写一种折型算法的时间成本也只需几天,这也导致人工智能技术的滥用风险激增,直接性造成风险漏洞的出现。此外,人工智能既有多学科综合、高度复杂等特性,带有天然的技术壁垒,给监管部门的监督管理和风险防范提出了不小的挑战。

  同时也有专家表示,人工智能设计者的价值导向和行为偏好易于被有意或无意地反映到算法、数据当中,并通过机器学习被人工智能所承继,进而演进为算法歧视。而在具体适用过程中,容易受到对抗样本的干扰或污染,被应用者二次形塑,做出背离设计初衷的错误决策。专家重点提到,在人工智能飞速发展的当下,安全问题日益凸显,需要我们加强对潜在风险的研判和防范,切实维护好利益和安全,确保人工智能安全可靠、可控。

  田天表示,人工智能治理是一个长期的工作,“技术”与“制度”需同步推进,前者解决技术的不安全性与脆弱性,后面从场景应用层面给出规范与指引。

【挑错】

上一篇:人工智能助力教育,淘云科技校园公益行走进泾县城关第二小学

下一篇:没有了

*免责声明: 凡本网注明“来源:XXX(非神州瞭望网)”的作品,均转载其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责。若内容涉及投资建议,仅供参考勿作为投资依据。本网站无法鉴别所上传图片或文字的知识版权,如果侵犯,请及时通知我们,本网站将在第一时间及时删除。


推荐阅读
  • 瑞莱智慧RealAI打造人工智
    瑞莱智慧RealAI打造人工智

    ​4月26日,由国家互联网信息办公室主办人工智能分论坛举办,论坛以人工智能社会实验视角下的社会治理为主题。各产业相关领域专家代表一同围绕人工智能发展可能带来的风险和问题,探讨

    新华网 2021-04-26


  • 人工智能助力教育,淘云

    ​让人工智能为教育助力。4月22日,安徽淘云科技股份有限公司(以下简称淘云科技)董事长刘庆升一行走进泾县城关第二小学,开展捐赠校园公益活动,现场捐赠了淘云科技旗下的明星系列产品阿尔法

    消费日报网 2021-04-26


  • 智行 · 见远 | 以数字之力

    ​新基建的战略深化让医疗信息化升级不断加速,同时也推动了大健康相关产业的发展。尤其是新基建与疫情的相互碰撞,进一步促使大数据、5G、AI等新兴技术与医疗行业的深入融合。 十四五开

    消费日报网 2021-04-26


  • 荷福用智能技术给大楼“

    ​长宁区上航新村,上海荷福人工智能科技集团技术人员使用太赫兹三维扫描技术对楼房外立面进行安全隐患排查 上海即将迎来汛期,市民头顶上的安全如何保障?自市住建委3月24日印发《关于进一

    新民晚报 2021-04-26


  • 四川电信魔系平台和5G慢直

    ​4月25日至29日,第四届数字中国建设峰会在福州市海峡国际会展中心举办。在数字中国建设峰会8号馆,四川电信打造的魔镜魔方平台、5G+机器人巡检、5G+4K/VR慢直播等应用,吸引众多关注。 四

    新华网 2021-04-26


  • “知了”阅读馆APP服务青

    ​4月23日世界读书日当天,中版集团数字传媒有限公司正式推出知了阅读馆APP。该产品以解决青少年读什么怎么读读的效果如何为目标,通过不同功能模块为青少年提供一站式融媒体阅读解决方

    新华网 2021-04-24


  • 儿童语音识别比赛斩获两

    ​近日,网易有道在语音研究领域顶级峰会INTERSPEECH 2021上的儿童语音识别比赛 ETLT 2021上荣膺英语开放赛道和封闭赛道两项第一。INTERSPEECH是由国际语音通信协会ISCA组织的语音研究领域的顶级会议

    中国网 2021-04-24


  • 北京农商银行打造社区金

    ​北京农商银行以金融知识宣教为抓手,以特色化金融服务为依托,积极履行社会责任,践行国企担当,不断向基层、向社区、向老年群体等金融服务较为薄弱的地区和环节延伸服务触角。 自

    北京农商银行 2021-04-24


  • 马上消费:科技创新与绿

    ​近日,马上消费董事长赵国庆提到,马上消费从创业初始就坚守绿色发展模式,根据与碳排放相关的人力消耗、能源消耗、纸张消耗、金融云服务器消耗等环节,测算碳排放指标,并利用技术

    马上消费 2021-04-24


  • “媒体艺术之都”“顶流

    ​人的生命是有限的,可是为人民服务是无限的,我要把有限的生命,投入到无限的为人民服务之中去!在长沙城东,孕育了湖南卫视现象的马栏山,1964年电影《雷锋》的经典语录在一个视频文

    新华网 2021-04-24


今日头条