观察丨瑞莱智慧唐家渝:AI安全风险背后原理何如,怎样应对

2021-12-27 21:26:38 文章来源:网络

近年来,在大算力和海量大数据的驱动下,以深度学习为代表的AI技术飞速发展,以计算机视觉技术为例,依托广阔的应用场景从理论研究走向大规模的应用落地,人脸识别、目标检测等被广泛应用于公共安全、城市交通等领域,推动城市治理的智能化升级。

“但数据驱动的深度学习算法存在不透明、不可解释等局限**,即便是开发者也难以理解其内在的运行逻辑,这就导致系统可能遭受到难以被察觉的恶意攻击。他以对抗样本攻击举例,通过对输入数据故意添加干扰,使肉眼或许难以发现,但却能误导算法以高置信度给出错误输出,”12月27日,瑞莱智慧副总裁唐家渝在第十八届安**会期间举办的第十六届**安防**·技术**上表示。

瑞莱智慧RealAI 副总裁 唐家渝

北京瑞莱智慧科技有限公司成立于2018年7月,是清华大学人工智能研究院发起成立的科技成果转化企业,致力于提供安全可控人工智能基础设施**与解决方案。**科学院院士、清华大学人工智能研究院名誉院长张钹和清华大学计算机系教授朱军共同担任公司首席科学家,清华大学计算机系**士田天出任CEO。

唐家渝继续解释道,这背后的原理在于,深度学习算法是通过对数据集中的示例进行学习从而建立出模型,与人类不同,它没有对先验知识进行合理利用,它的判断取决于样本数据,所以深度学习算法永远无法达到人类的判断水平。如果以一条分界线来类比,在进行决策判断的时候,模型决策的分界线与人类真实决策的分界线并非完全吻合,存在“误差”,因此可通过生成偏差数据,使其在误差空间内,人类能正常判断,但模型却判断错误,从而实现对AI系统的欺**或攻击。

这是深度学习范式下AI应用存在的结构**缺陷,贯穿于AI全生命周期。除了在运行环节对输入数据添加“扰动”,在**开始的模型设计环节,通过在训练数据中添加“污染数据”进行“投毒”,导致模型被埋藏后门,再通过预先设定的触发器激发后门,模型也将输出事先设定的错误结果。

唐家渝表示,通过数据污染、恶意样本攻击等方式对算法进行深层次攻击已经成为趋势,随着AI技术尤其是计算机视觉技术的广泛应用,这一安全风险的真实威胁开始显现。例如,公共安全领域,视频监控、安检闸机等智能安防设备被不法分子攻击,用于躲避追踪、**他人等;交通领域,自动驾驶汽车被干扰“致盲”,引发安全事故等;在金融领域,线上**的人脸**被破解,用于非法**等**行为。

除了算法漏洞,“数据驱动”衍生的安全风险还远不于此。海量人脸数据被恶意采集、滥用,导致用户隐私**漏;**露的人脸照片在表情驱动算法下生成伪造视频,用于攻破人脸核验系统等...如何有效应对人工智能安全风险,保障人工智能安全可控的应用落地成为一项重要课题。

那么应如何寻求解决方案呢?

人工智能应用是集业务、算法、数据于一体的有机整体,涉及训练、检验、运行等生命周期阶段。唐家渝表示,应面向所有关键流程,布局全面且有针对**的安全防御措施。同时他强调,人工智能安全攻防技术在快速演变过程中,新的攻击手段不断出现,除了要解决“近忧”,更要着眼于“远虑”,对于未知威胁进行研判和防范,因此需打造动态升级、科学前瞻的防御理论及技术体系。

瑞莱智慧的解题思路就是建立兼顾“被动”和“主动”的防御机制。唐家渝解释道,被动防御为AI应用部署静态的安全能力,防范已知安全风险,比如对外部访问、输入数据、行为决策等进行检测,为算法模型部署加固防护组件等,提升系统抵御攻击的能力。主动防御则是为补充被动式防御的局限,引入和强化人工智能安全团队力量,以动态防御对未知威胁进行风险预判,构建自适应、自生长的安全能力。

具体而言,目前在被动防御方面,瑞莱智慧推出多款人工智能安全产品:AI安全防火墙,其能够在AI系统运行环节有效检测和抵御对抗样本、深度伪造等新型攻击手段;人工智能安全**RealSafe,集成对抗攻防算法,提供端到端的模型安全检测能力,自动化高效评估AI安全风险,并提供安全**增强方案;隐私保护计算**RealSecure,在数据训练、建模等环节部署数据安全能力,实现“数据可用不可见”。

在主动防御方面,瑞莱智慧则推出人工智能安全靶场RealRange,提供实战化、体系化的一站式人工智能攻防演练服务,基于攻防实战演练将安全风险暴露前置,提前发现和适应瞬息万变的新型攻击和高级威胁,动态提升团队软实力,实现“让风险发生在靶场,让有效防御构建在安全事件之前”。

瑞莱智慧AI安全产品矩阵,可实现对人脸识别、目标检测、图像分类等系统的安全升级,目前已在多个场景得到应用。比如与国内某头部人脸识别支付厂商合作,通过利用AI对抗攻击算法全面发掘人脸识别模型的漏洞,并进一步提供防御加固方案,提升**脸支付的安全**。与某电网企业的合作中,利用RealSafe**自动发掘输电线路危险品识别算法模型的漏洞,通过对抗训练提升算法鲁棒**,确保**基础设施安全**。

**后,唐家渝表示,AI安全是新兴领域,除了部署技术体系外,更需要框架指导、**规范、法律合规等多个维度协同推进。他介绍道,目前瑞莱智慧已经与**工信安全中心、**信通院、**互联网应急中心等单位开展合作,联合落地**制定、测试评估等工作,推动AI安全从“试点示范”走向“推广应用”。未来,瑞莱智慧也将持续聚焦于国际领先的AI安全攻防技术的研发和产业化实践,护航智能产业安全可控地蓬勃发展。

今年年初,港**曾有一度迎来“高光”时刻,在2月18日站上近两年多以来的高位:31183.36点。此后,港**一路下跌,年初高位买入的投资者们被套牢。

在万家基金经理刘宏达看来,港**近期的每次大跌基本上都是情绪的宣**,这种宣**特别有规律,持续时间并不长,但是由情绪面影响带来的港**下跌却很快。有着十多年扎根港**市场研究经验的刘宏达,经历了四轮港**熊市,他认为港**大跌之后,会有很大的向上弹**空间,“当大家都很绝望的时候,我就会变得乐观,历史的规律都是会重演的”。

近日,《国际金融报》记者来到万家基金,与刘宏达这位港**投资专家展开了深度对话,他判断,现在或是港**熊市尾声,港**是资产配置版图中不可或缺的一块,现阶段已经到了比较好的配置时机。

万家基金经理 刘宏达

港**正在迎接黎明

受政策面、情绪面以及疫情等多重因素影响,今年的港**市场表现持续低迷。

“目前的港**市场更像在经历黎明前的黑暗”,经历过四轮港**熊市的刘宏达表示,恒生指数今年以来不断创下新低,有些公司估值便宜但**价还在继续下跌,这是每轮熊市末期都会出现的特征,市场的信心几乎被“跌”光。

“每次港**大跌的**后时刻都是很绝望,这次也一样。”刘宏达认为港**的大跌与情绪的宣**有关,虽然跌起来很快,但持续时间不会很**。按照历史经验来看,港**目前的位置已适合布局,“恒生指数从高点下跌25%以上的跌幅后,再买入港**持有一年,它的**率会非常好”。

在刘宏达看来,每次港**熊市调整的特征十分鲜明,基本持续时间很少超过一年,本轮熊市调整从时间和空间维度上看已接近尾声。

港**的底部究竟在哪?刘宏达认为,可通过观测恒生指数走势来看港**,去年9月底至今年春节后**天,恒生指数从23000点位置暴拉至31000点附近,尤其是在今年年初,很多狂热资金对港**一致看好,接二连三涌入港**。但十多年港**的投资经验使得刘宏达非常警惕,资金亢奋时更应该小心。

今年1月初港**的拉升与南下资金的涌入有关,“去年底港**估值就不再便宜,但依旧会有大量资金买入,大**的原因主要是A**公司估值相对较高,港**估值相对便宜,但很多资金对港**市场并不熟悉,此时理**的投资者就应该意识到风险。”

**近恒生指数的表现基本是深跌之后略微反弹,随后又再次大跌或跌破前低,但刘宏达认为,也许这个阶段正处于底部黄金坑的位置。

对港**这轮熊市表现,刘宏达认为这是情绪面、基本面和经济面共振所致,“港**的每一轮上**和下跌一定伴随基本面和情绪面变化,但震荡市更受情绪面主导。这次主要观察情绪的底部,我们觉得基本面明年相对来说还是乐观的。”

两类方法挑选港**公司

**资料显示,刘宏达是上海交通大学管理学硕士,毕业后**先接触的是港**市场,拥有超过12年的港**投研经验,长期任职于香港某家,关注的行业主要有消费、科技、**药、制造业。2020年加入万家基金,现任万家瑞兴、万家沪港深蓝筹基金经理。

刘宏达形容港**是一个非常自由但又高风险的市场。港**市场交易量比较集中,前20%的头部公司的成交额可能占比达到90%以上,剩下80%的公司也存在一定投资机会,而投资者一旦选错了****,试错成本也比较高。

与A**市场擅长“讲故事”不同,港**市场更看重业绩兑现。刘宏达表示,在港**研究公司更多的是看如何一步步用业绩证明投资价值,慢慢**投资者的信任。但港**市场在下跌的时候很难估测底部位置,一旦公司基本面变差很难有估值的“矛”,可能估值会越跌越便宜。所以造成了公司在一个经营周期内**价波动特别大,在上升周期时**价可以很快**10倍,但下跌的时候也能很快跌去80%。这类公司可能是一些中小型公司。

刘宏达的投资理念是“把握趋势,守正出奇”,他希望寻找超预期的基本面趋势向上的优质成长**,不断迭代成长,伴随公司一起成长变大。

在港**市场挑选上市公司时,刘宏达注重与好公司为伍,且一定是大小**东利益一致,有着靠谱管理层的公司,“港**是以机构投资者为主的市场,普遍呈现换手率低、交易量低的特征,这种市场通过短线**弈赚钱难度很大,由于流动**特别差,持**周期相对更长,研究公司的时间也要更长。”

刘宏达会注重两类港**公司的机会:一类是市值偏小的黑马公司,在市场关注度低的时候提前关注,以基本面右侧参与为主;另一类是资质比较好龙头公司,在估值比较便宜时,偏左侧布局。对于黑马公司,刘宏达强调,一定要看到未来可能出现翻几倍增长的空间才会去参与。

“风险都是**出来的,机会都是跌出来的,只有跌得比较多,才给很多****一个很大的向上弹**空间。”刘宏达表示。

聚焦四大景气行业

目前,刘宏达配置的港**行业主要聚焦于跌得比较多的互联网科技、消费和**药,此外他还会关注新能源汽车、光伏在内的制造业。

“互联网科技领域一定是长期发展的,只是经历了短期的行业低谷”,在刘宏达看来,互联网科技公司未来存在广阔的发展空间,互联网科技正在深刻改变人的生活方式,人与人以及人与物的关系,都被互联网重新定义。互联网带来通讯、**、购物甚至供应链的效率提升,并建立起深而宽的护城河。作为经济大国,**具备诞生巨型互联网公司的土壤。

“我不觉得港**难做”,长期的港**投研经验积累让刘宏达感受到,拉长时间看,港**和A**长期**十分接近。

“港**市场和A**市场波动都是反映**的宏观基本面变化,因此,两个市场的长期**率相近。港**的特点在于波动特别大,下跌的时候可能会跌的很多,估值会一下跌的特别便宜,但换个角度看,向上的弹**空间也会更大。”刘宏达表示,一些投资者认为港**市场不容易赚钱,可能是每次刚好买在了港**的高位,当港**下跌到底部位置时却不敢重仓参与。

刘宏达表示,每个两到三年,港**市场经常出现十倍**或者二十倍**,尤其是在市场跌到熊市底部,很容易出现这些向上反弹空间巨大的公司。

**近两个月,刘宏达管理的新基金万家沪港深蓝筹成立,拟管理的新基金万家港**通**选正在发行中。据他介绍,新基金的建仓速度可能相对较快,虽然港**受到新一轮疫情影响,但是拉长时间看,很多公司**会非常好,只不过短期在底部会比较波动。

“我感觉现在像是一个猎手到了适合狙击的地点”,刘宏达说,自己会对新产品积极建仓,虽然短期会有波动,但如果看到明年年底,很多公司拥有****的机会,有一些甚至有翻倍的空间。

随着未来或有更多中概**回归港**,刘宏达认为,短期可能市场受情绪的不确定**影响,但长期来看会有更多正面影响,当中概**回归港**进入港**通之后,增加了整个港**的优质标的选择,吸引更多资金投资港**,增加港**市场的活跃度。

记者 夏悦超

来源:国际金融报网

上一篇:8成员工是高中及以下*,这家半导体企业终止科创板IPO

下一篇:最后一页
本站所刊登的各种资讯﹑信息和各种专题专栏资料,均为龙岩都市网版权所有,未经协议授权禁止下载使用。

Copyright © 2000-2020 All Rights Reserved