UIUC李博从技术角度实现AI可信,从博

人工智能算法在现实世界中的落地,从来都离不开两个研究范畴:一是模型性能强大可用,二是设计逻辑安全可信。

访谈|李梅、刘冰一

作者|李梅

编辑|陈彩娴

年4月23日的午后一点,美国各大交易所的平静被骤然打破,办公室里一台台电话响个不停,同时夹杂着工作人员急躁的咆哮声,惊恐与不安的情绪四处窜开。

华尔街的金融精英们正在经历着他们所能想象到的最可怕的危机:

短短5秒内,标普市值就被抹去了亿美元!

股市突然遭遇如此疯狂的大跳水,其直接的导火索是美联社官方推特账户发出的一条仅包含12个词的短快讯:

Breaking:TwoExplosionsintheWhiteHouseandBarackObamaisinjured.(突发:白宫发生两起爆炸,贝拉克·奥巴马受伤。)

这一重磅政治新闻给金融界投放了一颗「信息炸弹」,消息被大量传播后,股票市场顿时陷入一片混乱。

然而,这场风波从开始到结束,只持续了大约4分钟。

美联社很快声明白宫遇袭为虚假新闻,白宫发言人也出面表示「总统安然无恙」,各路股票指数旋即回归常规水平,资本市场迅速恢复平静。

数小时后,发布假新闻的幕后黑手也浮出了水面——一个叫做“叙利亚电子军”(SyrianElectronicArmy)的、罪行累累的黑客组织黑入了美联社账号。

回看整起事件,引人深思的是:为何社交媒体上的一点风吹草动就能在资本市场引发如此剧烈的反应?

这是因为,在算法赋能金融交易的场景下,股票交易算法在社交网站上抓取到「有价值」的新闻后,会自动执行股票交易行为,从而引发一系列连锁反应。

对人类而言,其实不难识别和求证新闻的真实性,比如当时就有人提醒,美联社一贯的风格是称呼「奥巴马总统」,而不是直呼其名。但对于缺乏常识信息的机器学习模型来说,辨别这一点却很困难,以至于会在真实世界中造成巨大损失。这也是我们以「智能」代替「人工」所可能要承受的代价之一。

在九年后的今天,人工智能和机器学习在现实物理世界中的应用已经变得更加广泛。但AI远非万能,机器学习模型在可信任性方面已经暴露出令人忧心的问题。在我们所生活的世界中,不仅有无法识别假新闻的愚蠢的AI,更存在着危险的AI。

比如在自动驾驶、智慧医疗等对安全性要求非常高的场景中,模型的「失之毫厘」会带来「差之千里」的危险后果。同时,数据隐私的问题也日益突出。得益于生物信息识别技术的开发,在机场、火车站等场所,人们在机器上刷个脸、摁个指纹,就能方便快捷地完成安检程序。但这些海量的生物信息被采集和存储起来,也为不法分子提供了可乘之机,黑产链买卖盗用人脸信息去实施诈骗的新闻并不罕见。

所以,人类要如何信任AI?人类可以放心地把财产管理让渡给算法、把生命健康托付给模型、把隐私信息拱手交给机器吗?

可信AI,正是一个致力于让AI更安全、让人类对AI更放心的一个研究领域,目前也已经有越来越多的研究者意识到可信机器学习的重要性并投入其中,李博便是其中之一,而且是当中的一位佼佼者。

图注:李博在新加坡高校举办的学术论坛上作演讲,以年AI算法对美国股票的波动影响来诠释可信机器学习研究的重要性

从本科就读同济大学信息安全专业开始,李博就


转载请注明:http://www.aierlanlan.com/rzdk/4814.html