跳到主要内容
移动世界。
深度学习ai.

深度学习ai是我们周围的。

它运行自动驾驶汽车。它制作医疗诊断。它认识到你的脸和你的声音 - 用于翻译,对于文本的声音,为“嘿,alexa”。对于各种具有不同紧急程度的应用,我们相信深入学习AI。

令人难以置信的强大,能够在难以想象的大数据集中筛选和寻找模式,就像在星星中找到星座,深入学习算法通常可以胜过人类。所以我们使用它们;有时,我们相信他们。但是,利用他们的神经网络,深入学习AI并不像其他机器学习算法。

我们不知道他们在想什么;他们是黑匣子。研究人员正在努力用两种主要方法打开它们:解剖和映射。

在Auburn University,Anh Nguyen,计算机科学与软件工程助理教授,正在解剖图像识别深度学习算法,分析它们的比特。和UC IRVINE计算机科学助理教授的同名辛格正在创建归因地图 - 基本上是算法专注的“热爱图” - 帮助了解如何制作自然语言算法(Alexa如何理解和与之说话,你)开始说出的事情,嗯......种族主义者。

这两种方法各有优缺点。分解算法可以帮助计算机科学家和程序员对正在发生的事情有一个大致的了解,但对一个外行人来说可能毫无意义。而归因图虽然更容易阅读,却不能提供与解剖一样多的细节。

但为什么这些AIS黑匣子开始?为什么我们不明白人类写的计算机程序是想什么?

深度学习vs机器学习

机器学习是一种人工智能的形式,其中AI使用大量的“实际真理”数据来训练给定输出;经典的例子是识别一只猫。喂养机器学习算法数千张标有“猫”的照片,它可以学会识别猫。相当于千年的游戏,可以教它来玩那场比赛。

机器学习的想法日期回到20世纪50年代,尼文说,但只有最近有电脑的马力有效地攻击足够的数据,使其有用。到了20世纪90年代,机器学习算法使用简单但有效的概念来学习。但是更复杂的问题需要更复杂的算法,灵感来自我们眼睛后面的一个。这就是深入学习进入的地方。

与机器学习不同,“深度学习”人工智能不需要结构化数据。它利用了所谓的人工神经网络。神经网络的灵感来自于许多神经元共同工作的人脑,它创建了一层又一层的“神经元”,人工智能通过这些神经元来考虑数据——每一层都提供不同的解释。这些解释合力将数据分类。

问题是这些系统是如此密集,复杂,人类无法理解它们。

问题是这些系统是如此密集,复杂,人类无法理解它们。我们知道输入(数据或任务),我们知道深度学习AI提供的输出(答案或结果)。但是,介于两者之间是一个黑匣子。

如何以及为什么AI从A到B的那些神经反馈层的锁定。

除了令人不安之外,我们不理解的计算机程序也可以做一些不可预测的事情,当它们出错时,我们很难对它们进行逆向工程或纠正。

“一般来说,它归结为原因的问题,”Nguyen说。“为什么神经网络行为这种方式,而不是另一种方式。”

蜈蚣,熊猫和一个浮动的消防车

神经网络在检测图像时非常擅长。喂它们足够的数据,他们可以梳理出对人眼不可见的模式和差异。这种能力将在各种应用程序中使用。有些是生命和死亡 - 就像一个检测行人或诊断工具检测癌症的自主车辆。

不管神经网络有多先进,它仍然是脆弱的:当出现参数之外的东西时,它就会崩溃。深度学习人工智能通常在特定的、狭义定义的任务上优于人类。但是由于它的脆性,当它失败的时候,它的失败是惊人的。

由于算法是一个黑盒,很难甚至不可能确定它为什么搞砸了输出。当图像被错误识别为肿瘤或行人时,后果可能是致命的。一些非常奇怪的图像会导致这些失败。

深度学习ai.

这些模式可能会欺骗深度学习算法,这是一个可能带来灾难性后果的意外结果。下面的模式是人工智能识别的图像。资料来源:Nguyen, A., Yosinski, J. & Clune, J.。

可以摩擦AI的数据被称为“对抗,”,它可能导致通常可靠的神经网络制作真正的奇异错误。静态,波浪脚轮和珊瑚礁彩色条纹的领域将自信地宣布蜈蚣或熊猫。

“我们发现,令人震惊的是,某种方式通过这些奇怪的模式欺骗这些奇怪的模式,”Nguyen说,“我们从未想过的东西。”

正常的图像也会让深度学习人工智能感到困惑。就像上帝爱开玩笑的人,Nguyen可以采取救火车或校车的3D模型,并将其放在任何地方,在照片中。将救火颠倒翻转,Ai看到了一个笨拙的;放大靠近公共汽车的窗户,它变成了一个冲孔。黑匣子里面的东西正在追逐猛拉。

为了找出原因,Nguyen创造了一个名为DeepVis的工具来分析算法。该程序分离并显示单个神经元正在识别的东西。

“这里的想法是了解每个神经元在做什么,”Nguyen说。使用这个程序,Nguyen可以看到哪个神经元正在检测图像中的基本对象。从这里,他可以开始分解它是如何学习的。通过检查每个神经元,我们应该可以理解深度学习算法是如何得到它的输出的。

深度学习ai.

通过改变图像中模型的位置,anh nguyen可以欺骗深度学习ai,使它将校车视为“冲孔袋”。信贷:anh nguyen和Auburn大学团队

即使有DeepVis,黑匣子也可能完全打开。神经元军团的纯粹复杂性可能很难理解:这是一个灰色的盒子。

Nguyen说,由于这种复杂性,解剖对于AI开发人员来说最有用。他们提供的详细资料可以帮助他们获得对破解黑匣子所需的神经网络训练的更深入了解。

但是,与计算机科学家不像医生看肿瘤一样难以理解的人,这使得相同数量的细节使其变得非常困难 - 了解正在发生的事情。

为了更方便用户查看,映射可能是一种方法。

深度学习思考是什么?归因地图尝试向我们展示

它很搞笑 - 有点生病 - 对深度学习AI来说,对抗性数据可以做些什么。带有汽车崩溃的文本生成的AI随机字母和单词可以在...中反应...有趣的方式。

“它开始生成种族主义文本,”UC Irvine的同胞Singh说,他们侧重于破解自然语言处理(NLP)算法的黑匣子,了解并回复我们的算法。“完全是种族主义者。”

为了找出人工智能正在研究的语言部分,辛格使用了一种名为“归因图”的工具。在生成文本的NLP算法中插入语言,属性图将突出显示某些部分,向你展示神经网络中“亮起”的是什么——可能是某个字母组合。

“它开始产生种族主义文本。”

同胞辛格

辛格说:“被强调的东西对预测或模型的输出有很大的影响。”利用这些信息,辛格可以利用有意的对抗触发机制,试图发现问题,并理解深度学习算法中的联系。

辛格的团队通过使用他们发现的单词开发了这些特殊的触发器,算法键入了键入。然后,他们按照他们的地图所说的模板修改这些单词,该算法最为“兴趣”。该最终结果是一系列的单词和半拼写,唤起种族主义的修辞。

归因地图对解释AIS来说,归因地图尤为有助于解释人们。使用医疗模型的医生可能不知道如何阅读神经元逐个细分。但是,如果他们看到一个归因地图,则显示算法在算法上的图像上的位置,这可能足以为他们提供AI在思考的内容。

就像一个神经元接一个神经元的复杂方法一样,归因图也有缺点。

“要了解的是,这些归属地图也是近似的,”Singh说 - 不同的地图生成器可能不同意彼此。

但是,大致的理解可能是我们可以得到的最好的理解。

人类黑匣子

复杂问题实际上需要深度学习算法。nguyen说,深入学习ai是无处不在和神秘的LV-426上的Ripley,我们被外星人包围。随着算法变得更加复杂,有能力和难以承力的,黑匣子周围的问题进一步进入了哲学中:如果我们自己的仍然是神秘的,需要完全透明的神经网的完全透明度是公平的?

人类的思想本身可能是最好的,灰色的盒子。我们知道一些结构,并了解他们是如何工作的。但是“认为和“意识”仍然是未知的。为什么一个模仿人类大脑的系统会有任何不同呢?

虽然重要的是,这种抽象难题并没有像在街道上驾驶或识别癌症肿瘤的黑匣子一样紧迫。像Nguyen和Singh这样的研究人员似乎在夜间自身争斗某些东西:问题越挑战,神经网的复杂越复杂,框架。

“整个领域还远远不能解决这个问题,”Nguyen说。他认为我们最终可能会接受一个灰色盒子。Nguyen说,如果你有一个工作出色的复杂模型,它可能是不可解释的。

“没有免费午餐。”

下一个

分派
ai会让你更聪明
ai会让你更聪明
分派
ai会让你更聪明
人工智能将以一种令你惊讶的方式,成倍地增加你自己的智能。
经过Terrence Sejnowski.

人工智能将以一种令你惊讶的方式,成倍地增加你自己的智能。

挑战者
AI可以解决我们最大的问题吗?
AI可以解决我们最大的问题吗?
看现在
挑战者
AI可以解决我们最大的问题吗?
替代认为智能机器可以解决几乎每个问题人类都不能。
看现在

Vicarious的联合创始人斯科特·菲尼克斯(Scott Phoenix)相信,智能机器有一天可以治愈癌症,创造新型能源,并解决人类根本无法解决的几乎所有问题。在杰夫·贝佐斯和马克·扎克伯格等投资者的支持下,Vicarious正努力在我们的有生之年实现这样的未来。

挑战者
迎接启动开发人类水平的人工智能
迎接启动开发人类水平的人工智能
挑战者
迎接启动开发人类水平的人工智能
The story of Vicarious’mission to build The world’s first human level artificial intelligence and use it to help…
经过迈克·里格斯

Vicarious的任务是建立世界上第一个人类水平的人工智能,并利用它来帮助人类繁荣。

挑战者
你应该开始学习人工智能。就是这样。
你应该开始学习人工智能。就是这样。
挑战者
你应该开始学习人工智能。就是这样。
有很多不同的人工智能水平以很多不同的方式应用。这是...
经过迈克·里格斯

有很多不同的人工智能水平以很多不同的方式应用。这是一个底漆,开始将头部包裹着。

分派
FDA批准AI“医生”,可以看到你眼中的疾病
FDA批准AI“医生”,可以看到你眼中的疾病
分派
FDA批准AI“医生”,可以看到你眼中的疾病
如何将人工智能转换医学?
医学突破
ai在制作阿尔茨海默氏症的诊断时击败神经科学家
阿尔茨海默氏症的诊断
医学突破
ai在制作阿尔茨海默氏症的诊断时击败神经科学家
科学家们创造了一个能够制作阿尔茨海默诊断的AI,这些诊断比一群神经根学家递送的人更准确。

科学家们创造了一个能够制作阿尔茨海默诊断的AI,这些诊断比一群神经根学家递送的人更准确。

人工智能
生活结束ai
生活结束ai
人工智能
生活结束ai
与病人讨论临终关怀和姑息治疗很关键,但也很困难。人工智能可以帮忙吗?

与病人讨论临终关怀和姑息治疗很关键,但也很困难。人工智能可以帮忙吗?

新的空间比赛
这是新的太空竞赛
这是新的太空竞赛
新的空间比赛
这是新的太空竞赛
人类登上月球已经44年了,新一代的企业家正在铺设…
经过迈克·里格斯

自人类踩到月球上已经44年了,新一代企业家正在为我们奠定基础。

超人的
机器人轮椅革命
机器人轮椅革命
看现在
超人的
机器人轮椅革命
部分轮椅。部件机器人。这是可访问性的未来吗?
看现在

Rory Cooper如何在人们考虑使用轮椅时建造定制轮椅,他们可能无法设想定制设计。相反,他们描绘了一个庞大的框架,障碍坡道,用古代轮椅升降机运输的特殊面包车,以及过去的设计。悲伤的真相是六脚架技术在过去的200年里很少发生变化。随着时间的推移,这些日期设计可能导致身体伤害......