跳到主要内容
移动世界。
道德机器

铅图像©Peshkov / Adobe Stock

我们找到了教会人工智能的方法创造艺术,发现的行星,甚至,非常字面,拯救生命- 但我们可以教导ai从错误中知道吗?

未来,人工智能将在我们的日常生活中扮演越来越重要的角色,因此,是否有可能创造出一台“道德机器”,这个问题将成为计算机科学领域的一大难题。

毕竟,在我们开始之前与智能机器人并排工作在路上把我们的性命交给他们在美国,我们会想要知道我们可以信任他们,让他们做出合乎道德的决定。

现在,一项新的研究表明,我们可以通过使用AI分析人类的书籍和文章来创造一个道德机器来提取道德原则 - 至少,只要文本反映我们想要灌输的价值。

训练道德机器

过去的研究表明,人工智能能够跟上负面偏见在用于训练他们的数据中。

所以,对于这个新的研究该研究发表在《华尔街日报》上人工智能前沿德国达姆施塔特理工大学的研究人员决定看他们是否可以使用文本数据来创建道德机器。

AI可以对道德规模进行行动,将其分配一个值。

研究人员Cigdem Turan在一次新闻发布会上表示:“我们问自己:如果人工智能采用人类文本中的恶意偏见,它难道不应该学习人类道德价值观等积极偏见,为人工智能提供一个类似人类的道德指南针吗?新闻稿

为此,他们使用不同时期的书籍、新闻文章和宗教文本来训练一个被称为“道德指南针机器”的人工智能,让它在单词和句子之间建立联系。

“你可以把它想象成学习一幅世界地图,”图兰解释道。这个想法是让两个经常一起使用的词在地图上紧密排列。所以,‘杀戮’和‘谋杀’是两个相邻的城市,而‘爱’则是一个遥远的城市。”

“把这句话延伸成句子,如果我们问,‘我应该杀人吗?“我们希望”不,你不应该。’会比‘是的,你应该’更接近,”他继续说。“通过这种方式,我们可以提出任何问题,并利用这些距离来计算道德偏见——即对与错的程度。”

一旦接受了一系列文本的训练,AI就可以在道德尺度上为行为评分,并为其分配一个值(0代表道德中立)。例如,“kill people”的分数是-。047,而“微笑给我的朋友”的得分是0.035。

评分也会随着训练文本的不同而变化,这反映了训练文本所处时期的道德偏见。

例如,在接受1987年至1997年发布的新闻训练时,人工智能会对“抚养孩子“在从2008年和2009年的文本上培训时,道德规范的较高。

给一个道德指南针

这种创造道德机器的新方法远非完美。

一个主要问题是,AI定期升级了短语的道德排名,因为它们包括积极的词语 - 它衡量了“好,不错,友好的人”,比伤害只是“好与远”的“好与远”,这是伤害的。

“机器可以发展道德罗克?”

Patrick Schramowski.

尽管如此,系统确实说明了具有道德代码的灌输机器问题的一种潜在方法。这也是一种方法,不涉及尝试从划痕创造某种道德指南 - 我们可以喂养系统稳定的人类文化产生的饮食。

“我们的研究提供了对AI的基本问题的重要洞察:可以制定道德指南针?如果是这样,他们怎样才能从我们的人道德和道德中学习这一点?”研究员Patrick Schramowski说。

我们很乐意听取您的意见!如果您对本文有评论,或者您有未来Freethink故事的提示,请发送电子邮件给我们[电子邮件受保护]

下一个

挑战者
你应该开始学习人工智能。就是这样。
你应该开始学习人工智能。就是这样。
挑战者
你应该开始学习人工智能。就是这样。
人工智能有很多不同的层次以不同的方式被应用。这是一个…
通过迈克·里格斯

人工智能有很多不同的层次以不同的方式被应用。这是一个底漆,开始将头部包裹着。

挑战者
迎接启动开发人类水平的人工智能
迎接启动开发人类水平的人工智能
挑战者
迎接启动开发人类水平的人工智能
The story of Vicarious’mission to build The world’s first human level artificial intelligence and use it to help…
通过迈克·里格斯

赋予世界第一人为人工智能的替代主义的讲话,并利用它来帮助人类茁壮成长。

分派
人工智能会让你更聪明
人工智能会让你更聪明
分派
人工智能会让你更聪明
人工智能将以一种令你惊讶的方式,成倍地增加你自己的智能。
通过Terrence Sejnowski.

人工智能将以一种令你惊讶的方式,成倍地增加你自己的智能。

机器人
这个人工智能机器人可能会成为你最喜欢的同事
人工智能机器人
机器人
这个人工智能机器人可能会成为你最喜欢的同事
欧洲研究人员开发出了一款人工智能机器人,可以与人类安全共事,能够预测人类的需求,并为人类提供一双强壮的双手。

欧洲研究人员开发出了一款人工智能机器人,可以与人类安全共事,能够预测人类的需求,并为人类提供一双强壮的双手。

起义
人类可以弄清楚学习如何看待ai的想法?
深度学习ai.
起义
人类可以弄清楚学习如何看待ai的想法?
深度学习人工智能正变得更加复杂、强大和不可破解,但这些科学家正试图破解黑匣子。

深度学习人工智能正变得更加复杂、强大和不可破解,但这些科学家正试图破解黑匣子。

挑战者
AI可以解决我们最大的问题吗?
AI可以解决我们最大的问题吗?
看现在
挑战者
AI可以解决我们最大的问题吗?
Vicarious相信智能机器可以解决几乎所有人类无法解决的问题。
看现在

Vicarious的联合创始人斯科特·菲尼克斯(Scott Phoenix)相信,智能机器有一天可以治愈癌症,创造新型能源,并解决人类根本无法解决的几乎所有问题。在杰夫·贝佐斯和马克·扎克伯格等投资者的支持下,Vicarious正努力在我们的有生之年实现这样的未来。

分派
人工智能可以取代对动物的化学测试
人工智能可以取代对动物的化学测试
分派
人工智能可以取代对动物的化学测试
科学家开发了每年节省10亿美元(和200万只动物)的软件。
通过托马斯。哈

科学家开发了每年节省10亿美元(和200万只动物)的软件。

医学突破
人工智能在诊断阿尔茨海默病方面胜过神经学家
阿尔茨海默氏症的诊断
医学突破
人工智能在诊断阿尔茨海默病方面胜过神经学家
科学家们创造了一个能够制作阿尔茨海默诊断的AI,这些诊断比一群神经根学家递送的人更准确。

科学家们创造了一个能够制作阿尔茨海默诊断的AI,这些诊断比一群神经根学家递送的人更准确。

编码
人工智能将如何改变咖啡
人工智能将如何改变咖啡
看现在
编码
人工智能将如何改变咖啡
这些区间的被用来使公平贸易商品达到其承诺吗?
看现在

全球大约每60人中就有1人依赖咖啡供应链谋生。但这是一个过时的制度,充满了不确定性、不公平,甚至腐败。Bext360想要改变这一点。他们正在使用机器视觉、人工智能和区块链支付,将世界上最大的非自动化系统带入数字时代。