为什么Facebook会停止对人工智能的研究?

发布时间:2018-12-29 作者:jason

回答一:

Facebook的研究人员在创建自己的语言后关闭了人工智能(AI)程序。

该系统开发了代码字以提高通信效率,研究人员在意识到它不再使用英语时将其下线。

这一事件在7月初公布之后,让特斯拉首席执行官埃隆马斯克对人工智能发出了警告。

马克在7月份的美国全国州长协会会议上说:“人工智能是一种罕见的情况,我认为我们需要积极主动地进行监管,而不是被动。” “因为我认为,当我们在人工智能监管中被动反应时,为时已晚。”

Facebook首席执行官马克扎克伯格称马斯克的警告“非常不负责任”,促使马斯克回应扎克伯格对人工智能及其影响的理解是“有限的”。


不是第一次

研究人员遇到神秘的AI行为与其他地方记录的案例类似。在每种情况下,AI都会从英语培训中脱离出来开发一种新语言。

新语言中的短语对人们没有意义,但在AI机器人解释时包含有用的含义。

Facebook的高级AI系统能够与其他AI系统进行协商,因此可以就如何继续执行其任务得出结论。这些短语在表面上没有任何意义,但实际上代表了预期的任务。

在Facebook向Fast Co. Design透露的一次交流中,两个谈判机器人 - 鲍勃和爱丽丝 - 开始使用他们自己的语言来完成对话。

“我可以做其他一切,”鲍勃说。

“对我来说,对我来说球对我来说是对我来的,对我来说是给我的,”爱丽丝回应道。

其余的交换形成了新伪造方言中这些句子的变体,即使AI被编程为使用英语。

根据研究人员的说法,这些无意义的短语是机器人开发的一种语言,用于传达交换中每个应该有多少项目。

当鲍勃后来说“我可以做其他事情”时,看来人工智能机器人用它的新语言向爱丽丝提出要约。

Facebook团队认为机器人可能会说:“我会有三个,你还有其他一切。”

尽管英语对人类来说似乎非常有效,但AI可能已经将该句子视为冗余或不太有效以达到其指定的目标。

Facebook AI显然确定英语中富含单词的表达不需要完成其任务。AI以“奖励”原则运作,在这种情况下,没有继续使用该语言的奖励。所以它发展了自己的。

在Facebook的AI团队的6月博客文章中,它解释了奖励系统。“在每个对话结束时,代理商会根据它同意的交易获得奖励。”然后,奖励通过机器人输出中的每个单词进行反向传播,以便了解哪些行为会带来高回报。

“代理商将偏离可理解的语言并为自己发明代码词,”Facebook AI研究员Dhruv Batra告诉Fast Co. Design。

“就像我说''五次',你解释为我想要这个项目的五个副本。这与人类社区创造短途的方式并没有太大的不同。“

其他公司的AI开发人员也观察到程序开发语言以简化通信。在Elon Musk的OpenAI实验室,一个实验成功地让AI机器人开发了他们自己的语言。

在谷歌,从事翻译服务的团队发现,他们编程的人工智能默默地编写了自己的语言,以帮助翻译句子。

Translate开发人员在系统中添加了一个神经网络,使其能够在从未学过的语言对之间进行翻译。AI默默地写的新语言令人惊讶。

没有足够的证据表明这些无法预见的AI差异是一种威胁,或者它们可能导致机器接管运营商。然而,它们确实使开发变得更加困难,因为人们无法掌握新语言的压倒性逻辑性质。

例如,在谷歌的情况下,人工智能开发出了一种人类无法掌握的语言,但它可能是解决问题的最有效方法。

在Facebook向Fast Co. Design透露的一次交流中,两个谈判机器人 - 鲍勃和爱丽丝 - 开始使用他们自己的语言来完成对话。

“我可以做其他一切,”鲍勃说。

“对我来说,对我来说球对我来说是对我来的,对我来说是给我的,”爱丽丝回应道。

其余的交换形成了新伪造方言中这些句子的变体,即使AI被编程为使用英语。

根据研究人员的说法,这些无意义的短语是机器人开发的一种语言,用于传达交换中每个应该有多少项目。

当鲍勃后来说“我可以做其他事情”时,看来人工智能机器人用它的新语言向爱丽丝提出要约。

Facebook团队认为机器人可能会说:“我会有三个,你还有其他一切。”

尽管英语对人类来说似乎非常有效,但AI可能已经将该句子视为冗余或不太有效以达到其指定的目标。

Facebook AI显然确定英语中富含单词的表达不需要完成其任务。AI以“奖励”原则运作,在这种情况下,没有继续使用该语言的奖励。所以它发展了自己的。

在Facebook的AI团队的6月博客文章中,它解释了奖励系统。“在每个对话结束时,代理商会根据它同意的交易获得奖励。”然后,奖励通过机器人输出中的每个单词进行反向传播,以便了解哪些行为会带来高回报。

“代理商将偏离可理解的语言并为自己发明代码词,”Facebook AI研究员Dhruv Batra告诉Fast Co. Design。

“就像我说''五次',你解释为我想要这个项目的五个副本。这与人类社区创造短途的方式并没有太大的不同。“

其他公司的AI开发人员也观察到程序开发语言以简化通信。在Elon Musk的OpenAI实验室,一个实验成功地让AI机器人开发了他们自己的语言。

在谷歌,从事翻译服务的团队发现,他们编程的人工智能默默地编写了自己的语言,以帮助翻译句子。

Translate开发人员在系统中添加了一个神经网络,使其能够在从未学过的语言对之间进行翻译。AI默默地写的新语言令人惊讶。

没有足够的证据表明这些无法预见的AI差异是一种威胁,或者它们可能导致机器接管运营商。然而,它们确实使开发变得更加困难,因为人们无法掌握新语言的压倒性逻辑性质。

例如,在谷歌的情况下,人工智能开发出了一种人类无法掌握的语言,但它可能是解决问题的最有效方法。


最后,我认为技术应该推进,以减少人类的努力,使生活变得轻松; 但不是为了让人类成为奴隶!

回答二:

Facebook的研究人员在创建自己的语言后关闭了人工智能(AI)程序。

该系统开发了代码字以提高通信效率,研究人员在意识到它不再使用英语时将其下线。

在每种情况下,AI都会从英语培训中脱离出来开发一种新语言。新语言中的短语对人们没有意义,但在AI机器人解释时包含有用的含义。

Facebook的高级AI系统能够与其他AI系统进行协商,因此可以就如何继续执行其任务得出结论。

在Facebook向Fast Co. Design透露的一次交流中,两个谈判机器人 - 鲍勃和爱丽丝 - 开始使用他们自己的语言来完成对话。

“我可以做其他一切,”鲍勃说。

“对我来说,对我来说球对我来说是对我来的,对我来说是给我的,”爱丽丝回应道。

其余的交换形成了新伪造方言中这些句子的变体,即使AI被编程为使用英语。

根据研究人员的说法,这些无意义的短语是机器人开发的一种语言,用于传达交换中每个应该有多少项目。

当鲍勃后来说“我可以做其他事情”时,看来人工智能机器人用它的新语言向爱丽丝提出要约。

尽管英语对人类来说似乎非常有效,但AI可能已经将该句子视为冗余或不太有效以达到其指定的目标。

Facebook AI显然确定英语中富含单词的表达不需要完成其任务。AI以“奖励”原则运作,在这种情况下,没有继续使用该语言的奖励。所以它发展了自己的。

因此,为了避免与原始项目进一步分歧,必须从AI中提取插头。

回答三:

震惊和敬畏!这些是最近在科技市场掀起热潮的热门新闻。当技术大亨埃隆马斯克说人工智能是对人类生存的潜在威胁时,同时我们得到Facebook的聊天机器人开始开发自己语言的消息。显然,伊隆马斯克的观点达到了顶峰,facebook立即关闭了它的人工智能程序。

现在,正在播出的新闻是因为Facebook实验室发生的以下事件:

1.导致人工智能关闭的主要事件不是“人工智能已接管世界各地的计算机或某种尝试打破加密算法并侵入核发射代码,但他们停止使用他们被命令的英语语言,但是开发自己的编程语言。“这使得事情”离开研究人员手中!”

2.主要问题是AI被编程为使用英语作为他们的编程语言,但后来他们开发了自己的语言。因此,他们无视他们的目的。

3.这发生在6月,当时在Facebook人工智能研究(FAIR)实验室工作的研究人员发现,当他们忙于改进聊天机器人时,“对话事件”导致AI创建自己的语言。

4.媒体报道称,很快,机器人开始偏离脚本规范,并开始用一种全新的语言进行交流,而这些语言是在没有人为输入的情况下创建的。

5.使用机器学习算法,“对话代理人”可以自由交谈,以加强他们的会话技巧。

6.研究人员发现这些机器人“非常狡猾的谈判者”。在学习谈判之后,这些机器人正在使用机器学习来尝试这些谈判的新结果。

7.最初出现了巨大的飞跃,但许多伟大的科技领导者和物理学家已经表现出他们对人工智能的重新审视。

8.这些不仅包括Elon Musk,还包括慈善家Bill Gates,物理研究员Stepehen Hawkins以及Apple的前联合创始人Steve Wozniak。

9.令人感兴趣的是,事件发生在Elon Musk和Mark Zuckerberg之间发生口头争吵之后的几天。

看看Elon Musk发推文:

“我和Mark谈过这个问题(大赦国际)。他对这个问题的理解是有限的。“

作为回应,扎克伯格说:

“我认为那些反对者并试图鼓起这些世界末日的情景。我只是,我不明白。这真的是消极的,在某种程度上我认为这是非常不负责任的。”

马斯克一直在谈论人工智能“它是(AI)我们作为文明面临的最大威胁。”


息息.AI生活.更简单 xixi生活

©2016-2018 成都轻雨科技有限公司 Made in chengdu

蜀ICP备 17039669号-1

更多ai生活 请关注息息公众号