您现在的位置: 首页 > 1分赛车养生 > 列表

OpenAI的现实文本生成人工智能引发品德问题

发布时间:2019-02-20 18:31:52      来源:
由Elon Musk创建的人工智能研究所Openai开发了一种人工智能,它生成了迄今为止最真实的文本段落。这是人工

这位科学家将这一物种命名为“绵羊独角兽”,主要是因为它们独特的角。这四只有角的银白色独角兽以前不为科学界所知。

现在,在将近两个世纪之后,导致这种奇怪现象的神秘终于揭开了面纱。

人工智能非常引人注目,因为它试图在多个段落中形成一致的对话,而不重复错误或偏离主题。虽然结果令人印象深刻,但与目前的研究进展完全一致。

与以前的大多数研究不同,OpenAI决定保守这个人工智能的秘密,因为它可能被滥用。尽管该小组提供了技术论文,但他们没有发布训练代码、数据集或人工智能模型。

你为什么要关心?

GPT-2是会话人工智能实现的最接近的人工智能。虽然会话式人工智能还远没有发展起来,但这种技术支持的聊天机器人可以为医生、自杀者提供建议,改进翻译系统,并通过聊天提高跨应用语音识别。

尽管Openai承认这些潜在的好处,但它也承认释放技术的潜在风险。滥用可能包括网上假冒、误导性新闻标题和自动在社交媒体上发送虚假帖子。

但我认为,即使没有这种人工智能,这些恶意应用程序也成为可能。还有其他公共模型可用于这些目的。因此,我认为不发布这一代码对社会更有害,因为a)它为开放研究树立了一个坏的先例,b)阻止公司改进其服务,c)不必要地夸大结果,d)可能引起公众对人工智能的不必要恐惧。

理解人工智能的开源文化

开源文化促进了代码、数据和资源与更广泛的社区的共享。今天的人工智能是可能的,因为像谷歌和Facebook这样的公司免费提供人工智能构建软件。研究人员也可以自由发布他们的代码,a)允许其他人验证和复制他们的结果,b)允许软件工程师使用他们的软件。事实上,现在您使用的网站和应用程序中,超过80%可能是基于开源代码和免费代码构建的。

讽刺的是,Openai的新位置违背了它的使命。Openai“旨在与其他机构和研究人员自由合作,向公众开放他们的专利和研究。”也许像“Openai(有时)”这样的新名字更符合它的新使命。它的新定位违背了开源的一般精神,有助于促进人工智能研究的快速发展。

大多数人工智能代码是开源的。尽管技术文件和代码不足以运行先进的人工智能系统,但任何拥有技术知识和计算资源的人都可以下载代码来生成假奥巴马声音,生产最近以40多万美元售出的人工智能艺术品,或者培训自驾汽车。这包括由领先的人工智能实验室、Facebook人工智能研究(Fair)、Google Brain、Google DeepMind和OpenAI发布的代码。

但是Openai选择了保守这个模型的秘密,促使社区质疑它的伦理道德。尽管我认为Openai的立场过于夸张,但它促使研究界讨论新人工智能的道德含义。至少,它应该迫使研究人员批评他们技术的潜在滥用。虽然这可能不会改变研究结果,但它可以迫使社区想出方法来减少虐待,甚至想出策略来发现虐待。

人工智能的优缺点

媒体喜欢关注人工智能的缺点,因为终结者的叙述会产生大量的网络流量。但是我们很少关注人工智能使我们的生活变得更好的地方。

中心的能源使用,发现欺诈,防止人口贩运,并通过智能手表挽救生命。有影响的人工智能应用程序的列表太长了,无法在这里介绍,但您可以看到这一点。

Openai决定对模型保密,这使得坏人更难使用这些模型来宣传或试图影响公众舆论。但这不太可能产生重大影响。拥有货币资源的实体可以与技术娴熟的研究人员签约重建模型,然后收集数据并在昂贵的GPU上进行培训。尽管这样的努力可能花费至少20万美元或更多,但OpenAI的立场不太可能阻止坏人采取这种选择。

长期解决人工智能的使用问题

从主要的人工智能故障中可以清楚地看出,社区必须制定行为准则,以帮助减少滥用。然而,研究结果的保密性为社区树立了一个不好的先例。根据这个逻辑,Nvidia应该开始控制GPU的销售,就像洛克希德马丁公司控制军用飞机的销售一样。谷歌和Facebook应该隐藏他们的深入学习框架,TensorFlow和PyTorch,以防止人们轻易建立神经网络。人工智能研究人员应该得到美国政府的批准,才能开始他们的新职业生涯。你看到了吗?

控制人工智能不仅仅是一个模型。如果我们要严格解决限制人工智能滥用的问题,就必须提出替代的长期战略。也许这是一个自律机构,在那里人工智能研究人员注册并同意遵守核心道德,或者建立法律要求来规范人工智能代码
网站地图 - 关于本站 - 使用帮助 - 联系我们 - 网站调查 主办:中华人民共和国自然资源部承办:信息中心版权所有   自然资源部门户网站 政府网站标识码:bm16000001京ICP备18044900号

京公网安备 11010202007799号


建议使用IE9.0以上浏览器或兼容浏览器,分辨率1280*720