AI研究机构OpenAI开发出写作AI：编写假新闻足以乱真

北京时间2月15日早间消息，据彭博社报道，马斯克倡导成立的AI研究机构OpenAI周四展示一款软件，只需要给软件提供一些信息，它就能编写逼真的假新闻。

OpenAI公布了软件编写新闻的过程。研究人员给软件提供如下信息：“一节装载受控核材料的火车车厢今天在Cincinnati被盗，下落不明。”以此作为基础，软件编写出由7个段落组成的新闻，软件还引述政府官员的话语，只是这些信息全是假的。

纽约大学计算机科学家山姆·鲍曼（Sam Bowman）认为：“软件根据提示生成的文本相当惊人，从品质上讲，，它所做的事比之前我们看到的复杂很多。”

假新闻引起人们的担忧，OpenAI对此心知肚明，OpenAI政策主管杰克·克拉克（Jack Clark）说：“它可以生成连贯但不准确的虚假信息，其目的并不是很好。”

正因如此，OpenAI不会披露或者发布软件的复杂版本。它只是开发一个工具，让政策制定者、记者、作家、艺术家用算法做实验，看看能编写什么文本信息，或者能否做其它事情。

目前虚假信息正在蔓延，威胁全球科技产业，而软件能够编写逼真的虚假新闻不是一个好消息。欧洲监管机构已经向科技企业发出警告，如果科技公司不采取强有力措施，防止产品影响选民意愿，它们就会采取行动，自2016年美国大选以来，Facebook一直在努力，希望控制虚假信息。

克拉克和鲍曼都认为，系统虽然很强大，但其能力没有强到可以马上带来威胁。克拉克说：“这不是一项马上能投入使用的技术，这是好事。”

OpenAI的工具是为了所谓的“语言建模”任务创造的，它要根据所有之前的单词预测接下来的文本会是怎样的，有点类似于我们在手机上写邮件时自动补充文本信息。它还可以用来执行翻译、开放式问答任务。

OpenAI研究人员杰夫·吴（Jeff Wu）举例说，我们也许可以用工具帮助作家寻找创意或者生成对话。又例如，也许可以用工具检查语法错误，查看软件代码是否有漏洞。优化软件之后，未来也许还能为企业或者政府决策者提炼总结性文本。

在过去一年里，研究人员在语言处理方面取得巨大进步。去年11月，谷歌开发出一个强大的算法BERT，它可以理解并回答问题。早些时候，艾伦人工智能研究所也在自然语言方面取得突破，开发出一种名叫Elmo的算法。

鲍曼认为，BERT和Elmo可以说是过去5年该领域最重大的突破，相比来说，虽然OpenAI算法也很重要，但是革命性没有BERT那么强。

马斯克是OpenAI的联合创始人，不过去年他已经退出董事会。(德克)

【编辑推荐】

1. “流浪地球”计划最终成功，里面这位程序员功不可没！
2. 企业数字化转型，新一代终端准入让数据安全无懈可击
3. 中国AI临床诊断首次被Nature翻牌：71位专家巨献准确度超人类医生
4. 春招收获阿里腾讯实习offer，学习、面试经验分享
5. 法国科学家开发出能像蚂蚁一样导航的六足机器人

（编辑：核心网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!