ggtop
您所在位置:商业财经网 > 财经 >

OpenAI宣布组建新团队以控制“超级智能”人工智能

2023-07-06 12:43 来源:TechWeb   阅读量:15822   

,美国当地时间周三,人工智能初创公司OpenAI宣布其正组建一个新的团队,以开发引导和控制“超级智能”人工智能系统的方法。这个团队由OpenAI首席科学家、联合创始人伊利亚·苏斯克维尔(Ilya Sutskever)领导。

在博客文章中,苏斯克维尔和OpenAI协调团队的负责人简·莱克预测,智能超过人类的人工智能将在十年内出现。他们警告称,这种人工智能不一定对人类抱有仁慈之心,因此有必要研究控制和限制它的方法。

苏斯克维尔和莱克写道:“目前,我们还没有任何解决方案可以用来操纵或控制潜在的超级智能人工智能,并防止它失控。我们目前调整人工智能的技术,比如从人类反馈中强化学习,依赖于人类监督人工智能的能力。但人类将无法可靠地监督比我们聪明得多的人工智能系统。”

为了在“超级智能对齐”领域取得进展,OpenAI正在创建新的超级对齐团队,由苏斯克维尔和莱克共同领导,该团队将有权使用OpenAI高达20%的算力资源。这个团队将与OpenAI之前的对齐部门科学家和工程师以及公司其他机构的研究人员一起,致力于在未来四年解决控制超智能人工智能的核心技术挑战。

那么,我们如何确保比人类聪明得多的人工智能系统遵循人类的意图? 这需要苏斯克维尔和莱克所描述的“人类级别的自动对齐研究员”帮助。高级目标是使用人类反馈来训练人工智能系统,训练人工智能协助评估其他人工智能系统,并最终构建可以进行对齐研究的人工智能。这里的“对齐研究”指的是确保人工智能系统达到预期的结果,或者不会偏离研究轨道。

OpenAI的假设是,人工智能可以比人类更快、更好地进行对齐研究。

“随着我们在这方面取得进展,我们的人工智能系统可以接管越来越多的对齐工作,并最终构思、实施、研究和开发比我们现在更好的对齐技术,”莱克和他的同事约翰·舒尔曼、杰弗里·吴(Jeffrey Wu)在之前的一篇博客文章中假设。“它们将与人类共同努力,以确保它们自己的继任者与人类始终保持一致。人类研究人员将越来越多地把精力集中在审查人工智能系统完成的对齐研究上,而不是自己进行这类研究。”

当然,没有任何方法是万无一失的,莱克、舒尔曼以及杰弗里·吴在他们的文章中承认,OpenAI的方法存在许多局限性。他们说,使用人工智能进行评估有可能扩大人工智能中的不一致、偏见或漏洞。结果可能是,对齐问题中最困难的部分可能根本与工程无关。

但苏斯克维尔和莱克认为值得一试。他们写道:“从根本上说,超级智能对齐是一个机器学习问题,我们认为优秀的机器学习专家对解决这个问题也至关重要。我们计划广泛分享这一努力的成果,并将促进非OpenAI模型的一致性和安全性视为我们工作的重要组成部分。

郑重声明:此文内容为本网站转载企业宣传资讯,目的在于传播更多信息,与本站立场无关。仅供读者参考,并请自行核实相关内容。

最新资讯

  • 供应商透露小米汽车最新进展:第一款车型已报价完毕

    ,小米汽车又有新进展。昨日,长春一汽富维汽车零部件股份有限公司在互动平台透露,当前,小米第一款车型报价完毕。 一汽富维称,“公司正在积极与小米汽车进行业务沟通,多家分子公司已经进入到小米汽车的采购组...

    2023-07-05 11:57

  • ChatGPT的Bing浏览功能让用户免费阅读付费内容,OpenAI暂停

    感谢IT之家网友残风落叶几时休的线索投递! ,OpenAI的聊天机器人ChatGPT在上周推出了一个新功能,叫做“用Bing浏览”,仅向ChatGPTPlus订阅者提供。 据IT之家了解,这个功能...

    2023-07-05 11:24

  • 深圳上半年二手房交易量同比涨七成挂牌房源量持续高位

    上半年深圳二手房市场呈“先扬后抑”走势,二手房同比去年上半年交易量上涨七成,但市场预期在阶段性行情释放完毕后,重回低谷。 7月4日,根据深圳市房地产中介协会统计,6月,深圳全市二手房录得3192套,...

    2023-07-05 11:00

  • 中电光谷与河源江东新区签约打造1200亩产业园

    ,中电光谷与河源市江东新区签订战略合作框架协议。 公告显示,双方将在区域产业规划研究、产业园建设与运营方面开展深入合作。 具体而言,江东新区将授权下属国有企业与中电光谷共同成立合资公司,共同打造河...

    2023-07-05 11:00

  • 莱克等专业清洁电器品牌真抓实干,建立洗地机市场领先优势

    2012-2022年,清洁电器市场以年均复合增长率28.2%的高速度,跑赢家电市场大盘,市场规模从29亿元扩张至348亿元。尤其最近今年,新型品类洗地机更是凭借吸拖洗一体的完善功能体验,为清洁电器市场...

    2023-07-05 10:56