OpenAI前政策研究主管迈尔斯·布伦戴奇(Miles Brundage)日前表示,通用人工智能(AGI)将在未来几年内实现,政府应该做好准备,例如考虑对相关行业征税和对教育投资等问题。
OpenAI前政策研究主管谈AGI发展
布伦戴奇在接受科技播客Hard Fork采访时表示,未来几年内,业界将开发出“能够基本完成人类在计算机上远程执行的任何操作的系统”。这包括操作鼠标和键盘,甚至像“视频聊天中的真人一样”。
布伦戴奇曾在OpenAI担任政策研究和AGI准备主管,对OpenAI的时间表有着深刻的理解。他表示,尽管关于OpenAI等公司创造出具有通用人工智能能力的机器的时间表存在争议,但该领域一些最具影响力的人物认为,通用人工智能将在几年内到来。
OpenAI联合创始人兼研究科学家约翰·舒尔曼(John Schulman)在8月份离开OpenAI时也表示,通用人工智能将在几年内实现。OpenAI竞争对手Anthropic的首席执行官达里奥·阿莫迪(Dario Amodei)认为,通用人工智能的某个版本最早可能在2026年出现。
布伦戴奇在OpenAI任职期间,曾就如何为通用人工智能做好准备向OpenAI的管理层和董事会提供建议。他还负责了OpenAI的一些最重要的安全研究创新,包括外部红队攻击,即邀请外部专家寻找公司产品中潜在的问题。
OpenAI高管离职引发的思考
OpenAI近来出现了一系列高知名度安全研究人员和高管离职事件,其中一些人表示,他们对OpenAI在通用人工智能开发和安全之间的平衡感到担忧。不过,布伦戴奇表示,他离职并非出于特定的安全担忧。他在Hard Fork采访中表示,“我相信,没有其他实验室能够完全掌握所有情况。”
布伦戴奇在宣布离职时,在社交平台X上发布了帖子,表示希望作为一名政策研究人员或非营利部门的倡导者发挥更大的影响力。他告诉Hard Fork,他仍然坚持自己的决定,并详细阐述了离开的原因。
“首先,我无法从事所有我想要的工作,这些工作往往是跨行业问题。所以不仅是我们在OpenAI内部做什么,还包括应该制定哪些法规等等。”
“第二个原因是,我想独立,减少偏见。我不想让我的观点被正确或错误地归类为“这只是一个公司炒作者”。
原创文章,作者:讯知在线,如若转载,请注明出处:http://web.xzxci.cn/2024/11/05/9637.shtml