资讯-淘券派

埃隆·马斯克和数千名专家呼吁暂停 ChatGPT“后代”的开发

亿万富翁埃隆·马斯克(图片来源:美联社)

来自未来的信生命研究所(NGO)发起,由1,000多人签名,其中包括马斯克、StabilityAI首席执行官EmadMostaque、Alphabet公司DeepMind项目的科学家,以及人工智能领域的其他知名人士,如YoshuaBengio和StuartRussell。这封信呼吁停止先进的人工智能开发,直到通用安全协议到位、被独立专家采用和验证。

影响并可以管理风险,”信中写道。

这封信还概述了人工智能对社会和文明的潜在风险。与人竞争,造成经济和政治混乱,认为开发商需要咨询政策制定者和监管机构。

这封信后来来了。当时欧洲共同警察部队(Europol)表达了对ChatGPT等先进人工智能系统的道德和法律担忧,警告称此类系统可能被犯罪分子用来实施欺诈、传播虚假信息和实施网络犯罪。尽管他的特斯拉正在自动驾驶系统中使用人工智能,但马斯克一直是表达对人工智能担忧的最有力的发声者之一。

自去年年底推出以来,OpenAI的ChatGPT启发了许多人。科技公司加速追赶,开发将AI集成到他们的产品中的类似系统。

OpenAI的首席执行官SamAltman尚未签署这封信。OpenAI没有回应置评请求。

“这封信并不完美,但精神是正确的:我们需要放慢脚步,直到我们更好地理解其中的含义,”纽约大学名誉教授加里马库斯说和在这封信上签名的人评论道。

“他们会造成严重的伤害。玩家对自己的所作所为变得越来越隐秘,这使得社会难以抵御可能的威胁,”Marcus教授说。

来源:美联社