【JIUYOU新闻】OpenAI开发的ChatGPT年夜火之后，这家公司却正告将来的人工智能可能会捣毁人类。

近日，OpenAI结合开创人伊利亚·苏斯克维尔（Ilya Sutskever）及对于齐团队卖力人简·莱克（Jan Leike）于一篇博客文章中正告称：“超等智能的巨鼎力大举量可能……致使人类被褫夺权利，甚至人类灭尽。今朝，咱们还有没有一个解决方案来把持或者节制一个潜于的超智强人工智能，并避免它掉控。”

他们认为，超智强人工智能可能于这个十年到来。人类将需要比今朝更好的技能来节制超智强人工智能，是以需要于所谓的“对于齐研究”（alignment research）方面取患上冲破，该研究的重点是确保人工智能对于人类有利。

OpenAI暗示，该公司规划投入年夜量资源，创立一个新的研究团队——名为超等对于齐团队，以确保其人工智能对于人类来讲是安全的，终极利用人工智能来监视自身。OpenAI想要利用人类反馈来练习AI体系，练习AI体系辅助人类评估，然后终极练习AI体系举行现实的对于齐研究。

但有人对于该规划提出否决，他就是人工智能安全提倡者康纳·莱希（Connor Leahy）。他称：“于构建人类程度的智能以前，你必需先解决对于齐问题，不然默许环境下你没法节制它。我小我私家认为这不是一个尤其好的或者安全的规划。”

版权所有，未经许可不患上转载