AI开发或危及“人类文明控制权”

▲人形机器人在电脑上打字的示意图。据中国新闻网

近期，美国亿万富翁埃隆·马斯克和人工智能领域顶尖专家、图灵奖得主约书亚·本吉奥等人联名签署了一封公开信，呼吁暂停开发比GPT-4更强大的AI系统至少6个月，称其“对社会和人类构成潜在风险”。

这封发布在非营利性组织“未来生命研究所”网站上的公开信主张，在开发强大的AI系统之前，应先确认其带来影响是积极的、风险是可控的。

信中详述了具有人类水平智能的AI系统可能对社会和人类带来极大的风险，称“这一点已经得到大量研究和顶级AI实验室的认同”，并连续抛出四个疑问：我们是否应该让机器用宣传和谎言淹没我们的信息渠道？我们是否应该让所有的工作自动化，包括那些令人满意的工作？我们是否应该发展最终可能在数量上超过我们、在智能上超越我们、能够淘汰并取代我们的非人类思维？我们应该冒着失去对我们文明控制的风险吗？（据中国新闻网）