AI将消灭人类？法国预言家500年前诗句再掀热议
人工智能（AI）发展一日千里，安全风险亦愈来愈受关注。美国AI公司Anthropic前研究员科克森（Jacob Coxon）近日辞职并发出严厉警告，称不少身处前线的研发人员真心相信，AI可能在本世纪末前威胁全人类。言论震撼科技界，也令法国16世纪预言家诺查丹玛斯（Nostradamus）一首神秘四行诗再度在网上疯传，被部分人解读为500多年前已有“AI接管人类”的预示。 “孤独的大脑”被指象征电脑 英媒《每日邮报》报道，诺查丹玛斯于1555年出版《诸世纪》（Les Prophéties）。其中第四卷第31首四行诗写道：“满月高悬山巅，独脑新贤者望见：受邀弟子以求永生，目光投向南方。双手交叠于胸前，身躯置于烈火之中。” AI或消灭人类的猜测震撼科技界，也令法国16世纪预言家诺查丹玛斯（Nostradamus）一首神秘四行诗再度在网上疯传。维基图片 诺查丹玛斯于1555年出版《诸世纪》（Les Prophéties）。Amazon图片 诺查丹玛斯于1555年出版《诸世纪》（Les Prophéties）。维基图片 人工智能（AI）发展一日千里，安全风险亦愈来愈受关注。电影《智能叛变》剧照 有科技业界估计AI在未来10年导致全人类死亡的风险超过一成。 由于诗句提及“孤独的大脑”、“门徒”及“不朽”，部分网民遂将它与电脑、AI及人类意识上传联系起来，认为“新贤者”可能代表科技，而“不朽”则象征把记忆和思想永久保存在机器内。 这种解读并非来自诺查丹玛斯本人。美国催眠治疗师坎农（Dolores Cannon）于1980年代末出版《与诺查丹玛斯对话》，声称接受催眠的患者能与这名预言家“连结”。她把诗句解释为未来一名“天才”，将意识复制至“有机电脑”，令知识在肉身死亡后延续。 前研究员：业界正拿人类命运下注 这段古老诗句重新受到注目，源于科克森本月9日在社交平台X发表的辞职宣言。他表示，部分研发先进AI的人员确实担心，科技可能在2030年前后带来人类灭绝风险，并批评企业在尚未解决“AI对齐”问题前，已不负责任地急于竞逐更强大的系统。 所谓AI对齐，是指确保人工智能的目标、判断及行动符合人类意图与价值。科克森接受媒体访问时形容，未来一两年可能是决定人类能否安全驾驭超级智能的关键时期。 Anthropic的对齐科学主管胡宾格（Evan Hubinger）其后亦表示，他估计AI在未来10年导致全人类死亡的风险超过一成，但同时承认这只是个人风险判断，并非已获验证的科学预测。《华盛顿邮报》指出，科技界对“AI灭绝论”分歧甚大，部分研究人员认为警告不容忽视，另一些人则批评有关说法过度科幻化。 Anthropic揭有人绕过限制研究病原体 忧虑并非完全停留于想像层面。Anthropic日前披露，曾封锁多个帐户，涉及使用AI进行可能支援生物武器的病原体研究。据《金融时报》报道，公司列出5宗个案，部分使用者涉嫌绕过地区及安全限制，并刻意隐藏研究目的。 Anthropic行政总裁阿莫迪（Dario Amodei）主张业界放慢最先进模型的发布速度，引入独立评估及国际安全标准；OpenAI行政总裁奥特曼（Sam Altman）和特斯拉行政总裁马斯克（Elon Musk）过去亦多次警告AI失控风险。 已故保加利亚盲眼预言家巴巴万加（Baba Vanga）近期亦被牵涉其中。网上流传她曾预测AI将取代大量工作、支配重要产业，并引发就业及伦理危机。然而，现存资料没有可核实的录音、逐字纪录或文件，证明她曾作出相关预言。 机器智能研究所（MIRI）主席索雷斯（Nate Soares）则从现实风险出发，警告若超级智能拥有自主制造能力，理论上可利用病原体、网络系统，甚至人形机械人伤害人类。但这些仍属对未来极端情境的推演，并非已经发生的事实。
