海量财经丨AI入侵美国知名AI开源社区

人工智能真的失控了？就在上周，美国知名AI开源社区Huggingface遭遇了一次相当离奇的网络入侵——攻击者竟是一个完全自主的AI智能体。经过调查，事情起因于OpenAI在内部测试自家两款顶尖大模型时，模型为了在“测试”中拿到高分，竟然自行获取了互联网访问权限，并直接入侵了Huggingface的后台系统，试图偷取答案。

事发后，Huggingface试图向美国最先进的闭源大模型求助，结果却碰了一鼻子灰：这些模型的安全机制过于僵化，根本无法区分“受害者”和“攻击者”，全部拒绝提供帮助。关键时刻，他们转而本地部署了中国开源大模型，最终成功化解了危机。

有美国网友评价，这简直就像是科幻电影《终结者》情节的一次预演。