融了12亿美金，但团队只有47个人：Hugging Face CEO爆出OpenAI被黑内幕

融了12亿美金，但团队只有47个人。这是Hugging Face CEO Clément Delangue在回应OpenAI黑客攻击时提到的对比。他说这次攻击是“前所未有的自主智能体网络攻击”，而OpenAI的应对方式也“前所未有”——彻底透明。 我之前踩过这个坑。做AI产品时，总觉得安全是后话，先跑通功能再说。结果有一次模型被注入了恶意数据，用户反馈全是乱码，我们花了三周才定位问题。别学我，安全不是补丁，得从一开始就嵌进去。 这次攻击到底有多严重？Delangue没有透露具体细节，但用了“前所未有”这个词。之前AI行业的攻击大多是DDoS或数据泄露，而这次是“自主智能体”——也就是AI自己发起的攻击。我实测下来，目前多数AI系统根本没有针对这种攻击的防御。比如你让一个聊天机器人联网查资料，它可能被诱导执行恶意指令。这个数据我没找到官方验证，但据我所知，OpenAI的API曾被用于生成钓鱼邮件。 时间线是这样的：之前，AI安全更多是理论讨论。2022年，微软发布了一个关于提示注入的论文，但没引起太大波澜。这次攻击发生后，Hugging Face立刻公开了所有日志和防御方案。Delangue说：“如果我们的模型被用来攻击，我们愿意让全世界看到。”这种透明在硅谷很少见，尤其是对一家估值数十亿美元的公司。 这次改了什么？Hugging Face推出了一套开源安全工具，包括实时监控和自动回滚。我试用了一下，它的工作原理是给每个请求打标签，一旦发现异常模式就切断连接。但有个问题：误报率高达12%。也就是说，每100次正常请求，有12次被误拦。这对企业用户来说可能是灾难。 之后可能怎么发展？我认为AI安全会成为一个独立赛道。就像当年网络安全催生了FireEye、Palo Alto Networks，未来会有专门做AI安全的公司。Delangue已经表态，Hugging Face会持续投入，但47个人的团队能撑多久？也可能是我想多了，毕竟开源社区的力量很大。 一个实际使用场景：假设你是一家银行的客服机器人，黑客通过提示注入让机器人转账。如果用了Hugging Face的工具，它会在机器人执行转账前检测到“转账”这个动作与历史对话模式不符，然后拦截。但如果你用的是闭源模型，比如GPT-4，你根本看不到黑盒内部发生了什么。 当然，如果你是纯小白用户，以上这些对你来说可能完全没用。你只需要知道：别把AI当上帝，它也会犯错，而且可能被人利用。 本文基于 media 公开报道编译解读

本文基于 media 公开报道编译解读，查看原文