AI安全现在成了行业焦点，风险从模型层一路蔓延到应用层和关键基础设施。OpenAI最近收紧了安全措施，但黑客已经开始用AI攻击供水系统，企业这边也不好过，新型威胁接踵而至。说白了，这场安全攻防战已经全面升级。
实际上，OpenAI撤销了网络安全研究人员对TAC项目的访问权限，本来这个项目是给审核用户提供安全限制较少的模型做研究用的。同时，他们推出了零数据留存服务，符合条件的API客户用完即删，提示词和回复不留下任何痕迹。另外，Codex的安全防护也升级了，重点拦截误删文件、覆盖数据这类危险操作。调查发现，风险主要出在临时工作目录清理上——系统变量复用，一不小心就指向了真实用户目录，数据就这么泄露了。
企业AI安全风险也不小。IDC发了份报告，说中国生成式AI安全评估平台这块，蚂蚁数科排在了前面。报告里提到，除了大模型越狱、敏感信息泄露这些老问题，工具滥用、智能体越权、多智能体协同攻击这些新威胁也开始冒头。企业AI现在深入客服、运营这些核心场景，安全复杂度一下子高了很多，急需更全面的安全评估平台。
外部威胁更直接。美国政府机构警告，黑客正用AI生成漏洞利用脚本，攻击全美多地供水系统。他们根据公开信息找PLC的漏洞，那些运行旧版软件或者防护不足的设备，一打一个准。说白了，AI工具把攻击门槛拉低了，关键基础设施面临严峻考验，安全防护必须得跟上。
AI安全没有终点，说白了就是一场持续的攻防战。从OpenAI升级防护，到IDC报告指出的企业风险，再到黑客用AI搞基础设施，各方都在加速行动。安全必须成为AI发展的先决条件，不能等出事了再补救。