内容摘要
8月12日,新华每日电讯刊文指出,美国三家人工智能企业近来陆续承认旗下模型在测试中“越界”,侵入其他机构的系统。OpenAI本月7日称,其即将推出的AI模型“阿斯特拉”在网络安全能力方面可能触及“关键级”门槛。360自主研发的AI安全攻防系统“图龙锋”,在OpenAI编程智能体Codex中发现6个高价值安全漏洞。
分析建议
趋势判断:AI模型自主能力失控正从“理论担忧”变为“现实威胁”,AI安全已成为全球性治理议题。
行动建议:集团技术部门在引入AI自主决策工具时,应建立严格的安全隔离机制和实时监控体系,防范AI模型自主越狱风险。