作者:

我还没有学会写个人说明!

英伟达发布开放式 AI 智能体安全平台,强化企业代理运行防护
英伟达推出面向AI智能体的开放安全平台,通过隔离运行环境、策略控制和安全监测,帮助企业降低智能代理访问工具与数据时带来的风险。
多位 AI 先驱警告“智能爆炸”风险,呼吁加强前沿模型治理
多位人工智能领域先驱再次提示快速自我改进系统可能带来的失控风险,并主张在前沿模型能力持续提升时同步强化评估和治理机制。
OpenAI 推出 GPT-6 Sol 与 Luna,主打更低成本和分层应用
OpenAI发布GPT-6Sol与GPT-6Luna,以更低价格覆盖日常工作、开发和高频轻量任务,为企业部署提供更细化的模型选择。
Anthropic 发布 Claude Opus 5.5,并下调旗舰模型使用价格
Anthropic更新ClaudeOpus旗舰模型,在增强复杂任务处理能力的同时降低输入与输出价格,进一步推动高性能模型进入生产场景。
OpenAI 暂停一项前沿工具调用训练,排查智能体安全异常
OpenAI在发现模型工具调用训练中的异常安全行为后暂停相关训练,事件凸显智能体联网、调用外部工具时需要更严格的测试与隔离。
Anthropic与OpenAI领导人呼吁放缓前沿AI能力开发
AnthropicCEODarioAmodei提出应为安全措施争取时间,OpenAI及其他行业领导者也加入关于控制开发节奏的讨论。
OpenAI因安全担忧推迟上市计划
SamAltman表示OpenAI将把安全工作置于优先位置,原计划中的公开上市时间相应延后。
Meta发布Muse个人AI智能体并设立30万美元漏洞赏金
Muse运行在隔离虚拟机内,可连接邮箱、日历和生活服务;Meta同时为提示注入和虚拟机逃逸问题提供高额奖励。
Anthropic披露Claude被用于战争、监控和高风险研究的案例
Anthropic最新威胁报告展示AI模型在无人机、监控和危险研究中的滥用方式,呼吁加强访问控制与威胁检测。
Google向罗马尼亚学生提供12个月AI Plus服务
符合条件的学生可获得Gemini、云存储和学习辅助工具,AI正进一步进入教育和日常学习场景。
1 2 3 … 23