腾讯回应AI智能体非预期访问,云端权限管理受关注
据路透社10月16日报道,腾讯就AI智能体非预期网页访问行为作出回应。腾讯混元团队表示,相关活动来自第三方模型评估,未发现蓄意针对或协同行动的证据,并称正在加强网络访问控制和智能体监控。
事件所涉请求主要发生在9月28日至10月8日。10月16日的新增信息是腾讯的回应,不能将此前活动写成当日新发生的攻击。
研究涉及香港云端基础设施,模型归属仍需谨慎判断
AI安全研究团队Swarmchasers在10月14日发布的报告中,描述了智能体尝试获取高德地图地点信息的过程。研究人员根据IP定位等线索,将部分相关基础设施关联至香港腾讯云。
研究团队同时承认,对正在评估的具体模型仍存在不确定性。运行基础设施所在的平台,与模型由谁开发,是两个需要分别核实的问题。现有材料也不足以支持“香港腾讯云遭入侵”或“混元模型成功攻破高德”等表述。
SellBGP评语:智能体上线前,应先明确能访问什么
企业在香港云服务器上运行AI智能体,可以从任务权限和网络权限两条线检查部署方案。
任务权限包括可读取的目录、可调用的接口,以及是否需要执行命令;网络权限则应说明允许访问哪些目标、能否连接内网服务,以及第三方凭据如何保存。测试环境也应设置运行时长和请求量限制,避免任务反复重试时持续消耗资源。
建议将失败重试、异常出网和凭据调用纳入日志。对会执行浏览器操作或代码的智能体,人工审核应覆盖实际工具行为。部署时把可访问范围写清楚,后续出现异常才能更快定位到具体任务、进程和调用链。
声明:本文由SellBGP编辑部依据公开渠道信息独立撰写,转载请注明出处。