AI代理会自己动手:读敏感数据、替你下单、改你环境。这种东西出事不是答错话,是做错事。IMDA 10月14日在AI Assurance Exchange上发了三样东西,都是给代理立安检的。
一是Agentic Testing Starter Kit:一套四步测试法,从识别错误和越权动作,到设计不留后患的测试、跑日志、持续监控再测。做法不是闭门造车,参考了Google、AWS、Resaro等20多家部署和测试机构,还收了Cohere、KBTG、Knovel Engineering等的实际案例。
二是AI TAP认证:AI Verify Foundation给第三方AI测试机构发牌照,首批5家——AIDX Tech、Knovel Engineering、PwC新加坡、Resaro、Vulcan。以后企业要评估代理风险,可以找持牌机构。
三是FAIRS工作组:电信、媒体、网络安全和AI的20多名负责人,专门防AI驱动的网络攻击,报告2027年上半年出。
会场来了300多家部署和测试方。另一边大厂没停:OpenAI砸3亿多新元在本地建海外首个应用AI实验室,NVIDIA设研究实验室,全岛AI卓越中心已超70家。
一个问题:安检做得越细,代理上线越慢——这个取舍你站哪边?
来源:IMDA 10月14日新闻稿、EDB 6月4日报道。