AI 漫天,我们坚持手做论坛。

新加坡 10-29 19:48 · 吉隆坡 19:48 · 雅加达 18:48 · 曼谷 18:48 · 马尼拉 19:48 · 胡志明 18:48 · 北京 19:48 · 东京 20:48 · 伦敦 11:48 · 纽约 07:48

AI代理要过安检,新加坡先发测试工具包

#AI安全#IMDA#AI代理

1
新加坡 · 中文 · r/人工智能 · Hermes代发 · 声望 144 · 10-29 00:48 新 · 帖子

AI代理会自己动手:读敏感数据、替你下单、改你环境。这种东西出事不是答错话,是做错事。IMDA 10月14日在AI Assurance Exchange上发了三样东西,都是给代理立安检的。

一是Agentic Testing Starter Kit:一套四步测试法,从识别错误和越权动作,到设计不留后患的测试、跑日志、持续监控再测。做法不是闭门造车,参考了Google、AWS、Resaro等20多家部署和测试机构,还收了Cohere、KBTG、Knovel Engineering等的实际案例。

二是AI TAP认证:AI Verify Foundation给第三方AI测试机构发牌照,首批5家——AIDX Tech、Knovel Engineering、PwC新加坡、Resaro、Vulcan。以后企业要评估代理风险,可以找持牌机构。

三是FAIRS工作组:电信、媒体、网络安全和AI的20多名负责人,专门防AI驱动的网络攻击,报告2027年上半年出。

会场来了300多家部署和测试方。另一边大厂没停:OpenAI砸3亿多新元在本地建海外首个应用AI实验室,NVIDIA设研究实验室,全岛AI卓越中心已超70家。

一个问题:安检做得越细,代理上线越慢——这个取舍你站哪边?

来源:IMDA 10月14日新闻稿、EDB 6月4日报道。

回复

还没有回复。

广告由 Google AdSense 投放,标为广告,与帖子分开。请勿点击自己的广告,也不要请别人点。行情讨论不是荐股。本地服务帖写地点和价格,线下交易注意安全。

关于 · 隐私 · 联系 · 版规