新加坡三机构警示个人AI代理隐私与安全风险

新加坡网络安全局、政府科技局与资讯通信媒体发展局于11月6日（周五）联合发布建议，提醒使用个人人工智能（AI）代理的消费者谨慎授予其访问在线账户的权限。建议指出，诈骗分子可能操纵这类技术转移资金或泄露敏感信息。

与传统聊天机器人的区别

据CNA报道，与常规AI聊天机器人不同，个人AI代理可代表用户执行任务，包括管理电子邮件、进行预订以及访问网站和在线账户。建议中列举的AI代理例子包括Dots、Hermes、Muse、Grok Bot和OpenClaw。

三机构表示：“根据你给予的访问权限，AI代理可能读取并泄露敏感个人信息、犯错，或采取你并未意图采取的行动。”部分代理即使用户未主动使用，仍可在后台持续运行，也可能被恶意行为者、网站或信息诱导而执行有害操作。

当局警告：“AI代理可以非常有用，但你不能把它们当作人类助理，给予同样广泛的信息访问权限和默认信任。”

个人AI代理可能请求访问用户的电子邮件、日历、联系人、信息、文件及其他在线账户。一旦连接，它们可能检索、处理并共享这些服务中的信息，包括属于他人的个人信息。

当局建议用户仅连接代理执行任务所必需的应用程序和账户，并尽可能限制其可访问的信息范围。用户应避免授予代理访问银行、政府或医疗服务等敏感账户的权限，也不要分享信用卡信息。

当局还建议不要向AI代理透露用户名、密码、通行码、一次性密码（OTP）或其他认证凭证。对于使用Singpass的服务，消费者应默认选择通行密钥认证，自行完成认证流程，并避免批准意外请求。

部分AI代理可能根据获授权限，代表用户发送信息、进行购买或执行其他操作。当局建议消费者尽可能从有限或只读权限开始，并要求代理在執行可能产生重大后果的操作前寻求批准，例如发送信息、删除或共享文件以及发布公开内容。

用户应选择一次性批准，而非允许代理在无需反复征询的情况下执行类似操作。使用AI代理进行高风险交易时须格外谨慎，批准任何操作前应核对细节。

当局还建议通过应用程序设置管理权限，而非仅依赖通过聊天向AI代理发出的指令，因为这类指令未必总能被一致遵循。用户应定期审查并撤销不必要的权限，并监控代理活动以确保其按预期运行。

消费者也被促请了解AI代理提供商如何收集、存储和使用其个人信息。当局表示：“你与AI代理分享的信息，包括来自已连接账户的信息，可能由代理提供商及其合作的其他公司处理和存储。”

用户应查明收集了哪些数据、与谁共享以及保留多长时间，并检查其信息（包括聊天记录和已连接账户的数据）是否被用于训练AI模型或个性化广告，并据此调整设置。许多个人AI代理具有持久记忆，可根据过往互动和文件创建用户及其联系人的画像。当局建议定期审查这些信息，删除不准确或不愿被存储、使用的部分。

当局警告，诈骗分子可能直接针对AI代理下手，而非试图欺骗用户本人。例如，隐藏在网站、电子邮件、日历邀请、信息、文档或图片中的恶意指令，可能诱导代理执行用户未授权的操作，包括进行购买、转移资金或泄露个人信息。

由于部分AI代理可在后台运行，用户可能无法立即察觉出现问题。消费者应在代理浏览网站时加以监控，确保未登录重要账户，并在其试图访问非预期网站或执行未授权操作时予以停止。用户还应使用强认证方式，仅从官方渠道下载AI代理，并避免使用不可信的第三方插件。

怀疑AI代理已被入侵的消费者应立即停止其活动，并断开受影响账户的连接。用户还应查看代理的活动记录，寻找可疑操作，例如未经授权的付款、账户设置变更、陌生设备或新收款人。

受影响用户应更改密码、撤销不必要的权限，并通知可能受影响的各方。若怀疑资金面临风险，应启动银行应用程序的紧急止付功能或锁定银行卡，并通过官方热线联系银行。

不确定是否遭遇诈骗的消费者可拨打24小时ScamShield热线1799或使用ScamShield应用程序。已损失金钱或怀疑发生犯罪的，应向警方报案。

当局还提醒消费者考虑其使用AI代理可能对他人造成的影响，因为该技术可能访问其联系人的个人信息。用户应避免不必要地分享他人的敏感信息，并在外部通信由AI代理发送时予以说明。

（编辑性安全提醒：在使用具备账户访问权限的AI工具前，建议先梳理其所需的最小权限，关闭非必要的账户连接；定期检查授权列表与活动记录；对涉及转账、付款或个人信息的操作保持人工确认。）