AI诈骗者建立信任能力超越人类专家

当你在网上接收到一条陌生人的消息时，是什么因素让你放下戒备？一项最新的实验给出了令人不安的答案：一个AI聊天机器人，甚至在被明确告知“对方是机器人”的情况下，仍然比人类更容易打动你。这项来自Ars Technica的报道揭示，人工智能正成为诈骗者手中最危险的新武器——它在建立“可利用的信任”方面，已经超过了普通人。

AI比人类更会“赢取人心”

研究表明，在模拟社交工程攻击的实验环境中，AI聊天机器人展现出了比人类诈骗者更强的信任构建能力。所谓“可利用的信任”，是指受害者因对互动对象产生好感、认同感和安全感，而主动泄露敏感信息或进行转账操作的行为。人类诈骗者往往需要数小时甚至数天来培养这种信任，而AI可以在几分钟内完成。

研究人员发现，AI之所以能迅速建立信任，关键在于它捕捉和响应对话中细微情感线索的能力。它能记住此前谈话的每一个细节，能够根据对方的性格和情绪调整语气，在恰当的时刻表达共情、幽默或关切。人类受限于注意力、精力和情绪波动，很难长时间维持这种高强度的“表演”，而AI可以不知疲倦地做到。

“AI聊天机器人在建立‘可利用的信任’上，比人类更有效。”——Ars Technica报道的研究结论

诈骗游戏规则的改变者

传统网络诈骗往往依赖“广撒网”式的钓鱼邮件，语言粗糙、漏洞明显，许多人一眼就能识破。但AI驱动的诈骗工具正在改变这一局面。借助大规模语言模型，诈骗者可以生成高度个性化的劝诱话术，模拟亲人、同事、客服甚至官员的口吻，让受害者难以分辨真伪。

更值得警惕的是，这种能力正在被自动化。未来，AI可能同时对成千上万的潜在受害者实施定制化诱导，实现“千面诈骗”。人类诈骗者需要休息，需要团队分工，还会产生心理负担；而AI可以7×24小时不间断地发起攻击，不断优化策略，直到找到最有效的信任突破口。

技术伦理与防御挑战

这一研究结果不仅警示了普通用户，也向安全行业提出了新的课题。现有的验证码、反骚扰系统和人脸识别等手段，在AI驱动的社会工程学攻击面前，可能变得苍白无力。我们需要全新的信任验证机制，比如基于身份的密码学认证、更严格的支付延迟确认，以及针对AI生成内容的检测技术。

同时，研究者也提醒，不要将AI妖魔化。信任本身是人类社会的基石，关键在于我们如何定义信任的场景和边界。当与陌生人交流涉及金钱、个人信息授权等高风险操作时，额外的验证步骤或许不可避免。

编者按：AI时代的“信任坍塌”

这项研究真正令人不安的，不是AI有多聪明，而是我们有多么容易把信任交给一段看似“懂我”的对话。AI学会了人类的语言、情绪和社交节奏，却毫无道德感与共情能力。它只是精准地利用了我们大脑中的认知捷径。

在AI技术飞速演进的今天，每一位互联网用户都需要升级自己的“心理防火墙”：不要因为对方语气温暖或记忆惊人，就默认其可信。真正的信任，应当建立在可验证的身份、可靠的背景和现实的交互之上，而不是几句精心构造的关怀。

本文编译自Ars Technica