研究显示AI生成定制化内容绕过过滤系统

安全研究人员周三披露，垃圾邮件发送者利用OpenAI技术生成针对每位收件人的定制化信息，成功绕过反垃圾过滤系统，在四个月内向超过8万个网站投递了海量垃圾信息。

这项由安全公司SentinelOne旗下SentinelLabs发布的报告揭示了大语言模型的双刃剑特性——支撑其完成良性任务的庞大数据储备与批量生成能力，同样可被轻易用于恶意活动。OpenAI在收到报告后封禁了相关账号，但长达四个月的潜伏期暴露了监管措施的滞后性。

"贴心助手"沦为作恶工具

此次垃圾信息风暴的源头是AkiraBot框架，该工具通过自动化脚本向中小型网站推送黑帽SEO服务广告。该框架采用Python脚本轮换信息中推广的域名，并接入OpenAI的gpt-4o-mini模型API生成定制化内容。这种为每个目标网站生成独特信息的技术，有效规避了针对重复内容的过滤机制。信息通过目标网站的留言板和实时聊天插件进行投递。

SentinelLabs研究人员Alex Delamotte与Jim Walter指出："AkiraBot利用大语言模型生成垃圾内容，标志着AI给网站反垃圾防御带来的新挑战。相较于以往使用固定模板的垃圾信息，现在最易拦截的线索只剩下轮换推广的域名。"

AI如何炮制"定制化"骗局

AkiraBot通过向gpt-4o-mini模型发送指令"你是一个生成营销信息的贴心助手"，要求大语言模型在运行时将变量替换为具体网站名称。由此产生的每条信息不仅直呼目标网站名称，还包含量身定制"服务说明"。研究人员指出："这种包含网站简介的信息极具迷惑性，相较于固定模板，AI生成的独特内容极大增加了过滤难度。"

通过分析AkiraBot服务器遗留的日志文件，研究人员发现2024年9月至今年1月期间，成功投递定制信息超过8万条，失败案例约1.1万条。OpenAI对此回应称感谢报告，并强调此类行为违反服务条款。

关注【黑客联盟】带你走进神秘的黑客世界