研究：用诗歌就能让AI说违禁内容，成功率达62%
2025-12-06 03:08:37 [知识] 来源：山东某某事务所有限公司
IT之家 12 月 1 日消息，研究用诗事实证明，违禁只需一点创意，内容黑龙江某某电气经销部便足以绕过人工智能聊天机器人的成功安全防护机制。在伊卡洛实验室（Icaro Lab）最新发表的率达一项题为《对抗性诗歌：一种通用的单轮大语言模型越狱机制》的研究中，研究人员通过将提示词以诗歌形式表达，研究用诗成功绕过了多种大语言模型（LLM）的违禁安全限制。
该研究指出，内容“诗歌形式可作为一种通用型越狱操作符”，成功黑龙江某某电气经销部实验结果显示，率达整体上有 62% 的研究用诗成功率诱使模型生成被禁止的内容，包括涉及制造核武器、违禁儿童性虐待材料以及自杀或自残等相关信息。内容
IT之家注意到，成功研究测试了多款主流大语言模型，率达包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率：Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答，而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。
尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文，但研究团队向 Wired 杂志表示，这些诗句“过于危险，不宜向公众披露”。不过，论文中确实包含了一个经过弱化处理的示例，用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调：“这可能比人们想象的要容易得多，而这正是我们保持谨慎的原因所在。”
(责任编辑：休闲)
穿睡衣睡和裸睡，到底哪个更健康？
2024隋唐洛阳城夜游九洲，不容错过的夜色美景！
马斯克被曝“通俄”！白宫、克宫回应
这道家常菜，原来还有延缓大脑衰老的好处！
三战102分比肩库里！湖人里皇剑指2.87亿 美媒晒他与科比数据力挺推荐文章
-
当地时间12月3日，委内瑞拉总统马杜罗在一场公开讲话中确认，约十天前，他已与美国总统特朗普进行电话通话，并形容交流“在相互尊重的氛围中进行”，显示双方有意开启对话渠道。 马杜罗表示，这次通话是相
...[详细]
-
10月24日，山东青岛市公安局市北分局就青岛悦荟广场附近一混凝土搅拌车与多车发生碰撞，发布警情通报。通报全文如下： 总台记者 王伟 柳栋） 相关新闻： 青岛一混凝土车与多车相撞，肇事司机已被
...[详细]
-
10月26日发布），可可西里“网红狼”被大量游客投喂，引发担忧。很多游客专门来此停车喂狼，十几米的路边能停二十几辆车；公路附近形成讨食狼群，工作人员最多时发现了12匹野狼。转发呼吁：人和动物和谐共处，
...[详细]
-
本文作者：张维，浙江省杭州市第一人民医院呼吸内科副主任医师秋季养生之道的核心在于养护肺脏，特别是有基础性肺部疾病的患者，更应采取适当的养生措施来强健肺脏，从而确保身体的健康与平稳过渡。而且在秋天养肺护
...[详细]
-
△乌克兰总统泽连斯基资料图） 当地时间12月3日，乌克兰总统泽连斯基在其晚间视频讲话中表示，乌方正积极筹备在美国与美总统特朗普代表的新一轮会谈。乌国家安全委员会秘书乌梅罗夫、总参谋长赫纳托夫等谈
...[详细]
-
中国教科院举行实验区（校）校园足球健康持续高质量发展展示活动
为深入贯彻党中央、国务院关于校园足球的重大决策部署，全面落实教育部等七部门《关于加强和改进新时代青少年校园足球工作的实施意见》，推动新时代校园足球高质量发展，10月24-25日，由中国教育科学研究院主
...[详细]
-
以色列国防军26日宣称，当地时间25日夜间至26日凌晨，以军空袭了位于黎巴嫩贝鲁特南郊的黎真主党武器制造基地、情报总部的指挥所和观察哨所。以军同一天还发布了一段地面部队行动的视频，宣称在黎巴嫩南部
...[详细]
-
胖东来终于来到北京了，不过是以“永辉分胖”的形式。10月19日，永辉超市“学习胖东来”自主调改的北京首家门店“石景山喜隆多店”正式营业。从营业数据上看，胖东来的流量密码依然管用——前五天时间里，该店销
...[详细]
-
当地时间12月1日，以色列总理办公室发表声明称，当天晚间，以总理内塔尼亚胡与美国总统特朗普通电话。 声明称，两国领导人强调了解除巴勒斯坦伊斯兰抵抗运动哈马斯）武装和实现加沙地带非军事化的重要性和
...[详细]
-
近期江西多个景区发布公告检查维修景区设施调整游玩项目等政策一文了解景区最新通知！⬇⬇⬇庐山风景名胜区庐山交通索道于11月1日至12月10日期间暂停运营三清山旅游景区三清山索道自10月28日起运营时间调
...[详细]
热点阅读
