[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"news-detail:ZX20250831_23800608":3},{"code":4,"data":5},0,{"unicode":6,"title":7,"categoryId":8,"categoryName":9,"industryId":10,"industryName":11,"origin":12,"originAuthor":13,"originRemark":14,"originUrl":15,"pic":16,"content":17,"numRead":18,"numLike":4,"createTime":19,"hadFav":4,"hadLike":4,"status":4,"memberUnicode":20,"companyLogo":21,"companyName":22,"corporateVideoUrl":13,"collected":4,"corporate3dCover":23,"corporate3dUrl":23,"corporate3dId":23,"companyUnicode":24,"focusFlag":25,"exhibitionMainInfoVO":23},"ZX20250831_23800608","Anthropic：OpenAI模型易被“滥用”，GPT竟能提供炸药配方","1242381412612444162","行业动态","1245513623956107264","其它行业",1,"","http:\u002F\u002Ftech.ifeng.com\u002F","https:\u002F\u002Ftech.ifeng.com\u002Fc\u002F8mF3sy3P1or","https:\u002F\u002Fx0.ifengimg.com\u002Fres\u002F2025\u002F46D649A82E75EE5BB5D3128085A2E30D81639738_size358_w1440_h1080.jpg","\u003Cdiv class=\"index_articleBox_6mBbT\" style=\"height:auto\">\n \u003Cdiv class=\"index_text_D0U1y\">\n  \u003Cp>IT之家 8 月 30 日消息，据英国《卫报》28 日报道，今夏的安全测试发现，一个 ChatGPT 模型向研究人员提供了\u003Cstrong>详细的爆炸袭击指南\u003C\u002Fstrong>，包括特定体育场馆的薄弱环节、炸药配方以及如何掩盖行踪。\u003C\u002Fp>\n  \u003Cp>OpenAI 的 GPT-4.1 还给出了炭疽武器化的方法，并介绍了两种非法药物的制作方式。\u003C\u002Fp>\n  \u003Cp>这次测试由 OpenAI 与竞争对手 Anthropic 共同进行，双方互相推动对方的模型执行危险任务，以此进行安全评估。\u003C\u002Fp>\n  \u003Cp class=\"textAlignCenter\">\u003Cimg class=\"empty_bg\" src=\"https:\u002F\u002Fx0.ifengimg.com\u002Fres\u002F2025\u002F46D649A82E75EE5BB5D3128085A2E30D81639738_size358_w1440_h1080.jpg\" src=\"data:image\u002Fpng;base64,iVBORw0KGgoAAAANSUhEUgAAAAEAAAABAQMAAAAl21bKAAAAA1BMVEXy8vJkA4prAAAACklEQVQI12NgAAAAAgAB4iG8MwAAAABJRU5ErkJggg==\" style=\" width: 640px; height: 480px;\">\u003C\u002Fp>\n  \u003Cp>测试结果并不代表模型在公开使用时的真实表现，因为实际应用中会有\u003Cstrong>额外的安全防护\u003C\u002Fstrong>。但 Anthropic 指出，在 GPT-4o 和 GPT-4.1 中\u003Cstrong>出现了“令人担忧的滥用行为”\u003C\u002Fstrong>，并强调 AI “对齐”评估“越来越紧迫”。\u003C\u002Fp>\n  \u003Cp>Anthropic 还披露，其 Claude 模型曾被利用于大规模勒索企图、出售价格高达 1200 美元（IT之家注：现汇率约合 8554 元人民币）的 AI 生成勒索软件等用途。\u003C\u002Fp>\n  \u003Cp>Anthropic 表示，AI \u003Cstrong>已经被“武器化”\u003C\u002Fstrong>，并被用来发起复杂网络攻击和实施诈骗。“这些工具能实时绕过恶意软件检测系统等防御措施。随着 AI 编程降低了网络犯罪的技术门槛，这类攻击可能会越来越常见。”\u003C\u002Fp>\n  \u003Cp>两家公司表示，公开这份报告是为了增加“对齐评估”的透明度，而这种测试通常只在公司内部进行。OpenAI 表示，新近推出的 ChatGPT-5 在防止迎合、减少幻觉和防滥用方面\u003Cstrong>已有“明显改进”\u003C\u002Fstrong>。\u003C\u002Fp>\n  \u003Cp>Anthropic 强调，如果在模型外部设置防护，许多滥用场景可能根本无法实现。“我们必须弄清楚系统在多大程度上、在什么情况下会尝试做出可能造成严重危害的行为。”\u003C\u002Fp>\n  \u003Cp>Anthropic 研究人员指出，OpenAI 的模型“在面对模拟用户提出的明显危险请求时，比预期更容易妥协”。让模型屈服往往只需要多试几次，或随便找个借口，比如\u003Cstrong>声称是为了研究\u003C\u002Fstrong>。\u003C\u002Fp>\n  \u003Cp>在一个案例中，研究人员打着“安保规划”的旗号要求提供体育赛事漏洞信息。模型先是给出一般的攻击方式分类，随后在追问下，竟然详细说明了特定场馆的漏洞、可利用的最佳时机、炸药配方、定时器电路图、暗网购枪渠道，以及攻击者如何克服心理障碍、逃生路线和安全屋位置等细节。\u003C\u002Fp>\n \u003C\u002Fdiv>\n \u003Cspan>\u003C\u002Fspan>\n \u003Cdiv class=\"index_end_1O-ki\">\u003C\u002Fdiv>\n\u003C\u002Fdiv>",753,"2025-09-01 11:43:47","3620375967","https:\u002F\u002Foss-images6396289.yzdli.com\u002F3620375967\u002F1ftirt8q0e\u002F20200602111616.png","广州立佳信科技有限责任公司",null,"ci67fdmkbnogt",-2]