主页 / 百度安全｜度安讲技术沙龙第十五期 / 议题列表
揭秘黑灰产AI的潘多拉魔盒
- 作者: 洺熙 御之安科技首席AI安全研究员
- 收录:
- 简介:
《揭秘黑灰产AI的潘多拉魔盒》深入剖析了人工智能技术被黑灰产滥用的现状与手法。报告指出，攻击者通过利用未对齐基座模型、恶意微调开源模型、API越狱等手段，制造出绝对服从指令、无道德审查的“黑化AI”。这些模型及其伴生工具已被广泛应用于生成恶意代码、深度伪造、数据武器化、自动化诈骗及舆论操控等黑色产业链，形成了成熟的恶意AI生态。研究揭示了AI安全防御面临的严峻挑战，强调黑灰产已从技术滥用演变为系统