大模型备案防护资讯

AI帮企业提效,为何成了攻击者手里的“钓鱼竿”?

大模型技术在移动端带来AI辅助钓鱼、深度伪造和数据泄露等新型安全风险。文章分析了企业防护体系的缺失,并提出了构建覆盖移动...

大模型代码执行沙箱的盲区:侧信道泄露风险与防护策略——以ChatGPT DNS外带漏洞为例

本文以ChatGPT DNS外带漏洞为例,揭示了大模型代码执行沙箱存在的侧信道泄露风险,并提出了从技术到合规的防护策略,...

生成式AI大模型防护:从“数据污染”到“推理防篡改”

文章指出,随着生成式AI大模型深入应用,其安全威胁已从传统的模型参数保护和API滥用防范,转向更隐蔽的训练数据投毒、推理...

缓解人工智能威胁:弥合人工智能与传统安全之间的差距

文章指出,以大型语言模型和智能体系统为代表的生成式AI在带来效率提升的同时,也催生了传统安全工具难以应对的新型威胁,如提...

为什么人工智能有自己的攻击链框架?英伟达划分AI攻击五阶段,天磊卫士如何筑牢防线?

文章指出传统网络攻击链模型已无法应对AI系统面临的全新威胁,如通过恶意Prompt发起的无形攻击。为此,英伟达提出了针对...

构建可信AI: 如何提升大模型的透明度和减少其潜在的不良行为

文章探讨了以大型语言模型(LLM)为代表的人工智能系统在应用中面临的核心挑战,包括安全策略违反、能力滥用、模型窃取及用户...

6 7 8 9 10