微软AI (共3篇)

ARS

微软删除指导用盗版《哈利·波特》训练AI的博客

微软近日删除了一篇博客文章,该文曾指导用户使用一个被错误标记为公共领域的《哈利·波特》数据集训练AI模型。这一数据集实际包含盗版书籍内容,事件曝光后迅速引发版权争议。微软称这是‘失误’,但此举暴露了AI训练数据来源的灰色地带。J.K.罗琳等版权方可能追究责任,凸显AI行业在数据合规上的挑战。事件提醒开发者需警惕版权陷阱,推动更透明的数据治理。(128字)

微软AI 版权争议 哈利波特
168
AIN

微软揭秘:无需触发器即可检测AI潜伏后门

微软研究员推出创新扫描方法,可在不知触发器或预期结果的情况下识别中毒AI模型。针对开放权重大语言模型的供应链漏洞,独特内存泄漏和注意力模式暴露'潜伏特工'威胁。这些后门模型在激活前保持休眠,潜在风险巨大。该技术为企业集成开源LLM提供安全保障,推动AI供应链安全新标准。(128字)

微软AI 后门检测 大语言模型
314
AIN

微软揭秘:无需触发器即可检测AI休眠代理后门

微软研究人员推出创新扫描方法,能识别中毒的开源大语言模型(LLM),无需知晓触发器或预期结果。组织在使用开源权重LLM时面临供应链漏洞,独特内存泄漏和内部注意力模式暴露了隐藏的‘休眠代理’威胁。这些后门模型在闲置时潜伏,一旦激活即可执行恶意指令。此技术为AI安全注入新活力,帮助防范供应链攻击。(128字)