AI 安全
AI安全已从被动防御转向主动对抗与全链路治理。核心涵盖Deepfake伪造检测、Agent权限实时管控及自动化漏洞挖掘。随着监管趋严，技术正聚焦于应对武器化风险、内容真实性验证及供应链排他性合规，成为构筑数字世界信任与企业级应用落地的基础设施。
🔍 信源证据墙
AI开发工作流正面临严峻的供应链安全危机，LiteLLM等核心开源库的投毒事件暴露了敏感信息窃取的系统性风险。Agent自主权限扩散导致的机密数据泄露已成为企业应用的最大阻碍。关键进展在于密态计算与EdgeClaw等“隔离箱”技术的应用，试图建立大模型可信运行环境。
Memvid 压力测试
通过极端压力测试揭示AI在大规模对话中存在的记忆缺陷，属于关键的安全性/稳健性评估。
- Publish Date: 2026-03-26
- Source: 36kr_ai_news
GitHub 信任危机
触及AI训练数据所有权冲突，揭示了个人开发者代码数据被默认用于模型改进引发的信任危机。
- Publish Date: 2026-03-26
- Source: 36kr_ai_news
荆华密算
密态计算技术与智能体框架的结合，指向了解决大模型隐私与企业级应用的安全范式。
- Publish Date: 2026-03-26
- Source: 36kr_ai_news
LiteLLM 投毒
核心开源库的安全事件暴露了现代AI开发工作流在软件供应链层面的脆弱性。
- Publish Date: 2026-03-26
- Source: 36kr_ai_news
LiteLLM 安全预警
针对AI开发常用库的安全危机预警，涉及严重的敏感信息窃取风险。
- Publish Date: 2026-03-25
- Source: 36kr_ai_news
LiteLLM 恶意代码检测
顶级开发者发出警告，指明AI基础设施底层依赖项的安全危机已成为行业高危风险。
- Publish Date: 2026-03-25
- Source: 36kr_ai_news
Meta Agent 泄密事故
首个由于Agent自主权限扩散导致的机密数据裸奔，揭示了强执行AI在企业内网的安全灾难阈值。
- Publish Date: 2026-03-21
- Source: 36kr_ai_news
MiMo 管理范式
揭示了顶级国产模型团队通过强制性高强度交互驱动模型持续调优的暴力管理范式。
- Publish Date: 2026-03-20
- Source: 36kr_ai_news
EdgeClaw
通过硬件盒子的形式实现“养虾入笼”，解决了困扰企业端的数据离线安全与隐私闭环痛点。
- Publish Date: 2026-03-20
- Source: 36kr_ai_news
Meta Sev 1级事故
核心警示：高度自主的Agent资产一旦突破内部权限围栏将造成毁灭性泄密。
- Publish Date: 2026-03-19
- Source: 36kr_ai_news
核心突破在于研发了能够模拟防御者思维、在代码实现前执行架构级风险审查的 AI Agent。产业化进展正向底层固件防御及大模型生命周期内的身份权限管理深度集成。关键分化点在于对非人类身份权限及生成式 AI 幻觉引发的漏洞建模能力。
Provally
基于AI的软件安全评估工具，自动生成漏洞证明以减少安全警报疲劳。
- Funding Stage: Seed Round
- Funding Amount: 0.25 百万美元
- Investors: 未知
专注于AI大语言模型生命周期的安全产品开发，涵盖数据脱敏与风险评估。
- Funding Stage: Early Stage VC
- Funding Amount: 未知金额
- Investors: 未知
ZeroPath
AI代码扫描漏洞识别及自动化红队演练工具，致力于Web应用的人类水平安全能力。
- Funding Stage: Seed Round
- Funding Amount: 7.03 百万美元
- Investors: 未知
Clover
设计阶段AI安全平台，应用AI Agent模拟架构师思维在代码实现前执行风险审查。
- Funding Stage: Early Stage VC
- Funding Amount: 36.0 百万美元
- Investors: 未知
Allure Security
融合机学行为分析与诱饵技术，由自动化流量识别防止敏感企业数据资产被窃取。
- Funding Stage: Later Stage VC
- Funding Amount: 17.0 百万美元
- Investors: 未知
Eclypsium
针对操作系统以下的底层固件及硬件供应链资产执行全自动化的漏洞防御配套方案。
- Funding Stage: Later Stage VC
- Funding Amount: 25.0 百万美元
- Investors: 未知
Glacis
提供可验证凭据的AI审计系统，采用加密证明对模型行为和数据使用情况进行监控。
- Funding Stage: Accelerator/Incubator
- Funding Amount: 未知金额
- Investors: 未知
AI 安全正从单纯的技术对齐转向复杂的军政风险博弈，涉及武器化倾向模拟与政府无限制访问权力的结构性冲突；厂商日益加强对其技术合规性与供应链排他性的法律维权。
AI 战争倾向模拟研究
研究揭示各主流大模型在军事模拟中表现出极高的核武器应用倾向及缺乏生物生存障碍，触及AI安全红线
- Publish Date: 2026-02-25
- Source: arxiv.org
五角大楼对 Anthropic 的最后通牒
美国国防部要求无限制访问Claude模型，引发了政府安全需求与AI公司伦理底线之间的结构性冲突
- Publish Date: 2026-02-25
- Source: axios.com
特朗普任内 AI 监管民调
选民对AI失控的恐惧与白宫加速AI发展的政策之间存在严重断裂，预示未来监管政策的高度波动性
- Publish Date: 2026-02-18
- Source: ft.com
OpenAI 五角大楼协议明细
OpenAI协议允许在现有监视法律框架下的“任何合法使用”，实际降低了大规模监视的技术红线
- Publish Date: 2026-03-02
- Source: theverge.com
微软等科技巨头联合维权案
科技全行业集体维护Anthropic，抵御政府随意认定供应链风险对美系AI竞争力的侵蚀
- Publish Date: 2026-03-11
- Source: cnbc.com
Anthropic 状告美国政府案
Anthropic提起多起诉讼反击国防部黑名单公告，揭露其政府订单遭受重大打击及核心竞争力被政治干预
- Publish Date: 2026-03-09
- Source: wired.com
Anthropic 五角大楼黑名单诉讼
Anthropic起诉五角大楼黑名单处理，反映大模型企业对自身被定性为安全风险的维权态势
- Publish Date: 2026-03-09
- Source: reuters.com
利用AI Agent重构传统防线提升了对动态威胁的防御能力；网络安全市场正处于从特征匹配向智能对抗转变的窗口期；关键分化在于技术专家对企业级安全痛点的精准打击。
Aegis AI Security
资深技术专家解决企业高频安全痛点，利用Agent技术升级传统防线。
- Team Background: 曾任Google Senior Staff/Lead，技术背景深厚（按输入归为中层，2分）
- Market Trend: AI驱动的邮件安全与反钓鱼是企业安全的刚需（2分）
核心技术突破点在于底层安全协议的开源化，旨在构建透明的AI对齐框架。产业化进展表现为行业巨头开始尝试建立全球通用的安全执行标准。关键分化点在于安全层已成为大模型商业化部署的前置必要条件。
Anthropic正式开源了Claude的「灵魂」
Anthropic开源底层AI安全框架，旨在建立行业安全指南。
- Publish Time: 2026-01-22 19:54:07
- Source: wechat_public_account