⌘ K
… 读取采集状态 同步中...
雷

#Meta

今日 11 条
8月29日周五
  1. AISI Blog31

    管理能力日益增强的开源权重 AI 系统风险

    英国 AISI 指出，随着强大推理开源模型发布，其可被任意修改且防护易被移除的风险上升。AISI 与 EleutherAI、牛津大学合作研究显示，在预训练数据中过滤有害内容比训练后防御抵御对抗性微调的效果高 10 倍以上，且不显著牺牲性能。文章强调构建包含数据策展与全权限审计的多元化策略，以在保障开放创新的同时最小化潜在危害。

5月20日周一
  1. AISI Blog66

    英国AI安全研究所发布第四份进展报告：开源Inspect平台并推进国际AI风险评估

    英国AI安全研究所（AISI）发布第四份进展报告，面向即将举办的首尔AI安全峰会披露多项动作：开源AI安全评测平台Inspect；发布首份针对公共前沿模型在Cyber。

    推荐理由：英国AISI开源了评估平台Inspect，并公布了30国AI风险科学综述，政府主导的开源与评测协同细节对安全评测从业者有直接参考价值。

9月27日周三
  1. Mistral News88

    Mistral AI 发布开源 7.3B 参数大语言模型 Mistral 7B

    Mistral AI 团队正式发布 7.3B 参数的大语言模型 Mistral 7B，采用 Apache 2.0 许可证开源。该模型在所有基准测试中性能均超越 Llama 2 13B，在多项基准上接近 Llama 1 34B，并在代码任务上接近 CodeLlama 7B。

    推荐理由：Mistral 7B 以 Apache 2.0 许可发布，性能超越 Llama 2 13B 且推理效率更高，为开发团队提供了可本地部署的高性价比开源大语言模型。