⌘ K
… 读取采集状态 同步中...
雷

#数据/训练

今日 0 条
10月2日周五
  1. Hugging Face Blog45

    ServiceNow CoreAI 推出 AutoSynthData:利用模型失败与教师模型生成企业智能体训练数据

    ServiceNow CoreAI 构建 AutoSynthData,将目标模型在企业环境中的失败转化为训练数据。该系统利用更强教师模型的成功路径,生成并验证新的可行任务,填补能力缺口。通过在 EnterpriseOps Gym 中循环评估与更新课程,AutoSynthData 帮助模型持续改进特定工作流表现。

10月1日周四
9月30日周三
  1. AWS Machine Learning Blog42

    利用 Amazon Quick 和 Amazon Bedrock AgentCore 构建 AI 驱动的契约智能平台

    在 AWS 上构建的契约智能平台利用 AI 智能体提取合同数据,并通过多模型架构验证准确性,以解决 RAG 无法跨数百份合同进行聚合查询的问题。该平台使用 Claude Sonnet 系列模型提取关键字段,使用 Claude Haiku 模型进行验证,并将结果存储在 Amazon Aurora PostgreSQL 中,从而提供嵌入式分析和自然语言查询功能。

9月28日周一
  1. Mistral AI64

    Mistral 在慕尼黑开设德国枢纽,推动欧洲工业 AI 发展

    Mistral 在慕尼黑开设德国枢纽,设立专注于物理 AI 和工业 AI 的研究团队与应用工程团队,直接服务企业伙伴。公司计划到 2030 年建成 1 吉瓦的欧洲计算能力,并继续推进前沿模型开发。

    推荐理由:Mistral 宣布在慕尼黑设立枢纽并收购 Emmi AI,明确将物理 AI 与工业 AI 纳入欧洲主权计算战略。

9月11日周五
9月10日周四
8月10日周一
  1. Hugging Face Blog50

    Hugging Face 论文提出离线 Top-K Logits 与融合分块 KL 损失,大幅降低 LLM 知识蒸馏显存成本

    Hugging Face 论文提出两项系统优化:缓存教师模型 Top-K logits 实现离线蒸馏,及融合分块 KL 损失避免构建完整词表矩阵。针对 gpt-oss-120b 在 32K 序列下的训练场景,该方法将显存峰值从约 250GB 降至 128GB,使单 GPU 完成长上下文知识蒸馏训练成为可能。

7月31日周五
7月7日周二
7月6日周一
  1. Hugging Face Blog31

    PRX Part 4: 数据策略

    文章阐述 PRX 7B 模型的数据构建策略,采用混合公开与内部数据集,并用 VLM 重新生成图像长描述。预训练阶段优先覆盖广度与多样性,通过 Mosaic Data Shards 进行分布式流式训练,利用 Lance 处理特征工程。将文本编码器切换为 Qwen3-VL 并动态计算嵌入,避免预存储,仅带来约 3–4% 的训练吞吐量损耗。

7月1日周三
6月25日周四
  1. Google Research48

    推理如何解锁 LLM 的参数化知识

    研究发现,允许大语言模型生成思维链可解锁难以召回的参数化知识。在 Gemini 2.5 和 Qwen3-32B 模型上,开启推理后 pass@k 显著提升,即便仅使用无意义字符串作为计算缓冲区也能改善召回率。这种效果主要源于事实启动机制,模型通过生成相关事实构建了语义桥梁,但这也增加了幻觉风险。

6月11日周四
3月18日周三
  1. Mistral AI48

    Mistral AI 发布 Forge,助力企业基于专有知识构建前沿 AI 模型

    Mistral AI 推出 Forge 系统,允许企业利用内部文档、代码库和结构化数据训练前沿级 AI 模型。该系统支持预训练、后训练及强化学习,兼容 dense 和 MoE 架构,并支持多模态输入。Mistral Vibe 智能体可自主使用 Forge 进行模型微调、寻找最优超参数及生成合成数据,实现基于内部评估框架的持续改进。