⌘ K
… 读取采集状态 同步中...
雷

#多模态

今日 3 条
7月18日周四
  1. Mistral News88

    Mistral 发布开源模型 Mistral NeMo

    Mistral 发布 12B 模型 Mistral NeMo，上下文窗口达 128k tokens。该模型采用 Apache 2.0 许可证，使用支持 FP8 的量化感知训练，可无损失替换 Mistral 7B，并配备了更高效的 Tekken 分词器。

    推荐理由：12B参数、128k上下文，Apache 2.0开源且支持FP8推理，可直接替换Mistral 7B并兼顾多语言。

6月21日周五
  1. Anthropic News92

    Anthropic 发布 Claude 3.5 Sonnet 模型及 Artifacts 功能

    Anthropic 发布 Claude 3.5 Sonnet 模型及 Artifacts 协作功能。Claude 3.5 Sonnet 在 GPQA、MMLU 和 HumanEval 等基准测试中超越 Claude 3 Opus，运行速度是其两倍，定价为每百万输入 token $3、输出 token $15。

    推荐理由：新模型在内部编码评测中解决了 64% 的问题，并同步推出了 Artifacts 协作界面。

6月13日周四
  1. Anthropic News34

    Anthropic 分享 AI 系统红队测试的挑战与多种方法

    Anthropic 分享了其在 AI 系统红队测试中采用的多种方法及面临的挑战，旨在建立标准化实践以客观比较不同系统的安全性。文章涵盖了领域专家测试、信任与安全策略漏洞测试、国家安全前沿威胁测试（如 CBRN、网络安全）、多语言及多文化红队测试（与新加坡 IMDA 合作），以及利用语言模型进行自动化红队测试等。

6月7日周五
  1. Qwen Blog96

    Qwen2 模型发布：新增 27 种语言支持与 128K 上下文

    千问（Qwen）团队发布了从 Qwen1.5 演进的 Qwen2 模型系列，包含 Qwen2-0.5B 至 Qwen2-72B 共 5 种规格，其中 7B 和 72B 指令微调版支持 128K 上下文。模型在训练数据中增加了 27 种语言，并在编码、数学及多模态基准测试中取得 SOTA 表现，大部分模型已转为 Apache 2.0 许可证开源。

    推荐理由：千问（Qwen）团队发布了包含 5 种规格的 Qwen2 系列大语言模型，支持 128K 上下文并采用 Apache 2.0 协议开放权重。

4月17日周三
  1. Mistral News82

    Mistral 开源 Mixtral 8x22B 模型

    Mistral 发布开源模型 Mixtral 8x22B，采用稀疏混合专家架构，141B 总参数中仅 39B 激活。模型支持 64K 上下文，在数学、编码和多语言任务上表现优于其他开源模型，并以 Apache 2.0 许可开放。

    推荐理由：Mistral 开源发布 Mixtral 8x22B，提供 Apache 2.0 许可和 64K 上下文窗口，兼顾推理效率与多语言表现。

3月4日周一
1月25日周四
  1. Qwen Blog87

    Qwen 发布 Qwen-VL-Plus 和 Qwen-VL-Max 多模态大模型

    Qwen 发布 Qwen-VL-Plus 和 Qwen-VL-Max 两款增强版多模态模型，主要提升图像细节识别、文本提取和高精度推理能力，支持百万像素以上分辨率和任意宽高比图像输入。

    推荐理由：两个新模型在多个图文任务上与 GPT-4V 和 Gemini 持平，并在中文理解任务上超过两者，给出了具体基准分数和访问入口。

12月28日周三
12月24日周六
  1. Qwen Blog45

    中文 CLIP 发布：基于对比式视觉-语言预训练的开源中文多模态模型

    千问团队发布开源中文 CLIP 模型，旨在解决英文 CLIP 在中文跨模态检索中因翻译质量和文化领域偏差导致的性能下降问题。该模型采用两阶段预训练方法，使用包含 2 亿图文对的公开数据集训练，并发布了 ResNet-50、ViT-L/14 等 5 个版本，在 MUGE 等数据集上取得了优于前最优模型的性能。

11月14日周一
  1. Qwen Blog61

    OFA: 统一架构、任务与模态的通用多模态预训练模型

    Qwen团队发布统一多模态预训练模型OFA，将视觉、语言和图像生成任务整合到单一序列到序列框架中，并基于8项任务进行多任务预训练。模型包含5个参数规模（33M至930M），在视觉问答、图像描述、视觉定位等任务上达到或接近该规模下最优性能，且在自然语言理解基准GLUE上可与RoBERTa等单模态模型竞争。论文同步开源了预训练和微调模型、代码库及在线演示，并指出多模态基础模型将在此方向上快速发展。