⌘ K
… 读取采集状态 同步中...
雷
原文
Google AI Developers Blog·· 9 天前AI 评分31

Google TPU 上加速视频扩散时空稀疏注意力

Accelerating Spatio-Temporal Attention for Video Diffusion on TPUs

AI 导读

Google 开发者博客展示了一种在 TPU 上加速视频扩散模型的方法,通过将理论稀疏性转化为端到端的速度提升。该方法利用视频扩散中注意力质量高度集中的特性,动态路由空间头和时间头至相应的稀疏掩码。文中详细对比了基于 JAX 和 Pallas 的自定义 Splash Attention 内核在单个 TPU v6e 设备上的性能优化过程。

本文当前提供导读和图片预览,完整图文请查看原文。

来源:Google AI Developers Blog · developers.googleblog.com