跳到主要内容

TileLang 在线体验环境

DeepSeek 宣布在其新版本中拥抱国产 GPU 语言 TileLang,引发业界广泛关注。、TileLang 项目是由 TileLang 社区主导开发,旨在简化高性能GPU/CPU 内核的开发。它采用 Python 式语法,让开发者能够专注于提高生产力,而无需牺牲实现最佳性能所需的底层优化。

TileLang 由北京大学计算机学院团队开发,并于2025年1月正式开源。作为一种专门用来开发 GPU 内核的领域专用语言,性能上可以对标国际主流生态。DeepSeek 官方推荐开发者使用该版本进行实验性开发,因其在调试便捷性与迭代速度上具备明显优势。

TileLang 最显著的优势在于大幅提升 GPU 内核的开发效率。TileLang 实现 FlashAttention 算子开发,代码量从 500+行减少至 80 行,并保持了与官方版本持平的性能。这种代码量的大幅减少不仅降低了开发门槛,也提高了维护性和可读性。

模力方舟给大家提供开箱即用的 TileLang 体验环境,我们提供了预配置的 TileLang 在线运行环境,开发者无需自行搭建硬件平台,即可体验 TileLang 在曦云C系列上的算子开发和优化过程。

启动 TileLang在线体验环境

您可以通过模力方舟的算力市场租用沐曦 GPU 卡,选择 TileLang 镜像:

选择镜像

在容器启动后执行如下命令即刻快速验证 TileLang 的运行效果:

cd /root/mcTileLang/
python3 ./examples/quickstart.py

执行结果如下图所示:

TileLang 执行结果

参考资料

  1. 沐曦C卡的 TileLang 支持的开源项目 https://gitee.com/metax-maca/mcTileLang
  2. TileLang 语言官方网站 https://tilelang.com/
  3. TileLang 开源项目 https://github.com/tile-ai/tilelang