Skip to content

使用 RAPIDS cuDF 借助 GPU 加速 Pandas

Accelerate Pandas with GPU Using RAPIDS cuDF

Pandas 最大的两个问题是:

  • 它始终在 CPU 上进行单核计算。
  • 它创建的 DataFrame 笨重。
  • 虽然许多库(例如 Polars)确实解决了这些局限性,但它们仍局限于 CPU 驱动的计算。NVIDIA 的 RAPIDS cuDF 库允许 Pandas 用户借助 GPU 来大幅提升他们的 Pandas 工作流。怎么使用呢?在 GPU 运行时中,执行以下操作:
  • 加载扩展:%load_ext cudf.pandas
  • 导入 Pandas:import pandas as pd

ds p429 1

搞定!像往常一样使用 Pandas 的方法即可。

ds p430 1

仅仅是加载扩展就能带来巨大的加速。

根据 NVIDIA 的官方发布,速度提升可达 150 倍。不过在我个人的实验中,我观察到的加速大多在 50-70 倍之间,这仍然相当不错。好的一面是,该扩展能加速大部分 Pandas 方法。而且如有需要,它可以自动回退到 CPU。

每当启用了 cudf.pandas,import pandas as pd 语句就不会导入我们一直使用的那个原始 Pandas 库。相反,它导入的是另一个库,其中包含所有 Pandas 方法的 GPU 加速实现。

ds p430 2

这个替代实现保留了 Pandas 的全部语法。因此,如果你会使用 Pandas,你就已经知道如何使用 cuDF 的 Pandas。代码可在此处获取:https://bit.ly/4cOAPZW。

本站内容仅供学习交流,版权归原作者所有。