python-对于较大的跨产品或外部产品,NumPy比PyTorch更快

内容导读

互联网集市收集整理的这篇技术教程文章主要介绍了python-对于较大的跨产品或外部产品,NumPy比PyTorch更快，小编现在分享给大家，供广大互联网技能从业者学习和参考。文章包含1498字，纯文字阅读大概需要3分钟。

内容图文

我正在计算大小为(50500)的向量之间的巨大外部乘积,结果发现NumPy这样做的速度比PyTorch快(很多？).

测试如下：

# NumPy

In [64]: a = np.arange(50500) 
In [65]: b = a.copy()  

In [67]: %timeit np.outer(a, b) 
5.81 s ± 56.3 ms per loop (mean ± std. dev. of 7 runs, 1 loop each)

-------------

# PyTorch

In [73]: t1 = torch.arange(50500)
In [76]: t2 = t1.clone()

In [79]: %timeit torch.ger(t1, t2) 
7.73 s ± 143 ms per loop (mean ± std. dev. of 7 runs, 1 loop each)

理想情况下,我想在PyTorch中完成计算.那么,如何在PyTorch中针对如此巨大的向量加快计算外部乘积的速度呢？

注意：我试图将张量移至GPU,但我因MemoryError而需要处理,因为它需要大约19 GiB的空间.因此,我最终必须在CPU上执行此操作.

解决方法:

不幸的是,如果没有大量的工作,实际上是没有办法专门加快torch的计算外部产品torch.ger()的方法.

说明和选项

numpy函数np.outer()之所以这么快是因为它是用C编写的,您可以在这里看到：https://github.com/numpy/numpy/blob/7e3d558aeee5a8a5eae5ebb6aef03de892a92ebd/numpy/core/numeric.py#L1123
该函数使用umath C源代码中的操作.

Pytorch的torch.ger()函数是用C语言编写的：https://github.com/pytorch/pytorch/blob/7ce634ebc2943ff11d2ec727b7db83ab9758a6e0/aten/src/ATen/native/LinearAlgebra.cpp#L142,这使得它的速度变得如此之慢,如您在示例中看到的那样.

您可以选择“在PyTorch中加快计算外部产品的速度”的选择是在pytorch的本机代码中为外部产品添加C实现,或者在您真正不想使用Cython等C与C进行接口的同时,使自己的外部产品功能使用numpy(这没有多大意义).

附言

顺便说一句,使用GPU只会提高您在GPU上的并行计算速度,这可能不会超过在RAM和GPU内存之间传输数据所需的时间成本.

内容总结

以上是互联网集市为您收集整理的python-对于较大的跨产品或外部产品,NumPy比PyTorch更快全部内容，希望文章能够帮你解决python-对于较大的跨产品或外部产品,NumPy比PyTorch更快所遇到的程序开发问题。 如果觉得互联网集市技术教程内容还不错，欢迎将互联网集市网站推荐给程序员好友。

内容备注

版权声明：本文内容由互联网用户自发贡献，该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容， 请发送邮件至 gblab@vip.qq.com 举报，一经查实，本站将立刻删除。

内容手机端