python-PySpark-从Numpy矩阵创建DataFrame

内容导读

互联网集市收集整理的这篇技术教程文章主要介绍了python-PySpark-从Numpy矩阵创建DataFrame，小编现在分享给大家，供广大互联网技能从业者学习和参考。文章包含616字，纯文字阅读大概需要1分钟。

内容图文

我有一个numpy的矩阵：

arr = np.array([[2,3], [2,8], [2,3],[4,5]])

我需要从arr创建一个PySpark数据框.我无法手动输入值,因为arr的长度/值将动态变化,因此我需要将arr转换为数据帧.

我尝试以下代码未成功.

df= sqlContext.createDataFrame(arr,["A", "B"])

但是,出现以下错误.

TypeError: Can not infer schema for type: <type 'numpy.ndarray'>

解决方法:

希望这可以帮助！

import numpy as np

#sample data
arr = np.array([[2,3], [2,8], [2,3],[4,5]])

rdd1 = sc.parallelize(arr)
rdd2 = rdd1.map(lambda x: [int(i) for i in x])
df = rdd2.toDF(["A", "B"])
df.show()

输出为：

+---+---+
|  A|  B|
+---+---+
|  2|  3|
|  2|  8|
|  2|  3|
|  4|  5|
+---+---+

内容总结

以上是互联网集市为您收集整理的python-PySpark-从Numpy矩阵创建DataFrame全部内容，希望文章能够帮你解决python-PySpark-从Numpy矩阵创建DataFrame所遇到的程序开发问题。 如果觉得互联网集市技术教程内容还不错，欢迎将互联网集市网站推荐给程序员好友。

内容备注

版权声明：本文内容由互联网用户自发贡献，该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容， 请发送邮件至 gblab@vip.qq.com 举报，一经查实，本站将立刻删除。

内容手机端