python – Pyspark SQL Pandas UDF：返回一个数组

内容导读

互联网集市收集整理的这篇技术教程文章主要介绍了python – Pyspark SQL Pandas UDF：返回一个数组，小编现在分享给大家，供广大互联网技能从业者学习和参考。文章包含2878字，纯文字阅读大概需要5分钟。

内容图文

我正在尝试制作一个带有整数值的两列的pandas UDF,并根据这些值之间的差异返回一个小数组,其长度等于上述差异.

这是我到目前为止的尝试,我一直在尝试使用这种方法来实现这一点,但这里是一般的想法

import pandas as pd

@pandas_udf(ArrayType(DecimalType()), PandasUDFType.SCALAR)
def zero_pad(x, y):
  buffer = []

  for i in range(0, (x - y)):
    buffer.append(0.0)

  return buffer #correction provided by Ali Yessili

这是我如何使用它的一个例子

df = df.withColumn("zero_list", zero_pad(df.x, df.y))

最终结果是df,其中一个名为zero_list的新列是一个ArrayType(DecimalType())列,看起来像[0.0,0.0,0.0,…],其长度为(df.x – df.y)

错误消息是如此笼统,几乎不值得发布,只是“由于阶段失败而中止作业”,它只追溯到我的代码中我执行df.show()的部分,

Py4JJavaError                             Traceback (most recent call last)
<command-103561> in <module>()
---> 33 df.orderBy("z").show(n=1000)

/databricks/spark/python/pyspark/sql/dataframe.py in show(self, n, truncate, vertical)
    350         """
    351         if isinstance(truncate, bool) and truncate:
--> 352             print(self._jdf.showString(n, 20, vertical))
    353         else:
    354             print(self._jdf.showString(n, int(truncate), vertical))

/databricks/spark/python/lib/py4j-0.10.7-src.zip/py4j/java_gateway.py in __call__(self, *args)
   1255         answer = self.gateway_client.send_command(command)
   1256         return_value = get_return_value(
-> 1257             answer, self.gateway_client, self.target_id, self.name)
   1258 
   1259         for temp_arg in temp_args:

我希望有人可以指出我正确的方向来制作一个可以返回可变长度数组的pandas udf,或者只是告诉我为什么我的代码或方法是错误的.

我正在使用带有spark 2.3.1的数据驱动程序来完成所有这些工作.

解决方法:

我不明白你为什么从函数中返回一个pandas Series值.它为每个输入返回多行.

>>> import pandas as pd
>>> def zero_pad(x, y):
...     buffer = []
...     for i in range(0, (x - y)):
...             buffer.append(0.0)
...     return pd.Series(buffer)
... 
>>> zero_pad(5,1)
0    0.0
1    0.0
2    0.0
3    0.0
dtype: float64

因此,您无法添加具有多行结果的列.

而另一方面,你不能直接在withColumn语句中使用udf.请参阅下面的我的脚本我认为结果正是您正在寻找的

>>> from pyspark.sql.functions import udf
>>> 
>>> data = sc.parallelize([
...     (2,1),
...     (8,1),
...     (5,2),
...     (6,4)])
>>> columns = ['x','y']
>>> df = spark.createDataFrame(data, columns)
>>> df.show()
+---+---+
|  x|  y|
+---+---+
|  2|  1|
|  8|  1|
|  5|  2|
|  6|  4|
+---+---+

>>> def zero_pad(x, y):
...     buffer = []
...     for i in range(0, (x - y)):
...             buffer.append(0.0)
...     return buffer
... 
>>> my_udf = udf(zero_pad)
>>> df = df.withColumn("zero_list", my_udf(df.x, df.y))
>>> df.show()
+---+---+--------------------+
|  x|  y|           zero_list|
+---+---+--------------------+
|  2|  1|               [0.0]|
|  8|  1|[0.0, 0.0, 0.0, 0...|
|  5|  2|     [0.0, 0.0, 0.0]|
|  6|  4|          [0.0, 0.0]|
+---+---+--------------------+

内容总结

以上是互联网集市为您收集整理的python – Pyspark SQL Pandas UDF：返回一个数组全部内容，希望文章能够帮你解决python – Pyspark SQL Pandas UDF：返回一个数组所遇到的程序开发问题。 如果觉得互联网集市技术教程内容还不错，欢迎将互联网集市网站推荐给程序员好友。

内容备注

版权声明：本文内容由互联网用户自发贡献，该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容， 请发送邮件至 gblab@vip.qq.com 举报，一经查实，本站将立刻删除。

内容手机端