为了账号安全,请及时绑定邮箱和手机立即绑定

'PipelinedRDD'对象在PySpark中没有属性'toDF'

'PipelinedRDD'对象在PySpark中没有属性'toDF'

守着一只汪 2019-11-30 14:41:29
我正在尝试加载SVM文件并将其转换为A,DataFrame以便可以使用PipelineSpark中的ML模块(ML)。我刚刚在Ubuntu 14.04(未spark-env.sh配置)上安装了新的Spark 1.5.0 。我的my_script.py是:from pyspark.mllib.util import MLUtilsfrom pyspark import SparkContextsc = SparkContext("local", "Teste Original")data = MLUtils.loadLibSVMFile(sc, "/home/svm_capture").toDF()我正在使用: ./spark-submit my_script.py我得到错误:Traceback (most recent call last):File "/home/fred-spark/spark-1.5.0-bin-hadoop2.6/pipeline_teste_original.py", line 34, in <module>data = MLUtils.loadLibSVMFile(sc, "/home/fred-spark/svm_capture").toDF()AttributeError: 'PipelinedRDD' object has no attribute 'toDF'我不明白的是,如果我跑步:data = MLUtils.loadLibSVMFile(sc, "/home/svm_capture").toDF()直接在PySpark外壳内,它可以工作。
查看完整描述

1 回答

  • 1 回答
  • 0 关注
  • 1043 浏览
慕课专栏
更多

添加回答

举报

0/150
提交
取消
意见反馈 帮助中心 APP下载
官方微信