为了账号安全,请及时绑定邮箱和手机立即绑定

pycharm运行spark项目

标签:
Spark

环境

centos

安装PyCharm和py4j

下载安装最新版本的PyCharm,官网地址: https://www.jetbrains.com/pycharm/download/
安装步骤:

  1. tar -xzvf  XXXX.tar.gz
    2.避免出现pycharm只读文件的情况
    进入到bin目录下
    sudo ./pycharm.sh 安装
    并且在最后一步安装界面的时候,要选择for all users
    3.安装pip (yum install pip)
    4.安装py4j:
    sudo pip install py4j

配置PyCharm

选择“Run” ->“Edit Configurations” ->“Environment variables”
增加SPARK_HOME目录与PYTHONPATH目录。 - SPARK_HOME:Spark安装目录 - PYTHONPATH:Spark安装目录下的Python目录
因为我的spark集群建立在hadoop上
我还添加了HADOOP_HOME、JAVA_HOME


webp

pycharm配置


问题
no ascii in /usr/bin/pythn2.7
解决
添加了两个/usr/bin/pythn2.7
未解决问题
kafka需要引入jar
pycharm 不知道如何引用



作者:玄月府的小妖在debug
链接:https://www.jianshu.com/p/ea3ac27bef79


点击查看更多内容
TA 点赞

若觉得本文不错,就分享一下吧!

评论

作者其他优质文章

正在加载中
  • 推荐
  • 评论
  • 收藏
  • 共同学习,写下你的评论
感谢您的支持,我会继续努力的~
扫码打赏,你说多少就多少
赞赏金额会直接到老师账户
支付方式
打开微信扫一扫,即可进行扫码打赏哦
今天注册有机会得

100积分直接送

付费专栏免费学

大额优惠券免费领

立即参与 放弃机会
意见反馈 帮助中心 APP下载
官方微信

举报

0/150
提交
取消