設置pyspark 啟動時所使用的python版本


以下操作均為使用非root用戶進行。

vim ~/.bashrc

在文件中添加:

 

export PYSPARK_PYTHON=/usr/local/bin/python3

指定pyspark啟動時使用的python版本,


 


#export PYSPARK_DRIVER_PYTHON=ipython3

指定啟動pyspark后的交互式界面,使用ipython3作為默認啟動交互界面

 



export PYSPARK_DRIVER_PYTHON=jupyter
export PYSPARK_DRIVER_PYTHON_OPTS="notebook --no-browser --port 8889 --ip=172.16.80.142"

unset XDG_RUNTIME_DIR

指定啟動pyspark后的交互式界面,使用jupyter作為默認啟動的交互界面,指定ip 和port 可以讓同網段的設備訪問jupyter 進行pyspark 操作

 


 

source ~/.bashrc

加載配置生效

 

 注意:

在修改交互式界面的時候。如果以前有設置了PYSPARK_DRIVER_PYTHON_OPTS

新修改的PYSPARK_DRIVER_PYTHON 如果沒有設置PYSPARK_DRIVER_PYTHON_OPTS  即使注釋掉,可能還是會使用上一次的設置。最好覆蓋一下。


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM