在jupyter中运行pyspark3内核时,有人知道如何更改在%%local
spark魔法中调用的python的特定实例吗?在
当运行sparkmagic附带的PySpark3内核时,我经常希望将数据拉到本地机器上并在那里进行一些计算。在
但是,%local magic似乎只能使用根系统python,而不能使用python3或虚拟env。在
这是我的内核.json公司名称:
{
"argv":["python","-m","sparkmagic.kernels.pyspark3kernel.pyspark3kernel",
"-f", "{connection_file}"],
"display_name":"PySpark3"
}
我的个人资料中已经有export PYSPARK_PYTHON=python3
。
我还尝试过调整kernel.json
,将python参数替换为python3
,/usr/bin/python3
,以及虚拟环境的路径
目前没有回答
相关问题 更多 >
编程相关推荐