foundpark.init() IndexError: ошибка индекса индекса вне диапазона

Question

при запуске следующего в среде Python 3.5 Jupyter. Я получаю сообщение об ошибке ниже. Любые идеи о том, что вызывает это?

import findspark 
findspark.init() 

ошибка:

IndexError        Traceback (most recent call 
last) <ipython-input-20-2ad2c7679ebc> in <module>() 
     1 import findspark 
----> 2 findspark.init() 
     3 
     4 import pyspark 

/.../anaconda/envs/pyspark/lib/python3.5/site-packages/findspark.py in init(spark_home, python_path, edit_rc, edit_profile) 
    132  # add pyspark to sys.path 
    133  spark_python = os.path.join(spark_home, 'python') 
--> 134  py4j = glob(os.path.join(spark_python, 'lib', 'py4j-*.zip'))[0] 
    135  sys.path[:0] = [spark_python, py4j] 
    136 

IndexError: list index out of range 

Answer 1

Это, скорее всего, из-за переменной в SPARK_HOME среды не правильно установлена ​​в вашей системе. В качестве альтернативы, вы можете просто указать, когда вы инициализацию findspark, например, так:

import findspark 
findspark.init('/path/to/spark/home') 

После этого все должно работать!

Answer 2

я получаю ту же ошибку, и был в состоянии сделать его работу, введя точный каталог установки:

import findspark 
# Use this 
findspark.init("C:\Users\PolestarEmployee\spark-1.6.3-bin-hadoop2.6") 
# Test 
from pyspark import SparkContext, SparkConf 

Basically, it is the directory where spark was extracted. In future where ever you see spark_home enter the same installation directory. I also tried using toree to create a kernal instead, but it is failing somehow. A kernal would be a cleaner solution.

Answer 3

Вам необходимо обновить SPARK_HOME переменную внутри bash_profile. Для меня, следующая команда работала (в терминале):

export SPARK_HOME="/usr/local/Cellar/apache-spark/2.2.0/libexec/"

После этого, вы можете использовать следующие команды:

import findspark 
findspark.init('/usr/local/Cellar/apache-spark/2.2.0/libexec')