2016-10-20 3 views
3

Я пытаюсь отфильтровать DataFrame, сохраняя только те строки, у которых определенный строковый столбец не пуст.Spark 2.0, DataFrame, фильтровать строковый столбец, неравный оператор (! ==) устарел

Операция заключается в следующем:

df.filter($"stringColumn" !== "") 

Мой компилятор показывает, что == осуждается, так как я переехал в Спарк 2.0.1

Как я могу проверить, если значение строки столбца пусто! в Spark> 2,0?

ответ

8

Использование =!= в качестве замены:

df.filter($"stringColumn" =!= "") 
+0

благодаря LostInOverflow, вы можете указать мне, где вы найдете информацию в Спарк документации? – Rami

+1

https://spark.apache.org/docs/latest/api/scala/#org.apache.spark.sql.Column, отметьте комментарий к устареванию для '! =='. –

+0

@Rami Это полный ответ, в соответствии с правилами StackOverflow вы должны его принять –

Смежные вопросы