0

В Bluemix MessageHub Docs точки пользователи питона в библиотеку сливающийся Кафка:Как подключиться к Message Hub от Data Science Experience/Spark как услугу с использованием confluent-kafka-python?

enter image description here

Так что я попытался установить:

!pip install --user confluent-kafka 

Однако, я ударил эту ошибку:

Collecting confluent-kafka 
    Using cached confluent-kafka-0.9.1.2.tar.gz 
Installing collected packages: confluent-kafka 
    Running setup.py install for confluent-kafka ... - \ error 
    Complete output from command /usr/local/src/bluemix_jupyter_bundle.v22/notebook/bin/python -u -c "import setuptools, tokenize;__file__='/gpfs/global_fs01/sym_shared/YPProdSpark/user/xxxx/notebook/tmp/pip-build-N3zDUh/confluent-kafka/setup.py';exec(compile(getattr(tokenize, 'open', open)(__file__).read().replace('\r\n', '\n'), __file__, 'exec'))" install --record /gpfs/fs01/user/xxxx/notebook/tmp/pip-PyAwq2-record/install-record.txt --single-version-externally-managed --compile --user --prefix=: 
    running install 
    running build 
    running build_py 
    creating build 
    creating build/lib.linux-x86_64-2.7 
    creating build/lib.linux-x86_64-2.7/confluent_kafka 
    copying confluent_kafka/__init__.py -> build/lib.linux-x86_64-2.7/confluent_kafka 
    creating build/lib.linux-x86_64-2.7/confluent_kafka/kafkatest 
    copying confluent_kafka/kafkatest/__init__.py -> build/lib.linux-x86_64-2.7/confluent_kafka/kafkatest 
    copying confluent_kafka/kafkatest/verifiable_consumer.py -> build/lib.linux-x86_64-2.7/confluent_kafka/kafkatest 
    copying confluent_kafka/kafkatest/verifiable_producer.py -> build/lib.linux-x86_64-2.7/confluent_kafka/kafkatest 
    copying confluent_kafka/kafkatest/verifiable_client.py -> build/lib.linux-x86_64-2.7/confluent_kafka/kafkatest 
    running build_ext 
    building 'confluent_kafka.cimpl' extension 
    creating build/temp.linux-x86_64-2.7 
    creating build/temp.linux-x86_64-2.7/confluent_kafka 
    creating build/temp.linux-x86_64-2.7/confluent_kafka/src 
    gcc -pthread -fno-strict-aliasing -g -O2 -DNDEBUG -g -fwrapv -O3 -Wall -Wstrict-prototypes -fPIC -I/usr/local/src/bluemix_jupyter_bundle.v22/notebook/include/python2.7 -c confluent_kafka/src/confluent_kafka.c -o build/temp.linux-x86_64-2.7/confluent_kafka/src/confluent_kafka.o 
    In file included from confluent_kafka/src/confluent_kafka.c:17:0: 
    confluent_kafka/src/confluent_kafka.h:20:32: fatal error: librdkafka/rdkafka.h: No such file or directory 
    #include <librdkafka/rdkafka.h> 
            ^
    compilation terminated. 
    error: command 'gcc' failed with exit status 1 

    ---------------------------------------- 
Command "/usr/local/src/bluemix_jupyter_bundle.v22/notebook/bin/python -u -c "import setuptools, tokenize;__file__='/gpfs/global_fs01/sym_shared/YPProdSpark/user/xxxx/notebook/tmp/pip-build-N3zDUh/confluent-kafka/setup.py';exec(compile(getattr(tokenize, 'open', open)(__file__).read().replace('\r\n', '\n'), __file__, 'exec'))" install --record /gpfs/fs01/user/xxxx/notebook/tmp/pip-PyAwq2-record/install-record.txt --single-version-externally-managed --compile --user --prefix=" failed with error code 1 in /gpfs/global_fs01/sym_shared/YPProdSpark/user/xxxx/notebook/tmp/pip-build-N3zDUh/confluent-kafka/ 
+1

Обратите внимание, что я был Абэ подключиться с помощью альтернативного Кафка-питона библиотеки HTTP: //stackoverflow.com/a/40325181/1033422 –

ответ

2

В соответствии с конфузным readme вам нужна встроенная библиотека librdkafka, прежде чем вы сможете se их клиент Python.

Как вы нашли в ваших других комментариях их альтернатива чисто библиотека Python kafka-python, который вы могли бы найти легче работать для приложения Bluemix

+0

Я думаю, что главная проблема для меня заключалась в том, что искра как услуга не предоставляла драйвер, рекомендованный его сестринским сервисом messagehub. Я предполагаю, что это потому, что поддержка python из искрового потока для kafka с sasl недоступна, поэтому ограничивает использование приложений для соединения с messagehub только с программами, запущенными на хосте драйвера. –

Смежные вопросы