Задачи Django Celery не заканчиваются и постоянно остаются в ожидании

Я установил черту Danger Django, работающую pip install django-celery. Этот установленный сельдерей и необходимые библиотеки, например, сельдерей и комбу.Задачи Django Celery не заканчиваются и постоянно остаются в ожидании

Я добавил djcelery в список установленных приложений и выполнил команды syncdb и migrate для создания таблиц.

Я установил RabbitMQ и создал пользователя и виртуальный хост, используя следующие команды:

rabbitmqctl add_user trakklr trakklr 
rabbitmqctl add_vhost /trakklr 
rabbitmqctl set_permissions -p /trakklr trakklr ".*" ".*" ".*"

отредактированные мой файл настроек, чтобы содержать эти две строки:

BROKER_URL = "amqp://trakklr:[email protected]:5672//trakklr" 
CELERY_IMPORTS = ("app.trackers.tasks",)

Я создал tasks.py файл мои модули под названием trackers:

from celery.task import task 

@task(name="trackers.tasks.add") 
def add(x, y): 
    print("In task %s" % add.request.id) 
    return x + y

I star Ted сельдерей демона в окне терминала, как это:

python manage.py celeryd -l debug --discard --settings=production

Запуск этого извергает это:

[2012-05-07 15:30:44,681: DEBUG/MainProcess] Start from server, version: 8.0, properties: {u'information': u'Licensed under the MPL. See http://www.rabbitmq.com/', u'product': u'RabbitMQ', u'copyright': u'Copyright (C) 2007-2011 VMware, Inc.', u'capabilities': {}, u'platform': u'Erlang/OTP', u'version': u'2.7.1'}, mechanisms: [u'PLAIN', u'AMQPLAIN'], locales: [u'en_US'] 
[2012-05-07 15:30:44,682: DEBUG/MainProcess] Open OK! known_hosts [] 
[2012-05-07 15:30:44,683: DEBUG/MainProcess] using channel_id: 1 
[2012-05-07 15:30:44,684: DEBUG/MainProcess] Channel open 
[2012-05-07 15:30:44,686: WARNING/MainProcess] discard: Erased 3 messages from the queue. 
[2012-05-07 15:30:44,687: WARNING/MainProcess] 

-------------- [email protected] v2.5.3 
---- **** ----- 
--- * *** * -- [Configuration] 
-- * - **** --- . broker:  amqp://[email protected]:5672//trakklr 
- ** ---------- . loader:  djcelery.loaders.DjangoLoader 
- ** ---------- . logfile:  [stderr]@DEBUG 
- ** ---------- . concurrency: 1 
- ** ---------- . events:  OFF 
- *** --- * --- . beat:  OFF 
-- ******* ---- 
--- ***** ----- [Queues] 
-------------- . celery:  exchange:celery (direct) binding:celery 


[Tasks] 
    . celery.backend_cleanup 
    . celery.chord 
    . celery.chord_unlock 
    . trackers.tasks.add 

[2012-05-07 15:30:44,693: DEBUG/MainProcess] [Worker] Loading modules. 
[2012-05-07 15:30:44,696: DEBUG/MainProcess] [Worker] Claiming components. 
[2012-05-07 15:30:44,697: DEBUG/MainProcess] [Worker] Building boot step graph. 
[2012-05-07 15:30:44,697: DEBUG/MainProcess] [Worker] New boot order: ['queues', 'pool', 'mediator', 'beat', 'autoreloader', 'timers', 'state-db', 'autoscaler', 'consumer'] 
[2012-05-07 15:30:44,699: DEBUG/MainProcess] Starting celery.concurrency.processes.TaskPool... 
[2012-05-07 15:30:44,711: DEBUG/MainProcess] created semlock with handle 3077668864 
[2012-05-07 15:30:44,711: DEBUG/MainProcess] created semlock with handle 3077664768 
[2012-05-07 15:30:44,712: DEBUG/MainProcess] created semlock with handle 3077660672 
[2012-05-07 15:30:44,712: DEBUG/MainProcess] created semlock with handle 3077656576 
[2012-05-07 15:30:44,713: DEBUG/MainProcess] created semlock with handle 3077652480 
[2012-05-07 15:30:44,713: DEBUG/MainProcess] created semlock with handle 3077648384 
[2012-05-07 15:30:44,713: DEBUG/MainProcess] created semlock with handle 3077644288 
[2012-05-07 15:30:44,714: DEBUG/MainProcess] created semlock with handle 3077640192 
[2012-05-07 15:30:44,714: DEBUG/MainProcess] created semlock with handle 3077636096 
[2012-05-07 15:30:44,734: DEBUG/MainProcess] worker handler starting 
[2012-05-07 15:30:44,738: DEBUG/MainProcess] result handler starting 
[2012-05-07 15:30:44,744: DEBUG/PoolWorker-1] Closed channel #1 
[2012-05-07 15:30:44,746: INFO/PoolWorker-1] child process calling self.run()

Теперь я открыл новое окно терминала с оболочкой Python для епдиеие задач, как это:

>>> from app.trackers.tasks import add 
>>> task = add.delay(1, 4) 
>>> task 
<AsyncResult: c3298494-de50-41b5-8a3a-77017a1298f2> 
>>> task.state 
u'PENDING' 
>>> task.result

Задачи никогда не заканчиваются. Они постоянно сообщаются как «ожидающие». В окне работает демона сельдерея, я не вижу никаких изменений. Однако, когда я нажимаю CTRL^C. Я получаю этот дополнительный текст:

^C[2012-05-07 15:31:55,541: DEBUG/MainProcess] result handler got IOError(4, 'Interrupted system call') -- exiting 
[2012-05-07 15:31:55,544: DEBUG/MainProcess] celery.concurrency.processes.TaskPool OK! 
[2012-05-07 15:31:55,546: DEBUG/MainProcess] Starting celery.worker.mediator.Mediator... 
[2012-05-07 15:31:55,552: DEBUG/MainProcess] celery.worker.mediator.Mediator OK! 
[2012-05-07 15:31:55,553: DEBUG/MainProcess] Starting celery.worker.consumer.Consumer... 
[2012-05-07 15:31:55,556: WARNING/MainProcess] [email protected] has started. 
[2012-05-07 15:31:55,557: DEBUG/MainProcess] Consumer: Re-establishing connection to the broker... 
[2012-05-07 15:31:55,570: DEBUG/MainProcess] Start from server, version: 8.0, properties: {u'information': u'Licensed under the MPL. See http://www.rabbitmq.com/', u'product': u'RabbitMQ', u'copyright': u'Copyright (C) 2007-2011 VMware, Inc.', u'capabilities': {}, u'platform': u'Erlang/OTP', u'version': u'2.7.1'}, mechanisms: [u'PLAIN', u'AMQPLAIN'], locales: [u'en_US'] 
[2012-05-07 15:31:55,571: DEBUG/MainProcess] Open OK! known_hosts [] 
[2012-05-07 15:31:55,571: DEBUG/MainProcess] Consumer: Connection established. 
[2012-05-07 15:31:55,572: DEBUG/MainProcess] using channel_id: 1 
[2012-05-07 15:31:55,573: DEBUG/MainProcess] Channel open 
[2012-05-07 15:31:55,576: DEBUG/MainProcess] basic.qos: prefetch_count->4 
[2012-05-07 15:31:55,576: DEBUG/MainProcess] using channel_id: 2 
[2012-05-07 15:31:55,577: DEBUG/MainProcess] Channel open 
[2012-05-07 15:31:55,589: DEBUG/MainProcess] Consumer: Starting message consumer... 
[2012-05-07 15:31:55,590: DEBUG/MainProcess] Consumer: Ready to accept tasks! 
[2012-05-07 15:31:55,591: INFO/MainProcess] Got task from broker: trackers.tasks.add[c3298494-de50-41b5-8a3a-77017a1298f2]

Как видно из последней строки, сельдерей получил задание, но он просто останавливается. Также я не могу понять, почему он должен нажимать на это CTRL ^C между ними. Он постоянно находится на рассмотрении.

источник

2012-05-07 Mridang Agarwalla

Знайте, PENDING не означает, что задача запущена! Задача, которая была отправлена, но все еще находится в очереди (и в других условиях), будет показана как PENDING. Если вы хотите узнать, запущена ли задача, используйте параметр CELERY_TRACK_STARTED. –

Также обратите внимание на некоторые из бэкэндов, если он не может найти идентификатор задачи, всегда будет сообщать об этом как ожидающий: meta = self.get (self.get_key_for_task (task_id)) if not meta: return {'status ': states.PENDING,' result ': None} – dalore

Исправлено. Это было связано с моим __init__.py в Django, внутри которого я исправлял некоторые модули Python с помощью Gevent.

Gunicorn использует Gevent, и кажется, что сельдерей использует Eventlet. Gevent's обезьяна исправления нитей и многопроцессорных модулей вызывает икоты в сельдерее.

источник

2012-05-07 13:41:20

Задачи Django Celery не заканчиваются и постоянно остаются в ожидании

ответ

Смежные вопросы