способа остановить нежелательные элементы печатаются на экран с Scrapy

При запуске программы Scrapy, либо из Python Shell или командной строки, вы получаете элементы, выводимые на экран, такие как:способа остановить нежелательные элементы печатаются на экран с Scrapy

c:\Python27\webscraper2\webscraper2>scrapy crawl mrcrawl2 
2014-08-28 00:12:21+0100 [scrapy] INFO: Scrapy 0.24.4 started (bot: webscraper2) 
2014-08-28 00:12:21+0100 [scrapy] INFO: Optional features available: ssl, http11 
2014-08-28 00:12:21+0100 [scrapy] INFO: Overridden settings: {'NEWSPIDER_MODULE': 'webscraper2.spiders', 'SPIDER_MODULES': ['webscraper2.spiders'], 'BOT_NAME': 'webscraper2'} 
2014-08-28 00:12:21+0100 [scrapy] INFO: Enabled extensions: LogStats, TelnetConsole, CloseSpider, WebService, CoreStats, SpiderState 
2014-08-28 00:12:21+0100 [scrapy] INFO: Enabled downloader middlewares: HttpAuthMiddleware, DownloadTimeoutMiddleware, UserAgentMiddleware, RetryMiddleware, DefaultHeadersMiddleware, MetaRefreshMiddle 
ware, HttpCompressionMiddleware, RedirectMiddleware, CookiesMiddleware, ChunkedTransferMiddleware, DownloaderStats 
2014-08-28 00:12:21+0100 [scrapy] INFO: Enabled spider middlewares: HttpErrorMiddleware, OffsiteMiddleware, RefererMiddleware, UrlLengthMiddleware, DepthMiddleware 
2014-08-28 00:12:21+0100 [scrapy] INFO: Enabled item pipelines: 
2014-08-28 00:12:21+0100 [mrcrawl2] INFO: Spider opened 
2014-08-28 00:12:21+0100 [mrcrawl2] INFO: Crawled 0 pages (at 0 pages/min), scraped 0 items (at 0 items/min) 
2014-08-28 00:12:21+0100 [scrapy] DEBUG: Telnet console listening on 127.0.0.1:6023 
2014-08-28 00:12:21+0100 [scrapy] DEBUG: Web service listening on 127.0.0.1:6080 
2014-08-28 00:12:21+0100 [mrcrawl2] DEBUG: Crawled (200) <GET http://www.whoscored.com> (referer: None)

Есть способ отключить печатаемые на экране объекты, которые не были очищены от веб-страницы? В идеале я хочу, чтобы строка «DEBUG: Crawled» печаталась на экран, если ответ не находится в диапазоне 200-300.

Я попытался найти ответ на Google, но я не уверен, что искать.

Благодаря

источник

2014-08-27 gdogg371

Используйте -L WARNING вариант, чтобы установить LogLevel в WARNING:

scrapy crawl mrcrawl2 -L WARNING

Это будет печатать сообщение только тогда, когда что-то идет не так.

источник

2014-08-28 01:37:15 kev

Можете ли вы помочь мне найти «-L WARNING» в коде src? ... Я не могу найти его под командой crawl 'https://github.com/scrapy/scrapy/tree/master/scrapy/commands ' –

@ B.Mr.W. ознакомьтесь с: https://github.com/scrapy/scrapy/blob/master/scrapy/command.py#L88 – kev

@kev Этот параметр -L является удивительным. В противном случае слишком много выходов. Другой вопрос, я просто хочу остановить «уступленные» предметы от печати. Поэтому я хочу видеть все, кроме того, что уступает. Потому что эти элементы обычно большие и занимают слишком много места на консоли. –

способа остановить нежелательные элементы печатаются на экран с Scrapy

ответ

Смежные вопросы