win10 python 【scrapy crawl chouti --nolog 】 cmd 命令不执行parse函数(没有内容输出) 原因


想要执行parse能够在cmd看到parse函数的执行结果:

解决方法:

settings.py 中设置  ROBOTSTXT_OBEY = False  

 

案例:

   day96\day96\spiders\chouti.py

# -*- coding: utf-8 -*-
import scrapy
import sys
import io

sys.stdout = io.TextIOWrapper(sys.stdout.buffer,encoding='gb18030')

class ChoutiSpider(scrapy.Spider):
    name = 'chouti'
    allowed_domains = ['chouti.com']
    start_urls = ['http://dig.chouti.com/']

    def parse(self, response):
        # print(response.url)
        # print(response.text)
        content=str(response.body,encoding='utf-8')
        print(content)

day96\day96\settings.py

ROBOTSTXT_OBEY = False

  

 参考链接:https://bbs.csdn.net/topics/392316454?page=1


免责声明!

本站转载的文章为个人学习借鉴使用,本站对版权不负任何法律责任。如果侵犯了您的隐私权益,请联系本站邮箱yoyou2525@163.com删除。



 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM