求实现沃尔玛爬虫详情页

沃尔玛爬虫代码,实现在沃尔玛网址:https://www.walmart.com/ ,输入关键词,例如:pencil,爬取关键词出现的详情页中的,图片,标题,价格,描述,描述的html代码

问题一:沃尔玛有反爬虫机制,目前代码无法突破
问题二:图片无法下载

想要实现的结果:
1.能根据输入的关键词,每次至少爬取500条详情页数据
2.详情页的文字信息录入excel,图片则根据详情页的爬取顺序排列好取好名,例如详情页1的图片有6张,则1-6,1-2……,详情页2的图片有3张,则2-1,2-2,2-3

如有能解决的友人,可留言或私信,如在深圳最好可面聊,我提供代码,报酬可谈,主要能实现~

写全headers,带上参数params,用循环获取多个页面相关信息:

params = (
    ('q', 'pencils'),
    ('typeahead', 'pencils'),
    ('page', '2'),
)

response = requests.get('https://www.walmart.com/search',
                        headers=headers, params=params)
html=etree.HTML(response.text)
res = [x.get('href') for x in html.xpath(
    '//*[@class="sans-serif mid-gray relative flex flex-column w-100 "]/a')]
print(res)
name = [x.text for x in html.xpath(
    '//*[@class="sans-serif mid-gray relative flex flex-column w-100 "]/a/span[@class="w_DK"]')]
print(name)


可以过的,我昨天刚解决,虽然我抓的商品详情页的跟卖狗名单,但是基本上都是IP