python xpath解析报错,etree.HTML

#图片解析

import requests
from lxml import etree
import os


if __name__ == '__main__':
    url='https://pic.netbian.com/4kmeishi/'
    headers={
        'User-Agent':'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/90.0.4430.85 Safari/537.36'
    }
    response=requests.get(url=url,headers=headers)
    #手动设定响应数据的编码格式,手动解决乱码的问题
    #response.encoding='utf-8'
    page_text=response.text
    #实例化对象
    tree=etree.HTML(page_text)
    li_list=tree.xpath('//div[@class="slist"]/ul/li')
    #创建一个文件夹
    if not os.path.exists('./meishi.Libs/'):
        os.mkdir('./meishi.Libs/')
    for li in li_list:
        img_list='https://pic.netbian.com'+li.xpath('./a/img/@src')[0]
        img_name=li.xpath('./a/img/@alt')[0]+'jpg'
        #通用的处理中文乱码的解决方案
        img_name=img_name.encode('iso-8859-1').decode('gbk')

        #请求图片进行持久化存储
        img_date=requests.get(url=img_list,headers=headers).content #content对应的URL后缀一定是 JPG,如果是HTML一定会显示空白
        img_path='./meishi.Libs/'+img_name
        with open(img_path,'wb')as fp:
            fp.write(img_date)
            print(img_name,'下载成功!')

代码如上,报错:

Traceback (most recent call last):
  File "C:/Users/忙碌的小仙女/PycharmProjects/爬虫学习/xpath 案例2.py", line 18, in <module>
    tree=etree.HTML(page_text)
AttributeError: 'function' object has no attribute 'HTML'

 

经测试在vscode终端代码运行正常,尝试升级lxml版本,代码中还有个小问题,在img_name=li.xpath('./a/img/@alt')[0]+'jpg'的jpg前面要加个点,即.jpg,才是一个jpg图片格式文件。运行环境:python3.7.6,lxml4.5.1。

应该是你获取地址做了一些反扒或其他校验,你现在获取不成功导致的

可以打印page_text是否是转换的页面html,不然转换会失败

您好,我是有问必答小助手,您的问题已经有小伙伴解答了,您看下是否解决,可以追评进行沟通哦~

如果有您比较满意的答案 / 帮您提供解决思路的答案,可以点击【采纳】按钮,给回答的小伙伴一些鼓励哦~~

ps:问答VIP仅需29元,即可享受5次/月 有问必答服务,了解详情>>>https://vip.csdn.net/askvip?utm_source=1146287632