关键词搜索

源码搜索 ×
×

Python爬虫入门教程10:彼岸壁纸爬取

发布2021-01-29浏览479次

详情内容

基本开发环境?
Python 3.6
Pycharm
wkhtmltopdf
相关模块的使用?
re
requests
concurrent.futures
安装Python并添加到环境变量,pip安装需要的相关模块即可。

一、?明确需求
彼岸的壁纸,在我觉得是真的好看。虽然可以免费下载,但是对于有条件的小伙伴,还是可以支持一下付费的,毕竟不贵,只需要30元就可以全站无限制下载了。
在这里插入图片描述

二、?网页数据分析
一步一步点击图片进去可以发现详情页的url地址是有由 图片ID 以及 图片分辨率 组成。
在这里插入图片描述

再次点击,之后可以看到图片的真实地址。如果你只是想要找一张壁纸图片的话,这样保存图片之后就高清的壁纸了。
在这里插入图片描述

如果是要爬取图片的话,在详情页的中是有图片python基础教程链接的。
在这里插入图片描述

所以只需要在列表页中,获取图片的 ID 就可以了,因为我们爬取的本身就是 1920*1080的分辨率,所以这个分c#教程辨率的是固定的。只要获取 图片ID然后拼接url就可以了。
在这里插入图片描述

这里需要注意一个问题:
每页的数据当中,是有两个我们不需要的内容。
在这里插入图片描述

在这里插入图片描述

我们所需要的数据是附带 标题的,不需要的则是没有标题,所以可以根据这个进行一个判断。

三、?代码实现
获取网页数据?

def get_response(html_url):
    """获取网页数据"""
    headers = {
        'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36'
    }
    response = requests.get(url=html_url, headers=headers)
    return response
获取每张壁纸的ID?
def main(html_url):
    """获取图片ID"""
    response = get_response(html_url)
    selector = parsel.Selector(response.text)
    image_info = selector.css('.list ul li')
    for link in image_info:
        image_title = link.css('a::attr(title)').get()
        # 进行简单的判断,如果有标题就获取ID 
        if image_title:
            id_info = link.css('a::attr(href)').get()
            # /deskhttps://cdn.jxasp.com:9143/image/23177.htm
            image_id = id_info.replace('.htm', '').split('/')[-1]
获取每张壁纸的url地址?
def get_image_url(image_id):
    """获取图片的真实url地址"""
    page_url = f'http://www.netbian.com/desk/{image_id}-1920x1080.htm'
    response = get_response(page_url)
    selector = parsel.Selector(response.text)
    image_url = selector.css('#endimg a::attr(href)').get()
    return image_url
保存壁纸?
def save(image_url, title):
    filename = 'images\\' + title + '.jpg'
    image_content = get_response(image_url).content
    with open(filename, mode='wb') as f:
        f.write(image_content)
        print('正在保存:', title)

    当我写完代码,运行的时候发现了一个问题
    在这里插入图片描述

    在这里插入图片描述

    图片是能保存下来,但是它乱码了,所以需要在获取网页数据的函数里面加一行代码

    万能的转码方式

    response.encoding = response.apparent_encoding
    更新代码之后,标题变成了中文了,但是又出现新的问题了
    在这里插入图片描述

    在这里插入图片描述

    每个标题后面都是带有 更新时间的,返回网页看一下源代码。
    在这里插入图片描述

    a 标签里面的 title 属性里面是带有更新时间,img标签里面的alt属性是没有更新时间的,所以我们要重新提取一下标题数据。

    更改后:
    def main(html_url):
    “”“获取图片ID”""
    response = get_response(html_url)
    selector = parsel.Selector(response.text)
    image_info = selector.css(’.list ul li’)
    for link in image_info:
    image_title = link.css(‘a::attr(title)’).get()
    if image_title:
    title = link.css(‘a img::attr(alt)’).get()
    id_info = link.css(‘a::attr(href)’).get()
    # /deskhttps://cdn.jxasp.com:9143/image/23177.htm
    image_id = id_info.replace(’.htm’, ‘’).split(’/’)[-1]
    在这里插入图片描述

    在这里插入图片描述

    在这里插入图片描述

    这些壁纸还挺大的,翻页根据页码进行翻页就好了,关于多线程爬取的话,可以参考上篇的文章vb.net教程内容。

    相关技术文章

    最新源码

    下载排行榜

    点击QQ咨询
    开通会员
    返回顶部
    ×
    微信扫码支付
    微信扫码支付
    确定支付下载
    请使用微信描二维码支付
    ×

    提示信息

    ×

    选择支付方式

    • 微信支付
    • 支付宝付款
    确定支付下载