百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 编程网 > 正文

打造最全皮肤,Python采集游戏官网数据!

yuyutoo 2024-10-27 17:02 2 浏览 0 评论

环境:

  • Python3.6.5
  • Windows
  • pycharm

模块:

  • requests
  • jsonpath
  • urlretrieve
  • os

思路:

进入LOL官网点击游戏资料库后,所有的英雄都在里面。

我们点击英雄头像,就会跳转到包含皮肤的界面。

立马就想到了思路:

获取到中间跳转的url,然后再请求该url跳转到皮肤页面-----然后再抓取皮肤。

思路没错,但html源代码中没有跳转的url呢?是不是就需要抓包!

elements中确实有该url,但是html源代码中并没有:

开始抓包吧:

很多人做到这里无从下手了,并没有跳转的url,但是我们可以发现跳转的url只有后面的数字ID发生了变化。

而我们的banaudio这个标签当中的url末尾是不是也有个1.ogg?与我们的跳转url中的ID值1是对应的!

所以,获取到数字即可,自行构造跳转的url。

到了跳转页面后,会发现网页源代码中同样不存在我们想要的图片数据(继续抓包):

OK,现在问题解决了!

更多python技术相关教程,直接私我即可!

python源码:

#!/usr/bin/python3
# -*- coding: utf-8 -*-
# @Time    : 2019/10/9 21:20
# @Author  : 善念

import requests
import jsonpath
from urllib.request import urlretrieve
import os


def get_id():
    req = requests.get('https://game.gtimg.cn/images/lol/act/img/js/heroList/hero_list.js').json()
    ids = jsonpath.jsonpath(req, '$..banAudio')
    items = []
    for id in ids:
        id = id.split('ban/')[1][0:-4]
        items.append(id)
    return items


def get_skin(items):
    for item in items:
        url = 'https://game.gtimg.cn/images/lol/act/img/js/hero/{}.js'.format(item)
        req = requests.get(url, headers=headers).json()
        skins = req['skins']
        names = jsonpath.jsonpath(skins, '$..name')
        skins = jsonpath.jsonpath(req, '$..loadingImg')
        try:
            if not os.path.exists(names[0]):
                os.mkdir(names[0])
            for name, skin in zip(names, skins):
                print('正在采集====={}=====这个皮肤'.format(name))
                urlretrieve(skin, names[0]+'/'+name+'.jpg')

        except:
            pass


def go():
    items = get_id()
    get_skin(items)


if __name__ == '__main__':
    headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) '
                             'AppleWebKit/537.36 (KHTML, like Gecko) Chrome/77.0.3865.90 Safari/537.36'}
    go()

效果图

相关推荐

MySQL5.5+配置主从同步并结合ThinkPHP5设置分布式数据库

前言:本文章是在同处局域网内的两台windows电脑,且MySQL是5.5以上版本下进行的一主多从同步配置,并且使用的是集成环境工具PHPStudy为例。最后就是ThinkPHP5的分布式的连接,读写...

thinkphp5多语言怎么切换(thinkphp5.1视频教程)

thinkphp5多语言进行切换的步骤:第一步,在配置文件中开启多语言配置。第二步,创建多语言目录。相关推荐:《ThinkPHP教程》第三步,编写语言包。视图代码:控制器代码:效果如下:以上就是thi...

基于 ThinkPHP5 + Bootstrap 的后台开发框架 FastAdmin

FastAdmin是一款基于ThinkPHP5+Bootstrap的极速后台开发框架。主要特性基于Auth验证的权限管理系统支持无限级父子级权限继承,父级的管理员可任意增删改子级管理员及权限设置支持单...

Thinkphp5.0 框架实现控制器向视图view赋值及视图view取值操作示

本文实例讲述了Thinkphp5.0框架实现控制器向视图view赋值及视图view取值操作。分享给大家供大家参考,具体如下:Thinkphp5.0控制器向视图view的赋值方式一(使用fetch()方...

thinkphp5实现简单评论回复功能(php评论回复功能源码下载)

由于之前写评论回复都是使用第三方插件:畅言所以也就没什么动手,现在证号在开发一个小的项目,所以就自己动手写评论回复,没写过还真不知道评论回复功能听着简单,但仔细研究起来却无法自拔,由于用户量少,所以...

ThinkPHP框架——实现定时任务,定时更新、清理数据

大家好,我是小蜗牛,今天给大家分享一下,如何用ThinkPHP5.1.*版本实现定时任务,例如凌晨12点更新数据、每隔10秒检测过期会员、每隔几分钟发送请求保证ip的活性等本次分享,主要用到一个名为E...

BeyongCms系统基于ThinkPHP5.1框架的轻量级内容管理系统

BeyongCms内容管理系统(简称BeyongCms)BeyongCms系统基于ThinkPHP5.1框架的轻量级内容管理系统,适用于企业Cms,个人站长等,针对移动App、小程序优化;提供完善简...

YimaoAdminv3企业建站系统,使用 thinkphp5.1.27 + mysql 开发

介绍YimaoAdminv3.0.0企业建站系统,使用thinkphp5.1.27+mysql开发。php要求5.6以上版本,推荐使用5.6,7.0,7.1,扩展(curl,...

ThinkAdmin-V5开发笔记(thinkpad做开发)

前言为了快速开发一款小程序管理后台,在众多的php开源后台中,最终选择了基于thinkphp5的,轻量级的thinkadmin系统,进行二次开发。该系统支持php7。文档地址ThinkAdmin-V5...

thinkphp5.0.9预处理导致的sql注入复现与详细分析

复现先搭建thinkphp5.0.9环境...

thinkphp5出现500错误怎么办(thinkphp页面错误)

thinkphp5出现500错误,如下图所示:相关推荐:《ThinkPHP教程》require():open_basedirrestrictionineffect.File(/home/ww...

Thinkphp5.0极速搭建restful风格接口层

下面是基于ThinkPHPV5.0RC4框架,以restful风格完成的新闻查询(get)、新闻增加(post)、新闻修改(put)、新闻删除(delete)等server接口层。1、下载Thin...

基于ThinkPHP5.1.34 LTS开发的快速开发框架DolphinPHP

DophinPHP(海豚PHP)是一个基于ThinkPHP5.1.34LTS开发的一套开源PHP快速开发框架,DophinPHP秉承极简、极速、极致的开发理念,为开发集成了基于数据-角色的权限管理机...

ThinkPHP5.*远程代码执行高危漏洞手工与升级修复解决方法

漏洞描述由于ThinkPHP5框架对控制器名没有进行足够的安全检测,导致在没有开启强制路由的情况下,黑客构造特定的请求,可直接GetWebShell。漏洞评级严重影响版本ThinkPHP5.0系列...

Thinkphp5代码执行学习(thinkphp 教程)

Thinkphp5代码执行学习缓存类RCE版本5.0.0<=ThinkPHP5<=5.0.10Tp框架搭建环境搭建测试payload...

取消回复欢迎 发表评论: