百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 编程网 > 正文

打造最全皮肤,Python采集游戏官网数据!

yuyutoo 2024-10-27 17:02 7 浏览 0 评论

环境:

  • Python3.6.5
  • Windows
  • pycharm

模块:

  • requests
  • jsonpath
  • urlretrieve
  • os

思路:

进入LOL官网点击游戏资料库后,所有的英雄都在里面。

我们点击英雄头像,就会跳转到包含皮肤的界面。

立马就想到了思路:

获取到中间跳转的url,然后再请求该url跳转到皮肤页面-----然后再抓取皮肤。

思路没错,但html源代码中没有跳转的url呢?是不是就需要抓包!

elements中确实有该url,但是html源代码中并没有:

开始抓包吧:

很多人做到这里无从下手了,并没有跳转的url,但是我们可以发现跳转的url只有后面的数字ID发生了变化。

而我们的banaudio这个标签当中的url末尾是不是也有个1.ogg?与我们的跳转url中的ID值1是对应的!

所以,获取到数字即可,自行构造跳转的url。

到了跳转页面后,会发现网页源代码中同样不存在我们想要的图片数据(继续抓包):

OK,现在问题解决了!

更多python技术相关教程,直接私我即可!

python源码:

#!/usr/bin/python3
# -*- coding: utf-8 -*-
# @Time    : 2019/10/9 21:20
# @Author  : 善念

import requests
import jsonpath
from urllib.request import urlretrieve
import os


def get_id():
    req = requests.get('https://game.gtimg.cn/images/lol/act/img/js/heroList/hero_list.js').json()
    ids = jsonpath.jsonpath(req, '$..banAudio')
    items = []
    for id in ids:
        id = id.split('ban/')[1][0:-4]
        items.append(id)
    return items


def get_skin(items):
    for item in items:
        url = 'https://game.gtimg.cn/images/lol/act/img/js/hero/{}.js'.format(item)
        req = requests.get(url, headers=headers).json()
        skins = req['skins']
        names = jsonpath.jsonpath(skins, '$..name')
        skins = jsonpath.jsonpath(req, '$..loadingImg')
        try:
            if not os.path.exists(names[0]):
                os.mkdir(names[0])
            for name, skin in zip(names, skins):
                print('正在采集====={}=====这个皮肤'.format(name))
                urlretrieve(skin, names[0]+'/'+name+'.jpg')

        except:
            pass


def go():
    items = get_id()
    get_skin(items)


if __name__ == '__main__':
    headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) '
                             'AppleWebKit/537.36 (KHTML, like Gecko) Chrome/77.0.3865.90 Safari/537.36'}
    go()

效果图

相关推荐

.NET 奇葩问题调试经历之3——使用了grpc通讯类库后,内存一直增长......

...

全局和隐式 using 指令详解(全局命令)

1.什么是全局和隐式using?在.NET6及更高版本中,Microsoft引入了...

请停止微服务,做好单体的模块化才是王道:Spring Modulith介绍

1、介绍模块化单体是一种架构风格,代码是根据模块的概念构成的。对于许多组织而言,模块化单体可能是一个很好的选择。它有助于保持一定程度的独立性,这有助于我们在需要的时候轻松过渡到微服务架构。Spri...

ASP.NET程序集引用之痛:版本冲突、依赖地狱等解析与实战

我是一位多年后端经验的工程师,其中前几年用ASP.NET...

.NET AOT 详解(.net 6 aot)

简介AOT(Ahead-Of-TimeCompilation)是一种将代码直接编译为机器码的技术,与传统的...

一款基于Yii2开发的免费商城系统(一款基于yii2开发的免费商城系统是什么)

哈喽,我是老鱼,一名致力于在技术道路上的终身学习者、实践者、分享者!...

asar归档解包(游戏arc文件解包)

要学习Electron逆向,首先要有一个Electron开发的程序的发布的包,这里就以其官方的electron-quick-start作为例子来进行一下逆向的过程。...

在PyCharm 中免费集成Amazon CodeWhisperer

CodeWhisperer是Amazon发布的一款免费的AI编程辅助小工具,可在你的集成开发环境(IDE)中生成实时单行或全函数代码建议,帮助你快速构建软件。简单来说,AmazonCodeWhi...

2014年最优秀JavaScript编辑器大盘点

1.WebstormWebStorm是一种轻量级的、功能强大的IDE,为Node.js复杂的客户端开发和服务器端开发提供完美的解决方案。WebStorm的智能代码编辑器支持JavaScript,...

基于springboot、tio、oauth2.0前端vuede 超轻量级聊天软件分享

项目简介:基于JS的超轻量级聊天软件。前端:vue、iview、electron实现的PC桌面版聊天程序,主要适用于私有云项目内部聊天,企业内部管理通讯等功能,主要通讯协议websocket。支持...

JetBrains Toolbox推出全新产品订阅授权模式

捷克知名软件开发公司JetBrains最为人所熟知的产品是Java编程语言开发撰写时所用的集成开发环境IntelliJIDEA,相信很多开发者都有所了解。而近期自2015年11月2日起,JetBr...

idea最新激活jetbrains-agent.jar包,亲测有效

这里分享一个2019.3.3版本的jetbrains-agent.jar,亲测有效,在网上找了很多都不能使用,终于找到一个可以使用的了,这里分享一下具体激活步骤,此方法适用于Jebrains家所有产品...

CountDownTimer的理解(countdowntomars)

CountDownTimer是android开发常用的计时类,按照注释中的说明使用方法如下:kotlin:object:CountDownTimer(30000,1000){...

反射为什么性能会很慢?(反射时为什么会越来越长)

1.背景前段时间维护一个5、6年前的项目,项目总是在某些功能使用上不尽人意,性能上总是差一些,仔细过了一下代码发现使用了不少封装好的工具类,工具类里面用了好多的反射,反射会影响到执行效率吗?盲猜了一...

btrace 开源!基于 Systrace 高性能 Trace 工具

介绍btrace(又名RheaTrace)是抖音基础技术团队自研的一款高性能AndroidTrace工具,它基于Systrace实现,并针对Systrace不足之处加以改进,核心改进...

取消回复欢迎 发表评论: