千家信息网

如何进行APP爬虫开发环境准备

发表于:2025-01-23 作者:千家信息网编辑
千家信息网最后更新 2025年01月23日,今天给大家介绍一下如何进行APP爬虫开发环境准备。文章的内容小编觉得不错,现在给大家分享一下,觉得有需要的朋友可以了解一下,希望对大家有所帮助,下面跟着小编的思路一起来阅读吧。在进行APP爬虫开发的时
千家信息网最后更新 2025年01月23日如何进行APP爬虫开发环境准备

今天给大家介绍一下如何进行APP爬虫开发环境准备。文章的内容小编觉得不错,现在给大家分享一下,觉得有需要的朋友可以了解一下,希望对大家有所帮助,下面跟着小编的思路一起来阅读吧。

在进行APP爬虫开发的时候,我们一般是通过手机连接PC端代理上网,进行抓包分析,那么以这种方式抓包的时候就需要在手机端进行对应的操作,但是我们不可能一直通过手动去操作手机进行抓包,所以要使用adb这种Android开发命令的方式进行操作。但是现在很多手机权限控制比较严密,直接连接真机有很多操作是不支持的,所以就必须用到模拟器。很庆幸安卓模拟器有很多种,下面我们就介绍一下APP爬虫开发环境的简单搭建和基础使用。

安装模拟器

安卓模拟器有很多种,夜神模拟器、腾讯手游助手、mumu模拟器等都是比较常用的模拟器,其中夜神模拟器是比较好的,但是它不支持Mac系统,mumu模拟器是由网易开发的,支持Windows和Mac平台,而且更新比较频繁,所以我使用的是mumu模拟器,官方文档和论坛也比较丰富。安装好以后就可以直接打开使用,如果碰到问题,可以在官方的常见问题中进行查看。

Mac安装adb

安装完模拟器之后,我们就要安装adb了,在Mac上首推brew cask进行安装

  • 安装brew
    请看这篇文章HomeBrew 官方安装太慢而失败?

  • 安装adb
    brew cask install android-platform-tools
    安装完adb后打开控制台,输入adb version

然后可以先使用真机进行测试,打开手机的"开发者选项",并启用"USB调试"模式,在控制台输入adb devices


这样就表示我们的adb已经安装好了,下面就是连接我们的模拟器了。


连接模拟器

在模拟器中打开"USB调试模式",然后在控制台中关闭adb server,再重启即可

adb kill-server
adb server

这个时候再查看连接设备


438ec4b1为真机, emulator-5554为模拟器,要连接机器使用以下命令
adb -s 438ec4b1 shell
连接真机
连接模拟器

在红框中你会发现区别,在连接真机的ls前面是$符号,在连接模拟器的ls前面是#,#符号就表示拥有root权限,非#符号就表示没有root权限,我试过几个真机,都是无root权限的,可能需要我们自行root后才能正常使用。所以这就是我们一定要使用模拟器的原因了。

因为我们不在真机上进行调试,所以就把连接断掉,只保留模拟器一个连接设备。在这种情况下,我们的adb命令也可以简短一些,比如使用adb连接设备,原来是adb -s xxx shell,现在就可以直接写adb shell,其他的adb命令也是类似。

安装抓包软件

电脑端常用的抓包软件Fiddler、Charles、mitmproxy,Fiddler是专属于Windows系统的抓包软件,并且功能强大,Charles是跨平台的软件,但是功能不如Fiddler,在Mac和Linux使用Charles,mitmproxy也是跨平台的抓包工具,虽然也有可视化界面,但是不够友好,使用成本比较高,因此我们常用mitmproxy配合Python实现抓取工作。mitmproxy需要专门写了一个帖子,这里就不在详述了。

安装APP自动化操作软件

  • Appium

  1. 安装Android Studio
    Android Studio中文社区下载工具,安装后打开会报一个错,不用管

打开SDK Manager,安装对应的SDK版本

  1. 设置环境变量
    在vim ~/.bash_profile文件最后增加以下内容,如果没有就新建一个

export ANDROID_HOME=/Users/xxxx/Library/Android/sdk
export PATH=${PATH}:${ANDROID_HOME}/tools
export PATH=${PATH}:${ANDROID_HOME}/platform-tools
export PATH=${PATH}:${ANDROID_HOME}/build-tools/29.0.2

ANDROID_HOME路径就是上面图中SDK下载路径

PS: 上面环境变量中的build-tools/xx.xx.xx要在build-tools目录下去看具体情况,我们主要是需要使用aapt工具,所以aapt在哪个目录下就填写哪个目录。

配置完以后执行source ~/.bash_profile命令,重新加载环境变量,然后输入aapt -v查看命令是否正常运行

3.安装JDK
从官网下载JDK 8,官网下载需要注册账号,比较麻烦。可以在找第三方网站上的下载,我是在一个百度云分享链接下载的,可惜现在忘了地址了,不好意思。

  1. 安装Python操作库
    pip install Appium-Python-Client

然后就可以正常使用了。

  • Airtest
    Airtest是网易开发的自动化测试工具,虽然不如appium专业,但是胜在安装简单,使用简单。直接在官网下载即可,而且文档也比较齐全。最重要的是安装完后,所有测试环境就OK了。然后再安装pip install poco就可以使用了。最最最重要的是,在其他机器上想要使用以及编写好的脚本,只需要安装pip install poco就可以了,不需要再安装Airtest工具。

以上就是如何进行APP爬虫开发环境准备的全部内容了,更多与如何进行APP爬虫开发环境准备相关的内容可以搜索之前的文章或者浏览下面的文章进行学习哈!相信小编会给大家增添更多知识,希望大家能够支持一下!

模拟器 开发 环境 命令 爬虫 工具 手机 软件 内容 就是 权限 控制 支持 准备 变量 官方 常用 控制台 文章 时候 数据库的安全要保护哪些东西 数据库安全各自的含义是什么 生产安全数据库录入 数据库的安全性及管理 数据库安全策略包含哪些 海淀数据库安全审计系统 建立农村房屋安全信息数据库 易用的数据库客户端支持安全管理 连接数据库失败ssl安全错误 数据库的锁怎样保障安全 4g网络与云服务器连接视频 联想总部服务器在哪里 甘肃省委网络安全领导小组 校园数据库有什么用 软件开发一般有几种方法 网络安全有哪些技术平台 网络安全扩展分析 为什么进游戏显示服务器人数已满 软件开发阐述 国网云网络安全 应如何维护网络安全 网络安全法规定任何组织和个人 软件开发公司内部争斗 实际存储在数据库中的结果是 数据库的逻辑模型谁设计的 长春市计算机信息网络安全协会 热门云服务器代理项目平台 网络安全伴我行手抄报初中 关于网络安全的PPT百度云 临澧市网络安全等级 未从服务器获取信息是什么意思 北京笔新互联网科技有限公司 网络安全法第41集 远程服务器管理工具使用 软件开发收入如何确认成本 关于网络安全工作的汇报 网络安全设备部署方式有哪些 数据库更新数据的语法 广联赢信息网络技术有限公司 专升本数据库怎么做
0