网络抓取的最佳用户代理 2024 | 避免在抓取时被禁止使用 UA

2024-06-11 20:36
文章标签 抓取 使用 最佳 网络 代理 2024 用户 避免 禁止 ua

本文主要是介绍网络抓取的最佳用户代理 2024 | 避免在抓取时被禁止使用 UA，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

你是经常进行网页抓取的人吗？你对你的隐私非常小心吗？那么你一定多次听说过“用户代理”。你知道什么是用户代理吗？它如何影响我们的在线生活呢？

请开始阅读，你会对这篇博客中的一切感兴趣！

什么是用户代理？

用户代理（User Agent，UA）是浏览器或其他客户端软件发送给网页服务器的一串字符串。它可以提供有关用户设备和软件环境的信息。

这串字符串包含在网页请求的HTTP头中，帮助服务器根据用户的具体配置提供适当的内容。

换句话说，用户代理字符串帮助识别用户正在使用的浏览器、设备类型和操作系统。

为什么用户代理对网页抓取很重要？

用户代理对网页抓取至关重要，因为它们有助于模拟人类的浏览行为。它们可以使你的抓取工具看起来像是合法的浏览器，从而避免被网站检测和屏蔽。

通过使用适当或随机变化的用户代理字符串，抓取器可以绕过访问限制，获取正确版本的网页内容，并减少被屏蔽的风险。

  • 注意：使用错误的用户代理可能导致数据提取脚本被屏蔽。

你的网页抓取工具一次又一次被屏蔽？
Nstbrowser 提供全面的网页解锁方案
现在免费试用！

最适合抓取的用户代理是什么？

如果用户代理可以模仿流行和常用的浏览器，它们将被视为最适合网页抓取的用户代理。以下是一些示例：

桌面用户代理

Windows上的Google Chrome

Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/91.0.4472.124 Safari/537.36

Windows上的Mozilla Firefox

Mozilla/5.0 (Windows NT 10.0; Win64; x64; rv:89.0) Gecko/20100101 Firefox/89.0

Windows上的Microsoft Edge

Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/91.0.4472.124 Safari/537.36 Edg/91.0.864.59

macOS上的Safari

Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_7) AppleWebKit/605.1.15 (KHTML, like Gecko) Version/14.0.3 Safari/605.1.15

移动用户代理

Android上的Google Chrome

Mozilla/5.0 (Linux; Android 11; Pixel 5) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/91.0.4472.124 Mobile Safari/537.36

iPhone上的Safari

Mozilla/5.0 (iPhone; CPU iPhone OS 14_6 like Mac OS X) AppleWebKit/605.1.15 (KHTML, like Gecko) Version/14.0 Mobile/15E148 Safari/604.1

Android上的Mozilla Firefox

Mozilla/5.0 (Android 11; Mobile; rv:89.0) Gecko/89.0 Firefox/89.0

如何为网页抓取设置用户代理？

1. 用户代理示例代码

有很多方法可以自定义浏览器用户代理，以下是主流开发语言中常见的自定义用户代理示例代码：

Javascript

  • Puppeteer
const puppeteer = require('puppeteer');
(async () => {const browser = await puppeteer.launch();const page = await browser.newPage();await page.setUserAgent('Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/123.0.0.0 Safari/537.36');await page.goto('https://example.com');const content = await page.content();console.log(content);await browser.close();
})();
  • Axios
const axios = require('axios');
const fetchData = async () => {try {const response = await axios.get('https://example.com', {headers: {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/123.0.0.0 Safari/537.36'}});console.log(response.data);} catch (error) {console.error(error);}
};

Python

  • Requests
import requests
headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/123.0.0.0 Safari/537.36'
}
response = requests.get('https://example.com', headers=headers)
print(response.content)
  • Selenium library
from selenium import webdriver
options = webdriver.ChromeOptions()
options.add_argument('user-agent=Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/123.0.0.0 Safari/537.36')
driver = webdriver.Chrome(options=options)
driver.get('https://example.com')

Java

  • HttpClient
import org.jsoup.Jsoup;
import org.jsoup.nodes.Document;
import org.apache.http.client.methods.CloseableHttpResponse;
import org.apache.http.client.methods.HttpGet;
import org.apache.http.impl.client.CloseableHttpClient;
import org.apache.http.impl.client.HttpClients;public class WebScraping {public static void main(String[] args) throws Exception {String url = "https://example.com";CloseableHttpClient httpClient = HttpClients.createDefault();HttpGet request = new HttpGet(url);request.addHeader("User-Agent", "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/123.0.0.0 Safari/537.36");CloseableHttpResponse response = httpClient.execute(request);Document doc = Jsoup.parse(response.getEntity().getContent(), "UTF-8", url);System.out.println(doc.html());        response.close();httpClient.close();}
}
  • Selenium
import org.openqa.selenium.WebDriver;
import org.openqa.selenium.chrome.ChromeDriver;
import org.openqa.selenium.chrome.ChromeOptions;public class WebScrapingWithChrome {public static void main(String[] args) {System.setProperty("webdriver.chrome.driver", "path/to/chromedriver");ChromeOptions options = new ChromeOptions();options.addArguments("user-agent=Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/123.0.0.0 Safari/537.36");WebDriver driver = new ChromeDriver(options);driver.get("https://example.com");String pageSource = driver.getPageSource();System.out.println(pageSource);driver.quit();}
}

Go

  • net/http group
package mainimport ("fmt""io/ioutil""net/http"
)func main() {client := &http.Client{}req, _ := http.NewRequest("GET", "https://example.com", nil)req.Header.Set("User-Agent", "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/123.0.0.0 Safari/537.36")resp, _ := client.Do(req)defer resp.Body.Close()body, _ := ioutil.ReadAll(resp.Body)fmt.Println(string(body))
}

2. 使用Nstbrowser设置用户代理

无论以上示例中使用了哪种编程语言或工具，HTTP请求头中的UserAgent字段都是通过对应库中的方法或配置进行设置或修改的。

一些反检测浏览器也支持自定义用户代理，下面是一个通过指纹浏览器自定义用户代理的示例，以Nstbrowser为例展示如何通过指纹浏览器自定义用户代理：

Nstbrowser应用

通过UI中的“Profile”面板直接点击“Create”来自定义用户代理。

Nstbrowser API

你也可以通过API方法自定义用户代理，如LaunchBrowser、CreateProfile、Nstbrowser Puppeteer等，以下是使用Puppeteer方法的代码：

import puppeteer from 'puppeteer-core';// LaunchExistBrowser: Connect to or start an existing browser
// You need to create the corresponding profile in advance
// Support custom config
async function launchAndConnectToBrowser(profileId) {const host = 'localhost:8848';const apiKey = 'your api key';const config = {headless: true,autoClose: true,fingerprint: {name: 'browser113',platform: 'windows',kernel: 'chromium',kernelMilestone: '120',hardwareConcurrency: 4,deviceMemory: 8,proxy: '',userAgent: 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/120.0.6099.56 Safari/537.36',}};const query = new URLSearchParams({'x-api-key': apiKey, // requiredconfig: encodeURIComponent(JSON.stringify((config))),});const browserWSEndpoint = `ws://${host}/devtool/launch/${profileId}?${query.toString()}`;console.log('browserWSEndpoint: ', browserWSEndpoint);await execPuppeteer(browserWSEndpoint);
}launchAndConnectToBrowser('your profileId').then();

如何避免你的用户代理被封禁？

如果同一个用户代理发送过多请求，会触发反机器人系统，最终导致封禁。避免这种情况的最好方法是轮换用户代理列表并保持更新。

1. 用户代理轮换

轮换抓取用户代理意味着在进行网页请求时替换它。这使你可以访问更多数据并提高抓取器的效率。这种方法还可以帮助保护你的IP地址免于被封禁和列入黑名单。

如何轮换用户代理？

大多数浏览器支持轮换用户代理头。例如在JS中，预先定义一个可用的用户代理列表，然后从列表中随机或轮换一个用户代理并使用。

const axios = require('axios');// define rotate UserAgent list
const userAgents = ['Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/123.0.0.0 Safari/537.36','Mozilla/5.0 (Windows NT 10.0; Win64; x64; rv:124.0) Gecko/20100101 Firefox/124.0',// more UerAgent
];
let currentIndex = 0;
async function fetchData() {try {const response = await axios.get('https://example.com', {headers: {'User-Agent': userAgents[currentIndex]}});console.log(response.data);currentIndex = (currentIndex + 1) % userAgents.length;} catch (error) {console.error(error);}
}
fetchData();

通过智能用户代理轮换避免用户代理被封禁
现在免费试用！

你也可以使用自带用户代理轮换功能的反检测浏览器。通过轮换用户代理值，Nstbrowser可以防止反机器人检测并避免封禁抓取活动。

Nstbrowser网页抓取展示了在Nstbrowser客户端配置文件中创建或编辑用户代理指纹的示例。只需点击随机用户代理按钮，如下图所示：

2. 请求之间的随机间隔

保持请求之间的随机间隔，以防止你的抓取器被检测和封禁。

3. 最新的用户代理

过时的用户代理可能导致你的IP被封禁！为了保持流畅无缝的抓取体验，请定期更新你的用户代理。

总结

尽管用户代理字符串可以被客户端修改，但对于网络管理员来说，它仍不足以保护他们的服务器免受机器人流量的侵害。为了避免不确定性和麻烦，反检测浏览器是一个理想的解决方案，可以顺利进行抓取。

Nstbrowser通过其真实的浏览器指纹、CAPTCHA求解器、网页解锁器和无浏览器模式，帮助绕过反机器人检测并解锁99.9%的网站。哦！试试免费版，享受无缝的网页抓取体验！

这篇关于网络抓取的最佳用户代理 2024 | 避免在抓取时被禁止使用 UA的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！


http://www.chinasem.cn/article/1052220。

相关文章

Python使用FastAPI实现大文件分片上传与断点续传功能

Python使用FastAPI实现大文件分片上传与断点续传功能

《Python使用FastAPI实现大文件分片上传与断点续传功能》大文件直传常遇到超时、网络抖动失败、失败后只能重传的问题,分片上传+断点续传可以把大文件拆成若干小块逐个上传,并在中断后从已完成分片继... 目录一、接口设计二、服务端实现（FastAPI）2.1 运行环境2.2 目录结构建议2.3 serv
阅读更多...
Spring Security简介、使用与最佳实践

Spring Security简介、使用与最佳实践

《SpringSecurity简介、使用与最佳实践》SpringSecurity是一个能够为基于Spring的企业应用系统提供声明式的安全访问控制解决方案的安全框架,本文给大家介绍SpringSec... 目录一、如何理解 Spring Security？—— 核心思想二、如何在 Java 项目中使用？——
阅读更多...
springboot中使用okhttp3的小结

springboot中使用okhttp3的小结

《springboot中使用okhttp3的小结》OkHttp3是一个JavaHTTP客户端,可以处理各种请求类型,比如GET、POST、PUT等,并且支持高效的HTTP连接池、请求和响应缓存、以及异... 在 Spring Boot 项目中使用 OkHttp3 进行 HTTP 请求是一个高效且流行的方式。
阅读更多...
Java使用Javassist动态生成HelloWorld类

Java使用Javassist动态生成HelloWorld类

《Java使用Javassist动态生成HelloWorld类》Javassist是一个非常强大的字节码操作和定义库,它允许开发者在运行时创建新的类或者修改现有的类,本文将简单介绍如何使用Javass... 目录1. Javassist简介2. 环境准备3. 动态生成HelloWorld类3.1 创建CtC
阅读更多...
使用Python批量将.ncm格式的音频文件转换为.mp3格式的实战详解

使用Python批量将.ncm格式的音频文件转换为.mp3格式的实战详解

《使用Python批量将.ncm格式的音频文件转换为.mp3格式的实战详解》本文详细介绍了如何使用Python通过ncmdump工具批量将.ncm音频转换为.mp3的步骤,包括安装、配置ffmpeg环... 目录1. 前言2. 安装 ncmdump3. 实现 .ncm 转 .mp34. 执行过程5. 执行结
阅读更多...
Java使用jar命令配置服务器端口的完整指南

Java使用jar命令配置服务器端口的完整指南

《Java使用jar命令配置服务器端口的完整指南》本文将详细介绍如何使用java-jar命令启动应用,并重点讲解如何配置服务器端口,同时提供一个实用的Web工具来简化这一过程,希望对大家有所帮助... 目录1. Java Jar文件简介1.1 什么是Jar文件1.2 创建可执行Jar文件2. 使用java
阅读更多...
C++统计函数执行时间的最佳实践

C++统计函数执行时间的最佳实践

《C++统计函数执行时间的最佳实践》在软件开发过程中,性能分析是优化程序的重要环节,了解函数的执行时间分布对于识别性能瓶颈至关重要,本文将分享一个C++函数执行时间统计工具,希望对大家有所帮助... 目录前言工具特性核心设计1. 数据结构设计2. 单例模式管理器3. RAII自动计时使用方法基本用法高级用法
阅读更多...
C#使用Spire.Doc for .NET实现HTML转Word的高效方案

C#使用Spire.Doc for .NET实现HTML转Word的高效方案

《C#使用Spire.Docfor.NET实现HTML转Word的高效方案》在Web开发中,HTML内容的生成与处理是高频需求,然而,当用户需要将HTML页面或动态生成的HTML字符串转换为Wor... 目录引言一、html转Word的典型场景与挑战二、用 Spire.Doc 实现 HTML 转 Word1
阅读更多...
PHP应用中处理限流和API节流的最佳实践

PHP应用中处理限流和API节流的最佳实践

《PHP应用中处理限流和API节流的最佳实践》限流和API节流对于确保Web应用程序的可靠性、安全性和可扩展性至关重要,本文将详细介绍PHP应用中处理限流和API节流的最佳实践,下面就来和小编一起学习... 目录限流的重要性在 php 中实施限流的最佳实践使用集中式存储进行状态管理（如 Redis）采用滑动
阅读更多...
Java中的抽象类与abstract 关键字使用详解

Java中的抽象类与abstract 关键字使用详解

《Java中的抽象类与abstract关键字使用详解》：本文主要介绍Java中的抽象类与abstract关键字使用详解,本文通过实例代码给大家介绍的非常详细,感兴趣的朋友跟随小编一起看看吧... 目录一、抽象类的概念二、使用 abstract2.1 修饰类 => 抽象类2.2 修饰方法 => 抽象方法，没有
阅读更多...

Copyright China编程 23002807@qq.com

沪ICP备2023033072号-2