Python 爬虫 示例

发布时间:2024年01月03日

以下是一个简单的 Python 爬虫示例,通过 requests 库和 BeautifulSoup 库来爬取指定网页的标题和链接:

import requests
from bs4 import BeautifulSoup

# 发送 HTTP 请求
url = 'https://www.example.com'  # 替换成你想要爬取的网页地址
response = requests.get(url)

# 解析 HTML 内容
soup = BeautifulSoup(response.text, 'html.parser')

# 提取标题和链接
title = soup.title.string
links = soup.find_all('a')

# 打印标题
print('网页标题:', title)

# 打印链接
print('网页链接:')
for link in links:
    print(link.get('href'))

在这个示例中,我们首先使用 requests 库发送 HTTP 请求来获取网页的内容,然后使用 BeautifulSoup 库来解析 HTML 内容。
接着,我们提取了网页的标题和所有链接,并打印出来。
这只是一个简单的爬虫示例,你可以根据自己的需求进一步扩展和修改。
要注意,当使用爬虫时,需要遵守网站的robots.txt文件中的规定,并且尊重网站的使用条款,避免对网站造成压力和影响。

文章来源:https://blog.csdn.net/sha_mo_li/article/details/135255562
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。