当前位置:

首页 > 编程开发 > PHP 爬虫实战:爬取豆瓣电影评论

PHP 爬虫实战:爬取豆瓣电影评论

PhpStorm macOS版
PhpStorm macOS版

PhpStorm 是 JetBrains 推出的专业 PHP 集成开发环境,可在 Mac 上完成代码编写、智能检查、重构、调试、测试和数据库管理。它支持主流 PHP 框架、Composer、Git、Docker 与远程解释器。

立即下载
¥890
Mac 2026-10-13
数据库 编程开发 phpstorm 服务器管理 集成开发环境

随着互联网的发展,爬虫越来越受到人们的关注,因为爬虫可以在互联网上收集大量的数据,并进行分析和处理,这对于很多行业来说是非常有帮助的。本文将介绍使用PHP实现一个简单的爬虫,以爬取豆瓣电影评论为例。一、前期准备安装PHP首先需要安装PHP,你可以从官网下载最新的PHP安装包,并按照提示进行安装即可。安装Curl扩展Curl是PHP中一个

本文目录

    随着互联网的发展,爬虫越来越受到人们的关注,因为爬虫可以在互联网上收集大量的数据,并进行分析和处理,这对于很多行业来说是非常有帮助的。本文将介绍使用 PHP 实现一个简单的爬虫,以爬取豆瓣电影评论为例。

    一、前期准备

    1. 安装 PHP

    首先需要安装 PHP,你可以从官网下载最新的 PHP 安装包,并按照提示进行安装即可。

    1. 安装 Curl 扩展

    Curl 是 PHP 中一个非常常用的扩展,用于支持 HTTP 客户端,通过 Curl 扩展可以很轻松地发送 HTTP 请求和接收 HTTP 响应。如果你是通过官方 PHP 安装包来安装 PHP,那么 Curl 扩展可能已经预装了,如果没有,你可以通过以下命令安装:

    sudo apt-get install php-curl  # Ubuntu 等 Debian 发行版
    sudo yum install php-curl   # CentOS 等 RedHat 发行版
    1. 确认豆瓣电影评论页面 URL

    本文将爬取豆瓣电影《复仇者联盟4:终局之战》的影评,其页面的 URL 为 https://movie.douban.com/subject/26100958/comments?status=P,其中 26100958 是该电影在豆瓣电影上的 ID。

    二、爬虫实现

    1. 获取页面内容

    首先,我们需要获取豆瓣电影的评论页面内容,可以通过 CURL 发送 HTTP GET 请求获取 HTML 内容:

    $url = 'https://movie.douban.com/subject/26100958/comments?status=P';
    
    $ch = curl_init();
    curl_setopt($ch, CURLOPT_URL, $url);
    curl_setopt($ch, CURLOPT_RETURNTRANSFER, true);
    $html = curl_exec($ch);
    curl_close($ch);

    在上述代码中,首先定义豆瓣电影评论页面的 URL,然后通过 curl_init() 初始化一个 CURL 数据句柄,然后通过 curl_setopt() 函数来设置 CURL 句柄的参数,最后调用 curl_exec() 函数发送 HTTP GET 请求并获取 HTML 内容,最后使用 curl_close() 关闭句柄。

    1. 解析页面内容

    得到页面内容后,我们需要对页面进行解析,以提取出我们想要的数据。在 PHP 中,可以使用 Simple HTML DOM 解析器来解析 HTML。你可以从官方网站 https://sourceforge.net/projects/simplehtmldom/files/ 下载最新的版本,并将其引入到你的 PHP 文件中。

    这里我们需要遍历每一个用户的评论,我们可以找到评论区域 HTML 块,并获取其中的各个元素:

    require_once '/path/to/simple_html_dom.php';
    
    $comments = array();
    
    $html = str_get_html($html);
    
    $comment_list = $html->find('.comment-list')[0];
    $comments_array = $comment_list->find('.comment-item');
    
    foreach ($comments_array as $comment_item) {
        $comment = array();
    
        $comment['user'] = $comment_item->find('.comment-info a[href]', 0)->innertext;
        $comment['rating'] = $comment_item->find('.comment-info .rating', 0)->getAttribute('title');
        $comment['content'] = trim($comment_item->find('.comment p', 0)->innertext);
    
        $comments[] = $comment;
    }
    
    $html->clear();
    unset($html);

    上述代码首先通过 require_once 引入 Simple HTML DOM 解析器,然后将获取的 HTML 字符串传给 str_get_html() 函数解析成一个 Simple HTML DOM 对象。

    通过 $html->find() 函数可以利用 CSS 选择器来获取 HTML 标签,具体可以参考 Simple HTML DOM 文档(http://simplehtmldom.sourceforge.net/manual.htm)。

    1. 将数据存入数据库

    最后,爬虫获取到的数据需要进行存储。在这里,我们使用 MySQL 数据库来存储数据,你需要先在本地或者远程服务器搭建 MySQL 数据库,并创建一张名为 movie_comments 的表。

    创建表的 SQL 语句如下:

    CREATE TABLE `movie_comments` (
      `id` int(11) unsigned NOT NULL AUTO_INCREMENT,
      `name` varchar(255) NOT NULL DEFAULT '',
      `rating` varchar(10) NOT NULL DEFAULT '',
      `content` text NOT NULL,
      `create_time` timestamp NOT NULL DEFAULT CURRENT_TIMESTAMP,
      PRIMARY KEY (`id`)
    ) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4;

    然后将爬虫获取到的数据插入到表中:

    $dsn = "mysql:host=yourHost;dbname=yourDB;charset=utf8mb4";
    $username = 'yourUsername';
    $password = 'yourPassword';
    
    try {
        $pdo = new PDO($dsn, $username, $password);
        $pdo->setAttribute(PDO::ATTR_ERRMODE, PDO::ERRMODE_EXCEPTION);
    
        foreach ($comments as $comment) {
            $stmt = $pdo->prepare("INSERT INTO movie_comments(name, rating, content) VALUES (:name, :rating, :content)");
            $stmt->bindParam(':name', $comment['user']);
            $stmt->bindParam(':rating', $comment['rating']);
            $stmt->bindParam(':content', $comment['content']);
            $stmt->execute();
        }
    
    } catch (PDOException $e) {
        echo 'Connection failed: ' . $e->getMessage();
    }

    上述代码首先定义一个 DSN(数据源名)字符串,表示 MySQL 的连接参数,然后通过 PDO 类进行数据库连接,并设置错误模式为抛出异常,以便于错误处理。最后,循环遍历每一个评论,并使用 PDO 的 prepare() 函数预处理 SQL 语句,然后使用 bindParam() 绑定参数,最后执行 SQL 语句插入数据到数据库中。

    三、总结

    通过本文的介绍,你可以了解到如何使用 PHP 实现一个简单的爬虫,以爬取豆瓣电影评论为例,你可以通过 CURL 获取 HTML 内容,然后使用 Simple HTML DOM 解析器来解析 HTML 并提取出你想要的数据,最后将数据存入 MySQL 数据库中。当然,这只是一个简单的示例,你可以根据实际需求来编写你自己的爬虫。

    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
    作者最新文章
    编程开发 PHP 爬虫
    相关文章 更多
    php怎么连接数据库mysql完整代码与操作步骤
    php怎么连接数据库mysql完整代码与操作步骤

    详细介绍如何使用PHP PDO扩展连接MySQL数据库,包含完整的代码示例、DSN配置方法及异常处理技巧,帮助开发者快速建立稳定安全的数据库连接。

    PHP递归遍历目录文件:RecursiveDirectoryIterator与自定义实现
    PHP递归遍历目录文件:RecursiveDirectoryIterator与自定义实现

    深入解析在PHP中递归遍历多级目录文件的两种核心方案:基于SPL标准库的RecursiveDirectoryIterator高效流式迭代,与基于scandir/opendir的自定义递归函数实现,剖析执行机制、内存表现与实战避坑指南。

    解决PHP递归报错:max_nesting_level限制与内存溢出处理
    解决PHP递归报错:max_nesting_level限制与内存溢出处理

    遇到PHP递归报错时,不要盲目调大max_nesting_level。本文教你区分Xdebug限制、内存耗尽和正则递归错误,提供代码级的终止条件优化与迭代替代方案,彻底解决栈溢出问题。

    PHP递归中static变量与引用传递的常见陷阱及调试
    PHP递归中static变量与引用传递的常见陷阱及调试

    本文分析PHP递归中static变量导致的状态污染及引用传递引发的共享数据修改问题。提供具体的代码复现、缓存键设计建议及调试打印技巧,帮助开发者避免隐蔽的逻辑错误。

    PHP递归性能优化技巧与迭代替代方案
    PHP递归性能优化技巧与迭代替代方案

    解析PHP递归函数在树形数据处理中的性能瓶颈,提供预加载数据消除I/O、使用显式栈替代深层递归的实战方案,帮助开发者在代码可读性与执行效率间做出合理取舍。

    thinkphp项目部署指南详解服务器部署步骤
    thinkphp项目部署指南详解服务器部署步骤

    详细解析ThinkPHP项目在Linux服务器上的部署步骤,包括环境搭建、文件权限、Nginx配置及常见陷阱,提供可复制的代码示例与例外场景分析。

    PHP发送HTTP请求的方法及完整代码教程
    PHP发送HTTP请求的方法及完整代码教程

    详解PHP中发送HTTP请求的常用方法,包括原生cURL配置、file_get_contents流操作及Guzzle库的使用,提供GET/POST请求的完整代码示例与注意事项。

    php解析json内嵌json数据教程及取值方法
    php解析json内嵌json数据教程及取值方法

    本文详解PHP中json_decode处理嵌套JSON数据的机制,对比对象与数组模式的取值差异,提供防止空指针错误的健壮代码示例,帮助开发者快速定位解析失败原因。

    PHP 在 2026 年还适用吗?
    PHP 在 2026 年还适用吗?

    PHP在2026年仍适用于现代网站构建,在常规Web服务和内容密集型站点中较Python、Java等保持优势。其JIT编译优化性能,安全补丁及时,全面支持云原生,拥有成熟框架生态,整体成本较低。

    DebianPHP如何SSL加密
    DebianPHP如何SSL加密

    在Debian系统上为PHP配置SSL加密,通常涉及以下几个步骤:安装SSL证书:首先,你需要一个SSL证书。你可以从Let’s Encrypt免费获取,或者购买一个商业证书。使用Let’s Encrypt:sudo apt updatesudo apt install certbotsudo ce

    查看更多
    精品专题 更多
    装机必备
    装机必备

    正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

    Windows
    Windows

    正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

    PDF教程
    PDF教程

    正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

    Mac软件 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    Aperty macOS版
    Aperty macOS版
    macOS

    Aperty 是 Skylum 推出的 AI 人像修图软件,支持自然肤质修饰、瑕疵处理、面部与身体调整、预设及批量同步。

    WINDOWS 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    PixTV 网页版
    PixTV 网页版
    Windows

    PixTV 是一款在浏览器中使用的 AI 视觉内容创作平台,提供图片、视频、音频、文字生成、AI 分镜、局部重绘、提示词反推和无限画布等工具,适合短剧、漫剧、广告及社交媒体内容制作。

    即将离开本站
    您即将前往第三方网站,请确认是否继续?