当前位置:

首页 > 编程开发 > HDFS快照如何使用

HDFS快照如何使用

HDFS 快照使用指南 说到数据备份与恢复,HDFS快照绝对是一个高效且轻量的利器。它本质上就是文件系统在某个特定时刻的“只读照片”,专门用于应对误操作或进行历史状态对比。那么,它到底是怎么工作的?简单来说,有以下几个核心特性: 一 核心概念与适用场景 首先,HDFS快照的创建几乎是瞬间完成的,时间

HDFS 快照使用指南

HDFS快照如何使用

说到数据备份与恢复,HDFS快照绝对是一个高效且轻量的利器。它本质上就是文件系统在某个特定时刻的“只读照片”,专门用于应对误操作或进行历史状态对比。那么,它到底是怎么工作的?简单来说,有以下几个核心特性:

一 核心概念与适用场景

首先,HDFS快照的创建几乎是瞬间完成的,时间复杂度为O(1),这意味着它不涉及大规模的数据复制。其次,它非常节省资源:只有在修改与快照相关的数据时,才会占用额外的内存,开销与被修改的文件或目录数量成正比。最关键的是,快照并不复制实际的DataNode数据块,它只记录文件的元数据信息,比如块列表和文件大小。因此,日常的HDFS读写操作完全不受影响,所有修改都会按时间倒序记录,你可以直接访问到最新的数据。

这种机制决定了它的典型用武之地:为重要目录创建时间点备份、快速恢复误删除的文件、对比不同时间点的数据变更,以及满足审计需求。

二 前置条件与限制

在使用快照前,有几个关键限制必须了解。目录不是天生就能拍快照的,需要先被管理员设置为“可快照目录”。一个这样的目录最多能保存65,536个快照,不过系统中可快照目录的总数没有限制。

这里有个重要的“禁止级联”规则:如果一个目录的父目录或子目录已经是可快照目录,那么它本身就不能再被设置为可快照了。此外,对于可快照目录,在删除其下的所有快照之前,你既不能删除也不能重命名这个目录。

访问快照的路径也有一套固定格式,使用/.snapshot这个保留后缀。举个例子,如果/foo是可快照目录并且有一个快照s0,那么/foo/.snapshot/s0/bar指向的就是/foo/bar文件在s0那个时刻的状态。

三 常用命令速查

为了方便查阅,这里将常用命令按角色和用途归类:

管理员操作(需超级用户权限)

  • 允许目录创建快照:hdfs dfsadmin -allowSnapshot
  • 禁止目录创建快照:hdfs dfsadmin -disallowSnapshot (执行前需先删除该目录下全部快照)

用户操作

  • 创建快照:hdfs dfs -createSnapshot [snapshotName](如果省略快照名称,系统会自动生成一个带时间戳的名字,格式如 sYYYYMMDD-HHmmss.SSS)
  • 删除快照:hdfs dfs -deleteSnapshot
  • 重命名快照:hdfs dfs -renameSnapshot
  • 列出所有可快照目录:hdfs lsSnapshottableDir
  • 比较两个快照间的差异:hdfs snapshotDiff (这里可以用.来表示当前目录的最新状态)

快照访问与恢复

  • 列出某个快照的内容:hdfs dfs -ls /.snapshot/
  • 从快照拷贝文件进行恢复:hdfs dfs -cp -ptopax /.snapshot// (注意-ptopax参数,它能保留文件的时间戳、属主、权限、ACL和扩展属性)

四 完整示例:备份与恢复

光看命令可能有点抽象,我们通过一个完整的场景来串联一下:

  1. 开启快照功能:首先,管理员为重要目录开启权限。
    hdfs dfsadmin -allowSnapshot /data/important
  2. 创建快照:然后,用户创建一个命名清晰的快照作为备份点。
    hdfs dfs -createSnapshot /data/important backup_20251214
  3. 误删后恢复:假设不小心删除了目录里的conf文件夹,可以从快照中完整恢复。
    hdfs dfs -rm -r /data/important/conf
    hdfs dfs -cp -ptopax /data/important/.snapshot/backup_20251214/conf /data/important/
  4. 对比变更:恢复后,可以对比一下快照和当前状态的差异,看看除了删除还发生了什么。
    hdfs snapshotDiff /data/important backup_20251214 .
  5. 清理与关闭:最后,如果需要释放资源,删除快照并关闭该目录的快照功能。
    hdfs dfs -deleteSnapshot /data/important backup_20251214
    hdfs dfsadmin -disallowSnapshot /data/important

需要留意的是snapshotDiff命令输出的符号含义:+表示文件被创建,-表示被删除,M表示被修改,R表示在同一个可快照目录内被重命名。如果文件被重命名到了目录外,则会被分别报告为删除和创建。

五 在 OSS-HDFS 中使用快照

对于使用阿里云OSS-HDFS服务的用户来说,好消息是快照功能基本兼容。用法和原生HDFS大体一致,但开启和关闭快照需要使用JindoSDK提供的管理命令:

  • 开启:jindo admin -allowSnapshot -dlsUri oss://./
  • 创建:hdfs dfs -createSnapshot oss://./
  • 访问:hdfs dfs -ls oss://.//.snapshot//
  • 恢复:hdfs dfs -cp oss://.//.snapshot// oss://./
  • 差异对比:jindo admin -snapshotDiff -dlsUri oss://./ -fromSnapshot -toSnapshot
  • 关闭:jindo admin -disallowSnapshot -dlsUri oss://./(同样,需要先删除该路径下的全部快照)

在使用前,请确保你的JindoData版本在4.0.0及以上。部分生产环境建议使用JindoSDK 4.5.0及以上版本,并正确配置AccessKey和Endpoint。

本文内容来源于互联网,如有侵权请联系删除。
作者最新文章
编程开发 Linux
相关文章 更多
C++动态数组初始化怎么写?常用语句与代码示例
C++动态数组初始化怎么写?常用语句与代码示例

深入解析C++中动态数组的初始化机制,涵盖new操作符的不同用法、基本类型与类对象的初始化差异,以及为何在现代C++开发中应优先使用std::vector。

在 Kali Linux 中验证 Hashcat 安装
在 Kali Linux 中验证 Hashcat 安装

引言 Hashcat 被广泛认为是世界上最快、最先进的密码恢复工具。它是渗透测试人员和安全专业人员武器库中的必备工具。在使用它破解哈希(hashes)之前,你必须首先确保它已在你的系统上正确安装并完全可用。 在本实验(lab)中,你将执行一系列简单的检查,以验证 Hashcat 在你的 Kali L

在 Kali Linux 上安装和验证 Gobuster
在 Kali Linux 上安装和验证 Gobuster

引言 Gobuster 是一个强大的工具,用于目录和文件暴力破解、DNS 子域暴力破解以及 S3 存储桶枚举。它是渗透测试人员和安全爱好者发现 Web 服务器上隐藏路径和资源的重要实用程序。 在本实验中,你将学习在 Kali Linux 环境中安装 Gobuster 的基本步骤。你将使用 CODE_

(G-G) Pixel 手机或将进行重要底层升级Linux 内核有望更新
(G-G) Pixel 手机或将进行重要底层升级Linux 内核有望更新

谷歌计划为Pixel7至10系列进行Linux内核重大升级,从旧版本统一跃升至Linux6.12。新内核优化了CPU调度和内存管理,有望提升流畅度、安全性与发热控制,并可能改善Pixel10的GPU性能。该更新预计随Android17QPR2年底推送,Pixel6因支持终止无缘升级。

火狐浏览器自定义主页
火狐浏览器自定义主页

火狐浏览器可通过五种方式自定义默认主页:一、设置中手动输入网址;二、用当前页面一键设为主页;三、从书签中选取;四、移动端通过新标签页模拟;五、高级用户修改about:config配置项。 想让火狐浏览器一打开就直奔你心仪的网站,而不是那个空白页或默认的官方主页?这事儿其实不难,通过浏览器内置的设置就

淘宝网页版入口查找教程
淘宝网页版入口查找教程

淘宝官方网页登录入口 对于如何找到淘宝网页版的入口,很多朋友都感到有点摸不着头脑。别急,这篇文章就来为你拆解清楚整个登录流程。官方的登录入口很明确,就在官网首页的左上角。 淘宝网页版入口位于官网首页左上角,点击“亲,请登录”即可跳转至统一的验证页面。登录支持密码、短信验证码和手机APP扫码三种方式,

WMV转MP4方法
WMV转MP4方法

WMV视频压缩指南:如何高效“瘦身”释放硬盘空间 在日常处理和收藏视频时,不少人会发现一个有趣的现象:WMV格式的文件,在画质相当的情况下,体积往往比MP4更小巧。这原本是它的优势,但架不住日积月累,一堆WMV文件同样会悄悄吃掉大量的硬盘空间。因此,如何给WMV视频“减减肥”,就成了优化存储、提升效

打字鸭官方网址登录入口
打字鸭官方网址登录入口

打字鸭官方网址是https://www.daziya.com/,提供科学分层课程、沉浸式交互体验、精准数据追踪、灵活教学角色及稳定轻量技术架构。 提到在线打字练习,很多朋友第一时间会问:打字鸭的官方入口到底在哪?不用再四处搜索了,它的直达地址就在这里。 https://www.daziya.com/

米侠浏览器打不开网页
米侠浏览器打不开网页

米侠浏览器页面打不开,或者干脆显示一片空白?问题根源大概率出在内核上。比如内核和当前网页的兼容性出了岔子、页面渲染模块意外损坏,再或者,内核版本实在太旧了。别急,沿着切换内核、清理缓存、关闭硬件加速、替换核心文件这四步走,通常都能解决。 用米侠浏览器上网,碰到页面死活刷不出来,或者只显示一个空白屏幕

steam正版官网入口地址
steam正版官网入口地址

Steam正版官网入口与完整使用指引 Steam的全球统一官方商店入口是:https://store.steampowered.com/。认准这个地址,页面具备HTTPS加密、Valve版权标识及安全锁标志,能有效保障访问安全。 还在四处搜索Steam的正版官网地址?其实不必那么麻烦。下面这份从官网

查看更多
精品专题 更多
装机必备
装机必备

正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

Windows
Windows

正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

macOS软件
macOS软件

正软商城macOS软件专区,精选适用于Mac电脑的办公、设计、影音、效率、开发和系统工具,提供软件功能介绍、macOS兼容版本、正版授权及购买下载服务。

Mac软件 更多
灵活计算器
灵活计算器
macOS/iOS/Android

灵活计算器是一款笔记式算数应用,支持实时计算、动态关联和云端同步功能。记录、整理和输出之间的过渡会更自然,适合长期写作、做笔记或持续沉淀个人内容。

赤友清理大师
赤友清理大师
macOS

赤友清理大师是一款为 Mac 设计的智能清理优化工具,可精准扫描垃圾、大文件、重复文件等,释放磁盘空间。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

极度公式
极度公式
Windows/macOS/Linux

极度公式是一款跨平台专业LaTeX公式识别编辑软件,支持OCR公式识别和多平台编辑。和使用说明,避免使用,享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

WINDOWS 更多
Windows 10
Windows 10
Windows

Windows 10 是一款微软推出的经典操作系统,拥有硬件兼容性与多任务处理能力。它更偏向把系统状态查看和常用调节动作放在一起,适合需要持续观察和微调设备状态的场景。

极度公式
极度公式
Windows/macOS/Linux

极度公式是一款跨平台专业LaTeX公式识别编辑软件,支持OCR公式识别和多平台编辑。和使用说明,避免使用,享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

密码键盘
密码键盘
Windows/macOS/iOS/Android

密码键盘是一款兼具安全性与便捷性的高效密码管理器。日常使用里的持续防护和信息管理会更突出,适合把安全控制放进长期使用流程中的场景。