一、CHDFS 介绍
CHDFS(云 HDFS)是腾讯云一种提供标准 HDFS 访问协议和分层命名空间的高性能分布式文件系统,主要解决大数据场景下海量数据存储和数据分析,为实现计算与存储分离提供解决方案。
CHDFS 着重于分布式元数据服务,数据存储依赖对象存储 COS。COS 作为云端基础存储服务,为 CHDFS 提供了坚实的数据底座,不仅支持海量数据存储和超大带宽,还支持多 AZ 模式,且默认 EC 编码,成本更低,同时通过冷热数据智能分层,进一步降低存储成本。
二、生命周期管理
随着时间推移,CHDFS 上数据不断累积,但只有小部分是用户最近使用的,大部分是历史数据,访问频次逐渐减少,如日志文件,数据备份等。
如果用户不去管理这些数据,那么存储费用逐渐增大,对用户自身业务发展也不友好,但主动管理需要投入人力和时间成本,费时费力,因此 CHDFS 对齐 COS 数据分层能力,推出生命周期功能,帮助用户更加便捷地管理冷热数据。
用户可以通过配置 CHDFS 生命周期规则,定期将数据文件从标准存储降为归档存储或者直接删除,整个沉降和删除过程由 CHDFS 生命周期功能自动化完成,保障及时准确,且不产生任何附加费用,同时支持回热操作,用于对已经降为归档存储类型的数据文件重新发起访问。
三、生命周期规则
生命周期规则即生命周期策略,需要用户指定以下参数:
1、Path:生命周期规则目标路径。
1)指定目录:规则作用于目录下的所有文件,包括递归子目录下的文件。
2)指定文件:规则只作用于具体文件。
2、Type:生命周期规则类型。
1)沉降:定期将文件存储类型从标准存储降为归档存储,节省成本。
2)删除:定期将文件直接删除。
3、Days:指定生命周期规则在文件最后访问时间的多少天后触发相应的操作。
说明:与 COS 对象最后修改时间 mtime 不同,CHDFS 满足文件系统语义,不仅支持文件最后修改时间 mtime、元数据最后修改时间 ctime,还能够支持以文件最后访问时间 atime 作为分层条件,这种策略更能满足用户需求。
四、回热任务
回热的目的是为了对已经沉降的文件重新发起访问,它会复制一份标准存储的文件副本供用户读取,副本到期后会自动删除,在此期间归档存储的文件一直存在,创建回热任务需要用户指定参数:
1、FilePath:回热文件路径。
2、Type:回热类型。根据回热时间长短,回热分为三类。
1)极速模式:回热任务在 1 - 5 分钟内可完成。
2)标准模式:回热任务在 3 - 5 小时内完成。
3)批量模式:回热任务在 5 - 12 小时内完成。
3、Days:回热完成后,标准存储的文件副本的保留天数。
说明:CHDFS 对于数据沉降、删除和回热,需要依赖 COS 对外提供的标准接口,所以生命周期在使用方式上与 COS 相似。
五、使用方式
用户可以通过控制台和云 API 来配置生命周期规则,创建回热任务仅支持云 API。
1、控制台
进入 CHDFS 控制台,选择具体文件系统,进入生命周期配置页,添加规则,完成生命周期配置,如下图所示:
说明:同时指定沉降和删除规则表示对目标文件先沉降后删除,删除时间必须要大于沉降时间。
2、云 API
通过云 API 创建生命周期规则示例:
创建回热任务示例:
说明:支持批量创建回热任务,回热任务需要指定具体文件路径。
六、计费
目前,CHDFS 只收取标准存储量和带宽的费用,归档存储量和回热请求暂不收费。
七、结语
CHDFS 结合对象存储 COS 无限容量的优势,深耕文件系统元数据管理,规模可扩大至百亿级别,同时配合用户自定义的生命周期策略,最大力度去帮助用户降低 CHDFS 存储成本,满足用户的使用需求。
关于我们
云 + 社区「腾讯云存储团队」主页,涵盖了腾讯云存储团队最新动态、团队信息、产品矩阵、技术文档、视频教程等,欢迎关注或留言,给出您的宝贵建议。