【云计算的1024种玩法】轻松将服务器文件备份至 OSS

本文涉及的产品
对象存储 OSS,20GB 3个月
对象存储 OSS,恶意文件检测 1000次 1年
对象存储 OSS,内容安全 1000次 1年
简介: 教程的主角是 alicloud-duplicity,它是在 duplicity 的基础上支持OSS存储的开源备份工具,alicloud-duplicity 支持 duplicity 的所有命令和参数。duplicity 是一款开源的备份工具,使用librsync 支持增量备份,节约本地存储空间,同时使用GnuPG加密数据。

前言

在阿里云开发者论坛做版主也有 3 年了,见到过非常多的因为平时没有备份导致的服务器文件因为错误操作丢失、忘记续费丢失、服务器中毒丢失的情况。都是因为没有对服务进行备份。

而备份这种东西一边来说都是平时百般不情愿的,但是一到用时真的是恨不得备份越新越全越好。备份可以有效的帮助我们解决例如挂马和加密勒索这样的攻击行为,相信 17年5月20日 的永恒之蓝大家还记忆犹新的吧。

备份也不应该是随便找一个地方进行存储,备份也应该保障高可靠性和低成本,这时候使用一些云厂商提供的开放性存储就有非常高的可靠性,像阿里云可以做到 99.99999999% 的数据可靠性,而且成本绝对比快照低得多,也正巧阿里云提供了非常方便的服务器备份工具,下面就让我们来介绍一下吧。

介绍

教程的主角是 alicloud-duplicity,它是在 duplicity 的基础上支持OSS存储的开源备份工具,alicloud-duplicity 支持 duplicity 的所有命令和参数。duplicity 是一款开源的备份工具,使用librsync 支持增量备份,节约本地存储空间,同时使用GnuPG加密数据。duplicity 能将数据轻松的备份到本地、共享存储和云存储等。

使用 alicloud-duplicity 可以实现全量备份和增量备份并对其进行加密并且上传至 OSS。

要求 & 收获

需要使用到的产品:

  1. 任意(包括非阿里云)服务器/ECS/轻量应用服务器(安装任意 Linux 发行版镜像)
    2.阿里云 OSS 产品

通过本文你将讲学到:

  1. 使用 OSS
  2. 方便快捷的 OSS 服务器备份操作
  3. 阿里云访问控制(RAM) 的操作

安装

推荐操作系统: Ubuntu、Debian

一、安装系统依赖

apt update && apt install librsync-dev python-pip python-dev git -y

二、安装py依赖

pip install oss2 fasteners configparser setuptools

三、安装程序

mkdir -p /root/src/
cd /root/src/
git clone https://github.com/aliyun/alicloud-duplicity.git
cd alicloud-duplicity
python setup.py install

四、验证

也就是查看一下运行相关命令能否出现版本号:

alicloud-duplicity -V

设置

OSS 设置

一、 首先我们要开通 OSS

二、 然后创建一个和阿里云 ECS 同地域的 OSS Bucket

image

三、 储存类型选择 低频访问 ,读写权限为 私有 。因为备份并不会频繁访问,所以可以选择成本更低 低频访问,我们的别分肯定也不要别人访问,自然是 私有

image

四、 然后进入 访问控制(RAM) 创建一个专门为 OSS 准备的用户,一定要记录好 AccessKeyID 和 AccessKeySecret

image

五、 点击 策略管理,然后点击 新建授权策略

image

六、 直接点击 空白模板,然后输入 授权策略名称 后,输入策略内容如下面:

{
  "Statement": [
    {
      "Action": "oss:*",
      "Effect": "Allow",
      "Resource": [
        "acs:oss:*:*:mf8-oss-back",
        "acs:oss:*:*:mf8-oss-back/*"
      ]
    }
  ],
  "Version": "1"
}

由于我的 OSS Bucketmf8-oss-back,所以 acs:oss:*:*:mf8-oss-back","acs:oss:*:*:mf8-oss-back/*" 后面是 mf8-oss-back 你可以改成自己的 OSS Bucket 名称

然后点击 新建授权策略 保存

七、 为该用户进行授权

image

八、 选择我我们刚才创建的授权策略就行

image

服务器设置

创建配置文件

运行:

cat >> ~/.alicloud.cfg << EOF 
[oss]
endpoint = OSS的访问 EndPoint
access_key_id = 刚才要保存的 AccessKeyID 
access_key_secret = 刚才要保存的 AccessKeySecret
EOF

OSS的访问 EndPoint,可以在 Bucket 的详情页中看到:

image

如果是 VPC 就用 VPC 的内网,经典就用经典的内网,内网速度更快同时不用流量费用。

例如:

cat >> ~/.alicloud.cfg << EOF 
[oss]
endpoint = http://oss-cn-shanghai-internal.aliyuncs.com
access_key_id = LTZIWWWMF8BIZxJI
access_key_secret = 9rm1Q5nlpyz155WWWMF8BIZDAW1DSn
EOF

创建环境变量

运行:

export ALICLOUD_OSS_ENDPOINT=OSS的访问 EndPoint
export ALICLOUD_ACCESS_KEY_ID=刚才要保存的 AccessKeyID ALICLOUD_ACCESS_KEY_SECRET=刚才要保存的 AccessKeySecret

使用

终于可以开始开心的使用了!

用法

备份

  • 全量备份

    alicloud-duplicity full /etc oss://bucket-name/keyfolder/
  • 增量备份

    alicloud-duplicity incr /etc oss://bucket-name/keyfolder/
  • 自动选择备份类型

    alicloud-duplicity /etc oss://bucket-name/keyfolder/  
    alicloud-duplicity --full-if-older-than 7D /etc oss://bucket-name/keyfolder/  # 对重要数据,应经常做全量备份,用--full-if-older-than指定全量备份时间间隔。
  • 定时备份

    利用 `crontab -e` 设定每天凌晨3点自定执行脚本timedbackup.sh,写入 `0 3 _/1_ * timedbackup.sh`。脚本timedbackup.sh的内容如下:
    alicloud-duplicity --full-if-older-than 7D /etc oss://bucket-name/keyfolder/
  • 备份多个目录

    alicloud-duplicity --include /etc --include /home/aliyun --exclude '**' / oss://bucket-name/keyfolder/

恢复

  • 恢复文件夹

    alicloud-duplicity restore oss://bucket-name/keyfolder/ /home/tmp/
  • 恢复特定文件

    alicloud-duplicity --file-to-restore file1 oss://bucket-name/keyfolder/ /home/tmp/

其它

  • 列出备份目录列表

    alicloud-duplicity list-current-files oss://bucket-name/keyfolder/
  • 查看备份状态

    alicloud-duplicity collection-status oss://bucket-name/keyfolder/

演示

例如,我要备份 /root/images/ 内的所有图片到 OSS,那么就运行:

alicloud-duplicity full /root/images/ oss://mf8-oss-back/images/*

这里的 /root/images/ 是本地要备份的目录,oss://mf8-oss-back 中的 mf8-oss-backOSS Bucket 名称,/images/ 就是 OSS 中的目录了。

然后会出来一段:

Local and Remote metadata are synchronized, no sync needed.
Last full backup date: none
GnuPG passphrase: 
Retype passphrase to confirm:

就是要你输入加密这个备份的密码,因为即便备份到自己的 OSS 上依旧是应该要一个加密来保障安全的,万一手机丢了阿里云账号被登录了呢。

然后就会反馈备份内容了:

--------------[ Backup Statistics ]--------------
StartTime 1510751741.34 (Wed Nov 15 21:15:41 2017)
EndTime 1510751741.35 (Wed Nov 15 21:15:41 2017)
ElapsedTime 0.01 (0.01 seconds)
SourceFiles 12
SourceFileSize 104550 (102 KB)
NewFiles 12
NewFileSize 104550 (102 KB)
DeletedFiles 0
ChangedFiles 0
ChangedFileSize 0 (0 bytes)
ChangedDeltaSize 0 (0 bytes)
DeltaEntries 12
RawDeltaSize 100454 (98.1 KB)
TotalDestinationSizeChange 61719 (60.3 KB)
Errors 0
-------------------------------------------------

我们在到 OSS 的文件管理处就可以看到备份文件了:

image

三个就是加密后的文件。

然后我们就再恢复一下看看是否备份成功:

alicloud-duplicity restore oss://mf8-oss-back/images/ /root/restore/images/

就可以 /root/restore/images/ 中看到恢复的文件了。

相关实践学习
借助OSS搭建在线教育视频课程分享网站
本教程介绍如何基于云服务器ECS和对象存储OSS,搭建一个在线教育视频课程分享网站。
目录
相关文章
|
28天前
|
存储 安全 数据安全/隐私保护
oss服务器端加密
阿里云OSS提供服务器端加密,使用AES-256自动加密数据,保证上传至OSS的数据安全。下载时自动解密,透明处理。加密增强静态数据安全性,满足合规需求。支持OSS或KMS管理密钥,实现细粒度权限控制。确保云端对象数据全生命周期安全。
28 7
|
28天前
|
存储 弹性计算 数据可视化
要将ECS中的文件直接传输到阿里云网盘与相册(
【2月更文挑战第31天】要将ECS中的文件直接传输到阿里云网盘与相册(
415 4
|
30天前
|
存储 安全 API
oss服务器端加密(Server-Side Encryption Configuration)
阿里云OSS提供服务器端加密(SSE),确保静态数据安全。支持SSE-KMS,使用KMS托管CMK加密。数据上传时自动加密,下载时自动解密。用户可设置Bucket默认加密或在上传时指定加密选项。适用于高度保护数据场景,如敏感个人信息和企业关键信息。兼容多种部署形态,特定特性地域可用。此功能简化了加密处理,增强了云端数据安全性。
31 1
|
2月前
|
数据可视化 Shell Linux
shell+crontab+gitlab实现ecs服务器文件的web展示
本文通过把ecs服务器上的文件定时上传至gitlab,实现文件的页面可视化和修改历史。技术点:shell、crontab、gitlab。
50 3
|
1月前
|
Linux 网络安全 Python
如何在服务器上运行python文件
如何在服务器上运行python文件
|
3天前
|
安全 Java 网络安全
对象存储oss使用问题之使用oss上服务器后显示服务异常如何解决
《对象存储OSS操作报错合集》精选了用户在使用阿里云对象存储服务(OSS)过程中出现的各种常见及疑难报错情况,包括但不限于权限问题、上传下载异常、Bucket配置错误、网络连接问题、跨域资源共享(CORS)设定错误、数据一致性问题以及API调用失败等场景。为用户降低故障排查时间,确保OSS服务的稳定运行与高效利用。
10 0
|
25天前
|
安全 数据处理 C#
C# Post数据或文件到指定的服务器进行接收
C# Post数据或文件到指定的服务器进行接收
|
1月前
|
弹性计算 NoSQL 数据库
电车卷?云计算更卷,阿里云领头降价,2024阿里云服务器又降价了!
电车卷?云计算更卷,阿里云领头降价,2024阿里云服务器又降价了!
|
2月前
|
Java
java上传、下载、预览、删除ftp服务器上的文件
java上传、下载、预览、删除ftp服务器上的文件
|
2月前
|
弹性计算 运维 安全
阿里云轻量应用服务器:一款高效、稳定、安全的云计算服务
阿里云服务器ECS和轻量应用服务器有什么区别?轻量和ECS优缺点对比,云服务器ECS是明星级云产品,适合企业专业级的使用场景,轻量应用服务器是在ECS的基础上推出的轻量级云服务器,适合个人开发者单机应用访问量不高的网站博客、云端学习测试环境等,阿里云服务器网从从使用场景、适用人群、计费方式、系统镜像、网络带宽、运维管理等多方面来详细说下二者区别及如何选择
95 1