Discuz 论坛附件、头像等资源迁移到阿里云 OSS 并开启 CDN 的解决方案

  1. 云栖社区>
  2. 博客>
  3. 正文

Discuz 论坛附件、头像等资源迁移到阿里云 OSS 并开启 CDN 的解决方案

sage6437 2018-05-25 01:43:40 浏览4595
展开阅读全文

本文首发 http://zhaoda.net/2018/05/23/discuz-attachment-oss/
转载请注明出处

Discuz 论坛的附件、头像等资源不断增长,如果和主程序一起存储在云服务器上,就会导致云盘要定期进行扩容操作;附件如果需要进行 CDN 加速也只能使用回源策略进行 CDN 配置。为了一劳永逸的解决附件存储和加速问题,将附件等资源迁移到对象存储服务上是一个好的选择,本文以阿里云 ECS、OSS 服务为背景,其他云计算平台也可以参考。

创建 OSS Bucket

  • OSS 管理页面分别给论坛附件、头像创建 Bucket,名称为 img-bucketavatar-bucket(如果自定为其他名字,后文提到的 Bucket 名称请自行替换),区域选择和论坛所在云服务器 ESC 一致的区域,记录下该区域的 Endpoint存储类型选择标准存储,读取权限选择私有
  • 访问控制 创建网站用户,生成 AccessKeyAccessKeySecret,给该用户授权 AliyunOSSFullAccess

开启 CDN

  • 到刚创建好的 Bucket 的域名管理中绑定用户域名,比如img.example.comavatar.example.com
  • 勾选阿里云 CDN 加速,如果域名 dns 解析在阿里云,可以勾选自动添加 CNAME 记录,如果不在请自行添加域名的cname阿里云 CDN 加速域名
  • 勾选CDN 缓存自动刷新
  • 建议单独为 CDN 申请单独的根域名,这样 CDN 请求不会带上网站的 cookie 等信息
  • CDN 域名管理中对新创建的域名进行配置

    • 开启私有Bucket回源
    • 缓存过期时间添加规则,内容目录/过期时间为3年,权重99
    • 设置HTTP头添加规则,Cache-Control 设置为 max-age=315360000
    • 开启智能压缩
    • 其他设置请根据实际需求自行修改

迁移附件和头像

  • 安装 ossfs,该工具能让您在 Linux 系统中把 OSS Bucket 挂载到本地文件系统中

ossfs 基于s3fs 构建,具有s3fs 的全部功能。主要功能包括

  • 支持POSIX 文件系统的大部分功能,包括文件读写,目录,链接操作,权限,uid/gid,以及扩展属性(extended attributes)
  • 通过OSS 的multipart 功能上传大文件
  • MD5 校验保证数据完整性
# 下载并安装
wget http://docs-aliyun.cn-hangzhou.oss.aliyun-inc.com/assets/attach/32196/cn_zh/1524809958556/ossfs_1.80.4_centos7.0_x86_64.rpm?spm=a2c4g.11186623.2.6.XJB3Dd&file=ossfs_1.80.4_centos7.0_x86_64.rpm
mv ossfs_1.80.4_centos7.0_x86_64.rpm?spm=a2c4g.11186623.2.6.QwMtDE ossfs_1.80.4_centos7.0_x86_64.rpm
yum localinstall ossfs_1.80.4_centos7.0_x86_64.rpm
  • 将每个 bucket nameAccessKeyAccessKeySecret:连接后填写到 /etc/passwd-ossfs,每行一个,并设置文件权限为 640
img-bucket:AccessKey:AccessKeySecret
my-bucket:AccessKey:AccessKeySecret
chmod 640 /etc/passwd-ossfs
  • 安装 mailcap,解决 bucket 中的文件 Content-Type 全是 application/octet-stream 的问题
yum install mailcap
  • 将论坛附件和头像剪切到其他临时目录
# 假设论坛根目录为 /data/htdocs/www ,后续脚本将以此为准,请根据实际情况修改
mv /data/htdocs/www/data/attachment /data/
mv /data/htdocs/www/uc_server/data/avatar /data/
  • 挂载 OSS Bucket
# 重新创建被剪的目录
mkdir /data/htdocs/www/data/attachment
mkdir /data/htdocs/www/uc_server/data/avatar

# 获取运行 php-fpm 和 nginx 的系统用户 uid 和 gid,比如 www 用户
# uid=1000(www) gid=1000(www) 组=1000(www)
id www

# 挂载 bucket
# Endpoint:请使用内网地址,速度快且流量免费
# -o noxattr:如果你没有使用eCryptFs等需要XATTR的文件系统,可以提升性能
# -o kernel_cache:使用文件系统的 page cache
# -o allow_other:允许其他用户访问挂载文件夹
# -ouid -ogid:制定挂载目录的用户和组权限
ossfs img-bucket /data/htdocs/www/data/attachment -ourl=Endpoint -o noxattr -o kernel_cache -o allow_other -ouid=1000 -ogid=1000
ossfs avatar-bucket /data/htdocs/www/uc_server/data/avatar -ourl=Endpoint -o noxattr -o kernel_cache -o allow_other -ouid=1000 -ogid=1000
  • 复制附件、头像到 bucket
cp -rf /data/attachment/* /data/htdocs/www/data/attachment
cp  -rf /data/avatar/* /data/htdocs/www/uc_server/data/avatar
# 到 oss bucket 文件管理验证数据没有问题后可以删除临时拷贝
rm -rf /data/attachment/
rm -rf /data/avatar/
  • 如何卸载 bucket
# root用户
umount /data/htdocs/www/data/attachment
umount /data/htdocs/www/uc_server/data/avatar
# 非root用户
fusermount -u /data/htdocs/www/data/attachment
fusermount -u /data/htdocs/www/uc_server/data/avatar
  • 开机启动,以 CentOS 7.0 为例,其他系统参考 FAQ
# 根据下面的模板创建启动脚本
vi /etc/init.d/ossfs
# 添加执行权限
chmod a+x /etc/init.d/ossfs
# 设置开机启动
chkconfig ossfs on
#! /bin/bash
#
# ossfs      Automount Aliyun OSS Bucket in the specified direcotry.
#
# chkconfig: 2345 90 10
# description: Activates/Deactivates ossfs configured to start at boot time.

ossfs img-bucket /data/htdocs/www/data/attachment -ourl=Endpoint -o noxattr -o kernel_cache -o allow_other -ouid=1000 -ogid=1000
ossfs avatar-bucket /data/htdocs/www/uc_server/data/avatar -ourl=Endpoint -o noxattr -o kernel_cache -o allow_other -ouid=1000 -ogid=1000

修改论坛附件和头像地址

  • 到论坛后台 -> 全局 -> 上传设置 -> 基本设置 中修改 本地附件 URL 地址

discuz_attachment_url

  • 到论坛后台 -> 站长 -> UCenter 设置 中修改头像调用方式为使用静态地址调用头像

discuz_avatar_url

  • 由于有用户没有上传头像而使用默认头像,到 avatar bucket 的根目录添加3个默认头像文件 noavatar_big.gif、noavatar_middle.gif 和 noavatar_small.gif
  • 修改source/function/function_core.php中头像地址
// 查找下面的代码并修改
// $file = $ucenterurl.'/data/avatar/'.$dir1.'/'.$dir2.'/'.$dir3.'/'.substr($uid, -2).($real ? '_real' : '').'_avatar_'.$size.'.jpg';
// return $returnsrc ? $file : '<img src="'.$file.'" onerror="this.onerror=null;this.src=\''.$ucenterurl.'/images/noavatar_'.$size.'.gif\'" />';
// 使用头像cdn地址
$cdnurl = 'http://avatar.example.com/';
$file = $cdnurl.$dir1.'/'.$dir2.'/'.$dir3.'/'.substr($uid, -2).($real ? '_real' : '').'_avatar_'.$size.'.jpg';
return $returnsrc ? $file : '<img src="'.$file.'" onerror="this.onerror=null;this.src=\''.$cdnurl.'noavatar_'.$size.'.gif\'" />';
  • 修改uc_server/avatar.php中头像重定向地址
$avatar = './data/avatar/'.get_avatar($uid, $size, $type);
if(file_exists(dirname(__FILE__).'/'.$avatar)) {
    if($check) {
        echo 1;
        exit;
    }
    $random = !empty($random) ? rand(1000, 9999) : '';
  // rewrite avatar url
  $avatar = 'http://avatar.example.com/'.substr($avatar, 14);
  $avatar_url = empty($random) ? $avatar : $avatar.'?random='.$random;
} else {
    if($check) {
        echo 0;
        exit;
    }
    $size = in_array($size, array('big', 'middle', 'small')) ? $size : 'middle';
  // $avatar_url = 'images/noavatar_'.$size.'.gif';
  // rewrite avatar url
  $avatar_url = 'http://avatar.example.com/noavatar_'.$size.'.gif';
}

if(empty($random)) {
    header("HTTP/1.1 301 Moved Permanently");
    header("Last-Modified:".date('r'));
    header("Expires: ".date('r', time() + 86400));
}

// header('Location: '.UC_API.'/'.$avatar_url);
header('Location: '.$avatar_url);

论坛 JS、CSS、样式图片等资源接入 CDN

  • CDN 域名管理中添加域名 static.example.com
  • 回源设置中源站信息类型选择IP,并填写源站地址IP为论坛外网 ip,端口 80
  • 其他缓存和 HTTP 头设置参考上面 OSS Bucket 的 CDN 设置
  • 添加论坛 Nginx 的 vhost 配置,如果是其他 web server 请参考添加
server
{
    listen    80;
    server_name static.example.com;

    index index.html index.htm;
    root  /data/htdocs/www;
    # error_page  404 = /topic-1.html;
    expires max;

    location ~ /\.git
    {
        return 404;
    }

    location ~ ^/.*\.(php|php5)$
    {
        deny all;
    }
    
    access_log  off;
}
    • 到论坛后台 -> 全局 -> 性能优化 -> 服务器优化 中修改 JS 文件 URLCSS 文件 URL自定义 URL 并填写 CDN 地址 http://static.example.com/data/cache/

discuz_static_url

小云 APP 缩略图接入 CDN

  • 如果论坛使用小云 APP 开发了客户端程序,且开启了生成缩略图功能,同样可以参照上面附件、头像的方式接入 OSS 和 CDN
  • 创建 thumb bucket 并开启 CDN 加速域名 thumb.example.com
  • 用 ossfs 将 /data/htdocs/www/data/appbyme/thumb 目录挂载到 thumb bucket,并将已有缩略图拷贝进去
  • 复制一份 /data/htdocs/www/mobcent/app/config/mobcent.php/data/htdocs/www/mobcent/app/config/my_mobcent.php
  • 修改 my_mobcent.phpcdndomain 的值为 thumb.example.com
  • 修改 /data/htdocs/www/mobcent/app/components/web/ImageUtils.php 中缩略图地址
private static function _getThumbUrlFile($image, $thumb) {
    //支持自定义CDN域名
    $cacheurl = Yii::app()->params['mobcent']['cache']['cdndomain'];
    if(empty($cacheurl)){
        $cacheurl = Yii::app()->getController()->dzRootUrl;
    }
    // return sprintf('%s/%s/%s/%s_%s', 
    //     $cacheurl,
    //     MOBCENT_THUMB_URL_PATH,
    //     self::_getThumbTempPath($image),
    //     (isset($_GET['sdkVersion']) && $_GET['sdkVersion'] > '1.0.0') ? 'xgsize' : 'mobcentSmallPreview',
    //     $thumb
    // );
    // 修改缩略图地址
    return sprintf('%s/%s/%s_%s', 
        $cacheurl,
        self::_getThumbTempPath($image),
        (isset($_GET['sdkVersion']) && $_GET['sdkVersion'] > '1.0.0') ? 'xgsize' : 'mobcentSmallPreview',
        $thumb
    );
}

后记

  • 至此,Discuz 论坛全站资源、附件、头像都接入了 OSS 和 CDN,将降低论坛主服务器 http 请求量压力并提高页面打开速度
  • 除了本文使用的 ossfs 方案将附件接入 OSS,还有一些其他方案将附件接入 OSS 或 CDN;比如最简单的 CDN 回源方式将附件接入 CDN;还可以通过 [ossftp](https://help.aliyun.com/document_detail/32190.html?spm=a2c4g.11186623.6.1061.3oclSk
    ) 工具绑定 OSS,然后开启论坛远程附件方式来将附件接入 OSS 和 CDN;但是这些方案都没有本文的方案更具有通用性和易用性

参考

网友评论

登录后评论
0/500
评论
sage6437
+ 关注