FastDFS安装和简介详细总结

博客 分享
0 218
张三
张三 2022-02-27 17:55:53
悬赏:0 积分 收藏
FastDFS安装和简介详细总结

1、fastDFS简介

1 FastDFS是用c语言编写的一款开源的分布式文件系统。2 FastDFS为互联网量身定制,充分考虑了冗余备份、负载均衡、线性扩容等机制,并注重高可用、高性能等指标,3 使用FastDFS很容易搭建一套高性能的文件服务器集群提供文件上传、下载等服务。

2、fastDFS架构

1 FastDFS架构包括 Tracker server和Storage server。2     客户端请求Tracker server进行文件上传、下载,通过Tracker server调度最终由Storage server完成文件上传和下载。3     Tracker server作用是负载均衡和调度,4         通过Tracker server在文件上传时可以根据一些策略找到Storage server提供文件上传服务。5         可以将tracker称为追踪服务器或调度服务器。6     Storage server作用是文件存储,7         客户端上传的文件最终存储在Storage服务器上,8         Storage server没有实现自己的文件系统而是利用操作系统 的文件系统来管理文件。9         可以将storage称为存储服务器。

如下图:

3、Tracker 集群

1 FastDFS集群中的Tracker server可以有多台,Tracker server之间是相互平等关系同时提供服务,2 Tracker server不存在单点故障。3 客户端请求Tracker server采用轮询方式,如果请求的tracker无法提供服务则换另一个tracker。

4、Storage集群

 1 Storage集群采用了分组存储方式。 2 storage集群由一个或多个组构成,集群存储总容量为集群中所有组的存储容量之和。 3 一个组由一台或多台存储服务器组成,组内的Storage server之间是平等关系, 4 不同组的Storage server之间不会相互通信,同组内的Storage server之间会相互连接进行文件同步, 5 从而保证同组内每个storage上的文件完全一致的。 6 一个组的存储容量为该组内存储服务器容量最小的那个,由此可见组内存储服务器的软硬件配置最好是一致的。 7 采用分组存储方式的好处是灵活、可控性较强。 8 比如上传文件时,可以由客户端直接指定上传到的组也可以由tracker进行调度选择。 9 一个分组的存储服务器访问压力较大时,可以在该组增加存储服务器来扩充服务能力(纵向扩容)。10 当系统容量不足时,可以增加组来扩充存储容量(横向扩容)

5、Storage状态收集

1 Storage server会连接集群中所有的Tracker server,定时向他们报告自己的状态,2 包括磁盘剩余空间、文件同步状况、文件上传下载次数等统计信息。

6、文件上传流程

1 客户端上传文件后存储服务器将文件ID返回给客户端,2 此文件ID用于以后访问该文件的索引信息。3 文件索引信息包括:组名,虚拟磁盘路径,数据两级目录,文件名。

 1  组名: 2     文件上传后所在的storage组名称,在文件上传成功后有storage服务器返回,需要客户端自行保存。  3 虚拟磁盘路径: 4     storage配置的虚拟路径,与磁盘选项store_path*对应。 5     如果配置了store_path0则是M00,如果配置了store_path1则是M01,以此类推。 6 数据两级目录: 7     storage服务器在每个虚拟磁盘路径下创建的两级目录,用于存储数据文件。 8 文件名: 9     与文件上传时不同。10     是由存储服务器根据特定信息生成,11     文件名包含:源存储服务器IP地址、文件创建时间戳、文件大小、随机数和文件拓展名等信息。

7、项目架构图

8、安装FastDFS(需要一天的时间)

1 安装fastDFS之前需要依赖环境:2 FastDFS使用c语言开发,需要使用gcc编译,需要安装gcc。3 需要安装fastdfs依赖类库:libevent

8.1、安装fastDFS依赖环境

8.1.1、安装gcc

命令:命令:yum -y install gcc

8.1.2、安装libevent

命令:yum –y install libevent libevent-devel

8.1.3、安装libfastcommon依赖环境
 1 第一步:导入libfastcommon到usr/local/Hadoop/libfastcommonV1.0.7.tar.gz 2     使用rz命令导入 3 第二步:解压 4     tar -zxvf libfastcommonV1.0.7.tar.gz 5 第三步:编译 6     命令:./make.sh 7 第四步:安装 8     命令:./make.sh install 9 第五步:拷贝usr/lib64目录下:libfastcommon.so文件到usr/lib下10     拷贝命令:cp usr/lib64/ libfastcommon.so /usr/lib11     注意:12         libfastcommon安装好后会自动将库文件拷贝至/usr/lib64下,13         由于FastDFS程序引用usr/lib目录所以需要将/usr/lib64下的库文件拷贝至/usr/lib下。

要拷贝的文件如下:

 

 

 ****************************************************手动安装fastDFS*************************START******************************

8.2、安装fastDFS

 1 第一步:导入fastDFS安装包 2     使用rz命令导入 3  4 第二步:解压 5     tar -zxvf FastDFS_v5.05.tar.gz 6  7 第三步:编译安装 8     编译命令:./make.sh 9     安装命令:./make.sh install10 11 第四步:拷贝FastDFS/conf下面所有配置文件到etc/fdfs/12     拷贝命令:[root@localhost conf]# cp * /etc/fdfs/13 14     [root@localhost fdfs]# ll15     total 10416     -rw-r--r--. 1 root root 23981 May 13 18:34 anti-steal.jpg17     -rw-r--r--. 1 root root  1461 May 13 18:34 client.conf18     -rw-r--r--. 1 root root   858 May 13 18:34 http.conf19     -rw-r--r--. 1 root root 31172 May 13 18:34 mime.types20     -rw-r--r--. 1 root root  7829 May 13 18:34 storage.conf21     -rw-r--r--. 1 root root  7829 May 13 18:31 storage.conf.sample22     -rw-r--r--. 1 root root   105 May 13 18:34 storage_ids.conf23     -rw-r--r--. 1 root root  7102 May 13 18:34 tracker.conf24     -rw-r--r--. 1 root root  7102 May 13 18:31 tracker.conf.sample

8.3、安装tracker

 1 安装tracker,由于tracker运行程序就是fasfdfs,fastDFS安装成功,只需要修改etc/fdfs/tracker.conf配置文件即可。 2  3 第一步:修改base_path存储基本路径 4     base_path=/home/fastdfs //fastdfs需要手动创建,fastdfs在home目录下 5  6 第二步:修改存在组 7     store_group=group1 8      9 第三步:在home目录下创建fastdfs10     创建命令:mkdir fastdfs11     12 第三步:测试启动tracker13     测试是否安装成功14     运行命令:/usr/bin/fdfs_trackerd /etc/fdfs/tracker.conf restart15     16     drwx------. 4 mine   mine   4096 May  5 02:22 mine17     [root@localhost home]# /usr/bin/fdfs_trackerd /etc/fdfs/tracker.conf18     [root@localhost home]# /usr/bin/fdfs_trackerd /etc/fdfs/tracker.conf restart19     waiting for pid [9077] exit ...20     starting ...

8.4、安装storage

 1 由于storage和tracker运行的都是fastDFS程序, 2 每一台服务器都部署一台fasfDFS, 3 一台服务器是tracker,一台是storage。 4 此机器:tracker和fastDFS都是使用同一个程序。只需要配置storage配置文件即可。 5  6 配置storage.conf 7     第一步:配置组名 8         group_name=group1 //必须和tracker的组名相同。 9         10     第二步:配置基本存储路径base_path11         base_path=/home/fastdfs12     13     第三步:配置文件存储路径14         store_path0=/home/fastdfs/storage_path //storage_path需要手动创建15         #store_path1=/home/yuqing/fastdfs216         如果有多个存储路径,就可以依次往下顺延。17         18     第四步:创建文件存储路径storage_path19         /home/fastdfs此目录下面创建20         命令:mkdir storage_path21         22         [root@localhost fastdfs]# mkdir storage_path23         [root@localhost fastdfs]# ll24         total 1225         drwxr-xr-x. 2 root root 4096 May 13 18:45 data26         drwxr-xr-x. 2 root root 4096 May 13 18:43 logs27         drwxr-xr-x. 2 root root 4096 May 13 18:54 storage_path28     29     第五步:修改连接tracker服务器地址30         tracker_server=192.168.66.66:2212231         32     第六步:启动storage测试33         启动命令:34         [root@localhost fdfs]# /usr/bin/fdfs_storaged /etc/fdfs/storage.conf35         [root@localhost fdfs]# /usr/bin/fdfs_storaged /etc/fdfs/storage.conf restart36         waiting for pid [9132] exit ...37         starting ...

8.5、测试图片上传

 1 Tracker和storage都已经安装完成,使用命令测试文件上传: 2 FastDFS提供一个文件上传命令:usr/bin/fdfs_test 测试文件上传 3 测试上传需要连接tracker服务器,连接storage服务器。 4 因此需要指定一个配置文件:client.conf配置文件,通过Client.conf连接tracker服务器。 5  6 第一步:修改Client.conf 7     # the base path to store log files 8     base_path=/home/fastdfs 9 10     # tracker_server can ocur more than once, and tracker_server format is11     #  "host:port", host can be hostname or ip address12     tracker_server=192.168.66.66:2212213 14 第二步:测试命令:15     在 /etc/fdfs 目录下执行下面的测试命令:16     /usr/bin/fdfs_test client.conf upload anti-steal.jpg17     18     解析:19         使用测试程序fdfs_test 的命令 upload命令上传anti-steal.jpg图片。20     * example file url: http://192.168.66.66/group1/M00/00/00/wKhCQlc1uJOAYKOhAABdrZgsqUU338_big.jpg21     * storage_upload_slave_by_filename22     * group_name=group1, remote_filename=M00/00/00/wKhCQlc1uJOAYKOhAABdrZgsqUU338_big.jpg23     * source ip address: 192.168.66.6624     * file timestamp=2016-05-13 19:20:5125     * file size=2398126     * file crc32=255306374927     * example file url: http://192.168.66.66/group1/M00/00/00/wKhCQlc1uJOAYKOhAABdrZgsqUU338_big.jpg28 29 思考:30     图片已经上传成功,返回图片地址?浏览器是否能访问?31     浏览器访问任何资源都必须遵循http协议。32     Nginx作为http服务器,通过nginx访问分布式图片服务器。33     34 也就是说:nginx访问fastDFS。需要nginx和FASTDFS整合。

9、整合nginx和FASTDFS

FastDFS-nginx-module整合nginx和fastDFS

9.1、安装FastDFS-nginx-module

1 第一步:导入FastDFS-nginx-module到usr/local/Hadoop2     fastdfs-nginx-module_v1.16.tar.gz3 第二步:解压fastdfs-nginx-module_v1.16.tar.gz4     命令:tar –zxvf fastdfs-nginx-module_v1.16.tar.gz5 第三步:修改/home/canglang/fasfDFS-common/fastdfs-nginx-module/src/Config6     修改路径

 1  注意: 2     去掉错误路径,usr/local/include改为usr/include 3          4 第四步:拷贝fastdfs-nginx-module/src/mod_fastdfs.conf到etc/fdfs 5     在/home/canglang/fasfDFS-common/fastdfs-nginx-module/src目录下执行 6     cp mod_fastdfs.conf /etc/fdfs/ 7      8 第五步:修改mod_fastdfs.conf 9     * base_path=/home/fastdfs/storage_path //此处必须是存储路径10     * tracker_server=192.168.66.66:2212211     * group_name=group1 //和前面配置组名保持一致12     * store_path0=/home/fastdfs/storage_path //M0013     * url_have_group_name = true //允许使用组名14     15 第六步:拷贝usr/lib64目录下库文件libfdfsclient.so16     拷贝usr/lib64/libfdfsclient.so 库文件 到 usr/lib目录下。17     拷贝命令:cp /usr/lib64/libfdfsclient.so /usr/lib

9.2、整合

 1 需要把module添加nginx中。通过设置安装参数方式添加模块。 2 首先在var目录下创建temp目录,在temp目录下创建nginx目录 3 参数设置:在nginx的解压目录下执行 4     ./configure \ 5     --prefix=/home/canglang/nginx/nginx-install \ 6     --pid-path=/var/run/nginx/nginx.pid \ 7     --lock-path=/var/lock/nginx.lock \ 8     --error-log-path=/var/log/nginx/error.log \ 9     --http-log-path=/var/log/nginx/access.log \10     --with-http_gzip_static_module \11     --http-client-body-temp-path=/var/temp/nginx/client \12     --http-proxy-temp-path=/var/temp/nginx/proxy \13     --http-fastcgi-temp-path=/var/temp/nginx/fastcgi \14     --http-uwsgi-temp-path=/var/temp/nginx/uwsgi \15     --http-scgi-temp-path=/var/temp/nginx/scgi \16     --add-module=/home/canglang/fastdfs-nginx-module/src17 18 需要从新编译安装:19     在nginx的解压目录下执行20     Make 21     Make install22     23 修改nginx配置文件nginx.conf配置文件:24     http {25         include       mime.types;26         default_type  application/octet-stream;  27         sendfile        on;28         keepalive_timeout  65;29         server {30             listen       80;31             server_name  192.168.66.66;32             location /group1/M00/ {33                 #root   html;34                 #index  index.html index.htm;35                 ngx_fastdfs_module;36             }37             error_page   500 502 503 504  /50x.html;38             location = /50x.html {39                 root   html;40             }41         }42     }

9.3、重启服务

1 fastDFS:2 /usr/bin/fdfs_trackerd /etc/fdfs/tracker.conf restart3 /usr/bin/fdfs_storaged /etc/fdfs/storage.conf restart4 nginx:5 cd /home/canglang/nginx/nginx-install/sbin/6 ./nginx start7 关闭防火墙 

****************************************************手动安装fastDFS*************************END******************************

 

10、图片服务器(使用安装版本)

 1 直接在虚拟机中导入即可 2 选择:I moved it –不需要进行设置,使用原来mac地址。 3 选择:I copy it --? 生成新MAC地址。生成新的网卡eth1 4     需要eth1网卡修改为eth0网卡: 5     修改:/etc/udev/rules.d/70-persistent-net.rules 6     打开:上面配置文件,发现有2个网卡; 7     #SUBSYSTEM=="net", ACTION=="add", DRIVERS=="?*", ATTR{address}=="00:0c:29:b5:e3:64", ATTR{type}=="1", KERNEL=="eth*", NAME="eth0" 8     SUBSYSTEM=="net", ACTION=="add", DRIVERS=="?*", ATTR{address}=="00:0c:29:b5:e3:66", ATTR{type}=="1", KERNEL=="eth*", NAME="eth0" 9 修改网卡配置:10     vim /etc/sysconfig/network-scripts/ifcfg-eth011     DEVICE=eth012     TYPE=Ethernet13     *UUID=bb6c530a-6983-4a14-9883-7f077f2172bc //删除14     ONBOOT=no15     NM_CONTROLLED=yes16     BOOTPROTO=none17     *HWADDR=00:0c:29:b5:e3:6618     IPADDR=192.168.66.6619     PREFIX=2420     GATEWAY=192.168.66.221     DEFROUTE=yes22     IPV4_FAILURE_FATAL=yes23     IPV6INIT=no24     NAME="System eth0"25     DNS1=219.141.140.10

11、设置

11.1、设置桌面启动

1 第一次导入是以黑窗口的方式启动的2     用户名:root3     密码:itcast4 cd /etc5 vim inittab6 将最下面的一行中的3改成5,保存7 reboot重启

11.2、设置网络

1 右上角 小电脑图标--右键--设置网络即可

11.3、设置连接fastdfs是ip

 1 fastDFS安装完成后会在/etc/fdfs下生成配置文件 2  3 anti-steal.jpg 4 client.conf ---客户端的配置文件 5 client.conf.sample 6 http.conf 7 mime.types 8 mod_fastdfs.conf ---nginx访问fastDFS的配置文件 9 storage.conf ---存储的配置文件10 storage.conf.sample11 storage_ids.conf12 tracker.conf ---调度者的配置文件13 tracker.conf.sample

11.4、修改ip

1 storage.conf2 mod_fastdfs.conf3 client.conf4 这三个文件中都需要修改ip5 tracker_server=192.168.254.67:22122

11.5、查找图片存储路径

1 storage.conf配置文件中store_path0=/home/fastdfs/store_path02 这是路径:/home/fastdfs/store_path0/data/00/00

11.6、重启

1 fastdfs安装完成后会在/usr/bin目录下生成一个启动命令2 启动:3     /usr/bin/fdfs_trackerd /etc/fdfs/tracker.conf restart4     执行/usr/bin/目录下的fdfs_trackerd启动命令,加载/etc/fdfs/下面的tracker.conf配置文件5     6     /usr/bin/fdfs_storaged /etc/fdfs/storage.conf restart7     执行/usr/bin/目录下的fdfs_storaged情动命令,加载/etc/fdfs/下面的storage.conf配置文件

12、测试图片上传

12.1、上传

1 cd /etc/fdfs/2 /usr/bin/fdfs_test client.conf upload anti-steal.jpg3 执行/usr/bin/目录下的fdfs_test测试命令,加载client.conf配置文件,upload  图片名称

12.2、访问

12.3、查看图片上传到路径

1 cd /home/fastdfs/store_path0/data/00/00

13、设置开机自动启动

 

更换电脑后切换fastDFS中配置的ip

 1 图片测试上传和配置文件的路径:/etc/fdfs 2     storage.conf     tracker_server=192.168.66.66:22122 3     client.conf     tracker_server=192.168.66.66:22122 4  5 重启服务: 6     /usr/bin/fdfs_trackerd /etc/fdfs/tracker.conf restart 7     /usr/bin/fdfs_storaged /etc/fdfs/storage.conf restart 8  9 测试图片上传:10     在 /etc/fdfs 目录下执行下面的测试命令:    /usr/bin/fdfs_test client.conf upload anti-steal.jpg11     会返回一个全路径: http://192.168.174.129/group1/M00/00/00/wKiugVtAcVCAIZxsAABdrZgsqUU567_big.jpg12 13 14 整合nginx后 15     修改/etc/fdfs   mod_fastdfs.conf    tracker_server=192.168.66.66:2212216     修改nginx.con配置文件中的服务ip17 18 启动nginx:19     /home/canglang/nginx/nginx-install/sbin20     ./nginx21 22 访问:http://192.168.174.129/group1/M00/00/00/wKiugVtAcVCAIZxsAABdrZgsqUU567_big.jpg
1 nginx启动时报这个错:2     [canglang@localhost sbin]$ sudo ./nginx3     ngx_http_fastdfs_set pid=28074     [canglang@localhost sbin]$ nginx: [emerg] open() "/var/run/nginx/nginx.pid" failed (2: No such file or directory)5 解决方案:6     修改/conf/nginx.conf配置文件7     将#pid logs/nginx.conf的注释放开8     修改成自己定的路径就行

 

posted on 2022-02-27 16:53 JimmyThomas 阅读(4) 评论(0) 编辑 收藏 举报
回帖
    张三

    张三 (王者 段位)

    821 积分 (2)粉丝 (41)源码

     

    温馨提示

    亦奇源码

    最新会员