Distributed File System(簇文件系統(tǒng))

bg7nyt

Distributed File System(簇文件系統(tǒng))

我吧分布式文件系統(tǒng)分為三類，聚合文件系統(tǒng)，全局文件系統(tǒng)，負(fù)載均衡文件系統(tǒng)。除了gfs其他文件系統(tǒng)都是建立在本地文件系統(tǒng)之上的網(wǎng)絡(luò)文件系統(tǒng)。

幾乎所有DFS都能通過(guò)fuse mount 到本地，但有些DFS mount 后性能不佳。

3.1. 聚合文件系統(tǒng)

以NFS, glusterfs 為代表，其特點(diǎn)是server獨(dú)立運(yùn)行，Server與Server間沒(méi)有通信，然后訪問(wèn)者將其聚合組織并規(guī)劃目錄，為client提供數(shù)據(jù)共享。

glusterfs 可以實(shí)現(xiàn)Mirror與Strip等更復(fù)雜的組合，但全由client完成，server之間沒(méi)有交互。
               

+-------------------------+        +-----------------------+
| Client                  |       /| Images Data           |
+-------------------------+      / +-----------------------+
| /mnt                    |     /  +-----------------------+     +--------------------+
| /mnt/images             |<----  /| Include Data          |     | Design by neo chen |
| /mnt/include            |<------ +-----------------------+     +--------------------+
| /mnt/lib                | ...    netkiller.github.com
| /mnt/data               | ...    +-----------------------+
| /mnt/data/backup        |<-------| Backup Data           |
+-------------------------+        +-----------------------+

               
               
3.2. 全局文件系統(tǒng)

如 gfs，它可以提供server間文件系統(tǒng)協(xié)商，同步元數(shù)據(jù)等等。常規(guī)文件系統(tǒng)只能用于本地硬盤(pán)，如果兩個(gè)服務(wù)器同時(shí)mount iscsi存儲(chǔ)，會(huì)出現(xiàn)A服務(wù)器寫(xiě)入后，B服務(wù)器無(wú)法看到A剛剛寫(xiě)入的數(shù)據(jù)，如果兩臺(tái)同時(shí)寫(xiě)入數(shù)據(jù)，會(huì)損壞文件系統(tǒng)。

               
               
                    +--------------------------------+
                    | Server Load Balancing          |
                    +--------------------------------+
                                    |
                                    V
--------------------- 1Gbps Ethernet ---------------------
            |                                |
            |        netkiller.sf.net        |
            V                                V
+------------------------+        +-----------------------+
| Server Master          |        | Server Master / Slave |
+------------------------+        +-----------------------+
| /u01                   |        | /u01                  |     +--------------------+
| /u02                   |        | /u02                  |     | Design by neo chen |
| /u03                   |        | /u03                  |     +--------------------+
+------------------------+        +-----------------------+
          |   |                             |   |
          V   V                             V   V
--------------------- 10Gbps Ethernet ---------------------
                           |  |
                           V  V
              +----------------------------+
              | IP SAN - ISCSI target      |
              +----------------------------+
              | LUN0 | LUN1 | LUN2 | ...   |
              +----------------------------+

               
               
3.3. 負(fù)載均衡文件系統(tǒng)

這種文件系統(tǒng)通常至少有三部分組成，存儲(chǔ)節(jié)點(diǎn)，訪問(wèn)節(jié)點(diǎn)，管理節(jié)點(diǎn)。不同的系統(tǒng)叫法不同，但其原理相同。

存儲(chǔ)節(jié)點(diǎn),負(fù)責(zé)數(shù)據(jù)存儲(chǔ)，數(shù)據(jù)通過(guò)hash散列

訪問(wèn)節(jié)點(diǎn)，用戶通過(guò)該節(jié)點(diǎn)訪問(wèn)數(shù)據(jù)，做數(shù)據(jù)上傳下載。訪問(wèn)方式分為點(diǎn)對(duì)點(diǎn)與三角方式

管理節(jié)點(diǎn)，服務(wù)數(shù)據(jù)Mirror,Strip等，元數(shù)據(jù)同步等等...

點(diǎn)到點(diǎn)系統(tǒng)只提供一個(gè)訪問(wèn)入口，如：MooseFS

               
          +--------------------------------+
          | User                           |
          +--------------------------------+
          | mount ip_address => /mnt/test  |
          +--------------------------------+
                          |
                          V
------------------ 1Gbps Ethernet ---------------------
         |                                   |
         V                                   V
+-------------------------+       +----------------------+
| Manager Node            |       | Access node          |
+-------------------------+       +----------------------+
| Mirror | Strip |  ...   |       | Index                |
+-------------------------+       +----------------------+
                 |
                 V
--------------------- 1Gbps Ethernet ---------------------
         |                                     |
         |            netkiller.sf.net         |
         V                                     V
+---------------------+              +--------------------+
| Data Node           |              | Date Node          |
+---------------------+              +--------------------+
| 01 02 03 ...    10  |              | 01 02 03 ...    10 |     +--------------------+
| 0A 0B 0C ...    0F  |<-- Mirror -->| 0A 0B 0C ...    0F |     | Design by neo chen |
| FA FB FC ...    FF  |              | FA FB FC ...    FF |     +--------------------+
+---------------------+              +--------------------+

               
               
三角鏈路
       
               

          +--------------------------------+
          | Server Load Balancing          |
          +--------------------------------+
                          |
                          V
------------------ 1Gbps Ethernet ----------------------------------
         |                               |                  |
         V                               V                  V
+-------------------------+       +-------------+    +-------------+
| Manager Node            |       | Access Node |    | Access Node |
+-------------------------+       +-------------+    +-------------+
| Mirror | Strip |  ...   |       | Index       |    | Index       |
+-------------------------+       +-------------+    +-------------+
                 |
                 V
--------------------- 1Gbps Ethernet ---------------------
         |                                     |
         |            netkiller.sf.net         |
         V                                     V
+---------------------+              +--------------------+
| Data Node           |              | Date Node          |
+---------------------+              +--------------------+
| 01 02 03 ...    10  |              | 01 02 03 ...    10 |     +--------------------+
| 0A 0B 0C ...    0F  |<-- Mirror -->| 0A 0B 0C ...    0F |     | Design by neo chen |
| FA FB FC ...    FF  |              | FA FB FC ...    FF |     +--------------------+
+---------------------+              +--------------------+

               
               
這種文件系統(tǒng)的特點(diǎn)是，當(dāng)用戶訪問(wèn)文件系統(tǒng)時(shí)，首先訪問(wèn)管理節(jié)點(diǎn)，管理節(jié)點(diǎn)會(huì)返回一個(gè)數(shù)據(jù)地址，用戶再?gòu)脑L問(wèn)節(jié)點(diǎn)的地址取得數(shù)據(jù)。

以MogileFS為代表

某些系統(tǒng)甚至直接使用反向代理或者WEB服務(wù)器作為訪問(wèn)節(jié)點(diǎn)。這種系統(tǒng)非常適合多媒體數(shù)據(jù)存儲(chǔ)。通過(guò)負(fù)載均衡可能實(shí)現(xiàn)橫向與縱向靈活擴(kuò)展

bg7nyt

排版亂了。。
來(lái)這里

http://netkiller.github.com/architect/architecture/dfs.html