當(dāng)我們使用網(wǎng)易網(wǎng)盤(pán)存儲(chǔ)照片的時(shí)候，當(dāng)我們使用蘋(píng)果的iCloud同步音樂(lè)的時(shí)候，當(dāng)我們使用小米的云服務(wù)在線管理和存儲(chǔ)聯(lián)系人、短信、照片、便簽等各種數(shù)據(jù)的時(shí)候，云存儲(chǔ)已經(jīng)在不知不覺(jué)中完全走進(jìn)了我們的生活里。只是我們?cè)谙硎苓@光鮮流暢的服務(wù)背后，是否了解這背后到底需要怎樣的技術(shù)支撐呢？存儲(chǔ)系統(tǒng)，尤其是對(duì)象存儲(chǔ)系統(tǒng)，在處理大量圖片和視頻的時(shí)候，都不可避免的會(huì)面臨著大流量和高并發(fā)帶來(lái)的壓力。網(wǎng)易對(duì)象云存儲(chǔ)NOS這個(gè)新生兒，從無(wú)到有歷經(jīng)兩年時(shí)間里，在易信、云音樂(lè)、云閱讀、公開(kāi)課、有道云筆記等30多個(gè)重量級(jí)產(chǎn)品中大展拳腳。到底它有哪些魅力呢？本期名人堂我們邀請(qǐng)到了2014中國(guó)系統(tǒng)架構(gòu)師大會(huì)嘉賓來(lái)東敏老師坐鎮(zhèn)，聊聊云存儲(chǔ)那些事兒。
PS：2014中國(guó)系統(tǒng)架構(gòu)師大會(huì)即將于9月17-19日在北京盛大開(kāi)幕，本屆大會(huì)以“發(fā)現(xiàn)架構(gòu)之美”為主題，匯聚了國(guó)內(nèi)最牛的IT架構(gòu)師，為大家分享IT行業(yè)前瞻與架構(gòu)最佳實(shí)踐。屆時(shí)，來(lái)東敏老師將為大家分享主題為“NOS(網(wǎng)易對(duì)象云存儲(chǔ))關(guān)鍵技術(shù)解析”的精彩演講，歡迎大家報(bào)名，官網(wǎng)地址：http://sacc.it168.com/ 本期活動(dòng)誠(chéng)邀云存儲(chǔ)專(zhuān)家坐鎮(zhèn)，與各位網(wǎng)友傾心交談，請(qǐng)大家抓緊時(shí)間提問(wèn)吧，說(shuō)出自己心中的疑惑！截止8月15日，我們將在ITPUB社區(qū)和ChinaUnix社區(qū)評(píng)選5名活躍會(huì)員，贈(zèng)送圖書(shū)1本，并贈(zèng)送大會(huì)徽章一枚，歡迎大家積極探討！
皮皮（Q1）：很高興有機(jī)會(huì)采訪到您，能否介紹下自己，分享下您的職場(chǎng)經(jīng)歷？作為一名系統(tǒng)架構(gòu)師，您覺(jué)得日常工作中會(huì)遇到哪些挑戰(zhàn)？
來(lái)東敏（A1）：大家好，我的職場(chǎng)經(jīng)歷比較簡(jiǎn)單，2010年中科院計(jì)算所畢業(yè)后，一直在網(wǎng)易杭州研究院從事研發(fā)工作，重點(diǎn)負(fù)責(zé)分布式文件系統(tǒng)、對(duì)象存儲(chǔ)系統(tǒng)、高性能服務(wù)器等技術(shù)領(lǐng)域。這份工作天時(shí)地利人和，公司離我家不到10公里，我覺(jué)得非常理想。架構(gòu)師行業(yè)高深莫測(cè)，正所謂師傅領(lǐng)進(jìn)門(mén)修行在個(gè)人，或多或少在工作中總會(huì)遇到這樣或那樣的挑戰(zhàn)，前車(chē)之師后車(chē)之鑒，我希望通過(guò)自己的總結(jié)給大家傳遞一點(diǎn)正能量：
1.要想設(shè)計(jì)出一個(gè)優(yōu)秀的架構(gòu)，無(wú)論是在技術(shù)的廣度上還是在領(lǐng)域經(jīng)驗(yàn)的深度上，都需要日積月累，不斷學(xué)習(xí)沉淀；
2.構(gòu)架師一定要**細(xì)節(jié)，站在開(kāi)發(fā)、測(cè)試、運(yùn)維等角度來(lái)審視設(shè)計(jì)，忽略細(xì)節(jié)的后果很?chē)?yán)重，有時(shí)候可能會(huì)為了一個(gè)小小的技術(shù)點(diǎn)對(duì)方案做全盤(pán)調(diào)整；
3.架構(gòu)設(shè)計(jì)要有全局發(fā)展性的眼光，高瞻遠(yuǎn)矚，通過(guò)審視過(guò)去預(yù)測(cè)未來(lái)，尋求一種折衷平衡之道，制定最優(yōu)方案；
4.架構(gòu)師需要理性冷靜的分析思維，定性和定量分析要有機(jī)結(jié)合，開(kāi)源或者自建系統(tǒng)都要掌控到位；
5.架構(gòu)師要負(fù)擔(dān)起一種強(qiáng)烈的責(zé)任感，作為最熟悉系統(tǒng)的那個(gè)人，需要耳聽(tīng)八方，選擇性地吸收外部建議（尤其是領(lǐng)導(dǎo)的建議）；
6.架構(gòu)師還要對(duì)自己所處的環(huán)境有個(gè)清晰的認(rèn)識(shí)，合理利用基礎(chǔ)設(shè)施，不要做超出團(tuán)隊(duì)駕馭能力的設(shè)計(jì)
目前來(lái)講，我的大部分時(shí)間都花在了程序設(shè)計(jì)代碼這塊，希望能在通往成熟的架構(gòu)師之路上,有機(jī)會(huì)與大家一起探討架構(gòu)的藝術(shù)。
皮皮（Q2）：談到存儲(chǔ)，規(guī)模稍大的企業(yè)通常都會(huì)用到3種存儲(chǔ)，對(duì)象存儲(chǔ)、文件存儲(chǔ)、塊設(shè)備存儲(chǔ)，到底是選擇采用3個(gè)軟件來(lái)實(shí)現(xiàn)3種存儲(chǔ)，還是用一個(gè)軟件來(lái)實(shí)現(xiàn)3個(gè)功能？
來(lái)東敏（A2）：在云計(jì)算領(lǐng)域，這三種存儲(chǔ)類(lèi)型有各自的特點(diǎn)和應(yīng)用場(chǎng)景：文件存儲(chǔ)是大家使用最廣泛的，但存在海量存儲(chǔ)擴(kuò)展性以及存取性能方面的問(wèn)題；對(duì)象存儲(chǔ)弱化了POSIX文件系統(tǒng)接口，通過(guò)對(duì)象這一基本概念進(jìn)行數(shù)據(jù)存取，特別適合存儲(chǔ)海量非結(jié)構(gòu)化數(shù)據(jù)；塊設(shè)備存儲(chǔ)則主要體現(xiàn)在彈性上，就像是一塊可擴(kuò)展的虛擬硬盤(pán)，可以插拔、掛載到任意云主機(jī)上。目前國(guó)內(nèi)公有云對(duì)象存儲(chǔ)做得比較火熱，而彈性塊設(shè)備存儲(chǔ)發(fā)展相對(duì)不是特別快，但是隨著云計(jì)算深入，彈性塊設(shè)備存儲(chǔ)的優(yōu)勢(shì)會(huì)逐漸體現(xiàn)出來(lái)。網(wǎng)易云實(shí)現(xiàn)的彈性塊設(shè)備存儲(chǔ)（NBS）具有高可用、高可靠、高性能、簡(jiǎn)單易用等特點(diǎn)，已經(jīng)在內(nèi)部廣泛使用，取得了良好的應(yīng)用效果。
在同一套系統(tǒng)中統(tǒng)一實(shí)現(xiàn)三種存儲(chǔ)類(lèi)型的最大優(yōu)點(diǎn)是存儲(chǔ)資源的整合，但是為了降低系統(tǒng)構(gòu)建的復(fù)雜性，通常會(huì)采用分層實(shí)現(xiàn)。其實(shí)Ceph就實(shí)現(xiàn)了統(tǒng)一存儲(chǔ)，其底層是RADOS對(duì)象存儲(chǔ)，作為整個(gè)集群存儲(chǔ)服務(wù)的基礎(chǔ)。上層實(shí)現(xiàn)RADOSGW、CephFS、RBD提供對(duì)象存儲(chǔ)、文件存儲(chǔ)、塊設(shè)備存儲(chǔ)等服務(wù)接口，只不過(guò)目前Ceph官方提示CephFS尚未達(dá)到應(yīng)用到生成環(huán)境的要求。
但是像Ceph那樣在同一套系統(tǒng)中實(shí)現(xiàn)三種存儲(chǔ)也存在一定的問(wèn)題，例如上述三種存儲(chǔ)有各自的特性，這就導(dǎo)致很難抽象出適用于所有存儲(chǔ)的公共底層，造成特性上的優(yōu)化很難進(jìn)行，例如：我們?cè)?jīng)調(diào)研過(guò)Ceph的RADOSGW如何實(shí)現(xiàn)S3的GetBucket接口，結(jié)果發(fā)現(xiàn)在帶有prefix前綴參數(shù)的情況下，RADOSGW將遍歷桶下的所有對(duì)象，這肯定是無(wú)法接受的。如果是單一的存儲(chǔ)系統(tǒng)，系統(tǒng)優(yōu)化的目標(biāo)就會(huì)很明確，系統(tǒng)設(shè)計(jì)上也會(huì)有針對(duì)特性的專(zhuān)門(mén)考量。
皮皮（Q3）：業(yè)界公有對(duì)象存儲(chǔ)項(xiàng)目有很多，亞馬遜S3、阿里OSS、騰訊COS、七牛云存儲(chǔ)，相對(duì)而言網(wǎng)易的對(duì)象云存儲(chǔ)系統(tǒng)有亮點(diǎn)？
來(lái)東敏（A3）：亞馬遜S3是業(yè)界公認(rèn)的公有云對(duì)象存儲(chǔ)系統(tǒng)的鼻祖，國(guó)內(nèi)同類(lèi)系統(tǒng)都或多或少借鑒了S3的接口，并在此基礎(chǔ)上提供了上傳下載加速、富媒體處理等功能。目前來(lái)看，有關(guān)對(duì)象存儲(chǔ)系統(tǒng)架構(gòu)和實(shí)現(xiàn)的技術(shù)分享并不多，可能由于大家相對(duì)比較封閉吧。真心希望大家有更多的交流，共同促進(jìn)這一領(lǐng)域的蓬勃發(fā)展，七牛云存儲(chǔ)在這方面做得不錯(cuò)，我們團(tuán)隊(duì)從七牛和S3身上獲益良多。
網(wǎng)易云對(duì)象存儲(chǔ)系統(tǒng)（NOS）提供了互聯(lián)網(wǎng)上的存儲(chǔ)服務(wù)，致力于提供高度可伸縮、高可靠的廉價(jià)數(shù)據(jù)存儲(chǔ)基礎(chǔ)設(shè)施，并給開(kāi)發(fā)者提供最大程度的便利。對(duì)象存儲(chǔ)把用戶(hù)數(shù)據(jù)存儲(chǔ)為桶里面的對(duì)象。對(duì)象由文件、描述文件的元數(shù)據(jù)信息組成。桶是對(duì)象的容器，一個(gè)用戶(hù)可以創(chuàng)建多個(gè)桶，桶名稱(chēng)全局唯一。用戶(hù)可以通過(guò)簡(jiǎn)單的REST接口，在任何時(shí)間、任何地點(diǎn)、任何互聯(lián)網(wǎng)設(shè)備上進(jìn)行數(shù)據(jù)的上傳和下載，也可以使用WEB頁(yè)面對(duì)數(shù)據(jù)進(jìn)行管理。同時(shí)，NOS還提供了Java SDK，簡(jiǎn)化用戶(hù)的編程。用戶(hù)可以基于NOS搭建出各種多媒體分享網(wǎng)站、網(wǎng)盤(pán)、個(gè)人企業(yè)數(shù)據(jù)備份等基于大規(guī)模數(shù)據(jù)的服務(wù)。
NOS從無(wú)到有經(jīng)歷了兩年時(shí)間，當(dāng)前網(wǎng)易內(nèi)部使用NOS的產(chǎn)品有30個(gè)左右，其中包括：易信、云音樂(lè)、云閱讀、公開(kāi)課、有道云筆記等重量級(jí)產(chǎn)品。我們的團(tuán)隊(duì)成員包括4位開(kāi)發(fā)，2位測(cè)試，1位運(yùn)維，0.5位項(xiàng)目管理。與公有云對(duì)象存儲(chǔ)系統(tǒng)的項(xiàng)目團(tuán)隊(duì)相比，我們應(yīng)該算是小團(tuán)隊(duì)作戰(zhàn)。但是NOS在功能接口方面，與市面上的幾家公有對(duì)象存儲(chǔ)系統(tǒng)基本差不多，甚至為了兼容POSIX文件系統(tǒng)接口，我們還提供了“根據(jù)prefix和delimiter列出桶內(nèi)對(duì)象”這樣的高級(jí)接口。要說(shuō)亮點(diǎn)的話(huà)，這里還可以提兩點(diǎn)：1.在富媒體處理速度方面有較明顯的優(yōu)勢(shì)，在主要得益于我們的富媒體系統(tǒng)構(gòu)架和實(shí)現(xiàn)方式；2.桶隔離機(jī)制，運(yùn)維人員可以根據(jù)實(shí)際情況實(shí)現(xiàn)桶粒度隔離，包括：流量隔離、連接數(shù)隔離、QPS隔離等。更多精彩內(nèi)容將在大會(huì)上做分享。
皮皮（Q4）：作為本屆大會(huì)的演講嘉賓，能否透露下您的演講主題？分享下網(wǎng)易對(duì)象存儲(chǔ)系統(tǒng)的架構(gòu)實(shí)踐？
來(lái)東敏（A4）：本次大會(huì)，我的演講主題將圍繞NOS構(gòu)建過(guò)程中碰到的問(wèn)題展開(kāi)，并重點(diǎn)分享我們?nèi)绾谓鉀Q這些問(wèn)題的過(guò)程。實(shí)際上，在NOS快速發(fā)展的兩年多時(shí)間里，系統(tǒng)構(gòu)架也在不斷演進(jìn)，項(xiàng)目組成員也是隨著NOS一起成長(zhǎng)，這是個(gè)非常美妙的過(guò)程。系統(tǒng)搭建初期，整個(gè)NOS只有兩臺(tái)應(yīng)用服務(wù)器，加上一個(gè)非常小的存儲(chǔ)集群，只能實(shí)現(xiàn)基本的對(duì)象存取功能，在系統(tǒng)可用性、可擴(kuò)展性等方面存在一定局限性。后期通過(guò)持續(xù)迭代改進(jìn)，我們逐步加入“圖片處理、視頻處理、音頻處理、高速緩存”等功能。在非功能特性上也對(duì)架構(gòu)做了大量的調(diào)整和改進(jìn)，確保系統(tǒng)無(wú)單點(diǎn)，能夠?qū)崿F(xiàn)平滑升級(jí)和水平擴(kuò)容。最終成就了一個(gè)穩(wěn)定易用、安全有彈性、成本低廉的對(duì)象存儲(chǔ)系統(tǒng)。未來(lái)我們將在確保系統(tǒng)穩(wěn)定運(yùn)行的情況下，進(jìn)一步優(yōu)化系統(tǒng)性能，提高系統(tǒng)抗壓能力，并著重提高移動(dòng)端體驗(yàn)。
目前，整個(gè)網(wǎng)易云對(duì)象存儲(chǔ)系統(tǒng)（NOS）主要分為“接入、緩存、邏輯、存儲(chǔ)”四個(gè)層次。1.接入層：使用Openresty（類(lèi)似Tengine），其強(qiáng)大的Nginx Lua模塊實(shí)現(xiàn)了桶粒度實(shí)時(shí)流量統(tǒng)計(jì)、流量隔離等功能；另外，使用Nginx Lua寫(xiě)了部分適合在接入層實(shí)現(xiàn)的邏輯；2.緩存層：使用TrafficServer，這是一款專(zhuān)業(yè)的緩存服務(wù)器，我們測(cè)試發(fā)現(xiàn)其無(wú)論在穩(wěn)定性還是功能和性能上，都比Squid靠譜；我們用它實(shí)現(xiàn)熱點(diǎn)數(shù)據(jù)以及富媒體處理后的臨時(shí)數(shù)據(jù)緩存；3.邏輯層：使用Tomcat實(shí)現(xiàn)對(duì)象存儲(chǔ)主要的業(yè)務(wù)邏輯，由于Tomcat眾所周知的在高并發(fā)上的短板，我們正在積極探索，計(jì)劃使用Netty來(lái)替換Tomcat；4.存儲(chǔ)層：是對(duì)象存儲(chǔ)系統(tǒng)的基石，NOS構(gòu)建在網(wǎng)易分布式文件系統(tǒng)（DFS）和網(wǎng)易分布式數(shù)據(jù)庫(kù)（DDB）之上，DFS做數(shù)據(jù)存儲(chǔ)，而DDB則存儲(chǔ)元數(shù)據(jù)；目前，有一個(gè)三人團(tuán)隊(duì)正在進(jìn)行DFS2.0的開(kāi)發(fā)，以實(shí)現(xiàn)更優(yōu)的存儲(chǔ)構(gòu)架；
皮皮（Q5）：古人云，三十而立，四十不惑，五十知天命。您三十成家立業(yè)，家庭幸福美滿(mǎn)，這一路上對(duì)人生有哪些感悟？
來(lái)東敏（A5）：人生感悟?qū)嵲谡劜簧�，我是個(gè)樂(lè)天派，無(wú)論順境逆境，都能保持良好心態(tài)，所以大家都喊我微笑哥。我們組的項(xiàng)目管理做得非常好，一般情況下，都會(huì)有一個(gè)良好的開(kāi)發(fā)節(jié)奏，這對(duì)于我來(lái)說(shuō)非常重要，因?yàn)槟蔷鸵馕吨�，每天下午六點(diǎn)就能準(zhǔn)時(shí)回家，十分鐘后，奶奶爸爸媽媽老婆兒子和我，就能?chē)谝黄鸪酝盹�。�?dāng)然啦，晚上免不了要寫(xiě)寫(xiě)代碼，看看技術(shù)文章。對(duì)于工作，我覺(jué)得進(jìn)入狀態(tài)很重要，沒(méi)狀態(tài)的時(shí)候不妨到處溜達(dá)溜達(dá)，喝杯咖啡。當(dāng)碰到煩心事的時(shí)候，也別堵得慌，非常喜歡科比的一句話(huà)，與大家共勉：Falling is a part of life, but walking is the way of life.
活動(dòng)時(shí)間：7月17-8月15日
活動(dòng)獎(jiǎng)勵(lì)：歡迎大家積極提問(wèn)或者分享自己的感悟，活動(dòng)結(jié)束將有專(zhuān)家評(píng)選最佳活躍會(huì)員5名贈(zèng)送技術(shù)圖書(shū)1本，并且贈(zèng)送大會(huì)徽章1枚！
架構(gòu)師.jpg (8.2 KB, 下載次數(shù): 1251)
下載附件
2014-07-17 11:59 上傳
免費(fèi)注冊(cè)
發(fā)表于 2014-07-17 11:59
發(fā)表于 2014-07-18 10:44
