Google自爆數(shù)據(jù)中心基礎(chǔ)設(shè)施

申請(qǐng)免費(fèi)試用、咨詢電話：400-8352-114

Google數(shù)據(jù)中心的內(nèi)部運(yùn)作不再秘而不宣。

Google一向很少對(duì)外透露其數(shù)據(jù)中心的工作，但5月28日，Google伙伴Jeff Dean在Google I/O會(huì)議的聽眾前，輕輕撩起了Google公司基礎(chǔ)設(shè)施的神秘面紗。

一方面，Google用的是一般的服務(wù)器、處理器、硬盤、軟驅(qū)等等。另一方面，Dean似乎認(rèn)為1800臺(tái)服務(wù)器也是非常普通、不值得一提。而Google公司使用的軟件，能在半秒之內(nèi)回應(yīng)700至1000臺(tái)服務(wù)器的搜索請(qǐng)求，則完全是另一回事。

Google從未透露他們究竟擁有多少臺(tái)服務(wù)器，但Dean認(rèn)為至少不下數(shù)十萬臺(tái)。Dean表示，每個(gè)機(jī)柜里存放了大約40臺(tái)服務(wù)器。而根據(jù)某項(xiàng)估計(jì)， Google目前在全球有36個(gè)數(shù)據(jù)中心，以每個(gè)中心有150個(gè)機(jī)柜計(jì)算， Google的服務(wù)器至少超過20萬臺(tái)，而實(shí)際數(shù)字還要比這大得多，且每天都在增加中。

不論真正的數(shù)字有多少，Google的成就也實(shí)在驚人，部分原因是他們推翻了電腦業(yè)的傳統(tǒng)做法。當(dāng)所有的超大型數(shù)據(jù)中心，如紐約股票交易所或航空公司的聯(lián)合訂位系統(tǒng)都是采用許多主流服務(wù)器和軟件系統(tǒng)的時(shí)候，Google的數(shù)據(jù)中心絕大部分卻是自身的技術(shù)建設(shè)而成。

有些制造和出售服務(wù)器的公司雖然不以為然，但Google顯然相信自己的技術(shù)命運(yùn)最好操縱在自己手中。Google搜索產(chǎn)品與使用者經(jīng)驗(yàn)副總裁搜 Marissa Mayer在5月29日的演講中提到，共同創(chuàng)辦人Larry Page鼓勵(lì)員工對(duì)“不可能的事情”保持一種健康的不敬。也就是說，別太相信有什么不可能的事情。

要維持如此大規(guī)模的運(yùn)作，Google必須對(duì)每一臺(tái)機(jī)器都抱有一種隨時(shí)可犧牲的態(tài)度，服務(wù)器制造商喜歡宣傳他們的主機(jī)質(zhì)量?jī)?yōu)越、具有高度承受故障或當(dāng)機(jī)的能力，但Google仍然寧愿把錢投資在冗余軟件系統(tǒng)上。

Dean表示：“我們的觀點(diǎn)是，擁有兩倍數(shù)量但比較不可靠的硬件，勝過數(shù)量一半但比較可靠的硬件。你必須為軟件提供可靠保障，如果你有1萬臺(tái)主機(jī)在運(yùn)作，每天一定會(huì)有一些意外。”

Dean說，每次新業(yè)務(wù)上線最能顯示出硬件的脆弱。一般每個(gè)新業(yè)務(wù)上線的第一年，通常會(huì)發(fā)生1000次個(gè)別主機(jī)的故障、數(shù)千次硬盤故障；一次電力輸送問題，會(huì)導(dǎo)致500至1000太主機(jī)失效約6小時(shí)；20次機(jī)柜損壞，每次會(huì)造成40至80臺(tái)主機(jī)下線；5次機(jī)柜搖晃，會(huì)導(dǎo)致一半的網(wǎng)絡(luò)封包在傳送過程中遺失；整個(gè)業(yè)務(wù)至少一次重新上線，在兩天之內(nèi)的任何時(shí)間，影響5%到主機(jī)。整個(gè)業(yè)務(wù)中還有一半的幾率會(huì)過熱，可能導(dǎo)致5分鐘內(nèi)讓幾乎所有服務(wù)器當(dāng)機(jī)，恢復(fù)則需要花費(fèi)1到2天地時(shí)間。

雖然Google用一般的硬件組裝其服務(wù)器，卻不用傳統(tǒng)的封裝，他們要求英特爾提供特制的主機(jī)板。Dean表示，Google目前在每40臺(tái)服務(wù)器的機(jī)柜外，都包了一層外殼，這是Google自行開發(fā)的設(shè)計(jì)，而不是服務(wù)器廠商提供的外殼。

Dean表示，Google使用了幾種服務(wù)器組裝的方式，有些配備了很多硬盤，有點(diǎn)則數(shù)量比較少。還有一些大范圍的差異，他說：“我們不同的數(shù)據(jù)中心都有一些差異，但數(shù)據(jù)中心內(nèi)部不會(huì)?！?/P>

對(duì)于服務(wù)器本身，Google偏好使用多核心晶片。許多習(xí)慣追求運(yùn)算速度的軟件公司其實(shí)很難適應(yīng)多核心的晶片，但Google沒有這種問題。他們?cè)诩夹g(shù)上早就必須適應(yīng)橫跨數(shù)萬臺(tái)電腦的結(jié)構(gòu)，因此他們已經(jīng)進(jìn)入平行運(yùn)算的世界。

Dean說：“我們真的很喜歡使用多核心主機(jī)。對(duì)我們而言，多核心主機(jī)就像很多相互連接、性能優(yōu)越的小機(jī)器，對(duì)我們來說相對(duì)好用?！?/P>

雖然Google對(duì)搜索和其他服務(wù)都要求快速回應(yīng)，其平行運(yùn)算能在單一指令的執(zhí)行相對(duì)較慢時(shí)產(chǎn)生快速回應(yīng)的結(jié)果。這對(duì)于多核心處理器和多線程模式設(shè)計(jì)者是一大鼓勵(lì)。Dean說：“單線程的表現(xiàn)對(duì)我們來說無關(guān)緊要，我們有很多平行化的問題?！?/P>

那么Google要如何處理這些一般的硬件問題呢？用軟件。

Dean說明了Google軟件的三個(gè)核心要素：GFS（Google檔案系統(tǒng)）、BigTable和MapReduce演算法。雖然Google資助了許多有助于其開展的開放源代碼的計(jì)劃，這些仍然屬于專有軟件。

Dean表示，三者中級(jí)別最低的GFS幾乎在所有主機(jī)中運(yùn)作，負(fù)責(zé)儲(chǔ)存資料。某些GFS的化身是“許多petabyte大小”的檔案系統(tǒng)。目前有超過200個(gè)業(yè)務(wù)在執(zhí)行GFS，其中許多都包含數(shù)千臺(tái)主機(jī)。

GFS把一塊儲(chǔ)存的資料（通常是64MB），至少放在三臺(tái)稱為chunkserver的主機(jī)內(nèi)；假如chunkserver發(fā)生故障，主服務(wù)器便負(fù)責(zé)吧資料備份到一個(gè)新的地方。Dean說：“至少在儲(chǔ)存層級(jí)，主機(jī)故障完全由GFS系統(tǒng)處理?！?/P>

一窺Google數(shù)據(jù)中心自行定制的40臺(tái)服務(wù)器機(jī)柜。基礎(chǔ)建設(shè)大師Jeff Dean在Google I/O大會(huì)上展示了這張照片。（IT168）