這周寫(xiě)點(diǎn)互聯(lián)網(wǎng)系統(tǒng)開(kāi)發(fā)中需要了解的技術(shù)點(diǎn)，每個(gè)點(diǎn)都可以發(fā)散出去，連接更多的知識(shí)點(diǎn)，打算做個(gè)逐步細(xì)化的記錄。

    一個(gè)應(yīng)用的整個(gè)生命周期中(生，老，病，死)都需要有一個(gè)整體規(guī)劃.

    前期
    評(píng)估需求，根據(jù)需求提煉出其中隱含的非功能性要求，做為容量評(píng)估的參考。一般就是大致估算一下，技術(shù)發(fā)展到現(xiàn)在，如果是聊天或游戲應(yīng)用，隨便一個(gè)服務(wù)器單機(jī)能能維持100W-160W左右的tcp長(zhǎng)連接并進(jìn)行通訊。所以普通的創(chuàng)業(yè)起步階段的應(yīng)用一般不必太擔(dān)心設(shè)計(jì)問(wèn)題，可以等業(yè)務(wù)量慢慢上來(lái)慢慢調(diào)整系統(tǒng)架構(gòu)。

    互聯(lián)網(wǎng)上許多數(shù)不清的小系統(tǒng)上線(xiàn)就是在碰運(yùn)氣，在精益創(chuàng)業(yè)的指導(dǎo)下，為了測(cè)試業(yè)務(wù)模式，先弄個(gè)原型系統(tǒng)上了再說(shuō)。有時(shí)沒(méi)用戶(hù)，用戶(hù)多了又頂不住，要找一群外援專(zhuān)家來(lái)救火，也算是幸福的煩惱。有些移動(dòng)應(yīng)用作者自己也不知道為什么突然就火了，然后又快速消失在市場(chǎng)中。

    前端系統(tǒng)設(shè)計(jì)模式
    以http請(qǐng)求到達(dá)服務(wù)器的整個(gè)處理過(guò)程來(lái)說(shuō)明。從服務(wù)器接收到http請(qǐng)求，在整個(gè)反應(yīng)鏈路上直到打到最終數(shù)據(jù)庫(kù)上，每個(gè)可能的瓶頸點(diǎn)上都有相應(yīng)地技術(shù)來(lái)支撐性能上的優(yōu)化。

    負(fù)載均衡
    如一個(gè)業(yè)務(wù)系統(tǒng)用戶(hù)有五百萬(wàn)，需要根據(jù)活躍用戶(hù)在業(yè)務(wù)的高峰時(shí)期估算最大http請(qǐng)求數(shù)量，根據(jù)請(qǐng)求量設(shè)計(jì)前端反向代理，負(fù)載均衡策略；這塊要考慮常見(jiàn)（軟/硬負(fù)載方式）反向代理設(shè)施的差異性(nginx,lvs,f5,haproxy)

    Nginx
    Nginx：HTTP層負(fù)載均衡，反向代理，跑遍全球的選擇。由于工作在七層上，所以可以支持對(duì)http url級(jí)別的轉(zhuǎn)發(fā)。隨便在網(wǎng)上偶遇個(gè)bug可能都是曝出一個(gè)enginx bad gateway的錯(cuò)。

    LVS
    lvs：tcp/udp層負(fù)載均衡，由于工作在四層，面對(duì)的都是連接，處理的都是dst ip,port；src ip，port的東西。

    常用的轉(zhuǎn)發(fā)模式有DR(修改目標(biāo)地址MAC)，流量經(jīng)過(guò)lvs，但ip包的返回不經(jīng)過(guò)lvs，性能較好，lvs不會(huì)成為瓶頸。

    NAT：網(wǎng)絡(luò)包的進(jìn)出都要經(jīng)過(guò)lvs，對(duì)lvs的負(fù)載會(huì)比DR模式高。

    為了除單點(diǎn)，lvs的高可用需要用keepalived做雙機(jī)主備。

    F5
    硬件產(chǎn)品，價(jià)格昂貴，價(jià)格很容易上百萬(wàn)，有問(wèn)題找廠(chǎng)家，其實(shí)這樣有時(shí)找線(xiàn)上找問(wèn)題反而受到制約。

    http緩存
    均衡器之后就是這里，這層級(jí)的緩存是為了減少應(yīng)用服務(wù)器上大量靜態(tài)小文件(css,js,jpg)的讀取壓力。可選的有varnish,squid等。

    Squid:老牌產(chǎn)品，支持正向/反向代理緩存，作為可持久化緩存，可以支持較大的容量，有自有的內(nèi)存頁(yè)/磁盤(pán)頁(yè)管理，有些cdn產(chǎn)品也是基于此產(chǎn)品改造。

    Varnish：設(shè)計(jì)為內(nèi)存緩存，內(nèi)存管理由操作系統(tǒng)控制，對(duì)于無(wú)持久化需求的靜態(tài)文件性能不錯(cuò)，如圖片。

    ngnix：擴(kuò)展功能不錯(cuò)，也有個(gè)緩存模塊，不過(guò)通常都是緩存自身的一些page。

    Apache Traffic Server: Apache出品，也可作為一個(gè)不錯(cuò)的選擇。

    應(yīng)用服務(wù)器
    反向代理之后的應(yīng)用服務(wù)器數(shù)量(tomcat,jetty)要考量應(yīng)用服務(wù)器本身的處理能力，如常規(guī)tomcat基準(zhǔn)數(shù)據(jù)是1000qps,這個(gè)只是tomcat在開(kāi)nio情況下平均的水平。

    其處理性能還受到應(yīng)用程序內(nèi)處理邏輯，如緩存的應(yīng)用，服務(wù)化應(yīng)用在應(yīng)用間rpc的消耗的時(shí)間。

    最后打在數(shù)據(jù)庫(kù)上數(shù)據(jù)庫(kù)上之前還有大把的活需要做，減少數(shù)據(jù)庫(kù)的負(fù)擔(dān)。