千尋CORS如何做到“每秒服務(wù)百萬用戶”
千尋CORS特別“穩(wěn)”,用過的人都知道。撐起千尋服務(wù)穩(wěn)定性的,是一項(xiàng)名為“高并發(fā)”的技術(shù)能力。
什么是“高并發(fā)”?“高并發(fā)”是指大量用戶(終端)的快速接入。對于網(wǎng)絡(luò)平臺而言,如果不具備良好的高并發(fā)處理能力,輕則引發(fā)服務(wù)中斷,重則引起服務(wù)器宕機(jī)。
2021年 ,千尋位置高精度位置服務(wù)平臺的高并發(fā)能力已經(jīng)達(dá)到了每秒百萬級,也就是說每秒鐘能夠?yàn)槌^百萬級的用戶來同時提供高精度定位的服務(wù)。
這不僅是行業(yè)里面的冠軍,對標(biāo)整個互聯(lián)網(wǎng)也是一個高水平能力。這是如何做到的呢?下面小編將從系統(tǒng)能力、運(yùn)維能力兩個層面,分析其中的技術(shù)要點(diǎn)。
系統(tǒng)能力|水平擴(kuò)展基于分布式服務(wù)架構(gòu)設(shè)計(jì)的千尋位置高精度位置服務(wù)平臺,具有“海量用戶”的服務(wù)擴(kuò)展能力,增加服務(wù)器就可以服務(wù)更多用戶。在具體的實(shí)現(xiàn)路徑上,主要分為4步:第一步:自研SpaceX 高性能分布式框架千尋位置的服務(wù)具有覆蓋廣、規(guī)模大、實(shí)時性要求高等特點(diǎn),需要千尋位置高精度位置服務(wù)平臺以高度的靈活性,實(shí)現(xiàn)效率最大化。針對這樣的情況,2015開始,千尋位置自主研發(fā)了內(nèi)部代號為SpaceX的高性能分布式應(yīng)用框架。
SpaceX框架:可以將一個龐大的計(jì)算任務(wù)劃分為若干個小任務(wù),并分配給每臺計(jì)算機(jī)。計(jì)算機(jī)集群通過并行處理提高了效率,在統(tǒng)一管理控制下,完成大規(guī)模信息處理任務(wù)。國家北斗地基增強(qiáng)系統(tǒng)“全國一張網(wǎng)”的解算,就是通過SpaceX框架,分成幾千個小網(wǎng)任務(wù),分布在上百臺機(jī)器同時進(jìn)行解算。
第二步:快速復(fù)制數(shù)據(jù)的擴(kuò)展塢程序Switch千尋位置針對快速復(fù)制國家北斗地基增強(qiáng)系統(tǒng)“全國一張網(wǎng)”能力,研發(fā)了一個擴(kuò)展塢程序,它被命名為Switch。Switch將算法產(chǎn)生的網(wǎng)格數(shù)據(jù)復(fù)制多份,再將復(fù)制的數(shù)據(jù)分發(fā)給下游用戶。
第三步:提高效率,集中處理為提升處理性能,千尋位置高精度位置服務(wù)平臺中熱點(diǎn)識別應(yīng)用會將用戶分布較多的區(qū)域識別出來,將相同地區(qū)用戶集中到一塊處理,大大提升性能,降低服務(wù)器壓力,達(dá)到降本增效效果。
第四步:用戶均勻分布,降低平均排隊(duì)時間用戶連接服務(wù)時,千尋位置高精度位置服務(wù)平臺會有專門的負(fù)載均衡SLB應(yīng)用來指導(dǎo)用戶應(yīng)該去哪個服務(wù)器處理。這樣每個服務(wù)器的壓力均衡,用戶平均等待時間就降低了。
系統(tǒng)能力|服務(wù)高可用千尋位置高精度位置服務(wù)平臺除了要去支撐用戶,還要保證服務(wù)的高可用。千尋位置做了多套服務(wù)冗余備份,在數(shù)據(jù)中心之下分為6個可用區(qū)和3個隔離集群。
6個可用區(qū),主要就是防止單機(jī)房故障,可用區(qū)的概念有點(diǎn)像當(dāng)?shù)氐臋C(jī)房;·3個隔離區(qū)群,是按照千尋位置的業(yè)務(wù)群體進(jìn)行劃分的。由于不同行業(yè)(智能電子設(shè)備、汽車、測繪RTK)對于高精度位置服務(wù)的要求和標(biāo)準(zhǔn)不同,隔離區(qū)群能夠做到互補(bǔ)干擾。
系統(tǒng)能力|自我保護(hù)千尋位置高精度位置服務(wù)平臺在流量突增的時候擁有自我保護(hù)機(jī)制,主要是精準(zhǔn)流控和熔斷機(jī)制。
一、精準(zhǔn)流控有6種影響因素,主要包括算法A/B群灰度、鏈路規(guī)則、用戶應(yīng)用、產(chǎn)品、區(qū)域、百分比,按照這6種因素不同的排列組合,可以形成適合不同用戶的策略。比如有一種策略,只適合廣東地區(qū)電力,那有這種路線規(guī)劃的話就可以把這個服務(wù)精準(zhǔn)的去推到這個客戶上面。
二、熔斷機(jī)制的建設(shè)。千尋位置的服務(wù)其實(shí)是有容量的,比如說現(xiàn)在容量是1億,那突然來了2億流量,千尋位置的高精度位置服務(wù)平臺能去做到一個自我保護(hù),優(yōu)先保證服務(wù)好前1億用戶。隨著服務(wù)器擴(kuò)展,逐漸去支持到后來涌入的2億流量。
運(yùn)維能力|快速診斷基于系統(tǒng)可視化和智能化定位能力,千尋位置高精度位置服務(wù)平臺可以進(jìn)行問題的快速定位。
系統(tǒng)可視化能力由業(yè)務(wù)監(jiān)控大屏、應(yīng)用處理能力監(jiān)控大屏、云資源服務(wù)狀態(tài)監(jiān)控大屏組成。從這三個維度,系統(tǒng)就完完全全變成一個透明化。
業(yè)務(wù)監(jiān)控大屏實(shí)時呈現(xiàn)用戶在線數(shù)量、整體分布、定位狀態(tài)、特定用戶群體以及在線的工具(測距、定位、回放);· 應(yīng)用處理能力監(jiān)控大屏核心呈現(xiàn)用戶實(shí)時連接數(shù)、每秒新增連接數(shù)、每秒下線連接數(shù);·云資源服務(wù)狀態(tài)監(jiān)控則能查看CPU使用情況、內(nèi)存使用情況、TCP網(wǎng)絡(luò)連接狀態(tài)等。
智能化定位能力由系統(tǒng)控制臺、網(wǎng)格異常分析、基站異常分析構(gòu)成,能夠主動判斷用戶服務(wù)是否正常、問題是否由基站引起以及是否由周邊環(huán)境影響。
運(yùn)維能力|快速恢復(fù)千尋位置高精度位置平臺具有從問題中快速恢復(fù)的能力,在實(shí)施層面分為快速響應(yīng) 、記錄通知、啟動預(yù)案 、 工具化處理4個步驟。
首先,千尋位置設(shè)置了7*24小時值守的應(yīng)用監(jiān)控室,第一時間響應(yīng)問題;其次,千尋位置應(yīng)急響應(yīng)平臺記錄事件,并通過電話、軟件系統(tǒng)通知相關(guān)運(yùn)維、開發(fā)等處理人員;再次,日常處理預(yù)案留有記錄,運(yùn)維人員結(jié)合系統(tǒng)流程 + 工具,自動化操作減少失誤,達(dá)到快速恢復(fù)的能力;最后,將日常標(biāo)準(zhǔn)流程歸納提煉之后,都升級為工具化執(zhí)行,不需要人工干預(yù),在提高效率的同時,也避免了因人為導(dǎo)致的不可控因素。
運(yùn)維能力|故障演練混沌工程是在分布式系統(tǒng)上進(jìn)行實(shí)驗(yàn)的學(xué)科。模擬功能性測試、性能測試、極端場景測試,通過長時間測試,發(fā)現(xiàn)系統(tǒng)以常規(guī)測試手段難以模擬和測試的BUG。
混沌工程主要解決極端的情況,比如說網(wǎng)絡(luò)中斷、服務(wù)器宕機(jī)等,它通過長時間測試,頻繁的去驗(yàn)證,訓(xùn)練出系統(tǒng)級的反應(yīng)能力并加以鞏固,在真正遇到問題的時候給予反應(yīng)。
更多相關(guān)
四川測繪地理信息局應(yīng)急測繪保障的“6·18”
6月17日22時55分在四川宜賓市長寧縣6.0級地震發(fā)生后,四川測繪地理信息局按照自然資源部地理信息管理司、省政府應(yīng)急管理部門部署,第一時間啟動應(yīng)急預(yù)案并做好抗震救災(zāi)應(yīng)急測繪保障工作?! ?zāi)情發(fā)生...
中緯ZT30R PRO全站儀 使用說明書 操作教程
中緯ZT30RPRO全站儀用戶手冊 -中緯全站儀使用說明書本手冊專門針對使用中緯ZT30R系列全站儀的用戶。為了更好的使用,在操作中緯ZT30R系列全站儀之前,請認(rèn)真通讀本手冊。中緯ZT...
周恩來親自“點(diǎn)將”的測繪專家
陳外歐是湖南省茶陵縣人,1929年參加共產(chǎn)主義青年團(tuán),同年參加工農(nóng)紅軍,1931年轉(zhuǎn)為中國共產(chǎn)黨黨員。他參加過二萬五千里長征,歷任營長、團(tuán)長、副旅長、軍參謀長、軍委測繪局局長兼測繪學(xué)院院長、國家測...
北斗三號短報(bào)文通信服務(wù)進(jìn)入大眾應(yīng)用階段
摘要:短報(bào)文通信是北斗系統(tǒng)區(qū)別于其他全球衛(wèi)星導(dǎo)航系統(tǒng)獨(dú)有的特色服務(wù)。北斗三號系統(tǒng)短報(bào)文通信服務(wù)覆蓋中國及周邊國家和地區(qū),具備低成本、廣覆蓋、高可靠和隨遇接入等特點(diǎn),可對地面移動通信網(wǎng)絡(luò)進(jìn)行有效補(bǔ)充...
“中國極地測繪之父”鄂棟臣逝世 曾連續(xù)11次挑戰(zhàn)南北極
那個曾經(jīng)的放牛娃,那個曾連續(xù)11次挑戰(zhàn)南北極的漢子,那個為我國極地科考奉獻(xiàn)一生的老人,走了,去了比南北極更遙遠(yuǎn)的地方?! ”蛔u(yù)為“中國極地測繪之父”的武大教授鄂棟臣,2月21日因病在武大中南醫(yī)院逝...
徠卡超高精度全站儀在長距離跨海高程傳遞中的應(yīng)用
跨海大橋越建越長,跨過大海,傳遞高程,建立與陸地統(tǒng)一的高程基準(zhǔn)讓我們頭都大了!距離太遠(yuǎn),已經(jīng)突破了規(guī)范要求和常規(guī)方法的極限。徠卡超高精度全站儀借助第三方半自動化軟件,專項(xiàng)設(shè)計(jì)觀測方案,0.5″超高...
【新品上市】徠卡Pegasus TRK家族再添新成員——多種配置,各盡所能
徠卡PegasusTRK集成激光雷達(dá)、全景相機(jī)、GNSS、IMU、SLAM以及機(jī)器學(xué)習(xí)芯片,可搭載于汽車、火車或船上采集毫米級的高精度點(diǎn)云和全景數(shù)據(jù),智能軟件可以自主實(shí)現(xiàn)從路線優(yōu)化、校準(zhǔn)、數(shù)據(jù)處理到...
當(dāng)中國測繪遇上非洲水電站-測量儀器變的大有作為
飛機(jī)到達(dá)科特迪瓦共和國首都機(jī)場的時候,已經(jīng)是凌晨了。這是一個非洲國家,緯度7°左右,全年平均氣溫28°,這已經(jīng)是北京5月的最高氣溫了。這里沒有四季只有“兩季”,旱季和雨季,高溫濕潤是這個國家氣候的...