<del id="nnjnj"></del><track id="nnjnj"></track>

<p id="nnjnj"></p>

<address id="nnjnj"></address>

    <pre id="nnjnj"><pre id="nnjnj"></pre></pre>

      <noframes id="nnjnj"><ruby id="nnjnj"><ruby id="nnjnj"></ruby></ruby>

      • 自動秒收錄
      • 軟件:1973
      • 資訊:56179|
      • 收錄網站:177848|

      IT精英團

      打造更穩定的 Serverless 業務 | D2 分享視頻+文章

      打造更穩定的 Serverless 業務 | D2 分享視頻+文章

      瀏覽次數:
      評論次數:
      編輯: mob604756eb17db
      信息來源: 51CTO博客
      更新日期: 2021-04-11 02:18:12
      摘要

      從大促說起除了開發和維護 MidwayJS 這一框架體系,提供應用、函數、一體化解決方案外,我們也在 Serverless 的 Runtime 層面有所涉獵。在 2020 年,我們開放了 Midway Serverless 框架和一體化方案,彌補了 Midway 在 Serverless 方面的缺失,也朝著多場景框架又邁出了一步。除了社區,阿里內部的 Serverless 業務也蓬勃發展,淘系,飛

      • 正文開始
      • 相關閱讀
      • 推薦作品


      從大促說起



      除了開發和維護 MidwayJS 這一框架體系,提供應用、函數、一體化解決方案外,我們也在 Serverless 的 Runtime 層面有所涉獵。


      在 2020 年,我們開放了 Midway Serverless 框架和一體化方案,彌補了 Midway 在 Serverless 方面的缺失,也朝著多場景框架又邁出了一步。


      除了社區,阿里內部的 Serverless 業務也蓬勃發展,淘系,飛豬,考拉,高德等 BU 的業務都已經揚帆起航,整體達到規模比去年增長了 10 倍,承接的流量也比同期翻了 6 倍,可以說,Node.js Serverless 已經真正的站穩了腳跟,和原有的 Node.js 應用體系共同支撐起了阿里的前端業務。


      圖片


      高德也在”十一出行節“再創新記錄,提前達到了目標。


      圖片



      穩定性保障



      去年這個時期,我們 Node.js Serverless 還處在一個起步的階段,還在做研發保障,平臺基建的事情。經歷了去年的 ”研發模式升級“ 戰役之后,整個發布平臺,構建體系,以及開發、調試的能力都經過了重塑,已經達到了可以研發業務上線的要求。


      隨著使用 BU 的不斷增多,業務對穩定性也提出了更高的要求,這迫使我們對此需要提供更多的能力?!?strong style="margin:0px;padding:0px;max-width:100%;">穩定性“就是隨之而來的最大的考驗。


      對此,我們在 2020 年大促做好了大考準備。針對雙促,除了傳統的壓測,盤點之外,今年由于加入了 Serverles 場景,額外增加了針對Node.js Serverless?的穩定性保障。


      整個額外保障分為如下三塊,我們將一一闡述。


      圖片



      強弱依賴分析


      第一塊是強弱依賴分析。利用?技術手段?將業務調用的下游依賴分析出來,明明白白的展示給業務開發,讓其清楚的知道,哪些是 ”強依賴“,哪些是 ”弱依賴“。


      所謂的強依賴,是業務直接依賴的下游,如果該下游出現問題,會直接反應到業務本身,造成不可預估的影響,而弱依賴,則是下游出現問題,業務本身不影響或者只影響少許。


      如圖上的業務依賴,當業務 B 出現問題,依賴 C 包含了一部分業務 B 的數據,業務 A 的系統可以繼續穩定的運行,這樣子業務 B 對于業務 A 來說就是一個 ”弱依賴”,而業務 C 則是一個強依賴(單條鏈路)。


      當然這是一個理想情況,業務本身會相對復雜,數據接口可能業務非常繁雜,隨著時間的推移,還會經常更新迭代,無法人肉沉淀。


      這個時候,我們使用了一種依賴分析手段,這套技術,是監控的副產物,由 Alinode 提供的底層帶來的能力,詳細不久大家就會看到一個全新的 Alinode。


      Ainode 是阿里 Node.js 架構組維護的 Node.js 運行時,在社區的 Node.js 運行時之上提供了一系列監控、診斷優化能力。

      圖片

      在拿到強弱依賴之后,我們會推進業務的改進,當然,這個改進本質上是一個自我梳理的過程,并不一定需要把強依賴都變成弱依賴,是一個降低業務依賴風險的過程。


      改進的方法也有不少,比如把數據降級,加緩存,或者增加新的數據源,做好不同的數據隔離和錯誤處理等等。


      流量模型預估


      第二塊是流量模型的預估。


      傳統的流量模型是“流量(QPS + 機器數)的評估,在 Serverless 場景下,情況以然不同,這里主要有兩點情況:


      • 1、容器的數量對業務來說可能已經不太關心,業務希望只需要提供總流量就可以上線

      • 2、平臺的單容器承載單位為并發數,這不符合平常業務的換算單位


      這導致了開發很難一次性將業務上線,需要額外關心單個容器,能夠承載多少流量,然后再將流量和并發度進行轉換,這個過程很容易出錯且不高效。


      圖片


      這一層的含義是,對已知的流量做預估,而不是未知的流量。比如搶紅包,是每個整點,那么每個整點的流量可能會有新高,真個流量就是已知的流量。未知的突然流量,是不應該被允許到達業務代碼,盡可能在網關層之前就被攔截掉。


      針對已經的流量,如何反向預估需要多少資源消耗,雖然用戶不關心,但是我們的平臺側上線時還是需要計算,并給出推薦的值,這其中有兩個方式。


      一是計算出單個容器在單一接口符合業務要求的情況下,比如滿足 RT 要求,計算出單容器合理的 QPS 和并發度,這個時候,我們已經可以拿這個值去設置函數的單容器并發以及容器數。


      二是通過網關,在業務上線引入流量的時候進行流量測算,是否真的滿足上述的場景,根據實際的流量,我們可以動態的調整預留的實例數和彈性的實例比率,以達到最佳的資源配比。


      圖片


      并發度測算是基于”擁塞控制算法”來得出的,整套產品需要配套平臺基建來做,后續我們會針對這個方案進行更細致的分享,歡迎關注 MidwayJS。


      多層流量管控


      前兩項其實都是在業務上線前做的,而流量管控,則是運行時層面實時的處理。


      在一般的場景下,我們有多個網關來管理所有的流量。以阿里內部為例,我們有兩層網關,分別為通用網關和函數特有的網關,其之下,則是函數容器本身。


      當流量來臨時,先經過通用網關,路由到函數網關,再根據域名和路徑,從函數網關查詢特定的函數信息,將流量打入函數。


      每一層都需要一定的流量管控。在特定的場景下,經過通用網關的流量是相對較大的(由于函數的數量不定,且為彈性),通用網關的流量限制一般為函數網關所能經過的最大流量。


      圖片


      當流量到達函數網關時,網關才會相應的去計算到達函數的流量,進行更細粒度的流量控制。而函數網關層面的流量管控,指的則是面向單一函數容器(或是單一函數業務)的限制。


      在函數網關的流量管控中,著重是希望將特定的流量打入到特定的函數中,防止不同的函數,使用不同的功能。


      而在函數容器本身,我們還做了第三道防護,除了第二點的流量測算外,額外還有防雪崩的作用。


      所謂的防雪崩,是防止當一個(或者多個)容器無法工作,所有流量打到其他容器,導致其他容器批量無法工作的情況。


      在每個容器都做了這樣的防護,才算是真正的將風險降到最低。


      圖片


      這是一個微分享,也是我們這一年來的一些在 Serverless 穩定性方面的總結。其實整個都是出現問題,到解決問題的思考過程,希望大家能夠有所收獲。


      最后:

      圖片


      標簽:java
      跨端的另一種思路 | D2分享+文章
      ? 上一篇 2021-04-11
      媒體智能-淘寶直播流媒體互動實踐 | D2 分享視頻+文章
      下一篇 ? 2021-04-11
      • 談如何設計未來的倉庫建筑
        4閱讀 0條評論 個贊
        編輯:數據社全文共3758個字,建議10分鐘閱讀大家好,我是峰哥,夏天已經來了,小麥馬上要豐收了,今天分析一篇關于未來數倉架構發展方向的文章。Linked大佬JayKreps曾發表過一篇博客,簡單闡……
      • 高并發服務的幾點優化經驗
        0閱讀 0條評論 個贊
        前言:如何優化高并發服務,這里指的是qps在20萬以上的在線服務,注意不是離線服務,在線服務會存在哪些挑戰呢?①無法做離線緩存,所有的數據都是實時讀的②大量的請求會打到線上服務,對于服務的響應時間要……
      • Java處理異常的9個最佳實踐 你做得對嗎?
        1閱讀 0條評論 個贊
        原文:https://dzone.com/articles/9-best-practices-to-handle-exceptions-in-java譯者:颯然Hang譯文:http://www.r……
      • 提高Java字符串編碼和解碼性能的技巧
        1閱讀 0條評論 個贊
        1常見字符串編碼●常見的字符串編碼有:LATIN1只能保存ASCII字符,又稱ISO-8859-1。UTF-8變長字節編碼,一個字符需要使用1個、2個或者3個byte表示。由于中文通常需要3個字節……
      • Linux預定任務調度(crontab) 好實用!
        0閱讀 0條評論 個贊
        概述crontab命令用于設置周期性被執行的指令。該命令從標準輸入設備讀取指令,并將其存放于“crontab”文件中,以供之后讀取和執行??梢允褂胏rontab定時處理離線任務,比如每天凌晨2點更新數……
      發表評論 共有條評論
      用戶名: 密碼:
      驗證碼: 匿名發表
      • Kubernetes網絡模型基本指南
        1閱讀 0條評論 個贊
        Kubernetes是為運行分布式集群而建立的,分布式系統的本質使得網絡成為Kubernetes的核心和必要組成部分,了解Kubernetes網絡模型可以使你能夠正確運行、監控和排查應用程序……
      • 緊急情況下數據庫表被鎖 抓瞎?
        4閱讀 0條評論 個贊
        以下文章來源于公眾號-程序新視界,作者二師兄在程序員的職業生涯中,總會遇到數據庫表被鎖的情況,前些天就又撞見一次。由于業務突發需求,各個部門都在批量操作、導出數據,而數據庫又未做讀寫分離,結果就是:數……
      • 運維常用的34個Linux Shell腳本 對你一定有幫助!
        1閱讀 0條評論 個贊
        作為一名Linux工程師,會寫好的腳本不僅能提高工作效率,還能有更多的時間做自己的事。最近在網上沖浪的時候,也注意收集一些大佬寫過的腳本,匯總整理一下,歡迎收藏,與君共勉?。?)用戶猜數字#!/b……
      • 阿帕奇建筑師遵循的30條設計原則
        0閱讀 0條評論 個贊
        作者介紹Srinath,科學家,軟件架構師。ApacheAxis2項目的聯合創始人,ApacheSoftware基金會的成員,WSO2流處理器(wso2.com/analytics)的聯席架構師?!?/div>
      • 《網絡端口大全》運維必備 就看這個吧
        1閱讀 0條評論 個贊
        老楊工作8年有余,經??吹胶芏嗑W絡工程師的簡歷里寫著熟悉“tcp/ip,http等協議”,我也每次都遵從本心的問了他們:那你可以說說你理解中的端口嗎?很多人都能答得上來一部分,但很多人都難答的比較……
      • 一天一技能:協調與多流程的完美結合
        7閱讀 0條評論 個贊
        我們知道,協程本質上是單線程單進程,通過充分利用IO等待時間來實現高并發。在IO等待時間之外的代碼,還是串行運行的。因此,如果協程非常多,多少每個協程內部的串行代碼運行時間超過了IO請求的等待時間,那……
      • Python極簡編碼規范
        1閱讀 0條評論 個贊
        本文是閱讀《PythonCodingRule》之后總結的最為精華及簡單的編碼規范,根據每個人不同喜好有些地方會有不同的選擇,我只是做了對自己來說最簡單易行的選擇,僅供大家參考。1、重要原則a.保持……
      • 碼頭工人搭建彈性搜索集群教程
        0閱讀 0條評論 個贊
        寫在前面:為什么要用ElasticSearch?我們的應用經常需要添加檢索功能,開源的ElasticSearch是目前全文檢索引擎的首選。它可以快速的存儲、搜索和分析海量數據。ElasticSear……
      • Python字符串深度摘要
        2閱讀 0條評論 個贊
        以下文章來源于公眾號-蘿卜大雜燴,作者周蘿卜今天我們來學習字符串數據類型相關知識,將討論如何聲明字符串數據類型,字符串數據類型與ASCII表的關系,字符串數據類型的屬性,以及一些重要的字符串方法和……
      • 說說春云的全鏈路灰度發布方案~
        1閱讀 0條評論 個贊
        以下文章來源于公眾號-碼猿技術專欄,作者不才陳某大家好實際生產中如有需求變更,并不會直接更新線上服務,最通常的做法便是:切出線上的小部分流量進行體驗測試,經過測試后無問題則全面的上線。這樣做的好處也是……
      • 操作系統宕機 如何找回我的MySQL記錄?
        0閱讀 0條評論 個贊
        以下文章來源于公眾號-數據和云,作者楊豹一、概述如果Linux操作系統宕機,啟動不了,救援模式(rescueinstalledsystem)也行不通的時候,那么該機器上的MySQL數據還能恢復嗎?……
      • 談如何設計未來的倉庫建筑
        4閱讀 0條評論 個贊
        編輯:數據社全文共3758個字,建議10分鐘閱讀大家好,我是峰哥,夏天已經來了,小麥馬上要豐收了,今天分析一篇關于未來數倉架構發展方向的文章。Linked大佬JayKreps曾發表過一篇博客,簡單闡……
      • Linux最常用的命令:解決95%以上的問題
        1閱讀 0條評論 個贊
        Linux是目前應用最廣泛的服務器操作系統,基于Unix,開源免費,由于系統的穩定性和安全性,市場占有率很高,幾乎成為程序代碼運行的最佳系統環境。linux不僅可以長時間的運行我們編寫的程序代碼,還可……
      • 教你如何在Linux中生成復雜的密碼 并檢查密碼強度
        0閱讀 0條評論 個贊
        在本教程中,我們將討論如何生成復雜密碼并且檢查密碼強度。生成復雜的密碼強密碼應由字母、數字和符號的混合組成。第二個要求是不要使用已知單詞、出生日期或姓名,因為很容易受到字典攻擊。密碼應該包含多少個字符……
      • 一萬字長文講解HBase讀寫性能優化
        2閱讀 0條評論 個贊
        一、HBase讀優化1.HBase客戶端優化和大多數系統一樣,客戶端作為業務讀寫的入口,姿勢使用不正確通常會導致本業務讀延遲較高實際上存在一些使用姿勢的推薦用法,這里一般需要關注四個問題:1)s……
      • MySQL支持哈希索引嗎?(收藏)
        1閱讀 0條評論 個贊
        經常有朋友問,MySQL的InnoDB到底支不支持哈希索引?對于InnoDB的哈希索引,確切的應該這么說:(1)InnoDB用戶無法手動創建哈希索引,這一層上說,InnoDB確實不支持哈希索引;(2)……
      • JD.COM面試問題:ElasticSearch深度分頁解決方案
        0閱讀 0條評論 個贊
        以下文章來源于月伴飛魚,作者日常加油站前言Elasticsearch是一個實時的分布式搜索與分析引擎,在使用過程中,有一些典型的使用場景,比如分頁、遍歷等。在使用關系型數據庫中,我們被告知要注意甚至……
      • 關于數據中心最強科普 一個就給你完整了解!
        1閱讀 0條評論 個贊
        數據中心,英文縮寫叫IDC,也就是InternetDataCenter(互聯網數據中心)。之所以不太直接稱之為“DC”,主要是為了避免和直流電(DirectCurrent)混淆。而且,現在的數……
      • Linux預定任務調度(crontab) 好實用!
        0閱讀 0條評論 個贊
        概述crontab命令用于設置周期性被執行的指令。該命令從標準輸入設備讀取指令,并將其存放于“crontab”文件中,以供之后讀取和執行??梢允褂胏rontab定時處理離線任務,比如每天凌晨2點更新數……
      • 做SQL性能優化真的是干瞪眼
        1閱讀 0條評論 個贊
        很多大數據計算都是用SQL實現的,跑得慢時就要去優化SQL,但常常碰到讓人干瞪眼的情況。比如,存儲過程中有三條大概形如這樣的語句執行得很慢:selecta,b,sum(x)fromTgr……
      • 什么是搜索引擎蜘蛛?搜索引擎蜘蛛的工作原理
        1閱讀 0條評論 個贊
        作為一名編輯乃至站長,在關注網站在搜索引擎排名的時候,最重要的就是蜘蛛(spider)。搜索引擎蜘蛛是一個自動抓取互聯網上網頁內容的程序,每個搜索引擎都有自己的蜘蛛,那么,蜘蛛是怎樣在網站上抓取內容的呢?一起來看看它的工作原理吧……
      • 數據倉庫實踐:總線矩陣體系結構的設計
        1閱讀 0條評論 個贊
        以下文章來源于公眾號-云祁的數據江湖,作者云祁如何設計一套切實可行的數據倉庫呢?我們要明白,對于數據倉庫的設計是不能完全依賴于業務的需求,但往往又必須要服務于業務的價值。因此,在構建數據倉庫前,我們……
      • 百億平臺團貸網最新進展
        1閱讀 0條評論 個贊
        近日,團貸網有了新進展,東莞中院于2022年4月25日9時00分審理團貸網非法集資案即被告單位派生科技集團有限公司、被告人唐軍等46人被指控犯集資詐騙罪、非法吸收公眾存款罪、操縱證券市場罪、虛開增值稅專用發票罪、虛開發票罪一案?!薄?/div>
      • 杜小曼為疫情高風險地區小微企業提供1億元無息貸款
        1閱讀 0條評論 個贊
        近期,國內疫情多發,經濟運行中有些突發因素超出預期,對一些行業沖擊較大。部分地區生產一度按下“慢行鍵”,一些重點產業穩定運行面臨壓力。服務業領域尤其是餐飲、零售、旅游等行業,承受著來自成本與市場的雙重壓力,面臨的經營壓力較為突出。為幫助小微商戶渡過難關,度小滿于3月30日宣布,為新冠肺炎疫情中高風險地區的小微商戶提供免息貸款支持,首批總額度1億元?!?/div>
      • 全球凍結支付 仍在整改
        1閱讀 0條評論 個贊
        連續三年無業務?!?/div>
      • 晉城小金違反催收規定被罰22.6萬元:行長何德浩被核準任職
        1閱讀 0條評論 個贊
        日前,央行成都分行營業管理部行政處罰信息公示表顯示,因違反信用信息采集、提供、查詢及相關管理規定,四川錦程消費金融有限責任公司(簡稱:錦程消費金融)遭罰款22.6萬元。金融虎網注意到,就在今日,何德好出任錦程消費金融總裁的任職資格獲得了批復?!?/div>
      • 良心平臺!切記P2P平臺有最新動態 24號支付已經開通
        0閱讀 0條評論 個贊
        深圳P2P平臺“隨手記”發布了關于平臺開啟第二十四期兌付的公告。本月將于2022年5月24日對未選擇“銀行利率快速退出”的其他通用方案出借人進行兌付?!?/div>
      • 湖北小金2021年前三季度線下業務余額超過線上業務 時隔20年凈利潤縮水
        1閱讀 0條評論 個贊
        湖北消金此前申請注冊未來兩年“楚贏”系列個人消費貸款資產支持證券,計劃分3至6期發行,申請規模為25億元?!?/div>
      • 中央紀委國家監委公開通報:中信銀行廣州分行原黨委書記、行長謝宏儒被雙開
        1閱讀 0條評論 個贊
        中信銀行(4.900, -0.19, -3.73%)廣州分行原黨委書記、行長謝宏儒違規收受禮品、禮金,接受可能影響公正執行公務的宴請,違規公款購買、贈送高檔酒水和禮品等問題。2013年至2020年,謝宏儒多次收受管理和服務對象等24人所送禮品、禮金折合共計178.94萬元;多次接受私營企業主在企業內部場所安排的宴請;公款購買高檔酒水、金條等禮品用于業務招待和個人自用,費用共計556.84萬元通過虛列開支等方式報銷;公款支付其個人車輛維修、加油等費用,共計6.43萬元。謝宏儒還存在其他嚴重違紀違法問題。20……
      • 利差繼續收窄 頭部城商行加速零售業務
        1閱讀 0條評論 個贊
        因此我們看到,2021年,頭部城商行的利息收入仍然保持很大的增幅。但隨著息差持續收窄,以及經濟運行中不確定因素的增加,這一策略在2022年是否奏效,還存在很大的不確定性?!?/div>
      • 茅臺五糧液產品安全質量“拉臀”?MSCI的ESG指數可信嗎?
        6閱讀 0條評論 個贊
        中國白酒企業的確沒有MSCI評價的那么差,但也的確存在提升空間。無論未來經濟利益還是可持續發展,向做得好的國外企業學習,都是有益的?!?/div>
      • JD.COM科技港股失???財務屬性是關鍵
        3閱讀 0條評論 個贊
        有媒體報道稱,其未獲監管批準,原計劃在3月底向香港證券交易所提交上市文件,預計籌集多達20億美元?!?/div>
      • 微服務架構下基于Prometheus構建綜合監控平臺的最佳實踐
        2閱讀 0條評論 個贊
        隨著Prometheus逐漸成為云原生時代的可觀測事實標準,那么今天為大家帶來在微服務架構下基于Prometheus構建一體化監控平臺的最佳實踐和一些相關的思考,內容主要包括以下幾個部分:微服……
      • 如何優化?優化seo執行者不可忽視的幾個方面
        1閱讀 0條評論 個贊
        為了更好的迎合消費者的需求,眾多中小型企業開始緊抓當下互聯網潮流趨勢,將網絡作為企業產品或服務銷售的一個新的突破口,來實現企業社會和經濟效益的有效提升。而想要充分挖掘自身企業的網絡商機,重點當然是做好網絡營銷了。那么如何做好優化?下面我們來了解下吧……
      • 尹暢消費金融2021年收入同比下降15% 凈利潤2.24億元 去年消費者投訴601件 催收糾紛占45%
        1閱讀 0條評論 個贊
        近日,長安銀行公布2021年年度報告披露了控股子公司陜西長銀消費金融有限公司(簡稱:長銀消費金融)的經營業績。2021年,長銀消金營業收入9.8億元同比下降15%,凈利潤2.24億元同比增長10.3%,資產合計144.69億元,負債合計127.35億元?!?/div>
      • 記得服務器被黑過一次 沒想到能輕松搞定~
        1閱讀 0條評論 個贊
        常在河邊走,哪能不濕鞋。自認為安全防范意識不錯,沒想到服務器被入侵挖礦的事情也能落到自己頭上。本文簡要記錄發現服務器被入侵挖礦的過程,同時分析木馬的痕跡和信息,最后給出解決方法。服務器被入侵挖礦過程事……
      • 88只中概股被SEC新增“預退市”名單:多家公司響應殼牌回歸港股計劃
        1閱讀 0條評論 個贊
        金融虎網注意到,88家中概股公司名單幾乎涉及了通訊、互聯網、教育、汽車、電商、金融等各個行業。在金融科技領域,迅雷、水滴公司、樂信、趣店、泛華、慧擇保險、嘉楠科技等也均被納入了此名單?!?/div>
      • 辭職近4年的建行女高管被調查
        1閱讀 0條評論 個贊
        曾任建行部門總……
      • 60年3月發布年報:營業收入約108.86億元 安防業務增長超七成
        2閱讀 0條評論 個贊
        4月21日,三六零安全科技股份有限公司(以下簡稱“360”)發布2021年度業績公告,報告期內,公司實現營業收入約108.86億元,實現歸屬于上市公司股東的凈利潤約為9.02億元?!?/div>
      • 樂華娛樂香港IPO:易博人能走多遠?
        2閱讀 0條評論 個贊
        這家超八成營收依賴藝人管理項目的公司能否撐起內娛半邊天?……
      最近發布資訊
      更多
      警花高潮嗷嗷叫
      <del id="nnjnj"></del><track id="nnjnj"></track>

      <p id="nnjnj"></p>

      <address id="nnjnj"></address>

        <pre id="nnjnj"><pre id="nnjnj"></pre></pre>

          <noframes id="nnjnj"><ruby id="nnjnj"><ruby id="nnjnj"></ruby></ruby>