作者:黃浩
一、案例
這一天,I項目組的一個迭代版本需要上線,這是一個大版本,需要全員現(xiàn)場支撐,并要求上線后三天待命。
1、不速之客,來者不善
而就在上線前兩天,即9月24日下午4點鐘,一直以來波瀾不驚有驚無險的性能優(yōu)化,突然被放了一個大招,某個頁面被測出了嚴重的性能問題,大致情況如下:
瞬間,大家都緊張起來了。
由于0926版本是公司級的大版本,不光是I項目組發(fā)布版本,H公司的其它系統(tǒng)也會同時發(fā)布版本。為了控制風險,會提前兩天凍結(jié)代碼。按照“不帶BUG上生產(chǎn)”的原則,我們必須要在版本凍結(jié)截至時(9月24日18點準)“斃”掉這個性能BUG單。而距離18點還不到2個小時。
PM在得知這一消息后也高度關(guān)注,責令優(yōu)化小組全力攻關(guān),要人給人。這樣,組長、模塊SE及我就組成了臨時應急小組。大家全力以赴,很快就把問題梳理出來了,大致如下:
該頁面加載共需要執(zhí)行8條SQL,單條SQL的執(zhí)行都不長,都在性能指標范圍內(nèi),但是加起來超過了5s;剩下的2s耗在頁面的邏輯處理。當時,組長當機立斷,一方面要求對這些SQL進行優(yōu)化,優(yōu)化到2s左右;另一方面將頁面的處理耗時降到1s內(nèi),這樣就能確保3s的性能要求。
SQL優(yōu)化任務自然落在我的頭上,8個SQL的代碼如下:
2、兵分兩路,把雞蛋放在兩個籃子里
看著這8個不長不短整整齊齊的SQL,我的第一反應是:一個頁面加載怎么會存在8個SQL語句?這8個SQL之間又有著什么樣的關(guān)聯(lián)關(guān)系?是否還可以合并成一個?
如果做SQL合并的話,就意味著我需要詳讀這8個SQL,但時間的指針已經(jīng)指在了17:00,離18:00下班不足一個小時。用中國足球賽事評論員的話說就是“現(xiàn)在留給中國對的時間已經(jīng)不多了”,已經(jīng)沒有時間讓我解讀這8個SQL;況且,即便能快速解讀,也未必能合并。
那么就要像組長提議的:尋求單個SQL的優(yōu)化突破。而8個SQL優(yōu)化到2秒,也就是說單個SQL平均耗時在0.25秒,這個壓力也是非常大的。
我在與組長簡短商議后,為了降低風險,不至于孤注一擲,做出了如下決定:兵分兩路,由我執(zhí)行合并方案,優(yōu)化小組的DBA負責單個SQL進行優(yōu)化。
3、原來如此,不過如此
按照以往的習慣,我肯定會先自己解讀這8個SQL,因為我相信別人的時間也是時間,能自己解決的盡量不要占用別人的時間。但這次不行了,因為時間不允許了,我必須要快速了解8個SQL的業(yè)務功能。
于是我跟SE表達了我訴求,SE立即安排了開發(fā)責任人跟我對接。在與開發(fā)人員長達20分鐘的溝通后,終于理清了這個8個SQL的邏輯與關(guān)系,如下:
查詢?nèi)蝿樟斜?,?個SQL,共耗時1s,主SQL,包括了count和詳情查詢責任人:4個SQL,共耗時3s,但是頁面自上而下共耗時5s查詢網(wǎng)絡節(jié)點:1個SQL共耗時0.5s這是個重大發(fā)現(xiàn):6s多的時間中,查詢責任人花費了5s,這是要重點照顧的對象。我繼續(xù)向開發(fā)責任人了解更多的信息:
“這四個SQL分別對應四類權(quán)限,權(quán)限的最小單元是實體DU,在任務列表中獲取的DU,先用第一個SQL判斷哪些DU具有第一類權(quán)限,比如有100個,那么傳入第二個SQL的DU就是90個DU,由此類推,知道完成了4類權(quán)限的判。”
聽完后,我豁然開朗,邏輯流程圖如下:
4、對癥下藥,一蹴而就
至此,我已成竹在胸。
四個SQL對應四種權(quán)限,如果我們把TASK_ID比作學生,把USER_ID比作班級,而將權(quán)限比作是學生選修的四門學科。那么“權(quán)限責任人查詢”就轉(zhuǎn)變成查詢當前班級每個學生最高分的科目。
這是典型的按優(yōu)先級排序后取最大值的需求。當前的方案是:
依次從DB中獲取四種權(quán)限對應的DU_ID;在JAVA中根據(jù)DB返回的權(quán)限判斷權(quán)限類型。該方案存在兩個性能瓶頸:
將權(quán)限數(shù)據(jù)從DB傳輸?shù)絁AVA服務器是要一定的成本開銷的;當JAVA拿到權(quán)限數(shù)據(jù)數(shù)據(jù)時,需要循環(huán)逐一歸集權(quán)限類型,這個過程也會帶來一定的性能問題。如果我們能將權(quán)限類別歸集放在DB中完成,即DB只需要返回當前用戶的DUID所屬權(quán)限類別即可,那么至少省卻了4次數(shù)據(jù)傳輸?shù)臅r耗。當然,權(quán)限類型歸集無論是放在DB還是JAVA,都是需要成本開銷,就看誰的算法更具優(yōu)勢。事實上Oracle則提供了完整的解決方案,即用rank over來實現(xiàn)優(yōu)先級排序。
此時時間已經(jīng)到了17:20,我來不及多想,立馬對查詢責任人的4個SQL進行合并改寫,合并后的SQL如下:
改寫后,放在DB中執(zhí)行,耗時0.98秒。這意味著,責任人查詢從5s成功降到了1s內(nèi),足足下降了4s;這樣,整體上也完全滿足性能要求。
我在17:25將SQL移交給了開發(fā),留給開發(fā)人員35分鐘時間去開發(fā)驗證。
結(jié)果自然是皆大歡喜,項目順利上線。
二、心得
1、學無止境的態(tài)度
當SE拿到我合并的SQL后,滿臉的疑惑:
接著我又詳細講解了Rank的功用和用法。SE長吁一聲說道:“早知道Oracle有如此“神器”,當初就也不用費老大勁在Java中做權(quán)限類型歸集了,還弄出了性能問題??磥碚娴氖菍W無止境呀?!?/p>
在此,我無意于苛求SE“早知如此,何必當初”,畢竟術(shù)業(yè)有專攻。唯一不解的是,偌大的一個項目組(近200人),居然沒有配置一名DB開發(fā)工程師。建表,寫SQL這些活都是由Java開發(fā)人員包辦。而在與Java開發(fā)工程師溝通中了解到,部分人員根本沒有SQL基礎(chǔ),更不用說是開發(fā)經(jīng)驗。而他們寫SQL的方式即簡單又粗暴,是從同事那里拿一個功能類似的SQL,直接在此基礎(chǔ)上修改,也不知道該SQL的具體含義。
這種現(xiàn)學現(xiàn)賣的方式也直接導致了很大的性能問題。正是因為確實了DB開發(fā)工程師的崗位配置,大大弱化了SQL功能,使得DB退化成為僅僅是數(shù)據(jù)存儲功能,失去了真正的核心:組織和管理功能。
作為不僅僅是世界500強的企業(yè),作為國內(nèi)代表頂尖開發(fā)水準的企業(yè),在企業(yè)管理系統(tǒng)的開發(fā)項目中,尚且不配置專職DB開發(fā)工程師,而其它企業(yè)的開發(fā)團隊的人員配置就更可想而知了。
2、點到為止的哲學
在組長的運籌帷幄下,性能優(yōu)化小組在緊張備戰(zhàn)1017版本性能攻關(guān)的同時,很好地保障了926版本的性能需求,使得926版本順利上線,I項目PM也揚眉吐氣了一把:在性能紅線上,終于沒有求爺爺告奶奶放一馬了。在926版本上線后,一方面為表謝意,另一方面也為1017版本打氣,PM宴請了小組成員,席間問起:
“真正的優(yōu)化,最大的空間還是在于從底層的模型設(shè)計,以及寫出規(guī)范和優(yōu)秀的SQL,因此應該在項目上配置專職的DBA………..”
“呃,黃工,這樣可不行,如果真的是這樣了,那你們干嘛呢?”
領(lǐng)導就是領(lǐng)導,不正面沖突,在輕描淡寫中已經(jīng)說明了一切,而后來我在內(nèi)部資料中看到“現(xiàn)固化,再僵化,后優(yōu)化”的流程策略時,就更明白了。
- 蜜度索驥:以跨模態(tài)檢索技術(shù)助力“企宣”向上生長
- 密態(tài)計算技術(shù)助力農(nóng)村普惠金融 螞蟻密算、網(wǎng)商銀行項目入選大數(shù)據(jù)“星河”案例
- 專利糾紛升級!Netflix就虛擬機專利侵權(quán)起訴博通及VMware
- 兩大難題發(fā)布!華為啟動2024奧林帕斯獎全球征集
- 2025年工業(yè)軟件市場格局:7個關(guān)鍵統(tǒng)計數(shù)據(jù)與分析
- Commvault持續(xù)業(yè)務策略:應對現(xiàn)代數(shù)據(jù)保護挑戰(zhàn)的新范式
- 2025年網(wǎng)絡安全主要趨勢
- 2025年值得關(guān)注的數(shù)據(jù)中心可持續(xù)發(fā)展趨勢
- 量子計算火熱,投資者又在大舉尋找“量子概念股”
- 從量子威脅到人工智能防御:2025年網(wǎng)絡安全將如何發(fā)展
- 后人工智能時代:2025年,在紛擾中重塑數(shù)據(jù)、洞察和行動
免責聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性,但不保證有關(guān)資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時,應及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明,并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實,溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。