ps://img.21ic.com/weixin/2020/6/BVNj6n.jpeg">
作者介紹
符強,新炬網(wǎng)絡(luò)DevOps專家,從事IT行業(yè)10余年,擁有豐富的開發(fā)、測試、運維工作經(jīng)驗?,F(xiàn)致力于DevOps相關(guān)建設(shè)與實施推廣的研究,具有多個大型電信、金融企業(yè)DevOps項目經(jīng)驗。
DevOps的作用
傳統(tǒng)企業(yè)級IT產(chǎn)品具有規(guī)模大、開發(fā)人數(shù)多、技術(shù)水平相對落后的缺點,每一代產(chǎn)品從源代碼構(gòu)建、測試到發(fā)布的過程都會跨越組織內(nèi)部多個相對分離的領(lǐng)域,且產(chǎn)品開發(fā)完全外包,對產(chǎn)品迭代速度、交付質(zhì)量有較大影響。因此,需要一種方法和技術(shù):
能夠有效縮短提交代碼到正式部署上線的時間,降低風險;
能夠自動地、快速地提供反饋,以便及時發(fā)現(xiàn)和修復缺陷;
能夠讓整個交付過程變得可靠、可預(yù)期、可視化。
企業(yè)引入DevOps理念,努力將支撐系統(tǒng)傳統(tǒng)開發(fā)模式和系統(tǒng)運營方式向以業(yè)務(wù)價值為導向的開發(fā)運營融合模式轉(zhuǎn)型。以平臺形式固化開發(fā)運營一體化框架體系的流程,打通從敏捷需求管理、配置管理、個人構(gòu)建、版本構(gòu)建、系統(tǒng)測試、上線發(fā)布及產(chǎn)品運營的產(chǎn)品全生命周期,實現(xiàn)了產(chǎn)品全流程可視化、評價指標規(guī)范化、產(chǎn)品運營可持續(xù)化。
提供軟件開發(fā)全生命周期管理和流程自動化,逐步解決研發(fā)、QA、運維三者之間的矛盾,促進產(chǎn)品需求快速響應(yīng)、版本快速迭代、流程更清晰、管理可視可控等。
以上簡單交代了DevOps的作用,下面詳細講述一個筆者經(jīng)歷過的DevOps實踐案例。
DevOps持續(xù)交付實踐
以一家金融企業(yè)為背景的案例,該企業(yè)有各類項目500+,開發(fā)人員1000+。技術(shù)棧百花齊放,有JAVA、NPM、Python、Scala、GO等。以JAVA技術(shù)為例,有MAVEN、ANT編譯、容器,有微服務(wù)、父子工程、傳統(tǒng)技術(shù)架構(gòu),有配置分離與不分離的差別等。
由于歷史原因,環(huán)境也存在差異,部分項目有SIT、UAT,部分項目只有SIT。制品提交生產(chǎn)的過程由各個項目組負責,不統(tǒng)一、標準化難落地??梢哉f國內(nèi)大多數(shù)大中型企業(yè)都有類似情況。
綜上所述,在集中、統(tǒng)一管理的前提下,如何快速、有效、穩(wěn)定地給生產(chǎn)提供制品成為了首要目標。
先對比一下持續(xù)交付實施前后的情況,按客戶要求,一次完整的制品交付應(yīng)該包括:
拉取代碼>>編譯打包>>部署SIT>>通知SIT測試>>部署UAT>>通知UAT測試 >>提升生產(chǎn)
實施前:每個項目需要一個專人,一次交付大約需要3小時,如果出現(xiàn)錯誤,大約0.5-1天不等,人為誤操作無法避免,規(guī)范、標準難落地。
實施后:一鍵觸發(fā)無需專人,一次交付大約需要30分鐘,不會有人為誤操作,標準化流水線。單次交付時間能夠減少2.5小時左右,交付效率大約提高6倍。
接入各類變更頻繁的項目150+,工程數(shù)量800+,管理10000+制品,持續(xù)交付流水線已運行70000+次,月均運行超過10000+次,基本實現(xiàn)了快速、有效、穩(wěn)定地給生產(chǎn)提供制品的目標,當然,我們還在不斷改善中……
DevOps是一個較大的概念,持續(xù)交付只是一個組成部分。
關(guān)注持續(xù)交付,不同的企業(yè)、不同的團隊站在不同的角度存在不同的定義。本文只是從軟件研發(fā)的技術(shù)角度進行定義:
持續(xù)交付(Continuous delivery)指的是,頻繁地將軟件的新版本,交付給質(zhì)量團隊或者用戶,以供評審。如果評審通過,制品(也就是常說的程序包)就進入生產(chǎn)階段。
看下圖勝過千言萬語:
客戶在做持續(xù)交付前遇到的主要問題如下:
缺乏統(tǒng)一標準,各個項目組自行交付,需要熟悉本項目情況的專人負責,專人不在就影響交付;
交付規(guī)范難落地、難監(jiān)管,例如程序包變更不通過編譯打包,而是手工替換變更文件;變更后不再經(jīng)過測試評審等等,常有發(fā)生;
測試程序包與生產(chǎn)程序包代碼來源不一致,導致問題流向生產(chǎn);
程序包沒有按照標準目錄存放,或者版本號錯誤,導致生產(chǎn)拿錯了程序包;
跨團隊交互效率低,例如開發(fā)團隊、測試團隊、驗收團隊相互通知不及時等。
當然還有其他問題,篇幅原因就不一一羅列了。
面對各種各樣的問題,在這里跟大家分享幾個主要的持續(xù)交付建設(shè)思路:
一、一次構(gòu)建打包(Automaktic Delivery):在測試、UAT、生產(chǎn)等環(huán)境的流轉(zhuǎn)過程中,只打包一次,軟件包按順序交付到各個環(huán)境,最終發(fā)布生產(chǎn)
為了讓交付標準能夠落地,不再只是一個Word文檔,我們先控制了交付流水線的源頭,不再像使用開源Jenkins一樣,可以自由創(chuàng)建。對于納入交付標準的交付方式,都會為其創(chuàng)建對應(yīng)的模板,項目接入后,可以根據(jù)自己的情況,選擇不同的模板使用,交付過程只需要一鍵觸發(fā),不再依賴專人實施。
基于可選模板的流水線創(chuàng)建的實現(xiàn)技術(shù)邏輯如下:
創(chuàng)建流水線模板時,會根據(jù)環(huán)境來定義出模板的歸屬:如sit集成測試環(huán)境、uat業(yè)務(wù)測試環(huán)境、sit和uat的聯(lián)合測試環(huán)境。
流水線模板以項目工程的編譯構(gòu)建工具的類型來區(qū)分屬性,如maven屬性模板、ant屬性模板。
用戶可根據(jù)實際的軟件上線的場景,定義自己所需的流水線常用節(jié)點階段。
創(chuàng)建流水線時,可以根據(jù)環(huán)境屬性和構(gòu)建類型來選擇對應(yīng)的模板,節(jié)省了重復配置流水線的時間。
在創(chuàng)建流水線時,如果工程的屬性是單制品,生成會是一條流水線;如果工程的屬性是多制品,生成會是兩條流水線;如果工程屬性是應(yīng)用配置未分離,生成的流水線會是多個編譯命令的場景;如果工程屬性是應(yīng)用配置分離,生成的流水線會是一個編譯命令的場景。
二、制品存放、流轉(zhuǎn)規(guī)則對操作人員透明
持續(xù)交付會頻繁地產(chǎn)出制品,但并不是每一個制品都能推給生產(chǎn),面對成千上萬的制品如何存放才不會導致混亂,如何確保制品從開發(fā)到測試、從測試到驗收,最后推給生產(chǎn)的過程是正確的,是需要有一套完備、細致的規(guī)則進行約束的。由于這一塊工作繁重且容易出錯,人力管理很難滿足要求,所以在這里分享一下我們的做法。
首先是制品存放,從如下四個部分考慮存放規(guī)則:
team:產(chǎn)品或團隊、組織結(jié)構(gòu)名稱作為項目的主要標識符;
technology:使用的技術(shù),工具或包的類型,例如maven、npm等;
maturity:軟件包生命周期,例如開發(fā)、測試和發(fā)布階段等;
version:版本。
例如:研發(fā)中心運維項目組—NPM技術(shù)—SIT測試—V1.0
那么這樣的存放方式可以方便從不同角度快速定位需要的制品。
其次,為了保證軟件上線部署準確性,每一個業(yè)務(wù)版本對應(yīng)的是正確的制品包,一套自動化制品生命周期管理方法尤為重要,參考下圖:
在研發(fā)階段,代碼檢出時,根據(jù)工程的屬性,如是應(yīng)用配置未分離的情況,每次編譯構(gòu)建的時候,會出來各個環(huán)境制品,有多少個環(huán)境就有多少個制品,例如:dev(開發(fā)環(huán)境)的制品、sit(集成測試環(huán)境)的制品、uat(業(yè)務(wù)測試環(huán)境)的制品、pre(預(yù)生產(chǎn)環(huán)境)的制品,這些制品會存放在開發(fā)階段的指定制品倉庫中,當開發(fā)人員測試通過后,流水線會自動將在開發(fā)階段倉庫里的sit制品提升至sit測試的制品倉庫里;當測試人員測試通過后,會將開發(fā)階段倉庫里的uat制品提升到uat制品倉庫里;當業(yè)務(wù)測試人員測試通過后,會將開發(fā)階段倉庫里的pre制品提升到預(yù)發(fā)布庫。
如是配置應(yīng)用已分離的情況,只會編譯出來一個制品,流水線的制品整體生命周期就只會針對該制品進行流轉(zhuǎn),當開發(fā)人員、測試人員完成之后,制品會相應(yīng)提升至預(yù)發(fā)布庫。
制品在提升到預(yù)發(fā)庫時,項目經(jīng)理會針對這次上線進行質(zhì)量關(guān)卡的把關(guān),同時會將此次制品全生命周期涉及到部署次數(shù)、構(gòu)建信息、測試信息、質(zhì)量代碼等信息,收集到一起,作為上線發(fā)布的依據(jù),如果項目經(jīng)理擔心制品流轉(zhuǎn)出錯,還可以通過MD5進行比對,按照如下流程:
例如用sit制品與提交生產(chǎn)的prod制品比對,對比文件差異如下圖:
查看詳細的差異:
三、線上跨團隊交互,記錄交互節(jié)點信息
如下圖,先看看跨團交互節(jié)點:
沒錯了,這里交互的節(jié)點就是提交測試人員、應(yīng)用程序包審核、應(yīng)用程序包提升,以提交測試人員為例,簡單功能描述如下:
開發(fā)者提交測試人員:開發(fā)人員在完成代碼提交、編譯部署流程后,使用提測功能供郵件通知提交測試人員進行測試。
開發(fā)人員——>提交測試人員——>測試人員
測試者提交業(yè)務(wù)人員:測試人員完成測試后,如果不通過,則線下通知開發(fā)人員修復;如果通過,則使用提測功能郵件通知業(yè)務(wù)人員進行驗收測試。
測試人員——>提交業(yè)務(wù)人員——>業(yè)務(wù)人員
大家可能會想,這就是一個簡單的通知功能,能有多大作用?別小看了,效果有兩個:
通知的內(nèi)容涉及需求版本、有多少個制品、測試是否達標等專業(yè)信息,自動通知只需要填寫收件人的信息即可,大大降低了對操作人員專業(yè)技能的要求;
大大縮短了跨團隊協(xié)作的碎片等待時間,效率得到提升。
以上是我們持續(xù)交付的經(jīng)驗分享,持續(xù)交付方式多種多樣,能解決客戶痛點,提升效率與質(zhì)量,減少交互過程中的等待時間就是好辦法。
特別推薦一個分享架構(gòu)+算法的優(yōu)質(zhì)內(nèi)容,還沒關(guān)注的小伙伴,可以長按關(guān)注一下:
長按訂閱更多精彩▼
ps://img.21ic.com/weixin/2020/6/jAFvIz.jpeg">
如有收獲,點個在看,誠摯感謝
免責聲明:本文內(nèi)容由21ic獲得授權(quán)后發(fā)布,版權(quán)歸原作者所有,本平臺僅提供信息存儲服務(wù)。文章僅代表作者個人觀點,不代表本平臺立場,如有問題,請聯(lián)系我們,謝謝!