點我達分散式任務排程系統-DaJob

單一應用架構

垂直應用架構

分散式服務架構

分散式任務排程

架構設計

特性

   支援動態暫停/恢復任務

    任務狀態停止時，任務將不再被觸發，若任務在執行過程中被暫停，則正在執行的任務不會被阻塞（由於任務執行結果狀態中存在超時失敗狀態，因此如果點選暫停按鈕時阻塞了當前正在執行的任務，會使當前任務的執行狀態變為超時，不符合超時狀態真正的意義），會延遲停止，即等到當前任務執行完再真正停止任務
    排程中心基於Quartz實現，透過Zookeeper實現主備隔離，保證排程中心HA
     當活躍節點宕機，冷備節點就會載入所有活躍節點中正在排程狀態的任務，成為新的活躍節點，保證任務排程的準確執行
    執行機支援叢集部署，任務分散式執行，透過排程中心統一排程
     執行機負載均衡，預設根據任務在某個執行機上的執行次數計算執行機排程權重，按照權重來選擇本次任務排程分發給哪臺執行機，實現負載均衡，可手動更改執行機選擇策略

執行機叢集方式,

failover,failfast,failsafe,failback,forking，預設為failover(故障切換)，呼叫失敗時，重試其他伺服器;failfast(快速失敗)，只會發起一次呼叫，不會重試，失敗立即報錯;failsafe(失敗安全)，出現異常時，直接忽略;failback(失敗恢復)，呼叫失敗時，定時重發，直到成功，重啟會丟失; forking，並行呼叫多個執行機，只要一個成功即傳回

   分片任務，支援任務分片，透過引數傳送給任務執行機，執行機可以透過判斷引數來進行分片作業的開發，同時支援動態分片，以分片引數和執行機為緯度進行分片，支援動態擴容執行機以及分片引數

    例如，某張訂單表按照訂單ID來進行簡單緯度分片，且以取模3來進行分片，則可以設定三個分片引數，(0，1，2)，執行機在透過context拿到其中的一個分片引數之後可以對該分片引數做判斷，來做具體的資料操作，例如當拿到的分片引數為0時，則對於0相應的分片做資料查詢操作，依次類推
    再例如，某張訂單表按照訂單ID和Status來進行二維分片，ID取模以3來進行分片，狀態以成功，失敗兩種狀態來進行分片，此時就可以設定6個分片引數，({‘id’:0,’status’:0},{‘id’:1,’status’:0},{‘id’:2,’status’:0},{‘id’:0,’status’:1},{‘id’:1,’status’:1},{‘id’:2,’status’:1}),執行機在透過context拿到其中的一個分片引數之後，就可以對其json引數進行判斷，來實現分片操作

   任務執行一致性，每次任務只會被一個執行機所執行;對於分片任務，在執行機叢集部署時，一次任務排程將會廣播觸發對應叢集中相應數量的執行器執行一次任務，同時傳遞分片引數，可根據分片引數開發分片任務。

    當分片引數大於執行器數量時，將會按照執行器路由策略，使得當前分片任務的某個或者某幾個執行機執行多個分片的任務

    例如：當前分片任務分片引數為(a,b,c),當前任務執行機有3臺(A,B,C)時，則會均勻隨機得將分片引數傳送給某一臺執行機，且三臺執行機一次只接收一個分片引數，做一次任務處理，即(a->A,b->B,c->C)|(a->A,b->C,c->B)|(a->B,b->A,c->C)|(a->B,b->C,c->A)|(a->C,b->A,c->B) |(a->C,b->B,c->A)；

     當任務執行機只有2臺(A,B)時，每次任務排程時，某臺執行機會收到兩個分片引數，並分別處理這兩個分片引數,即(a->A,b->B,c->A)|(a->A,b->B,c->B)|(a->B,b->A,c->A)|(a->B,b->A,c->B)；

     而當任務執行機大於分片引數個數，為4臺(A,B,C,D)時，(a->A,b->B,c->C)|(a->A,b->C,c->D)|(a->A,b->D,c->B)| (a->B,b->C,c->D)|(a->B,b->D,c->A)|(a->B,b->A,c->C)|(a->C,b->A,c->B)|(a->C,b->B,c->D)| (a->C,b->D,c->A)|(a->D,b->A,c->B)|(a->D,b->B,c->C)|(a->D,b->C,c->A)，而統計下來，不管是執行機數目大於或者等於或者小於分片引數數目，被分發給執行機的分片引數始終是保持一致的（每臺執行機接收到的總的分片引數是均勻的）

    告警系統，系統接入內部告警系統，任務失敗時支援郵件，簡訊，釘釘，電話等告警

    彈性擴容縮容，排程中心將會實時探測任務執行機，因此一旦有執行機上線或者下線，都將會被探測到，而如果未被排程中心探測到，則可以進行手動探測執行機，而在探測到執行機之後，下次排程將會重新分配任務
    任務依賴，支援配置任務依賴關係，當父任務在執行完成之後會自動觸發子任務的執行例如：有兩個任務，分別為A和B，而B的執行條件為確認A任務執行完，B才能執行，否則，B任務不執行，此時的依賴關係就是B任務依賴A任務，此時在A任務配置完之後，設定B任務為依賴任務，而依賴關係則是A；又例如有6個任務，分別是A1,A2,A3,A4,A5,B，而B任務的執行需要確保A1-5這5個任務都執行完，B任務才執行，此時，B的依賴關係就是B任務依賴於A1-5，此時在配置完A1-5這5個任務之後再設定B為依賴任務，依賴關係則是A1-5 

    支援執行時檢視任務執行情況，任務數量，呼叫次數，執行器數量等統計資訊
    異常執行恢復機制，有時會遇到不可控情況，即執行機在執行後的執行結果因為網路斷開等不可控因素導致不能傳送給排程中心，此時能透過異常執行恢復機制臨時記錄，在下次執行機正常啟動時重試傳送給排程中心
    排程手動觸發手動執行，特殊需求下，可能會要求排程可以手動執行，例如排程任務失敗之後可能需要手動執行一次排程來補償
    並行/序列策略，當定時時間遠大於任務執行時間時，可以使用並行策略，任務非同步呼叫執行，提高任務排程精確度;當任務執行時間可能大於定時時間，卻需要任務按照某個定時規則定時排程時，可以使用序列策略，排程中心排程的當前任務的上一次觸發，如果沒有執行完，則當前執行機的下一次定時時間點時不會被觸發，當且僅當任務執行結束，以防止某些持續性定時任務的時間不確定性導致非同步觸發時的資料混亂的情況發生，例如：某一任務的定時時間為10秒鐘，但是任務本身可能會出現執行超過10秒的情況，而超過時，如果出現兩個時間點的任務並行執行時會出現資料混亂的情況，此時就可以使用序列策略，確保當前執行機上一個任務未執行完，不會觸發新的執行
    支援排程介面資料監控，產生監控報表，便於觀測。