這十種定時任務,真香!
前言
最近有幾個讀者私信給我,問我他們的業務場景,要用什么樣的定時任務。確實,在不用的業務場景下要用不同的定時任務,其實我們的選擇還是挺多的。我今天給大家總結10種非常實用的定時任務,總有一種是適合你的。
一. Linux自帶的定時任務
crontab
不知道你有沒有遇到過這種場景:有時需要臨時統計線上的數據,然后導出到excel表格中。這種需求有時較為復雜,光靠寫sql語句是無法滿足需求的,這就需要寫java代碼了。然后將該程序打成一個jar包,在線上環境執行,最后將生成的excel文件下載到本地。
為了減小對線上環境的影響,我們一般會選擇在凌晨1-2點,趁用戶量少的時候,執行統計程序。(其實凌晨4點左右,用戶才是最少的)
由于時間太晚了,我們完全沒必要守在那里等執行結果,一個定時任務就能可以搞定。
那么,這種情況用哪種定時任務更合適呢?
答案是:linux系統的crontab。(不過也不排除有些項目沒部署在linux系統中)
運行crontab -e,可以編輯定時器,然后加入如下命令:
0 2 * * * /usr/local/java/jdk1.8/bin/java -jar /data/app/tool.jar > /logs/tool.log &就可以在每天凌晨2點,定時執行tool.jar程序,并且把日志輸出到tool.log文件中。當然你也可以把后面的執行java程序的命令寫成shell腳本,更方便維護。
使用這種定時任務支持方便修改定時規則,有界面可以統一管理配置的各種定時腳本。
crontab命令的基本格式如下:
crontab [參數] [文件名]如果沒有指定文件名,則接收鍵盤上輸入的命令,并將它載入到crontab。
參數功能對照表如下:
參數 | 功能 |
-u | 指定用戶 |
-e | 編輯某個用戶的crontab文件內容 |
-l | 顯示某個用戶的crontab文件內容 |
-r | 刪除某用戶的crontab文件 |
-i | 刪除某用戶的crontab文件時需確認 |
以上參數,如果沒有使用-u指定用戶,則默認使用的當前用戶。
通過crontab -e命令編輯文件內容,具體語法如下:
[分] [小時] [日期] [月] [星期] 具體任務其中:
- 分,表示多少分鐘,范圍:0-59
- 小時,表示多少小時,范圍:0-23
- 日期,表示具體在哪一天,范圍:1-31
- 月,表示多少月,范圍:1-12
- 星期,表示多少周,范圍:0-7,0和7都代表星期日
還有一些特殊字符,比如:
*代表如何時間,比如:*1***表示每天凌晨1點執行。/代表每隔多久執行一次,比如:*/5 ****表示每隔5分鐘執行一次。,代表支持多個,比如:10 7,9,12 ***表示在每天的7、9、12點10分各執行一次。-代表支持一個范圍,比如:10 7-9 ***表示在每天的7、8、9點10分各執行一次。
此外,順便說一下crontab需要crond服務支持,crond是linux下用來周期地執行某種任務的一個守護進程,在安裝linux操作系統后,默認會安裝crond服務工具,且crond服務默認就是自啟動的。crond進程每分鐘會定期檢查是否有要執行的任務,如果有,則會自動執行該任務。
可以通過以下命令操作相關服務:
service crond status // 查看運行狀態
service crond start //啟動服務
service crond stop //關閉服務
service crond restart //重啟服務
service crond reload //重新載入配置使用crontab的優缺點:
- 優點:方便修改定時規則,支持一些較復雜的定時規則,通過文件可以統一管理配好的各種定時腳本。
- 缺點:如果定時任務非常多,不太好找,而且必須要求操作系統是
linux,否則無法執行。
二. jdk自帶的定時任務
1.Thread
各位親愛的朋友,你沒看錯,Thread類真的能做定時任務。如果你看過一些定時任務框架的源碼,你最后會發現,它們的底層也會使用Thread類。
實現這種定時任務的具體代碼如下:
public static void init() {
new Thread(() -> {
while (true) {
try {
System.out.println("doSameThing");
Thread.sleep(1000 * 60 * 5);
} catch (Exception e) {
log.error(e);
}
}
}).start();
}使用Thread類可以做最簡單的定時任務,在run方法中有個while的死循環(當然還有其他方式),執行我們自己的任務。有個需要特別注意的地方是,需要用try...catch捕獲異常,否則如果出現異常,就直接退出循環,下次將無法繼續執行了。
這種方式做的定時任務,只能周期性執行,不能支持定時在某個時間點執行。
此外,該線程可以定義成守護線程,在后臺默默執行就好。
使用場景:比如項目中有時需要每隔10分鐘去下載某個文件,或者每隔5分鐘去讀取模板文件生成靜態html頁面等等,一些簡單的周期性任務場景。
使用Thread類的優缺點:
- 優點:這種定時任務非常簡單,學習成本低,容易入手,對于那些簡單的周期性任務,是個不錯的選擇。
- 缺點:不支持指定某個時間點執行任務,不支持延遲執行等操作,功能過于單一,無法應對一些較為復雜的場景。
2.Timer
Timer類是jdk專門提供的定時器工具,用來在后臺線程計劃執行指定任務,在java.util包下,要跟TimerTask一起配合使用。
圖片
Timer類其實是一個任務調度器,它里面包含了一個TimerThread線程,在這個線程中無限循環從TaskQueue中獲取TimerTask(該類實現了Runnable接口),調用其run方法,就能異步執行定時任務。我們需要繼承TimerTask類,實現它的run方法,在該方法中加上自己的業務邏輯。
實現這種定時任務的具體代碼如下:
public class TimerTest {
public static void main(String[] args) {
Timer timer = new Timer();
timer.schedule(new TimerTask() {
@Override
public void run() {
System.out.println("doSomething");
}
},2000,1000);
}
}先實例化一個Timer類,然后調用它的schedule方法,在該方法中實例化TimerTask類,業務邏輯寫在run方法中。schedule方法最后的兩次參數分別表示:延遲時間 和 間隔時間,單位是毫秒。上面例子中,設置的定時任務是每隔1秒執行一次,延遲2秒執行。
主要包含6個方法:
schedule(TimerTask task, Date time), 指定任務task在指定時間time執行schedule(TimerTask task, long delay), 指定任務task在指定延遲delay后執行schedule(TimerTask task, Date firstTime,long period),指定任務task在指定時間firstTime執行后,進行重復固定延遲頻率peroid的執行schedule(TimerTask task, long delay, long period), 指定任務task 在指定延遲delay 后,進行重復固定延遲頻率peroid的執行scheduleAtFixedRate(TimerTask task,Date firstTime,long period), 指定任務task在指定時間firstTime執行后,進行重復固定延遲頻率peroid的執行scheduleAtFixedRate(TimerTask task, long delay, long period), 指定任務task 在指定延遲delay 后,進行重復固定延遲頻率peroid的執行
不過使用Timer實現定時任務有以下問題:
- 由于
Timer是單線程執行任務,如果其中一個任務耗時非常長,會影響其他任務的執行。 - 如果
TimerTask拋出RuntimeException,Timer會停止所有任務的運行。
使用Timer類的優缺點:
- 優點:非常方便實現多個周期性的定時任務,并且支持延遲執行,還支持在指定時間之后支持,功能還算強大。
- 缺點:如果其中一個任務耗時非常長,會影響其他任務的執行。并且如果
TimerTask拋出RuntimeException,Timer會停止所有任務的運行,所以阿里巴巴開發者規范中不建議使用它。
3.ScheduledExecutorService
ScheduledExecutorService是JDK1.5+版本引進的定時任務,該類位于java.util.concurrent并發包下。
ScheduledExecutorService是基于多線程的,設計的初衷是為了解決Timer單線程執行,多個任務之間會互相影響的問題。
它主要包含4個方法:
schedule(Runnable command,long delay,TimeUnit unit),帶延遲時間的調度,只執行一次,調度之后可通過Future.get()阻塞直至任務執行完畢。schedule(Callable<V> callable,long delay,TimeUnit unit),帶延遲時間的調度,只執行一次,調度之后可通過Future.get()阻塞直至任務執行完畢,并且可以獲取執行結果。scheduleAtFixedRate,表示以固定頻率執行的任務,如果當前任務耗時較多,超過定時周期period,則當前任務結束后會立即執行。scheduleWithFixedDelay,表示以固定延時執行任務,延時是相對當前任務結束為起點計算開始時間。
實現這種定時任務的具體代碼如下:
public class ScheduleExecutorTest {
public static void main(String[] args) {
ScheduledExecutorService scheduledExecutorService = Executors.newScheduledThreadPool(5);
scheduledExecutorService.scheduleAtFixedRate(() -> {
System.out.println("doSomething");
},1000,1000, TimeUnit.MILLISECONDS);
}
}調用ScheduledExecutorService類的scheduleAtFixedRate方法實現周期性任務,每隔1秒鐘執行一次,每次延遲1秒再執行。
這種定時任務是阿里巴巴開發者規范中用來替代Timer類的方案,對于多線程執行周期性任務,是個不錯的選擇。
ScheduledExecutorService的優缺點:
- 優點:基于多線程的定時任務,多個任務之間不會相關影響,支持周期性的執行任務,并且帶延遲功能。
- 缺點:不支持一些較復雜的定時規則。
三. spring支持的定時任務
1.spring task
spring task是spring3以上版本自帶的定時任務,實現定時任務的功能時,需要引入spring-context包,目前它支持:xml 和 注解 兩種方式。
1)項目實戰
由于xml方式太古老了,我們以springboot項目中注解方式為例。
第一步,在pom.xml文件中引入spring-context相關依賴。
<dependency>
<groupId>org.springframework</groupId>
<artifactId>spring-context</artifactId>
</dependency>第二步,在springboot啟動類上加上@EnableScheduling注解。
@EnableScheduling
@SpringBootApplication
public class Application {
public static void main(String[] args) {
new SpringApplicationBuilder(Application.class).web(WebApplicationType.SERVLET).run(args);
}
}第三步,使用@Scheduled注解定義定時規則。
@Service
public class SpringTaskTest {
@Scheduled(cron = "${sue.spring.task.cron}")
public void fun() {
System.out.println("doSomething");
}
}第四步,在applicationContext.properties文件中配置參數:
sue.spring.task.crnotallow=*/10 * * * * ?這樣就能每隔10秒執行一次fun方法了。
2)cron規則
spring4以上的版本中,cron表達式包含6個參數:
[秒] [分] [時] [日期] [月] [星期]還支持幾個常用的特殊符號:
*:表示任何時間觸發任務,:表示指定的時間觸發任務-:表示一段時間內觸發任務/:表示從哪一個時刻開始,每隔多長時間觸發一次任務。?:表示用于月中的天和周中的天兩個子表達式,表示不指定值。
cron表達式參數具體含義:
- 秒,取值范圍:0-59,支持
*、,、-、/。 - 分,取值范圍:0-59,支持
*、,、-、/。 - 時,取值范圍:0-23,支持
*、,、-、/。 - 日期,取值范圍:1-31,支持
*、,、-、/。比秒多了?,表示如果指定的星期觸發了,則配置的日期變成無效。 - 月,取值范圍:1-12,支持
*、,、-、/。 - 星期,取值范圍:1~7,1代表星期天,6代表星期六,其他的以此類推。支持
*、,、-、/、?。比秒多了?,表示如果指定的日期觸發了,則配置的星期變成無效。
常見cron表達式使用舉例:
0 0 0 1 * ?每月1號零點執行0 0 2 * * ?每天凌晨2點執行0 0 2 * * ?每天凌晨2點執行0 0/5 11 * * ?每天11點-11點55分,每隔5分鐘執行一次0 0 18 ? * WED每周三下午6點執行
spring task先通過ScheduledAnnotationBeanPostProcessor類的processScheduled方法,解析和收集Scheduled注解中的參數,包含:cron表達式。
然后在ScheduledTaskRegistrar類的afterPropertiesSet方法中,默認初始化一個單線程的ThreadPoolExecutor執行任務。
使用spring task的優缺點:
- 優點:spring框架自帶的定時功能,springboot做了非常好的封裝,開啟和定義定時任務非常容易,支持復雜的
cron表達式,可以滿足絕大多數單機版的業務場景。單個任務時,當前次的調度完成后,再執行下一次任務調度。 - 缺點:默認單線程,如果前面的任務執行時間太長,對后面任務的執行有影響。不支持集群方式部署,不能做數據存儲型定時任務。
2.spring quartz
quartz是OpenSymphony開源組織在Job scheduling領域的開源項目,是由java開發的一個開源的任務日程管理系統。
quartz能做什么?
- 作業調度:調用各種框架的作業腳本,例如shell,hive等。
- 定時任務:在某一預定的時刻,執行你想要執行的任務。
架構圖如下:
圖片
quartz包含的主要接口如下:
Scheduler代表調度容器,一個調度容器中可以注冊多個JobDetail和Trigger。Job代表工作,即要執行的具體內容。JobDetail代表具體的可執行的調度程序,Job是這個可執行程調度程序所要執行的內容。JobBuilder用于定義或構建JobDetail實例。Trigger代表調度觸發器,決定什么時候去調。TriggerBuilder用于定義或構建觸發器。JobStore用于存儲作業和任務調度期間的狀態。
1)項目實戰
我們還是以springboot集成quartz為例。
第一步,在pom.xml文件中引入quartz相關依賴。
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-quartz</artifactId>
</dependency>第二步,創建真正的定時任務執行類,該類繼承QuartzJobBean。
public class QuartzTestJob extends QuartzJobBean {
@Override
protected void executeInternal(JobExecutionContext context) throws JobExecutionException {
String userName = (String) context.getJobDetail().getJobDataMap().get("userName");
System.out.println("userName:" + userName);
}
}第三步,創建調度程序JobDetail和調度器Trigger。
@Configuration
publicclass QuartzConfig {
@Value("${sue.spring.quartz.cron}")
private String testCron;
/**
* 創建定時任務
*/
@Bean
public JobDetail quartzTestDetail() {
JobDetail jobDetail = JobBuilder.newJob(QuartzTestJob.class)
.withIdentity("quartzTestDetail", "QUARTZ_TEST")
.usingJobData("userName", "susan")
.storeDurably()
.build();
return jobDetail;
}
/**
* 創建觸發器
*/
@Bean
public Trigger quartzTestJobTrigger() {
//每隔5秒執行一次
CronScheduleBuilder cronScheduleBuilder = CronScheduleBuilder.cronSchedule(testCron);
//創建觸發器
Trigger trigger = TriggerBuilder.newTrigger()
.forJob(quartzTestDetail())
.withIdentity("quartzTestJobTrigger", "QUARTZ_TEST_JOB_TRIGGER")
.withSchedule(cronScheduleBuilder)
.build();
return trigger;
}
}第四步,在applicationContext.properties文件中配置參數:
sue.spring.quartz.crnotallow=*/5 * * * * ?這樣就能每隔5秒執行一次QuartzTestJob類的executeInternal方法了。
CronTrigger配置格式:
[秒] [分] [小時] [日] [月] [周] [年]spring quartz跟spring task的cron表達式規則基本一致,只是spring4以上的版本去掉了后面的年,而quartz的CronTrigger的年是非必填的,這里我就不做過多介紹了。
使用spring quartz的優缺點:
- 優點:默認是多線程異步執行,單個任務時,在上一個調度未完成時,下一個調度時間到時,會另起一個線程開始新的調度,多個任務之間互不影響。支持復雜的
cron表達式,它能被集群實例化,支持分布式部署。 - 缺點:相對于spring task實現定時任務成本更高,需要手動配置
QuartzJobBean、JobDetail和Trigger等。需要引入了第三方的quartz包,有一定的學習成本。不支持并行調度,不支持失敗處理策略和動態分片的策略等。
四. 分布式定時任務
1.xxl-job
xxl-job是大眾點評(許雪里)開發的一個分布式任務調度平臺,其核心設計目標是開發迅速、學習簡單、輕量級、易擴展。現已開放源代碼并接入多家公司線上產品線,開箱即用。
xxl-job框架對quartz進行了擴展,使用mysql數據庫存儲數據,并且內置jetty作為RPC服務調用。
主要特點如下:
- 有界面維護定時任務和觸發規則,非常容易管理。
- 能動態啟動或停止任務
- 支持彈性擴容縮容
- 支持任務失敗報警
- 支持動態分片
- 支持故障轉移
- Rolling實時日志
- 支持用戶和權限管理
管理界面:
圖片
整體架構圖如下:
圖片
使用quartz架構圖如下:
圖片
項目實戰
xxl-admin管理后臺部署和mysql腳本執行等這些前期準備工作,我就不過多介紹了,有需求的朋友可以找我私聊,這些更偏向于運維的事情。
假設前期工作已經OK了,接下來我們需要:
第一步,在pom.xml文件中引入xxl-job相關依賴。
<dependency>
<groupId>com.xuxueli</groupId>
<artifactId>xxl-job-core</artifactId>
</dependency>第二步,在applicationContext.properties文件中配置參數:
xxl.job.admin.address: http://localhost:8088/xxl-job-admin/
xxl.job.executor.appname: xxl-job-executor-sample
xxl.job.executor.port: 8888
xxl.job.executor.logpath: /data/applogs/xxl-job/第三步,創建HelloJobHandler類繼承IJobHandler類:
@JobHandler(value = "helloJobHandler")
@Component
public class HelloJobHandler extends IJobHandler {
@Override
public ReturnT<String> execute(String param) {
System.out.println("XXL-JOB, Hello World.");
return SUCCESS;
}
}這樣定時任務就配置好了。
建議把定時任務單獨部署到另外一個服務中,跟api服務分開。根據我以往的經驗,job大部分情況下,會對數據做批量操作,如果操作的數據量太大,可能會對服務的內存和cpu資源造成一定的影響。
使用xxl-job的優缺點:
- 優點:有界面管理定時任務,支持彈性擴容縮容、動態分片、故障轉移、失敗報警等功能。它的功能非常強大,很多大廠在用,可以滿足絕大多數業務場景。
- 缺點:和
quartz一樣,通過數據庫分布式鎖,來控制任務不能重復執行。在任務非常多的情況下,有一些性能問題。
2.elastic-job
elastic-job是當當網開發的彈性分布式任務調度系統,功能豐富強大,采用zookeeper實現分布式協調,實現任務高可用以及分片。它是專門為高并發和復雜業務場景開發。
elastic-job目前是apache的shardingsphere項目下的一個子項目,官網地址:http://shardingsphere.apache.org/elasticjob/。
elastic-job在2.x之后,出了兩個產品線:Elastic-Job-Lite和Elastic-Job-Cloud,而我們一般使用Elastic-Job-Lite就能夠滿足需求。Elastic-Job-Lite定位為輕量級無中心化解決方案,使用jar包的形式提供分布式任務的協調服務,外部僅依賴于Zookeeper。。
主要特點如下:
- 分布式調度協調
- 彈性擴容縮容
- 失效轉移
- 錯過執行作業重觸發
- 作業分片一致性,保證同一分片在分布式環境中僅一個執行實例
- 自診斷并修復分布式不穩定造成的問題
- 支持并行調度
整體架構圖:
圖片
項目實戰
第一步,在pom.xml文件中引入elastic-job相關依賴。
<dependency>
<groupId>com.dangdang</groupId>
<artifactId>elastic-job-lite-core</artifactId>
</dependency>
<dependency>
<groupId>com.dangdang</groupId>
<artifactId>elastic-job-lite-spring</artifactId>
</dependency>第二步,增加ZKConfig類,配置zookeeper:
@Configuration
@ConditionalOnExpression("'${zk.serverList}'.length() > 0")
public class ZKConfig {
@Bean
public ZookeeperRegistryCenter registry(@Value("${zk.serverList}") String serverList,
@Value("${zk.namespace}") String namespace) {
return new ZookeeperRegistryCenter(new ZookeeperConfiguration(serverList, namespace));
}
}第三步,定義一個類實現SimpleJob接口:
public class TestJob implements SimpleJob {
@Override
public void execute(ShardingContext shardingContext){
System.out.println("ShardingTotalCount:"+shardingContext.getShardingTotalCount());
System.out.println("ShardingItem:"+shardingContext.getShardingItem());
}
}第四步,增加JobConfig配置任務:
@Configuration
publicclass JobConfig {
@Value("${sue.spring.elatisc.cron}")
private String testCron;
@Value("${sue.spring.elatisc.itemParameters}")
private String shardingItemParameters;
@Value("${sue.spring.elatisc.jobParameters}")
private String jobParameters =;
@Value("${sue.spring.elatisc.shardingTotalCount}")
privateint shardingTotalCount;
@Autowired
private ZookeeperRegistryCenter registryCenter;
@Bean
public SimpleJob testJob() {
returnnew TestJob();
}
@Bean
public JobScheduler simpleJobScheduler(final SimpleJob simpleJob) {
returnnew SpringJobScheduler(simpleJob, registryCenter, getConfiguration(simpleJob.getClass(),
cron, shardingTotalCount, shardingItemParameters, jobParameters));
}
private geConfiguration getConfiguration(Class<? extends SimpleJob> jobClass,String cron,int shardingTotalCount,String shardingItemParameters,String jobParameters) {
JobCoreConfiguration simpleCoreConfig = JobCoreConfiguration.newBuilder(jobClass.getName(), testCron, shardingTotalCount).
shardingItemParameters(shardingItemParameters).jobParameter(jobParameters).build();
SimpleJobConfiguration simpleJobConfig = new SimpleJobConfiguration(simpleCoreConfig, jobClass.getCanonicalName());
LiteJobConfiguration jobConfig = LiteJobConfiguration.newBuilder(simpleJobConfig).overwrite(true).build();
return jobConfig;
}
}其中:
- cron:cron表達式,定義觸發規則。
- shardingTotalCount:定義作業分片總數
- shardingItemParameters:定義分配項參數,一般用分片序列號和參數用等號分隔,多個鍵值對用逗號分隔,分片序列號從0開始,不可大于或等于作業分片總數。
- jobParameters:作業自定義參數
第五步,在applicationContext.properties文件中配置參數:
spring.application.name=elasticjobDemo
zk.serverList=localhost:2181
zk.namespace=elasticjobDemo
sue.spring.elatisc.crnotallow=0/5 * * * * ?
sue.spring.elatisc.itemParameters=0=A,1=B,2=C,3=D
sue.spring.elatisc.jobParameters=test
sue.spring.elatisc.shardingTotalCount=4這樣定時任務就配置好了,創建定時任務的步驟,相對于xxl-job來說要繁瑣一些。
使用elastic-job的優缺點:
- 優點:支持分布式調度協調,支持分片,適合高并發,和一些業務相對來說較復雜的場景。
- 缺點:需要依賴于zookeeper,實現定時任務相對于
xxl-job要復雜一些,要對分片規則非常熟悉。
3.其他分布式定時任務
1) Saturn
Saturn是唯品會開源的一個分布式任務調度平臺。取代傳統的Linux Cron/Spring Batch Job的方式,做到全域統一配置,統一監控,任務高可用以及分片并發處理。
Saturn是在當當開源的Elastic-Job基礎上,結合各方需求和我們的實踐見解改良而成。使用案例:唯品會、酷狗音樂、新網銀行、海融易、航美在線、量富征信等。
github地址:https://github.com/vipshop/Saturn/
2)TBSchedule
TBSchedule是阿里開發的一款分布式任務調度平臺,旨在將調度作業從業務系統中分離出來,降低或者是消除和業務系統的耦合度,進行高效異步任務處理。
目前被廣泛應用在阿里巴巴、淘寶、支付寶、京東、聚美、汽車之家、國美等很多互聯網企業的流程調度系統中。
github地址:https://github.com/taobao/TBSchedule
老實說優秀的定時任務還是挺多的,不是說哪種定時任務牛逼我們就一定要用哪種,而是要根據實際業務需求選擇。每種定時任務都有優缺點,合理選擇既能滿足業務需求,又能避免資源浪費,才是上上策。當然在實際的業務場景,通常會多種定時任務一起配合使用。
































