Руководство по Java ExecutorService

1. Обзор

ExecutorService - это структура, предоставляемая JDK, которая упрощает выполнение задач в асинхронном режиме. Вообще говоря, ExecutorService автоматически предоставляет пул потоков и API для назначения ему задач.

2. Создание экземпляра ExecutorService

2.1. Заводские методы класса Executors

Самый простой способ создать ExecutorService - использовать один из фабричных методов класса Executors .

Например, следующая строка кода создаст пул потоков из 10 потоков:

ExecutorService executor = Executors.newFixedThreadPool(10);

Есть несколько других фабричных методов для создания предопределенных ExecutorService , отвечающих конкретным вариантам использования. Чтобы найти лучший метод для ваших нужд, обратитесь к официальной документации Oracle.

2.2. Непосредственно создать ExecutorService

Поскольку ExecutorService - это интерфейс, можно использовать экземпляр любой его реализации. В пакете java.util.concurrent есть несколько реализаций на выбор, или вы можете создать свою собственную.

Например, класс ThreadPoolExecutor имеет несколько конструкторов, которые можно использовать для настройки службы исполнителя и его внутреннего пула.

ExecutorService executorService = new ThreadPoolExecutor(1, 1, 0L, TimeUnit.MILLISECONDS, new LinkedBlockingQueue());

Вы можете заметить, что приведенный выше код очень похож на исходный код фабричного метода newSingleThreadExecutor (). В большинстве случаев подробная ручная настройка не требуется.

3. Назначение задач ExecutorService

ExecutorService может выполнять задачи Runnable и Callable . Для простоты в этой статье мы будем использовать две примитивные задачи. Обратите внимание, что здесь используются лямбда-выражения вместо анонимных внутренних классов:

Runnable runnableTask = () -> { try { TimeUnit.MILLISECONDS.sleep(300); } catch (InterruptedException e) { e.printStackTrace(); } }; Callable callableTask = () -> { TimeUnit.MILLISECONDS.sleep(300); return "Task's execution"; }; List
    
      callableTasks = new ArrayList(); callableTasks.add(callableTask); callableTasks.add(callableTask); callableTasks.add(callableTask);
    

Задачи могут быть назначены ExecutorService с помощью нескольких методов, включая execute () , который наследуется от интерфейса Executor , а также submit () , invokeAny (), invokeAll ().

Выполнить () метод является недействительным, и это не дает возможности получить результат выполнения задачи или проверить статус выполнения задачи (как это работает или выполняется).

executorService.execute(runnableTask);

submit () отправляет задачу Callable или Runnable в ExecutorService и возвращает результат типа Future .

Future future = executorService.submit(callableTask);

invokeAny () назначает набор задач ExecutorService, вызывая выполнение каждой из них, и возвращает результат успешного выполнения одной задачи (если было успешное выполнение) .

String result = executorService.invokeAny(callableTasks);

invokeAll () назначает набор задач ExecutorService, вызывая выполнение каждой из них, и возвращает результат выполнения всех задач в виде списка объектов типа Future .

List
    
      futures = executorService.invokeAll(callableTasks);
    

Теперь, прежде чем двигаться дальше, необходимо обсудить еще две вещи: завершение работы ExecutorService и работу с возвращаемыми типами Future .

4. Завершение работы ExecutorService

Как правило, ExecutorService не будет автоматически уничтожен, если нет задачи для обработки. Он останется в живых и будет ждать новой работы.

В некоторых случаях это очень помогает; например, если приложению необходимо обрабатывать задачи, которые появляются нерегулярно, или количество этих задач неизвестно во время компиляции.

С другой стороны, приложение может достичь своего конца, но оно не будет остановлено, потому что ожидающая ExecutorService заставит JVM продолжать работу.

Чтобы правильно завершить работу ExecutorService , у нас есть API shutdown () и shutdownNow () .

Метод shutdown () не вызывает немедленного уничтожения ExecutorService. Это заставит ExecutorService перестать принимать новые задачи и отключиться после того, как все запущенные потоки завершат свою текущую работу.

executorService.shutdown();

Метод shutdownNow () пытается немедленно уничтожить ExecutorService , но он не гарантирует, что все запущенные потоки будут остановлены одновременно. Этот метод возвращает список задач, ожидающих обработки. Разработчик должен решить, что делать с этими задачами.

List notExecutedTasks = executorService.shutDownNow();

Один из хороших способов закрыть ExecutorService (который также рекомендуется Oracle) - использовать оба этих метода в сочетании с методом awaitTermination () . При таком подходе ExecutorService сначала перестанет принимать новые задачи, а затем будет ждать до указанного периода времени для завершения всех задач. По истечении этого времени выполнение немедленно останавливается:

executorService.shutdown(); try { if (!executorService.awaitTermination(800, TimeUnit.MILLISECONDS)) { executorService.shutdownNow(); } } catch (InterruptedException e) { executorService.shutdownNow(); }

5. Интерфейс будущего

The submit() and invokeAll() methods return an object or a collection of objects of type Future, which allows us to get the result of a task's execution or to check the task's status (is it running or executed).

The Future interface provides a special blocking method get() which returns an actual result of the Callable task's execution or null in the case of Runnable task. Calling the get() method while the task is still running will cause execution to block until the task is properly executed and the result is available.

Future future = executorService.submit(callableTask); String result = null; try { result = future.get(); } catch (InterruptedException | ExecutionException e) { e.printStackTrace(); }

With very long blocking caused by the get() method, an application's performance can degrade. If the resulting data is not crucial, it is possible to avoid such a problem by using timeouts:

String result = future.get(200, TimeUnit.MILLISECONDS);

If the execution period is longer than specified (in this case 200 milliseconds), a TimeoutException will be thrown.

The isDone() method can be used to check if the assigned task is already processed or not.

The Future interface also provides for the cancellation of task execution with the cancel() method, and to check the cancellation with isCancelled() method:

boolean canceled = future.cancel(true); boolean isCancelled = future.isCancelled();

6. The ScheduledExecutorService Interface

The ScheduledExecutorService runs tasks after some predefined delay and/or periodically. Once again, the best way to instantiate a ScheduledExecutorService is to use the factory methods of the Executors class.

For this section, a ScheduledExecutorService with one thread will be used:

ScheduledExecutorService executorService = Executors .newSingleThreadScheduledExecutor();

To schedule a single task's execution after a fixed delay, us the scheduled() method of the ScheduledExecutorService. There are two scheduled() methods that allow you to execute Runnable or Callable tasks:

Future resultFuture = executorService.schedule(callableTask, 1, TimeUnit.SECONDS);

The scheduleAtFixedRate() method lets execute a task periodically after a fixed delay. The code above delays for one second before executing callableTask.

The following block of code will execute a task after an initial delay of 100 milliseconds, and after that, it will execute the same task every 450 milliseconds. If the processor needs more time to execute an assigned task than the period parameter of the scheduleAtFixedRate() method, the ScheduledExecutorService will wait until the current task is completed before starting the next:

Future resultFuture = service .scheduleAtFixedRate(runnableTask, 100, 450, TimeUnit.MILLISECONDS);

If it is necessary to have a fixed length delay between iterations of the task, scheduleWithFixedDelay() should be used. For example, the following code will guarantee a 150-millisecond pause between the end of the current execution and the start of another one.

service.scheduleWithFixedDelay(task, 100, 150, TimeUnit.MILLISECONDS);

According to the scheduleAtFixedRate() and scheduleWithFixedDelay() method contracts, period execution of the task will end at the termination of the ExecutorService or if an exception is thrown during task execution.

7. ExecutorService vs. Fork/Join

After the release of Java 7, many developers decided that the ExecutorService framework should be replaced by the fork/join framework. This is not always the right decision, however. Despite the simplicity of usage and the frequent performance gains associated with fork/join, there is also a reduction in the amount of developer control over concurrent execution.

ExecutorService gives the developer the ability to control the number of generated threads and the granularity of tasks which should be executed by separate threads. The best use case for ExecutorService is the processing of independent tasks, such as transactions or requests according to the scheme “one thread for one task.”

In contrast, according to Oracle's documentation, fork/join was designed to speed up work which can be broken into smaller pieces recursively.

8. Conclusion

Even despite the relative simplicity of ExecutorService, there are a few common pitfalls. Let's summarize them:

Keeping an unused ExecutorService alive: There is a detailed explanation in section 4 of this article about how to shut down an ExecutorService;

Wrong thread-pool capacity while using fixed length thread-pool: It is very important to determine how many threads the application will need to execute tasks efficiently. A thread-pool that is too large will cause unnecessary overhead just to create threads which mostly will be in the waiting mode. Too few can make an application seem unresponsive because of long waiting periods for tasks in the queue;

Calling a Future‘s get() method after task cancellation: An attempt to get the result of an already canceled task will trigger a CancellationException.

Unexpectedly-long blocking with Future‘s get() method: Timeouts should be used to avoid unexpected waits.

Код для этой статьи доступен в репозитории GitHub.