Поделиться через


Известная проблема. В центре мониторинга отображается неправильная длительность очереди

Задания Spark получают в очередь, когда использование емкости достигает максимального предела вычислений в Spark. После достижения ограничения задания добавляются в очередь. Затем задания обрабатываются, когда ядра становятся доступными в емкости. Эта возможность очереди включена для всех фоновых заданий в Spark, включая записные книжки Spark, активированные из планировщика заданий, конвейеров и определений заданий Spark. Длительность ожидания задания в очереди неправильно представлена в центре мониторинга в виде длительности очереди.

Состояние: открытие

Опыт работы с продуктом: Инжиниринг данных

Симптомы

Общая длительность задания, показанного в центре мониторинга, в настоящее время включает только время выполнения задания. Общая длительность не соответствует времени ожидания задания в очереди.

Решения и обходные пути

Когда задание находится в очереди, состояние отображается как "Не запущено " в представлении мониторинга. После запуска задания состояние обновляется в представлении мониторинга. Используйте индикатор состояния задания, чтобы узнать, когда задание находится в очереди и когда выполняется его выполнение.

Следующие шаги