Задержка в очереди (queueing delay) в телекоммуникациях и сетях: время ожидания задачи перед выполнением. Влияет на сетевые задержки и скорость соединения.
Сравнивайте с английским: нажмите на абзац — оригинал откроется в окне. Кнопка EN под абзацем показывает его прямо в тексте.
Содержание
Введение
В телекоммуникациях и компьютерной инженерии задержка в очереди (или время ожидания в очереди) – это время, в течение которого задача ожидает своей очереди на выполнение. Она является ключевым компонентом общей сетевой задержки. В коммутируемой сети задержка в очереди – это время между завершением сигнализации, инициированной вызывающей стороной, и моментом поступления сигнала вызова на принимающую сторону. Задержка в очереди может быть вызвана задержками на исходном коммутаторе, промежуточных коммутаторах или коммутаторе, обслуживающем принимающую сторону. В сети передачи данных задержка в очереди – это сумма задержек между запросом на обслуживание и установлением соединения с вызываемым терминальным оборудованием передачи данных (DTE). В сети с коммутацией пакетов задержка в очереди – это сумма задержек, возникающих у пакета между моментом его ввода в сеть и моментом доставки по адресу назначения.
In telecommunication and computer engineering, the queuing delay or queueing delay is the time a job waits in a queue until it can be executed. It is a key component of network delay. In a switched network, queuing delay is the time between the completion of signaling by the call originator and the arrival of a ringing signal at the call receiver. Queuing delay may be caused by delays at the originating switch, intermediate switches, or the call receiver servicing switch. In a data network, queuing delay is the sum of the delays between the request for service and the establishment of a circuit to the called data terminal equipment (DTE). In a packet switched network, queuing delay is the sum of the delays encountered by a packet between the time of insertion into the network and the time of delivery to the address.
Обработка маршрутизатора
Этот термин чаще всего используется в отношении маршрутизаторов. Когда пакеты поступают на маршрутизатор, они должны быть обработаны и переданы. Маршрутизатор может обрабатывать только один пакет за раз. Если пакеты поступают быстрее, чем маршрутизатор может их обработать (например, при пакетной передаче), маршрутизатор помещает их в очередь (также называемую буфером) до тех пор, пока не сможет их передать. Задержка также может варьироваться от пакета к пакету, поэтому при измерении и оценке задержки в очереди обычно генерируются средние значения и статистика. По мере заполнения очереди из-за трафика, поступающего быстрее, чем он может быть обработан, время задержки, испытываемое пакетом при прохождении через очередь, увеличивается. Скорость обработки содержимого очереди зависит от скорости передачи канала. Это приводит к классической кривой задержки. Средняя задержка, которую может испытать любой пакет, определяется формулой 1/(μ λ), где μ – это количество пакетов в секунду, которое может обработать канал, а λ – средняя скорость поступления пакетов на обслуживание. Эту формулу можно использовать, если пакеты не отбрасываются из очереди. Максимальная задержка в очереди пропорциональна размеру буфера. Чем длиннее очередь пакетов, ожидающих передачи, тем больше среднее время ожидания. Очередь пакетов на маршрутизаторе, ожидающих отправки, также является потенциальной причиной потери пакетов. Поскольку маршрутизатор имеет ограниченный объем буферной памяти для хранения очереди, маршрутизатор, принимающий пакеты с чрезмерно высокой скоростью, может столкнуться с переполнением очереди. В этом случае у маршрутизатора нет другого выбора, кроме как отбросить избыточные пакеты. Когда протокол передачи использует отбрасывание пакетов из-за заполненных буферов для регулирования скорости передачи, как это делает TCP в Интернете, пропускная способность справедливо распределяется при почти теоретической производительности с минимальными задержками, вызванными перегрузкой сети. Без этого механизма обратной связи задержки становятся непредсказуемыми и резко возрастают, что также наблюдается при приближении автомагистралей к предельной пропускной способности; регулируемые въезды на автомагистраль являются наиболее эффективным решением в этом случае, как и саморегулирование TCP является наиболее эффективным решением, когда трафик состоит из пакетов, а не автомобилей. Этот результат сложно смоделировать математически и довольно контринтуитивен для людей, не имеющих опыта в математике или реальных сетях. Отказ от отбрасывания пакетов и выбор буферизации постоянно растущего их числа приводит к раздуванию буфера (bufferbloat).
This term is most often used in reference to routers. When packets arrive at a router, they have to be processed and transmitted. A router can only process one packet at a time. If packets arrive faster than the router can process them (such as in a burst transmission) the router puts them into the queue (also called the buffer) until it can get around to transmitting them. Delay can also vary from packet to packet so averages and statistics are usually generated when measuring and evaluating queuing delay. As a queue begins to fill up due to traffic arriving faster than it can be processed, the amount of delay a packet experiences going through the queue increases. The speed at which the contents of a queue can be processed is a function of the transmission rate of the facility. This leads to the classic delay curve. The average delay any given packet is likely to experience is given by the formula 1/(μ λ) where μ is the number of packets per second the facility can sustain and λ is the average rate at which packets are arriving to be serviced. This formula can be used when no packets are dropped from the queue. The maximum queuing delay is proportional to buffer size. The longer the line of packets waiting to be transmitted, the longer the average waiting time is. The router queue of packets waiting to be sent also introduces a potential cause of packet loss. Since the router has a finite amount of buffer memory to hold the queue, a router which receives packets at too high a rate may experience a full queue. In this case, the router has no other option than to simply discard excess packets. When the transmission protocol uses the dropped packets symptom of filled buffers to regulate its transmit rate, as the Internet's TCP does, bandwidth is fairly shared at near theoretical capacity with minimal network congestion delays. Absent this feedback mechanism the delays become both unpredictable and rise sharply, a symptom also seen as freeways approach capacity; metered onramps are the most effective solution there, just as TCP's self regulation is the most effective solution when the traffic is packets instead of cars). This result is both hard to model mathematically and quite counterintuitive to people who lack experience with mathematics or real networks. Failing to drop packets, choosing instead to buffer an ever increasing number of them, produces bufferbloat.
Обозначение
В нотации Кендалла модель массового обслуживания M/M/1/K, где K – размер буфера, может быть использована для анализа задержки в очереди в конкретной системе. Нотация Кендалла должна применяться для расчета задержки в очереди при сбросе пакетов из очереди. Модель массового обслуживания M/M/1/K является наиболее фундаментальной и важной моделью для анализа сетей.
In Kendall's notation, the M/M/1/K queuing model, where K is the size of the buffer, may be used to analyze the queuing delay in a specific system. Kendall's notation should be used to calculate the queuing delay when packets are dropped from the queue. The M/M/1/K queuing model is the most basic and important queuing model for network analysis.