Cómo monitorear tu instancia de RabbitMQ para un rendimiento óptimo

RabbitMQ se encuentra entre tus productores y consumidores, por lo que pequeños problemas en el broker pueden convertirse rápidamente en problemas de la aplicación. Si la profundidad de la cola crece, las confirmaciones se estancan o un nodo alcanza una alarma de memoria o disco, tus usuarios pueden experimentar retrasos en el trabajo mucho antes de que el broker falle por completo.

Un buen monitoreo de RabbitMQ rastrea el flujo de mensajes, la salud del consumidor, los recursos del nodo y el estado del clúster. Esta guía cubre el plugin de administración incorporado, Prometheus y Grafana, y los comandos rabbitmqctl que puedes usar durante un incidente.

Métricas esenciales de RabbitMQ a rastrear

Monitorear RabbitMQ implica rastrear tres categorías principales de métricas: Salud de la cola, Actividad de conexión/canal y Recursos del sistema.

Métricas de salud de la cola

Las métricas de la cola son los indicadores más críticos de la eficiencia del procesamiento de mensajes y el posible backlog:

• Tasas de mensajes (Publicar/Entregar/Confirmar): Rastrea los mensajes que entran, salen y son confirmados por los consumidores. Las tasas de entrega bajas junto con tasas de publicación altas a menudo indican consumidores lentos o cuellos de botella.
• Longitud de la cola (messages_ready): El número total de mensajes esperando ser entregados. Una longitud que crece rápidamente indica que los consumidores no pueden seguir el ritmo de la carga del productor.
• Mensajes no confirmados (messages_unacknowledged): Mensajes que han sido entregados pero aún esperan confirmación. Un recuento alto aquí puede significar fallos del consumidor, tiempos de procesamiento largos o consumidores bloqueados.
• Número de consumidores: El número de consumidores activos conectados a la cola. Una cola con alta carga pero cero consumidores es un punto de fallo definitivo.
• Uso de colas duraderas y mensajes persistentes: Confirma que las colas y los mensajes que deben sobrevivir a los reinicios del broker estén configurados para la durabilidad. La durabilidad es una configuración de diseño, mientras que el comportamiento de escritura en disco también depende de las confirmaciones del publicador y la salud del almacenamiento.

Actividad de conexión y canal

Estas métricas ayudan a identificar fugas o una limpieza inadecuada de recursos:

• Número de conexiones: Total de conexiones TCP abiertas. Demasiadas conexiones pueden abrumar al sistema operativo subyacente o a la máquina virtual de Erlang.
• Número de canales: Canales activos dentro de las conexiones. Los canales son más baratos que las conexiones, pero un número excesivo aún indica tensión en los recursos.
• Estado de la conexión del cliente: Busca conexiones atascadas en estados transitorios o altas tasas de cambio de conexión.

Recursos del sistema y de la máquina virtual de Erlang

RabbitMQ se ejecuta en la máquina virtual de Erlang, lo que hace que su uso interno de recursos sea distinto de los procesos estándar del sistema operativo:

• Uso de memoria: Memoria total consumida por la máquina virtual de Erlang. RabbitMQ utiliza un sistema de marca de agua; si la memoria alcanza la marca de agua alta, limita a los productores.
• Procesos de Erlang: El número total de procesos ligeros que se ejecutan dentro de la máquina virtual. Un recuento de procesos descontrolado indica una posible fuga de recursos o un bucle infinito dentro de un plugin.
• Descriptores de archivo: Monitorea la disponibilidad de manejadores de archivos, cruciales para conexiones, colas y almacenamiento persistente.
• Límite de espacio libre en disco: RabbitMQ genera una alarma de disco y bloquea a los publicadores cuando el espacio libre en disco cae por debajo del umbral configurado. El valor predeterminado ha sido comúnmente bajo para sistemas de prueba pequeños, por lo que los nodos de producción deben establecer y monitorear un valor explícito.

Monitoreo con el plugin de administración de RabbitMQ

El plugin de administración de RabbitMQ es la herramienta principal incorporada para la visualización y las comprobaciones operativas en tiempo real. Proporciona tanto una interfaz web como una potente API HTTP.

Habilitación del plugin

El plugin generalmente se instala junto con RabbitMQ, pero debe habilitarse explícitamente:

sudo rabbitmq-plugins enable rabbitmq_management

Una vez habilitado, la interfaz web suele ser accesible en el puerto 15672 (por ejemplo, http://localhost:15672).

Vistas clave en la interfaz web

1. Página de resumen: Proporciona estadísticas de alto nivel, incluyendo tasas de flujo de mensajes (publicación/entrega global), uso de memoria y recuentos de conexiones. Este es tu panel de salud inicial.
2. Pestaña de colas: Ofrece métricas detalladas para cada cola, incluyendo tasas de mensajes instantáneas y agregadas, utilización del consumidor y longitud de la cola. Usa la función de ordenación para encontrar rápidamente las colas más largas o más ocupadas.
3. Pestañas de conexiones y canales: Permite la inspección de conexiones de clientes individuales, mostrando su estado, detalles del protocolo y uso de ancho de banda.

Uso de la API HTTP

Para comprobaciones automatizadas e integración en paneles personalizados, el plugin de administración expone una extensa API HTTP. Esto es ideal para scriptear comprobaciones de salud o integrarse con sistemas de monitoreo propietarios.

Ejemplo: Comprobación de la salud del clúster

# Comprobar estadísticas básicas de resumen
curl -u usuario:contraseña http://localhost:15672/api/overview

# Obtener métricas para una cola específica (por ejemplo, 'task_queue')
curl -u usuario:contraseña http://localhost:15672/api/queues/%2F/task_queue

Consejo: La API HTTP devuelve datos JSON detallados, lo que te permite filtrar y alertar sobre umbrales numéricos específicos, como la longitud de la cola o el recuento de mensajes no confirmados.

---

Monitoreo avanzado con Prometheus y Grafana

Para entornos de producción, la mejor práctica es integrar las métricas de RabbitMQ con sistemas estándar de monitoreo de series temporales como Prometheus (para la recolección) y Grafana (para la visualización). RabbitMQ proporciona un plugin dedicado para esto.

1. Habilitación del plugin de Prometheus

Este plugin expone las métricas en el formato que Prometheus espera, generalmente en el puerto 15692 (o 15672/metrics si se usa el puerto de administración).

sudo rabbitmq-plugins enable rabbitmq_prometheus

2. Configuración del scraping de Prometheus

Una vez habilitado, debes configurar Prometheus para que extraiga el endpoint. Agrega un trabajo similar al siguiente a tu configuración prometheus.yml:

scrape_configs:
  - job_name: 'rabbitmq'
    metrics_path: /metrics
    # El plugin rabbitmq_prometheus expone /metrics en el puerto 15692 por defecto.
    static_configs:
      - targets: ['rabbitmq-host:15692']

3. Visualización en Grafana

Grafana utiliza los datos recopilados por Prometheus para crear paneles potentes. Los paneles clave deben incluir:

• Backlog de la cola: Grafica rabbitmq_queue_messages_ready y rabbitmq_queue_messages_unacked a lo largo del tiempo.
• Tasas de mensajes: Rastrea las tasas de publicación, entrega y confirmación para que puedas ver si los consumidores están al día.
• Utilización de recursos del nodo: Rastrea la memoria, los descriptores de archivo, el uso de procesos de Erlang y las alarmas de disco.

Ejemplo de métrica de Prometheus para la longitud de la cola:

La métrica estándar para la longitud de la cola expuesta por el plugin es:

rabbitmq_queue_messages_ready{queue="my_critical_queue", vhost="/"}

Mejor práctica de monitoreo: Alertas

Configura alertas en Prometheus Alertmanager o Grafana basadas en umbrales claros:

Señal	Alerta de ejemplo	Acción recomendada
Mensajes listos	El backlog de la cola sigue creciendo durante 5 minutos	Verifica errores del consumidor, agrega consumidores si la aplicación puede procesar de forma segura, o ralentiza los productores.
Mensajes no confirmados	El recuento de no confirmados se mantiene alto mientras la tasa de confirmación es baja	Inspecciona la latencia del consumidor, fallos, configuración de prefetch y dependencias posteriores.
Alarma de disco	Un nodo reporta una alarma de disco libre	Libera espacio, expande el almacenamiento o mueve los datos antes de que los productores permanezcan bloqueados.
Alarma de memoria	Un nodo reporta una alarma de memoria	Encuentra colas grandes, recuentos altos de conexiones/canales o plugins que consumen mucha memoria y ajusta la capacidad.

---

Diagnóstico CLI con rabbitmqctl

La utilidad de línea de comandos rabbitmqctl es esencial para inspecciones rápidas y directas y comprobaciones operativas, especialmente cuando la interfaz web o los sistemas de monitoreo externos no están disponibles.

Comprobación del estado del nodo

Este comando proporciona una comprobación de salud rápida, mostrando las aplicaciones en ejecución, el uso de memoria, los recuentos de descriptores de archivo y los detalles de la conexión.

rabbitmqctl status

Listado de colas críticas

Puedes usar list_queues para identificar rápidamente cuellos de botella centrándote en indicadores clave de rendimiento (KPI):

# Listar colas mostrando el nombre, mensajes totales, mensajes listos y recuento de consumidores
rabbitmqctl list_queues name messages messages_ready consumers

# Para un nodo ocupado, enviar la salida a través de sort localmente.
rabbitmqctl list_queues name messages messages_ready consumers | sort -k2 -nr | head

Análisis de conexiones y canales

Para solucionar problemas de comportamiento específico del cliente, puedes listar conexiones y canales, filtrando por usuario o dirección de red:

# Listar conexiones activas, mostrando el usuario y la IP de origen
rabbitmqctl list_connections user peer_host

# Listar canales activos y su estado de flujo de mensajes
rabbitmqctl list_channels connection_details consumer_count messages_unacknowledged

En clústeres grandes, los comandos de listado amplios pueden agregar carga a un nodo ya estresado. Durante un incidente, prefiere comprobaciones específicas de cola, vhost o conexión.

Mejores prácticas para mantener el rendimiento

1. Monitorear la capacidad del consumidor: Observa la capacidad del consumidor en la interfaz de administración y las métricas exportadas. Un valor bajo a menudo significa que las colas pueden entregar más rápido de lo que los consumidores pueden aceptar trabajo, lo que apunta a consumidores lentos, prefetch bajo o latencia posterior.
2. Manejar el control de flujo del productor: RabbitMQ utiliza las alarmas de memoria y disco de Erlang para aplicar contrapresión. Monitorea estas alarmas de cerca, ya que indican que el nodo está alcanzando los límites de capacidad y los productores están siendo limitados.
3. Integración de registros: Integra los registros de RabbitMQ en un sistema de registro centralizado (pila ELK, Splunk, etc.). Busca advertencias recurrentes relacionadas con fallos de red, intentos de autenticación fallidos o sincronización de memoria lenta.
4. Comprobaciones de salud del clúster: Si ejecutas un clúster, monitorea la membresía del nodo, las particiones de red, la salud de las colas de quórum y el estado de sincronización. rabbitmqctl cluster_status es una comprobación inicial útil cuando los nodos no están de acuerdo sobre la membresía del clúster.

Conclusión clave

Usa la interfaz de administración para una inspección rápida, Prometheus y Grafana para tendencias y alertas, y rabbitmqctl para diagnósticos enfocados cuando algo ya está mal. Comienza las alertas en torno a backlogs crecientes, mensajes no confirmados atascados, alarmas de disco, alarmas de memoria y salud del clúster; esas señales generalmente te informan sobre problemas antes de que las aplicaciones se agoten.