Versions Compared

Key

  • This line was added.
  • This line was removed.
  • Formatting was changed.


Scroll Ignore
scroll-pdftrue
scroll-officetrue
scroll-chmtrue
scroll-docbooktrue
scroll-eclipsehelptrue
scroll-epubtrue
scroll-htmltrue


Panel
titleSommaire

Table of Contents
stylenone



Rôle

Le démon broker Broker exporte et gère les données du Scheduler ( les objets Broks ).

  • Sa gestion ne peut se faire qu'à travers des modules.
  • Plusieurs modules de gestion peuvent être activés en même temps. 

Exemples de modules du Broker

Module pour centraliser les logs Shinken

:

Simple-log (flat file)

  • Module pour exporter les données de métrologie: Graphite-Perfdata
  • Module pour l'API Livestatus Livedata
  • Module pour l'affichage de l'interface de visualisation : WebUI

Données: les Broks

Le Broker reçoit toutes les données des Schedulers . Il garde également en mémoire les données des hôtes et des checks.

Enfin, il sauvegarde les résultats des checks dans une base mongodb (si possible, cette base doit être installée sur le même serveur que le broker).

Image Removed

Données de métrologie

sous forme de Broks.

Info
titleLes Broks

Les Broks sont des conteneur de données échangées entre les Schedulers et les Brokers. Il y a plusieurs type de Broks :

  • Des évènements ( comme un Scheduler qui vient de démarrer ).
  • La configuration des éléments supervisés ( hôtes, checks, période de temps, utilisateurs ).
  • L'état des hôtes, clusters et checks après chaque vérification.


Le rôle du démon Broker est de donner ces données ( Broks ) à tous ses modules.


Image Added

Données de métrologie

Les données de métrologie sont sauvegardées sur le serveur du broker Broker dans l'application graphite.

Cette application écoute le port 2003, et cette connexion se fait sans authentification.

Cette application doit donc écouter exclusivement sur l'interface réseau locale ( loopback ) du serveur du brokerBroker

Logique interne du Broker 

Résumé des connexions du Broker  


SourceDestinationPortProtocoleNote
BrokerScheduler7768HTTP/HTTPS


Description des paramètres du Broker

Poller7771HTTP/HTTPSBrokerReactionner7769HTTP/HTTPSBrokerReceiver7773HTTP/HTTPSBrokerBroker (local)2003TCPinterface localhost uniquement

( centralisé sur le serveur de l'Arbiter, dans un fichier .cfg )


PropriétéDéfautDescription

broker_

Description des variables

PropriétéDéfautDescriptionbroker_

name

N/ACette variable est utilisée pour identifier le
*
nom réduit
*
du Broker auquel les données sont associées.

address

N/ACette directive est utilisée pour définir l'adresse permettant de joindre ce Broker. Par défaut "localhost", changez-le par un nom DNS ou une adresse IP.

port

7772Cette directive est utilisée pour définir le port TCP utilisé par le démon.

use_ssl

0Cette variable est utilisée pour définir si le Broker doit être contacté en HTTPS (
*
1
*
) ou HTTP (
*
0
*
). La valeur par défaut est
*
0
*
( HTTP ).

spare

0Cette variable est utilisée pour définir si le
broker
Broker peut être géré comme un spare (prendra uniquement la configuration si le maître échoue). La valeur par défaut est *0* (maître).
 spare_daemonN/ANom du démon spare qui sera utilisé pour reprendre le travail de ce démon s'il vient à ne plus être disponible

timeout

3Cette variable

broker__manage_spare__spare_must_have_the_same_list_of_module_type

1Si cette option est désactivée ( 0 ), alors la configuration des modules du spare défini par spare_daemon ne sera pas vérifiée pour voir si elle corresponds bien à celle du master

timeout

3Cette variable est utilisée pour définir le temps en secondes avant que l'Arbiter ne considère ce démon comme à l'arrêt. Si ce démon est joignable en HTTPS ( use_ssl à 1 ) avec une latence élevée, nous vous conseillons alors d'augmenter cette valeur de timeout ( l'Arbiter aura besoin de plus d'allers/retours pour le contacter ).

data_timeout

120Cette variable est utilisée pour définir le temps en secondes avant de considérer un transfert de configuration ou de données comme échoué.

max_check_attempts

3Si le ping permettant de détecter la disponibilité réseau du nœud est en échec N fois ou plus, alors le nœud est considéré comme mort
.
( par défaut, 3 tentatives )

check_interval

60Intervalle de Ping toutes les N secondes.

modules

N/ACette variable est utilisée pour définir les modules chargés par le
broker
Broker.

realm

N/ACette variable est utilisée pour définir le royaume où le
broker
Broker doit être. Si aucun n'est sélectionné, celui par défaut lui sera assigné.

manage_sub_realms

1Cette variable est utilisée pour définir si le
broker
Broker prendra des tâches des Schedulers des sous-royaumes .

manage_arbiters

1Prends les données de l'Arbiter. Il ne devrait y avoir qu'un seul
broker
Broker pour l'Arbiter.

satellitemap

N/ACette variable est utilisée pour définir, pour des environnements NATés, les différents satellites comme vus depuis ce
broker
Broker.

broks_packet_size

204800Si présent, les demandes vers les
schedulers
Schedulers vont avoir comme limite haute de taille de paquet cette valeur ( en Ko ). Par défaut les envois sont illimités.

broker__manage_brok__enable_sub_processes_memory_usage_protection

1Si activé, le
broker
Broker va vérifier qu'il y a assez de RAM disponible sur le système avant de lancer ses processus workers qui poussent les broks vers les modules externes ( comme WebUI )

broker__manage_brok__sub_process_memory_usage_system_reserved_memory

0Dans le cas de la protection de mémoire, on peut réserver un pourcentage de RAM pour le système qui ne sera pas considérée comme disponible par le démon

broker__manage_brok__sub_processes_memory_usage_protection_max_retry_time

5Dans le cas de la protection mémoire, pendant combien de temps le
broker
Broker va attendre ( en secondes ) avant de considérer qu'il n'a pas assez de mémoire, ce qui aura comme conséquence de tuer le module externe concerné.

broker__manage_brok__sub_process_broks_pusher_min_execution_timeout

5Temps ( en
seconde
secondes ) que le
broker
Broker va laisser aux workers qui poussent les broks vers les modules externes pour s'exécuter.

broker__manage_brok__sub_process_broks_pusher_security_ratio

5Le
broker
Broker va estimer le temps d'exécution des workers qui poussent les broks en se basant sur leur moyenne passée, et va appliquer ce ratio multiplicateur comme timeout d'exécution.

broker__manage_brok__sub_process_broks_pusher_max_execution_timeout

240Temps ( en secondes ) que le
broker
Broker va laisser aux workers qui poussent les broks vers les modules externes pour s'exécuter.

broker__manage_brok__sub_process_broks_pusher_max_retry

3Nombre de tentatives où le
broker
Broker va relancer les workers qui poussent les broks avant d’arrêter et tuer le module lié.
enabled
N/ACette variable est utilisée pour définir si le broker est activé ou non.
broker__manage_brok__sub_process_broks_pusher_queue_batch_size100000

Taille maximum en nombres de Broks que peuvent faire les workers qui poussent les broks aux modules externes ( comme WebUI ).

Attention, trop augmenter cette limite peux poser des problèmes d'envoi trop importants pour la socket de communication.

enabled

N/ACette variable est utilisée pour définir si le Broker est activé ou non.


Définition - exemple

Dans le répertoire /etc/shinken/brokers/, voici un exemple de définition qui permet la définition du Broker ( à placer dans un fichier CFG )  :

(warning) Il est conseillé d'éditer les fichiers .cfg avec l'encodage utf-8

Code Block
languagebash
#=======

Définition - exemple

Dans le répertoire /etc/shinken/brokers/, voici un exemple de définition qui permet la définition du Broker (à placer dans un fichier CFG)  :

(warning) Il est conseillé d'éditer les fichiers .cfg avec l'encodage utf-8

Code Block
languagebash
#========================================================================================
# BROKER
#=====================================================================================
# Description: The broker is responsible for:
# - Exporting centralized logs of all Shinken daemon processes
# - Exporting status data
# - Exporting performance data
# - Exposing Shinken APIs:
#   - Status data
#   - Performance data
#   - Command interface
#===========================================
# Description: The Broker is responsible for:
# - Exporting centralized logs of all Shinken daemon processes
# - Exporting status data
# - Exporting performance data
# - Exposing Shinken APIs:
#   - Status data
#   - Performance data
#   - Command interface
#===============================================================================

define broker {

    #======== Daemon name and address =========
    # Daemon name. Must be unique
    broker_name               broker-master

    # IP/fqdn of this daemon (note: you MUST change it by the real ip/fqdn of this server)
    address                   localhost

    # Port (HTTP/HTTPS) exposed by this daemon
    port                      7772

    # 0 = use HTTP, 1 = use HTTPS
    use_ssl	                  0


    #======== Master or spare selection =========
    # 1 ====================

define broker { is a spare, 0 = is not a spare
    spare                     0

    #======== Daemon name and address =========
    # Daemon name. Must be unique spare_daemon: name of the daemon that will take this daemon job if it dies
    # IMPORTANT:
    broker_name#   * a spare_daemon can only be the spare of 1 (and only one) broker-master daemon

    #  IP/fqdn of* thisa spare_daemon (note: you MUST change it by the real ip/fqdn of this server)
    address          cannot have a spare_daemon
    #   * the spare must have modules with the same module_type as the master
    #     - depending of the localhost

value of the  # Port (HTTP/HTTPS) exposed by this daemon
broker__manage_spare__spare_must_have_the_same_list_of_module_type parameter
    # Example: spare_daemon    port          broker-spare
    spare_daemon

    # 1 =  7772

    # 0 = use HTTP, 1 = use HTTPS(default) the spare defined with spare_daemon must have the same module_type as this master
    use_ssl	# 0 = the spare module_type are not checked
    # broker__manage_spare__spare_must_have_the_same_list_of_module_type     01


    #======== Master or spare selectionDaemon connection timeout and down state limit =========
    # 1timeout: =how is a spare, 0 = is notmany seconds to consider a spare
node don't answer
  spare  timeout                   03

    # sparedata_daemontimeout: namehow ofmany thesecond daemonto thatconsider willa takeconfiguration thistransfert daemonto job if it diesbe failed
    # because IMPORTANT:
the network brandwith is #too small.
  * a sparedata_daemon cantimeout only be the spare of 1 (and only one) master daemon
   120

 #   * a spare_daemon cannot have a spare_daemon
    #   * the spare must have modules with the same module_type as the master# max_check_attempts: how many fail check to consider this daemon as DEAD
    max_check_attempts        3

    # Example: spare_daemon  Check this daemon every X seconds
    check_interval        broker-spare
    spare_daemon60



    #======== DaemonModules connectionto timeoutenable andfor downthis state limitdaemon =========
    # timeoutAvailable:
 how many seconds to# consider a node don't answer
    timeout- Simple-log            : save all logs into a common 3
file
    # data_timeout: how many second to consider a configuration transfert to be failed
- WebUI              # because the network: brandwith is too small.visualisation interface
    data_timeout# - Graphite-Perfdata     : save all metrics into a graphite 120
database
    # max_check_attempts: how many fail check to consider this daemon as DEAD
 - sla            max_check_attempts       : 3

save sla into a #database
 Check this daemon every# X- seconds
Livestatus    check_interval        : TCP API to 60



query element state,  #======== Modules to enable for this daemon =========used by nagios external tools like NagVis or Thruk
    #modules  Available:
    # - Simple-log            : save all logs into a common fileSimple-log, WebUI, Graphite-Perfdata, sla, event-manager-writer
    

    # - WebUI   ======== Realm and architecture settings =========
    # Realm to set this daemon into
    :realm visualisation interface
    # - Graphite-Perfdata     : save all metrics into a graphite databaseAll

    # -1 sla= take data from the daemon realm and its sub realms
    # 0 = take data :only save slafrom intothe adaemon databaserealm
    # - Livestatusmanage_sub_realms        1


    # In NATted :environments, TCPyou APIdeclare toeach query element state, used by nagios external tools like NagVis or Thruk
    modules                   Simple-log, WebUI, Graphite-Perfdata, sla, event-manager-writer
    

    #======== Realm and architecture settings =========
    # Realm to set this daemon into
    realm                    All

    # 1 = take data from the daemon realm and its sub realms
    # 0 = take data only from the daemon realm
    manage_sub_realms        1

satellite ip[:port] as seen by
    # *this* Broker (if port not set, the port declared by satellite itself
    # is used)
    #satellitemap    scheduler-1=1.2.3.4:7768, poller-1=1.2.3.5:7771

    # Exchange between brokers <- schedulers can be limited by packet size (in kB)
    # Note: as compression is automatic, this is a higher limit, and in real case the
    #       packets will be lower than this value
    # broks_packet_size 1024


    #======== Memory protection =========
    # Are the daemon module process and worker process are waiting for enough
    # Inmemory NATtedto environments,be youavailable declarebefore eachbeing satellitelaunch. ip[Default:port] as seen by
 1 (enabled)
   # *this* broker (if port not set, the port declared by satellite itself
    # is used)
    #satellitemap    scheduler-1=1.2.3.4:7768, poller-1=1.2.3.5:7771

    # Exchange between brokers <- schedulers can be limited by packet size (in kBbroker__manage_brok__enable_sub_processes_memory_usage_protection   1

    # The sub process memory usage protection can have a system reserved memory
    # that won't be used by theses sub process when launched
    # By default: 0 (no reserved memory)
    # NoteExample: as10 compression is(means automatic,10% thisof isthe atotal highermemory limit,is andreserved in realfor case the
    # system)
    broker__manage_brok__sub_process_memory_usage_system_reserved_memory   packets will0

 be lower than this# value
If a sub process # broks_packet_size 1024


    #======== Memory protection =========cannot be started because of the protection, how many seconds
    # Areit thewill daemonbe moduleretry process and workerwait processthat arethe waitingsystem formemory enough
is freed until it #fail memoryto tostart
 be available before being# launch.By Defaultdefault: 15 (enabledseconds)
    broker__manage_brok__enable_sub_processes_memory_usage_protection_memory_usage_protection_max_retry_time   15


    # The sub process memory usage protection can have a system reserved memory
    # that won't be used by theses sub process when launched
    # By default: 0 (no reserved memory)======== Brok pusher worker =========
    # The Broker spawn broks pusher sub process to push to external modules (like WebUI)
    # the Broker will look at this worker execution time, and will kill if it timeout
    # Example: 10  (means 10% of the total memory is reserved for the system)
    broker__manage_brok__sub_process_memory_usage_system_reserved_memory    0

The Broker will compute the average execution time of previous workers to
    # decide about how many time this worker will take based on:
    # Ifnumber aof subbroks processto cannotsend be/ startedpast becauseaverage ofsend the protection, how many secondsspeed (broks/s)
    # itIf this willtime beis retryreach, andit waitmeans that the systempusher memoryprocess is freed until it fail to startkilled

    # By default: 5 (seconds)
    broker__manage_brok__sub_processes_memory_usage_protection_max_retry_time   5


    #======== Brok pusher worker =========For small amount of broks to send, it should lead to ridicusly small allowed execution time
    # and Thethe fac brokerto spawn broksthe pusher sub process to push to external modules (like WebUI)
    # the broker will look at this worker execution time, and will kill if it timeout
    # The broker will compute the average execution time of previous workers tocan be higher than this value, so we are using a minimal
    # execution timeout
    # Default: 5 (second)
    broker__manage_brok__sub_process_broks_pusher_min_execution_timeout           5

    # decideIn aboutorder howto manymanage timethe thisfact workerthat willthe takeserver basedcan on:
slow down   # number of broks toduring this send, /you pastcan average send speed (broks/s)setup a
    # Ifratio thisthat timewill isbe reach,used itto meansincrease thatthe theallowed pushertimeout processby ismultiply killed
it
    # Default: For5
 small amount of broks to send, it should lead to ridicusly small allowed execution time
 broker__manage_brok__sub_process_broks_pusher_security_ratio          # and the fac to spawn the sub process5

 can be higher than# thisAt value,the sobroker westart arewithout usingstats, athis minimal
valud will be used #for executionthe timeout
    # Default: 5240 (secondseconds)
    broker__manage_brok__sub_process_broks_pusher_minmax_execution_timeout           5

    # In order to manage the fact240

 that the server can# slowIf downa duringsub thisprocess send,reach youa cantimeout, setupit a
will be killed and #relaunched. ratioAfter thatmax willretry,
 be used to increase# the allowedattached timeoutmodule bywill multiplybe itrestarted
    # Default: 53
    broker__manage_brok__sub_process_broks_pusher_security_ratiomax_retry                       53

    # At the broker start without stats, this valud will be used for the timeout
    # Default: 240 (seconds)
    broker__manage_brok__sub_process_broks_pusher_max_execution_timeout           240
 broker__manage_brok__sub_process_broks_pusher_queue_batch_size:
    #   * defines the maximum number of broks the "queue brok pusher"
    #     process will handle per send to external module ( like WebUI ) .
    #  If a sub process reach a timeout, it will be killed and relaunched. After max retry,
    # the attached module will be restarted * Remaining broks will be handled in next send.
    #   * IMPORTANT: increase this value can lead to error on the socket
    # Default: 3 100000 (broks/batch)
    # broker__manage_brok__sub_process_broks_pusher_maxqueue_batch_retrysize                       3100000


     # #======== Enable or not this daemon =========
    # 1 = is enabled, 0 = is disabled
    enabled                  1

}