Re: [FRnOG] [MISC] Monitoring stdout cron
Bonjour, Je vois clairement le problème, J'ai le même (en suspens) et une des solutions que j'avais imaginé était encore plus directe : utiliser un faux serveur SMTP / MTA. Une application qui écoute/comprend le protocole SMTP d'un côté et qui traite (filtre, altère, insert en base, renvoi par RabbitMQ/HTTP/etc.) les e-mails reçus. Ça permet d'être compatible avec pleins d'applications tierces qui ne jurent que par l'e-mail pour les notifications et sans avoir à gérer un serveur e-mail (ou les "fausses" adresses d'expédition associées) Dans ton cas, en conservant un serveur e-mail, un "pont" plutôt simple à mettre en place serait Logstash avec le plugin input "imap" [1]. Voire un article de qbox.io [2] qui donne même 2/3 exemples de pré-traitement directement effectués par Logstash. [1] : https://www.elastic.co/guide/en/logstash/current/plugins-inputs-imap.html [2] : https://qbox.io/blog/indexing-emails-to-elasticsearch-logstash-imap -- Duvergier Claude Le 04/09/2019 à 19:50, kevin.labe...@1001pneus.fr a écrit : > > Bonsoir, > Je n'arrive pas à trouver l'outil de monitoring de mes rêves. J'ai un besoin > bien particulier j'ai l'impression ! > J'ai une équipe qui se partage une boite mail qui reçoit plusieurs milliers > de mails par jour (sortie de jobs & cron en tous genres). > Ce devient un enfer -voir impossible- de monitorer cela correctement. > > Il va de soit que je ne peux pas revoir cette partie, l'idéal aurait été de > mieux contrôler le sortie des jobs/cron mais c'est ainsi et je dois faire > avec. > > Du coup je cherche un outil capable de se connecter en IMAP à une boite > spécifique, sur lequel je pourrai créer des règles/filtres/regex, qui trie, > organise et détecte des erreurs selon mes critères. Le tout sur un beau > dashboard que je peux fournir à l'équipe ! > > L'idée c'est de de pouvoir facilement détecter les jobs en erreur et d'en > faire des stats : > - tiens le service machin est en erreur depuis 3j, faudrait peut-être s'en > occuper! > - tiens le service truc-muche n'a pas tourné depuis hier > Et pour tout ce qui n'est pas en erreur, ça s'est correctement archivé dans > l'outil :) > > Je ne trouve aucune outil de monitoring capable de faire cela... > > J'ai aussi penser injecter les mails dans elasticsearch et de là je pourrai > taper dessus via un Kibana... Mais je n'ai pas approfondi l'idée pour > l'instant et je ne sais même si il existe un outil pour synchroniser imap > vers elasticsearch ! > Si quelqu'un a des idées je suis à l'écoute. > > Merci > -- *Kevin Labécot* > > > > --- > Liste de diffusion du FRnOG > http://www.frnog.org/ > --- Liste de diffusion du FRnOG http://www.frnog.org/
Re: [FRnOG] [MISC] Monitoring stdout cron
Hello, On 04/09/2019 19:50, kevin.labe...@1001pneus.fr wrote: > > Bonsoir, Je n'arrive pas à trouver l'outil de monitoring de mes > rêves. J'ai un besoin bien particulier j'ai l'impression ! J'ai une > équipe qui se partage une boite mail qui reçoit plusieurs milliers de > mails par jour (sortie de jobs & cron en tous genres). Ce devient un > enfer -voir impossible- de monitorer cela correctement. > > Il va de soit que je ne peux pas revoir cette partie, l'idéal aurait > été de mieux contrôler le sortie des jobs/cron mais c'est ainsi et je > dois faire avec. > > Du coup je cherche un outil capable de se connecter en IMAP à une > boite spécifique, sur lequel je pourrai créer des > règles/filtres/regex, qui trie, organise et détecte des erreurs selon > mes critères. Le tout sur un beau dashboard que je peux fournir à > l'équipe ! > > L'idée c'est de de pouvoir facilement détecter les jobs en erreur et > d'en faire des stats : - tiens le service machin est en erreur depuis > 3j, faudrait peut-être s'en occuper! - tiens le service truc-muche > n'a pas tourné depuis hier Et pour tout ce qui n'est pas en erreur, > ça s'est correctement archivé dans l'outil :) > > Je ne trouve aucune outil de monitoring capable de faire cela... > > J'ai aussi penser injecter les mails dans elasticsearch et de là je > pourrai taper dessus via un Kibana... Mais je n'ai pas approfondi > l'idée pour l'instant et je ne sais même si il existe un outil pour > synchroniser imap vers elasticsearch ! Si quelqu'un a des idées je > suis à l'écoute. > > Merci -- *Kevin Labécot* Pour filtrer ce qui arrive dans une boîte mail, tu peux utiliser sieve si ton implémentation IMAP le supporte. Ça filtre côté serveur avant même d’arriver dans la boîte. -- Alarig --- Liste de diffusion du FRnOG http://www.frnog.org/
Re: [FRnOG] [MISC] Monitoring stdout cron
Sinon si tu ne peux/veux vraiment pas t'attaquer à la source du problème : imapfilter. On 04/09/2019 21:22, Raphael Mazelier wrote: Je ne saurais que conseiller de remplacer toutes ces crons dispersés sur les serveurs par un scheduler/ordonnanceur centralisé type rundeck, stackstorm voire airflow. C'est un gros travail mais cela procure de nombreux avantages: - définition centralisé des jobs/batchs (et en plus on peut les mettre dans git, tout devrait être versionné) - supervision centralisé - retry, chainage, j'en passe et des meilleures. Cdt, -- Raphael Mazelier Faire du monitoring de batchs par mails ca semble tout de même une assez mauvaise idée. On 04/09/2019 21:02, Wallace wrote: Le mieux dans ces cas là c'est de forcer à ce que toute cron ne log rien en sortie standard ou alors le mettre dans un fichier et garder que la sortie erreur à envoyer par mail. Après faire l'effort de corriger ce qui doit l'être pour les mails reçus donc avec des erreurs. La cible à viser aucun mail = OK, un mail = une erreur à traiter ou un incident survenu (dépendance de tiers extérieurs qui n'a pas marché par exemple). La boite qui reçoit les mails, tu peux la mettre en supervision pour que tout mail reçu les 5 dernière minutes déclenche une alarme. --- Liste de diffusion du FRnOG http://www.frnog.org/ --- Liste de diffusion du FRnOG http://www.frnog.org/
Re: [FRnOG] [MISC] Monitoring stdout cron
Je ne saurais que conseiller de remplacer toutes ces crons dispersés sur les serveurs par un scheduler/ordonnanceur centralisé type rundeck, stackstorm voire airflow. C'est un gros travail mais cela procure de nombreux avantages: - définition centralisé des jobs/batchs (et en plus on peut les mettre dans git, tout devrait être versionné) - supervision centralisé - retry, chainage, j'en passe et des meilleures. Cdt, -- Raphael Mazelier Faire du monitoring de batchs par mails ca semble tout de même une assez mauvaise idée. On 04/09/2019 21:02, Wallace wrote: Le mieux dans ces cas là c'est de forcer à ce que toute cron ne log rien en sortie standard ou alors le mettre dans un fichier et garder que la sortie erreur à envoyer par mail. Après faire l'effort de corriger ce qui doit l'être pour les mails reçus donc avec des erreurs. La cible à viser aucun mail = OK, un mail = une erreur à traiter ou un incident survenu (dépendance de tiers extérieurs qui n'a pas marché par exemple). La boite qui reçoit les mails, tu peux la mettre en supervision pour que tout mail reçu les 5 dernière minutes déclenche une alarme. --- Liste de diffusion du FRnOG http://www.frnog.org/
Re: [FRnOG] [MISC] Monitoring stdout cron
Le mieux dans ces cas là c'est de forcer à ce que toute cron ne log rien en sortie standard ou alors le mettre dans un fichier et garder que la sortie erreur à envoyer par mail. Après faire l'effort de corriger ce qui doit l'être pour les mails reçus donc avec des erreurs. La cible à viser aucun mail = OK, un mail = une erreur à traiter ou un incident survenu (dépendance de tiers extérieurs qui n'a pas marché par exemple). La boite qui reçoit les mails, tu peux la mettre en supervision pour que tout mail reçu les 5 dernière minutes déclenche une alarme. Le 04/09/2019 à 19:50, kevin.labe...@1001pneus.fr a écrit : > Bonsoir, > Je n'arrive pas à trouver l'outil de monitoring de mes rêves. J'ai un besoin > bien particulier j'ai l'impression ! > J'ai une équipe qui se partage une boite mail qui reçoit plusieurs milliers > de mails par jour (sortie de jobs & cron en tous genres). > Ce devient un enfer -voir impossible- de monitorer cela correctement. > > Il va de soit que je ne peux pas revoir cette partie, l'idéal aurait été de > mieux contrôler le sortie des jobs/cron mais c'est ainsi et je dois faire > avec. > > Du coup je cherche un outil capable de se connecter en IMAP à une boite > spécifique, sur lequel je pourrai créer des règles/filtres/regex, qui trie, > organise et détecte des erreurs selon mes critères. Le tout sur un beau > dashboard que je peux fournir à l'équipe ! > > L'idée c'est de de pouvoir facilement détecter les jobs en erreur et d'en > faire des stats : > - tiens le service machin est en erreur depuis 3j, faudrait peut-être s'en > occuper! > - tiens le service truc-muche n'a pas tourné depuis hier > Et pour tout ce qui n'est pas en erreur, ça s'est correctement archivé dans > l'outil :) > > Je ne trouve aucune outil de monitoring capable de faire cela... > > J'ai aussi penser injecter les mails dans elasticsearch et de là je pourrai > taper dessus via un Kibana... Mais je n'ai pas approfondi l'idée pour > l'instant et je ne sais même si il existe un outil pour synchroniser imap > vers elasticsearch ! > Si quelqu'un a des idées je suis à l'écoute. > > Merci > -- *Kevin Labécot* > > > > --- > Liste de diffusion du FRnOG > http://www.frnog.org/ signature.asc Description: OpenPGP digital signature
Re: [FRnOG] [MISC] Monitoring stdout cron
Je l'ai vu cet outil mais c'est juste du ping comme les autres non ? Je n'ai rien vu sur le fait que la sortie standard remonte vers eux Kevin LABECOT Responsable Infrastructure Service Informatique 1001pneus 4/6 cours de l'intendance 33000 Bordeaux Envoyé depuis mon mobile Tel: 05 35 54 31 10 Mob: 06.08.46.96.50 Fax: 01.83.64.28.70 E-mail: kevin.labe...@1001pneus.fr Le 4 sept. 2019 à 8:05 PM +0200, Julien OHAYON , a écrit : > Cronitor ? > > On utilise ça pour monitorer nos robots et taches > > Julien OHAYON > Directeur Général / CTO > APPLIWAVE > > Tel : 09.71.18.71.11 > > > Le 4 sept. 2019 à 19:53, kevin.labe...@1001pneus.fr a écrit : > > > > > > Bonsoir, > > Je n'arrive pas à trouver l'outil de monitoring de mes rêves. J'ai un > > besoin bien particulier j'ai l'impression ! > > J'ai une équipe qui se partage une boite mail qui reçoit plusieurs milliers > > de mails par jour (sortie de jobs & cron en tous genres). > > Ce devient un enfer -voir impossible- de monitorer cela correctement. > > > > Il va de soit que je ne peux pas revoir cette partie, l'idéal aurait été de > > mieux contrôler le sortie des jobs/cron mais c'est ainsi et je dois faire > > avec. > > > > Du coup je cherche un outil capable de se connecter en IMAP à une boite > > spécifique, sur lequel je pourrai créer des règles/filtres/regex, qui trie, > > organise et détecte des erreurs selon mes critères. Le tout sur un beau > > dashboard que je peux fournir à l'équipe ! > > > > L'idée c'est de de pouvoir facilement détecter les jobs en erreur et d'en > > faire des stats : > > - tiens le service machin est en erreur depuis 3j, faudrait peut-être s'en > > occuper! > > - tiens le service truc-muche n'a pas tourné depuis hier > > Et pour tout ce qui n'est pas en erreur, ça s'est correctement archivé dans > > l'outil :) > > > > Je ne trouve aucune outil de monitoring capable de faire cela... > > > > J'ai aussi penser injecter les mails dans elasticsearch et de là je pourrai > > taper dessus via un Kibana... Mais je n'ai pas approfondi l'idée pour > > l'instant et je ne sais même si il existe un outil pour synchroniser imap > > vers elasticsearch ! > > Si quelqu'un a des idées je suis à l'écoute. > > > > Merci > > -- *Kevin Labécot* > > > > > > > > --- > > Liste de diffusion du FRnOG > > http://www.frnog.org/ > --- Liste de diffusion du FRnOG http://www.frnog.org/
Re: [FRnOG] [MISC] Monitoring stdout cron
Cronitor ? On utilise ça pour monitorer nos robots et taches Julien OHAYON Directeur Général / CTO APPLIWAVE Tel : 09.71.18.71.11 > Le 4 sept. 2019 à 19:53, kevin.labe...@1001pneus.fr a écrit : > > > Bonsoir, > Je n'arrive pas à trouver l'outil de monitoring de mes rêves. J'ai un besoin > bien particulier j'ai l'impression ! > J'ai une équipe qui se partage une boite mail qui reçoit plusieurs milliers > de mails par jour (sortie de jobs & cron en tous genres). > Ce devient un enfer -voir impossible- de monitorer cela correctement. > > Il va de soit que je ne peux pas revoir cette partie, l'idéal aurait été de > mieux contrôler le sortie des jobs/cron mais c'est ainsi et je dois faire > avec. > > Du coup je cherche un outil capable de se connecter en IMAP à une boite > spécifique, sur lequel je pourrai créer des règles/filtres/regex, qui trie, > organise et détecte des erreurs selon mes critères. Le tout sur un beau > dashboard que je peux fournir à l'équipe ! > > L'idée c'est de de pouvoir facilement détecter les jobs en erreur et d'en > faire des stats : > - tiens le service machin est en erreur depuis 3j, faudrait peut-être s'en > occuper! > - tiens le service truc-muche n'a pas tourné depuis hier > Et pour tout ce qui n'est pas en erreur, ça s'est correctement archivé dans > l'outil :) > > Je ne trouve aucune outil de monitoring capable de faire cela... > > J'ai aussi penser injecter les mails dans elasticsearch et de là je pourrai > taper dessus via un Kibana... Mais je n'ai pas approfondi l'idée pour > l'instant et je ne sais même si il existe un outil pour synchroniser imap > vers elasticsearch ! > Si quelqu'un a des idées je suis à l'écoute. > > Merci > -- *Kevin Labécot* > > > > --- > Liste de diffusion du FRnOG > http://www.frnog.org/ --- Liste de diffusion du FRnOG http://www.frnog.org/
[FRnOG] [MISC] Monitoring stdout cron
Bonsoir, Je n'arrive pas à trouver l'outil de monitoring de mes rêves. J'ai un besoin bien particulier j'ai l'impression ! J'ai une équipe qui se partage une boite mail qui reçoit plusieurs milliers de mails par jour (sortie de jobs & cron en tous genres). Ce devient un enfer -voir impossible- de monitorer cela correctement. Il va de soit que je ne peux pas revoir cette partie, l'idéal aurait été de mieux contrôler le sortie des jobs/cron mais c'est ainsi et je dois faire avec. Du coup je cherche un outil capable de se connecter en IMAP à une boite spécifique, sur lequel je pourrai créer des règles/filtres/regex, qui trie, organise et détecte des erreurs selon mes critères. Le tout sur un beau dashboard que je peux fournir à l'équipe ! L'idée c'est de de pouvoir facilement détecter les jobs en erreur et d'en faire des stats : - tiens le service machin est en erreur depuis 3j, faudrait peut-être s'en occuper! - tiens le service truc-muche n'a pas tourné depuis hier Et pour tout ce qui n'est pas en erreur, ça s'est correctement archivé dans l'outil :) Je ne trouve aucune outil de monitoring capable de faire cela... J'ai aussi penser injecter les mails dans elasticsearch et de là je pourrai taper dessus via un Kibana... Mais je n'ai pas approfondi l'idée pour l'instant et je ne sais même si il existe un outil pour synchroniser imap vers elasticsearch ! Si quelqu'un a des idées je suis à l'écoute. Merci -- *Kevin Labécot* --- Liste de diffusion du FRnOG http://www.frnog.org/
