Alguien ha trabajado con logstash/kibana/elasticsearch?

Tema en 'GNU/Linux' comenzado por unreal4u, 11 de Junio de 2015.

Watchers:
This thread is being watched by 3 users.
  1. unreal4u

    unreal4u Zend Certified Engineer Miembro del Equipo ADMIN Old School Miembro Regular

    Se incorporó:
    2 de Octubre de 2005
    Mensajes:
    11.381
    Me gusta recibidos:
    960
    Puntos de trofeos:
    198
    Alguien ha trabajado aquí con esa combinación de software? Yo sólo tengo experiencia con Munin pero busco algo un poco más en vivo y en directo, cosa de poder ver el incremento de errores 404 (o fatals o errores de lo que sea, ya que tb necesito mantener vigilado otros servicios) de inmediato por ejemplo luego de un release. Eso me servirá por ejemplo para cuando tenga que sincronizar los frontends, actualizo 1 frontend no más y si ese no da problemas en menos de 5 minutos, sincronizo las demás máquinas.

    Actualmente como dije ocupamos munin pero yo quiero saber en menos de 1 minuto si mi acción tuvo algún efecto no deseado en los servers, y munin sólo corre en intervalos de 5. Si achico ese rango tendré problemas con los archivos y espacio en disco ya que son ya 14 servidores y este mes ya se agregan 2 más.

    Lo pregunto pq según este video es como la panacea, pero tampoco quiero perder tiempo en tools que si no son lo que creo que son va a ser tiempo perdido.

    Anyway, qué otras herramientas de reportes en vivo conocen/funcionan como la gente/no requiere una eternidad en configurarlos?

    Saludos.
     
  2. miguelwill

    miguelwill Matrix Operator Miembro del Equipo MOD Old School Miembro Regular

    Se incorporó:
    23 de Febrero de 2004
    Mensajes:
    9.325
    Me gusta recibidos:
    1.398
    Puntos de trofeos:
    198
    Última modificación: 11 de Junio de 2015
  3. unreal4u

    unreal4u Zend Certified Engineer Miembro del Equipo ADMIN Old School Miembro Regular

    Se incorporó:
    2 de Octubre de 2005
    Mensajes:
    11.381
    Me gusta recibidos:
    960
    Puntos de trofeos:
    198
    upale !

    Lo instalé así como para probar no más pero se me olvidó que hay otro firewall en el host que me deniega la conexión, para el cual no tengo acceso :zippypozo

    Así que a probar en una VM en mi máquina no más :p (Quería dejarlo corriendo por el finde).

    Conclusión: todavía no tengo idea si me servirá o no, cualquier novedad reporto.

    Saludos.
     
  4. unreal4u

    unreal4u Zend Certified Engineer Miembro del Equipo ADMIN Old School Miembro Regular

    Se incorporó:
    2 de Octubre de 2005
    Mensajes:
    11.381
    Me gusta recibidos:
    960
    Puntos de trofeos:
    198
    Hace como unas 3 semanas que terminamos instalando (por fin) un ELK stack en la empresa... cumple su prometido, que es monitorización de sistemas y ver rápidamente trends.

    Tenemos un monitor colgado en la oficina ahora donde a mi me salen por el momento las cosas que más me interesan. (Ver post de abajo).

    No fue tan difícil configurarlo, en menos de 40hrs lo tenía todo listo ya.
     
  5. unreal4u

    unreal4u Zend Certified Engineer Miembro del Equipo ADMIN Old School Miembro Regular

    Se incorporó:
    2 de Octubre de 2005
    Mensajes:
    11.381
    Me gusta recibidos:
    960
    Puntos de trofeos:
    198
    [​IMG]


    Sent from my iPhone using Tapatalk
     
    A Koji Nanjo y miguelwill les gusta esto.
  6. Soujiro

    Soujiro Pro Miembro Regular

    Se incorporó:
    14 de Enero de 2008
    Mensajes:
    525
    Me gusta recibidos:
    256
    Puntos de trofeos:
    168
    @unreal4u Estimado, ¿que tan grandes son tus maquinas para elasticsearch? las mias se fueron a la B con 8 GB de ram. Actualmente solo tienen logs de apache, proftp y tomcat. En estos ultimos logs derechamente no puedo buscar por falta de ram....
     
  7. Harima

    Harima Pegao al tarro REPORTERO Miembro Regular

    Se incorporó:
    15 de Mayo de 2008
    Mensajes:
    2.529
    Me gusta recibidos:
    1.560
    Puntos de trofeos:
    198
    hay un parámetro en el inidt.d/elasticsearch
    ES_HEAP_SIZE=4g
    Ese debe ser máximo la mitad de la memoria de la maquina o el Java se la come toda :uy
    Y el máximo de ese parámetro son 32g más de eso el Java da caldo
     
  8. Soujiro

    Soujiro Pro Miembro Regular

    Se incorporó:
    14 de Enero de 2008
    Mensajes:
    525
    Me gusta recibidos:
    256
    Puntos de trofeos:
    168
    por eso preguntaba, maquina fisica 8G, instancia elasticsearch 5G. REquiere mas ram esa cosa y/o mi index de tomcat esta "mal" seteado
     
  9. mmirandap

    mmirandap REPORTERO REPORTERO Miembro Regular

    Se incorporó:
    1 de Septiembre de 2006
    Mensajes:
    1.412
    Me gusta recibidos:
    817
    Puntos de trofeos:
    188
    Oye que filete, hace rato que andaba buscando algo así para monitorear las maquinas y procesos que ejecutamos, es mucho webeo configurar?
     
  10. unreal4u

    unreal4u Zend Certified Engineer Miembro del Equipo ADMIN Old School Miembro Regular

    Se incorporó:
    2 de Octubre de 2005
    Mensajes:
    11.381
    Me gusta recibidos:
    960
    Puntos de trofeos:
    198
    tenemos una máquina con 64GB de RAM, en la cual iniciamos 2 instancias de elasticsearch: una que va metiendo datos y la otra que lee datos.

    Ambas instancias pueden llegar a ocupar 12GB de RAM, pero normalmente andan por los 3GB con piques de 8GB. El nodo más intensivo es el de la escritura que normalmente ocupa entre los 3 a 9GB de memoria. El resto de la memoria lo ocupa Kibana (máx. 1GB) y logstash (máx. 1GB). RabbitMQ también tiene nodo pero no me acuerdo de memoria cuánta ocupa, creo que 2GB. Además tiene un nginx para hacer load balancing. Con todo el uso normal de RAM está alrededor de los 30GB.

    Te aconsejo poner más máquinas chicas con más nodos de elasticsearch y poner un load balancer por delante, de esa forma, ElasticSearch se va balanceando solo y es el setup recomendado por ellos. Nosotros también lo tenemos pendiente pq con una máquina más aumentamos el log de 3 semanas a (fácil) 3 meses.

    Más rato te puedo dar más detalles de eso que ahora toi ocupado.

    Saludos.
     
  11. Harima

    Harima Pegao al tarro REPORTERO Miembro Regular

    Se incorporó:
    15 de Mayo de 2008
    Mensajes:
    2.529
    Me gusta recibidos:
    1.560
    Puntos de trofeos:
    198
    por ejemplo una de sandbox que tenemos en Azure (Standard A3 4 Cores, 7 GiB memory) y anda bien, pero va a depender de la carga de la maquina
     
  12. unreal4u

    unreal4u Zend Certified Engineer Miembro del Equipo ADMIN Old School Miembro Regular

    Se incorporó:
    2 de Octubre de 2005
    Mensajes:
    11.381
    Me gusta recibidos:
    960
    Puntos de trofeos:
    198
    Ahora con más calma: elasticsearch requiere de memoria, pero si creces de forma horizontal (AKA más nodos y de paso redundancia) en vez de vertical (asignarle más recursos por nodo) va requieriendo cada vez menos.

    Ya que estás partiendo, no cometas el mismo error mío y agrégale más nodos chicos al cluster.

    Esto lo vine a cachar cuando con un nodo de escritura / lectura le di 30gb de RAM y aún así no daba abasto. Lo partí en 2 nodos y en un ppio 8gb por nodo pareció suficiente hasta que me dio el aviso unas horas más tarde (en vez de minutos como con un solo nodo) que se había quedado sin ram.

    Agrégale más nodos al cluster y de esa forma podrás tb ir tuneando cada instancia para lo que tiene que hacer.

    A su vez con más nodos vas ganando capacidad exponencial para guardar datos.

    Saludos.


    Sent from my iPhone using Tapatalk
     
  13. Harima

    Harima Pegao al tarro REPORTERO Miembro Regular

    Se incorporó:
    15 de Mayo de 2008
    Mensajes:
    2.529
    Me gusta recibidos:
    1.560
    Puntos de trofeos:
    198
    jajaja recién me pegue el alcachofaso que lo usan como sistema de monitoreo, nosotros lo usamos como BD NoSQL para el frontend de la aplicación
    Usamos el modo 2-2-2 y el que se lleva la carga son los Data (Proxy y master usan poca memoria)


    Elastic.png
     
  14. unreal4u

    unreal4u Zend Certified Engineer Miembro del Equipo ADMIN Old School Miembro Regular

    Se incorporó:
    2 de Octubre de 2005
    Mensajes:
    11.381
    Me gusta recibidos:
    960
    Puntos de trofeos:
    198
    Si nunca lo has hecho... si. Pero se aprende :)
     
    A mmirandap le gusta esto.
  15. unreal4u

    unreal4u Zend Certified Engineer Miembro del Equipo ADMIN Old School Miembro Regular

    Se incorporó:
    2 de Octubre de 2005
    Mensajes:
    11.381
    Me gusta recibidos:
    960
    Puntos de trofeos:
    198
    jajaj tb tenemos una instancia en otro lado (supe dp) que procesa datos, pero ese es administrado por otro loco así que no cacho muy bien, se le vive cayendo si pero bueno, no es mi problema :dalomismo

    Saludos.
     
  16. unreal4u

    unreal4u Zend Certified Engineer Miembro del Equipo ADMIN Old School Miembro Regular

    Se incorporó:
    2 de Octubre de 2005
    Mensajes:
    11.381
    Me gusta recibidos:
    960
    Puntos de trofeos:
    198
    PD: Kibana trae un monitor de sistema integrado donde puedes ver info básica del cluster, como cuánta memoria está ocupando el cluster y esas cosas :)

    Saludos.

    Screenshot_2018-07-23_21-16-17.png
     
  17. mmirandap

    mmirandap REPORTERO REPORTERO Miembro Regular

    Se incorporó:
    1 de Septiembre de 2006
    Mensajes:
    1.412
    Me gusta recibidos:
    817
    Puntos de trofeos:
    188
    A investigar se ha dicho
     
  18. Soujiro

    Soujiro Pro Miembro Regular

    Se incorporó:
    14 de Enero de 2008
    Mensajes:
    525
    Me gusta recibidos:
    256
    Puntos de trofeos:
    168
    ouch o sea que el sistema es básicamente es un puto gran elefeante, o muchos elefantitos. :(

    Gracias se pasaron :p
     
    Última modificación: 23 de Julio de 2018
  19. Harima

    Harima Pegao al tarro REPORTERO Miembro Regular

    Se incorporó:
    15 de Mayo de 2008
    Mensajes:
    2.529
    Me gusta recibidos:
    1.560
    Puntos de trofeos:
    198
    Entras por algún plugin especial o tendre una consola muy antigua (de echo se supone que antes de fin de año debemos cambiar a cosmosDB)
    /_plugin/marvel/kibana/index.html#/dashboard/file/marvel.overview.json

    Elastic.png
     
  20. unreal4u

    unreal4u Zend Certified Engineer Miembro del Equipo ADMIN Old School Miembro Regular

    Se incorporó:
    2 de Octubre de 2005
    Mensajes:
    11.381
    Me gusta recibidos:
    960
    Puntos de trofeos:
    198
    Yo creo que es muy antiguo pq el soporte para skin oscuro lo sacaron creo que en la v4 y la última versión es la v6 xD

    En todo caso: una vez andando, mejor ni actualizar jajajaja Esa wea de los plugins es un culo.

    Saludos.
     

Comparte esta página

Share
Cargando...