首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    ELKStack日志平台——Elasticsearch 6 安装与配置教程

    什么是ELK STACK: ELK Stack是Elasticserach、Logstash、Kibana三种工具组合而成的一个栈。ELK可以将我们的系统日志、访问日志、运行日志、错误日志等进行统一收集、存储分析和搜索以及图形展现。相比传统的CTRL+F或者数据库语句来进行数据查询,ELK支持分布式搜搜,数据量可达PB级别,检索速度更快速,接近实时处理,并且更智能,可以去掉一些没有特殊含义的词汇,比如“这,的,是”,还可以进行搜索补全与搜索纠错(想想在百度搜索的情景) LogStash: 负责日志的收集,并且可以输出到指定位置,如Redis、kafka、以及最主要的ElasticSearch中,通常会在所有需要收集日志的服务器上安装Logstash,然后由Logstash agent端发送到Logstash的Server端 ElasticSearch: 使用JAVA开发、基于Lucene搜索引擎库的全文搜索工具,通过RESTful API(一种接口设计规范,让接口更易懂)隐藏了Lucene原本的复杂性。实现了日志数据的分布式、实时分析,并且可以进行搜索补全与纠错等功能,是ELK最核心的组件。相比MySQL库和表的概念,在ES中把库叫做索引。 Kibana: 负责数据的展示与统计,是一个图形化的管理系统 ElasticSearch概念与工作流程介: 索引(index):文档的容器,是属性类似的文档集合,类似MySQL中的库或者表的概念,强烈建议同一类的数据放一个索引里 分片(shared):Elasticsearch默认将创建的索引分为5个shard(也可以自定义),每一个shard都是一个独立完整的索引,然后分布在不同的节点上 节点:站在用户角度来看并没有主节点概念,每个节点对用户来说都是一样的,都会响应请求,但是对于集群来说,会有一个主节点用于管理节点状态以及决定shard分布方式,还会周期性检查其他节点是否可用并进行修复。各节点是通过集群名称来判断是否属于同一节点。 在Elasticsearch中将文档归属于一种类型type,而这些类型存在于索引index中。用MySQL来举例看看他们的对应关系: Database->Table->Row->Column Indice->Type->Document->Field 安装Elasticsearch: 1、ElasticSearch默认工作在集群模式下,扩展性很强,并且支持自动发现。所以在实验环境中需要至少2台服务器来搭建,但是为了防止脑裂,建立使用基数台服务器。在部署ElasticSearch前需要先部署JAVA环境,所以第一步是安装JDK,这里偷懒使用yum安装了openjdk,生产环境还是建议用JDK的源码包(暂时不支持JDK 9)。 yum install java-1.8.0-openjdk.x86_64 2、下载ElasticSearch,官网地址是www.elastic.co(不是com),其每个Products下都有专门的文档用于参考。 下载tar包解压,然后进入config目录,该目录下除了有一个主配置文件elasticsearch.yml需要配置外,还有一个jvm.options文件用于JVM的调优 tar zxf elasticsearch-6.3.tar.gz cd elasticsearch-6.3/config jvm.options文件主要是JVM优化相关,关于垃圾回收这块使用默认配置就可以了,我们要调整的就是最大内存和最小内存的设置。通常设置为一样大小,具体的值可以设置为系统最大内存的一半或三分之二 -Xms1g #程序启动时占用内存的大小 -Xmx1g #程序启动后最大可占用内存的大小 3、修改ElasticSearch的配置,编辑elasticsearch.yml cluster.name: my-application #集群名称,相同集群名称的节点会自动加入到该集群 node.name: r1 #节点名称,两个节点不能重复 path.data: /path/to/data #指定数据存储目录 path.logs: /path/to/logs #指定日志存储目录

    03

    开学前看的别人的面经笔记

    自我介绍 根据结点求二叉树高度 快排最差的时间复杂度,快排的空间复杂度 快排稳定吗 堆排序 算法题:一圈猴子选大王 4g大文件,64m 内存,找到出现频率最大的5个 第一个项目 String不可变 HashMap插入过程 currentHashMap 和 hashMap 有什么区别 1.7之前都是分段锁,1.8后采用 synchronized 和 cas 保证线程安全 反射能够做一些什么事情 volatile 和 synchronized 简单介绍一下 Java中常见的线程同步方式 加锁、cas、 BIO、NIO的区别 spring框架的 IOC的好处 常用的MySQL 的语句优化 Explain 先来分析语句是否用到索引 设计表的时候从哪些角度去考虑 事务隔离级别,数据库这俩引擎的 索引 b+树的实现 MySQL的主从同步是如何实现的(全量同步、增量同步) redis 的基本数据类型,缓存击穿和缓存雪崩,哨兵和主从同步 有redis mysql 怎么设计查询服务架构 TCP如何保证连接和传输的可靠性,在网络情况比较差的情况下如何保证的可靠性 简单说几个http状态码 301 和 302 的区别,301代表永久性转移 302代表暂时性转移 平常开发用的linux多还是windows多 有个 32 位系统,利用的最大内存是多少即最大的寻址范围 在linux 下进程都有哪些状态 linux 怎么杀掉一个进程 kill -9 和 kill 有什么区别 -9 是强制性的意思 为什么 kill 可能会出现杀不掉的情况,kill -9 和 kill 的区别在于发的信号不一样 我想查看日志的后十行 le 我想看日志的实时刷新的怎么看 tail,加参数吗 查看处于 time_wait 、established 的 tcp 数量怎么看,netstat -t 这个 -t 就是 tcp

    02
    领券