唐文俊敏捷运维与日志数据分析.pdf

全球敏捷运维峰会上海站演讲人:全球敏捷运维峰会上海站议题敏捷运维—数据驱动进阶—运维分析(IT Operation Analytics)日志数据—企业IT数据宝藏分析流派与模式分析引擎与SPL(搜索处理语言)全球敏捷运维峰会上海站敏捷运维—数据驱动?运维当前的状态?NIC报告:,,%?开源社区促进技术栈高速迭代,传统ITIL需要转型DevOps式的快速响应部队?越来越可怕的漏洞和攻击行为:Bash的shellshock, OpenSSL的heartbleed,Glibc漏洞等?分布式和微服务的潮流让业务模块更加离散?全球敏捷运维峰会上海站敏捷运维—数据驱动?监控软件大多是埋点或采样式的。?采样意味着监控的评定是一种模糊估算,是去除了细节的大趋势上的判断。?在通过监控做到了总体稳定的初级目标以后,有必要通过全量数据分析的方式,对细节做更明确、更高效的诊断和优化。?随着技术的发展,大数据的兴起,靠数据来驱动运维,也成为可能。?全球敏捷运维峰会上海站敏捷运维—数据驱动?ITOA(IT运营分析,IT Operations Analytics) 将IT配置、变换和运行历程中孕育产生的海量数据转化为清楚地、可付诸实施的解决要领,客户通过使用ITOA产品生成的报表可以大大地缩短妨碍修复时间,减少变乱和宕机次数,实现无端障的应用颁布和系统升级。全球敏捷运维峰会上海站进阶—运维分析(IT Operation Analytics)Gartner对ITOA发展的展望?Gartner估计,到2017年15%的大企业会积极使用ITOA;而在2014年这一数字只有5%全球敏捷运维峰会上海站ITOA 的四种数据来源?机器数据(Machine Data)–日志?通信数据(Wire Data)–网络抓包,流量分析?代理数据(Agent Data)–/Java 字节码里插入代码,统计函数调用、堆栈使用?探针数据(Probe Data)–在各地模拟ICMP ping、HTTP GET请求,对系统进行检测86%93%47%72%0%20%40%60%80%100%machine data(日志)wire data(网络抓包)agent data(插入代码)probe data(模拟检测)全球敏捷运维峰会上海站日志数据—企业IT数据宝藏行为日志网络日志交易日志应用及系统日志IT系统(服务器、网络设备)每天都产生大量的日志,包含了各种设备、系统、应用、用户信息?来自最终用户端的数据(客户端crash、启动速度、下载速度、首屏时间、DNS时间)?来自设备资源的数据(交换机,防火墙,数据库,以及不同业务的带宽、CPU、内存、IO)?来自服务资源的数据(响应时间、成功率、异常状态码、缓存命中率、qps)?来自业务接口的数据(接口响应时间、超时和失败率、调用链)全球敏捷运维峰会上海站一条Apache Access 日志? --[15/Apr/2015:00:27:19 +0800] “POST /report HTTP/” 200 21 “https:///search/”“Mozilla/ (Windows NT ; WOW64; rv:) Gecko/20100101 Firefox/”“” ?字段:?Client IP: ?Timestamp: 15/Apr/2015:00:27:19 +0800?Method: POST?URI: /report?Version: HTTP/?Status: 200?Bytes: 21?Referrer: https:///search/?User Agent: Mozilla/ (Windows NT ; WOW64; rv:) Gecko/20100101 Firefox/?X-Forward: ?Request_time:?Upstream_request_time: