有的朋友會問,好好的Windows日志為什么要把它轉成Syslog呢?呵呵,當Windows服務器比較少的時候,我們是不需要這樣做的。但試想如果你管理着成千上百台的Windows機器,你會一台一台的登錄上去用Event Viewer查看嗎?為什么不建立一台中心Syslog服務器來接受所有的Windows,Linux,網絡設備等等發送來的日志呢?這樣你可以輕松地在一台日志服務器上管理所有的日志。比如Splunk就是一個很好的免費日志服務器,它不僅可以接受多種方式發送來的日志(包括syslog),而且還提供功能很強大的搜索(被稱為Google for IT),圖形化等功能。
本文針對當前運維市場開源系統的,大致如下:
Facebook 日志系統 Scribe、Apache 日志系統 Chukwa
Linkedin 日志系統 Kafka、Cloudera 日志系統 Flume
概述
許多軟件平台每天都會產生大量的日志(一般為流數據,如搜索引擎 page view,淘寶等),處理這些日志需要特定的日志系統,一般地,這些日志系統需要具有如下特征:
構建應用系統和分析系統的橋梁,並將它們之間的關系解耦。
支持接近實時在線分析系統,以及類似 Hadoop 之類的離線分析系統。
具有高可擴展性,即當數據量增加時,可以通過增加節點進行橫向擴展。
本文從設計架構、負載均衡、可擴展性和容錯性等方面對比目前開源的日志系統,包括 Facebook 日志系統 Scribe ,Apache 日志系統 Chukwa,Linkedin 日志系統 Kafka 和 Cloudera 日志系統 Flume 等。
日志管理服務分類:
1.rsyslogd 普通日志管理服務
采集各種服務產生的信息根據日志服務配置文件內容將信息進行分類保存。
2.klogd 內核信息日志文件服務
專門記錄內核信息
3.logrotate 日志文件輪替服務
解決日志文件內容過多消耗內存的日志文件替換服務
Log Parser 微軟強大的日志分析工具
Log Parser(微軟網站下載)是微軟公司出品的日志分析工具,它功能強大,使用簡單,可以分析基於文本的日志文件、XML 文件、CSV(逗號分隔符)文件,以及操作系統的事件日志、注冊表、文件系統、Active Directory。它可以像使用 SQL 語句一樣查詢分析這些數據,甚至可以把分析結果以各種圖表的形式展現出來。
詳細教程:windows安全日志分析工具logparser用法詳解 http://www.jb51.NET/hack/384430.html
Log Parser 微軟強大的日志分析工具 http://http://www.yuheng119.com/ /haoliansheng/p/4040208.html
微軟還有一款強大的網絡抓包工具 Microsoft Network Monitor 是類似 WireShark 的網路封包監看軟體, 關鍵是微軟的免費工具.
Event Viewer(事件查看器)
Windows Event Viewer 記錄了應用程序、安全性和系統事件的所有信息。這是已發生的(或繼續發生的)事件的巨大信息來源,它應該是用於診斷和監控系統的主要工具之一。
MSSQL_logview
是一款對SQL Server日志分析工具,它可以瀏覽日志查看有關數據庫的操作日志。此外,MSSQL_logview還是一個數據庫恢復工具,如果您由於誤操刪除、誤插入、誤更新導致數據庫數據丟失或更改,MSSQL_logview可以幫你找回您所需要的數據。
MSSQL_logview可恢復的操作:
刪除(delete),插入(insert),更新(Updata)
MSSQL_logview支持的版本:SQL Server 2000,SQL Server 2005,SQL Server 2008,SQL Server 2008R2
MSSQL_logview使用方法:
1.先把SQL服務停掉,把數據庫MDF和日志文件LDF文件復制一份,做備份
2.開啟SQL服務,打開軟件,連接服務器,並選擇好數據庫,日志文件選擇備份后的LDF
3.選擇要恢復的表及操作
Splunk
是一個可運行於各種平台的 IT 數據分析、日志分析、業務數據分析軟件,支持的作業平台包含Windows, Linux, Solaris, FreeBSD, AIX, MacOS, HP-UX。與 Google Analytics 這一類的 Web 日志分析軟件的不同之處在於,Splunk 可以支持任何 IT 設備(服務器、網絡設備、應用程序、數據庫等)所產生的日志,其對日志進行處理的方式是進行高效索引之后讓管理員可以對日志中出現的各種情況進行搜索,並且通過非常好的圖形化的方式展現出來。
每天由各種服務器所產生的日志的數量是非常驚人的,而遇到突發情況時,卻往往能夠從這些海量日志中找到最多的有用消息。通常在 Unix 下對日志進行查找使用的是 grep 之類的低效率的方式,而 Splunk 使用了現代搜索引擎技術對日志進行搜索,同時提供了一個非常強大的 AJAX 式的界面展現日志。
Splunk 是一款對 IT 管理員非常有用、非常專業的工具。也正因為如此,與其他 Linux 下的其他日志分析軟件不同,Splunk 是一個商業軟件,支持海量信息搜索及更多的功能,比如分散式搜尋(Distributed www.zzdaiy2019.cn Search)、計划告警(Schedule www.yihuanyule.cn Alert)、權限控制(Access Control)等。
Splunk的四大應用:運維IT數據整合、IT安全信息及數據的整合、應用程序IT數據整合、IT數據的法規遵從。
Splunk的六大功能:Index(索引) 、Search(搜索)、Alert(警報通知)、Report(報告)、Share(資源共享)、Secure(安全功能)。
主要功能:
• 日志分析
• 業務數據分析
• 運維保障
主要特點:
• 快速查找日志信息
• 數據關聯分析
• 支持各種平台和系統
• 支持超過千種標准Apps
• 可靈活開發專有Apps
• 支持企業級架構,分級、分布式部署
SysTools NTFS Log Analyzer
(硬盤日志分析工具)是一款硬盤日志文件分析的工具。基本上現在的安裝了Windows操作系統的電腦硬盤分區,都是NTFS文件系統。這個工具能夠通過NTFS日志分析文件操作的信息,從而得知文件增刪改的情況。
如何查看硬盤使用日志
點我的電腦右鍵有個管理,管理里有個事件查看器,里的點那個系統就是你硬盤的事件了!親,此軟件需要安裝微軟.net 環境
ELK由ElasticSearch、Logstash和Kiabana三個開源工具組成:
Elasticsearch是個開源分布式搜索引擎,它的特點有:分布式,零配置,自動發現,索引自動分片,索引副本機制,restful風格接口,多數據源,自動搜索負載等。
Logstash是一個完全開源的工具,他可以對你的日志進行收集、過濾,並將其存儲供以后使用(如,搜索)。
Kibana 也是一個開源和免費的工具,它Kibana可以為 Logstash 和 ElasticSearch 提供的日志分析友好的 Web 界面,可以幫助您匯總、分析和搜索重要數據日志。
日志平台的結構示意圖
Weblog expert
是一個快速和強大的訪問日志分析器。這會讓你了解你的網站的訪客:活動統計,訪問的文件的路徑,通過該網站,信息指頁面,搜索引擎,瀏覽器,操作系統,和更多。該計划所產生的易於閱讀的報告,包括文本信息(表)和圖表。
官方網站:http://www.weblogexpert.com
Nginx利用第三方模塊nginx_upstream_check_module來檢查后端服務器的健康情況
http://www.linuxyan.com/web-server/ www.haiyuyule.com 90.html
圖解 windows日志分析工具 WebLog Expert 安裝及使用教程
http://www.111cn.net/sys/Windows/88761.htm
最佳Nginx日志分析工具Goaccess
http://my.oschina.net/mrco/blog/181737
又是nm的Linux,煩不煩,含Redis
http://yanliu.org/2015/08/19/ELK-redis%E6%90%AD%E5%BB%BAnginx%E6%97%A5%E5%BF%97%E5%88%86%E6%9E%90%E5%B9%B3%E5%8F%B0/
一個簡單的工具(Apache|Nginx日志分析工具),貌似可以用用 http://www.cr173.com/soft/83182.html
日志易: 日志分析更容易 - 日志易 https://www.rizhiyi.com/ 【商業】
windows安全日志分析工具logparser用法詳解_工具使用_網絡安全 http://www.jb51.Net/hack/384430.html
另附:日志工具_iis日志_日志分析工具_網站日志分析工具_下載列表 http://down.chinaz.com/class/185_1.htm
日志分析和統計 - 開源軟件庫 - 開源中國社區 http://www.oschina.net/project/ www.22yigouyule.cn/ tag/147/log-analyzer
用Kibana和logstash快速搭建實時日志查詢、收集與分析系統 http://storysky.blog.51cto.com/628458/1158707/
Splunk 是一款頂級的日志分析軟件,如果你經常用 grep、awk、sed、sort、uniq、www.yigouyule2.cn/ tail、head 來分析日志,那么你需要 Splunk。能處理常規的日志格式,比如 apache、squid、系統日志、mail.log 這些。對所有日志先進行 index,然后可以交叉查詢,支持復雜的查詢語句。然后通過直觀的方式表現出來。日志可以通過文件方式傳倒 Splunk 服務器,也可以通過網絡實時傳輸過去。或者是分布式的日志收集。總之支持多種日志收集方法。
這個軟件分為免費版本和專業版本。專業版本的價格是 3 萬多刀。免費版本的功能也足夠強大了。
一、Webtrends
Webtrends現在是Netiq公司的網站訪問統計軟件,可以說是業界日志分析軟件的工業標准。筆者通過對其新版本Webtrends 7.0的試用,親身體會到了此產品在網站運營分析應用方面的強大功能。
Webtrends 7.0 已經不單純是一款提供日志分析統計數據的軟件,除了最常見的日志分析功能外,其可以對數據進行深度挖掘,更重視網站運營、市場營銷等對運營人員更容易理解的方式提供解決方案,可以進一步對用戶的訪問行為、訪問流向、設定用戶場景分析、網絡營銷推廣活動、用戶訪問來源、內容訪問等進行分析,對網站業務運營能夠提供比較全面支持分析。
WebTrends的搜索分析與其推出的WebPosition搜索引擎優化解決方案的集成,及時擴充、增強了對Web的分析能力。WebTrends SmartReports針對Microsoft、Excel而開發,市場營銷人員通過其提供的定制化分析報告,就可將組織機構與付費搜索定位、營銷額與ROI(市場投資回報率)之間的關系量化,進而幫助他們將目光聚焦在最有利可圖的搜索定位上。
由於Webtrends是一款企業級商業軟件,其價格也是相對比較高的,對於小型網站來說,可能並不適用,但強烈推薦有實力的大中型網站、電子商務類網站使用。
網址:http://www.webtrends.com
Download:http://www.skycn.com/ www.xucaizxyl.com soft/1437.html#downUrlMap
二、AWStats(免費)(Linux平台)
AWStats是我見過的所有免費日志分析軟件中最好的。這個軟件可以分析大量Web、ftp、email、流媒體等多種類型服務器的日志,因為是perl寫的,所以部署起來也相對容易,現在版本已經支持負載均衡(load banlance)服務器、反相域名查詢等高級功能。而且AWStats是所有免費日志分析軟件中圖形界面做的最好的軟件,能夠提供非常漂亮的分析報表和圖形。AWStats可以分析出的報表數據基本能夠滿足日常運營的分析,也可以對搜索引擎的來源、關鍵字等進行分析。並且提供多語言支持,同樣的報表可以分別以中文、英文、日文等多種語言瀏覽。
建議中小型網站采用此日志分析工具進行分析。
網址:http://awstats.sourceforge.net/
演示網址:http://ns3744.ovh.NET/awstats/awstats.pl?config=destailleur.fr
三、Webalizer(免費)(linux平台)
Webalizer是最流行的記錄分析工具之一。很多人都喜歡這個工具,運行的速度非常快。但這個工具軟件的圖形報表不是很理想。軟件的GD圖形庫提供了一些可讀的圖表。但是,這些圖表從審美學的角度看並不是那樣吸引人。但這些報表足以提供一些重要的日志分析數據。
網站:http://www.mrunix.Net/webalizer/
四、Analog(免費)(linux平台)
由一撮頑固的愛好者支持的Analog工具軟件是另一個有希望的競爭者。Analog工具軟件盡可能的向用戶展示出每一種信息。同時。它也例示了一個向普通用戶展示大量信息的不錯例子。按照缺省設置,所有信息都顯示在同一網頁上。用戶點擊網頁頂端的導航欄可以選擇一個具體的報告,而這個報告又連接到報告的下一個部分。Analog的可取之處在於每一部分的網頁上端都有一個導航欄,在某種程度上簡化了導航方式。Analog比較有趣的列表包括:來自每個國家的點擊率是多少、把用戶帶到這個網站來的搜索引擎查詢以及訪問者使用哪一種瀏覽器軟件和哪一種操作系統。這個軟件能夠顯示網絡服務器記錄中的一切信息。這個軟件的圖形界面比基於GD圖形庫的Webalizer軟件稍微有所改進。但是,餅圖標和棒圖表距離理想的程度還差很遠。Analog包含許多有用的信息,而且導航功能還可以。我們認為,這個軟件應該得到五星等級中的四星級。
Download:http://www.analog.cx/download.html
五、Summary (linux平台)
Summary是一個商業性日志分析工具,有30天免費試用期。這個軟件包含所有的可能的信息和並以文本網頁的方式提供一個列表選項供用戶點擊查看。例如,當你點擊一個“帶寬峰值”的鏈接時,你將被引導到列出不同時段使用帶寬的網頁,每一個條目都有一個小條狀圖形,但是,Summary軟件中的圖形非常小。在這里,小並不是缺陷。正好相反,Summary軟件在外觀上看起來非常合適。然而,整個圖形用戶界面使用起來非常麻煩。我們用了很長時間才瀏覽完畢我們需要看到的報告。Summary軟件的價格不算太高,報告也非常合適。我們把這個軟件評為五個星的等級中的四星級。
六:Urchin
Urchin 是一個范疇上與 Google Analytics(分析)類似的網絡分析解決方案,但它是一個由客戶安裝、托管和管理的軟件版本。 Urchin 可幫助網站所有者更好地了解自己的在線營銷活動、網站點擊量的特征以及訪問者的瀏覽體驗。 不過,與 Google Analytics(分析)不同的是,Urchin 並非免費(許可費為 2995 美元),並且需要有經驗的技術人員進行安裝。
因為 Urchin 使用服務器日志作為主要的數據來源,所以可用於不適合采用 Google Analytics(分析)等托管服務的場合,例如跟蹤企業 Intranet 的流量、重新處理歷史日志以及針對服務器錯誤提出報告。
所有人都可以下載並安裝功能完整的免費測試版,但許可只能通過 Urchin 軟件的授權顧問提供,並非直接通過 Google 提供。
目前Google的Urchin軟件beta版本為90天試用軟件,一旦Urchin開發完成,其價格為2995美元。
Download:http://www.google.com/urchin/download.html