原文：https://blog.csdn.net/smooth00/article/details/96479544
作為一款APM和全鏈路監控平台，Skywalking算是挺出色的。Skywalking是APM監控平台的后起之秀，大有超越其他開源APM監控平台的趨勢。它通過探針自動收集所需的指標，並進行分布式追蹤。通過這些調用鏈路以及指標，Skywalking APM會感知應用間關系和服務間關系，並進行相應的指標統計。
目前Skywalking支持h2、mysql、ElasticSearch作為數據存儲，我就說一下，這三個種庫的優缺點和使用要求：
1、首先是默認的h2
h2是Skywalking自帶的，對應的jar包路徑是Skywalking/oap-libs/h2-1.4.196.jar，h2是一種內存數據庫，在Skywalking配置文件的默認配置如下：
h2:
driver: ${SW_STORAGE_H2_DRIVER:org.h2.jdbcx.JdbcDataSource}
url: ${SW_STORAGE_H2_URL:jdbc:h2:mem:skywalking-oap-db}
user: ${SW_STORAGE_H2_USER:sa}
metadataQueryMaxSize: ${SW_STORAGE_H2_QUERY_MAX_SIZE:5000}
作為內存數據庫，當然是保存在內存中，只要服務重啟或是Skywalking應用故障了，基本上所監控到的數據也就丟失了，所以h2的內存模式其實不適合於應用服務長時間監控的場景。但是h2也可以變為文件數據庫，配置如下：
h2:
driver: ${SW_STORAGE_H2_DRIVER:org.h2.jdbcx.JdbcDataSource}
url: ${SW_STORAGE_H2_URL:jdbc:h2:tcp://127.0.0.1/~/skywalking-oap-db;AUTO_SERVER=TRUE}
user: ${SW_STORAGE_H2_USER:sa}
metadataQueryMaxSize: ${SW_STORAGE_H2_QUERY_MAX_SIZE:5000}
和內存模式的配置區別就是URL換成了文件的路徑，默認路徑是在用戶目錄下（如administrator或root或home/user等用戶目錄）自動創建數據庫文件skywalking-oap-db。
要使用文件數據庫，有個前提是要先啟動h2的TCP服務，因為默認skywalking調用的是內存數據庫，如果沒有啟動h2 TCP，由於監聽不到端口，oapService就會判斷為連接故障而關閉。啟動h2 TCP服務，可以在bin目錄新建啟動腳本，linux腳本如下：
#!/usr/bin/env sh
PRG="$0"
PRGDIR=`dirname "$PRG"`
[ -z "$OAP_HOME" ] && OAP_HOME=`cd "$PRGDIR/.." >/dev/null; pwd`
OAP_LOG_DIR="${OAP_HOME}/logs"
JAVA_OPTS=" -Xms64M -Xmx256M"
if [ ! -d "${OAP_HOME}/logs" ]; then
mkdir -p "${OAP_LOG_DIR}"
fi
_RUNJAVA=${JAVA_HOME}/bin/java
[ -z "$JAVA_HOME" ] && _RUNJAVA=java
CLASSPATH="$OAP_HOME/config:$CLASSPATH"
for i in "$OAP_HOME"/oap-libs/h2*.jar
do
CLASSPATH="$i:$CLASSPATH"
done
OAP_OPTIONS=" -Doap.logDir=${OAP_LOG_DIR}"
# 如果需要遠程連接h2數據庫，需將-tcp改為-tcpAllowOthers
eval exec "\"$_RUNJAVA\" ${JAVA_OPTS} ${OAP_OPTIONS} -classpath $CLASSPATH org.h2.tools.Server -tcp \
2>${OAP_LOG_DIR}/h2Tcp.log 1> /dev/null &"
if [ $? -eq 0 ]; then
sleep 1
echo "SkyWalking h2Tcp started successfully!"
else
echo "SkyWalking h2Tcp started failure!"
exit 1
fi
對應的windows腳本如下：
@REM 如果需要遠程查看h2數據庫(tcp端口9092，頁面訪問端口8082)，需將-tcp改為-tcpAllowOthers
@echo off
setlocal
set OAP_PROCESS_TITLE=Skywalking-H2TcpServer
set OAP_HOME=%~dp0%..
set OAP_OPTS="-Xms64M -Xmx256M -Doap.logDir=%OAP_HOME%\logs"
set CLASSPATH=%OAP_HOME%\config;.;
set CLASSPATH=%OAP_HOME%\oap-libs\*;%CLASSPATH%
if defined JAVA_HOME (
set _EXECJAVA="%JAVA_HOME%\bin\java"
)
if not defined JAVA_HOME (
echo "JAVA_HOME not set."
set _EXECJAVA=java
)
start "%OAP_PROCESS_TITLE%" %_EXECJAVA% "%OAP_OPTS%" -cp "%CLASSPATH%" org.h2.tools.Server -tcp
endlocal
先啟動h2文件數據庫，確保9092端口能被監聽，再啟動Skywalking的其他服務。
h2文件數據庫雖然非常輕量級，畢竟skywalking自帶了，但是穩定性卻很差，一但文件損壞（大並發量和大吞吐量的監控數據，就會把它干壞），oapService服務就啟動不了了，需要清除文件或是恢復及覆蓋文件才能啟動（對於一般應用者來說，這也是要命的事）。
2、Mysql數據庫
啟用mysql存儲，有兩個地方需要配置，一個是application.yml
mysql:
metadataQueryMaxSize: ${SW_STORAGE_H2_QUERY_MAX_SIZE:5000}
另一個是datasource-settings.properties
jdbcUrl=jdbc:mysql://localhost:3306/swtest
dataSource.user=root
dataSource.password=root@1234
mysql數據庫相對要穩定，畢竟是被大量使用的數據庫，而且可以做相應的優化，配置緩存，加大數據吞吐量。但是基於mysql的查詢速度我覺得不快，特別是skywalking中【追蹤】查看，3萬條以上的記錄查詢基本上覺得卡。但作為長時間的應用性能監控來說，mysql合適。而對於Linux下的部署來說，mysql偏重量級了（編譯后的二進制mysql安裝包就有好幾百M）。
3、ElasticSearch
官網好像是推薦使用ElasticSearch，為什么推薦？我猜的，應該是快呀。ES(ElasticSearch)是一款分布式全文檢索框架，底層基於Lucene實現，是給搜索引擎專用的，不快都不行。試了一下10萬條的追蹤記錄，基本上很快就能查詢展示。
ElasticSearch不是自帶的，需要安裝，考慮到輕量級，我選用的是elasticsearch-6.2.4，原因是包小免安裝，解壓完也才30多M，而且目前最新版本的Skywalking 6.2.0是能夠支持該版本的ElasticSearch。
Skywalking啟用ES，只需要配置文件設置如下：
storage:
elasticsearch:
nameSpace: ${SW_NAMESPACE:""}
clusterNodes: ${SW_STORAGE_ES_CLUSTER_NODES:localhost:9200}
user: ${SW_ES_USER:""}
password: ${SW_ES_PASSWORD:""}
indexShardsNumber: ${SW_STORAGE_ES_INDEX_SHARDS_NUMBER:2}
indexReplicasNumber: ${SW_STORAGE_ES_INDEX_REPLICAS_NUMBER:0}
# Those data TTL settings will override the same settings in core module.
recordDataTTL: ${SW_STORAGE_ES_RECORD_DATA_TTL:7} # Unit is day
otherMetricsDataTTL: ${SW_STORAGE_ES_OTHER_METRIC_DATA_TTL:45} # Unit is day
monthMetricsDataTTL: ${SW_STORAGE_ES_MONTH_METRIC_DATA_TTL:18} # Unit is month
bulkActions: ${SW_STORAGE_ES_BULK_ACTIONS:2000} # Execute the bulk every 2000 requests
bulkSize: ${SW_STORAGE_ES_BULK_SIZE:20} # flush the bulk every 20mb
flushInterval: ${SW_STORAGE_ES_FLUSH_INTERVAL:10} # flush the bulk every 10 seconds whatever the number of requests
concurrentRequests: ${SW_STORAGE_ES_CONCURRENT_REQUESTS:2} # the number of concurrent requests
metadataQueryMaxSize: ${SW_STORAGE_ES_QUERY_MAX_SIZE:5000}
segmentQueryMaxSize: ${SW_STORAGE_ES_QUERY_SEGMENT_SIZE:200}
另外如果，想讓ES能同時被本地和遠程訪問到，可以改一下ES的配置文件，IP改為如下：
network.host: 0.0.0.0
我專門寫了linux下的ES啟動腳本（腳本放在skywalking的bin目錄下，ES放在Skywalking的根目錄下），由於ES不能以root用戶啟動，所以腳本里加了用戶的自動創建：
#!/bin/bash
check_user()
{
#判斷用戶是否存在passwd中
i=`cat /etc/passwd | cut -f1 -d':' | grep -w "$1" -c`
if [ $i -le 0 ]; then
echo "User $1 is not in the passwd"
return 0
else
#顯示用戶存在
echo "User $1 is in then use"
return 1
fi
}
uname=elsearch
check_user $uname
if [ $? -eq 0 ]
then
#添加此用戶
sudo useradd $uname
passwd $uname --stdin "123456"
echo "user $uname add!!!"
fi
Cur_Dir=$(cd "$(dirname "$0")"; pwd)
chown $uname:$uname -R $Cur_Dir/../elasticsearch
chmod -R 766 $Cur_Dir/../elasticsearch
chmod -R 777 $Cur_Dir/../elasticsearch/bin
su - $uname -c "nohup $Cur_Dir/../elasticsearch/bin/elasticsearch > $Cur_Dir/../elasticsearch/logs/output.log 2>&1 &"
echo "elasticsearch start success!"
考慮到ES也是需要先啟動，確保端口監聽正常了，才能啟動oapService，所以我改造了skywalking自帶的啟動腳本，加了端口監聽判斷：
#!/usr/bin/env sh
check_port()
{
grep_port=`netstat -tlpn | grep "\b$1\b"`
echo "grep port is $grep_port"
if [ -n "$grep_port" ]
then
echo "port $port is in use"
return 1
else
echo "port is not established,please wait a moment......"
return 0
fi
}
PRG="$0"
PRGDIR=`dirname "$PRG"`
OAP_EXE=oapService.sh
WEBAPP_EXE=webappService.sh
elsearch_EXE=elasticsearchStart.sh
"$PRGDIR"/"$elsearch_EXE"
port=9200
echo "check $port"
for i in $(seq 1 20)
do
check_port $port
if [ $? -eq 0 ]
then
sleep 2s
else
break
fi
done
"$PRGDIR"/"$OAP_EXE"
"$PRGDIR"/"$WEBAPP_EXE"
Windows下的腳本就簡單多了：
@echo off
setlocal
set OAP_PROCESS_TITLE=Skywalking-Elasticsearch
set OAP_HOME=%~dp0%..
start "%OAP_PROCESS_TITLE%" %OAP_HOME%\elasticsearch\bin\elasticsearch.bat
endlocal
而且windows下啟動ES很快，沒有端口啟動的延時時間，所以整個skywalking啟動腳本的改造量不大：
@echo off
setlocal
call "%~dp0"\elasticsearchUp.bat
call "%~dp0"\oapService.bat start
call "%~dp0"\webappService.bat start
endlocal
以上的准備，就是為Skywalking應用ES存儲做好了准備，但是Elasticsearch本身也是存在寫入瓶頸的，也就是說ES也會崩潰，一但崩潰，就可能oapService關閉，或是導致skywalking頁面大盤空白。
我們可以做些調優，skywalking寫入ES的操作是使用了ES的批量寫入接口。我們可以調整這些批量的維度。盡量降低ES索引的寫入頻率，如：
bulkActions: ${SW_STORAGE_ES_BULK_ACTIONS:4000} # Execute the bulk every 2000 requests
bulkSize: ${SW_STORAGE_ES_BULK_SIZE:40} # flush the bulk every 20mb
flushInterval: ${SW_STORAGE_ES_FLUSH_INTERVAL:30} # flush the bulk every 10 seconds whatever the number of requests
concurrentRequests: ${SW_STORAGE_ES_CONCURRENT_REQUESTS:4} # the number of concurrent requests
metadataQueryMaxSize: ${SW_STORAGE_ES_QUERY_MAX_SIZE:8000}
調整bulkActions默認2000次請求批量寫入一次改到4000次；bulkSize批量刷新從20M一次到40M一次；flushInterval每10秒刷新一次堆改為每30秒刷新；concurrentRequests查詢的最大數量由5000改為8000。這種配置調優確實生效了，重啟服務后兩三天了都沒有出現過ES寫入阻塞的問題。不過這種設置只是暫時的，你只能期望流量不突發，或者應用不增加。一旦遇到突發流量和應用的增加，ES寫入瓶頸還是會凸顯出來。而且參數設置過大帶來了一個新的問題，就是數據寫入延時會比較大，一次服務交互發生的trace隔好久才能在skywalking頁面上查詢到。所以最終解決方案是優化ES的寫入性能，具體優化可以參考別人的文章：https://www.easyice.cn/archives/207
另外作為開源化的平台，擴展性也是其中的優勢，本身ES就是分布式全文檢索框架，可以部署成高可用的集群，另外Skyawalking也是分布式鏈路跟蹤系統，分布式既然是它應用的特性，那么怎么去構建集群化的監控平台，就完全靠你自己的想象和發揮了。
最后放一張我的Skywalking監控平台的監控效果圖（壓測過程中的應用監控），我可是斗膽把人家的Logo都換了，但我可不會用在商用領域，只是部門內部使用，方便其他人一眼認出這是個APM監控平台：
另外附上Skywalking各模塊完整的配置說明（為看不明白英文注釋的人准備）：
（1）Skywalking collector 配置
OAP(Collector)鏈路數據歸集器，主要用於數據落地，大部分都會選擇 Elasticsearch 6，OAP配置文件為 /opt/apache-skywalking-apm-6.2.0/config/application.yml，配置單點的 OAP(Collector)配置如下：
cluster:
# 單節點模式
standalone:
# zk用於管理collector集群協作.
# zookeeper:
# 多個zk連接地址用逗號分隔.
# hostPort: localhost:2181
# sessionTimeout: 100000
# 分布式 kv 存儲設施，類似於zk，但沒有zk重型（除了etcd，consul、Nacos等都是類似功能）
# etcd:
# serviceName: ${SW_SERVICE_NAME:"SkyWalking_OAP_Cluster"}
# 多個節點用逗號分隔, 如: 10.0.0.1:2379,10.0.0.2:2379,10.0.0.3:2379
# hostPort: ${SW_CLUSTER_ETCD_HOST_PORT:localhost:2379}
core:
default:
# 混合角色：接收代理數據，1級聚合、2級聚合
# 接收者：接收代理數據，1級聚合點
# 聚合器：2級聚合點
role: ${SW_CORE_ROLE:Mixed} # Mixed/Receiver/Aggregator
# rest 服務地址和端口
restHost: ${SW_CORE_REST_HOST:localhost}
restPort: ${SW_CORE_REST_PORT:12800}
restContextPath: ${SW_CORE_REST_CONTEXT_PATH:/}
# gRPC 服務地址和端口
gRPCHost: ${SW_CORE_GRPC_HOST:localhost}
gRPCPort: ${SW_CORE_GRPC_PORT:11800}
downsampling:
- Hour
- Day
- Month
# 設置度量數據的超時。超時過期后，度量數據將自動刪除.
# 單位分鍾
recordDataTTL: ${SW_CORE_RECORD_DATA_TTL:90}
# 單位分鍾
minuteMetricsDataTTL: ${SW_CORE_MINUTE_METRIC_DATA_TTL:90}
# 單位小時
hourMetricsDataTTL: ${SW_CORE_HOUR_METRIC_DATA_TTL:36}
# 單位天
dayMetricsDataTTL: ${SW_CORE_DAY_METRIC_DATA_TTL:45}
# 單位月
monthMetricsDataTTL: ${SW_CORE_MONTH_METRIC_DATA_TTL:18}
storage:
elasticsearch:
# elasticsearch 的集群名稱
nameSpace: ${SW_NAMESPACE:"local-ES"}
# elasticsearch 集群節點的地址及端口
clusterNodes: ${SW_STORAGE_ES_CLUSTER_NODES:192.168.2.10:9200}
# elasticsearch 的用戶名和密碼
user: ${SW_ES_USER:""}
password: ${SW_ES_PASSWORD:""}
# 設置 elasticsearch 索引分片數量
indexShardsNumber: ${SW_STORAGE_ES_INDEX_SHARDS_NUMBER:2}
# 設置 elasticsearch 索引副本數
indexReplicasNumber: ${SW_STORAGE_ES_INDEX_REPLICAS_NUMBER:0}
# 批量處理配置
# 每2000個請求執行一次批量
bulkActions: ${SW_STORAGE_ES_BULK_ACTIONS:2000}
# 每 20mb 刷新一次內存塊
bulkSize: ${SW_STORAGE_ES_BULK_SIZE:20}
# 無論請求的數量如何，每10秒刷新一次堆
flushInterval: ${SW_STORAGE_ES_FLUSH_INTERVAL:10}
# 並發請求的數量
concurrentRequests: ${SW_STORAGE_ES_CONCURRENT_REQUESTS:2}
# elasticsearch 查詢的最大數量
metadataQueryMaxSize: ${SW_STORAGE_ES_QUERY_MAX_SIZE:5000}
# elasticsearch 查詢段最大數量
segmentQueryMaxSize: ${SW_STORAGE_ES_QUERY_SEGMENT_SIZE:200}
（2）Skywalking webApp 配置
Skywalking 的 WebApp 主要是用來展示落地的數據，因此只需要配置 Web 的端口及獲取數據的 OAP(Collector)的IP和端口，webApp 配置文件地址為 /opt/apache-skywalking-apm-6.2.0/webapp/webapp.yml 配置如下：
server:
port: 9000
collector:
path: /graphql
ribbon:
ReadTimeout: 10000
# 指向所有后端collector 的 restHost:restPort 配置，多個使用, 分隔
listOfServers: localhost:12800
security:
user:
# username
admin:
# password
password: admin
（3）Skywalking Agent 配置
Skywalking 的 Agent 主要用於收集和發送數據到 OAP(Collector)，因此需要進行配置 Skywalking OAP(Collector)的地址，Agent 的配置文件地址為 /opt/apache-skywalking-apm-6.2.0/agent/config/agent.config，配置如下：
# 設置Agent命名空間，它用來隔離追蹤和監控數據，當兩個應用使用不同的名稱空間時，跨進程傳播鏈會中斷。
agent.namespace=${SW_AGENT_NAMESPACE:default-namespace}
# 設置服務名稱，會在 Skywalking UI 上顯示的名稱
agent.service_name=${SW_AGENT_NAME:Your_ApplicationName}
# 每 3秒采集的樣本跟蹤比例，如果是負數則表示 100%采集
agent.sample_n_per_3_secs=${SW_AGENT_SAMPLE:-1}
# 啟用 Debug ，如果為 true 則將把所有檢測到的類文件保存在"/debug"文件夾中
# agent.is_open_debugging_class = ${SW_AGENT_OPEN_DEBUG:true}
# 后端的 collector 端口及地址
collector.backend_service=${SW_AGENT_COLLECTOR_BACKEND_SERVICES:192.168.2.215:11800}
# 日志級別
logging.level=${SW_LOGGING_LEVEL:DEBUG}