需求是提取mat文件里的信息並實時傳到后台服務器,因為matlib的腳本實在太難用,如果只是單純提取信息還可以,
還涉及到一個工程問題,只好用其他語言提取。
同時補充一下這個mat文件的特點,是多層結構,里面有個變量套了多個Cell,重點是解析出多個Cell里的信息,並計算。
開始使用了C#來解析mat文件,因為原來用C#寫過一個自動定時上傳文件的客戶端,稍加改造即可。
但是想當然地又入坑了。
先說C#客戶端,兩個要點
一:多文件傳輸,核心代碼就四行
MultipartFormDataContent multipartFormDataContent = new MultipartFormDataContent(boundary); var requestUri = "http://XXXXX:8000/imgupload"; multipartFormDataContent.Add(new ByteArrayContent(System.IO.File.ReadAllBytes(file)), "file", uploadfilename); var result = client.PostAsync(requestUri, multipartFormDataContent).Result.Content.ReadAsStringAsync().Result;
二:定時器,時間可以由用戶指定
timer.Interval = Convert.ToInt32(this.textBox2.Text)*1000;//執行間隔時間,單位為毫秒 timer.Start(); timer.Elapsed += new System.Timers.ElapsedEventHandler(Timer1_Elapsed);
以前這個小工具是用來傳圖的,現在改成解析成csv再傳,后台啟了個node服務來接受csv,備份數據后並寫庫。如果實時性要求高可以采用socket-websocket架構方案。
app.post('/imgupload',function(req, res, next){ var file = req.files; var savepath = mypath.parse(file['file']['path']); fs.rename(file['file']['path'],mypath.join(savepath.dir,file['file']['originalname']),function(err){ if(err){ console.log('上傳失敗'); }else{ console.log('上傳成功'+file['file']['originalname']); } }); res.send({ret_code: '0'}); });
接下來就是重點了,使用MathNet兩個包來解析mat文件,用VS工具的Nuget包管理器下載Math.net numberics,實在不行百度用install-pacakge裝
using MathNet.Numerics.LinearAlgebra;
using MathNet.Numerics.Data.Matlab;
發現MathNet.Numerics.Data.Matlab這個4.0版本總是裝不好,報錯,只能安裝到3.2.1版本。
解析數據發現,mat文件的Cell讀不出來,只能讀出個bytesize,一看源碼,還真只有一個bytesize,讀不出內容,github上找了源碼,直接把源碼放到本地,
這些終於有內容了,不過內容好像還是bytesize。。於是只好放棄了這個方案了。。
List<MatlabMatrix> ms = MatlabReader.List(path); Matrix<double> StartRanMatrix = MatlabReader.Unpack<double>(ms.Find(m => m.Name == "StartRan")); MatlabMatrix TrackMatrix = ms[9]; string[] read = { "Track" }; Dictionary<string, Matrix<double>> ms1 = MatlabReader.ReadAll<double>(path, read); //找到最低值 double StartRan = StartRanMatrix.Row(0).First();
過程不表,結局就是Python大法好,真香,里面唯一要注意的是pandas讀取pd.DataFrame 之后求列的均值,
有個很簡單的方法 item.mean(),具體請參考https://blog.csdn.net/tanlangqie/article/details/78656588
下面是python實現讀取解析mat文件的源碼,看看,是不是很優雅,而且執行效率比matlib原生代碼高很多呢~
import pandas as pd import scipy from scipy import io import math import os def transformData(path,outputpath): features_struct = scipy.io.loadmat(path) features = features_struct["Track"] StartRan = features_struct["StartRan"][0][0] calc = [] insectNumber = features.size for num in range(1,insectNumber): dfdata = pd.DataFrame(features[0][num]) calc.append(dfdata) output = [] count = 1 for item in calc: insectInfo = [] height = item.mean() insectInfo.append(count) insectInfo.append(math.floor((height[1]*960/8192+StartRan).real)) insectInfo.append(math.floor(height[8].real)) output.append(insectInfo) count = count + 1 outputdata = pd.DataFrame(output) outputdata.to_csv(outputpath, index=False) if __name__ == '__main__': rootdir = 'D:\mat' folderlist = os.listdir(rootdir) for d in folderlist: folder = os.path.join(rootdir, d) list = os.listdir(folder) for i in range(0, len(list)): path = os.path.join(folder, list[i]) if os.path.isfile(path): str = path.rsplit(".", 1) if str[1] == 'mat': output_img_path = str[0] + ".csv" transformData(path,output_img_path)