上篇文章提到FFmpeg解決項目中視頻和語音問題,說道C#和FFmpeg不得不提的2個類庫。
簡單查看了下源碼和demo,發現基於ffmpeg.exe的命令行參數進行處理。
把C語言對外API和類型翻譯成C#的API和對象。
看了一下這個源碼生成,其中使用了CppSharp來生成g.cs的文件,然后在編譯g.cs文件。
這2類庫進行對比,第一個相對簡單,第二個處理相對復雜,當然功能也強大。
最終選擇FFmpeg.AutoGen 通過API方式靈活度更好,能滿足自己的個性需求(推流要實現暫停和繼續推流功能)。
FFmpeg.AutoGen源碼不是每個版本都保留github上,最好克隆到自己項目中,不同版本的API差別還是有很大,穩定一個版本后即使有小問題,有源代碼可以自己修改一下。
項目中手機和電腦視頻采用的是rtmp方式推流,現在自己總結一下。
開始說只需要視頻,當時就網上搜到一篇文章,在這個基礎稍微整理改進一下交給客戶。然而沒有過多久提出新需求,能進行語音通話,為了解決這個問題花費不少時間
解決方式記錄如下:
一、使用ffplay.exe播放聲音,一直報錯就沒有達到效果。
二、使用VLC,.Net里面有個VLC.DotNet。
經測試能正常播放視頻和語音,但是播放rtmp聲音延遲7秒,各種參數設置無效,隨着播放時間加長延遲更嚴重,基本無法正常使用。 另外在觀看視頻時候 隨時需要保存到本地,還需要單獨請求地址,明顯不符合要求。
三、在播放視頻基礎上,使用Sdl2.Net播放聲音,死活沒有效果 。
四、參考網絡C++代碼,寫C++動態庫讓C#來調用
C#調用C++代碼,先簡單總結下后面准備寫個博客,有兩種常見方式調用 :
1、調用純粹的C++庫里面對外API ,即C#使用[DllImport("Test.dll")]方式。
2、調用托管C++的庫,即C#直接引用。C++里面添加一個類調用原始C++的方法,即創建一個類來簡單包裝一下。
開始用第一種方式調用,就會出現多次調用視頻報錯問題,改為第二種方式new對象解決了第一種的問題,但又發現好多其他問題, 比如不同操作系統 需要生成不同的dll, 不應該選擇debug版本否則在不同電腦表現不一樣,最關鍵的是有些內存沒有及時釋放,視頻10分鍾后就崩了,總之對C++了解不多會遇到各種問題,被坑怕了。
五、網上找了一個C++封裝的播放器和推流器然后提供給C#使用。
該播放器是基於ffmpeg來實現的,播放器3萬,推流器也是3萬,核算一下覺得不是很划算,因為我現在遇到問題僅僅是聲音無法播放,而項目也不是很着急還有一段時間,也想挑戰一下自己。
六、主角上場,使用FFmpeg.AutoGen來操作API
實在沒有更好的方法,決定用C#來進行。由於ffmpeg用C#的資料真的太少了,知道肯定比較費勁,想做的完美些就硬着頭皮來干。經過一些時間努力實現了這些功能,很自豪的是這個視頻播放器延遲特別低,感覺是0延遲如果說有延遲基本也在1秒內左右,比市場上很多播放都快,比如這個著名播放器 PotPlayer。
采用第六種方式后交給客戶,客戶很滿意,然后客戶給他們的客戶部署在生產環境中運行,客戶的客戶遇到一個問題蘋果手機發送語音,在電腦上播放是娃娃音。測試和開發時都是用安卓手機,因為手機端使用html5開發然后發布成app。想着同樣的代碼就沒有用蘋果手機仔細測試。在安卓手機上沒有任何問題完美實現功能, 到了蘋果手機上就不行,心中一千個擦尼瑪,蘋果這樣坑開發者喜歡搞特殊 。后來發現采樣率不一樣特別是蘋果比較低的采樣率(32000)有這個問題,44100和48000沒有問題,經過一段時間研究才給解決掉。
后續准備寫一些列文章來總結一下基於FFmpeg.AutoGen實現推流和拉流的功能,已經實現的功能主要包括下面
拉流方面:
一、C# FFmpeg播放rtmp視頻(Bitmap或者BitmapSource來展示圖像)
二、C# FFmpeg使用SDL2方式播放rtmp視頻
三、C#FFmpeg使用NAudio方式播放rtmp音頻。
四、C#FFmpeg使用SDL2方式播放rtmp音頻。
五、C#FFmpeg實現rtmp播放器 NAudio播放聲音和(Bitmap或者BitmapSource來展示圖像)。
六、C# FFmpeg使用SDL2實現rtmp播放器
七、C#FFmpeg本地mp3,mp4文件播放(兩種方式SDL2和NAudio)
八、C#FFmpeg邊播放rtmp視頻,邊保存到本地文件。
拉流播放主要有兩個難點
1、播放器播放網絡rtmp地址 聲音和視頻不同步
2、C#FFmpeg播放本地文件,使用NAudio播放聲音緩存問題。
由於本地文件解析很快,緩存清理過快導致播放不完整,不清理緩存容易搞爆內存,比如播放60分鍾的mp3文件。
推流方面:
一、C#FFmpeg使用API推攝像頭和麥克風到rtmp遠程地址
二、C#FFmpeg使用API推桌面和麥克風到rtmp遠程地址
三、C#FFmpeg使用API推本地文件MP4,mkv到rtmp遠程地址.
四、C#FFmpeg使用API邊推流預覽邊保存本地文件
五、C#FFmpeg推流(設備和文件)實現暫停功能