打造m3u8視頻(流視頻)下載解密合並器(kotlin)


本文是對我原創工具m3u8視頻下載合並器關鍵代碼解析及軟件實現的思路的講解,想要工具的請跳轉鏈接

1.思路說明

思路挺簡單,具體步驟如下:

  1. 下載m3u8文件
  2. 解析m3u8文件獲得ts文件列表
  3. 根據文件列表批量下載ts文件
  4. 進行ts的解密操作(如果沒有加密則跳過此步驟)
  5. 將解密后的文件或未加密的ts文件按照m3u8中的列表順序進行合並,得到mp4文件

可以把Kotlin看作為Java語言的增強版,Java中的知識Kotlin也是通用的

本文涉及到知識如下

  • String字符串的處理
  • IO流,讀文件進行讀寫
  • 網絡編程
  • AES解密(其實我也不是很懂)

2.m3u8格式介紹

可能這個格式大家不是很了解,其實現在大家看的大多數在線視頻,都是使用了m3u8文件來實現在線視頻播放的。

M3U8 是 Unicode 版本的 M3U,用 UTF-8 編碼。"M3U" 和 "M3U8" 文件都是蘋果公司使用的 HTTP Live Streaming(HLS) 協議格式的基礎,這種協議格式可以在 iPhone 和 Macbook 等設備播放。

簡單地來說,m3u8就是一個播放列表,里面保存這多個短視頻的地址,之后服務器從此文件中按照順序依次下載ts文件並進行播放。

ts文件也可以看做為mp4文件,可以直接拿QQ影音等軟件打開,但這只限於未加密的ts文件

可能有些小伙伴會發現, 有些ts文件直接打開軟件會提示不支持解析此文件,這其實就是因為ts文件已經被加密了。

我們可以以文本的方式打開m3u8的文件,內容如下:

#EXTM3U
#EXT-X-TARGETDURATION:10

#EXTINF:9.009,
http://media.example.com/first.ts
#EXTINF:9.009,
http://media.example.com/second.ts
#EXTINF:3.003,
http://media.example.com/third.ts
...

上面的是未加密的m3u8文件內容,我們來看看加密的m3u8文件:

#EXTM3U
#EXT-X-VERSION:3
#EXT-X-TARGETDURATION:10
#EXT-X-MEDIA-SEQUENCE:0

#EXT-X-KEY:METHOD=AES-128,URI="key.key"
#EXTINF:10.000000,
00000.ts
#EXTINF:10.000000,
00001.ts
#EXTINF:10.000000,
00002.ts
#EXTINF:10.000000
...

PS:想要了解m3u8格式更多的資料,請查看我底下的參考鏈接

這里提一下獲取m3u8文件的方式,可以通過瀏覽器F12進入調試模式,之后找到m3u8的網址資源,或者是通過貓抓(Chrome插件)獲取鏈接,貓抓插件安裝請自行百度

3.解析m3u8文件獲取信息

由上面我們大概了解到了m3u8文件里面的內容,我們將m3u8文件下載到本地之后,可以得到兩個信息,key文件地址(如果采用了加密的話)和全部的ts文件地址

#EXTM3U
#EXT-X-TARGETDURATION:10

#EXTINF:9.009,
http://media.example.com/first.ts
#EXTINF:9.009,
http://media.example.com/second.ts
#EXTINF:3.003,
http://media.example.com/third.ts
...

上面的這個是沒有采用加密的,而且,ts文件都是給出了具體的網址,這是極為理想的情況,但是市面上大部分不會采用這樣的,一般都是像下面的這種格式:

#EXTM3U
#EXT-X-VERSION:3
#EXT-X-TARGETDURATION:10
#EXT-X-MEDIA-SEQUENCE:0

#EXT-X-KEY:METHOD=AES-128,URI="key.key",IV=0x12345(可能有)
#EXTINF:10.000000,
00000.ts
#EXTINF:10.000000,
00001.ts
#EXTINF:10.000000,
00002.ts
#EXTINF:10.000000
...

上面的m3u8文件采用了加密,而且ts文件都是只有編號,沒有網址,而且key文件也是非常的簡短,根本就不是一個地址,這種情況我們就得進行字符串的拼接處理。

一般的網站,會將m3u8文件、key文件(有加密的話)、ts文件都是放在同一路徑

比如說現在有個m3u8的地址為www.xxx.com/2020/1/14/m3u8.m3u8,使用了加密,所以它的key文件為www.xxx.com/2020/1/14/key.key,ts文件為www.xxx.com/2020/1/14/0000.ts

上面只是個簡單的例子,具體的網站還得具體分析,可以使用抓包進行分析。

現在來對上面的m3u8文件進行簡單地分析吧:

采用了AES-128進行了加密,key的地址為key.key,偏移量IV為12345,有些是沒有使用偏移量,則可以使用0來代替

我們通過解析m3u8文件,首先是獲得key文件和所有ts文件的地址,然后進行下載即可

通用的下載代碼(下載m3u8文件、key文件、ts文件):

/**
 * 下載文件到本地
 * @param url 網址
 * @param file 文件
 */
private fun downloadFile(url: String, file: File) {
	val conn = URL(url).openConnection()
	conn.setRequestProperty("User-Agent", "Mozilla/4.0 (compatible; MSIE 5.0; Windows NT; DigExt)")
	val bytes = conn.getInputStream().readBytes()
	file.writeBytes(bytes)
}

4.ts文件下載優化

ts文件過多,如果只開啟一個單線程進行下載,下載太慢了,所以,可以采用多線程進行下載

這里的話,由於之前解析可以獲得一個ts文件地址的列表,把此列表分為幾份列表,每份列表開啟一個子線程來進行下載,這樣便可以保證任務的並發性,提高了下載速度。

這里,稍微有點復雜,因為要把列表划分成幾份列表,我大概是這樣分的:

首先,計算出列表可以平均分為幾份,每份列表的數目,之后再將剩下的列表分為一份,但是,使用循環的話不是很好寫,所以就先把第一個列表和最后一個列表分好,之后來個循環,將中間的平分完。

/**
 * 下載ts文件
 * @param threadCount 線程數(默認開啟5個線程下載,速度較快,100M寬帶測試速度有17M/s)
 */
fun downloadTsFile(threadCount: Int = 5) {
	val countDownLatch = CountDownLatch(threadCount)
	//每份列表的數目
	val step = tsUrls.size / threadCount
	//最后列表的數目(剩下的)
	val yu = tsUrls.size % threadCount
	//第一份列表
	thread {
		val firstList = tsUrls.take(step)
		downloadTsList(firstList)
		countDownLatch.countDown()
	}
	//最后一份列表
	thread {
		val lastList = tsUrls.takeLast(step + yu)
		downloadTsList(lastList)
		countDownLatch.countDown()
	}
	//中間的平分
	for (i in 1..threadCount - 2) {
		val list = tsUrls.subList(i * step, (i + 1) * step + 1)
		thread {
			downloadTsList(list)
			countDownLatch.countDown()
		}
	}
	countDownLatch.await()
	println("所有ts文件下載完畢")
}

上面的使用了CountDownLatch類的對象進行線程的控制,只有當所有線程完成之后,此方法才算結束

5.ts文件解密

先上代碼,之后再細講:

//1.獲得key和iv的字符串
val keyString = "2e9515db8fe8358bc8fcf6ae601a00be"
val ivString = "d0817f83115d911241fe8ba17673f120"

//2.獲得key和iv的bytes數組
val keyBytes = decodeHex(keyString)
val ivBytes = decodeHex(ivString)

//3.key數組轉為SecretKeySpec對象,iv數組轉為IvParameterSpec
val algorithm = "AES"
val skey = SecretKeySpec(keyBytes, algorithm)
val iv = IvParameterSpec(ivBytes)

//4. 初始化cipher
val transformation = "AES/CBC/PKCS5Padding"
val cipher = Cipher.getInstance(transformation)
cipher.init(Cipher.DECRYPT_MODE,skey,iv)

//5. 解密,
val tsFile = File("Q:\\m3u8破解\\2273\\440.ts")
val result = cipher.doFinal(tsFile.readBytes())
val newFile = File("Q:\\m3u8破解\\2273\\440_s.ts")

//6.寫入文件
BufferedOutputStream(FileOutputStream(newFile)).write(result)

key文件本質是一個16字節文件,我們可以通過winhex等軟件查看里面的內容

不過,查看出來之后的內容,我們還得進行轉換,因為是字符串,所以得調用decodeHex方法,將字符串轉為bytes數組

所以,直接使用代碼查看更為方便,Kotlin中可以直接讀取bytes(如果使用Java的話,推薦使用common-io的第三方jar包),如:

val keyFile = File("Q:\\test\key.key")
//獲得bytes數組
val bytes = keyFile.readBytes()

PS:對了,如果m3u8文件中沒有使用到IV偏移量,直接使用0即可(要保證bytes數組的長度為16),如果使用了IV的話,要使用decodeHex方法轉為bytes數組

val ivBytes = if (ivString.isBlank()) byteArrayOf(0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0) else decodeHex(ivString)
 /**
 * 將字符串轉為16進制並返回字節數組
 */
private fun decodeHex(input: String): ByteArray {
	val data = input.toCharArray()
	val len = data.size
	if (len and 0x01 != 0) {
		try {
			throw Exception("Odd number of characters.")
		} catch (e: Exception) {
			e.printStackTrace()
		}

	}
	val out = ByteArray(len shr 1)

	try {
		var i = 0
		var j = 0
		while (j < len) {
			var f = toDigit(data[j], j) shl 4
			j++
			f = f or toDigit(data[j], j)
			j++
			out[i] = (f and 0xFF).toByte()
			i++
		}
	} catch (e: Exception) {
		e.printStackTrace()
	}

	return out
}

@Throws(Exception::class)
private fun toDigit(ch: Char, index: Int): Int {
	val digit = Character.digit(ch, 16)
	if (digit == -1) {
		throw Exception("Illegal hexadecimal character $ch at index $index")
	}
	return digit
}

有了key文件和IV偏移量的bytes,我們就可以往下走了,下面的代碼其實都沒有什么好說明的,明眼人估計一看就懂了,這里就不多說了

需要注意的是,因為解密之后,我們還需要把所有已經解密好的ts文件按照順序合並成一個mp4文件,所以,注意解密后數據的名字。

建議在保存原來編號的基礎上,加上寫簡短的字母,之后,就可以通過contains方法進行判斷是否文件名是否符合條件

6.ts文件合並

合並的話,使用IO流,按照順序依次把流追加到末尾即可

參考

m3u8 文件格式詳解
關於m3u8格式的視頻文件ts轉mp4下載和key加密問題
aes 256 32位key和32位iv
加密ts解密


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM