本文繼續上一篇文章的內容,介紹一個音頻碼流處理程序。音頻碼流在視頻播放器中的位置如下所示。
本文中的程序是一個AAC碼流解析程序。該程序可以從AAC碼流中分析得到它的基本單元ADTS frame,並且可以簡單解析ADTS frame首部的字段。通過修改該程序可以實現不同的AAC碼流處理功能。
原理
AAC原始碼流(又稱為“裸流”)是由一個一個的ADTS frame組成的。他們的結構如下圖所示。
其中每個ADTS frame之間通過syncword(同步字)進行分隔。同步字為0xFFF(二進制“111111111111”)。AAC碼流解析的步驟就是首先從碼流中搜索0x0FFF,分離出ADTS frame;然后再分析ADTS frame的首部各個字段。本文的程序即實現了上述的兩個步驟。
一般的AAC解碼器都需要把AAC的ES流打包成ADTS的格式,一般是在AAC ES流前添加7個字節的ADTS header。也就是說你可以吧ADTS這個頭看作是AAC的frameheader。
ADTS 頭中相對有用的信息 采樣率、聲道數、幀長度。想想也是,我要是解碼器的話,你給我一堆得AAC音頻ES流我也解不出來。每一個帶ADTS頭信息的AAC流會清晰的告送解碼器他需要的這些信息。
一般情況下ADTS的頭信息都是7個字節,分為2部分:
adts_fixed_header();
adts_variable_header();
syncword :同步頭 總是0xFFF, all bits must be 1,代表着一個ADTS幀的開始
ID:MPEG Version: 0 for MPEG-4, 1 for MPEG-2
Layer:always: '00'
profile:表示使用哪個級別的AAC,有些芯片只支持AAC LC 。在MPEG-2 AAC中定義了3種:
sampling_frequency_index:表示使用的采樣率下標,通過這個下標在 Sampling Frequencies[ ]數組中查找得知采樣率的值。
There are 13 supported frequencies:
- 0: 96000 Hz
- 1: 88200 Hz
- 2: 64000 Hz
- 3: 48000 Hz
- 4: 44100 Hz
- 5: 32000 Hz
- 6: 24000 Hz
- 7: 22050 Hz
- 8: 16000 Hz
- 9: 12000 Hz
- 10: 11025 Hz
- 11: 8000 Hz
- 12: 7350 Hz
- 13: Reserved
- 14: Reserved
- 15: frequency is written explictly
channel_configuration: 表示聲道數
- 0: Defined in AOT Specifc Config
- 1: 1 channel: front-center
- 2: 2 channels: front-left, front-right
- 3: 3 channels: front-center, front-left, front-right
- 4: 4 channels: front-center, front-left, front-right, back-center
- 5: 5 channels: front-center, front-left, front-right, back-left, back-right
- 6: 6 channels: front-center, front-left, front-right, back-left, back-right, LFE-channel
- 7: 8 channels: front-center, front-left, front-right, side-left, side-right, back-left, back-right, LFE-channel
- 8-15: Reserved
frame_length : 一個ADTS幀的長度包括ADTS頭和AAC原始流.
adts_buffer_fullness:0x7FF 說明是碼率可變的碼流
代碼
整個程序位於simplest_aac_parser()函數中,如下所示。
- /**
- * 最簡單的視音頻數據處理示例
- * Simplest MediaData Test
- *
- * 雷霄驊 Lei Xiaohua
- * leixiaohua1020@126.com
- * 中國傳媒大學/數字電視技術
- * Communication University of China / Digital TV Technology
- * http://blog.csdn.net/leixiaohua1020
- *
- * 本項目包含如下幾種視音頻測試示例:
- * (1)像素數據處理程序。包含RGB和YUV像素格式處理的函數。
- * (2)音頻采樣數據處理程序。包含PCM音頻采樣格式處理的函數。
- * (3)H.264碼流分析程序。可以分離並解析NALU。
- * (4)AAC碼流分析程序。可以分離並解析ADTS幀。
- * (5)FLV封裝格式分析程序。可以將FLV中的MP3音頻碼流分離出來。
- * (6)UDP-RTP協議分析程序。可以將分析UDP/RTP/MPEG-TS數據包。
- *
- * This project contains following samples to handling multimedia data:
- * (1) Video pixel data handling program. It contains several examples to handle RGB and YUV data.
- * (2) Audio sample data handling program. It contains several examples to handle PCM data.
- * (3) H.264 stream analysis program. It can parse H.264 bitstream and analysis NALU of stream.
- * (4) AAC stream analysis program. It can parse AAC bitstream and analysis ADTS frame of stream.
- * (5) FLV format analysis program. It can analysis FLV file and extract MP3 audio stream.
- * (6) UDP-RTP protocol analysis program. It can analysis UDP/RTP/MPEG-TS Packet.
- *
- */
- #include <stdio.h>
- #include <stdlib.h>
- #include <string.h>
- int getADTSframe(unsigned char* buffer, int buf_size, unsigned char* data ,int* data_size){
- int size = 0;
- if(!buffer || !data || !data_size ){
- return -1;
- }
- while(1){
- if(buf_size < 7 ){
- return -1;
- }
- //Sync words
- if((buffer[0] == 0xff) && ((buffer[1] & 0xf0) == 0xf0) ){
- size |= ((buffer[3] & 0x03) <<11); //high 2 bit
- size |= buffer[4]<<3; //middle 8 bit
- size |= ((buffer[5] & 0xe0)>>5); //low 3bit
- break;
- }
- --buf_size;
- ++buffer;
- }
- if(buf_size < size){
- return 1;
- }
- memcpy(data, buffer, size);
- *data_size = size;
- return 0;
- }
- int simplest_aac_parser(char *url)
- {
- int data_size = 0;
- int size = 0;
- int cnt=0;
- int offset=0;
- //FILE *myout=fopen("output_log.txt","wb+");
- FILE *myout=stdout;
- unsigned char *aacframe=(unsigned char *)malloc(1024*5);
- unsigned char *aacbuffer=(unsigned char *)malloc(1024*1024);
- FILE *ifile = fopen(url, "rb");
- if(!ifile){
- printf("Open file error");
- return -1;
- }
- printf("-----+- ADTS Frame Table -+------+\n");
- printf(" NUM | Profile | Frequency| Size |\n");
- printf("-----+---------+----------+------+\n");
- while(!feof(ifile)){
- data_size = fread(aacbuffer+offset, 1, 1024*1024-offset, ifile);
- unsigned char* input_data = aacbuffer;
- while(1)
- {
- int ret=getADTSframe(input_data, data_size, aacframe, &size);
- if(ret==-1){
- break;
- }else if(ret==1){
- memcpy(aacbuffer,input_data,data_size);
- offset=data_size;
- break;
- }
- char profile_str[10]={0};
- char frequence_str[10]={0};
- unsigned char profile=aacframe[2]&0xC0;
- profile=profile>>6;
- switch(profile){
- case 0: sprintf(profile_str,"Main");break;
- case 1: sprintf(profile_str,"LC");break;
- case 2: sprintf(profile_str,"SSR");break;
- default:sprintf(profile_str,"unknown");break;
- }
- unsigned char sampling_frequency_index=aacframe[2]&0x3C;
- sampling_frequency_index=sampling_frequency_index>>2;
- switch(sampling_frequency_index){
- case 0: sprintf(frequence_str,"96000Hz");break;
- case 1: sprintf(frequence_str,"88200Hz");break;
- case 2: sprintf(frequence_str,"64000Hz");break;
- case 3: sprintf(frequence_str,"48000Hz");break;
- case 4: sprintf(frequence_str,"44100Hz");break;
- case 5: sprintf(frequence_str,"32000Hz");break;
- case 6: sprintf(frequence_str,"24000Hz");break;
- case 7: sprintf(frequence_str,"22050Hz");break;
- case 8: sprintf(frequence_str,"16000Hz");break;
- case 9: sprintf(frequence_str,"12000Hz");break;
- case 10: sprintf(frequence_str,"11025Hz");break;
- case 11: sprintf(frequence_str,"8000Hz");break;
- default:sprintf(frequence_str,"unknown");break;
- }
- fprintf(myout,"%5d| %8s| %8s| %5d|\n",cnt,profile_str ,frequence_str,size);
- data_size -= size;
- input_data += size;
- cnt++;
- }
- }
- fclose(ifile);
- free(aacbuffer);
- free(aacframe);
- return 0;
- }
上文中的函數調用方法如下所示。
- simplest_aac_parser("nocturne.aac");
結果
本程序的輸入為一個AAC原始碼流(裸流)的文件路徑,輸出為該碼流中ADTS frame的統計數據,如下圖所示。

LATM格式
LATM 的全稱為“Low-overhead MPEG-4 Audio TransportMultiplex”(低開銷音頻傳輸復用),
是MPEG-4 AAC制定的一種高效率的碼流傳輸方式,MPEG-2 TS 流也采用LATM
作為AAC 音頻碼流的封裝格式之 LATM格式也以幀為單位,主要由AudioSpecificConfig(音頻特定配置單元)與音頻負載組成。
音頻負載主要由PayloadLengthInfo(負載長度信息)和PayloadMux(負載凈荷)組成。
AudioSpecificConfig 描述了一個LATM 幀的信息;
AudioSpecificConfig 信息可以是帶內傳,也可以是帶外傳。所謂帶內傳,就是指每一個LATM 幀,都含有一個AudioSpecificConfig 信息;而帶外傳,則每一個LATM幀都不含有AudioSpecificConfig 信息,而通過其他方式把AudioSpecificConfig信息發送到解碼端,
由於AudioSpecificConfig 信息一般是不變的,所以只需發送一次即可。由此可見,
AudioSpecificConfig 信息采用帶內傳輸可適應音頻編碼信息不斷變化的情況(項目現在使用的是帶外,通過ADTS頭也不使用了),而采用帶外傳輸,可以節省音頻傳輸碼率。帶內或帶外傳,由muxconfigPresent 標志位決定。例如流媒體應用中,muxconfigPresent 可設置為0,這樣LATM幀中將不含有AudioSpecificConfig 信息,LATM幀通過RTP包發送出去,AudioSpecificConfig 可通過SDP文件一次性傳送到解碼端。
1、AudioSpecificConfig 主要參數如下(參看ISO14496-3中1.6.2.1 AudioSpecificConfig)
numSubFrames 子幀的數目
numProgram 復用的節目數
numLayer 復用的層數
frameLengthType 負載的幀長度類型,包括固定長度與可變長度
audioObjectType 音頻對象類型
samplingFrequency 采樣率
channelConfiguration 聲道配置
2、音頻負載由若干子幀組成,每個子幀由PayloadLengthInfo和PayloadMux組成,
與ADTS幀凈荷一樣,音頻負載主要包含原始幀數據。
AAC打包成TS流通常有兩種方式,分別是先打包成ADTS或LATM。ADTS的每一幀都有個幀頭,在
每個幀頭信息都一樣的狀況下,會有很大的冗余。LATM格式具有很大的靈活性,每幀的音頻配置單元既可以帶內傳輸,又可以帶外傳輸。正因為如此,LATM不僅適用於流傳輸還可以用於RTP傳輸,
RTP傳輸時,若音頻數據配置信息是保持不變,可以先通過SDP會話先傳輸StreamMuxConfig(AudioSpecificConfig)信息,
由於LATM流由一個包含了一個或多個音頻幀的audioMuxElements序列組成。
一個完整或部分完整的audioMuxElement可直接映射到一個RTP負載上。
下面是一個audoMuxEmlemt
AudioMuxElement(muxConfigPresent)
{
if (muxConfigPresent)
{
useSameStreamMux;
if (!useSameStreamMux)
StreamMuxConfig();
}
if (audioMuxVersionA == 0)
{
for (i = 0; i <= numSubFrames; i++)
{
PayloadLengthInfo();
PayloadMux();
}
}
}
可以很簡單的把ADTS幀轉換為LATM幀,根據ADTS頭的信息,生成StreamMuxConfig,
將ADTS中的原始幀提取出來,前面加上PayloadLengthInfo做為LATM的音頻幀。
按照上述格式打包生成AudioMuxElement,作為RTP的負載傳輸.
四、CMMB中的LATM
當CMMB中音頻壓縮標准為AAC時,默認采用LATM封裝。StreamMuxConfig采用帶外傳輸。
StreamMuxConifg中的若干默認參數如下:audioMuxVersion:0,標志流語法版本號為0,
allStreamsSameTimeFraming標志復用到PayLoadMux()中的所有負載共享一個共同的時基音頻子幀.
audioObjectType:2 AAC-LC
freameLengthType:0 幀長度是可變的
latmBufferFullness:0xFF 碼率可變的碼流