ffmpeg（五）音频重采样

前言

广义的音频重采样包括： 1、采样格式转化：比如采样格式从16位整形变为浮点型 2、采样率的转换：降采样和升采样，比如44100采样率降为2000采样率 3、存放方式转化：音频数据从packet方式变为planner方式。有的硬件平台在播放声音时需要的音频数据是planner格式的，而有的可能又是packet格式的，或者其它需求原因经常需要进行这种存放方式的转化

通常意义上的音频重采样是指上述的第2点，即升采样和降采样，这个对音质有一定影响

重采样相关函数流程图

重采样ffmpeg相关函数介绍

这些重采样函数都位于头文件<libswresampe/swresample.h>

1、SwrContext 实现重采样的上下文，它是一个结构体，具体定义未知 2、SwrContext *swr_alloc(); 分配上下对象 3、 int av_opt_set_int(void obj,char name,int64_t val,int search_flags); int av_opt_set_sample_fmt(void obj,char name,enum AVSampleFormat fmt,int search_flags); 给上下文对象设置重采样的转换参数 4、int swr_init(struct SwrContext * swrCtx); 设置参数之后初始化重采样上下文 5、struct SwrContext swr_alloc_set_opts(struct SwrContext swr_ctx, int64_t out_ch_layout,enum AVSampleFormat out_sample_fmt,int out_sample_rate, int64_t in_ch_layout,enum AVSampleFormat in_ch_layout,int in_sample_rate ); 此函数功能相当于上面1、2、3、4所有函数的功能 6、int swr_convert(struct SwrContext *swrCtx,uint8_t out,int out_count, const uint8_t int,int in_count) 进行格式转换，返回值为实际转换的采样数，该值小于等于out_count 7、int swr_convert_frame(struct SwrContext *swrCtx,AVFrame **outframe,AVFrame inframe); 返回值为0代表转换成功。当进行升采/降样的时候，内部缓冲中会包含部分数据，要想全部获取这些数据，inframe要传递NULL 8、void swr_free(struct SwrContext **s); 释放上下文

ffmpeg实现音频重采样

ffmpeg提供了实现广义重采样的方式，通过libswresample库实现，可以通过具体实现代码如下： 头文件

#ifndef audio_resample_hpp #define audio_resample_hpp #include <stdio.h> #include <string> #include “cppcommon/CLog.h” using namespace std; extern “C” { #include <libswresample/swresample.h> #include <libavutil/opt.h> #include <libavutil/channel_layout.h> #include <libavcodec/avcodec.h> #include <libavutil/avutil.h> } /** 广义的音频的重采样包括： * 1、采样格式转化：比如采样格式从16位整形变为浮点型 * 2、采样率的转换：降采样和升采样，比如44100采样率降为2000采样率 * 3、存放方式转化：音频数据从packet方式变为planner方式。有的硬件平台在播放声音时需要的音频数据是 * planner格式的，而有的可能又是packet格式的，或者其它需求原因经常需要进行这种存放方式的转化 */ class AudioResample { public: AudioResample(); ~AudioResample(); void doResample(); void doResampleAVFrame(); private: }; #endif /* audio_resample_hpp */

上面doResample()对应swr_convert()函数，doResampleAVFrame()函数对应 swr_convert_frame()函数

具体实现： /** av_frame_get_buffer()给AVFrame分配的音频内存和av_samples_alloc_array_and_samples()分配的音频内存块的区别 * 1、前者内存由引用计数管理，而且对于planner方式音频，是两个独立的内存块，内存块首地址不一样； * 2、后者内存和普通的内存管理方式一样，需要自己手动释放，对于planner方式音频，它也是一个连续的内存块，只不过每个planner对应的首地址分别存储于 * 指向的数组指针中；释放由函数av_freep(dataAddr)，dataAddr指的连续内存块的首地址 */ /** 重采样实验： * 1、44100的采样率，升采样48000或者降采样24000 后对音质影响不大，存储到文件中的数值会变化 * 2、float类型的采样数据，转换成32位整数型采样数据 对音质影响也不大，存储到文件中的数值会变化 */ void AudioResample::doResample() { string curFile(__FILE__); unsigned long pos = curFile.find(“ffmpeg-demo”); if (pos == string::npos) { // 未找到 return; } string resouceDic = curFile.substr(0,pos)+”ffmpeg-demo/filesources/”; // 原pcm文件中存储的是float类型音频数据，小端序；packet方式 string pcmpath = resouceDic+”test_441_f32le_2.pcm”; string dstpath1 = “test_240_s32le_2.pcm”; FILE *srcFile = fopen(pcmpath.c_str(), “rb+”); if (srcFile == NULL) { LOGD(“fopen srcFile fail”); return; } FILE *dstFile = fopen(dstpath1.c_str(), “wb+”); if (dstFile == NULL) { LOGD(“fopen dstFile fail”); return; } // 音频数据 uint8_t **src_data,**dst_data; // 声道数 int src_nb_channels=0,dst_nb_channels=0; int64_t src_ch_layout = AV_CH_LAYOUT_STEREO,dst_ch_layout = AV_CH_LAYOUT_STEREO; // 采样率 int64_t src_rate = 44100,dst_rate = 48000; // 采样格式和音频数据存储方式 const enum AVSampleFormat src_sample_fmt = AV_SAMPLE_FMT_FLT,dst_sample_fmt = AV_SAMPLE_FMT_S32P; int src_nb_samples=1024,dst_nb_samples,max_dst_nb_samples; int src_linesize,dst_linesize; // 1、创建上下文SwrContext SwrContext *swrCtx; swrCtx = swr_alloc(); if (swrCtx == NULL) { LOGD(“swr_allock fail”); return; } // 2、设置重采样的相关参数 这些函数位于头文件 <libavutil/opt.h> av_opt_set_int(swrCtx, “in_channel_layout”, src_ch_layout, 0); av_opt_set_int(swrCtx, “in_sample_rate”, src_rate, 0); av_opt_set_sample_fmt(swrCtx, “in_sample_fmt”, src_sample_fmt, 0); av_opt_set_int(swrCtx, “out_channel_layout”, dst_ch_layout, 0); av_opt_set_int(swrCtx, “out_sample_rate”, dst_rate, 0); av_opt_set_sample_fmt(swrCtx, “out_sample_fmt”, dst_sample_fmt, 0); // 3、初始化上下文 int ret = 0; ret = swr_init(swrCtx); if (ret < 0) { LOGD(“swr_init fail”); return; } src_nb_channels = av_get_channel_layout_nb_channels(src_ch_layout); dst_nb_channels = av_get_channel_layout_nb_channels(dst_ch_layout); // 根据src_sample_fmt、src_nb_samples、src_nb_channels为src_data分配内存空间，和设置对应的的linesize的值；返回分配的总内存的大小 int src_buf_size = av_samples_alloc_array_and_samples(&src_data, &src_linesize, src_nb_channels, src_nb_samples, src_sample_fmt, 0); // 根据src_nb_samples*dst_rate/src_rate公式初步估算重采样后音频的nb_samples大小 max_dst_nb_samples = dst_nb_samples = (int)av_rescale_rnd(src_nb_samples, dst_rate, src_rate, AV_ROUND_UP); int dst_buf_size = av_samples_alloc_array_and_samples(&dst_data, &dst_linesize, dst_nb_channels, dst_nb_samples, dst_sample_fmt, 0); size_t read_size = 0; while ((read_size = fread(src_data[0], 1, src_buf_size, srcFile)) > 0) { /** 因为有转换时有缓存，所以要不停的调整转换后的内存的大小。估算重采样后的的nb_samples的大小，这里swr_get_delay()用于获取重采样的缓冲延迟 * dst_nb_samples的值会经过多次调整后区域稳定 */ dst_nb_samples = (int)av_rescale_rnd(swr_get_delay(swrCtx, src_rate)+src_nb_samples, dst_rate, src_rate, AV_ROUND_UP); if (dst_nb_samples > max_dst_nb_samples) { LOGD(“要重新分配内存了”); // 先释放以前的内存，不管sample_fmt是planner还是packet方式，av_samples_alloc_array_and_samples()函数都是分配的一整块连续的内存 av_freep(&dst_data[0]); // 再重新分配内存 dst_buf_size = av_samples_alloc_array_and_samples(&dst_data, &dst_linesize, dst_nb_channels, dst_nb_samples, dst_sample_fmt, 0); max_dst_nb_samples = dst_nb_samples; } // 开始重采样，重采样后的数据将根据前面指定的存储方式写入ds_data内存块中，返回每个声道实际的采样数 /** * 遇到问题：转换后声音不对 * 原因分析：swr_convert()函数返回的result是实际转换的采样个数，该值肯定小于等于预计采样数dst_nb_samples，所以写入文件的时候不能用dst_nb_samples的 * 值，而应该用result值 **/ int result = swr_convert(swrCtx, dst_data, dst_nb_samples, (const uint8_t **)src_data, src_nb_samples); if (result < 0) { LOGD(“swr_convert fail %d”,result); break; } LOGD(“read_size %d dst_nb_samples %d src_nb_samples %d result %d”,read_size,dst_nb_samples,src_nb_samples,result); // 将音频数据写入pcm文件 if (av_sample_fmt_is_planar(dst_sample_fmt)) { // planner方式，而pcm文件写入时一般都是packet方式，所以这里要注意转换一下 int size = av_get_bytes_per_sample(dst_sample_fmt); // 这里必须是result，而不能用dst_nb_samples，因为result才代表此次实际转换的采样数 它肯定小于等于dst_nb_samples for (int i=0; i<result;i++) { for (int j=0; j<dst_nb_channels; j++) { fwrite(dst_data[j]+i*size, 1, size, dstFile); } } } else { // 最后一个参数必须为1 否则会因为cpu对齐算出来的大小大于实际的数据大小 导致多写入数据 从而造成错误 dst_buf_size = av_samples_get_buffer_size(&dst_linesize,dst_nb_channels, result,dst_sample_fmt,1); fwrite(dst_data[0], 1, dst_buf_size, dstFile); } } // 还有剩余的缓存数据没有转换，第三个传递NULL，第四个传递0即可将缓存中的全部取出 do { int real_nb_samples = swr_convert(swrCtx,dst_data,dst_nb_samples,NULL,0); if (real_nb_samples <=0) { break; } LOGD(“余量 %d”,real_nb_samples); if (av_sample_fmt_is_planar(dst_sample_fmt)) { int size = av_get_bytes_per_sample(dst_sample_fmt); for (int i=0; i<real_nb_samples; i++) { for (int j=0; j<dst_nb_channels; j++) { fwrite(dst_data[j]+i*size,1,size,dstFile); } } } else { int size = av_samples_get_buffer_size(NULL,dst_nb_channels,real_nb_samples,dst_sample_fmt,1); fwrite(dst_data[0], 1, size, dstFile); } } while (true); // 释放资源 av_freep(&src_data[0]); av_freep(&dst_data[0]); swr_free(&swrCtx); fclose(srcFile); fclose(dstFile); } 代码解读 1、要进行转换的PCM数据位于项目同级目录下的filesources文件夹中，这里采用的是test_441_f32le_2.pcm，代表采样格式float类型小端序，采样率44100 声道数2的数据 2、src_channel_layout,src_sample_rate,src_sample_fmt三个变量要与步骤1中的对应起来。dst_channel_layout,dst_sample_rate,dst_sample_fmt则可以按照自己的需求进行转换 3、代码 dst_nb_samples = (int)av_rescale_rnd(swr_get_delay(swrCtx, src_rate)+src_nb_samples, dst_rate, src_rate, AV_ROUND_UP); 为不停调整转后后的预计目标采样数大小，此代码可有可无，不是必须的 4、swr_convert()函数返回的是实际转换的目标采样数大小，所以dst_data中数据的大小应该是该函数返回的值，而非前面通过dst_nb_samples计算出来的值 5、转换过程中可能会有部分为转换的数据存在于内部缓冲中，通过int real_nb_samples = swr_convert(swrCtx,dst_data,dst_nb_samples,NULL,0); 代码将这些剩余的数据转换完毕 void AudioResample::doResampleAVFrame() { string curFile(__FILE__); unsigned long pos = curFile.find(“ffmpeg-demo”); if (pos == string::npos){ LOGD(“cannot find file”); return; } string srcpcm = curFile.substr(0,pos)+”ffmpeg-demo/filesources/test_441_f32le_2.pcm”; string dstpcm = “test_441_s32le_2.pcm”; uint64_t src_channel_layout = AV_CH_LAYOUT_STEREO,dst_channel_layout = AV_CH_LAYOUT_STEREO; int src_nb_channels = av_get_channel_layout_nb_channels(src_channel_layout); int dst_nb_channels = av_get_channel_layout_nb_channels(dst_channel_layout); int64_t src_nb_samples = 1024,dst_nb_samples,max_dst_nb_samples; int64_t src_sample_rate = 44100,dst_sample_rate=44100; const enum AVSampleFormat src_sample_fmt = AV_SAMPLE_FMT_FLT,dst_sample_fmt = AV_SAMPLE_FMT_S32P; FILE *srcFile,*dstFile; if ((srcFile = fopen(srcpcm.c_str(), “rb”)) == NULL) { LOGD(“open srcpcm fail”); return; } if ((dstFile = fopen(dstpcm.c_str(),”wb+”)) == NULL) { LOGD(“open dstpcm fail”); return; } AVFrame *srcFrame,*dstFrame; srcFrame = av_frame_alloc(); srcFrame->nb_samples = (int)src_nb_samples; srcFrame->format = src_sample_fmt; srcFrame->sample_rate = (int)src_sample_rate; srcFrame->channel_layout = src_channel_layout; srcFrame->channels = src_nb_channels; int ret = av_frame_get_buffer(srcFrame,0); if (ret < 0) { LOGD(“av_frame_get_buffer() return faile %d”,ret); return; } ret = av_frame_make_writable(srcFrame); if (ret < 0) { LOGD(“av_frame_make_writable() fail %d”,ret); return; } // 采样数跟采样率有关 目标采样数根据由采样率根据比例公式计算出 // R2 = R1*(β2/β1) R1 称作参考源 与R2是同一类型数据，β1、β2称作比例因子，影响系数。R1，β2，β1一次对应这个公式的第一二三个系数 max_dst_nb_samples = dst_nb_samples = (int)av_rescale_rnd(src_nb_samples,dst_sample_rate,src_sample_rate,AV_ROUND_UP); dstFrame = av_frame_alloc(); dstFrame->sample_rate = (int)dst_sample_rate; dstFrame->format = dst_sample_fmt; dstFrame->nb_samples = (int)dst_nb_samples; dstFrame->channel_layout = dst_channel_layout; dstFrame->channels = dst_nb_channels; ret = av_frame_get_buffer(dstFrame,0); if(ret < 0) { LOGD(“av_frame_get_buffer2 failt %d”,ret); return; } ret = av_frame_make_writable(dstFrame); if (ret < 0){ LOGD(“av_frame_make_writable() 2 failt %d”,ret); return; } // 1、创建上下文 SwrContext *swr_ctx = swr_alloc(); if (swr_ctx == NULL) { LOGD(“swr_alloc fail”); return; } // 2、设置转换参数 在<libswresample/options.c>文件中可以找到定义 av_opt_set_int(swr_ctx,”in_channel_layout”,src_channel_layout,AV_OPT_SEARCH_CHILDREN); av_opt_set_int(swr_ctx,”in_sample_rate”,src_sample_rate,AV_OPT_SEARCH_CHILDREN); av_opt_set_sample_fmt(swr_ctx,”in_sample_fmt”,src_sample_fmt,AV_OPT_SEARCH_CHILDREN); av_opt_set_int(swr_ctx,”out_channel_layout”,dst_channel_layout,AV_OPT_SEARCH_CHILDREN); av_opt_set_int(swr_ctx,”out_sample_rate”,dst_sample_rate,AV_OPT_SEARCH_CHILDREN); av_opt_set_sample_fmt(swr_ctx,”out_sample_fmt”,dst_sample_fmt,AV_OPT_SEARCH_CHILDREN); // 3、执行初始化 ret = swr_init(swr_ctx); if (ret < 0) { LOGD(“swr_init fail”); return; } int require_size = av_samples_get_buffer_size(NULL,src_nb_channels,(int)src_nb_samples,src_sample_fmt,0); size_t read_size = 0; // 这里必须传递srcFrame->data[0]这个地址，而不能传递srcFrame->data while ((read_size = fread(srcFrame->data[0],1,require_size,srcFile)) > 0) { /** 当转换后的采样率大于转换前的转换率时，内部会有缓冲，所以预计转换后的目标采样数会一直变化 所以这里目标音频内存大小也要跟着动态调整；当然也可以不做调整 */ dst_nb_samples = av_rescale_rnd(swr_get_delay(swr_ctx,src_sample_rate)+src_nb_samples,dst_sample_rate,src_sample_rate,AV_ROUND_UP); if (dst_nb_samples > max_dst_nb_samples) { max_dst_nb_samples = dst_nb_samples; av_frame_unref(dstFrame); LOGD(“重新调整转换后存储音频数据内存大小 %d”,max_dst_nb_samples); AVFrame *tmp = av_frame_alloc(); tmp->format = dst_sample_fmt; tmp->nb_samples = (int)dst_nb_samples; tmp->channel_layout = dst_channel_layout; tmp->channels = dst_nb_channels; tmp->sample_rate = (int)dst_sample_rate; ret = av_frame_get_buffer(tmp,0); if (ret < 0) { LOGD(“av_frame_get_buffer fail %d”,ret); break; } ret = av_frame_make_writable(tmp); if (ret < 0) { LOGD(“av_frame_make_writable()11 fail %d”,ret); break; } av_frame_move_ref(dstFrame, tmp); } // 4、音频格式转换 返回实际转换的采样数 <= dst_nb_samples // 对于音频 AVFrame中extended_data和data属性指向同一块内存 int real_convert_nb_samples; #define UseAVFrame #ifndef UseAVFrame const uint8_t **srcdata = (const uint8_t **)srcFrame->extended_data; uint8_t **outdata = dstFrame->extended_data; real_convert_nb_samples = swr_convert(swr_ctx,outdata,(int)dst_nb_samples,srcdata,(int)src_nb_samples); LOGD(“swr_convert nb_samples %d”,real_convert_nb_samples); #else ret = swr_convert_frame(swr_ctx,dstFrame,srcFrame); if (ret < 0) { LOGD(“swr_convert_frame fail %d”,ret); continue; } real_convert_nb_samples = dstFrame->nb_samples; LOGD(“swr_convert_frame nb_samples %d”,real_convert_nb_samples); #endif // 5、存储;由于文件是planner格式，所以对于planner格式的存储要注意下 if (av_sample_fmt_is_planar(dst_sample_fmt)) { int size = av_get_bytes_per_sample(dst_sample_fmt); for (int i =0; i< real_convert_nb_samples;i++) { for (int j=0;j<dst_nb_channels;j++) { fwrite(dstFrame->data[j]+i*size,1,size,dstFile); } } } else { int size = av_samples_get_buffer_size(NULL,dst_nb_channels,real_convert_nb_samples,dst_sample_fmt,1); fwrite(dstFrame->data[0],1,size,dstFile); } } /** 当转换后的采样率大于转换前的转换率时，内部会有缓冲 */ #ifdef UseAVFrame // 会有内部缓冲，这里传递NULL，将剩余的数据全部读取出来 while (swr_convert_frame(swr_ctx,dstFrame,NULL) >= 0) { if (dstFrame->nb_samples <= 0) { break; } LOGD(“还有余量 %d”,dstFrame->nb_samples); #else uint8_t **outdata = dstFrame->extended_data; int real_convert_nb_samples = 1; while (real_convert_nb_samples > 0) { // 会有内部缓冲，这里第三个传递NULL，第四个传递0即可。将剩余的数据全部读取出来 real_convert_nb_samples = swr_convert(swr_ctx,outdata,(int)dst_nb_samples,NULL,0); LOGD(“还有余量 %d”,real_convert_nb_samples); #endif if (av_sample_fmt_is_planar(dst_sample_fmt)) { int size = av_get_bytes_per_sample((dst_sample_fmt)); for (int i=0; i<dstFrame->nb_samples; i++) { for (int j=0; j<dstFrame->channels; j++) { fwrite(dstFrame->data[j]+i*size,1,size,dstFile); } } } else { int size = av_samples_get_buffer_size(NULL,dstFrame->channels,dstFrame->nb_samples,(enum AVSampleFormat)dstFrame->format,1); fwrite(dstFrame->data[0],1,size,dstFile); } } swr_free(&swr_ctx); av_frame_unref(srcFrame); av_frame_unref(dstFrame); fclose(srcFile); fclose(dstFile); }

遇到问题

1、转换后声音不对 原因分析： swr_convert()函数返回的result是实际转换的采样个数，该值肯定小于等于预计采样数dst_nb_samples，所以写入文件的时候不能用dst_nb_samples的值，而应该用result值