使用COS+云函数+CLS+FFmpeg,快速构建高可用、并行处理、实时日志、高度自定义视频转码服务。
使用COS+云函数+CLS+FFmpeg,快速构建高可用、并行处理、实时日志、高度自定义视频转码服务。
通过云函数创建ffmpeg任务进程,云函数进程与ffmpeg任务进程通过pipe和fifo的方式进行数据传输。云函数进程中的两个任务线程分别接收ffmpeg任务进程向函数进程输出的ffmpeg日志流与转码后的文件流。实时日志线程将日志流输出,上传任务负责缓存文件流并上传至用户定义的输出cos。
转码应用部署后,将为您创建以下资源:
转码应用需要依赖云函数长时运行能力。
转码输出桶与函数建议配置在同一区域,因为跨区域配置转码应用稳定性及效率都会降低,并且会产生跨区流量费用。
需要为转码应用的云函数创建运行角色,并授权cos读写权限。详细配置参考运行角色。
ffmpeg不同转码场景下指令配置参数不同,因此需要您具有一定的ffmpeg使用经验 。 本文中仅提供几个样例作为参考,更多ffmpeg指令参考FFmpeg官网。
下载转码应用。
sls init transcode-app
进入项目目录transcode-app,将看到目录结构如下:
transcode-app
|- .env #环境配置
|- serverless.yml # 应用配置
|- log/ #log日志配置
| └── serverless.yml
└──transcode/ #转码函数配置
|- src/
| |- ffmpeg #转码ffmpeg工具
| └── index.py
└── serverless.yml
a) log/serverless.yml 定义一个cls日志集和主题,用于转码过程输出的日志保存,目前采用腾讯云cls日志存储。每个转码应用将会根据配置的cls日志集和主题去创建相关资源,cls的使用会产生计费,具体参考cls计费规则。
b) transcode/serverless.yml 定义函数的基础配置及转码参数配置。
c) transcode/src/index.py 转码功能实现。
d) transcode/src/ffmpeg 转码工具ffmpeg。
配置环境变量和应用参数
a) 应用参数,文件transcode-app/serverless.yml
#应用信息
app: transcodeApp # 您需要配置成您的应用名称
stage: dev # 环境名称,默认为dev
a) 环境变量,文件transcode-app/.env
REGION=ap-shanghai # 应用创建所在区
TENCENT_SECRET_ID=xxxxxxxxxxxx # 您的腾讯云sercretId
TENCENT_SECRET_KEY=xxxxxxxxxxxx # 您的腾讯云sercretKey
?
配置转码需要的参数信息
a) cls日志定义,文件transcode-app/log/serverless.yml
#组件信息 全量配置参考https://github.com/serverless-components/tencent-cls/blob/master/docs/configure.md
component: cls # 引用 component 的名称
name: cls-video # 创建的实例名称,请修改成您的实例名称
#组件参数
inputs:
name: cls-log # 您需要配置一个name,作为您的cls日志集名称
topic: video-log # 您需要配置一个topic,作为您的cls日志主题名称
region: ${env:REGION} # 区域,统一在环境变量中定义
period: 7 # 日志保存时间,单位天
b) 云函数及转码配置,文件transcode-app/transcode/serverless.yml
#组件信息 全量配置参考https://github.com/serverless-components/tencent-scf/blob/master/docs/configure.md
component: scf # 引用 component 的名称
name: transcode-video # 创建的实例名称,请修改成您的实例名称
#组件参数
inputs:
name: transcode-video-${app}-${stage}
src: ./src
handler: index.main_handler
role: transcodeRole # 函数运行角色,已授予cos对应桶全读写权限
runtime: Python3.6
memorySize: 3072 # 内存大小,单位MB
timeout: 43200 # 函数执行超时时间, 单位秒, 即本demo目前最大支持12h运行时长
region: ${env:REGION} # 函数区域,统一在环境变量中定义
asyncRunEnable: true # 开启长时运行
cls: # 函数日志
logsetId: ${output:${stage}:${app}:cls-video.logsetId} # cls日志集 cls-video为cls组件的实例名称
topicId: ${output:${stage}:${app}:cls-video.topicId} # cls日志主题
environment:
variables: # 转码参数
REGION: ${env:REGION} # 输出桶区域
DST_BUCKET: test-123456789 # 输出桶名称
DST_PATH: video/outputs/ # 输出桶路径
DST_FORMAT: avi # 转码生成格式
FFMPEG_CMD: ffmpeg -i {input} -y -f {dst_format} {output} # 转码基础命令,您可自定义配置,但必须包含ffmpeg配置参数和格式化部分,否则会造成转码任务失败。
FFMPEG_DEBUG: 1 # 是否输出ffmpeg日志 0为不输出 1为输出
TZ: Asia/Shanghai # cls日志输出时间的时区
events:
- cos: # cos触发器
parameters:
bucket: test-123456789.cos.ap-shanghai.myqcloud.com # 输入文件桶
filter:
prefix: video/inputs/ # 桶内路径
events: 'cos:ObjectCreated:*' # 触发事件
enable: true
?
在transcode-app项目目录下,执行sls deploy部署项目。
cd transcode-app && sls deploy
上传视频文件到已经配置好的cos桶指定路径,则会自动转码。本示例中是cos桶test-123456789.cos.ap-shanghai.myqcloud.com下的/video/inputs/
转码成功后,文件将保存在您配置的输出桶路径中。本示例中是cos桶test-123456789.cos.ap-shanghai.myqcloud.com下的/video/outputs/
如果需要调整转码配置,修改文件transcode/serverless.yml 后,重新部署云函数即可:
cd transcode && sls deploy
批量文件上传到cos会并行触发转码执行。


yml文件 transcode-app/transcode/serverless.yml中 DST_FORMAT与FFMPEG_CMD指定了转码应用的转码指令,您可根据应用场景自定义配置。
例:转码mp4格式视频,可以将FFMPEG_CMD配置为:
DST_FORMAT: mp4
FFMPEG_CMD: ffmpeg -i {input} -vcodec copy -y -f {dst_format} -movflags frag_keyframe+empty_moov {output}
说明:
- FFMPEG_CMD 必须包含ffmpeg配置参数和格式化部分,否则会造成转码任务失败。
- ffmpeg不同转码场景下指令配置参数不同,因此需要您具有一定的ffmpeg使用经验。以上提供的指令仅仅是针对这几个应用场景的指令。更多ffmpeg指令参考FFmpeg官网。
转码应用场景中提供了默认的ffmpeg工具,如果您想自定义ffmpeg,执行以下操作:
transcode-app/transcode目录下再次执行sls deploy部署更新。 cd transcode && sls deploy
说明:
自行编译的ffmpeg环境与云函数运行环境如果不同,可能会导致ffmpeg权限问题。我们提供了云函数执行环境的官方镜像,请使用官方镜像环境编译您的ffmpeg。
转码函数运行时需要读取cos资源进行转码,并将转码后的资源写回cos,因此需要给函数配置一个授权cos全读写的运行角色。更多参考函数运行角色。
登录 访问管理 控制台,选择新建角色,角色载体为腾讯云产品服务。

在“输入角色载体信息”步骤中勾选【云函数(scf)】,并单击【下一步】:

在“配置角色策略”步骤中,选择函数所需策略并单击【下一步】。如下图所示:

说明:
您可以直接选择
QcloudCOSFullAccess对象存储(COS)全读写访问权限,如果需要更细粒度的权限配置,请根据实际情况配置选择。
输入角色名称,完成创建角色及授权。该角色将作为函数的运行角色,配置在文件transcode-app/transcode/serverless.yml 中。
说明:
由于运行角色密钥最长有效期为12小时,因此函数配置的超时时间不能大于12小时。如果您需要更长的函数执行时长,可以通过改造
transcode-app/transcode/src/index.py中的访问cos方式,配置永久密钥去读写访问cos。但这样会暴露您的密钥在代码中,请谨慎使用。