快速入门 OpenMontage
最近,GitHub上一个名为OpenMontage的开源项目引起了广泛关注。它自称是“世界上第一个开源的、具备智能体能力的视频制作系统”,这一口号颇具雄心。该项目在低调发展一段时间后,近期一举登上GitHub Trending日榜首位,其仓库首页特意展示了一枚“#1 on GitHub Trending”徽章,海外AI媒体也相继报道,目前其星标数已超过1.4万。
它的定位并非又一个“输入提示词、生成一段4秒短视频”的单纯生成模型,而是将你手中的AI编程助手(如Claude Code、Cursor、Copilot、Windsurf、Codex等)直接转化为一间视频制作工作室。你只需用日常语言描述需求,Agent便会将其分解为一条完整的生产流水线,自动完成调研、脚本撰写、素材生成、剪辑与合成等所有环节。
该项目中有一句令我印象深刻的话:
这句话的意思是,市面上许多号称“免费AI视频”的方案,其本质不过是将几张静态图片进行Ken Burns式的推拉摇移,再配上旁白拼凑成视频。OpenMontage虽然也能实现这种效果,但它支持一种更为实在的做法:Agent从Archive.org、NASA、Wikimedia Commons等免费开放档案中检索真实的动态素材,并按语义排序后剪辑到时间轴中,最终渲染成一条真正的成片。整个过程无需花费一分钱API费用。
免费就能剪辑出包含真实素材的成片,单看项目介绍难免让人心存疑虑,唯有亲自上手运行一遍才能验证其可靠性。本系列文章就从这里开始展开。
OpenMontage 是什么
先看一组数据:官方公布的规模为12条生产流水线(pipeline)、52个工具(tool)、超过500个Agent技能(skill)。这三个数字分别对应其三个不同层次,后续在介绍架构时将会详细展开。
它支持相当全面的视频类型,每条流水线都代表一种完整的制作工作流:
- Animated Explainer:由AI生成的科普解说视频,自带调研、旁白、配图与配乐功能。
- Documentary Montage:从免费素材库和开放档案中检索真实镜头,剪辑成纪录片风格的蒙太奇。
- Cinematic:打造电影感的预告片或teaser。
- Clip Factory:将一条长视频批量切割成多个按序排列的短视频。
- Talking Head / Avatar Spokesperson:由真人或数字人出镜的讲述类视频。
- Podcast Repurpose:将播客内容转化为视频形式。
- Localization & Dub:为已有视频添加字幕、进行翻译及配音。
- Screen Demo、Animation、Hybrid、Character Animation等。
前面提到的零key路线是完全免费的。若你愿意接入付费模型(如Kling、OpenAI、FLUX),效果会更佳,所需花费也不多。官方仓库首页展示了多条使用OpenMontage完整制作的样片,每条都标注了成本:一条60秒的皮克斯风格动画短片《THE LAST BANANA》,使用了6段Kling v3生成的动态镜头、Google Chirp3-HD旁白、免版税钢琴曲以及TikTok式逐词字幕,总成本仅为1.33美元;一条仅使用了一个OpenAI key的产品广告《VOID》,包含4张gpt-image-1图片和TTS旁白,总成本0.69美元;还有几条吉卜力风格的动画,完全采用FLUX生成的图片配合Remotion动画引擎,未使用任何视频生成API,单条成本低至0.15美元。
其核心特性包括:
- Agent优先(agent-first):没有使用Python编写的编排器,你的AI编程助手本身就是编排器,所有创作决策、流程流转、质量审查都写在指令文件中。
- 参考视频驱动:可以直接输入一个YouTube、Short、Reel、TikTok或本地视频,Agent会分析其转录文本、节奏、分镜、关键帧及风格,然后提供2到3个差异化的方案供选择。
- 联网调研是首要任务:在编写脚本之前,Agent会先进行15次以上的网络搜索,覆盖YouTube、Reddit、新闻及学术来源,确保视频内容建立在真实且最新信息的基础上,而非凭空捏造。
- 本地与云端并存:每一种能力都同时支持开源本地方案和付费API,用户可根据实际情况选择,零key也能产出内容。
- 质量门禁与预算治理:在渲染前会估算成本并设定花费上限,渲染后强制进行自检(包括ffprobe校验、抽帧、音频电平分析等),不合格则不予交付。
该项目采用的开源协议是AGPLv3。
对比其他 AI 视频工具
大多数AI视频工具遵循“一个提示词换一个片段”的模式,而OpenMontage提供的是一条端到端的生产流水线,与真实制作团队的工作流程一致,区别在于执行者换成了你的AI编程助手。
理解OpenMontage的关键在于其agent-first架构。官方文档PROJECT_CONTEXT.md中对其设计理念进行了如下描述:
也就是说,Python在此处只负责两件事:提供工具与保存状态。真正的智能位于Agent一侧。整个流程中没有Python编排器、审查器或流转逻辑,全部由Agent读取指令文件来驱动。其运行流程大致如下:
你用日常语言描述需求↓ Agent 读取流水线清单(YAML,包含阶段、工具、审查标准、成功门禁)↓ Agent 读取阶段导演技能(Markdown,指导每个阶段如何操作)↓ Agent 调用 Python 工具,按7个维度打分,选择最优供应商↓ Agent 使用审查技能进行自检(Schema校验、质量检查)↓ Agent 保存检查点(JSON格式,可恢复,包含决策日志和成本快照)↓ 呈现给你审批(每个创作决策点都由你掌控)↓ 渲染前校验门禁(交付承诺、幻灯片风险、渲染器治理)↓ 渲染(使用Remotion或FFmpeg)↓ 渲染后自检(ffprobe、抽帧、音频分析、承诺核对)↓ 输出最终视频(仅当自检通过)
这套机制带来的一个直接好处是:所有编排逻辑、审查标准和质量红线都写在可读的指令文件中(YAML清单加Markdown技能),你可以直接打开查看并随时修改。每个决策还会记录其考虑过的备选方案、置信度以及最终选择的原因,整个过程全程留痕。
安装与初体验
经过上述介绍,不如直接动手运行一遍。OpenMontage的安装过程非常轻量,核心依赖仅有pyyaml、pydantic、Pillow、requests等几个Python包。
环境准备
在动手之前,请先确认本机具备以下环境:
- Python 3.10及以上版本。
- FFmpeg:对于macOS系统使用
brew install ffmpeg,对于Linux系统使用sudo apt install ffmpeg。 - Node.js 18及以上版本:渲染引擎Remotion基于React,需要Node环境支持。
- 一个AI编程助手:Claude Code、Cursor、Copilot、Windsurf或Codex均可。
可以先进行验证:
$ python --versionPython 3.11.15$ ffmpeg -versionffmpeg version 8.1.1 Copyright (c) 2000-2026 the FFmpeg developersbuilt with Apple clang version 17.0.0 (clang-1700.6.4.2)$ node --versionv24.12.0
克隆与安装
将仓库克隆下来,然后执行一条make setup命令即可完成安装:
$ git clone https://github.com/calesthio/OpenMontage.git$ cd OpenMontage$ make setup
该命令的运行结果如下:
==> Installing Python dependencies...pip install -r requirements.txt...==> Installing Remotion composer...cd remotion-composer && npm install...==> Installing free offline TTS (Piper)...pip install piper-tts || echo "[skip] piper-tts install failed — TTS will use cloud providers instead"...==> Installing HyperFrames runtime (cache-warm via npx)...Pulls the 'hyperframes' npm package into the local npx cache so thefirst render doesn't pay a 30-60s cold-fetch penalty. ~20MB of disk.HyperFrames CLI cached (npx)HyperFrames runtime_available=True, npm=0.7.4==> Created .env from .env.example — add your API keys there.Done! Open this project in your AI coding assistant and start creating.Optional: add API keys to .env to unlock cloud providers.Optional: run 'make install-gpu' if you have an NVIDIA GPU.Optional: run 'make hyperframes-doctor' to fully validate the HyperFrames runtime.Optional: run 'make hyperframes-warm' anytime to refresh the npx cache to the latest hyperframes version.
可以看到,make setup一条命令就将整套运行环境依次准备就绪,每个==>对应一个步骤:
- 安装Python依赖:执行
pip install -r requirements.txt,安装pyyaml、pydantic、Pillow等核心库,这是工具层运行的基础。 - 安装Remotion合成器:进入
remotion-composer目录执行npm install,Remotion是默认的React渲染引擎,用于将分镜合成最终视频。 - 安装免费离线TTS(Piper):这一步是实现零key出片的关键,旁白合成不依赖云端;这里使用了
|| echo,即使安装失败也不会中断,后续会自动改用云端TTS。 - 预热HyperFrames运行时:通过
npx将hyperframes包提前拉入本地缓存,避免首次渲染时30到60秒的冷启动等待;输出中的runtime_available=True, npm=0.7.4表明HyperFrames这条渲染线路也已准备就绪。 - 生成
.env配置文件:从.env.example复制一份.env,后续若想接入付费供应商,只需在此文件中填写key。
最后几行Optional为可选操作:若有NVIDIA GPU,可运行make install-gpu解锁本地视频生成;make hyperframes-doctor能对HyperFrames运行时进行完整体检。当看到Done!这一行时,表示零key的免费工具链已全部就绪,可以开始制作视频。
零 key 也能出片
OpenMontage无需配置任何付费API key,开箱即用即可制作出真视频。完成make setup后,你已经拥有了以下一套免费工具链:
| 能力 | 免费工具 | 做什么 |
|---|---|---|
| 旁白 | Piper TTS | 离线免费文本转语音,发音接近真人 |
| 开放素材 | Archive.org + NASA + Wikimedia Commons | 免费开放的档案影像、教育媒体、纪录片素材 |
| 额外图库 | Pexels + Unsplash + Pixabay | 免费图库视频和图片,开发者key免费申请 |
| 合成(React) | Remotion | 基于React渲染,支持弹簧动画图片场景、文字卡、数据卡、图表、抖音式逐词字幕、数字人 |
| 合成(HTML/GSAP) | HyperFrames | 基于HTML/CSS/GSAP渲染,支持动感排版、产品宣传、发布预告、网页转视频、SVG角色动画 |
| 后期 | FFmpeg | 编码、字幕烧录、音频混音、调色 |
| 字幕 | 内置 | 自动生成带逐词时间轴的字幕 |
需要说明的是,Pexels、Unsplash、Pixabay这三个虽然需要key,但均为开发者免费申请,不涉及任何付费,因此也计入零成本范围。
若想立刻看到效果,可以运行一下零key的demo,它仅使用Remotion组件渲染动画图表、文字和数据可视化,不涉及任何需要联网或付费的生成模型:
$ make demo==> Rendering zero-key demo videos (no API keys needed)...These use only Remotion components — animated charts, text, data viz.Rendering: code-to-screenProps: remotion-composer/public/demo-props/code-to-screen.jsonOutput:projects/demos/renders/code-to-screen.mp4Downloading Chrome Headless Shell https://www.remotion.dev/chrome-headless-shellGot Headless Shell ━━━━━━━━━━━━━━━━━━ 132472msBundled code ━━━━━━━━━━━━━━━━━━ 2187ms⚡️ Cached bundle. Subsequent renders will be faster.CompositionExplainerCodech264Concurrency4xRendered frames━━━━━━━━━━━━━━━━━━ 79491msEncoded video━━━━━━━━━━━━━━━━━━ 3666msDone: projects/demos/renders/code-to-screen.mp4 (3.6 MB)Rendering: focusflow-pitch...Rendered frames━━━━━━━━━━━━━━━━━━ 72604msDone: projects/demos/renders/focusflow-pitch.mp4 (4.0 MB)Rendering: world-in-numbers...Rendered frames━━━━━━━━━━━━━━━━━━ 75020msDone: projects/demos/renders/world-in-numbers.mp4 (4.1 MB)
可以看到,这条命令一口气渲染了三条demo视频:code-to-screen、focusflow-pitch和world-in-numbers,分别对应代码上屏、产品路演和数据可视化三种风格。每条视频的数据均来自demo-props/下的一个JSON文件,套用的是同一个名为Explainer的Remotion合成(composition),采用h264编码、4路并发渲染。
有几个点值得留意:
- 首次渲染会先下载无头Chrome:Remotion底层使用无头Chrome将页面一帧帧截取,因此第一次运行时会先拉取一个
chrome-headless-shell,这是一次性操作,之后会使用缓存。同理,Bundled code(打包)在第一次需要完整构建,后两条视频直接命中缓存(⚡️ Cached bundle)。 - 整个过程完全在本地进行,仅依赖CPU:没有调用任何付费API,生成的产物为3.6到4.1 MB的mp4文件,存放于
projects/demos/renders/目录下。
这一步实际上完整验证了“零key出片”这条链路:Remotion + 无头Chrome + FFmpeg,不花一分钱也能渲染出真视频。
打开渲染出的mp4文件,效果如下:
零 key 视频的本质
我们顺便查看一下源码,了解一支零key视频在落地时的具体样貌。上面截图中这条code-to-screen,其数据来自remotion-composer/public/demo-props/code-to-screen.json,让我们打开看看其结构(仅截取前两个镜头):
{"theme": "flat-motion-graphics","cuts": [{"id": "code-hook","type": "hero_title","in_seconds": 0,"out_seconds": 3.5,"text": "From Code to Screen","subtitle": "How a small system turns work into a polished release"},{"id": "code-tip","type": "callout","in_seconds": 3.5,"out_seconds": 7.5,"title": "Shipping Rule","text": "Start with one visible win, then automate the repeatable path."}]}
这份props的结构一目了然:
- theme:整体风格,此处使用的是
flat-motion-graphics风格手册。 - cuts:一个数组,每一项为一个镜头,按时间轴依次排列。
- type:镜头类型,
hero_title为大标题,callout为提示卡,该片子后续还使用了comparison(对比卡)、progress_bar(进度条)、kpi_grid(KPI网格)等。 - in_seconds / out_seconds:该镜头在时间轴上的起始和结束秒数。
除了cuts,这份props中还包含overlays(叠加层,如分节标题、数字浮现)、captions(字幕)和audio(音频)等字段。
简单来说,一支零key视频的本质,就是一个Remotion React组件接收这样一份JSON props,然后将其渲染成MP4。刚才make demo渲染出的那几条视频,背后就是这样的原理。
跑你的第一条视频
真正的玩法是在AI编程助手中运行。用你的编程助手打开OpenMontage项目目录,然后像聊天一样将需求说给它听:
Make a 45-second animated explainer about why the sky is blue
Agent会先选定流水线(此处为Animated Explainer),读取清单和阶段技能,联网调研“天空为什么是蓝色”,编写脚本、配制旁白、生成配图、自动寻找免版税背景音乐、烧录逐词字幕,最后渲染成片。在你看到成片之前,它还会进行一轮多点自检。整个过程中的每个创作决策点,它都会停下来询问你的意见。
如果你想制作的是使用真实素材的纪录片式视频,记得在提示词中明确说明“use real footage only”:
Make a 90-second documentary montage about what a city feels like at 4am.Use real footage only, no narration, elegiac tone.
若想解锁更多工具,可以向.env文件中添加key,每个key都是可选的,添加越多,可用的供应商也越多:
# .env —— 每个 key 都是可选的,有什么填什么# --- 图片 + 视频网关 ---FAL_KEY=your-key # FLUX 图片,Google Veo、Kling、MiniMax 视频,Recraft 图片# --- Google(一个 key 同时解锁图片生成和 TTS)---GOOGLE_API_KEY=your-key# Google Imagen 图片,Google Cloud TTS(700+ 音色、50+ 语言)# --- 配音 ---ELEVENLABS_API_KEY=your-key# TTS 旁白、AI 音乐、音效OPENAI_API_KEY=your-key# OpenAI TTS、DALL-E 图片XAI_API_KEY=your-key # Grok 图片生成/编辑、Grok 视频生成DOUBAO_SPEECH_API_KEY=your-key # 火山引擎豆包语音 TTS# Piper 本地音色无需 key,pip 装上 piper-tts 即可# --- 音乐 ---SUNO_API_KEY=your-key# Suno AI 音乐生成(整曲、伴奏、各种曲风)# --- 视频生成 ---HEYGEN_API_KEY=your-key# HeyGen(一个 key 调 VEO、Sora、Runway、Kling、Seedance)RUNWAY_API_KEY=your-key# Runway Gen-4 直连 APIVIDEO_GEN_LOCAL_ENABLED=true # 设为 true 启用本地视频生成(需 GPU + diffusers)VIDEO_GEN_LOCAL_MODEL=wan2.1-1.3b# 本地模型:wan2.1-1.3b / wan2.1-14b / hunyuan-1.5 / ltx2-local / cogvideo-5b# --- 库存素材 ---PEXELS_API_KEY=your-key# Pexels 免费库存视频/图片PIXABAY_API_KEY=your-key # Pixabay 免费库存视频/图片UNSPLASH_ACCESS_KEY=your-key # Unsplash 免费库存图片(开发者 key 免费申请)# --- 分析 ---HF_TOKEN=your-key# HuggingFace token,开启转写时的说话人分离
小结
OpenMontage作为近期登上GitHub Trending榜首的开源项目,其核心价值在于将AI编程助手转化为一套完整的视频制作流水线。通过agent-first架构,无需Python编排器,所有决策与流程均由Agent驱动,并全程留痕。更重要的是,它实现了零成本出片,依赖Piper、Archive.org、Remotion等免费工具链即可制作真实视频。目前,项目已安装完毕并成功渲染了几条demo,后续文章将深入探讨其流水线架构、三层知识体系以及Agent如何一步步完成创作任务。
参考
- OpenMontage GitHub 仓库
- OpenMontage LICENSE(AGPLv3)
- AIToolly:OpenMontage 开源报道
- Remotion 官网
- HyperFrames GitHub 仓库
- Piper TTS 项目
- GSAP 动画库官网
- FFmpeg 官网