<?xml version="1.0" encoding="utf-8" standalone="yes"?><rss version="2.0" xmlns:atom="http://www.w3.org/2005/Atom" xmlns:content="http://purl.org/rss/1.0/modules/content/"><channel><title>可控生成 on Chico's Tech Blog</title><link>https://realtime-ai.chat/tags/%E5%8F%AF%E6%8E%A7%E7%94%9F%E6%88%90/</link><description>Recent content in 可控生成 on Chico's Tech Blog</description><image><title>Chico's Tech Blog</title><url>https://github.com/chicogong.png</url><link>https://github.com/chicogong.png</link></image><generator>Hugo</generator><language>zh-cn</language><lastBuildDate>Thu, 23 Apr 2026 11:00:00 +0800</lastBuildDate><atom:link href="https://realtime-ai.chat/tags/%E5%8F%AF%E6%8E%A7%E7%94%9F%E6%88%90/index.xml" rel="self" type="application/rss+xml"/><item><title>AI 视频的可控性:运镜、一致性、参考图</title><link>https://realtime-ai.chat/posts/ai-video-control/</link><pubDate>Thu, 23 Apr 2026 11:00:00 +0800</pubDate><guid>https://realtime-ai.chat/posts/ai-video-control/</guid><description>AI 视频画质已经够用,真正卡落地的是控制——运镜、角色一致性、首尾帧、局部编辑。这篇拆开 2026 年可控视频生成的方法、边界和拼片成叙事的工作流。</description><content:encoded><![CDATA[<p>给你看一个真实的对比。</p>
<p>两个团队,同样要做一支 30 秒的产品宣传片。A 团队拿最强的文生视频模型,写了一段漂亮的 prompt,十分钟出片,画质惊艳——然后发现主角的衣服在第二个镜头变了颜色,客户不要。B 团队画质明显糙一截,但每个镜头的相机怎么推、主角长什么样、最后一帧停在哪,全都对得上。客户选了 B。</p>
<p>这件事说明一个被低估的事实:<strong>AI 视频生成早就过了&quot;画得好不好看&quot;的阶段,现在卡在&quot;画得跟不跟你想的一样&quot;。</strong> 2026 年发布的模型——Veo 3.1、Runway Gen-4.5、Kling O1、Pika 2.5——画质都够用了,真正的竞争发生在控制层。这篇不横评工具,只讲一件事:怎么让 AI 视频听话。</p>
<h2 id="为什么可控比画质更卡落地">为什么&quot;可控&quot;比&quot;画质&quot;更卡落地</h2>
<p>画质是个连续变量,差一点也能用;可控性是个二元变量,要么对要么废。</p>
<p>商业视频的本质是&quot;带着约束的创作&quot;。客户给你一张产品图,主角的脸不能变,品牌色是固定的 RGB 值,这个镜头要从左往右摇,下个镜头要接得上。这些都不是&quot;建议&quot;,是硬约束。一个画质 95 分但主角换了张脸的镜头,商业价值是 0,不是 95。</p>
<p>文生视频的根本问题在这:<strong>prompt 是个低带宽的接口。</strong> 你想说的是&quot;相机以每秒 15 度的速度向右平摇,主角始终在画面左三分之一&quot;,你能写的是&quot;镜头缓缓摇过,主角在一侧&quot;。中间丢掉的信息,模型用它训练数据里的先验给你补——补出来的东西好不好看是一回事,是不是你要的,完全是另一回事。</p>
<p>所以可控视频生成这两年的所有进展,本质上是在干同一件事:<strong>给模型加上 prompt 之外的、带宽更高的控制信号。</strong> 参考图、相机轨迹、首尾帧、mask,都是这个东西。</p>
<pre class="mermaid">flowchart TB
  P[文字 prompt<br/>低带宽] --> M[视频生成模型]
  R[参考图<br/>锁身份/风格] --> M
  C[相机轨迹<br/>锁运镜] --> M
  K[首尾帧<br/>锁起止] --> M
  K2[局部 mask<br/>锁编辑范围] --> M
  M --> V[可控的视频]
  style P fill:#fde7c2,stroke:#e8b23c
  style R fill:#cfe8d5,stroke:#4f9d69
  style C fill:#cfe8d5,stroke:#4f9d69
  style K fill:#cfe8d5,stroke:#4f9d69
  style K2 fill:#cfe8d5,stroke:#4f9d69
</pre><p>橙色那条是大多数人唯一在用的接口,绿色那几条才是 2026 年真正在拉开差距的地方。下面逐个拆。</p>
<h2 id="运镜从形容词到轨迹">运镜:从形容词到轨迹</h2>
<p>运镜是最早被&quot;控制化&quot;的环节,因为它的需求最刚硬。</p>
<p>早期文生视频控制运镜靠形容词——&ldquo;dolly in&quot;&ldquo;pan left&quot;&ldquo;crane shot&rdquo;。这套东西的问题是,模型对这些词的理解是统计意义上的:它见过一万个标着 &ldquo;pan left&rdquo; 的片段,给你生成一个&quot;平均的左摇&rdquo;。速度多快、摇多少度、什么时候开始,你说了不算。</p>
<p>2026 年成熟的做法分两个层次。</p>
<p>第一层是<strong>离散的相机指令</strong>,Runway 的 Director Mode 是代表:你不是写形容词,而是在面板上选&quot;水平移动 +30、垂直 0、变焦 -10&rdquo;,给的是数值。这比形容词强,但还是预设档位的拼装。</p>
<p>第二层是<strong>连续的相机轨迹控制</strong>,这是研究界正在往产品里推的方向。学术上像 I2VControl-Camera 这类工作,把相机位姿表达成一条可调的三维轨迹,还能单独调&quot;运动强度&quot;——同一条轨迹,你可以要它走得猛一点或者收一点。ATI 这类工作更进一步,把相机运动、物体平移、局部形变统一成一套&quot;轨迹指令&quot;,用户在图上画几条线,模型照着线动。</p>
<p>这里有个工程上的判断值得说:<strong>别期待一个模型既会高质量生成、又会精确听轨迹。</strong> 目前实践里更靠谱的是分层——先用大模型出基础画面和运动,相机轨迹作为一路独立的控制信号注入,而不是指望它从 prompt 里&quot;悟&quot;出来。运镜控制做得好的产品,基本都把&quot;画什么&quot;和&quot;相机怎么动&quot;解耦成了两路输入。</p>
<h2 id="一致性三个不同的问题别混为一谈">一致性:三个不同的问题,别混为一谈</h2>
<p>&ldquo;一致性&quot;是个被说烂的词,但它其实是三个独立的问题,解法完全不同。混在一起谈,是新手最大的认知误区。</p>
<table>
  <thead>
      <tr>
          <th>一致性类型</th>
          <th>要解决什么</th>
          <th>主要手段</th>
          <th>难度</th>
      </tr>
  </thead>
  <tbody>
      <tr>
          <td>时序一致性</td>
          <td>同一个镜头内不闪烁、不漂移</td>
          <td>模型本身的时序建模</td>
          <td>模型出厂自带</td>
      </tr>
      <tr>
          <td>角色/物体一致性</td>
          <td>同一个角色跨镜头长得一样</td>
          <td>参考图 / reference</td>
          <td>中,有成熟方案</td>
      </tr>
      <tr>
          <td>跨镜头风格一致性</td>
          <td>多个镜头光线、色调统一</td>
          <td>参考图 + 工作流约束</td>
          <td>难,要靠流程</td>
      </tr>
  </tbody>
</table>
<p><strong>时序一致性</strong>是镜头内部的事:一段 5 秒的视频,主角的手不能忽然多一根指头,背景的招牌字不能一帧一个样。这个问题主要靠模型自身的时序建模能力,2026 年主流模型在 5–10 秒的片段内基本解决了。它不是你能控制的,是模型出厂带的。</p>
<p><strong>角色一致性</strong>是跨镜头的事,这才是你要操心的。同一个人物,镜头一在咖啡馆、镜头二在街上,得是同一张脸、同一身衣服。2026 年的标准答案是<strong>参考图(reference image)</strong>:Veo 3.1 的 &ldquo;Ingredients to Video&rdquo; 让你一次传最多四张参考图,分别锁主体、风格、构图;Runway Gen-4.5、Pika 2.5 都把参考图做成了一等接口。这里要建立的关键认知是——<strong>图生视频(image-to-video)在可控性上几乎总是优于文生视频。</strong> 一张参考图从第一帧就把身份、风格、构图全锁死了,模型只需要负责&quot;动起来&rdquo;。能用图起手,就别用纯文字起手。</p>
<p><strong>跨镜头风格一致性</strong>最难,因为它没有单一的技术开关。十个镜头,每个都单独生成,哪怕都用了同一张角色参考图,光线方向、色温、颗粒感还是会飘。这个问题在 2026 年没有被模型解决,<strong>它是个工作流问题</strong>,后面专门讲。</p>
<h2 id="首尾帧把生成变成补全">首尾帧:把&quot;生成&quot;变成&quot;补全&quot;</h2>
<p>如果只能推荐一个提升可控性的技巧,我会选首尾帧。</p>
<p>标准图生视频只锁第一帧,后面让模型自由发挥——你不知道它会停在哪。**首尾帧控制(first-last-frame)**把这件事反过来:你给定开始的图 A 和结束的图 B,模型的任务从&quot;自由生成&quot;降级成&quot;在 A 和 B 之间补出中间帧&quot;。Runway 叫 Keyframe,Kling 叫起止帧,Kling O1 把双关键帧做成了核心能力,Luma 叫 Keyframes,叫法不同,是同一个东西。</p>
<p>为什么这招好用?因为它把一个开放问题变成了闭合问题。<strong>开放问题&quot;生成一段视频&quot;有无数个解,模型挑哪个你管不着;闭合问题&quot;从 A 走到 B&quot;的解空间被两头夹死了,模型只能在中间这段动脑筋。</strong> 解空间小,可控性自然高。</p>
<p>对叙事尤其关键——一个镜头要&quot;结束在某个特定画面&quot;上,好接下一个镜头,首尾帧是唯一可靠的办法。LTX 2.3 这类工作甚至支持首、中、尾三个锚点,中间再插一帧,等于把一个长镜头的运动轨迹钉了三个点。</p>
<p>代价是你得先有 B 这张图。所以现实工作流常常是:先用文生图模型把每个关键画面的&quot;起&quot;和&quot;止&quot;都画出来,再用首尾帧让视频模型去连。<strong>画面设计和运动生成被拆成了两步</strong>——这恰恰是它可控的原因。</p>
<h2 id="局部编辑不要重生成整段">局部编辑:不要重生成整段</h2>
<p>视频做到 90% 时,客户说&quot;主角的杯子换成蓝色,别的不动&quot;。</p>
<p>最糟的做法是改 prompt 重新生成整段——你会得到一段哪儿都不一样的新视频,杯子是蓝了,但运镜变了、表情变了,客户更不满意。<strong>局部编辑(local editing)</strong> 要解决的就是这个:只改你圈出来的地方,其余每一帧像素级不动。</p>
<p>技术上这是视频 inpainting 的活儿,2026 年的研究重点是怎么兼顾&quot;局部干净&quot;和&quot;全局不漂&quot;。视频 inpainting 有个老毛病:逐帧补会闪烁(局部不平滑),整段一起补又容易让被编辑区域慢慢偏离原意(全局漂移)。EditCtrl 这类工作的思路是只在被 mask 的 token 上做计算,算力开销跟编辑区域大小成正比——你只改一个杯子,就别为整个画面付费。OmniPainter 这类则用&quot;自回归分数管局部平滑、层级分数管全局连贯&quot;的混合引导来平衡这对矛盾。</p>
<p>落地建议很直接:<strong>把局部编辑当成跟生成同等重要的能力去选工具。</strong> 一个只会从头生成、不能精确局部改的视频模型,在真实商业流程里是残废的——因为客户的修改意见永远是&quot;这里改一下&quot;,不是&quot;全部重来&quot;。</p>
<h2 id="prompt-能控到哪控不到哪">prompt 能控到哪,控不到哪</h2>
<p>说点得罪人的。prompt 在视频生成里,是个被高估的控制手段。</p>
<p>它能控的:<strong>画面里有什么</strong>(主体、场景、大致风格、氛围)。这部分 prompt 是合格的,而且不可替代——你总得用语言说清楚要画什么。</p>
<p>它控不动的:<strong>任何需要精度的东西</strong>。精确的相机速度、物体在第几秒到达画面哪个位置、两个角色的相对站位、光线的具体方向——这些用文字描述,模型只能给你一个&quot;差不多&quot;。原因前面说过,自然语言对几何和时序的描述带宽太低,你写得再细,信息也在&quot;文字→模型理解&quot;这一步被压扁了。</p>
<p>所以一条实践原则:<strong>prompt 负责&quot;内容&quot;,专门的控制信号负责&quot;精度&quot;。</strong> 想控运镜就上轨迹/相机面板,想控身份就上参考图,想控起止就上首尾帧,想控局部就上 mask。指望把这些全塞进一段 prompt 里&quot;写清楚&quot;,是在跟模型的接口带宽较劲,较不赢的。</p>
<p>判断一个视频产品成不成熟,看一个指标就够:<strong>它除了 prompt 框,还给了你几个真正的控制接口。</strong> 只有一个 prompt 框的,是玩具;有参考图、有相机控制、有首尾帧、有 mask 编辑的,才是生产工具。</p>
<h2 id="把碎片拼成叙事可控性的终极考题">把碎片拼成叙事:可控性的终极考题</h2>
<p>前面所有控制手段,都是为了一个镜头。但一支片子是几十个镜头。<strong>单镜头可控,不等于整片可控</strong>——这是 2026 年 AI 视频离&quot;真能用&quot;最后、也最硬的一道坎。</p>
<p>现在没有任何模型能一次生成一支风格统一的三分钟片子。能稳定输出的上限是 5–10 秒的单镜头。所以做长片只有一条路:<strong>生成一堆短片段,再拼起来。</strong> 而拼接的连贯性,完全是个工作流问题,不是模型问题。</p>
<p>一套 2026 年实战可行的流程是这样:</p>
<pre class="mermaid">flowchart TB
  S[1. 文字脚本<br/>分镜表] --> KF[2. 文生图<br/>画出每个镜头的关键帧]
  KF --> REF[3. 锁定角色参考图<br/>风格参考图]
  REF --> GEN[4. 逐镜头生成<br/>首尾帧 + 参考图 + 运镜]
  GEN --> CHK{5. 逐镜头验收}
  CHK -- 不对 --> EDIT[6. 局部编辑修补]
  EDIT --> CHK
  CHK -- 通过 --> CUT[7. 剪辑台拼接 + 调色统一]
  style REF fill:#cfe8d5,stroke:#4f9d69
  style GEN fill:#cfe8d5,stroke:#4f9d69
  style CUT fill:#fde7c2,stroke:#e8b23c
</pre><p>几个关键点。第一,<strong>关键帧先行</strong>——先用文生图把每个镜头的画面定下来,这是整片风格统一的锚。第二,<strong>参考图全程复用</strong>——角色参考图和风格参考图,从第一个镜头用到最后一个,这是跨镜头一致性唯一能抓住的绳子。第三,<strong>最后一定有一道调色</strong>:哪怕前面控制得再好,十个片段的色调还是会有细微差异,在剪辑台上统一拉一遍 LUT,是目前抹平&quot;拼接感&quot;最有效的手段——这一步反而不靠 AI。</p>
<p>我的判断是:<strong>2026 年做 AI 长视频,真正的核心能力不是&quot;会写 prompt&quot;,是&quot;会做工作流&quot;。</strong> 模型只是流水线上的一个工位。谁能把分镜、关键帧、参考图、首尾帧、局部编辑、调色这套流程串顺,谁就能稳定产出能交付的片子。盯着&quot;哪个模型画质最强&quot;的人,做不出连贯的三分钟。</p>
<h2 id="最后可控性才是这场竞赛的下半场">最后:可控性才是这场竞赛的下半场</h2>
<p>把这篇的判断收一下。</p>
<p>画质的竞赛基本结束了,2026 年主流模型都够用。下半场的全部看点在控制:谁的参考图锁身份锁得更死,谁的相机轨迹更跟手,谁的局部编辑能像素级不动,谁能让十个片段拼起来不露馅。</p>
<p>对要落地的人,优先级很清楚:</p>
<ol>
<li><strong>能用图生视频,就别用文生视频</strong>——参考图是性价比最高的可控性。</li>
<li><strong>叙事镜头一律上首尾帧</strong>——把开放生成变成闭合补全。</li>
<li><strong>选工具看控制接口的数量,不只看画质 demo</strong>——能局部编辑的才是生产工具。</li>
<li><strong>把功夫下在工作流上</strong>——长片的连贯性是流程问题,不是模型问题。</li>
</ol>
<p>一句话:别再问&quot;哪个模型画得最好看&quot;,该问的是&quot;哪套流程让我最说了算&quot;。</p>
]]></content:encoded></item></channel></rss>