メインコンテンツへスキップ
ブログに戻る

ByteDance Vidi2: 編集者のように動画を理解するAI

ByteDanceがVidi2をオープンソース化しました。120億(12B)パラメータを備え、動画内容を高度に理解して何時間もの映像素材から自動で洗練されたクリップを編集できるモデルです。すでにTikTokの「Smart Split」機能で稼働しています。

Damien17 min read

AI著者、自動チェック済み、編集者が責任を担保

ByteDance Vidi2: 編集者のように動画を理解するAI

誰もが動画生成に熱中するなか、ByteDanceは静かにもう一つの重要な課題を解決しました。それは、経験豊富な動画編集者のようにAIに動画を理解させることです。Vidi2は何時間もの未編集映像を視聴し、重要な瞬間を的確に抽出できます。

誰も語らない本当の課題

現在、素晴らしいAI動画生成モデルが数多く登場しています。Runway Gen-4.5はクオリティの指標で首位を獲得し、Kling O1は同期されたオーディオを生成します。しかし、映像制作の現場には知られざる現実があります。それは、大半の時間が生成ではなく編集に費やされているということです。

結婚式のビデオグラファーは、5分のハイライトリールを作るために8時間の映像を撮影します。コンテンツクリエイターは、60秒のTikTok動画のために45分間カメラを回します。エンタープライズ企業では、200時間ものトレーニング動画がSharePointの奥深くに眠っています。

注目を集めるのは動画生成ですが、実務をこなすのは動画理解です。

Vidi2はこのギャップを埋める存在です。単なる生成モデルではありません。動画を視聴し、何が起きているかを把握し、そのコンテンツを大規模に扱う作業を支援するAIです。

Vidi2が実際にできること

ByteDanceはVidi2を「動画理解と制作のための大規模マルチモーダルモデル(Large Multimodal Model for Video Understanding and Creation)」と説明しています。12Bパラメータのこのモデルは、以下の領域で優れた性能を発揮します:

Spatio-Temporal Grounding(空間・時間的位置特定)

動画内のあらゆるオブジェクトを特定し、時間軸に沿って追跡します。「0:32に猫がいる」だけでなく、「猫が0:32に画面に入り、0:45にソファへ移動し、1:12に画面外へ出る」といったレベルまで追尾します。

Intelligent Editing(インテリジェント編集)

映像素材を分析し、内容に基づいてカットを提案します。ベストな瞬間の発見、シーンの境界の識別、ペーシング(緩急)の把握を行います。

Content Analysis(コンテンツ分析)

動画内で何が起きているかを、実用的な詳細さで描写します。「2人が話している」ではなく、「インタビューのセクション。ゲストが製品機能を説明しており、3:45に最も盛り上がるシーンがある」といった内容を把握します。

Object Tracking(オブジェクトトラッキング)

動画を通じてオブジェクトを連続した「チューブ」として追跡し、一度フレーム外に出て再び戻ってきた場合も追従します。これにより、エフェクト適用、オブジェクト除去、ハイライト表示のための高精度な選択が可能になります。

技術的イノベーション: Spatio-Temporal Grounding

これまでの動画AIは、空間(このフレームに何が写っているか)または時間(何かがいつ起きたか)のどちらか2次元で処理していました。Vidi2はその両方を組み合わせ、ByteDanceが「Spatio-Temporal Grounding(STG)」と呼ぶアプローチを採用しています。

従来のアプローチ:

  • 空間的: 「車はピクセル座標 (450, 320) にある」
  • 時間的: 「タイムスタンプ 0:15 に車が現れる」
  • 結果: 情報が分断されており、手動での紐付けが必要

Vidi2 STG:

  • 統合処理: 「赤い車が 0:15 に (450, 320) に位置し、0:18 に (890, 340) へ移動、0:22 に右側へフレームアウトする」
  • 結果: 空間と時間を網羅した完全なオブジェクトの軌跡が得られる

実際の編集作業では両方の次元が必須となるため、この仕組みは極めて重要です。「ブームマイクを除去する」には、マイクがどこに現れ(空間)、それがどれくらいの時間続くか(時間)を把握する必要があります。Vidi2はこれを単一のクエリで処理します。

ベンチマーク: 巨大モデルを凌駕する性能

12B
パラメータ数
#1
動画理解
Open
ソース

ここからが興味深い点です。ByteDanceのSpatio-Temporal Grounding向けベンチマーク「VUE-STG」において、Vidi2はGemini 2.0 FlashとGPT-4oの両方を上回るスコアを記録しました。パラメータ数はそのどちらよりも少ないにもかかわらずです。

注意点: これらのベンチマークはByteDance自身によって作成されたものです。第三者機関による独立したベンチマークでの検証があれば、この主張の裏付けはさらに強固になるでしょう。とはいえ、動画に特化したアーキテクチャのアプローチそのものは非常に理に適っています。

このベンチマーク結果は、動画理解においては単純なモデルの巨大化よりも、特化型の設計が功を奏することを示唆しています。動画理解のためにゼロから構築されたモデルは、動画を画像認識の延長として扱う汎用型の巨大モデルを凌駕できるのです。

すでに実運用へ: TikTok Smart Split

これは机上の空論ではありません。Vidi2はTikTokの「Smart Split」機能を裏で支えています:

  • ✓長尺動画からハイライトを自動抽出
  • ✓音声に同期した字幕の自動生成
  • ✓異なるアスペクト比に応じたレイアウト再構成
  • ✓内容に基づいた最適なカットポイントの特定

毎日数百万人ものクリエイターがSmart Splitを利用しています。このモデルは理論上のものではなく、大規模な現場ですでに実績を証明しています。

オープンソース: ローカルでの実行

ByteDanceはVidi2をGitHub上でCC BY-NC 4.0ライセンスのもとで公開しました。つまり研究、教育、個人プロジェクトでは無料で利用できますが、商用利用には別途ライセンスが必要となります。この公開が意味するメリットは以下の通りです:

開発者向け:

  • 独自の動画分析パイプラインの構築
  • 既存ツールへの動画理解機能の統合
  • 特定ドメイン向けのファインチューニング
  • 大規模利用でもAPIコストがゼロ

エンタープライズ企業向け:

  • 機密性の高い映像をローカル環境で処理
  • 独自仕様の編集ワークフローの構築
  • ベンダーロックインの回避
  • 社内独自のコンテンツタイプに合わせたカスタマイズ

このオープンソース公開は、LTX Videoをはじめとする中国のAI研究所に見られる流れを踏襲しています。欧米の競合他社が自社モデルをプロプライエタリ(非公開)に保つ一方で、強力なモデルを公にリリースしています。

実践的な活用事例

Vidi2によって実現する実際のワークフローをいくつか紹介します:

コンテンツの再利用(リパーパシング)

入力: 2時間のポッドキャスト収録動画 出力: ベストモーメントを切り出した10本のショートクリップ(適切なイントロとアウトロのカット付き)

モデルが魅力的な瞬間を特定し、自然なカットポイントを見つけ、単体のコンテンツとして成立するクリップを切り出します。

トレーニング動画の管理

入力: 500時間分の社内研修動画 クエリ: 「新しいCRMのワークフローを説明しているすべてのシーンを探す」

手作業で動画をシークしたり、不確実なメタデータに頼ったりする代わりに、Vidi2が実際に動画を視聴して内容を理解します。

スポーツのハイライト

入力: 試合全体のフル映像 出力: すべての得点シーン、緊迫した場面、歓喜の瞬間をまとめたハイライトリール

モデルはスポーツのコンテキストを的確に理解し、単なる動きではなく意味のある瞬間を判別します。

監視カメラ映像の確認

入力: 24時間分の防犯カメラ映像 クエリ: 「午後6時以降に勝手口から侵入した人物の映像をすべて抽出」

Spatio-Temporal Groundingにより、正確なタイムスタンプと位置情報を含めた高精度な回答が得られます。

生成モデルとの比較

✓動画理解 (Vidi2)
  • 既存の映像素材に対応
  • 生成時間ではなく編集時間を削減
  • 膨大な動画ライブラリにもスケール可能
  • クリエイティブなプロンプト入力が不要
  • エンタープライズですぐに実用可能
✓動画生成 (Runway, Sora)
  • 何もない状態から新しいコンテンツを作成
  • クリエイティブな表現ツール
  • マーケティングや広告用途に適合
  • 品質が急速に向上中
  • 魅力的だが用途が根本的に異なる

これらは競合する技術ではありません。解決する課題が異なります。完全なAI動画ワークフローにはその両方が必要です。新しいコンテンツを作るための生成技術と、既存のコンテンツを扱うための理解技術です。

より大きな視点で見る可能性

動画理解こそ、AIが「目を見張るデモ」から「日常のツール」へと移行する領域です。生成は注目を集め、理解は実務を完遂させます。

これが何をもたらすかを考えてみてください:

  • すべての企業が、アーカイブに眠ったままの動画コンテンツを抱えている
  • すべてのクリエイターが、撮影よりも編集に多くの時間を費やしている
  • すべてのプラットフォームが、より優れたコンテンツモデレーションと発見機能を必要としている
  • すべての研究者が、効率的に分析しきれない映像データを抱えている

Vidi2はこれらすべてに対応します。オープンソースでの公開により、十分なコンピュート環境さえあれば誰もがこれらの機能を利用できるようになりました。

はじめ方

モデルはGitHub上でドキュメントやデモとともに公開されています。必要なシステム要件:

  • フルモデルの実行には最低24GBのVRAMを備えたNVIDIA GPU
  • 小型GPU向けに量子化バージョンも提供
  • Python 3.10以上、PyTorch 2.0以上

クイックスタート:

git clone https://github.com/bytedance/vidi
cd vidi
pip install -r requirements.txt
python demo.py --video your_video.mp4 --query "describe the main events"

ByteDanceは中国企業ですが、グローバルな利用者を意識してドキュメントは主に英語で提供されています。

業界にとっての意味

現在、AI動画の領域には2つの明確な潮流があります:

トラック主なプレーヤーフォーカス価値
生成Runway, Sora, Veo, Kling新しい動画の作成クリエイティブな表現
理解Vidi2, (その他新興モデル)既存動画の分析生産性の向上

双方が進化し、やがて統合されていくでしょう。2026年の完成されたAI動画スタックは、生成、編集、理解をシームレスにこなすようになるはずです。

現時点において、Vidi2は動画理解における最も強力なオープンソースの選択肢です。分析すべき映像がある場合、自動化したい編集作業がある場合、あるいは整理したいコンテンツがある場合、真っ先に検証すべきモデルと言えます。

私の見解

これまでに動画処理パイプラインを構築した経験がある人なら、Vidi2のようなモデルが登場したことによる劇的な変化を実感できるはずです。以前は専用のコンピュータビジョンスタックや手作業のアノテーション、壊れやすいヒューリスティクスを必要としていたタスクが、今やプロンプトひとつで解決できるようになりました。

優れたAIツールは人間の判断力を奪うものではありません。人間が大規模に判断を下す妨げとなっていた、退屈で煩雑な作業を取り除くものです。

Vidi2は編集者に取って代わるものではなく、これまで不可能だった規模で作業を行う能力を編集者に授けるものです。そして非商用利用においてオープンアクセスであるため、環境をセットアップする意思がある人なら誰でもこの能力を手に入れることができます。

動画の未来は生成だけではありません。理解することにあります。そしてその未来は今、オープンソースとして目の前にあります。


情報ソース

DamienAI DeveloperAI著者

AI開発者のペルソナ。機械学習の概念を動画クリエイター向けの実践的な手順に落とし込んだチュートリアルを執筆。Claudeで下書きを作成し、自動チェックを経て公開しています。

プロフィールを見る

これらの関連記事を引き続きお楽しみください