{
"prompt": "[DESCRIÇÃO DA CENA, DE PREFERÊNCIA EM INGLÊS]",
"cond_image": "[CAMINHO DA SUA FOTO, EX.: assets/avatar/single/eu.png]",
"cond_audio": {
"person1": "[CAMINHO DO SEU ÁUDIO, EX.: assets/avatar/single/eu.mp3]"
}
}01Pra que serve
- Fazer um vídeo seu falando sem gravar: basta uma foto e o áudio do que você quer dizer (dá pra gravar o áudio no celular).
- A boca acompanha cada palavra, e o corpo também se mexe no ritmo da voz, sem ficar parado feito estátua.
- Vídeo longo sem o rosto mudar no meio: ele gera em partes seguidas e cada parte continua a anterior. O site oficial mostra um exemplo de 5 minutos.
- Criar o vídeo só com o áudio e um texto descrevendo a pessoa e a cena, sem foto, quando você não precisa do seu rosto.
- Fazer duas pessoas conversando, cada uma com o próprio áudio, falando juntas ou uma depois da outra.
- Funciona também com estilos diferentes de foto realista, como desenho animado e animais, segundo o projeto.
- Escolher a qualidade: 480P (mais leve) ou 720P (mais nítido).
02O que você precisa
- Computador com placa de vídeo NVIDIA com CUDA (CUDA é o programa da NVIDIA que deixa a placa fazer esse tipo de conta). Mac e computador sem NVIDIA não servem.
- Linux: os comandos oficiais são de Linux e o projeto não explica como rodar no Windows
- Miniconda ou Anaconda (programa que cria um espaço separado pro Python deste projeto, sem bagunçar o resto do computador)
- Git (programa que baixa o projeto)
- Bastante espaço livre em disco: os modelos são arquivos grandes
- Uma foto sua e um áudio com a sua fala
03Passo a passo
- Abra o terminal (a tela preta de comandos), baixe o projeto e entre na pasta que ele criou.
git clone --single-branch --branch main https://github.com/meituan-longcat/LongCat-Video cd LongCat-Video
- Crie um espaço separado só pro LongCat, com o Python 3.10, e ative. Toda vez que for usar, abra o terminal e rode de novo a segunda linha.
conda create -n longcat-video python=3.10 conda activate longcat-video
- Instale as peças que ele usa. A primeira linha é pra CUDA 12.4: se a sua versão de CUDA for outra, o projeto pede pra trocar essa linha pela versão certa. É a parte mais demorada.
pip install torch==2.6.0+cu124 torchvision==0.21.0+cu124 torchaudio==2.6.0 --index-url https://download.pytorch.org/whl/cu124 pip install ninja pip install psutil pip install packaging pip install flash_attn==2.7.4.post1 pip install -r requirements.txt
- Instale as peças da parte de avatar (a que faz o vídeo falando).
conda install -c conda-forge librosa conda install -c conda-forge ffmpeg pip install -r requirements_avatar.txt
- Baixe os modelos de graça do Hugging Face, o site onde ficam os modelos de IA: o principal e o de avatar 1.5. Vão pra pasta weights. São pesados, deixe baixando com calma.
pip install "huggingface_hub[cli]" huggingface-cli download meituan-longcat/LongCat-Video --local-dir ./weights/LongCat-Video huggingface-cli download meituan-longcat/LongCat-Video-Avatar-1.5 --local-dir ./weights/LongCat-Video-Avatar-1.5
- Abra o arquivo de exemplo assets/avatar/single_example_1.json num editor de texto e troque três coisas: "prompt" (a descrição da cena), "cond_image" (o caminho da sua foto) e, dentro de "cond_audio", o "person1" (o caminho do seu áudio). Salve. Tem um modelo pronto do arquivo lá embaixo.
- Gere o vídeo com a sua foto e o seu áudio. Este é o comando oficial, feito pra duas placas de vídeo. O --use_int8 carrega uma versão mais leve, que gasta menos memória da placa.
torchrun --nproc_per_node=2 run_demo_avatar_single_audio_to_video.py --context_parallel_size=2 --checkpoint_dir=./weights/LongCat-Video-Avatar-1.5 --stage_1=ai2v --input_json=assets/avatar/single_example_1.json --use_distill --model_type avatar-v1.5 --use_int8
- Vídeo longo: o mesmo comando com --num_segments, que escolhe em quantas partes seguidas o vídeo é gerado (o exemplo oficial usa 5). Cada parte continua a anterior com o mesmo rosto.
torchrun --nproc_per_node=2 run_demo_avatar_single_audio_to_video.py --context_parallel_size=2 --checkpoint_dir=./weights/LongCat-Video-Avatar-1.5 --stage_1=ai2v --input_json=assets/avatar/single_example_1.json --num_segments=5 --ref_img_index=10 --mask_frame_range=3 --use_distill --model_type avatar-v1.5 --use_int8
- Sem foto: troque ai2v por at2v e ele cria a pessoa a partir da descrição da cena e do áudio.
torchrun --nproc_per_node=2 run_demo_avatar_single_audio_to_video.py --context_parallel_size=2 --checkpoint_dir=./weights/LongCat-Video-Avatar-1.5 --stage_1=at2v --input_json=assets/avatar/single_example_1.json --use_distill --model_type avatar-v1.5 --use_int8
- Duas pessoas conversando: use o arquivo assets/avatar/multi_example_1.json (uma foto com as duas pessoas, "person1" e "person2" com um áudio cada) e o outro programa da pasta. No campo "audio_type": "para" = as duas falam ao mesmo tempo (os dois áudios precisam ter o mesmo tamanho); "add" = uma fala depois da outra (a person1 primeiro).
torchrun --nproc_per_node=2 run_demo_avatar_multi_audio_to_video.py --context_parallel_size=2 --checkpoint_dir=./weights/LongCat-Video-Avatar-1.5 --input_json=assets/avatar/multi_example_1.json --use_distill --model_type avatar-v1.5 --use_int8
- Ajuste fino: a qualidade (480P ou 720P) se escolhe com --resolution. Se a boca não bater bem com o áudio, o projeto recomenda o --audio_cfg entre 3 e 5 (mais alto = boca mais colada na voz). Se o vídeo ficar repetindo o mesmo gesto, mude o --ref_img_index pra 30 ou aumente um pouco o --mask_frame_range (valor alto demais pode criar defeitos na imagem).
04Descrições prontas e modelos de arquivo
Escreva em inglês, num parágrafo de 4 a 5 frases, a descrição de uma cena para um gerador de vídeo. A pessoa: [COMO VOCÊ É E COMO ESTÁ VESTIDO NA FOTO]. Ela fala direto pra câmera em [LUGAR, EX.: ESCRITÓRIO EM CASA], com luz [TIPO DE LUZ, EX.: NATURAL DA JANELA], enquadrada do peito pra cima. Descreva a expressão do rosto, o gesto das mãos enquanto fala e o fundo. Não coloque texto na tela. Me devolva só o parágrafo.
Um [HOMEM/MULHER] de [IDADE] anos, de [COR DA ROUPA E PEÇA], sentado num escritório em casa com uma estante de livros desfocada atrás. Ele fala direto pra câmera, animado, gesticulando de leve com as mãos, como quem explica uma novidade pra um amigo. Luz natural de janela vindo da esquerda, enquadramento do peito pra cima.
Um professor de [ROUPA] em pé na frente de um quadro branco, numa sala de aula iluminada, explica um assunto com calma. Ele fala olhando pra câmera, às vezes aponta pro quadro atrás dele e volta a olhar pra frente. Movimentos naturais e tranquilos, sem mudar de lugar. Câmera parada, enquadramento da cintura pra cima.Uma pessoa de [ROUPA] em pé numa loja clara e organizada segura [PRODUTO] na altura do peito e fala com entusiasmo pra câmera. Ela vira o produto devagar pra mostrar os detalhes, aponta pra ele com a outra mão e volta a olhar pra câmera. Luz branca e uniforme, prateleiras desfocadas ao fundo, câmera parada na altura dos olhos.
Um [CARGO, EX.: DONO DE LOJA] de [ROUPA SOCIAL] em pé dentro de [LUGAR, EX.: UMA LOJA DE ROUPAS], com prateleiras desfocadas ao fundo. Ele fala com segurança e sorri entre as frases, postura reta, mãos se movendo pouco. Luz suave e quente, câmera fixa, enquadramento do peito pra cima.
Escreva em inglês, num parágrafo de 5 frases, a descrição de uma cena para um gerador de vídeo. Uma pessoa [COMO VOCÊ É] fala animada sobre [SEU PRODUTO OU SERVIÇO], olhando pra câmera, com gestos amplos e expressão empolgada. O cenário é [LUGAR, EX.: LOJA CLARA E ORGANIZADA], com luz forte e colorida. O corpo acompanha o ritmo da fala, como em um vídeo de redes sociais. Me devolva só o parágrafo.
Duas pessoas sentadas lado a lado num sofá, num estúdio de podcast com microfones na frente e luz quente. A pessoa da esquerda, de [ROUPA 1], fala primeiro olhando pra outra. A pessoa da direita, de [ROUPA 2], escuta balançando a cabeça e depois responde. Câmera parada, as duas no quadro o tempo todo.
05Antes de usar
- Não é um app de clicar: a instalação toda é pelo terminal, os downloads são pesados e demora. Separe um tempo e deixe o computador ligado.
- Precisa de placa NVIDIA forte. Os exemplos oficiais usam 2 placas e o projeto não diz quanta memória precisa. Em computador comum pode não rodar.
- Descrição curta deixa o resultado instável. Quanto mais detalhada (aparência, roupa, gesto, lugar, luz), mais consistente o vídeo. O exemplo oficial é em inglês e o resultado pode mudar com o idioma: se sair estranho em português, teste em inglês.
- Use só o seu rosto e a sua voz, ou de quem te autorizou. Fazer vídeo de outra pessoa falando sem permissão pode dar problema sério.
- Comparação: no HeyGen, o avatar com o seu rosto fica no plano Creator, de US$ 29 por mês (US$ 24 por mês no plano anual).
06Perguntas comuns
Roda no Mac ou no Windows?
O projeto usa CUDA, que só existe em placa NVIDIA, então Mac não serve. Os comandos oficiais são de Linux e o projeto não traz instrução pra Windows.
Quanta memória de placa de vídeo precisa?
O projeto não informa. Os comandos oficiais usam 2 placas. O --use_int8 carrega uma versão que gasta menos memória (só na versão 1.5).
Precisa de foto?
Não. Com foto é o modo ai2v; sem foto é o modo at2v, que cria a pessoa a partir da descrição da cena e do áudio.
Dá pra fazer vídeo longo?
Sim. Ele gera em partes seguidas (--num_segments) e cada parte continua a anterior com o mesmo rosto. O site oficial mostra um exemplo de 5 minutos.
Posso usar em trabalho?
Sim, a licença é MIT, que permite uso comercial. Ela não dá direito à marca nem às patentes de quem fez o modelo.
Resumindo: com uma placa NVIDIA e um pouco de paciência no terminal, você baixa o código e o modelo de graça, coloca a sua foto, o seu áudio e uma descrição no arquivo de exemplo e roda um comando. Sai um vídeo seu falando, com o rosto igual até o fim, sem pagar mensalidade.
