Lucas Alvim@alvim_aiferramentas de IA, testadas
Guia grátis em português

Transforme uma foto e um áudio num vídeo seu falando

O LongCat Avatar 1.5 é gratuito, com licença aberta (MIT). Você dá uma foto, um áudio e uma descrição da cena, e ele cria um vídeo da pessoa falando: a boca acompanha cada palavra, o corpo se mexe no ritmo da voz e o rosto continua igual do começo ao fim, mesmo em vídeo longo. Roda no seu próprio computador, sem mensalidade, mas exige placa de vídeo NVIDIA. Aqui está tudo num lugar só: o que ele faz, o que precisa, a instalação inteira, os comandos de cada modo e descrições prontas.

Capa do reel: Transforme uma foto e um áudio num vídeo seu falando
Veio deste reelAssista o vídeo em que eu mostro isso funcionandoAssistir o reel no Instagram

01Pra que serve

02O que você precisa

03Passo a passo

  1. Abra o terminal (a tela preta de comandos), baixe o projeto e entre na pasta que ele criou.
    git clone --single-branch --branch main https://github.com/meituan-longcat/LongCat-Video
    cd LongCat-Video
  2. Crie um espaço separado só pro LongCat, com o Python 3.10, e ative. Toda vez que for usar, abra o terminal e rode de novo a segunda linha.
    conda create -n longcat-video python=3.10
    conda activate longcat-video
  3. Instale as peças que ele usa. A primeira linha é pra CUDA 12.4: se a sua versão de CUDA for outra, o projeto pede pra trocar essa linha pela versão certa. É a parte mais demorada.
    pip install torch==2.6.0+cu124 torchvision==0.21.0+cu124 torchaudio==2.6.0 --index-url https://download.pytorch.org/whl/cu124
    pip install ninja
    pip install psutil
    pip install packaging
    pip install flash_attn==2.7.4.post1
    pip install -r requirements.txt
  4. Instale as peças da parte de avatar (a que faz o vídeo falando).
    conda install -c conda-forge librosa
    conda install -c conda-forge ffmpeg
    pip install -r requirements_avatar.txt
  5. Baixe os modelos de graça do Hugging Face, o site onde ficam os modelos de IA: o principal e o de avatar 1.5. Vão pra pasta weights. São pesados, deixe baixando com calma.
    pip install "huggingface_hub[cli]"
    huggingface-cli download meituan-longcat/LongCat-Video --local-dir ./weights/LongCat-Video
    huggingface-cli download meituan-longcat/LongCat-Video-Avatar-1.5 --local-dir ./weights/LongCat-Video-Avatar-1.5
  6. Abra o arquivo de exemplo assets/avatar/single_example_1.json num editor de texto e troque três coisas: "prompt" (a descrição da cena), "cond_image" (o caminho da sua foto) e, dentro de "cond_audio", o "person1" (o caminho do seu áudio). Salve. Tem um modelo pronto do arquivo lá embaixo.
  7. Gere o vídeo com a sua foto e o seu áudio. Este é o comando oficial, feito pra duas placas de vídeo. O --use_int8 carrega uma versão mais leve, que gasta menos memória da placa.
    torchrun --nproc_per_node=2 run_demo_avatar_single_audio_to_video.py --context_parallel_size=2 --checkpoint_dir=./weights/LongCat-Video-Avatar-1.5 --stage_1=ai2v --input_json=assets/avatar/single_example_1.json --use_distill --model_type avatar-v1.5 --use_int8
  8. Vídeo longo: o mesmo comando com --num_segments, que escolhe em quantas partes seguidas o vídeo é gerado (o exemplo oficial usa 5). Cada parte continua a anterior com o mesmo rosto.
    torchrun --nproc_per_node=2 run_demo_avatar_single_audio_to_video.py --context_parallel_size=2 --checkpoint_dir=./weights/LongCat-Video-Avatar-1.5 --stage_1=ai2v --input_json=assets/avatar/single_example_1.json --num_segments=5 --ref_img_index=10 --mask_frame_range=3 --use_distill --model_type avatar-v1.5 --use_int8
  9. Sem foto: troque ai2v por at2v e ele cria a pessoa a partir da descrição da cena e do áudio.
    torchrun --nproc_per_node=2 run_demo_avatar_single_audio_to_video.py --context_parallel_size=2 --checkpoint_dir=./weights/LongCat-Video-Avatar-1.5 --stage_1=at2v --input_json=assets/avatar/single_example_1.json --use_distill --model_type avatar-v1.5 --use_int8
  10. Duas pessoas conversando: use o arquivo assets/avatar/multi_example_1.json (uma foto com as duas pessoas, "person1" e "person2" com um áudio cada) e o outro programa da pasta. No campo "audio_type": "para" = as duas falam ao mesmo tempo (os dois áudios precisam ter o mesmo tamanho); "add" = uma fala depois da outra (a person1 primeiro).
    torchrun --nproc_per_node=2 run_demo_avatar_multi_audio_to_video.py --context_parallel_size=2 --checkpoint_dir=./weights/LongCat-Video-Avatar-1.5 --input_json=assets/avatar/multi_example_1.json --use_distill --model_type avatar-v1.5 --use_int8
  11. Ajuste fino: a qualidade (480P ou 720P) se escolhe com --resolution. Se a boca não bater bem com o áudio, o projeto recomenda o --audio_cfg entre 3 e 5 (mais alto = boca mais colada na voz). Se o vídeo ficar repetindo o mesmo gesto, mude o --ref_img_index pra 30 ou aumente um pouco o --mask_frame_range (valor alto demais pode criar defeitos na imagem).

04Descrições prontas e modelos de arquivo

O arquivo do seu vídeoCole no lugar do conteúdo do single_example_1.json e troque o que está entre colchetes
{
  "prompt": "[DESCRIÇÃO DA CENA, DE PREFERÊNCIA EM INGLÊS]",
  "cond_image": "[CAMINHO DA SUA FOTO, EX.: assets/avatar/single/eu.png]",
  "cond_audio": {
    "person1": "[CAMINHO DO SEU ÁUDIO, EX.: assets/avatar/single/eu.mp3]"
  }
}
Pedir a descrição da cena pro ChatGPT ou ClaudeO projeto recomenda descrições longas e detalhadas, e o exemplo oficial é em inglês. Peça e cole o resultado no campo prompt
Escreva em inglês, num parágrafo de 4 a 5 frases, a descrição de uma cena para um gerador de vídeo.
A pessoa: [COMO VOCÊ É E COMO ESTÁ VESTIDO NA FOTO].
Ela fala direto pra câmera em [LUGAR, EX.: ESCRITÓRIO EM CASA], com luz [TIPO DE LUZ, EX.: NATURAL DA JANELA], enquadrada do peito pra cima.
Descreva a expressão do rosto, o gesto das mãos enquanto fala e o fundo.
Não coloque texto na tela. Me devolva só o parágrafo.
Vídeo de conteúdo pro InstagramPra gravar reel ou story sem ligar a câmera
Um [HOMEM/MULHER] de [IDADE] anos, de [COR DA ROUPA E PEÇA], sentado num escritório em casa com uma estante de livros desfocada atrás. Ele fala direto pra câmera, animado, gesticulando de leve com as mãos, como quem explica uma novidade pra um amigo. Luz natural de janela vindo da esquerda, enquadramento do peito pra cima.
Aula ou explicação longaPra vídeo de vários minutos, aumentando o --num_segments
Um professor de [ROUPA] em pé na frente de um quadro branco, numa sala de aula iluminada, explica um assunto com calma. Ele fala olhando pra câmera, às vezes aponta pro quadro atrás dele e volta a olhar pra frente. Movimentos naturais e tranquilos, sem mudar de lugar. Câmera parada, enquadramento da cintura pra cima.
Apresentação de produtoPra mostrar o que você vende
Uma pessoa de [ROUPA] em pé numa loja clara e organizada segura [PRODUTO] na altura do peito e fala com entusiasmo pra câmera. Ela vira o produto devagar pra mostrar os detalhes, aponta pra ele com a outra mão e volta a olhar pra câmera. Luz branca e uniforme, prateleiras desfocadas ao fundo, câmera parada na altura dos olhos.
Vídeo institucional da empresaRecado do dono, boas-vindas ou apresentação da empresa
Um [CARGO, EX.: DONO DE LOJA] de [ROUPA SOCIAL] em pé dentro de [LUGAR, EX.: UMA LOJA DE ROUPAS], com prateleiras desfocadas ao fundo. Ele fala com segurança e sorri entre as frases, postura reta, mãos se movendo pouco. Luz suave e quente, câmera fixa, enquadramento do peito pra cima.
Anúncio animadoPra divulgar um produto ou serviço com mais energia (peça ao ChatGPT em inglês)
Escreva em inglês, num parágrafo de 5 frases, a descrição de uma cena para um gerador de vídeo.
Uma pessoa [COMO VOCÊ É] fala animada sobre [SEU PRODUTO OU SERVIÇO], olhando pra câmera, com gestos amplos e expressão empolgada.
O cenário é [LUGAR, EX.: LOJA CLARA E ORGANIZADA], com luz forte e colorida.
O corpo acompanha o ritmo da fala, como em um vídeo de redes sociais. Me devolva só o parágrafo.
Conversa entre duas pessoasCom o multi_example_1.json e um áudio pra cada pessoa
Duas pessoas sentadas lado a lado num sofá, num estúdio de podcast com microfones na frente e luz quente. A pessoa da esquerda, de [ROUPA 1], fala primeiro olhando pra outra. A pessoa da direita, de [ROUPA 2], escuta balançando a cabeça e depois responde. Câmera parada, as duas no quadro o tempo todo.

05Antes de usar

06Perguntas comuns

Roda no Mac ou no Windows?

O projeto usa CUDA, que só existe em placa NVIDIA, então Mac não serve. Os comandos oficiais são de Linux e o projeto não traz instrução pra Windows.

Quanta memória de placa de vídeo precisa?

O projeto não informa. Os comandos oficiais usam 2 placas. O --use_int8 carrega uma versão que gasta menos memória (só na versão 1.5).

Precisa de foto?

Não. Com foto é o modo ai2v; sem foto é o modo at2v, que cria a pessoa a partir da descrição da cena e do áudio.

Dá pra fazer vídeo longo?

Sim. Ele gera em partes seguidas (--num_segments) e cada parte continua a anterior com o mesmo rosto. O site oficial mostra um exemplo de 5 minutos.

Posso usar em trabalho?

Sim, a licença é MIT, que permite uso comercial. Ela não dá direito à marca nem às patentes de quem fez o modelo.

Resumindo: com uma placa NVIDIA e um pouco de paciência no terminal, você baixa o código e o modelo de graça, coloca a sua foto, o seu áudio e uma descrição no arquivo de exemplo e roda um comando. Sai um vídeo seu falando, com o rosto igual até o fim, sem pagar mensalidade.

Todos os guias e prompts do Alvim