Visão geral das políticas de posicionamento compacto e de carga de trabalho

Este documento apresenta uma visão geral e uma comparação das políticas de posicionamento compacto e das políticas de carga de trabalho. Com as duas políticas, é possível configurar o posicionamento das instâncias do Compute Engine para minimizar a latência de rede.

Por padrão, você gerencia o local das instâncias de computação especificando apenas as zonas delas. Para criar instâncias de computação mais próximas umas das outras, use as opções a seguir. Para mais informações, consulte também Colocação de recursos de infraestrutura de IA.

  • Os seguintes recursos já estão densamente colocados uns com os outros:

    • Recursos que consomem a mesma reserva adiantada para blocos de capacidade.
    • Recursos que consomem a mesma reserva adiantada no modo de calendário.
    • Recursos criados juntos por uma solicitação de redimensionamento de grupo gerenciado de instâncias (MIG).
  • Os recursos criados juntos ao especificar a opção de consumo de início flexível podem ser colocados em conjunto de forma densa com base na disponibilidade do melhor esforço. Se você precisar de recursos densamente colocados, aplique uma política de posicionamento compacto que especifique uma distância máxima ou uma política de carga de trabalho que especifique uma distância máxima.

  • Caso contrário, para posicionar recursos próximos uns dos outros, aplique uma política de posicionamento compacto ou de carga de trabalho.

    • Quando você precisar de recursos densamente alocados, especifique uma distância máxima na política.
    • Quando você quiser recursos densamente colocados com base na disponibilidade do melhor esforço, não especifique uma distância máxima na política.

Para mais informações sobre quando usar uma política de posicionamento compacto em vez de uma política de carga de trabalho, consulte Comparação entre política de posicionamento compacto e política de carga de trabalho neste documento.

Comparação entre a política de posicionamento compacto e a política de carga de trabalho

A tabela a seguir resume as diferenças entre as políticas de posicionamento compacto e de carga de trabalho:

Política de posicionamento compacto Política de carga de trabalho
Uso da política
  • Instâncias independentes
  • Instâncias implantadas usando a API em massa
  • MIGs com GPUs gerais
MIGs com GPUs em cluster
Tipos de máquina aceitos A4X Max, A4X, A4, A3 Ultra, A3 Mega, A3 High, A3 Edge, A2, G4 e G2
  • Para início flexível: A4 e A3 Ultra
  • Para Spot ou reservas: A4X, A4, A3 Ultra, A3 Mega e A3 High (8 GPUs)
Semântica de agrupamento

O Compute Engine coloca as instâncias que usam a mesma política de posicionamento compacto mais próximas umas das outras.

Recomendamos que você use uma política de posicionamento diferente para cada carga de trabalho. Reutilizar uma política de posicionamento em instâncias que executam cargas de trabalho diferentes faz com que todas essas instâncias sejam colocadas juntas. Essa colocalização pode dificultar a criação de instâncias próximas umas das outras ao escalonar horizontalmente uma carga de trabalho específica.

O Compute Engine coloca as instâncias em um MIG que usa uma política de carga de trabalho mais próxima.

Reutilizar uma política de carga de trabalho em vários MIGs que executam cargas de trabalho diferentes coloca as instâncias em MIGs individuais juntas. A reutilização é ideal para modelos de treinamento grandes em que cada grupo de instâncias precisa ser isolado um do outro.

Configuração de colocation de instâncias de computação

Para a colocação conjunta de instâncias de computação com o melhor esforço, defina o campo groupPlacementPolicy.collocation como COLLOCATED.

Para a colocação conjunta de instâncias de computação com o melhor esforço, defina o campo workloadPolicy.type como HIGH_THROUGHPUT.

Outras configurações
  • Para um posicionamento estrito de instâncias de computação, especifique o campo maxDistance.
  • Para séries de máquinas que oferecem suporte a particionamento, como A4X Max e A4X, especifique o campo gpuTopology.
  • Para um posicionamento estrito de instâncias de computação, especifique o campo maxTopologyDistance.
  • Para séries de máquinas que oferecem suporte a particionamento, como A4X Max e A4X, especifique o campo acceleratorTopology.

Para mais informações, consulte estas seções:

Políticas de posicionamento compacto

Quando você aplica políticas de posicionamento compacto a instâncias de computação autônomas ou criadas em massa, o Compute Engine faz o possível para criar instâncias de computação o mais próximo possível umas das outras. Se o aplicativo exigir latência de rede mínima, especifique o campo maxDistance (prévia) ao criar uma política de posicionamento compacto.

Para mais informações, consulte Sobre as políticas de posicionamento compacto na documentação do Compute Engine.

Comparação de valores de distância máxima para políticas de posicionamento compacto

Um valor de distância máxima menor garante um posicionamento mais próximo da instância de computação, mas também aumenta a chance de algumas instâncias não serem criadas.

A tabela a seguir mostra as séries de máquinas e o número de instâncias de computação compatíveis com cada valor de distância máxima:

maxDistance em uma política de posicionamento compacto maxTopologyDistance em uma política de carga de trabalho Descrição Série de máquinas compatível Número máximo de instâncias de computação
Não especificado (não recomendado) Não especificado (não recomendado) O Compute Engine faz o possível para colocar as instâncias de computação o mais próximo possível uma da outra, mas sem distância máxima entre elas. A4X Max, A4X, A4, A3 Ultra, A3 Mega1, A3 High1, A3 Edge1, A2, G4 e G2 1500
3 CLUSTER O Compute Engine cria instâncias de computação em blocos adjacentes. A4, A3 Mega1, A3 High1, A3 Edge1, A2, G4 e G2 1.500
2 BLOCK O Compute Engine cria instâncias de computação no mesmo bloco. A4, A3 Ultra, A3 Mega1, A3 High1, A3 Edge1, A2, G4 e G2
  • Para A3 Ultra, A3 Mega1, A3 High1 e A3 Edge1: 256
  • Para todas as outras séries de máquinas compatíveis: 150
1 SUBBLOCK O Compute Engine cria instâncias de computação no mesmo sub-bloco. A3 Edge1, A2, G4 e G2 22

1 Se você quiser aplicar uma política de posicionamento compacto a uma instância A3 Mega, A3 High ou A3 Edge criada antes de 1º de outubro de 2025, entre em contato com sua equipe de contas ou com a equipe de vendas.

Políticas de carga de trabalho

Com as políticas de carga de trabalho, é possível especificar o posicionamento e a infraestrutura das instâncias de computação em um MIG. Usar políticas de carga de trabalho com A4X Max, A4X, A4, A3 Ultra, A3 Mega e A3 High (8 GPUs) ajuda a minimizar a latência de rede entre instâncias de computação e otimizar o desempenho.

Com base nos tipos de máquina usados pelas instâncias de computação no MIG, as políticas de carga de trabalho são obrigatórias ou opcionais nas seguintes situações:

  • Para implantar sub-blocos de instâncias A4X Max ou A4X, são necessárias políticas de carga de trabalho.

  • Para usar instâncias A4, A3 Ultra, A3 Mega ou A3 High (8 GPUs), as políticas de carga de trabalho são opcionais.

  • A política de carga de trabalho não é compatível com as séries de máquinas A3 Edge, A2, G4, G2 e N1. Para MIGs que usam essas séries de máquinas, é possível usar a política de posicionamento compacto para colocation de VMs.

Para mais informações, consulte Sobre políticas de carga de trabalho em MIGs na documentação do Compute Engine.

A seguir