A xAI de Elon Musk afirmou ter lançado o cluster de IA “mais poderoso” do mundo, o Colossus, com planos de aumentar seu tamanho ainda mais.
O CEO da tecnologia e bilionário anunciou o lançamento do cluster de treinamento Colossus 100k H100 em uma postagem no X (2 de setembro). Musk aplaudiu o “excelente trabalho do [xAI] equipe, Nvidia e nossos muitos parceiros/fornecedores”
“Neste fim de semana, a equipe @xAI colocou nosso cluster de treinamento Colossus 100k H100 online”, ele escreveu. “Do início ao fim, foi feito em 122 dias. O Colossus é o sistema de treinamento de IA mais poderoso do mundo. Além disso, ele dobrará de tamanho para 200k (50k H200s) em alguns meses.”
Neste fim de semana, a equipe @xAI colocou nosso cluster de treinamento Colossus 100k H100 online. Do início ao fim, foi feito em 122 dias.
Colossus é o sistema de treinamento de IA mais poderoso do mundo. Além disso, ele dobrará de tamanho para 200k (50k H200s) em alguns meses.
O Colossus ostenta uma enorme quantidade de 100.000 GPUs Nvidia H100, o que é uma quantidade enorme quando comparado a outros concorrentes. Por exemplo, o ChatGPT usa uma estimativa de 30.000 GPUs A100. O Colossus da xAI foi construído em apenas 122 dias e há planos para que ele dobre de tamanho no futuro.
O que isso significa para a Colossus e para o setor de IA em geral?
A quantidade massiva de GPUs certamente contribui para verificar a afirmação de Musk de que o Colossus é o “sistema de treinamento de IA mais poderoso do mundo”. Esse é outro concorrente entrando no já lotado espaço de IA generativa que pode ajudar o Grok da xAI a se tornar um concorrente ainda mais sério no espaço de IA.
Não há muito o que fazer para se recuperar em alguns aspectos, com o Grok 2 da xAI recentemente alcançando o GPT-4 da OpenAI em tempo recorde. O Grok 2 foi treinado em apenas cerca de 15.000 GPUs, então o aumento de desempenho com as 100.000 GPUs do Colossus certamente será considerável, sendo seis vezes mais potente.
Portanto, a equipe xAI e as versões futuras do Grok provavelmente poderão exercer pressão renovada sobre a OpenAI, o Google e outros no espaço de IA generativa para fornecer novos resultados.