A Microsoft desenvolveu seu próprio chip de inteligência artificial (IA) personalizado, e agora busca bater de frente com a Nvidia nesse mercado. Portanto, os desenvolvedores podem usar os novos chips para treinar grandes modelos de linguagem e, potencialmente, deixar de depender da Nvidia.
A Microsoft também construiu sua própria CPU baseada em Arm para cargas de trabalho em nuvem. Desse modo, esses chips de silício personalizados são projetados para alimentar seus data centers Azure. Além de preparar a empresa e seus clientes corporativos para um futuro de IA.
Embarque em mais de 150 horas de conteúdo exclusivo sobre o universo das criptomoedas e blockchain na Plataforma BlockTrends.
Os chips Azure Maia AI da Microsoft e a CPU Azure Cobalt movida a Arm chegarão em 2024, após um aumento na demanda este ano pelas GPUs H100 da Nvidia. Os desenvolvedores usam a tecnologia da concorrente para treinar e operar ferramentas de geração de imagens e grandes modelos de linguagem. A demanda por essas GPUs é tão alta que elas chegaram a ser vendidas por mais de US$ 40.000 no eBay.
“Na verdade, a Microsoft tem uma longa história no desenvolvimento de silício”, explica Rani Borkar, chefe de sistemas de hardware e infraestrutura Azure na Microsoft. Os coment´rios a seguir foram provenientes de uma entrevista ao The Verge.
A Microsoft colaborou no silício para o Xbox há mais de 20 anos e até co-projetou chips para seus dispositivos Surface. “Esses esforços são construídos com base nessa experiência”, diz Borkar. “Em 2017, começamos a arquitetar a pilha de hardware em nuvem. Assim, iniciamos essa jornada que nos colocou no caminho para construir nossos novos chips personalizados.”
Novos chips de AI da Microsoft
A Microsoft afirma ter construído internamente os novos chips Azure Maia AI e Azure Cobalt CPU, combinando-os com uma revisão completa de toda a pilha de servidores em nuvem para otimizar desempenho, potência e custo. “Estamos repensando a infraestrutura em nuvem para a era da IA, otimizando literalmente cada camada dessa infraestrutura”, afirma Borkar.
O Azure Cobalt CPU, nomeado após o pigmento azul, é um chip de 128 núcleos construído em um design Arm Neoverse CSS e personalizado para a Microsoft. Ele é projetado para alimentar serviços gerais de nuvem no Azure.
“Pensamos muito em não apenas torná-lo altamente performático, mas também em sermos conscientes da gestão de energia”, explica Borkar. “Fizemos escolhas de design muito intencionais, incluindo a capacidade de controlar desempenho e consumo de energia por núcleo e em cada máquina virtual”, explica Borkar.
A Microsoft está atualmente testando sua CPU Cobalt em cargas de trabalho como Microsoft Teams e SQL server. A empresa tem planos de disponibilizar máquinas virtuais para os clientes no próximo ano para uma variedade de cargas de trabalho.
Embora Borkar não tenha feito comparações diretas com os servidores Graviton 3 da Amazon disponíveis na AWS, deve haver ganhos de desempenho notáveis sobre os servidores baseados em Arm que a Microsoft atualmente usa para o Azure.
“Nossos testes iniciais mostram que nosso desempenho é até 40% melhor do que o que está atualmente em nossos data centers que usam servidores Arm comerciais”, diz Borkar. A Microsoft ainda não está compartilhando especificações completas do sistema ou benchmarks.
A Microsoft projetou o acelerador de IA Maia 100, nomeado após uma estrela azul brilhante, para executar cargas de trabalho de IA em nuvem. Como treinamento de grandes modelos de linguagem e inferência.
Utilização dos chips AI
Portanto, ele será usado para alimentar algumas das maiores cargas de trabalho de IA da empresa no Azure. Incluindo partes da parceria multibilionária com a OpenAI, onde a Microsoft alimenta todas as cargas de trabalho da OpenAI. O gigante do software vem colaborando com a OpenAI nas fases de design e teste do Maia.
“Ficamos empolgados quando a Microsoft compartilhou pela primeira vez seus designs para o chip Maia, e trabalhamos juntos para refinar e testá-lo com nossos modelos”, diz Sam Altman, CEO da OpenAI. “A arquitetura de IA de ponta a ponta do Azure, agora otimizada até o silício com Maia, abre caminho para treinar modelos mais capazes e tornar esses modelos mais baratos para nossos clientes.”
Fabricado em um processo TSMC de 5 nanômetros, o Maia tem 105 bilhões de transistores, cerca de 30% a menos que os 153 bilhões encontrados no próprio concorrente da Nvidia da AMD, o GPU AI MI300X.
“O Maia suporta nossa primeira implementação dos tipos de dados sub 8 bits, tipos de dados MX, para co-projetar hardware e software”, diz Borkar. “Isso nos ajuda a suportar tempos de treinamento e inferência de modelos mais rápidos.”
Padronização em AI
Ademais, a Microsoft faz parte de um grupo que inclui AMD, Arm, Intel, Meta, Nvidia e Qualcomm que estão padronizando a próxima geração de formatos de dados para modelos de IA. A Microsoft está construindo sobre o trabalho colaborativo e aberto do Open Compute Project (OCP) para adaptar sistemas inteiros às necessidades da IA.
“O Maia é o primeiro processador de servidor completo líquido refrigerado construído pela Microsoft”, revela Borkar. “O objetivo aqui era permitir uma maior densidade de servidores com maior eficiência. Porque estamos reimaginando toda a pilha, pensamos propositalmente em cada camada, então esses sistemas realmente se encaixarão em nossa atual pegada de data center.”
Juntamente com o compartilhamento dos tipos de dados MX, a Microsoft também está compartilhando seus designs de rack com seus parceiros para que possam usá-los em sistemas com outros silícios dentro. Mas os designs de chips Maia não serão compartilhados mais amplamente, a Microsoft está mantendo-os internos. O Maia 100 está atualmente sendo testado no GPT 3.5 Turbo, o mesmo modelo que alimenta o Chat.
$100 de bônus de boas vindas. Crie sua conta na melhor corretora de traders de criptomoedas. Acesse ByBit.com
