Um avanço importante foi alcançado na inovação em IA com o lançamento do StarCoder2 pela ServiceNow, Hugging Face e NVIDIA. Este novo modelo de linguagem grande (LLM) de acesso aberto visa facilitar a criação de aplicativos corporativos, definindo novos padrões em desempenho, transparência e governança.
Colaboração Estratégica para o Desenvolvimento
A criação do StarCoder2 representa uma colaboração única entre a ServiceNow, uma líder em fluxo de trabalho digital, a Hugging Face, uma plataforma de código aberto para colaboração em aprendizado de máquina, e a NVIDIA, conhecida por suas inovações em computação acelerada. Juntas, elas desenvolveram o StarCoder2 com o objetivo de avançar na geração de códigos e inovação em IA, treinando o modelo em 619 linguagens de programação.
Características e Benefícios do Modelo
O StarCoder2 destaca-se por seus modelos de três tamanhos diferentes, com 3 bilhões, 7 bilhões e 15 bilhões de parâmetros, treinados respectivamente pela ServiceNow, Hugging Face e NVIDIA. Essa diversidade permite que desenvolvedores de diferentes escalas utilizem o modelo conforme suas necessidades, equilibrando desempenho e custos de computação. O modelo de 3 bilhões de parâmetros, por exemplo, oferece um desempenho comparável ao modelo StarCoder original de 15 bilhões de parâmetros, mas com economia significativa nos custos de computação.
Impulsionando a Inovação e a Produtividade
Os modelos StarCoder2 são projetados para serem incorporados em aplicativos corporativos, realizando tarefas especializadas como geração de código-fonte e fluxo de trabalho. Isso permite aos desenvolvedores acelerar a inovação e aumentar a produtividade, graças aos recursos avançados de autocompletar código e resumo de texto.
Aprimoramento com Dados Específicos da Empresa
A base de dados do StarCoder2, The Stack v2, é uma evolução que oferece um conjunto de dados sete vezes maior que sua versão anterior, permitindo o treinamento em linguagens de programação menos comuns e a geração de código mais contextualizada. Além disso, organizações podem ajustar os modelos com dados específicos, aumentando a precisão e a relevância para suas necessidades.
Compromisso com a Ética e a Transparência
A colaboração entre a ServiceNow, Hugging Face e NVIDIA não apenas impulsionou o avanço tecnológico, mas também enfatizou a importância da ética, da transparência e da governança aberta. O desenvolvimento do StarCoder2 seguiu práticas responsáveis de IA, utilizando dados de fontes éticas e promovendo a inovação responsável.
Disponibilidade e Acesso
Os modelos StarCoder2 estão disponíveis para download na plataforma Hugging Face e nos modelos da NVIDIA AI Foundation, facilitando o acesso e a experimentação por parte dos desenvolvedores. Além disso, o projeto BigCode, que lidera a colaboração científica aberta em IA, apoia o desenvolvimento contínuo e responsável de LLMs para código.
