Participe da
Comunidade Ícone Whatsapp
Notícias

Meta lança Purple Llama para ajudar na regulação de IA

Inicialmente, o Purple Llama fornecerá ferramentas e avaliações focadas na segurança cibernética, incluindo métricas para quantificar o risco de segurança cibernética.

A Meta anunciou o lançamento do Purple Llama, um conjunto de ferramentas projetado para colaborar com a regulação de inteligência artificial (IA). Desse modo, promover o desenvolvimento responsável no domínio dos modelos abertos de IA generativos.

Portanto, o Purple Llama visa abordar as crescentes preocupações em torno da segurança e salvaguardas cibernéticas da IA. Além disso, a Meta explica que a cor roxa é referente à termos no setor da segurança cibernética. 

Portanto, simboliza o objetivo da Meta para mitigar os desafios no espaço generativo da IA. A referência é a combinação do termo equipe vermelha, grupos de desenvolvedores que atacam modelos para achar falhas, e a equipe azul, que defende os ataques para avaliação colaborativa de riscos.

Inicialmente, o Purple Llama fornecerá ferramentas e avaliações focadas na segurança cibernética, incluindo métricas para quantificar o risco de segurança cibernética. Ferramentas para avaliar sugestões de códigos inseguros também fazem parte do programa, assim como mecanismos para dificultar a geração de códigos maliciosos pelos LLMs ou o auxílio em ataques cibernéticos.

Objetivos do Purple Llama

A Meta afirma que esses benchmarks, alinhados com os padrões da indústria, buscam reduzir a frequência de códigos inseguros gerados por IA. O projeto também apresenta o Llama Guard, um modelo fundamental disponível abertamente que apoia salvaguardas de entrada e saída. Assim, permitindo aos desenvolvedores filtrar e verificar entradas e saídas de acordo com as diretrizes de conteúdo.

Os resultados são compartilhados de forma transparente para melhoria e customização, contribuindo para um ecossistema de IA mais seguro e responsável. A Meta declara que o Purple Llama incentivará a colaboração entre desenvolvedores e padronizará ferramentas de confiança e segurança para IA generativa.

Baseando-se no sucesso do Llama 2, a Meta está fazendo parceria com gigantes da indústria como AWS, Google Cloud, IBM, Microsoft e outros para garantir um esforço coletivo na criação de um ambiente de IA generativo aberto e desenvolvido de forma responsável.

$100 de bônus de boas vindas. Crie sua conta na melhor corretora de traders de criptomoedas. Acesse ByBit.com

Notícias relacionadas



Crise diplomática com Israel impacta FAB, agro e energia no Brasil Aos 85 anos, Abílio Diniz ainda inovava e apostou em cripto Apple bloqueia pornografia em Vision Pro e usuários ficam irritadíssimos Analistas aumentam estimativa de lucro do Nubank em 4x e banco sugere “calma” Terceiro homem mais rico do México tem 60% do patrimônio líquido em Bitcoin