A Meta anunciou o lançamento do Purple Llama, um conjunto de ferramentas projetado para colaborar com a regulação de inteligência artificial (IA). Desse modo, promover o desenvolvimento responsável no domínio dos modelos abertos de IA generativos.
Portanto, o Purple Llama visa abordar as crescentes preocupações em torno da segurança e salvaguardas cibernéticas da IA. Além disso, a Meta explica que a cor roxa é referente à termos no setor da segurança cibernética.
Portanto, simboliza o objetivo da Meta para mitigar os desafios no espaço generativo da IA. A referência é a combinação do termo equipe vermelha, grupos de desenvolvedores que atacam modelos para achar falhas, e a equipe azul, que defende os ataques para avaliação colaborativa de riscos.
Inicialmente, o Purple Llama fornecerá ferramentas e avaliações focadas na segurança cibernética, incluindo métricas para quantificar o risco de segurança cibernética. Ferramentas para avaliar sugestões de códigos inseguros também fazem parte do programa, assim como mecanismos para dificultar a geração de códigos maliciosos pelos LLMs ou o auxílio em ataques cibernéticos.
Objetivos do Purple Llama
A Meta afirma que esses benchmarks, alinhados com os padrões da indústria, buscam reduzir a frequência de códigos inseguros gerados por IA. O projeto também apresenta o Llama Guard, um modelo fundamental disponível abertamente que apoia salvaguardas de entrada e saída. Assim, permitindo aos desenvolvedores filtrar e verificar entradas e saídas de acordo com as diretrizes de conteúdo.
Os resultados são compartilhados de forma transparente para melhoria e customização, contribuindo para um ecossistema de IA mais seguro e responsável. A Meta declara que o Purple Llama incentivará a colaboração entre desenvolvedores e padronizará ferramentas de confiança e segurança para IA generativa.
Baseando-se no sucesso do Llama 2, a Meta está fazendo parceria com gigantes da indústria como AWS, Google Cloud, IBM, Microsoft e outros para garantir um esforço coletivo na criação de um ambiente de IA generativo aberto e desenvolvido de forma responsável.
$100 de bônus de boas vindas. Crie sua conta na melhor corretora de traders de criptomoedas. Acesse ByBit.com
