Meta lança Purple Llama para ajudar na regulação de IA

A Meta anunciou o lançamento do Purple Llama, um conjunto de ferramentas projetado para colaborar com a regulação de inteligência artificial (IA). Desse modo, promover o desenvolvimento responsável no domínio dos modelos abertos de IA generativos.

Portanto, o Purple Llama visa abordar as crescentes preocupações em torno da segurança e salvaguardas cibernéticas da IA. Além disso, a Meta explica que a cor roxa é referente à termos no setor da segurança cibernética. 

Portanto, simboliza o objetivo da Meta para mitigar os desafios no espaço generativo da IA. A referência é a combinação do termo equipe vermelha, grupos de desenvolvedores que atacam modelos para achar falhas, e a equipe azul, que defende os ataques para avaliação colaborativa de riscos.

Inicialmente, o Purple Llama fornecerá ferramentas e avaliações focadas na segurança cibernética, incluindo métricas para quantificar o risco de segurança cibernética. Ferramentas para avaliar sugestões de códigos inseguros também fazem parte do programa, assim como mecanismos para dificultar a geração de códigos maliciosos pelos LLMs ou o auxílio em ataques cibernéticos.

Faça parte da Comunidade Exclusiva PRO do BlockTrends.APP e lucre em cripto com relatórios semanais, análises diárias, carteiras recomendadas e lives.

Objetivos do Purple Llama

A Meta afirma que esses benchmarks, alinhados com os padrões da indústria, buscam reduzir a frequência de códigos inseguros gerados por IA. O projeto também apresenta o Llama Guard, um modelo fundamental disponível abertamente que apoia salvaguardas de entrada e saída. Assim, permitindo aos desenvolvedores filtrar e verificar entradas e saídas de acordo com as diretrizes de conteúdo.

Os resultados são compartilhados de forma transparente para melhoria e customização, contribuindo para um ecossistema de IA mais seguro e responsável. A Meta declara que o Purple Llama incentivará a colaboração entre desenvolvedores e padronizará ferramentas de confiança e segurança para IA generativa.

Baseando-se no sucesso do Llama 2, a Meta está fazendo parceria com gigantes da indústria como AWS, Google Cloud, IBM, Microsoft e outros para garantir um esforço coletivo na criação de um ambiente de IA generativo aberto e desenvolvido de forma responsável.

Potencialize sua jornada cripto na OKX. Junte-se a 60 milhões de usuários e acesse bots de trading de alto rendimento. Acesse: okx.com