Jornalismo de tecnologia, independente e com credibilidade

No caminho certo: software de código aberto da NVIDIA ajuda os desenvolvedores a adicionar segurança aos chatbots de IA

A NVIDIA lança mais uma novidade que envolve inteligências artificias generativas. O software de código aberto NeMo Guardrails foi desenvolvido para ajudar os desenvolvedores a orientar aplicações de IAs generativas para criar respostas de texto impressionantes e com fluidez.
A novidade ajudará a garantir que aplicações inteligentes alimentadas por grandes modelos de linguagem (LLMs) sejam precisas, apropriadas e seguras. O software inclui todo o código, exemplos e documentação que as empresas precisam para adicionar segurança às aplicações de IA que geram texto.
O lançamento ocorre quando muitos setores estão adotando LLMs, os poderosos mecanismos por trás dessas aplicações de IA. Eles estão respondendo às perguntas dos clientes, resumindo documentos extensos, até mesmo escrevendo software e acelerando o design de medicamentos.
O NeMo Guardrails foi projetado para ajudar os usuários a manter essa nova classe de aplicações com tecnologia de IA segura.
Modelos poderosos
A segurança na IA generativa é uma preocupação de todo o setor. A NVIDIA projetou o NeMo Guardrails para funcionar com todos os LLMs, assim como o ChatGPT da OpenAI.
O software permite que os desenvolvedores alinhem aplicações baseadas em LLM para que fiquem seguros e permaneçam dentro dos domínios de especialização de uma empresa.
O NeMo Guardrails permite que os desenvolvedores configurem três tipos de limites:
• Os topical guardrails, que são barreiras colocadas ao longo do edge em pontos perigosos, impedem que as aplicações se desviem para áreas indesejadas. Por exemplo, eles impedem que os assistentes de atendimento ao cliente respondam a perguntas sobre o clima.
• As proteções de segurança garantem que as aplicações respondam com informações precisas e apropriadas. Eles podem filtrar linguagem indesejada e garantir que as referências sejam feitas apenas a fontes confiáveis. Além disso, também restringem as aplicações a fazerem conexões apenas com aplicativos externos de terceiros conhecidos como seguros.
Praticamente todos os desenvolvedores de software podem usar o NeMo Guardrails – não é necessário ser um especialista em machine learning ou cientista de dados. É possível criar regras rapidamente com algumas linhas de código.
Ferramentas familiares
Como o NeMo Guardrails é de código aberto, ele pode funcionar com todas as ferramentas que os desenvolvedores de aplicações corporativas usam.
Por exemplo, ele pode ser executado em cima do LangChain, um kit de ferramentas de código aberto que os desenvolvedores estão adotando rapidamente para conectar aplicações de terceiros ao poder dos LLMs.
“Os usuários podem facilmente adicionar NeMo Guardrails aos fluxos de trabalho do LangChain para colocar rapidamente limites seguros em torno de suas aplicações baseadas em IA”, diz Harrison Chase, que criou o kit de ferramentas LangChain e uma startup que leva seu nome.
Além disso, o NeMo Guardrails foi projetado para funcionar com uma ampla variedade de aplicações habilitadas para LLM, como o Zapier, plataforma de automação utilizada por mais de dois milhões de empresas e que pode ser vista em primeira mão como os usuários estão integrando a IA em seu trabalho.
“Segurança, proteção e confiança são os pilares do desenvolvimento responsável de IA, e estamos entusiasmados com a abordagem proativa da NVIDIA para incorporar essas proteções em sistemas de IA”, afirma Reid Robinson, gerente de produtos de IA da Zapier. “Estamos ansiosos pelos benefícios de tornar a IA confiável e segura para o futuro.”
Disponível como código aberto e da NVIDIA
A NVIDIA está incorporando o NeMo Guardrails no framework NVIDIA NeMo, que inclui tudo o que os usuários precisam para treinar e ajustar modelos de linguagem usando os dados proprietários da empresa.
Grande parte da estrutura do NeMo já está disponível como código-fonte aberto no GitHub. As empresas também podem obtê-lo como um pacote completo e com suporte, parte da plataforma de software NVIDIA AI Enterprise.
O NeMo também está disponível como um serviço. Faz parte do NVIDIA AI Foundations, uma família de serviços em nuvem para empresas que desejam criar e executar modelos personalizados de IA generativa com base em seus próprios conjuntos de dados (datasets) e conhecimento de domínio.
Usando o NeMo, a principal operadora móvel da Coreia do Sul construiu um assistente inteligente que teve 8 milhões de conversas com seus clientes. Uma equipe de pesquisa na Suécia também empregou o NeMo para criar LLMs que podem automatizar funções de texto para hospitais, governos e escritórios comerciais do país.
Um esforço contínuo da comunidade de desenvolvedores
Construir boas proteções para IA generativa é um desafio que exigirá muita pesquisa contínua à medida que a IA evolui. Para isso, a NVIDIA criou este produto de vários anos de pesquisa e de código aberto para contribuir com a comunidade de desenvolvedores e a segurança da IA no trabalho.
“Juntos, nossos esforços em guardrails ajudarão as empresas a manter seus serviços inteligentes alinhados com os requisitos de segurança, privacidade e proteção, para que esses mecanismos de inovação permaneçam no caminho certo”, finaliza Jomar Silva, gerente de relacionamento com desenvolvedores da NVIDIA para a América Latina.

ASSINE AGORA! Não saia sem garantir 30 dias GRÁTIS
A Bits & Geeks leva até você matérias completas e material exclusivo do mundo da tecnologia.

Close this popup

Comentários estão fechados.

Esse site usa cookie para melhor sua experiência Aceitar