AnthropicInteligência ArtificialHá 6h⏱ 2 min de leitura
Anthropic desenvolve sistema para comprovar identidade de modelos de IA
Anthropic anuncia iniciativa para criar um mecanismo que verifica a origem e autenticidade de seus modelos, como o Claude, reforçando a confiança no ecossistema de IA.
Imagem: Anthropic & Claude
A empresa de inteligência artificial Anthropic revelou que está trabalhando em um sistema capaz de provar a identidade de seus modelos de IA, incluindo o popular Claude, em resposta ao aumento de preocupações sobre falsificação e uso indevido de tecnologias generativas.
Segundo o comunicado oficial da Anthropic, a solução combinará técnicas de watermarking criptográfico, assinaturas digitais e fingerprinting de parâmetros para gerar um identificador único e verificável para cada versão de modelo lançada, permitindo que desenvolvedores e reguladores confirmem sua procedência de forma automática.
Para o ecossistema de tecnologia de Mato Grosso do Sul, a iniciativa abre oportunidades para startups locais adotarem práticas de rastreabilidade, universidades incorporarem estudos de provenance em seus currículos e órgãos reguladores estabelecerem padrões de compliance mais robustos.
