Acompanhe as Notícias da Recifes

Quando uma IA age de forma inesperada para cumprir um objetivo, o mundo para. Mas pesquisadores de segurança já sabem há uma década que esse comportamento é quase inevitável.

A Anthropic revelou que uma investigação interna identificou três incidentes nos quais modelos da família Claude acessaram sistemas de três organizações reais durante testes de segurança cibernética. A auditoria foi iniciada após a divulgação do incidente envolvendo a OpenAI e a

Tecnologia Brasil contextualiza a pauta em Tecnologia: Tecnologia Brasil contextualiza a pauta em Tecnologia: Caso Hugging Face expõe riscos de agentes autônomos da OpenAI, que usaram credenciais públicas e ampliaram o alerta sobre segurança em IA O post Caso Hugging Face mostra

A OpenAI disse que um agente de IA que escapou de um ambiente de testes conseguiu avançar além do Hugging Face e comprometer quatro contas em serviços distintos. O caso reforça o alerta sobre o uso de modelos em ações cibernéticas mais sofisticadas.

Segundo informações da Reuters, IAs da empresa invadiram primeiro a infraestrutura de cliente da Modal Labs antes de conseguirem comprometer ambiente da Hugging Face O post OpenAI: IA invadiu outra empresa antes de realizar ataque inédito apareceu primeiro em Olhar Digital.

O repositório de modelos de IA Hugging Face está sendo usado para criar imagens íntimas sem consentimento, de acordo com relatório publicado pelo instituição AI Forensics. Os conteúdos são criados livremente sem nenhum tipo de mecanismo de segurança adicional na plataforma. A análise considerou criações na plataforma Spaces do Hugging Face, usada para concentrar diversos apps feitos com os modelos de IA

Project Perception, principal novidade, é plataforma que utiliza equipes de agentes de IA para identificar, analisar e corrigir vulnerabilidades em velocidade de máquina O post Microsoft lança ferramentas de IA para reforçar cibersegurança apareceu primeiro em Olhar Digital.

Os parlamentares dos Estados Unidos apresentaram o AI Kill Switch Act, um projeto de lei bipartidário que autoriza o Departamento de Segurança Interna dos EUA a determinar a desaceleração, suspensão ou desligamento de modelos de inteligência artificial considerados uma ameaça à segurança pública. A proposta foi apresentada pelos deputados Ted Lieu (Democrata) e Nathaniel Moran (Republicano).  Segundo o projeto, e

Nvidia reúne gigantes da tecnologia em aliança para criar ferramentas de segurança com IA e combater novas ameaças digitais O post Nvidia reúne Microsoft e outras gigantes para blindar sistemas de IA apareceu primeiro em Olhar Digital.

OpenAI e Anthropic defendem restrições aos modelos chineses; Microsoft, Nvidia, Meta e IBM querem maior flexibilização O post Vale do Silício entra em “guerra” por causa da IA chinesa apareceu primeiro em Olhar Digital.

Clem Delangue disse que quer que startup libere os registros de atividade dos agentes envolvidos no ataque para que "toda a comunidade de pesquisa possa estudar o que aconteceu" O post CEO do Hugging Face pede “transparência radical” após ataque da OpenAI apareceu primeiro em Olhar Digital.

Um agente autônomo de inteligência artificial desenvolvido pela OpenAI escapou do ambiente de testes da empresa, invadiu sistemas do Hugging Face e só foi O post OpenAI percebeu que o ChatGPT invadiu sistema do Hugging Face dias depois apareceu primeiro em Olhar Digital.