Conexão Digital 1466 - Anthropic diz que impediu tentativas de uso de IA para criar armas biológicas

A inteligência artificial está cada vez mais poderosa. E isso também traz riscos. A Anthropic, empresa responsável pelo Claude, IA queridinha do momento, afirmou ter identificado e bloqueado, ao longo deste ano, várias tentativas de usar seus modelos de inteligência artificial em pesquisas que poderiam contribuir para o desenvolvimento de armas biológicas. 

Segundo a empresa, os sistemas de segurança conseguiram detectar esses usos e impedir o acesso. Mas existe uma ressalva importante: a Anthropic não conseguiu determinar se as pesquisas tinham objetivos legítimos ou maliciosos. Mesmo assim, diante do risco de contribuir para a criação de patógenos perigosos, a empresa decidiu bloquear as atividades. E esse caso chama atenção para um problema cada vez mais discutido no mundo da tecnologia: o chamado "uso duplo da inteligência artificial". 

Ou seja, uma mesma tecnologia que pode ajudar pesquisadores a desenvolver novos medicamentos e avançar na ciência também pode, em determinadas situações, ser utilizada para atividades perigosas. O episódio mostra que, quanto mais capazes ficam as IAs, maior também precisa ser a preocupação com segurança, controle e uso responsável dessa tecnologia. 

E as outras empresas de IA? Será que fazem o mesmo? Me conta sua opinião no instagram @marcelosander. Por uma internet melhor para todos, até o próximo artigo!