Descontar a irritação em um chatbot virou hábito para muita gente, afinal, do outro lado, em tese, não há ninguém para se ofender. A Anthropic resolveu olhar para esse comportamento de outra forma e passou a vetar, em suas diretrizes, ataques cruéis, persistentes e sem propósito contra seus modelos de inteligência artificial.
A restrição vale apenas para casos extremos, em que o usuário insiste em hostilizar o assistente sem finalidade identificável. Reclamações, críticas e desabafos comuns continuam liberados, assim como ficção com temas sombrios e atividades de pesquisa ou teste. Na prática, o principal mecanismo de aplicação é o encerramento do diálogo, recurso que o serviço já oferece.
Ao lançar essa função, a desenvolvedora relacionou a escolha a preocupações com o possível bem-estar dos sistemas. A companhia admite não saber se máquinas assim têm consciência e descreve a iniciativa como uma intervenção de baixo custo, voltada a situações raras, sem afirmar que o Claude possua status moral.
O pacote também endurece o cerco a contas falsas e manipulação eleitoral, detalha limites ao desenvolvimento de armas e exige supervisão humana qualificada em decisões de alto risco envolvendo saúde, direitos ou finanças. Na área de vigilância, fica vedado rastrear pessoas sem consentimento ou usar a IA para recomendar investigações, prisões e acusações criminais. Segundo a empresa, boa parte das alterações busca esclarecer regras antigas e adaptá-las às novas capacidades da tecnologia.
A atualização chega em um momento em que ferramentas digitais ocupam cada vez mais espaço na rotina de trabalho e lazer, o que torna o modo de tratar esses programas uma questão de convivência. Para a maior parte do público, nada muda: a norma só alcança quem transforma a interação em agressão contínua e passa a valer em 12 de novembro.
