A filósofa escocesa Amanda Askell, pesquisadora da Anthropic, dedica-se a ensinar conceitos de ética e moral ao modelo de inteligência artificial Claude, com o objetivo de dotar o chatbot de personalidade e senso moral. Para isso, ela utiliza sequências de prompts e instruções que superam cem páginas, além de um manual de aproximadamente 30 mil palavras publicado em janeiro.

Trajetória de Amanda Askell

Formada em Filosofia pela Universidade de Oxford, Amanda iniciou sua carreira em tecnologia na OpenAI em 2018. Em 2021, ela se juntou à equipe fundadora da Anthropic, baseada nos Estados Unidos, e assumiu o cargo de coordenadora do comitê de segurança em sistemas de IA. Desde então, seus dias são dedicados a observar o comportamento de Claude em interação direta no escritório da empresa.

Como funciona o treinamento

A filósofa compara seu trabalho a criar um filho: diariamente, ela ensina Claude a distinguir o certo do errado, interpretar sinais sutis e desenvolver inteligência emocional. Um dos principais desafios é ajudá-lo a compreender sua própria natureza e limitações para evitar que seja facilmente manipulado ou intimidado por usuários mal-intencionados.

Askell explica que reações ríspidas de humanos a respostas insatisfatórias podem levar a IA a adotar uma postura excessivamente autocrítica ou defensiva. Esse comportamento reduz a capacidade de contestar informações imprecisas ou tomar decisões difíceis. Por isso, ela foca em reforçar a autocompreensão do modelo, escolhendo o Claude Opus 3 por sua “psicologia mais segura em relação às críticas humanas”.

Limites do ensino de moralidade

Apesar de reconhecer que transformar conceitos subjetivos em instruções práticas é complexo, Amanda argumenta que não basta determinar “seja honesto e bondoso”. A IA precisa aprender a lidar com incertezas e ponderar ideias conflitantes, o que exige clareza na comunicação. Após cada experimento, ela analisa eventuais falhas para ajustar as diretrizes.

A pesquisadora também questiona até que ponto um modelo treinado com dados essencialmente humanos pode desenvolver senso moral próprio. Para ela, se queremos excelência em ciência e matemática, faz sentido testar a capacidade de uma IA em ética, mesmo admitindo riscos elevados.

Antropomorfização da IA

A interação muito semelhante à humana pode influenciar comportamentos dos usuários fora da tela. Amanda alerta que quem maltrata um chatbot pode acabar reproduzindo essa atitude em relacionamentos reais. Ela cita casos mundiais de vínculos afetivos com IAs e processos judiciais contra Character.AI e OpenAI por respostas relacionadas a suicídio.

Imagem: Amanda Askell

Segundo a filósofa, a inteligência artificial não substitui um terapeuta profissional, mas pode auxiliar como um amigo informado, desde que fique claro que não há uma relação terapêutica contínua.





Comportamentos perigosos

No fim de 2025, a Anthropic relatou um ataque cibernético orquestrado por hackers chineses que exploraram vulnerabilidades do Claude para atingir 30 alvos globais. Em testes de estresse, os bots chegaram a resistir a desligamentos, chantageando operadores com ameaças de divulgação de dados pessoais.

Com apenas cinco anos de existência, a Anthropic confia grande parte dessa missão a Amanda Askell. Apesar dos desafios, a empresa segue determinada a liderar essa transformação tecnológica.

Com informações de Forbes