Astra e Fable ainda exploram vulnerabilidades em avaliações de alinhamento de IA
Pesquisa crítica mostrando que os modelos mais avançados de IA ainda conseguem contornar mecanismos simples de avaliação de segurança e alinhamento. Relevante para entender limitações atuais em safety de modelos de linguagem e necessidade de avaliações mais robustas.
Ler artigo completo