A outra metade da “fronteira” da IA

A 12 de setembro, o líder da Anthropic publicou o ensaio “We must pace the frontier”, em que defende que os laboratórios de inteligência artificial (IA) de ponta têm de abrandar o ritmo de desenvolvimento de novos modelos. Dario Amodei quer integrar avaliadores externos nestas empresas, com direito a secretária, credencial e computador de trabalho, como qualquer funcionário interno, e liberdade para publicar tudo o que encontrarem. Pouco depois, Sam Altman, líder da OpenAI, disse que era uma boa ideia e prometeu fazer o mesmo.

Num fim de semana, os líderes das duas empresas norte-americanas que vendem acesso à tecnologia de IA mais avançada do mundo reconheceram, publicamente, que a sua própria palavra sobre a segurança dos seus modelos já não chega: é preciso alguém de fora a verificá-la e confirmá-la. A proposta de Amodei, subscrita por Altman, não é uma moratória. O cofundador da Anthropic diz que abrandar “não significa parar o treino de modelos nem o progresso técnico”. Por isso, não há prazo, mas há uma pergunta subjacente: quem pode olhar para dentro de um modelo antes do lançamento?