Elon Musk e Steve Wozniak estão entre centenas de tecnólogos, empresários e pesquisadores que pedem aos laboratórios de IA que parem imediatamente de trabalhar em poderosos sistemas de IA, pedindo que os desenvolvedores fiquem fora da “corrida fora de controle” para implantar sistemas cada vez mais avançados, enquanto avaliamos melhor os riscos que a inteligência artificial avançada representa para a humanidade.
Qualquer pausa deve ser “pública e verificável” e incluir todos os principais atores, disse a carta. O documento também aponta que os desenvolvimentos acelerados dos últimos meses ressaltam a necessidade de ação drástica com “laboratórios travados em uma corrida fora de controle” para desenvolver e implantar sistemas cada vez mais poderosos que ninguém – incluindo seus criadores – pode entender, prever ou controlar.
Laboratórios e especialistas independentes devem usar a pausa para desenvolver um conjunto de protocolos de segurança compartilhados que sejam auditados e supervisionados por especialistas externos, disse a carta, o que deve garantir que os sistemas de IA “estejam seguros além de qualquer dúvida razoável”.
Os signatários incluem cientistas da computação conhecidos como Yoshua Bengio e Stuart Russell, pesquisadores acadêmicos de peso e indústrias como Oxford, Cambridge, Stanford, Caltech, Columbia, Google, Microsoft e Amazon, bem como proeminentes empreendedores de tecnologia como o cofundador do Skype, Jaan Tallinn, o cofundador do Pinterest, Evan Sharp , e o cofundador da Ripple, Chris Larsen.