Os principais pesquisadores da IA ​​boicotam a universidade coreana por seu trabalho em "robôs assassinos"

Mais de 50 pesquisadores de AI e robótica disseram que vão boicotar a Universidade KAIST na Coréia do Sul pelos planos do instituto de ajudar a desenvolver armas com inteligência artificial. A ameaça foi anunciada antes de uma reunião da ONU em Genebra na próxima semana para discutir as restrições internacionais aos chamados "robôs assassinos". Isso marca uma escalada de táticas por parte da comunidade científica que ativamente luta por controles mais fortes em armamentos controlados pela inteligência artificial.

O boicote foi organizado pelo professor Toby Walsh, da Universidade de New South Wales, que alertou em um comunicado de imprensa que a corrida para construir armas autônomas já havia começado. "Podemos ver protótipos de armas autônomas sendo desenvolvidas hoje por muitas nações, incluindo Estados Unidos, China, Rússia e Reino Unido", disse Walsh. "Estamos presos em uma corrida armamentista que ninguém quer que aconteça, as ações da KAIST só vão acelerar essa corrida armamentista, não podemos tolerar isso."

Signatários do boicote incluem alguns dos principais pesquisadores de AI do mundo. especialmente os professores Geoffrey Hinton, Yoshua Bengio e Jügengen Schmidhuber. O boicote proibiria todo contato e colaboração acadêmica com o KAIST até que a universidade assegure que as armas que ele desenvolve terão "controle humano significativo".

O gatilho para essa ação foi o anúncio feito pela KAIST em fevereiro de que estava lançando um centro de pesquisa conjunto com a empresa sul-coreana de defesa Hanwha Systems. De acordo com The Korean Times o objetivo do centro é "desenvolver tecnologias de inteligência artificial (IA) para aplicar em armas militares" que "procurem e eliminem alvos sem controle humano".

Mas, de acordo com um relatório do Times Higher Education o presidente do KAIST, Sung-Chul Shin, disse estar "entristecido" com o boicote ameaçado e nega que a universidade esteja construindo sistemas de armas autônomos. "Como uma instituição acadêmica, nós valorizamos os direitos humanos e os padrões éticos em alto grau, o KAIST não realizará atividades de pesquisa contrárias à dignidade humana, incluindo armas autônomas que não têm controle humano significativo", disse ele. O organizador do boicote, Walsh, disse Times Higher Education que ele precisaria consultar seus co-signatários sobre o que fazer em seguida, acrescentando que a resposta KAIST ainda deixou "algumas questões sem resposta".

] A associação da KAIST com a Hanwha reúne duas das principais organizações militares e robóticas do mundo. KAIST é uma universidade de pesquisa de classe mundial, conhecida por seu trabalho como robô transformador DRC-HUBO, que venceu o desafio robótico DARPA 2015.

A Hanwha Systems, por sua vez, é a subsidiária de defesa da Hanwha chaebol . Hanwha já está envolvido no desenvolvimento de armas autônomas, como a arma sentinela SGR-A1, que supostamente foi implantada na fronteira entre a Coréia do Norte e a Coréia do Sul. A empresa também constrói munições cluster, proibidas por um tratado internacional (embora muitos países se abstenham dessa proibição, incluindo a Coréia do Sul, os EUA, a Rússia ea China).

Embora um boicote contra o KAIST seja significativo, alguns especialistas eles dizem que a campanha para controlar o desenvolvimento de armas autônomas é inútil.

Anteriormente, líderes em IA e robótica escreveram para a ONU argumentando que armas que matam sem intervenção humana poderiam desestabilizar o mundo e deveriam ser controladas por um tratado internacional. Isto recebeu algum apoio internacional, com 19 países, incluindo o Egito, a Argentina e o Paquistão, apoiando uma iniciativa deste tipo. Mas outros países, como os Estados Unidos e o Reino Unido, dizem que tal legislação seria impraticável, devido à impossibilidade de definir o que constitui e o que não constitui controle humano. Muitos sistemas já possuem pelo menos algumas capacidades autônomas, incluindo drones e redes de defesa antimísseis.

Para Walsh e outros, entretanto, o perigo é grande demais para ser complacente. "Se eles se desenvolverem, as armas autônomas […] permitirão que a guerra seja liberada mais rapidamente e em maior escala do que nunca", disse Walsh em um comunicado à imprensa. "Esta caixa de Pandora será difícil de fechar se estiver aberta."

Atualização de 4 de abril, 11:00 da manhã. ET: A história foi atualizada para incluir uma resposta do KAIST e do organizador de boicote Toby Walsh.