Leitura:
Lethal autonomous weapon
UK, US and Russia among those opposing killer robot ban
Recaps of the UN CCW meetings March 25-29, 2019
Lethal autonomous weapons
BAN LETHAL AUTONOMOUS WEAPONS
Audiovisual:
Lethal Autonomous Weapon Systems (LAWS) and UN GGE by Regina Surber at ETH Zurich 2019
Why We Should Ban Lethal Autonomous Weapons
Autonomous Weapons - Lethal Future
MIT AI: Autonomous Weapons Systems Policy (Richard Moyes)
Autonomous weapons and international law
Artificial Intelligence: Lethal Autonomous Weapons Systems (LAWS) and Peace Time Threats
Killer Robots & the Ethics of Autonomous Weapons - Peter Asaro
Por mais interessante que eu considere a discussão de quem lidará com as responsabilidades no caso de erro por parte de uma LAW, eu acredito que no fim das contas legislação será muito lenta a se adaptar a esse advento na tecnologia, e ficará a critério dos envolvidos na transação dos mesmos. Como muitas tecnologias que foram introduzidas e popularizadas rapidamente, ela é extremamente suscetível a abuso por corporações durante sua infância, e irá sofrer um período de "tudo vale" até a legislação começar a apertar o passo.
ResponderExcluirJá quanto a formação de leis, embora possa parecer fantasioso, eu acho que será tirado muita inspiração em materiais de ficção, assim como leis da robótica atualmente seguem linhas não tão diferentes das citadas pelos trabalhos de Isaac Asimov e as suas três regras da robótica. Afinal, o que não falta é livro de ficção que aborda temas similares aos ético-morais que debatemos agora com o uso de máquinas assassinas.
O uso de armas letais autônomas e um tópico que a tempos já é abordado pela ficção através dos mais diversos meios, e assim como outras tecnologias que inicialmente eram apenas tratadas como ficcionais, LAWs tem evoluído e hoje já estão muito próximas da nossa realidade.
ResponderExcluirÉ interessante notar o quanto esse tipo de tecnologia afeta a sociedade moderna. Hoje, boa parte do mundo vive em cenários relativamente pacíficos, e graças a isso e possível se discutir sobre o impacto dessa tecnologia no âmbito global.
Décadas atrás, durante os períodos de guerra, e bem provável que esse tipo de discussão nem existiria, novas armas seriam desenvolvidas enquanto elas trouxessem vantagens sobre inimigos em um conflito.
Hoje existe uma preocupação social muito maior sobre esse tema.
Em que cenários essas armas poderiam ser utilizadas? Quem se responsabiliza quando uma decisão errada e tomada por uma maquina? Como saber se uma dessas armas vai ou não atacar o alvo correto?
São preocupações que possuem uma relevância bem maior acerca desse tema.
É bastante notável a quantidade de fatores de risco que existem ao se desenvolver esse tipo de tecnologia, afinal se trata da preservação da vida humana.
O verdadeiro problema é, o quão realmente preparada está esse tipo de tecnologia para de fato ser usada?
Nos sabemos que não existe computação a prova de falhas, e quando estamos lidando com a vida de outras pessoas, é realmente aceitável que exista algum nível de falha?
um dos pontos negativos que me chamou atenção dos LAWs foi ao fato de não ha certeza científica de que armas letais autônomas terão de fato a capacidade de identificar alvos, analisar situações ou usar força proporcional de forma precisa no futuro.
ResponderExcluirComo identificaria o alvo então ? programado pelo o humano ? o que ele considera alvo ? isso aí entra nas questões humanas , logo imaginei um exemplo seria a xenofobia , ou pra ser exato a islamofobia , depois dos atentados do 11 de setembro o olhos de medos mundiais ve voltaram contra os islãmicos ao ponto de aumentar os crimes de ódios ainda mais com eleições de representantes como Donald Trump, conservadores extremistas e etc.
Então fiquei me perguntando se esse ódio ia influenciar na escolha do alvo dos LAWs , que seria algo bastante problemático , principalmente em países xenofóbicos
A medida que se cresce o avanço da tecnologia, vemos a implantação dessas descoberta em estudos bélicos, onde vemos o aumento do poder destrutivo das armas de hoje em dia. Com isso, vemos a criação de arma autônomas letais, o que nos pode trazer alguns questionamentos.
ResponderExcluirSe na comunidade de inteligência artificial já temos discordâncias sobre algoritmos devem ter permissão para tomar decisões de tirar uma vida humana, como poderemos ter consenso em outras decisões controversas que o tópico trará?
Com essas armas sendo fáceis de desenvolver, com fácil acesso e uso, como faremos para assegurar proteção num mundo de crescente sentimento de insegurança global? Visto que essas armas poderão ser usadas por grupos como por exemplo com ideais xenófobos para promover violência.
E também, quem poderemos responsabilizar pelas ações tomadas por essas armas? E como poderíamos garantir que essas armas não tomarão atitudes preconceituosas(servindo de exemplo uma analogia ao sistema carcerário dos Estados Unidos, em que o racismo ainda hoje é um mal que perpetua nesse setor)?
Dado todos esses questionamentos, prefiro acreditar que essa será uma tecnologia que terá sua realização banida.
Deixando claro que não acho correto matar nenhum ser vivo. Mas entendo que é uma realidade que matamos muitos e que talvez as LAWs diminua esse contingente. Mas, deixando esse questionamento de lado, gostaria de adentrar numa questão que me veio a cabeça: Como toda tecnologia, se ela vai ser boa ou não para a sociedade, depende de como será utilizada. Não adianta negar o avanço da tecnologia, o que podemos fazer é tentar criar uma ordem nesse avanço, guiando para o lado certo.
ResponderExcluirSe, como diz no vídeo “Why We Should Ban Lethal Autonomous Weapons”, é fácil e barato construir uma LAW, o que impede que extremistas e revolucionários construam tais armas? Indo além de questionar o banimento ou não das LAWs, é um fato de que existe uma chance considerável dessas armas serem fabricadas por extremistas e revolucionários que não ligam para legalidade e buscam uma ruptura no sistema. Infelizmente, assim como na cyberguerra onde apenas um ataque tecnológico consegue servir de defesa de outro cyberataque, só consigo pensar numa solução para resolver essa questão: mais armas autônomas(sendo que não letais), programadas para destruir LAWs. Porém, acredito que devem haver formas menos danosas e perigosas de resolver essa problemática, basta investigarmos mais.