Leitura:
The Ethics and Governance of Artificial Intelligence
The Ethics and Governance of Artificial Intelligence - Syllabus
Audiovisual:
The Ethics and Governance of AI opening event, February 3, 2018
The ethical dilemma we face on AI and autonomous tech | Christine Fox | TEDxMidAtlantic
O assunto da ética relacionado com inteligência artificial é algo bastante polêmico e que, com os notórios avanços recentes na área de IA, tem virando ponto de discussão recorrente no meio da computação.
ResponderExcluirAcredito que para iniciar a discussão sobre esse assunto deve-se ter em mente o que falou o bioeticista Larry Churchill: "Apenas o humano é dotado da capacidade de pensar criticamente sobre os valores morais e de dirigir suas ações em termos de tais valores". Com esse comentário, Churchill isenta das máquinas a responsabilidade sobre qualquer "infração" a normas éticas ou morais.
Toda máquina, por maior que seja o nível de inteligência empregada, foi inicialmente concebida por seres humanos, e, por conta disso, acredito que a responsabilidade ética e moral sobre as ações destas máquinas devem ser das pessoas que a conceberam.
Existem alguns exemplos bem marcantes de aplicações de IA que infringem normas éticas. Um desses exemplos é o Gaydar. Essa aplicação foi desenvolvida para, a partir de certa inteligência, identificar usuários homossexuais de uma determinada rede social a partir das imagens que os mesmos publicavam na rede. Os criadores alegaram que a aplicação foi concebida com o intuito de proteger esses usuários. Entretanto, os efeitos foram completamente opostos. Tais usuários foram submetidos a um tipo de invasão de privacidade inaceitável, de modo que a relação entre ética e inteligência artificial neste caso prático foi completamente desastrosa.
Casos como esse devem ter um tipo de análise muito mais profunda, pois não é aceitável que soluções tecnológicas de inteligência artificial passem a infringir conceitos éticos e morais com a sua execução. A questão da responsabilização sobre situações como estas é algo que deve ser bastante discutido e firmado para que não haja brechas para que aplicações como essa possam ter usabilidade.
Na minha opinião, a grande polêmica que gira em torno do assunto da ética e governança é sobre "quem é o mais responsável que deveria decidir se tal atitude/criação é legal/ética/adequada" e como esta pessoa julgaria, se vão ter que ser criar leis para limitar as barreiras entre a tecnologia e o indivíduo e quão detalhadas vão ser, já que existem bastantes aplicações com a inteligência artificial. Além disso, como julgar movimentos/atitudes passados que de fato passaram do limite ao ponto de os usuários se sentirem invadidos sem permissão.
ResponderExcluirNão concordo com a criação de tecnologias com inteligência a ponto de infringir os conceitos morais e éticos. Acredito que deveria ser padrão único em todos os países o limite de concessão de acesso a essas aplicações, ou seja, um país não deveria permitir mais do que o outro a respeito deste assunto.
Como foi discutido em sala de aula, é necessário que priozemos a discussão acerca do caminho que queremos que a humanidade vá. Eu pessoalmente acredito que se deve priorizar acima de tudo a liberdade humana e os seus direitos intrínsecos. Nesse ponto, gostaria de pontuar uma parte do comentário de Lucas em que ele diz que a responsabilidade moral e ética sobre as ações deve ser das pessoas que a conceberam. Acredito ainda que, no caso da criação de uma IA "nociva" como um produto, deve ser reponsabilizada a empresa que utiliza a IA e a empresa que a criou. Também acredito que um caminho para se inibir a criação de IA's "nocivas" está na questão já discutida d privacidade. A penalização clara e regulamentação dos dados é essencial para que o avanço da IA caminhe para o lado correto.
ResponderExcluirA questão filosófica sobre dar as máquinas muito controle é de confiança. Considerações éticas são abundantes no uso de inteligência artificial e o primeiro a abordar marketing sobre os dados em si. Onde ela conseguiu todos esses dados e de quem são os dados, afinal? A inteligência artificial e os sistemas autônomos que impulsionam a economia algorítmica têm amplo acesso a nossos dados, mas permanecem isolados dos ganhos que poderíamos obter dos insights derivados de nossas vidas. Para lidar com essa assimetria, existe uma necessidade fundamental das pessoas definirem, acessem e gerenciarem seus dados pessoais como curados de sua identidade única. O reconhecimento dessa preocupação é vital para evitar que os profissionais de marketing caiam no lado errado de seus clientes e no lado errado da lei.
ResponderExcluirÉ estranho falar para mim que uma I.A. "do mal" é responsabilidade do criador dela, pois temos dois viés:
ResponderExcluir1- O criador realmente criou para o mal (IAs militares, etc)
2- O criador criou para fazer algum tipo de bem.
Vejamos a situação que um robô foi criado para limpar as calçadas. No momento em que esse robô passa, é uma hora que praticamente tem ninguém andando nessa rua, então, o robô pode jogar seu jato de água a todo vapor. Agora imaginemos que existe um morador de rua dormindo na calçada naquele dia. O morador se tornaria uma "sujeira" pra máquina, então ela jogaria, ainda sim, água com muita força no rapaz.
Os empreendedores estão 100% direcionados no desenvolvimento dessas tecnologias e em fazer com que suas empresas escalem, atinjam bons valores e atraiam investimentos. Por mais que eles entendam as questões éticas que surgem do uso destas tecnologias, não está na agenda prioritária deles garantir que estas discussões e preocupações sobre governança de IA aconteçam. Notavelmente os "pais" da grande maioria dos algoritmos de IA possuem o bias comum de geração de lucro, não importando as consequências. Caberia ao estado propor maneiras de regular esse comportamento ou as maiores empresas de tecnologia encabeçarem o movimento e ditarem as regras? Apesar do investimento inicial de Google, Facebook, Amazon... nesse contexto, é preciso expandir a visão e concluir que todos os negócios serão atingidos por AI, consequentemente todo o mundo será diretamente afetado.
ResponderExcluir