Leitura:
BENEFITS & RISKS OF ARTIFICIAL INTELLIGENCE
Robotics, AI and Society
Audiovisual:
Joi Ito and Iyad Rahwan on AI & Society
The Social Dilemma Of Driverless Cars | Iyad Rahwan | TEDxCambridge
We are already cyborgs | Elon Musk | Code Conference 2016
Amazon Jeff Bezos "Artificial Intelligence(AI) is Renaissance to Technology, Business and Society."
Google & LinkedIn on Implications of AI for Economy and Society
AI & Ethics (Iyad Rahwan, Jennifer Schenker) I DLD17
É muito complexo lidar com IA na sociedade. Pq tem todo aquele problema o bem geral vs bem individual. O bem geral sempre é a opção certa, a opção que sem dúvida deve ser adotada, menos quando o único que sofre sou eu mesmo. Como implantar em uma sociedade softwares de IA que possam causar danos à humanos, danos esses que já são causados em grande escala mas que podem ser minimizados pelo uso de IA, mas que dependam de tomadas de decisões que possam ir contra o bem individual? É um dilema moral que é muito bem representado pela "The tragedy of the commons" e é discutido desde 1833 em cenários que podem facilmente ser adaptados aos cenários mais recentes.
ResponderExcluirHoje é notório que nossa sociedade – como uma sociedade informacional que somos – depende cada dia mais da tecnologia para prosperar. Para mim, essa dependência deve ser controlada ao máximo.
ResponderExcluirAo pensar em “inteligência artificial”, acredito que todo mundo deve pensar logo em robôs. Eu penso naqueles robôs que são responsáveis por atividades domésticas. Isso me lembra um episódio da série Black Mirror onde, no futuro, é possível que nós mesmos possamos retirar um “clone” nosso de dentro da nossa mente que vai ficar em um dispositivo externo (como um HD) e vai controlar todo o funcionamento da sua casa. Basicamente, sua subconsciência é clonada e colocada num dispositivo externo que vai aprender exatamente como você quer que as coisas da sua casa funcione – afinal, é seu subconsciente ali. Tive que ver esse episódio prestando muita atenção, porque a ideia é muito bizarra.
Apesar da bizarrice, me veio logo o pensamento de que aquilo ali era possível. Inclusive, aquilo ali é o que muitos cientistas procuram desvendar e colocar em prática.
Penso que, se isso de fato ocorrer algum dia, haverá inúmeras mudanças socialmente falando. Talvez nem estejamos mais no sistema que estamos hoje. São muitas variáveis em aberto que não adianta muito ficar tentando descobri-las. Acredito que o foco agora é em como tentar fazer com que essa inteligência seja mais imperceptível, porém ainda objetiva, para que não afete tanto socialmente e psicologicamente a sociedade – porque, ao meu ver, há mais chances que afete negativamente.
A inteligência artificial é algo que está se tornando cada vez mais necessária no cotidiano das pessoas e é uma área que está avançando bastante. Podemos ver nos assistentes pessoais do iOS, android e windows phone, a grande aceitação do público. Um exemplo recente é o AlphaGO da google que é a inteligência artificial que derrotou os maiores jogadores de GO. A IA também está se destacando na área de automóveis autônomos a Tesla e Google estão investindo bastante nos carros autônomos. A inteligência artificial se mostrou que é indispensável no dia-a-dia das pessoas, porém ainda falta bastante para substituir os humanos em várias tarefas, em alguns anos eu não que isso vai ser resolvido.
ResponderExcluirInteligência artificial já está se tornando ubíqua em muitos aspectos da web. Sistemas de recomendação, assistentes pessoais estão em todos os sites de compra e smartphones sem que tenhamos noção da complexidade por trás daqueles sistemas.
ResponderExcluirPor outro lado a a inteligência artificial vem espalhando para vários novos segmentos, ajudando a resolver problemas complexos. E isso vem ganhando notabilidade e virando polêmica. Essa tecnologia tem o potencial de automatizar diversos processos, além de auxiliar a julgar problemas complexos como diagnóstico de um médico ou julgamento de uma corte de justiça.
A sociedade tem pela frente um desafio: entender os benefícios e malefícios dessa tecnologia para conseguir regulamenta-la para que o suas aplicações ajudem a sociedade a progredir.
São notórios os benefícios advindos da IA, resultando em um crescimento cada vez maior no desenvolvimento de máquinas cada vez mais inteligentes. Esses dias li que um dos documentos vazados da NSA mostra que eles possuem um projeto chamado MonsterMind, que é capaz de identificar ataques cibernéticos e iniciar por conta própria uma retalhação, e que pode ser facilmente programado para coordenar ataques com qualquer tipo de arma, seja ela cibernética ou termonuclear. Esse é o tipo de coisa que vemos em filmes de ficção científica mas que tá se tornando realidade. Embora o avanço desenfreado da IA esteja sobre alerta não podemos negar que a contribuição desses sistemas inteligentes se torna fundamental a medida que o mundo se torna cada vez mais dependente da tecnologia.
ResponderExcluirOs avanços na área de inteligência artificial (IA) são notórios na sociedade. Os avanços vão desde simples softwares que são embarcados nos nossos celulares, capazes de entender o nosso contexto de uso e fornecer sugestões, até armas militares que detectam alvos e automaticamente analisam a situação. A evolução desses sistemas é importante para nós; não da para negar que nossas vidas são facilitadas pelo uso de tecnologias baseadas em IA, mas vejo que alguns cuidados devem ser tomados. Máquinas inteligentes devem ter suas diretrizes muito bem definidas a fim de não gerar nenhum tipo de caos desnecessário. Por exemplo, um sistema de defesa com armamento nuclear, na minha opinião, em hipótese alguma pode ser automaticamente acionado por uma decisão de um computador. Claro que o sistema deve alertar para um perigo iminente, mas a escolha de ataque ou não, deve ser analisada por pessoas.
ResponderExcluirJá em outros contextos, como no uso de rotas de GPS, está tudo bem que meu celular automaticamente mude o caminho em que estou seguindo, baseado em situações de tráfego, etc. Ou seja, IA pode facilitar nossa vida de uma maneira nunca antes imaginada, mas existem algumas situações em que seu uso deve ser cuidadosamente analisado.
É notório o avanço da área de inteligência artificial, hoje vemos "simples" software de celular tendo uma grande aceitação da sociedade, pois o software vem tornando a vida mais simples, rápida, segura, produtiva e criativa como fala Jean Dean fala no TED (https://goo.gl/BbuHVJ).
ResponderExcluirCom todos benefícios de uma machine learn que ela pode facilitar nossa vida e muito como o aprendizado de rotas mais rápidas no caso de GPS, na automação e aprendizado de cultivo ou separação e encaminhamento de itens. Partindo para o lado negativo se essa tecnologia for usada como armas autônomas pode causa um impacto bastante negativo na sociedade mundial (https://futureoflife.org/background/benefits-risks-of-artificial-intelligence/). Sendo assim essas questões podem e devem ser discutida dentro da sociedade para que os benefícios sejam os maiores possíveis.
Ao falar em AI me vem uma filmes de ficção científica como Matrix e Terminator, a verdade é que AI já está muito presente em nossas vidas e é pouco notada pois geralmente opera onde o usuário não vê. Com a vinda de veículos autônomos, acredito que a questão de como a AI influencia nossas vidas será bem mais notada pelo público geral. Afinal um programa de computador estará controlando um membro do trânsito ao lado de motoristas humanos e pedestres que se movimentam de uma maneira não pré-estabelecida, o que é uma responsabilidade enorme. Entrei no site Moral Machine do MIT, fiz o teste e também mandei para alguns amigos. O que me espanta um pouco é o quanto nossos resultados divergiram, então não sei ao certo como se deve comportar um veículo autônomo em situações onde um acidente é inevitável. Apesar dessa dúvida eu acredito que a presença de driverless cars seja um avanço em relação ao sistema atual, afinal uma AI não sofre distrações da mesma forma que um humano.
ResponderExcluirPor algum tempo eu acreditei no estereótipo de que quem acha que uma Inteligência Artificial pode trazer danos à raça humana não sabe nada sobre a área. Saber sobre as preocupações dos que estão totalmente envolvidos no campo me abriu os olhos, que o olhar sobre a IA não deve ser um de medo, mas um precavido. O desenvolvimento
ResponderExcluirde uma inteligência digital é considerado como algo quase certo dentro dos próximos 40/50 anos por especialistas da área, e realmente não faz sentido tentar brigar contra essa evolução, pois nada mais é do que evolução e por definição, natural. Mas é muito importante começar desde já, como prega o Future Life Institute, as pesquisas e as iniciativas para estarmos preparados para um futuro de IA, mesmo antes dele chegar.
“FLI’s position is that our civilization will flourish as long as we win the race between the growing power of technology and the wisdom with which we manage it. In the case of AI technology, FLI’s position is that the best way to win that race is not to impede the former, but to accelerate the latter, by supporting AI safety research.”
O dilema filosófico social dos carros autônomos evidencia o quanto é necessário pensarmos e debatermos sobre o assunto, de forma que quando os produtos chegarem ao mercado, já estejam colocando em prática as normas e convenções que consideramos previamente. Pois me parece óbvia a ideia que se temos garantias que carros autônomos tem capacidade de reduzir a quantidade absurda de acidentes de trânsito que acontecem hoje em dia, eles devem ser adotados como uma medida de segurança pública. Por outro lado, eles também seriam responsáveis por os tipos de acidentes que não conseguem ainda evitar, e mais importante, os novos tipos de acidentes que eles podem causar.
A sociedade precisa se preparar para esse futuro, e a preparação tem que começar no presente. Quem será culpado quando um carro autônomo bate em outro carro autônomo? Quem será culpado quando um carro autônomo causar um acidente por falhas técnicas? Um carro autônomo em condições extremas deve sacrificar seu passageiro, ou terceiros? São perguntas que causam desconforto, mas que tem que ser respondidas, e de preferencia, antes que começam a acontecer de verdade.
Minha maior preocupação sobre esse tema são as decisões a serem tomadas em situações extremas. Hoje em dia a AI é empregada em situações de trabalho repetitivo e carece de exemplos reais de casos como os que o "Moral Machine" oferece. Acredito que para que algo desse tipo funcione cada usuário possa escolher um perfil de algoritmo que mais lhe agrade, e que as empresas desenvolvam esses códigos de acordo com a demanda, pois essa seria a única forma de garantir que o cliente se sentisse confortável caso uma situação desse tipo aconteça.
ResponderExcluirÉ incrível pensar que estamos testemunhando o inicio da era das maquinas inteligentes. As previsões que eram feitas 10, 15 anos atrás estão se cumprindo, e nós estamos no meio desse turbilhão de avanços. Agora, as discussões políticas e econômicas sobre IA nunca foram tão relevantes e necessárias. Muito se fala sobre aa possíveis distopias que podem acontecer (o filme Matrix retrata uma delas), mas o que mais me desperta interesse é o impacto que a revolução que está prestes a ocorrer pode gerar na economia do planeta.
ResponderExcluirO debate com os representantes da Google e LinkedIn aborda bastante o efeito Econômico da IA. Boa parte do que se debate sobre o tema é o desemprego. Pode ser preocupante, de fato, realocar mais uma massa de trabalho em outros empregos. Contudo, como foi citado na discussão, isso estimular a criação de novos modelos de negócios. Ou, ainda mais interessante, otimizar e dignificar empregos já existentes e que não serão afetados pela IA. Pensando por esse lado, eu passei a ver a IA como um curso natural da humanidade, onde esse é mais um problema no qual devemos propor soluções que mudem nossa realidade. Assim como foi com a primeira revolução industrial, onde os modelos econômicos mais famosos surgiram, acredito que com a "revolução inteligente" possamos nos superar uma vez mais como seres inteligentes.
O desenvolvimento de Inteligências Artificiais tem que ser feito com bastante cuidado, tendo em vista que as IA's tem que tomar várias decisões, e dependendo da aplicação dela, essas decisões podem incluir um aspecto moral. Inteligências Artificiais que tem que lidar com situações de vida ou morte, como por exemplo a de um carro autônomo, que pode ter que decidir entre salvar a vida do motorista, ou a vida de pedestres na calçada, devem passar por um processo de validação dessas decisões junto à sociedade, para que as decisões tomadas estejam de acordo com as noções de moral da sociedade, podendo assim, tomar a decisão que seja mais bem aceita socialmente.
ResponderExcluirIA é um tema muito polêmico no campo da computação por ter um grande impacto social. Com uma IA adequada, um empregador pode substituir milhares de empregados em sua fábrica e obter um lucro enorme apenas colocando uma máquina para trabalhar no lugar deles, criando uma grande massa desempregada. Podemos tomar como um exemplo próximo os funcionários dos shoppings que entregavam cartões de estacionamento e foram substituídos por cancelas eletrônicas. Mas isso é apenas um dos impactos da IA, ela também pode melhorar bastante a qualidade de vida das pessoas com os carros autônomos, diagnósticos precisos de doenças, entre outros. IA é muito importante para a computação e para a sociedade, mas temos que lembrar que ela é feita por humanos e muitas vezes a ética humana é duvidosa
ResponderExcluirEsse é um tema bastante delicado, por causar medo, já que por um lado ela pode trazer um upgrade para diversos setores os deixando mas rápidos e eficazes, porém o outro lado da moeda é o fato do poder que ela atingir e isso nos causa medo.
ResponderExcluirO crescimento das tecnologias de IA ao longo da decada foi gigantesco, desde algoritmos de recomendação, até a criação do bot Eugene Goostman que conseguiu passa no teste de turing algo que achavamos que iria demorar a acontecer (vide http://www.bbc.com/news/technology-27762088). Mais especificamente em algoritmos de sugestão, penso que no decorrer do tempo eles estão ficando muito melhores porém isso traz um problema a tona, o conteudo fica tão especifico para o usuario que tira a oportunidade do mesmo de se aventurar em outros tipos de conteudos fora de sua bolha de conforto, digo em experiencia propria quando acesso a amazon e me deparo com uma enorme quantidade de conteudo mas do mesmo tipo e gostaria de tentar outras areas do conhecimento.
ResponderExcluir