A ÉTICA E OS RISCOS DE DESENVOLVER A IA

A ÉTICA E OS RISCOS DE DESENVOLVER A IA
Autores: Denys Jorge Ribeiro de Lima
e Jeysson Jassen da Costa Paiva
desenvolvedores de sistema
na Fundação Nilton Lins
estudantes, CIESA, graduando em Ciência de Computação.


Resumo

Atualmente concentramos nossa atenção no fato de podermos ou não desenvolver a IA, mas não nos preocupamos se devemos ou não fazer isso. Se os efeitos da tecnologia de IA tivessem maior probabilidade de serem negativos do que positivos, seria uma questão de responsabilidade moral dos trabalhadores no campo redirecionar sua pesquisa. Todos os cientistas e engenheiros enfrentam considerações éticas sobre como eles devem agir no trabalho, que projetos devem ou não ser realizados e de que maneira eles devem ser tratados. Questões essas levantadas pelo fato de haver uma preocupação com a ética para o uso da IA juntamente com a humanidade e nesse artigo seram abordado varias pesquisa relacionadas ao tema, lembrando que o objetivo desse artigo é deixar o leitor mais pensativo com relação ao tema escolhido.






Palavras-chave: Inteligência Artificial, ética.




Introdução

Até agora, concentramos nossa atenção no fato de podermos ou não desenvolver a IA, mas também devemos considerar se devemos ou não fazer isso. Se os efeitos da tecnologia de IA tivessem maior probabilidade de serem negativos do que positivos, seria uma questão de responsabilidade moral dos trabalhadores no campo redirecionar sua pesquisa. Muitas tecnologias novas tiveram efeitos colaterais negativos não-pretendidos: o motor de combustão interna trouxe a poluição do ar e a pavimentação do paraíso; a fissão nuclear trouxe Chernobyl e vários outro efeitos catastróficos. Todos os cientistas e engenheiros enfrentam considerações éticas sobre como eles devem agir no trabalho, que projetos devem ou não ser realizados e de que maneira eles devem ser tratados. No entanto, a IA parece trazer alguns problemas novos que não estão relacionados, por exemplo, com a necessidade de construir pontes que não caiam:
 As pessoas poderiam perder seus empregos para a automação.
 As pessoas poderiam ter muito (ou pouco) tempo de lazer.
 As pessoas poderiam perder seu sentido de identidade.
 As pessoas poderiam perder uma parte de seu direito à privacidade.
 O uso de sistemas de IA poderia resultar na perda de responsabilidade.
 O sucesso da IA poderia significar o fim da raça humana.
Essas questões serão examinadas separadamente mostrando o objetivo desse artigo que é mostrar o desenvolvimento da IA e a Ética, deixando os leitores mais pensativos em relação a evolução da IA.



Desenvolvimento

O sucesso da IA poderia significar o fim da raça humana. Quase toda tecnologia tem potencial para causar danos em mãos erradas: porém, no caso da IA e da robótica, temos um novo problema, pois as mãos erradas podem pertencer à própria tecnologia. Incontáveis histórias de ficção científica advertiram sobre robôs ou ciborgues (robôs humanos) que causam devastação. Exemplos antigos incluem o livro Mary Chelley, Frankenstein, or the Modern Prometheus (1818), e a robôs peça de Karel Capek, R.U.R (1921), em que os robôs conquistam o mundo. No cinema, temos The Terminator (1984), que combina os clichês de robôs que conquistam o mundo com a viagem no tempo, e Matriz (1999), que o combina robôs que conquistaram o mundo com cérebro em uma cuba.
Com a criação de vários softwares em IA, as pessoas poderiam perder seus empregos para automação. A economia industrial moderna se tornou dependente dos computadores em geral e de programas seletos de IA em particular. Por exemplo, grande parte da economia depende da disponibilidade de crédito ao consumidor.
Aplicações de cartão de crédito, aprovações de débitos e detecção de fraudes são feitas agora por programas de IA. Poderia argumentar que milhares de trabalhadores foram demitidos por esses programas de IA, mas, de fato, se não houvesse os programas de IA, esses trabalhos não existiriam, porque o trabalho humano adicionaria um custo inaceitável às transações. Até agora, a automação por meio da tecnologia de IA criou mais empregos do que eliminou, e criou empregos mais interessantes e com renumeração mais elevada. Agora que o programa de IA canônico é um "agente inteligente" projetado para auxiliar um ser humano, a perda de empregos é uma preocupação menor do que era quando a IA se concentrava em "sistemas especialistas", projetados para substituir os seres humanos.
As pessoas poderiam ter muito (ou pouco) tempo de lazer. Alvin Tofller escreveu em "O choque do futuro" (1970): "A semana de trabalho foi reduzida em 50% desde a virada do século. Não é difícil prever que ela será novamente reduzida à metade por volta de 2000." Já Arthur C. Clarke (1968b) que as pessoas em 2001 poderiam estar "diante de um futuro de absoluto enfado, em que o principal problema da vida será decidir que canal selecionar dentre várias centenas de canais de TV". A única dessas previsões que chegou perto de se realizar é o número de canais de TV (Springsteen, 1992). Em vez disso, as pessoas que trabalham em indústrias que fazem uso intensivo do conhecimento descobriram que elas próprias faziam parte de um sistema computadorizado integrado que opera 24 horas por dia; para de manterem atualizadas elas foram forçadas a trabalhar por turnos mais longos. Em uma economia industrial, as recompensas são aproximadamente proporcionais ao tempo investido; trabalhar 10% a mais tenderia a significar um aumento de 10% na renda. Em uma economia de informações marcada por comunicação em alta largura de banda e fácil replicação da propriedade intelectual (o que Frank e Cook (1996) chamam "sociedade em que o vencedor leva tudo"), existe uma grande recompensa por ser ligeiramente a concorrência; trabalhar 10% a mais poderia significar um aumento de 100% na de IArenda. Assim, existe uma pressão crescente sobre todo mundo para trabalhar mais. A IA aumenta o ritmo da inovação tecnológica e, desse modo contribui para essa tendência global, mas a IA também mantém a promessa de nos oferecer mais tempo livre e de deixar nossos agentes automatizados cuidarem de tudo por algum tempo.
As pessoas poderiam perder uma parte do direito à privacidade. Weizenbaum tamb em assinalou que a tecnologia de reconhecimento da fala poderia levar à disseminação da espionagem, e portanto a uma perda das liberdades civis. Ele não previu um mundo com ameaças terroristas que mudariam a proporção de vigilância que as pessoas estariam dispostas a aceitar, mas reconheceu corretamente que a IA tem potencial para produzir vigilância em massa. Sua previsão talvez se torne verdadeira: o sistema secreto do governo dos Estados Unidos chamado Echelon "consiste em uma rede de postos de escuta, campos de antenas e estações de radar; o sistema é apoiado por computadores que utilizam a tradução de idiomas, o reconhecimento da fala e a busca de palavras para analisar cuidadosamente o tráfego eletrônico, de correio eletrônico, de fax e de telefax. Alguns admitem que a computadorização leva a uma perda de privacidade.






Considerações finais

Depois de ler vários artigos e tópicos relacionado ao tema escolhido podemos dizer que há "exploração de inteligência" também foi chamada singularidade tecnológica pelo professor de matemática e autor de ficção científica Vernor Vinge, que escreve (1993): "dentro de 30 anos, teremos os meios tecnológicos para criar uma inteligência super-humana. Logo depois, a era humana estará terminada." Good e Vinge (e muitos outros) observam corretamente que a curva do progresso tecnológico está crescendo exponencialmente no momento (considere a Lei de Moore). Porém, é fácil extrapolar e mostrar que a curva continuara na direção de uma singularidade com crescimento próximo ao infinito. Até agora, todas as outras tecnologias seguiram uma curva em forma de S, onde o crescimento exponencial eventualmente diminui.
Vinge está preocupado e assustado com a próxima singularidade, mas outros cientistas da computação e futuristas a apreciam. Eu Denys Jorge e Jeysson Jassen como cientistas da computação concordamos com a evolução infinita da tecnologia, mas discordamos quando o matemático Vernor Vinge diz que a era humana estará terminada.
Também acredito que futuramente com a tecnologia é o avanço da inteligência humana, utilizando a IA será possível mapear o cérebro humano, mesmo com seus erros de aprendizado será possível corrigir esse erro dentro do próprio algoritmo utilizado para fazer o mapeamento, criando uma base de fatos chamada de root ou base principal que ira tratar somente das situações de erro humano.






Discussão/Conclusão

Podemos concluir que ao observamos que a humanidade sobreviveu a outros retrocessos em nosso senso de identidade. A IA se for amplamente bem-sucedida poderá ser pelo menos tão ameaçadora para as suposições morais da sociedade do século XXI como a teoria da evolução de Darwin foi para as suposições morais do século XIX. As pessoas poderiam perder uma parte do direito à privacidade. Weizenbaum também assinalou que a tecnologia de reconhecimento da fala poderia levar à disseminação da espionagem, e, portanto a uma perda das liberdades civis. Por tanto a solução desse problema seria a previsão de um mundo com ameaças terroristas que mudariam a proporção de vigilância e que as pessoas estariam dispostas a aceitar, mas reconheceu corretamente que a IA tem potencial para produzir vigilância em massa além de muito mais benefícios para a humanidade com relação a tecnologia.













Resumo

Currently we focus our attention on the fact whether we can develop the IA, but we do not care whether or not we do this. If the effects of AI technology would be more likely to be negative than positive, it would be a matter of moral responsibility of field workers to redirect your search. All scientists and engineers faced with ethical considerations about how they should act at work, what projects should or should not be made and how they should be treated. These questions raised by the fact that there is a concern with ethics for the use of AI with humanity and MT will be addressed in this article several studies in the field, remembering that the aim was to leave the reader more thoughtful about the chosen topic.





Palavra-chave: artificial intelligence, ethics.











Bibliografia

ABNT. NBR 6022: informação e documentação artigo em publicações periódica cientifica impressa: apresentação Rio de Janeiro, 2003. 5p.
TRABALHOS ACADÊMICOS: normas e fundamentos/Dorli João. 2. Ed. Revista e apliada. ? Manaus: Faculdade Salesiana Dom Bosco, Universidade Federal do Amazonas, 2009.
ASSOCIAÇÃO BRASILEIRA DE NORMAS TÉCNICAS. Normas de documentação. Rio de Janeiro: ABNT.
RUSSELL STUART: inteligência artificial 2. Ed. Editora Campus ? ELSEVIER, ADOTADO em mais de 750 UNIVERSIDADES em 85 PAÍSES.