Entrevista com Eduardo Bertassi sobre o uso da Inteligência Artificial na Sociedade Contemporânea

Mestrando em Engenharia da Computação pela Escola Politécnica da Universidade de São Paulo responde questoes sobre inteligência Artificial.

O pesquisador Eduardo Bertassi em evento do CEST (17/04/17). Fonte: CEST
Quais são os maiores benefícios do uso da IA na sociedade contemporânea?

Se buscarmos no dicionário a definição da palavra “inteligência” veremos que uma das definições é a “capacidade de compreensão e resolução de problemas ou conflitos e de adaptação a novas situações”. A capacidade de raciocínio e adaptação é o que torna um indivíduo mais apto para se destacar (ou até mesmo sobreviver) em ambientes onde existem qualquer tipo de competição.

Para as empresas, a utilização de inteligência artificial na criação de novos produtos e serviços permitirá que os problemas ou as necessidades de seus clientes sejam resolvidos de formas mais personalizadas, de acordo com as situações de cada momento. Essa capacidade “inteligente” de adaptação é o que tornará determinados produtos e serviços mais competitivos em relação aos de seus concorrentes, fazendo com que eles fiquem mais tempo no mercado, gerando mais lucro para quem os criou. Portanto, para as empresas, sem dúvida nenhuma, o maior benefício é a obtenção de mais lucro devido à maior capacidade de competição conferida pela utilização da inteligência artificial.

Para a sociedade, os benefícios virão na forma de maiores comodidades, simplificações e reduções de custos, mas eu acredito que os benefícios mais significativos serão aqueles que poderão ser obtidos quando a inteligência artificial superar as capacidades cognitivas dos humanos ao realizar tarefas complexas, como já faz o computador Watson, da IBM, ao processar uma quantidade gigantesca de dados para obter diagnósticos de diferentes tipos de câncer e, em seguida, recomendar tratamentos mais adequados para eles.

Porém, Yuval Harari, o autor do livro “Sapiens: Uma breve história da humanidade”, tem alertado que por trás das maravilhas dos avanços tecnológicos esconde-se a ameaça da possibilidade de criarmos sociedades altamente desiguais.

Se os computadores começarem a superar os seres humanos não apenas em termos cognitivos, mas também em termos físicos, por qual motivo as empresas contratarão as pessoas? Se os computadores fornecerem melhores diagnósticos que os médicos, e os robôs tiverem a capacidade de realizar cirurgias extremamente delicadas, para que precisaremos de tantos médicos?

A medicina é uma das profissões que mais exige capacidades cognitivas. Então, se a inteligência artificial pode representar uma ameaça para os empregos dos médicos, o que diremos dos empregos mais simples? Serão extintos, sem dúvida alguma.

Que regras devem ser adotadas ou estabelecidas para que a IA não venha a ameaçar milhares de empregos?

A criação de quaisquer novas tecnologias sempre ameaçará empregos porque as empresas sempre precisarão ser mais competitivas, caso contrário, deixarão de existir. Que regras deveriam ter sido adotadas para que a máquina à vapor e a mecanização da produção não viessem a ameaçar milhares de empregos no século 18? Veja que, após duzentos anos, apesar de as tecnologias terem mudado, essa pergunta continua praticamente a mesma.

A utilização da inteligência artificial certamente extinguirá diversos tipos de empregos, além daqueles que estão sendo extintos atualmente. Segundo a consultoria Boston Consulting Group, até 2025 um quarto dos empregos que existem atualmente serão substituídos por software ou robôs e, segundo um estudo da Universidade de Oxford, 35% dos empregos existentes correm o risco de serem automatizados.

Os exemplos da substituição de humanos por máquinas “inteligentes” são bem conhecidos: a empresa automotiva Tesla, que possui uma fábrica altamente automatizada, produz não apenas carros, mas também caminhões, com capacidades autônomas de navegação; a empresa Uber está substituindo seus motoristas por carros autônomos; a Amazon está investindo em serviços de entregas feitos por drones; a empresa Boston Dynamics constrói robôs que poderão ser utilizados por exércitos; as grandes conquistas recentes feitas na área de exploração espacial foram alcançadas graças aos avanços na criação e utilização de veículos de exploração espacial não tripulados como o Spirit e o Opportunity da NASA.

Não é possível parar o desenvolvimento tecnológico porque ele é necessário para a sobrevivência das empresas. A ameaça não vem da utilização da máquina à vapor ou da inteligência artificial, mas da finalidade que se deseja atingir com a utilização dessas tecnologias, que é a necessidade de obter mais lucro; caso contrário, as empresas deixarão de existir.

As empresas precisam gerar lucro para continuar existindo e, para existirem, precisam ser mais competitivas e, ao serem mais competitivas também precisam estimular o aumento do consumo de seus produtos. Quanto maior o consumo, maiores serão os lucros; maior será a competição, maior será a necessidade de investir em inovações e maior será a necessidade de estimular o consumo novamente. É um círculo vicioso que pode resultar no colapso na sociedade como a conhecemos.

O problema da ameaça aos empregos está relacionado com o sistema econômico hegemônico no mundo, que é o capitalismo. Paradoxalmente, apesar de o sistema capitalista, com a competição e o livre mercado, estimular a criação de produtos e serviços melhores, estimular o crescimento econômico e o aumento da produtividade e prosperidade, também promove maior desigualdade social, o alto consumo de recursos finitos, desemprego e instabilidade econômica.

A discussão sobre o que ameaça os empregos no futuro é muito mais complexa e não deve ficar limitada apenas ao uso da inteligência artificial.

Então como é possível que a IA seja usada de forma responsável e controlada?

Quando os irmãos Wright e Santos Dumont inventaram o avião eles não objetivavam a produção de caças de guerra. Quando Enrico Fermi descobriu que bombardeando núcleos de átomos com nêutrons gerava-se uma reação em cadeia que liberava uma grande quantidade de energia, ele não objetivava a criação da bomba atômica.

Na minha opinião, a utilização de qualquer tecnologia ou de qualquer conhecimento para um determinado fim precisa estar relacionado com a ética, que é o conjunto de valores e princípios que guia a conduta das pessoas na sociedade.

Em novembro de 2017, o Global Network of Internet and Society Research Centers, do qual o CEST faz parte, organizou um evento no Rio de Janeiro para discutir como utilizar a IA de forma responsável para promover a inclusão social. Diversos pesquisadores de grandes universidades como Harvard, MIT e USP, assim como representantes de empresas como Microsoft, IBM e Google compareceram ao evento. Portanto, existem diversos pesquisadores e profissionais no mundo que se preocupam com o uso da IA para promover justiça social, aumentar o acesso a sistemas de saúde, melhorar a educação, entre outros. Esses mesmos pesquisadores e profissionais também se preocupam com os riscos da adoção da IA como, por exemplo, o futuro do trabalho, a emergência de novas estruturas de poder, o aumento das desigualdades sociais envolvendo comunidades rurais, mulheres, jovens, grupos éticos ou raciais, entre outros.

Acredito que o caminho para a utilização responsável da IA é aquele que será criado não apenas por engenheiros, cientistas da computação e matemáticos. A utilização responsável da IA surgirá do trabalho conjunto de equipes interdisciplinares que considerarão aspectos éticos e sociológicos além dos aspectos técnicos, econômicos e financeiros.

Quais são os maiores desafios para os estudiosos nesse campo?

Eu não faço parte do grupo de estudiosos que se dedicam exclusivamente à área de inteligência artificial, mas, conversando com profissionais da área, reparei que existem dois desafios importantes. O primeiro diz respeito à remoção de vieses dos algoritmos que são utilizados em sistemas de inteligência artificial e o segundo diz respeito à capacidade autônoma de comunicação e tomada de decisões desses tipos de sistemas quando eles passarem a interagir entre si com maior frequencia.

Um algoritmo é uma sequência de instruções que são utilizadas por uma máquina para executar determinadas tarefas visando um determinado fim. Algoritmos de inteligência artificial podem ser criados por engenheiros, cientistas da computação, matemáticos, físicos, sociólogos, ou quaisquer outros profissionais que saibam como criar um algoritmo. Acontece que, durante a criação do algoritmo, parte da personalidade de seus criadores pode ser incorporada naquele conjunto de instruções mesmo que de forma não intencional. Portanto, uma preocupação que existe é a de entender como é possível criar algoritmos que não possuam os vieses de seus programadores. Isso é particularmente importante quando um algoritmo de inteligência artificial está avaliando, por exemplo, como alocar grupos étnicos numa determinada região, como conceder crédito a uma pessoa, ou como selecionar adequadamente um candidato para uma determinada vaga de emprego. O que não se deseja é que os algoritmos tomem decisões arbitrárias, mas isso é muito difícil de se fazer porque os pesquisadores não conseguem dizer exatamente como uma máquina autônoma toma uma determinada decisão. Ou seja, o desafio é impedir que os sistemas de inteligência artificial sejam caixas pretas as quais não se sabe exatamente como elas funcionam ou por que tomam determinadas decisões..

Em 2016, ficou famoso na internet o caso de um bot que foi desenvolvido para conversar em redes sociais, mas que acabou perdendo o controle. Após um tempo interagindo de forma autônoma com outros usuários de redes sociais o sistema começou a proferir discursos racistas, homofóbicos e conservadores. É difícil prever como certos sistemas “inteligentes” podem se comportar, por isso ainda é necessário a supervisão e acompanhamento dos desenvolvimento e evolução desse tipo de sistemas.

Com relação ao segundo desafio, imagine uma situação na qual diferentes sistemas de inteligência artificial, completamente autônomos entre si, tenham que tomar uma decisão conjunta. Se não se sabe exatamente como esses sistemas tomam suas decisões e, por exemplo, eles pertencem às forças armada, poderíamos correr o risco de deflagração de uma guerra por conta de uma decisão errada tomada por esses sistemas. Essa é uma preocupação real e não ficção científica. Os carros autônomos devem ser programados para matar ou para salvar vidas? É interessante reparar que os carros autônomos precisam ser programados para lidar com decisões éticas que, às vezes, nem os seres humanos sabem como proceder. No caso de um acidente, o carro deve proteger seus passageiros a todo custo ou minimizar a quantidade de vítimas, mesmo que tenha que sacrificar seus ocupantes? Agora, imagine dezenas ou centenas de sistemas de inteligência artificial tomando decisões de forma completamente autônoma, controlando o mercado financeiro, o tráfego aéreo, mísseis, satélites, etc. e tendo que lidar com centenas de questões éticas ao mesmo tempo, isso sem contar que as questões éticas variam de país para país. Imagine a complexidade necessária para controlar este sistema de sistemas autônomos.

Que ameaças você acredita que a IA pode trazer para a vida humana?

A inteligência artificial é apenas uma ferramenta. A escolha de fazer com que uma ferramenta traga benefícios ou riscos está nas mãos de quem as pretende utilizar. O que espero é que a nova geração de profissionais esteja compromissada em fazer boas escolhas éticas para que uma excelente ferramenta seja utilizada apenas para o bem e não o contrário.