A edição digital do jornal O Pantaneiro é restrita para assinantes.Assine
19 de outubro de 2019
Anuncie Aqui
9032-->
Tecnologia

Especialistas alertam sobre riscos de algoritmos para prever hábitos

22 SET 2019 - 08h39min
Agência Brasil

Nos Estados Unidos, um cidadão entrou em um supermercado na cidade de Minneapolis para reclamar que sua filha adolescente estava recebendo propagandas para grávidas. Dias depois, o pai da garota se desculpou com o estabelecimento ao confirmar com a filha que ela realmente esperava um bebê.

A história, revelada em reportagem do New York Times em 2012, foi retomada pelo professor da Ohio State Univerity Dennis Hirsch para ilustrar o poder de tecnologias de coleta e análise de dados (chamada em inglês de Big Data Analytics) utilizadas para prever comportamentos e aplicar essas inferências em diversos campos, do marketing à concessão de créditos ou acesso a serviços de saúde.

O docente abordou o tema no 10º Seminário de Proteção à Privacidade e aos Dados Pessoais, evento organizado pelo Comitê Gestor da Internet no Brasil nesta semana em São Paulo. Segundo o docente, o caso exemplifica um dos riscos dessas técnicas ao considerar sentimentos, traços de personalidade e comportamentos como forma de persuadir pessoas a adquirem algum produto ou serviço.

Outro risco potencial, acrescentou, é a manipulação de indivíduos em processos políticos. Ele citou o escândalo da empresa Cambridge Analytica, que utilizou dados levantados no Facebook por um aplicativo para explorar emoções das pessoas em campanhas eleitorais, como na disputa presidencial dos Estados Unidos de 2016 e no referendo que avaliou a permanência ou não do Reino Unido na União Europeia.

Esses tipos de ferramentas examina grande quantidade de bases de dados, estabelece correlações entre elas e identifica padrões. Estes são tomados como base para prever comportamentos das pessoas, como se um consumidor tem maior ou menor propensão a ficar adimplente ou inadimplente em um serviço, como cartão de crédito.

Um problema potencial nesse tipo de operação é a discriminação. Esta pode ocorrer tanto pela finalidade do uso quanto pela forma como a tecnologia é desenhada. Ao traçar padrões e classificar pessoas e atitudes, um sistema pode definir parâmetros considerados adequados e desvalorizar quem não se enquadra neles, com risco de colocar nessa posição segmentos sociais, como no exemplo dos problemas do reconhecimento facial para negros.

Este tipo de tratamento pode ainda ser reforçado pelos registros utilizados para treinar o sistema. Hirsch citou como exemplo a empresa de comércio eletrônico Amazon. Ao desenvolver um algoritmo para avaliar currículos, a base empregada foi a dos próprios funcionários da companhia. Como na área de tecnologia há mais profissionais homens, o programa passou a utilizar como currículo desejável critérios que desvalorizavam mulheres.

Explicação e cuidados

O pesquisador e professor da Data Privacy BR Renato Leite Monteiro colocou como problema chave a opacidade dessas tecnologias e a falta de conhecimento sobre como elas funcionam. Diante disso, defendeu o que chamou de um direito à explicação. Este consistiria na garantia ao cidadão de ter informações inteligíveis sobre como o dado foi processado, de modo que possa compreender como uma decisão foi tomada sobre ele e de que maneira pode reagir a ela.

Ele lembrou que hoje o processamento de informações por algoritmos e sistemas inteligentes está em diversas áreas e os problemas nele podem afetar direitos em setores como saúde (notas para planos de saúde), moradia (financiamento habitacional), mercado financeiro (concessão de crédito), educação (acesso a escolas e cursos), emprego (análise para contratação), entre outros.

A diretora de políticas para transformação digital do Ministério da Ciência, Tecnologia, Inovações e Comunicações (MCTIC), Miriam Wimmer, abordou esses riscos no caso de sistemas de inteligência artificial. Ela reforçou que também no caso destas tecnologias existem diversas pesquisas mostrando casos de discriminação.

Diante destes problemas, a gestora pública defendeu alguns princípios orientadores. O desenvolvimento dessas soluções deveria ser orientado por valores. Este processo deveria abarcar avaliações prévias do impacto e dos riscos. A coleta de dados deveria ser restrita ao mínimo possível nas fases de treinamento. E ao longo do ciclo desses produtos deveriam ser implementados mecanismos de monitoramento com participação dos atores impactados.

 

Veja também

Mais Lidas

1
Aquidauana

Vídeo: Mulheres furtam R$ 600 em perfumaria dentro de loja no centro de Aquidauana

2
Policial

Trabalhador desaparece em fazenda e família teme que tenha sido atacado por onça

3
Aquidauana

Mototaxista entra em contato com a família e diz que moto quebrou na estrada

4
Aquidauana

Mototaxista de 47 anos desaparece ao sair para fazer uma corrida na rodoviária de Aquidauana

Vídeos

Bolivianos que levavam 15,9 quilos de cocaína em veículo são presos em Miranda

Eleição de Miranda

Empresário de 31 anos pesca Surubim de mais de 40 kg no Rio Miranda

Ver mais Videos

Previsão do Tempo

min24 max32

Aquidauana

Sol com muitas nuvens durante o dia. Períodos de nublado, com chuva a qualquer hora.
min24 max32

Anastácio

Sol com muitas nuvens durante o dia. Períodos de nublado, com chuva a qualquer hora.

Níveis dos Rios Hoje

Aquidauana
2,33m
Miranda
1,70m
Paraguai
1,84m

Colunas e Blogs

Valdemir Gomes

Quando...

Giovani José da Silva

HISTÓRIAS DE ADMIRAR: SER PROFESSOR (2)

Raquel Anderson

Divisionismo!

Ver Mais Colunas

Guia Cidade

Escolas Estaduais

Escola Estadual Candido Mariano

Rua Candido Mariano, s/n - 79200-000 Aquidauana/MS (67) 3241 3472
Pesqueiros

Rancho do Pedrialli - Piraputanga

, - 79200-000 Aquidauana/MS (67) 3257-1007 www.ranchopedrialli.com.br
Pousadas

Fazenda 23 de Março

Acesso por Miranda ou Taunay, ------ ------- - 79002-364 Aquidauana/MS (67)321-4737 / 9997- www.fazenda23demarco.com.br
Ver Mais
508110735