IoT e infância: riscos invisíveis nas brincadeiras modernas
Duas crianças brincam, sozinhas, na sala de casa. Sozinhas, não: perto delas está um dispositivo capaz de ouvir conversas e responder a comandos de qualquer pessoa na casa, incluindo crianças.
Uma delas pergunta ao dispositivo qual seria o maior doce do mundo, e este, prestativo, responde, acrescentando que o doce está em promoção.
“Você gostaria?”, pergunta o dispositivo, ao que a criança responde na hora: “quero”. E pronto: dias depois, para a surpresa dos pais, uma caixa de doces chega até a casa, comprada por uma criança de 6 anos por meio de uma assistente virtual conectada à internet.
Este episódio, narrado por um usuário da rede social LinkedIn no início do mês, destaca a vulnerabilidade que as crianças enfrentam em um mundo cada vez mais permeado por tecnologias avançadas.
A convergência entre inteligência artificial (IA), internet das coisas (IoT) e a coleta de dados pessoais tornou-se uma realidade onipresente na sociedade contemporânea.
Em particular, a rápida adesão a dispositivos em ambientes domésticos traz consigo implicações significativas muito além da possibilidade de compras não autorizadas, como o rastreamento e tratamento indevido de dados pessoais e a exposição a conteúdos inadequados.
A inocência das brincadeiras das crianças face aos perigos potenciais da interação com novas tecnologias ressalta a importância de entender e mitigar os riscos associados ao uso indiscriminado dessas tecnologias, especialmente no que diz respeito à segurança e privacidade das crianças.
Neste artigo, pretendemos explorar quatro questões: primeiro, explicar que tecnologias são essas e como elas geram uma vigilância nunca antes vista de nossas crianças. Segundo, abordar especificamente o dispositivo do episódio acima e algumas de suas polêmicas recentes. Terceiro, apresentar alguns dos riscos a que crianças e pais estão sujeitas ao usar tais dispositivo. Por fim, falar o que pais e governos podem e têm feito para limitar tais riscos.
Datificação do mundo por meio do IoT - Há alguns anos, fazia sentido usar expressões como “entrar na internet”. O mundo digital era um espaço separado do mundo real, acessível somente por meio de alguns portais, e geralmente poucas horas por dia.
Este conceito foi sendo superado conforme inovações tecnológicas permitiram que as pessoas estivessem constantemente conectadas à internet, primeiro por PCs e laptops, depois por telefones e TVs, até chegarmos ao presente em que mesmo objetos domésticos como geladeiras podem estar conectados 24 horas por dia à internet. Essa forma de conectividade entre pessoas e objetos “inteligentes” por meio da internet é chamada de “internet das coisas” ou “IoT”.
Embora possa trazer muitos benefícios, a o uso de tais tecnologias na vida diária permite o monitoramento e vigilância das pessoas em níveis impossíveis antes. Praticamente tudo o que os usuários finais fazem em tais ambientes é passível de ser coletado, analisado e compartilhado. Estamos literalmente nos cercando de sensores que são capazes de registrar, com imagens e sons e 24h por dia, a tudo o que fazemos e falamos em nossas vidas.
A expansão destes dispositivos é um novo capítulo da recente datificação de nossas vidas. Expostas à tecnologia desde o começo de suas vidas, as crianças são especialmente suscetíveis a este processo. Com o encorajamento dos pais ou à revelia destes, ao usarem celulares, assistentes virtuais e mesmo brinquedos conectados à internet, crianças acabam tendo seus dados pessoais, incluindo informações de natureza sensível, coletadas, reunidas, analisadas e retidas por períodos indefinidos por prestadores de serviços, sendo usadas para os mais diversos fins, tudo isso sem jamais sair da “segurança” do lar.
É o que ocorreu no episódio em questão. Assistentes virtuais incluem-se entre dispositivos de IoT. São ferramentas que, como outros aplicativos de IA recentes, são capazes de analisar instruções (prompts) feitos por meio de técnicas de aprendizado de máquina (ML) e processamento de linguagem natural (NLP) para responder a instruções de forma a imitar linguagem humana. Tais assistentes virtuais, e notavelmente a Alexa, da empresa Amazon, têm sido alvo de questionamentos recentes.
Multa milionária e reclamações de pouca transparência - No ano passado, a Amazon foi alvo de uma investigação nos EUA por supostamente violar a legislação de privacidade infantil americana e enganar pais e usuários da Alexa sobre suas práticas de exclusão de dados.
De acordo com a denúncia, a Amazon não cumpriria promessas de exclusão de gravações de voz e informações de geolocalização coletadas por seus dispositivos e teria usado tais informações, incluindo gravações de voz de crianças, para treinar seus algoritmos durante anos.
O caso foi resolvido de maneira extrajudicial, com a empresa concordando em pagar uma multa de US$ 25 milhões e em excluir informações de geolocalização e voz de crianças mediante solicitação dos pais. A Amazon pagou ainda uma multa de US$ 5,8 milhões referente ao uso de seu dispositivo Ring, após ter sido descoberto que empregados e contratados da empresa tinham acesso irrestrito aos dados dos clientes, incluindo gravações de seus espaços íntimos.
Apesar da multa, a empresa continua a desenvolver serviços para uso por crianças. Uma nova função lançada recentemente permite que o dispositivo crie estórias com base em prompts das crianças. No futuro próximo, a ideia é que a câmera embutida no aparelho seja capaz de identificar se a criança está brincando com um brinquedo e incorporá-lo na estória como um personagem.
É importante deixar claro que não se trata de iniciativas isoladas da Amazon, mas de um novo episódio nas disputas entre as big techs para desenvolver novas tecnologias, suplantar seus concorrentes e dominar um mercado cada vez mais atrativo. Outras empresas igualmente lançam serviços que também coletam ou que são focados especificamente em crianças.
Riscos - Algo que ainda é pouco compreendido por pais e responsáveis é quais são os riscos de tal datificação das crianças. Primeiro, como visto no caso dos doces, tais aplicativos e plataformas são baseados na monetização de dados pessoais, que ocorre, primeiro, pelo incentivo a seu uso constante, o que permite a coleta ampla de dados pessoais do usuário, e, segundo, por meio da análise de tais dados e a compreensão dos gostos, medos e anseios do usuário.
Assim, torna-se possível a manipulação de seu comportamento, incluindo via técnicas de design persuasivo, conhecidas como “nudges”. Ainda que adultos também estejam expostos a tais riscos, crianças, são mais vulneráveis a tais técnicas por não terem desenvolvida a capacidade de entender como seus dados são usados e como suas vontades e impulsos são manipulados para a criação de um desejo de consumo.
De acordo com o Instituto Alana, que atua em prol dos direitos das crianças, esta exploração comercial prejudica o desenvolvimento infantil, pode instigar comportamentos como ansiedade, agressão e vícios, desrespeita o direito das crianças à privacidade e enfraquece a capacidade das crianças de reagir aos inevitáveis estímulos ao consumo quando adultos.
Além da preocupação com a exploração comercial das crianças, outras questões incluem o risco deste volume monumental de dados sobre seus filhos, incluindo gravações de voz e imagens, serem usados indevidamente por parte de empresas, seus empregados e contratados, bem como de, devido a um vazamento, fiquem disponíveis a qualquer pessoa online (em 2020, o CEO de uma empresa irlandesa de segurança estimou que, quando uma criança faz 13 anos, as empresas de tecnologia já possuem mais de 70 milhões de informações diferentes sobre aquela criança).
A dificuldade de eliminar informações, uma vez que sejam vazadas, significa que quanto tais informações forem alvo de um incidente de segurança, serão virtualmente irrecuperáveis e poderão ser interceptadas por qualquer pessoa.
Crianças podem ainda compartilhar suas atividades diárias e hábitos, ficando expostas a riscos de ameaças e violência contra sua integridade física e mental. A formação desse “rastro digital” também gera preocupações com a formação de perfis e a discriminação algorítmica de crianças.
Além das preocupações com a privacidade, há outros riscos, incluindo a dependência dessas tecnologias e seus impactos ainda pouco compreendidos no desenvolvimento psicológico e social das crianças. Existe a possibilidade de que as crianças considerem mais fácil se comunicar com esses dispositivos — sempre conectados e prontos para responder a qualquer pergunta ou desejo — do que com outras crianças ou até mesmo com os pais, prejudicando sua capacidade de desenvolverem relações humanas e habilidades interpessoais. Adicionalmente, o sedentarismo decorrente do uso prolongado desses aplicativos apresenta riscos conhecidos à saúde.
O que pais podem fazer - Naturalmente, pais podem optar por não ter este tipo de dispositivos em suas casas, mas não é factível concluir que eles podem simplesmente impedir com sucesso todo contato de seus filhos com a internet (nem isso seria recomendável).
Pais podem, primeiramente, tentar limitar a coleta e exposição de dados pessoais de seus filhos por meio dos próprios aplicativos. É possível alterar suas configurações de forma a impedir que tais aparelhos salvem gravações, bem como não permitir que gravações e demais dados pessoais sejam usados para treinar tais plataformas.
Pais podem ainda desativar anúncios baseados em interesses, bem como bloquear a câmera de tais dispositivos quando estiverem sendo usados. Existem opções para limitar o tempo diário de uso de tais dispositivos, filtrar conteúdo, e desligar a permissão para compra por voz, para não terminar como o pai mencionado no começo do artigo.
Dependendo da idade, pais também podem conversar e ensinar seus filhos sobre como a tecnologia funciona, quem a possui e desvantagens possíveis de seu uso, como já fazem sobre outros perigos no mundo.
No entanto, é importante não atribuir unicamente aos pais a responsabilidade de controlar e garantir o uso seguro do mundo online por seus filhos. Primeiro porque empresas podem nem sempre ser éticas e cumprir as preferências dos pais. Segundo, porque sempre há o risco de crianças terem seus dados coletados sem o conhecimento dos pais, por exemplo, quando uma criança passa o dia brincando na casa de um amigo que possua tais dispositivos. Terceiro, porque muitas das questões técnicas de tais aparelhos são muitas vezes de difícil compreensão pelo público em geral.
Sobre este último ponto, uma crítica à “cultura do consentimento” (a ideia de que o consentimento do titular, ou, no caso de crianças, de seus pais, seria suficiente para o tratamento de dados) é que ela presume que as pessoas tomam decisões racionais com base em informações claras antes de darem seu consentimento, enquanto na prática, as pessoas geralmente não têm tempo nem conhecimento para ler e entender os avisos de privacidade, ou tais avisos não usam linguagem acessível, ou as pessoas se encontram em situações em que não é tão fácil agir racionalmente, como quando uma criança pede um determinado brinquedo ou aplicativo. Neste sentido, até que ponto que o consentimento seria capaz de autorizar todo e qualquer tratamento de dados pessoais torna-se discutível.
Pais podem, por fim, simplesmente não estar preocupados ou não compreender os riscos do compartilhamento de dados de seus filhos online, ou achar que tais riscos são simplesmente inevitáveis hoje.
Por isto, a proteção a crianças e a mitigação de riscos requer uma atuação legislativa proativa. A principal lei brasileira sobre o tema, a LGPD, já prevê que o tratamento de dados pessoais de menores deverá ser limitado pelo seu melhor interesse, a mesma redação adotada pela Convenção sobre os Direitos da Criança da Unicef. Isso significa que uma coleta e uso de dados de menores que privilegie os interesses da empresa em detrimento dos direitos e interesses dos menores que usem seus serviços não estará de acordo com a legislação brasileira.
A LGPD determina ainda que as informações sobre o tratamento de dados deverão ser fornecidas de maneira simples, clara e acessível, adequada ao entendimento das crianças, e, proíbe que o acesso por menores a jogos ou aplicações de internet seja condicionado ao fornecimento excessivo de dados pessoais.
Futuras legislações sobre o tema devem ir além e considerar os riscos trazidos por novas tecnologias às crianças. A ONU declarou em 2021 que é obrigação dos Estados-membros atualizarem suas legislações de forma a garantir que o ambiente digital atenda os direitos das crianças face aos recentes avanços tecnológicos.
Neste sentido, a “Lei da IA”, adotada pelo Parlamento Europeu em junho de 2023, inclui entre sistemas de IA proibidos devido ao risco inaceitável que oferecem o uso de IAs que manipulem pessoas ou explorem vulnerabilidades de grupos específicos, como crianças. A lei também determina que desenvolvedores de tecnologia devem dar especial atenção à probabilidade de o sistema de IA ser usado ou causar impactos em crianças ao implementarem seu sistema de gestão de riscos.
Enquanto a legislação não aborde de forma mais abrangente as complexidades do cenário digital e seu impacto no mundo infanto-juvenil, pais devem estar alertas quanto à coleta indiscriminada de dados de seus filhos. Um alerta que resume bem as preocupações atuais com a privacidade das crianças é o feito pela pesquisadora finlandesa Katriina Heljakka: brinquedos costumavam ser os amigos de brincadeiras com quem dividíamos nossos segredos, mas, devido ao desenvolvimento tecnológico, podem ser eles que estejam revelando nossos segredos.
(*) Marcelo Cárgano é advogado.
Os artigos publicados com assinatura não traduzem a opinião do portal. A publicação tem como propósito estimular o debate e provocar a reflexão sobre os problemas brasileiros.
