É hora de agir sobre a tecnologia educacional e os direitos digitais da criança

Aug 31, 2023

Por Dra Erica Southgate

A Austrália é signatária da Convenção das Nações Unidas sobre os Direitos da Criança (CRC) desde 1990.

Como o tratado de direitos humanos mais amplamente ratificado na história, a CDC fornece 54 artigos ou princípios que estabelecem as bases para permitir que todas as crianças (menores de 18 anos de idade) tenham uma infância saudável e segura, livre de discriminação e madura com oportunidades de plena liberdade. desenvolvimento.

Os direitos da criança incluem o direito à educação; ter e compartilhar informações que não sejam prejudiciais para eles; ter acesso a informações confiáveis; e privacidade.

A CDC estipula que os governos devem disponibilizar esses direitos às crianças.

Em 2021, as Nações Unidas entregaram um importante documento que destacou os direitos da criança na era digital. Chamava-se Comentário Geral nº 25 sobre os direitos da criança em relação ao ambiente digital.

Comentário geral n. 25 fornece uma ampla visão geral das oportunidades e desafios no cumprimento dos direitos de todas as crianças no mundo digital, afirmando:

O ambiente digital … [inclui] redes digitais, conteúdo, serviços e aplicativos, dispositivos e ambientes conectados, realidade virtual e aumentada, inteligência artificial, robótica, sistemas automatizados, algoritmos e análise de dados, biometria e tecnologia de implantes … [está] se tornando cada vez mais importante na maioria dos aspectos da vida das crianças, inclusive em tempos de crise, como funções sociais, incluindo educação, … progressivamente passam a depender de tecnologias digitais. Oferece novas oportunidades para a realização dos direitos da criança, mas também apresenta riscos de violação ou abuso. Durante as consultas, as crianças expressaram a opinião de que o ambiente digital deve apoiar, promover e proteger seu envolvimento seguro e equitativo.

Novos tipos de tecnologias usam sensores, geolocalizadores e inteligência artificial para coletar rapidamente informações sobre uma pessoa (sua demografia, localização e preferências e afiliações) e de uma pessoa (atributos corporais e comportamentos como voz, frequência cardíaca, dedos, membros e olhos movimentos e até dilatação da pupila).

Essas informações são usadas por algoritmos de aprendizado de máquina para criar um perfil sobre nós, prever o que podemos fazer e até mesmo nos levar a certas direções sem nosso conhecimento.

Não se trata apenas da nossa vida online. Também pode afetar as oportunidades disponíveis para nós de forma mais geral, pois esses perfis analíticos são usados ​​por todos os tipos de organizações para automatizar decisões sobre quais oportunidades estão ou não disponíveis para nós.

Isso também afeta as crianças em sua vida de lazer e, cada vez mais, na educação.

Neste novo mundo de automação e tomada de decisão algorítmica, o ChatGPT é a primeira manifestação visível do que está por vir.

No entanto, administradores educacionais e fabricantes de tecnologia educacional há muito tempo coletam e usam informações (ou dados, como agora os chamamos) para orientar decisões técnicas e educacionais que estão moldando como o aprendizado é fornecido na forma de sistemas de tutoria automatizados e chatbots pedagógicos; a estrutura de entrega por meio de sistemas de gerenciamento de aprendizagem; e avaliação adaptativa.

A tendência é automatizar quais oportunidades de aprendizado os alunos têm acesso e como os próprios alunos são representados por meio de painéis analíticos.

O desempenho dos professores também será, sem dúvida, representado e avaliado por meio desses painéis — já que os educadores do ensino superior estão agora sujeitos a isso.

Isso não é necessariamente uma tendência negativa se houver regulamentação, política e design de produto que proteja nossos direitos humanos e os direitos da criança.

Infelizmente, este não é o caso na Austrália, embora a Lei de Privacidade da Commonwealth esteja atualmente sob revisão e existam comissões, ombudsmen e agências de direitos humanos que fornecem diretrizes úteis e alguma supervisão.

Do ponto de vista dos alunos e suas famílias e, sem dúvida, de muitos professores, muitas vezes não está claro quais informações estão sendo coletadas pelos administradores educacionais, com quem estão sendo compartilhadas e com que finalidade e consequência.