Opinião

IA para proteger os jovens nas redes sociais: vigilância ou necessidade urgente?

Atualizado: 
26/03/2025 - 09:18
Nos últimos anos, as redes sociais transformaram-se no principal espaço de socialização dos jovens. Plataformas como Instagram, TikTok, Snapchat e WhatsApp são os novos "pátios da escola", onde adolescentes trocam mensagens, partilham conteúdos e constroem a sua identidade digital. No entanto, a crescente exposição a conteúdos inadequados, o cyberbullying, os aliciamentos online e os riscos para a saúde mental tornaram o ambiente digital um verdadeiro campo minado.

A questão impõe-se: estamos a fazer o suficiente para proteger os menores de idade nas redes sociais? O simples requisito de ter mais de 13 anos para criar uma conta tem-se revelado ineficaz. A verdade é que qualquer criança pode mentir sobre a sua idade e navegar livremente num mundo sem filtros, onde criminosos, influenciadores irresponsáveis e desafios virais perigosos se escondem entre milhões de publicações.

A tecnologia, tantas vezes responsabilizada pelos problemas digitais, pode também ser a solução. E se a Inteligência Artificial (IA) fosse usada para criar um sistema de proteção automática para menores de 18 anos? Um sistema que não fosse uma invasão à privacidade dos jovens, mas sim um escudo invisível contra ameaças online?

 

A proposta: um sistema de IA para segurança juvenil

A ideia é simples, mas inovadora: um sistema de IA integrado nas redes sociais, ativo até os 18 anos, que identificaria comportamentos de risco e enviaria alertas em dois níveis:

1. Para o próprio jovem – caso a IA detectasse mensagens potencialmente perigosas, daria um aviso imediato, sugerindo opções como pedir ajuda, denunciar ou obter aconselhamento.

2. Para os pais – se a situação fosse grave (como interações com predadores, cyberbullying intenso ou sinais de depressão/autolesão), os pais receberiam um alerta, mas sem acesso total às conversas.

O objetivo não seria vigiar os jovens, mas orientá-los em tempo real e informar os pais apenas quando necessário. O sistema também poderia colaborar com entidades de segurança e apoio psicológico, garantindo uma resposta mais eficaz em casos críticos.

 

Como funcionaria na prática?

1. Criação de conta com controlo parental:

Quando um menor se regista numa rede social, o sistema de IA é ativado automaticamente, com a supervisão de um dos pais ou responsáveis.

O responsável pode receber relatórios gerais (como "Conta interagiu com perfis suspeitos"), mas não acesso total às mensagens.

2. Monitorização inteligente:

A IA analisaria padrões de conversa, imagens e vídeos, identificando conteúdos preocupantes, como cyberbullying, discurso de ódio, assédio, desafios perigosos ou incentivo à autolesão.

Para evitar falsos alarmes, a IA usaria inteligência contextual para perceber o tom das interações.

3. Alertas para o jovem:

Se a IA identificasse um risco, o próprio adolescente receberia uma notificação do tipo:

"Esta conversa parece perigosa. Queres denunciar ou obter ajuda?"

"Parece que alguém te está a pressionar. Queres saber como te proteger?"

Isso permitiria que os jovens tomassem decisões informadas e se sentissem no controlo.

4. Alertas para os pais (em situações graves):

Se o risco fosse elevado (como conversas explícitas com um adulto suspeito ou sinais de autolesão), o sistema enviaria um alerta discreto aos pais, sugerindo que falassem com o filho.

A privacidade do jovem seria mantida sempre que possível, mas a segurança teria prioridade em casos críticos.

5. Intervenção automática em casos extremos:

Se a IA detectasse conteúdos ilegais (como exploração infantil), poderia alertar diretamente as autoridades e bloquear o perfil ofensivo.

 

Os benefícios: segurança sem invasão de privacidade

Este modelo equilibraria autonomia e proteção, evitando os extremos da total vigilância ou do completo abandono digital. Os principais benefícios seriam:

✅ Proteção ativa contra crimes digitais: A IA identificaria e bloqueava interações de aliciamento, abuso e cyberbullying antes que se tornassem perigosas.

✅ Educação digital em tempo real: Os jovens receberiam conselhos automáticos sempre que corriam riscos, ajudando-os a desenvolver consciência crítica.

✅ Prevenção de transtornos mentais: Alertas sobre interações tóxicas e apoio psicológico poderiam reduzir casos de ansiedade e depressão ligadas às redes sociais.

✅ Suporte parental sem excessos: Os pais só seriam informados quando realmente necessário, respeitando a privacidade do adolescente.

✅ Colaboração entre redes sociais, educadores e autoridades: Um sistema padronizado permitiria respostas rápidas e eficazes em situações de perigo.

 

Desafios e soluções possíveis

Naturalmente, um sistema como este enfrentaria desafios éticos e técnicos.

⚠️ Privacidade dos jovens – Solução: Garantir que os pais só recebam alertas em situações graves e não tenham acesso total às mensagens.

⚠️ Falsos positivos e interpretações erradas – Solução: Desenvolver IA sofisticada que entenda contexto, evitando alarmes desnecessários.

⚠️ Resistência dos jovens – Solução: Explicar os benefícios do sistema e garantir que as notificações diretas lhes dão autonomia para agir primeiro.

⚠️ Abuso por parte dos pais – Solução: Criar diretrizes claras sobre como e quando os alertas são ativados, impedindo controlo excessivo.

 

Conclusão: a segurança digital dos jovens tem de ser prioridade

Estamos numa era em que um simples clique pode mudar vidas. Um jovem pode ser vítima de chantagem emocional, manipulação ou exposição a conteúdos destrutivos sem que ninguém perceba. Ignorar este problema não é uma opção.

A Inteligência Artificial já é usada para sugerir vídeos, identificar tendências e até criar filtros de imagem. Porque não usá-la para proteger os mais vulneráveis? Criar um sistema de IA para segurança juvenil não é uma questão de vigilância excessiva, mas de responsabilidade digital.

Redes sociais, governos e educadores precisam de se unir para desenvolver soluções concretas. A tecnologia já existe – falta apenas a vontade de agir.

Se garantimos regras de trânsito para proteger os mais novos nas estradas, porque não garantir regras digitais para protegê-los no mundo online?

 

Autor: 
António Ricardo Miranda - Engenheiro Electrotécnico e de Computadores de Controlo e Robótica e Pessoa com Deficiência Auditiva e Visual
Nota: 
As informações e conselhos disponibilizados no Atlas da Saúde não substituem o parecer/opinião do seu Médico, Enfermeiro, Farmacêutico e/ou Nutricionista.
Foto: 
ShutterStock