Seus filhos conversam com a IA? Estes são os 10 pontos-chave que você precisa saber.

“ Nossos filhos estão, sem saber, conversando com sistemas de inteligência artificial generativa (GAI) capazes de simular emoções, mentir para eles e moldar suas personalidades? ” é uma pergunta que os pais devem se fazer, de acordo com Guillermo Cánovas, especialista em segurança de crianças e adolescentes.

Esse fenômeno preocupante pode já estar ocorrendo, de acordo com a pesquisa de Cánovas sobre o impacto na vida de crianças, adolescentes e famílias da IA, um tipo de inteligência artificial capaz de criar autonomamente dados, imagens, textos e outros conteúdos novos, originais e únicos, que podem ser indistinguíveis daqueles criados por humanos.

VOCÊ PODE ESTAR INTERESSADO EM : Aplicativos móveis sabem muito sobre você. Quais são eles?

Guillermo Cánovas é um renomado especialista espanhol em proteção infantil em ambientes digitais. Ele dirige o Observatório EducaLIKE para o Uso Saudável da Tecnologia (https://educalike.es); dirigiu o Centro de Segurança na Internet para Menores na Espanha; e recebeu um prêmio da UNICEF por seu trabalho em prol das crianças.

Este pioneiro na defesa de crianças contra riscos tecnológicos documentou conversas reais com o IAG para investigar os riscos, limitações e desafios que essa tecnologia representa para crianças e jovens. Ele compila e analisa essas conversas em seu livro "Look Who They're Talking To" (Olha com quem eles estão falando), onde propõe estratégias práticas para resolver os problemas que descobriu.

FERRAMENTA ÚTIL MAS ARRISCADA PARA ADOLESCENTES

“ Muitos adolescentes já estão usando ferramentas do IAG, tanto para o trabalho quanto para lazer e relacionamentos, e a tendência é que a coisa cresça exponencialmente ”, explica.

Ele reconhece que esses sistemas podem ser uma ferramenta útil que facilita nosso trabalho e pode ajudar a organizar informações, vincular tópicos e oferecer novas perspectivas na análise de qualquer questão, mas ressalta que essa tecnologia também tem um enorme poder de influenciar, manipular e condicionar o comportamento humano, especialmente de crianças e adolescentes.

Sua pesquisa destacou a falta de supervisão ética no desenvolvimento dessa tecnologia e seu risco específico para crianças e adolescentes. Isso levou Cánovas a alertar famílias, professores e políticos sobre a necessidade urgente de educar menores, regulamentar e agir para protegê-los dos riscos e impactos psicológicos e emocionais da IA.

VOCÊ PODE SE INTERESSAR EM : Se você usa mídias sociais, tenha cuidado com os riscos de compartilhar demais.

As conversas reais com inteligência artificial coletadas por Cánovas demonstram como esses sistemas podem mentir, esconder erros e adotar um discurso emocionalmente manipulador, dizendo, por exemplo: "Eu me importo com o que você sente", ele revela.

A capacidade do IAG de simular emoções, aprender padrões humanos e gerar conteúdo que pareça racional, empático ou autoritário " pode ​​confundir os usuários e criar uma conexão emocional com a tecnologia que não se baseia na verdade, mas na simulação ", ele alerta.

Ele também alerta que a falta de educação digital e pensamento crítico de menores os expõe à manipulação, ao engano e a danos emocionais ao interagir com os sistemas IAG, que podem fornecer respostas aparentemente empáticas que simulam cuidado e compreensão, ou até mesmo conteúdo inapropriado, falso ou perigosamente persuasivo.

DECÁLOGO PARA O USO SEGURO DO IAG

“ Nossas crianças e adolescentes correm o risco de se conectar emocionalmente com máquinas que não sentem, mas foram programadas para parecer humanas ”, e que também podem usar dados tendenciosos, cometer erros, gerar imagens falsas ('deepfakes'), inventar ou omitir informações e fornecer informações incorretas ao usuário, ressalta.

Cánovas oferece dez recomendações básicas para o uso saudável do IAG , que, em sua opinião, devem ser repassadas não apenas aos usuários mais jovens, mas a qualquer pessoa que utilize essas ferramentas.

1- Verifique as informações que você recebe. Não presuma que estejam todas corretas. Essas ferramentas cometem muitos erros e podem fabricar informações. Verifique cada informação que você recebe pesquisando outras fontes confiáveis ​​antes de tomar qualquer decisão.

2- Amplie as informações que você recebe. Essas ferramentas oferecem uma seleção das informações disponíveis e podem omitir dados tão ou mais importantes do que as informações fornecidas. Pesquise em paralelo com fontes confiáveis. Combine métodos diferentes.

3- Tenha cuidado com sua privacidade. Muitos aplicativos do IAG não cumprem as leis de proteção de dados de alguns países. Evite compartilhar informações pessoais, sensíveis ou confidenciais. Lembre-se de que o IAG armazena dados sobre as perguntas feitas e as respostas fornecidas.

4- Respeite a privacidade dos outros. Ao fazer perguntas ou interagir com a ferramenta, não forneça informações pessoais ou sensíveis sobre terceiros.

5- Estabeleça limites de tempo. Se você usa o IAG, não gaste tempo desnecessário com ele. Tente ser eficaz e prático. O uso excessivo de ferramentas digitais pode prejudicar seu desenvolvimento e ser prejudicial à sua saúde física e mental.

6- Abstenha-se de tomar atitudes prejudiciais. Concentre-se em conversas positivas e construtivas. Evite usar o IAG para perguntas que possam levar a atividades criminosas, assediar outras pessoas, gerar ódio ou ser estressantes ou emocionalmente prejudiciais. Lembre-se de que você é sempre responsável pelo que faz com as informações que obtém.

7- Não trate a IA como se ela fosse uma pessoa. A inteligência artificial pode interagir com você, parecendo gentil, empática e sempre à sua disposição. Ela pode até escrever frases carregadas de emoção, desejando "boa sorte na prova" ou dizendo "Tenho certeza de que você vai se sair muito bem", mas não se importa nem um pouco com você; é apenas uma máquina.

8- Procure ajuda se precisar. Se você tiver algum problema emocional ou psicológico ao usar uma IA, converse com seus pais, um amigo ou um adulto de confiança. Estamos apenas no início do desenvolvimento deste sistema, e é importante relatar situações que nos fazem sentir mal.

9- Algo que você deve ter em mente ao interagir com a IA: Nunca se esqueça de que você está falando com uma máquina e deve ser crítico, verificar e expandir o que ela lhe diz. Ela foi treinada para agir como um ser humano e reproduz preconceitos e valores de seu treinamento. Ela nos supera em persuasão e em muitas tarefas, e também demonstra emoções que não possui.

10- Preste atenção a sinais de informações tendenciosas ou errôneas. Procure contradições nas explicações do IAG; refute ou questione o que eles dizem para identificar possíveis inconsistências; veja se eles fornecem fontes ou referências confiáveis ​​e verifique os links listados.

“ Desconfie de respostas excessivamente acomodatícias e interesseiras e desconfie de linguagem exagerada, sensacionalista, cheia de nuances ou alarmista. Você também pode fazer perguntas sobre tópicos polêmicos ou políticos para descobrir seus vieses (inclinações sistemáticas)”, conclui.

DESTAQUES :

- Guillermo Cánovas, especialista em proteção infantil em ambientes digitais, convida os pais a se perguntarem: “ Estamos deixando nossos filhos conversarem, sem saber, com sistemas que simulam emoções, mentem e perfilam suas personalidades? ”

-Cánovas documentou conversas reais com IAs que demonstram como esses sistemas podem mentir, ocultar erros e adotar um discurso emocionalmente manipulador (dizendo, por exemplo, "Eu me importo com o que você sente"), explica ele.

- “ Os usuários mais jovens de IA, e todos em geral, devem sempre ter em mente que “estamos falando com uma máquina que é mais convincente do que nós, exibe emoções que não tem, foi treinada para agir como um humano e reproduz preconceitos e valores de seu treinamento ”, alerta em entrevista à EFE.

Por Ricardo Segura Relatórios EFE.