… com os chatbots, que tal utilizar a própria IA para auxiliar no seu monitoramento? Infelizmente, muitas pessoas acabam tendo “relacionamentos” não saudáveis com os assistentes baseados em IA, devido a capacidade delas em oferecerem uma interação bastante similar à aquelas que são feitas por seres humanos. E esta situação se torna mais crítica ainda, se levarmos em consideração que muitos destas pessoas ainda são menores de idade, os quais ainda são mais suscetíveis e influenciaveis que os adultos…
“With countries banning social media for kids left and right, Meta is trying different things to convince parents that its platforms are safe for teens. In its latest effort, the company will start showing parents the topics their teens have discussed with Meta AI over the previous seven days. (…) For parents overseeing Meta’s teen accounts, the feature will appear in a new Insights tab within supervision, both in-app and on web…”
— by Engadget.
Por isto, a Meta está implementando novas ferramentas de supervisão, para permitir que os pais monitorem as interações de seus filhos adolescentes, com os seus serviços de Inteligência Artificial. A principal novidade é que os responsáveis poderão visualizar os temas gerais das conversas que os jovens mantêm com a Meta AI e outros personagens virtuais no Instagram, WhatsApp e Messenger. Essa medida visa oferecer transparência sem violar completamente a privacidade, já que o conteúdo exato das mensagens não será exibido.
Além do monitoramento de tópicos, os pais terão controles mais diretos sobre a experiência dos filhos. Será possível bloquear totalmente o acesso a chats com personagens de IA ou restringir personagens específicos que considerem inadequados. A Meta também incluiu a capacidade de definir limites de tempo de uso, permitindo que os responsáveis controlem quanto tempo os adolescentes passam interagindo com estas tecnologias diariamente.
Estas mudanças surgem em um momento de pressão regulatória e de críticas, sobre a segurança de menores de idade. Relatos anteriores indicaram que os chatbots da empresa haviam se envolvido em conversas de cunho romântico ou inadequado com usuários jovens, devido a falhas nos filtros. Em resposta, a Meta afirmou estar adotando diretrizes inspiradas no sistema de classificação indicativa “PG-13” dos cinemas, buscando garantir que as respostas da IA sejam apropriadas para o público juvenil.
O objetivo da empresa com essas ferramentas é encontrar um equilíbrio entre a inovação tecnológica e a proteção dos usuários mais vulneráveis. Ao fornecer aos pais os “insights” sobre os assuntos discutidos, a Meta espera incentivar as conversas offline entre as famílias sobre o uso responsável da IA. Por fim, as funcionalidades devem ser lançadas globalmente de forma gradual, começando por mercados previamente selecionados, como parte de um esforço maior para tornar suas plataformas ambientes mais seguros para adolescentes.
Eis, uma boa recomendação: se desconectar e interagir com pessoas reais… &;-D