O Roblox está introduzindo um novo recurso de IA para o chat com o objetivo de aprimorar a segurança na plataforma. A empresa tem realizado diversos ajustes na funcionalidade de chat, em parte devido às críticas sobre a segurança infantil.
Anteriormente, o Roblox implementou uma verificação de idade por IA em janeiro, que analisava imagens ou vídeos dos usuários para determinar sua faixa etária e restringir a comunicação entre grupos. No entanto, essa atualização gerou controvérsia, pois muitos usuários perderam o histórico de conversas e a capacidade de se comunicar com amigos.
Roblox implementa resumos de chat com IA
O Roblox agora testa resumos de chat gerados por IA dentro do jogo para melhorar a segurança das crianças e evitar que os usuários se sintam alheios às conversas. Mensagens de faixas etárias com acesso restrito aparecem bloqueadas com um cadeado. A nova IA de sumarização exibe o tema geral da conversa, mesmo que o usuário não possa ver as mensagens específicas. Esses resumos são filtrados para remover conteúdo inadequado.
Em teoria, isso permite que conversas ocorram entre usuários de diferentes faixas etárias restritas, mesmo que nem todos possam ver as mensagens individuais. Os usuários que podem conversar entre si podem seguir o mesmo tópico. Além disso, os usuários têm a opção de desativar o recurso, impedindo que suas mensagens façam parte do resumo.
Atualmente, o recurso está em fase de testes e pode não estar disponível para todos os jogadores. O Roblox também está testando uma função de chat global que permitiria a comunicação entre múltiplos servidores, mas ainda sujeita a restrições de idade e idioma.
Este é mais um esforço do Roblox para utilizar IA de forma significativa. Além da verificação de idade e resumos de chat, a plataforma introduziu uma função de reformulação de mensagens para mantê-las neutras e sem palavrões. O objetivo é evitar que os jogadores vejam mensagens censuradas com “#####”, filtrando ou reformulando o conteúdo ofensivo. No entanto, ainda podem existir maneiras de contornar essas medidas, como ocorreu no passado com o uso de grafites no jogo para disseminar discurso de ódio.
Fonte: GameRant
