Do gesto ao texto: Modelo DeepMind ensina smartphones a reconhecer línguas de sinais

20 agosto 202617 visualizações

O desenvolvimento do SL2T, pela primeira vez, dá aos usuários surdos e surdos a capacidade de se comunicarem com gestos diretamente nos aplicativos: as palavras aparecem na tela em vez da entrada de texto manual. O modelo foi treinado em dados de mais de cinquenta línguas de sinais e já funciona no Pixel 11, mantendo a privacidade – apenas coordenadas de movimento são enviadas para o servidor, não vídeo.

Do gesto ao texto: Modelo DeepMind ensina smartphones a reconhecer línguas de sinais

O que há de novo?

Existem mais de 200 línguas de sinais no mundo, e para cerca de 70 milhões de surdos e de pessoas de difícil audição, servem como o principal meio de comunicação. Até recentemente, a inteligência artificial mal era usada para traduzir essas línguas em produtos diários. O Google DeepMind decidiu corrigir isso: o novo modelo SL2T (sign-language-to-text) traduz linguagem de sinais em texto e já está sendo integrado em aplicativos familiares.

Os usuários poderão "ditar" com gestos em vez de digitar em um teclado. O recurso está a sair no Gboard e no aplicativo Live Transcreva legendas em smartphones Pixel 11 — o primeiro emparelhamento será American Sign Language (ASL) e Inglês. Mais idiomas e dispositivos são prometidos mais tarde.

O que significa isso na prática? Você pode pesquisar na web com gestos, compor mensagens ou documentos, e até mesmo falar com o Gemini Assistente. Em Live Transcribe, você será capaz de responder com gestos bem no meio de uma conversa, sem mudar para chat de texto. De acordo com os testadores, esse tipo de comunicação é mais rápido e natural do que digitar em inglês. Para a comunidade surda, isso é mais do que apenas conveniência: a linguagem de sinais é a base da identidade cultural, e ser capaz de usá-la no mundo digital significa muito.

Porque é difícil

As línguas de sinais não são "inglês nas mãos" — são línguas naturais independentes com sua própria gramática e vocabulário. É por isso que a tradução sinal-texto não pode ser reduzida a combinar cada gesto com uma palavra uma a uma. O significado é transmitido simultaneamente através de movimentos de mão, corpo e cabeça, além de expressões faciais, e o modelo tem que rastrear tudo isso com alta precisão em tempo real.

As primeiras tentativas como "luvas de linguagem de sinais" foram fundamentalmente limitadas precisamente porque trataram os sinais como um código para palavras comuns. A tradução automática real requer a compreensão da estrutura da linguagem, incluindo construções espaciais e marcadores não manuais. Modelos modernos aprendem com grandes conjuntos de dados: SL2T usou mais de 100.000 horas de vídeo em mais de 50 idiomas de sinais, com aproximadamente um quarto dedicado à ASL. O treinamento conjunto em diferentes idiomas e dialetos ajuda a encontrar padrões comuns e produz melhores resultados do que modelos separados para cada idioma.

Como funciona a tradução

Em vez de processar o fluxo de vídeo, o modelo usa uma representação compacta: rastreia as coordenadas dos pontos-chave do corpo e transforma essa sequência de coordenadas em texto. Isso resolve dois problemas ao mesmo tempo — reduz a carga computacional e protege a privacidade. O vídeo original é excluído imediatamente, e apenas coordenadas geométricas são enviadas para o servidor para tradução. O rastreamento de pontos é feito pelo modelo integrado MediaPipe Holistic.

A tradução acontece diretamente, sem anotações intermediárias (glossos). Essa abordagem possibilita transmitir aspectos como marcadores não manuais e construções espaciais, evitando restrições de vocabulário artificial. Escalas de qualidade com volume de dados, como os benchmarks confirmam: no teste FLEURS-ASL (sd-test), o modelo alcança uma pontuação zero de 70 BLEURT, muito à frente de todos os sistemas anteriores.

As melhorias práticas também são importantes. Os desenvolvedores minimizaram a latência do streaming, ensinaram o modelo a não alucinar na entrada não-sinal, foram responsáveis por usuários canhotos (cerca de 10% deles), e melhoraram o reconhecimento da assinatura de uma mão quando a outra mão está segurando um smartphone.

Privacidade e futuro

Esta é a primeira vez que AI para as línguas de sinais se mudou do laboratório e em produtos de consumo em massa. A tecnologia SL2T já está disponível em alguns dispositivos, e mais idiomas e plataformas são esperados no caminho. Para a comunidade surda e dura de ouvir, isso abre o caminho para a inclusão digital completa: agora você pode se comunicar livremente em sua língua nativa usando um smartphone comum.

O futuro de tais sistemas reside na interação mais natural e mais rápida entre sinais e línguas faladas. As próximas gerações de modelos poderão não só traduzir frases individuais, mas também manter conversas completas, preservando as nuances da emoção e do estilo. E isso mudará não apenas a tecnologia, mas a vida diária de milhões de pessoas.

Perguntas mais frequentes

SL2T da DeepMind – Traduzindo linguagem de sinais em texto