Quando utilizamos ChatGPT, Gemini, Claude e outros assistentes baseados em IA, normalmente o que escrevemos ou carregamos é enviado pela internet para poderosos computadores hospedados em data centers, que processam a solicitação e retornam a resposta. O Google AI Edge Foresight tenta fazer algo diferente, ou seja, realizar todo o processo dentro do nosso computador. Atualmente, é um aplicativo experimental gratuito para Mac, desenvolvido especialmente para modelos com chips Apple Silicon, capaz de ouvir e transcrever uma reunião, ordenar anotações e buscar informações em documentos pessoais mesmo sem conexão. Portanto, não se trata de uma versão completa do Gemini que pode viver sem internet, mas de um exemplo concreto da chamada IA no dispositivo: modelos compactos o suficiente para rodar diretamente no hardware do usuário, sem enviar dados continuamente para a nuvem. Todo o Foresight local utiliza o microfone e o áudio produzido pelo Mac, podendo funcionar junto com qualquer plataforma de videoconferência ou durante uma conversa presencial, sem a necessidade de um “bot” virtual para entrar na reunião. Enquanto duas ou mais pessoas conversam, o app cria uma transcrição no computador e permite que o usuário faça anotações concisas rapidamente: uma nota como “entrega na sexta-feira”, por exemplo, pode ser enriquecida automaticamente com detalhes recuperados do que foi dito alguns momentos antes. O trabalho é realizado principalmente pelo Gemma 4 e, sobretudo, pelo EmbeddingGemma 2, um modelo do Google com 740 milhões de parâmetros projetado especificamente para funcionar em dispositivos relativamente pequenos. Na prática, em vez de enviar o áudio para um servidor remoto, o Mac realiza sozinho os cálculos necessários e, uma vez instalados os templates, a transcrição e as funções de IA podem continuar mesmo com a conexão desativada. Dentro dos arquivos Talvez a parte mais interessante venha, porém, depois da reunião. O Foresight pode construir uma espécie de biblioteca pessoal em seu computador composta de documentos, imagens, notas e transcrições antigas e permitir que você a consulte usando frases normais. Você pode então perguntar, por exemplo: “O que decidimos sobre o preço no mês passado?” e deixe a IA buscar a resposta no material disponível. Para conseguir isso, o EmbeddingGemma 2 transforma textos, imagens e áudio em representações numéricas chamadas de incorporação: simplificação, uma espécie de impressão matemática de seu significado. Informações conceitualmente semelhantes acabam assim “próximas” umas das outras, permitindo ao programa recuperar um trecho relevante mesmo quando a pergunta não contém exatamente as mesmas palavras presentes no documento. O Google chama essa função de “busca multimodal”, pois um mesmo sistema pode relacionar conteúdos de naturezas diferentes. Privacidade e limites A vantagem mais óbvia é a confidencialidade: segundo o Google, gravações, transcrições, notas e arquivos pessoais utilizados pelo Foresight são processados localmente e não precisam ser enviados aos servidores da empresa. Isso pode ser importante para reuniões de negócios, documentos comerciais ou simplesmente para quem não deseja confiar informações privadas a serviços em nuvem. Processar tudo no dispositivo também reduz o atraso na comunicação com um servidor e permite que você trabalhe no trem, no avião ou em qualquer lugar sem rede. Porém, há um preço: um modelo local deve se adaptar à potência e à memória do computador e não pode contar com a enorme capacidade computacional de um data center, por isso tende a ser mais especializado e menos versátil que os grandes assistentes online. Foresight ainda é um experimento para macOS e não um produto novo, mas indica uma possível direção da IA nos próximos anos, ou seja, ferramentas pequenas e inteligentes o suficiente para funcionar diretamente nos dispositivos que temos à nossa frente: hoje um computador, amanhã um smartphone.
Fonte: Focus
