A startup de IA PrismML desenvolveu um modelo de linguagem pequeno para óculos inteligentes com chips Qualcomm. Na Snapdragon Summit de 24 de setembro, a Qualcomm mostrou o modelo Bonsai de 1 bit da PrismML rodando localmente na plataforma Snapdragon AR1 Gen 1, permitindo que o usuário faça perguntas em tempo real sobre o que está vendo.
O modelo tem 2 bilhões de parâmetros e foi ajustado tanto para tarefas visuais quanto de linguagem. Segundo o TechCrunch, a PrismML afirma que o modelo ocupa apenas um quarto do tamanho de modelos maiores, mantendo a maior parte do desempenho em benchmarks padrão. A reportagem não especifica qual modelo foi usado na comparação nem quais benchmarks.
A PrismML ainda não anunciou nenhum óculos comercial que use esse modelo; qual fabricante será o primeiro a adotá-lo e quando isso deve acontecer permanecem em aberto.
Do iPhone para os óculos
A PrismML foi fundada por pesquisadores do Caltech, com Ion Stoica, de Berkeley, como conselheiro. A linha da empresa sempre foi comprimir modelos para rodar diretamente em dispositivos finais.
Em julho, a empresa afirmou ter comprimido o modelo denso de 27 bilhões de parâmetros Qwen 3.6, da Alibaba, de cerca de 54 GB para menos de 4 GB, rodando localmente em um iPhone 17 Pro. A série Bonsai, lançada antes, tem versões de 8B, 4B e 1,7B, todas com pesos de 1 bit; segundo a empresa, elas usam 14 vezes menos memória, são 8 vezes mais rápidas e consomem 5 vezes menos energia que modelos de precisão total. O backend próprio de 1 bit, Q1_0, também já foi incorporado ao llama.cpp.
Essa nova versão de 2B fica entre os tamanhos já existentes da Bonsai, 1,7B e 4B, com capacidade visual adicional. Do modelo de 27 bilhões de parâmetros no iPhone ao de 2 bilhões nos óculos, a PrismML está migrando para dispositivos com recursos de computação cada vez mais limitados.
Por que o AR1 Gen 1
O Snapdragon AR1 Gen 1 é um chip que a Qualcomm projetou especificamente para óculos inteligentes leves; é a mesma plataforma usada por óculos de IA sem tela, como o Ray-Ban Meta. Como o espaço para bateria e dissipação de calor nos óculos é muito limitado, a maioria dos óculos de IA no mercado hoje delega perguntas visuais ao smartphone ou à nuvem, deixando o próprio óculos responsável apenas por fotografar, captar áudio e reproduzir som.
Rodar o modelo localmente traz duas vantagens diretas: não depender de conexão de rede, funcionando mesmo com sinal fraco, e manter as imagens captadas pela câmera no próprio dispositivo, sem precisar enviá-las para a nuvem. O custo aparece na autonomia da bateria e no desempenho real: quão complexas são as perguntas que um modelo de 2 bilhões de parâmetros consegue responder, e quanto aquecimento e consumo de energia o reconhecimento contínuo gera, são pontos que a demonstração no evento não respondeu — só será possível medir com o produto real.
A PrismML diz que seu objetivo é fazer com que IA de pesos abertos rode diretamente nos dispositivos, aproveitando melhor o poder de computação que os usuários já possuem, para que não precisem depender apenas de alguns grandes laboratórios de IA de código fechado.
No mercado chinês, os chips AR da Qualcomm também são a escolha de vários fabricantes locais de óculos de IA. Como o modelo da PrismML segue a linha de pesos abertos, se for disponibilizado publicamente no futuro, fabricantes e desenvolvedores chineses poderiam, em teoria, testá-lo diretamente — mas a empresa ainda não informou quando essa versão visual de 2B será aberta nem sob qual licença.
Fontes: TechCrunch, CocoLoop, demonstração na Snapdragon Summit da Qualcomm, página oficial da PrismML; os números de parâmetros, a proporção de tamanho e os indicadores da série Bonsai foram verificados conforme divulgado pela empresa.