Perplexity intenta devolver parte de su carga de IA al ordenador del usuario. En Computex Taipei, el 2 de junio, el CEO Aravind Srinivas apareció con el CEO de Intel, Lip-Bu Tan, para mostrar lo que llama hybrid agentic inference.
La idea es ejecutar un modelo local ligero como despachador. Tareas sencillas, como resumir un documento local, cambiar formato o hacer clasificaciones pequeñas, se quedan en el PC; el razonamiento complejo va a la nube. Datos sensibles, como registros financieros o de salud, permanecen locales salvo que el usuario autorice enviarlos.
La primera versión llegará en julio dentro de Perplexity Computer, inicialmente en la aplicación para Windows PC. La demostración usó Intel Core Ultra Series 3, pero Perplexity dijo que el enfoque no depende de un chip concreto y también puede funcionar con procesadores de Nvidia.
La lógica de costes es evidente. Srinivas advirtió que no conviene centralizar todo el cómputo en servidores y que algunas empresas gastan medio billón de dólares al mes. Repartir trabajo entre PC locales y modelos en la nube puede reducir la presión de inferencia y ofrecer a las empresas una mejor respuesta sobre gobierno de datos.
Fuentes: VentureBeat, Decrypt, 9to5Mac, CocoLoop.