Perplexity veut ramener une partie de sa charge d’IA sur l’ordinateur de l’utilisateur. Lors du Computex de Taipei, le 2 juin, le CEO Aravind Srinivas est monté sur scène avec le CEO d’Intel, Lip-Bu Tan, pour présenter ce que l’entreprise appelle hybrid agentic inference.
Le principe consiste à faire tourner un petit modèle local comme aiguilleur. Les tâches simples, comme résumer un document local, reformater du texte ou classer de petits éléments, restent sur le PC; le raisonnement complexe part vers le cloud. Les données sensibles, financières ou médicales, restent locales sauf accord de l’utilisateur.
La première version est prévue en juillet dans Perplexity Computer, d’abord dans l’application Windows PC. La démonstration utilisait Intel Core Ultra Series 3, mais Perplexity affirme que l’approche est indépendante de la puce et peut aussi fonctionner avec des processeurs Nvidia.
La logique économique est claire. Srinivas a expliqué qu’il ne fallait pas centraliser tout le calcul dans des serveurs et que certaines entreprises dépensaient un demi-milliard de dollars par mois. Répartir les tâches entre PC local et modèles cloud peut réduire la pression des coûts tout en rassurant les entreprises sur la gouvernance des données.
Sources : VentureBeat, Decrypt, 9to5Mac, CocoLoop.