Google lance une IA hors ligne qui s’exécute directement sur votre ordinateur grâce à l’appli Foresight

Foresight élabore les réunions, les notes et les documents personnels directement sur l’ordinateur, sans envoyer de données vers le cloud : voici comment l’IA « on-device » (pour l’instant uniquement sur Mac) garantit confidentialité et autonomie même hors connexion.

Quand nous utilisons ChatGPT, Gemini, Claude et d’autres assistants basés sur l’intelligence artificielle, normalement ce que nous écrivons ou téléchargeons est envoyé via Internet à de puissants ordinateurs hébergés dans des centres de données, qui traitent la demande et renvoient la réponse. Google AI Edge Foresight tente de faire quelque chose de différent, à savoir mener l’intégralité du processus à l’intérieur de notre ordinateur.

Pour l’instant, il s’agit d’une application expérimentale gratuite pour Mac, conçue principalement pour les modèles dotés de puces Apple Silicon, capable d’écouter et de transcrire une réunion, de mettre en forme les notes et de rechercher des informations parmi des documents personnels même sans connexion. Il ne s’agit donc pas d’une version complète de Gemini capable de fonctionner sans Internet, mais d’un exemple concret de ce qu’on appelle l’IA on-device : des modèles suffisamment compacts pour s’exécuter directement sur le matériel de l’utilisateur, sans envoyer continuellement des données vers le cloud.

Tout local

Foresight utilise le microphone et l’audio produits par le Mac, donc peut fonctionner aux côtés de n’importe quelle plateforme de visioconférence ou lors d’une conversation en présentiel, sans qu’un « bot » virtuel n’entre dans la réunion. Pendant que deux ou plusieurs personnes parlent, l’application crée sur l’ordinateur une transcription et permet à l’utilisateur de prendre rapidement des notes synthétiques : une note comme « livraison vendredi », par exemple, peut être automatiquement enrichie avec les détails récupérés de ce qui a été dit quelques instants plus tôt.

Le travail est exécuté principalement par Gemma 4 et, surtout, par EmbeddingGemma 2, un modèle Google de 740 millions de paramètres conçu précisément pour fonctionner sur des appareils relativement petits. En pratique, au lieu d’envoyer l’audio à un serveur distant, le Mac effectue lui‑même les calculs nécessaires et une fois les modèles installés, la transcription et les fonctions d’IA peuvent continuer même lorsque la connexion est désactivée.

Dans les fichiers

La partie peut-être la plus intéressante arrive toutefois après la réunion. Foresight peut construire sur l’ordinateur une sorte de bibliothèque personnelle composée de documents, d’images, de notes et d’anciennes transcriptions et permettre de l’interroger en utilisant des phrases normales. On peut donc demander, par exemple, « Qu’avions‑nous décidé le mois dernier sur le prix ? » et laisser l’IA chercher la réponse dans le matériel disponible.

Pour y parvenir EmbeddingGemma 2 transforme les textes, les images et l’audio en représentations numériques appelées embedding: en termes simples, une sorte d’empreinte mathématique de leur signification. Des informations conceptuellement similaires se retrouvent ainsi « proches » les unes des autres, permettant au programme de récupérer un passage pertinent même lorsque la question ne contient pas exactement les mêmes mots que ceux présents dans le document. Google appelle cette fonction « recherche multimodale », car le même système peut mettre en relation des contenus de nature différente.

Confidentialité et limites

L’avantage le plus évident est la confidentialité : selon Google, les enregistrements, transcriptions, notes et fichiers personnels utilisés par Foresight sont traités localement et ne doivent pas être envoyés aux serveurs de l’entreprise. Cela peut être important pour les réunions professionnelles, les documents d’entreprise ou tout simplement pour ceux qui ne souhaitent pas confier des informations privées à des services cloud. Traiter tout sur l’appareil réduit aussi le délai lié à la communication avec un serveur et permet de travailler en train, en avion ou en tout lieu sans réseau.

Mais il y a un prix : un modèle local doit s’adapter à la puissance et à la mémoire de l’ordinateur et ne peut pas compter sur l’immense capacité de calcul d’un centre de données, il a donc tendance à être plus spécialisé et moins polyvalent que les grands assistants en ligne. Foresight reste une expérimentation pour macOS et non un produit commercial, mais il indique une direction possible de l’IA pour les années à venir, celle d’outils suffisamment petits et intelligents pour fonctionner directement sur les appareils que nous utilisons, aujourd’hui un ordinateur, demain un smartphone.

Article pensé et écrit par :
Avatar de Denis Perrin
Laisser un commentaire

3 × 1 =