L’IA sans nuage

Chaque fois qu'une tâche est confiée à l’IA, la requête commence localement sur l'ordinateur de l'utilisateur, puis est envoyée dans le nuage. Là, l'Intelligence Artificielle génère une réponse à l'aide d'un matériel puissant, un processus appelé « inférence ». La réponse est finalement renvoyée à l'ordinateur local de l'utilisateur. Cela nécessite d'énormes capacités de traitement, qui requièrent des centres de données gigantesques. Les chercheurs de l'EPFL Gauthier Voron, Geovani Rizk et Rachid Guerraoui ont donc publié un nouveau logiciel qui permet aux utilisateurs de télécharger des modèles d'IA « open source » et de les utiliser localement sans avoir besoin du cloud.

Le nouveau logiciel, appelé Anyway Systems, coordonne et combine des ordinateurs distribués dans un réseau local pour former un cluster local, réfutant ainsi l'idée largement répandue selon laquelle l'utilisation de modèles d'IA nécessite d'énormes centres de données.

Le logiciel s'installe sur un réseau local d'ordinateurs, assurant que les données restent à l'intérieur du réseau. Cela garantit la sécurité des informations et le respect de la souveraineté des données. Les grands modèles linguistiques, tels que GPT-120B, le dernier et le plus grand modèle ouvert d'OpenAI, peuvent être téléchargés et déployés sur Anyway Systems. Pour cela, il suffit de quatre machines équipées chacune d'un GPU disponible dans le commerce. « Pendant des années, tout un chacun a cru que les grands modèles linguistiques et les outils d'IA n'étaient pas possibles sans ressources colossales et que la protection des données, la souveraineté et la durabilité en seraient victimes. Mais ce n'est pas le cas. Il existe des approches plus intelligentes et plus économiques », explique Rachid Guerraoui, professeur à l'EPFL.

Lorsque les données d'un utilisateur sont envoyées dans le cloud, des questions se posent en matière de sécurité et de protection des données, notamment celle de savoir si ces données peuvent être utilisées pour entraîner ou améliorer des modèles d'IA. Par ailleurs, le recours aux principaux fournisseurs mondiaux de services cloud pour l’IA pose des questions sur la souveraineté en matière d’Intelligence Artificielle, car il confie le contrôle à des sociétés internationales. De plus, l'immense puissance de calcul nécessaire pour répondre aux requêtes dans le cloud favorise le développement de gigantesques centres de données qui consomment d'énormes quantités d'énergie et d'eau. Selon les estimations, l'inférence représente 80 à 90% de la puissance de calcul liée à l'IA.

« Anyway Systems excelle dans l'inférence, mais pourrait également contribuer à réduire les ressources nécessaires à la formation », souligne M. Guerraoui. Des essais pilotes auraient montré que le téléchargement et l'exécution d'un modèle sur des ordinateurs locaux dispersés plutôt que sur un cloud gigantesque entraînent certes une certaine latence, mais aucune perte de précision.

Anyway Systems a récemment été sélectionné comme l'un des six premiers boursiers du « Startup Launchpad AI Track », un programme de bourses financé par l’UBS qui se concentre spécifiquement sur l'IA. Ces projets ont été sélectionnés parmi plus de 50 propositions et bénéficient d'un financement et d'un soutien sur mesure pour accélérer leur passage du prototype à la commercialisation.

Le logiciel est désormais bien au-delà du stade de prototype et fait l'objet de tests dans diverses entreprises et administrations suisses, notamment à l'EPFL. Les premiers utilisateurs analysent actuellement les éventuels compromis entre rapidité, précision et qualité.