La combinaison de useanything.com et de lmstudio.ai ouvre un univers de possibilités de dingue pour utiliser la technologie LLM/GPT en local, sans donner nos données à OpenAI
Pierre Est-ce que les résultats sont intéressants? Les modèles sont performants? Ce sont des solutions ouvertes?
Eduardo Yáñez Parareda Tu pouvais faire ça avec github.com/Mozilla-Ocho… de Mozilla
Stéphane Péchard Anything marche bien sur mon mac (32Go mais pas ARM). Lent, mais les résultats sont pertinents. LMStudio a l’air cool mais que sur de l’ARM :-(
J’adore l’idée de donner un jeu de fichiers et qu’il s’en serve comme référence (de la doc dans mon cas). Plus qu’à trouver l’outil pour en faire une API :)