Cet atelier vous propose une méthode pour avoir une IA auto-hébergée, ce qui permet d’utiliser l’IA pour chater, faire des recherches sur Internet ou générer des images tout en protégeant sa vie privée.

L’atelier est libre et gratuit. Contact et questions : e.atelier-ia@hexdump.fr

Déroulement

Vous apprendrez à installer un moteur de LLM (un type d’IA) - ollama - et une interface web qui rend son usage facile et rapide. Vous allez aussi apprendre à installer un programme de génération d’image.

Et, bien entendu, à installer différents modèles ouverts suivant vos besoins et contraintes.

Puis, l’atelier portera sur l’utilisation de ces outils, et pour ceux qui le souhaitent, sur un débat sur l’éthique des IA.

Pré-requis

Matériel

Il faut une machine un peu puissante pour faire tourner une IA.

Mais pas de panique ! Si vous n’avez pas une telle machine, vous pouvez en louer une pour quelques euros auprès d’un hébergeur. Ça fait partie de l’atelier.

Mais pour utiliser votre machine personnelle, celle-ci doit avoir :

  • Au moins 8GB de RAM pour le chat, 16 GB pour la génération d’images.
  • Au moins 4 cœurs
  • Idéalement une carte graphique nvidia, mais si besoin on peut utiliser les CPUs (dans ce cas il faudra au moins 12 cœurs).
  • Au moins 25 GB sur le disque système (pour les images docker)
  • Au moins 60 GB sur un disque pour les modèles (chat : 10 GB, images : 50 GB)

Votre machine doit être à jour et avoir une distribution maintenue. Il faudra installer Docker et d’autres paquets.

Il n’est pas certain que les cartes AMD soient utilisables. Si vous avez des informations là-dessus, merci de me contacter sur e.atelier-ia@hexdump.fr

Données

Dans le cadre de l’atelier, on ne veut pas télécharger sur Internet, ça prendrait trop de temps.

Divers modèles seront disponibles sur un stockage local.

Comptes

Pour utiliser une machine public cloud, il vous faudra un compte chez un hébergeur (OVH par exemple) avec un moyen de paiement (une carte bancaire). N’hésitez pas à utiliser une carte temporaire, limitée, ou rechargeable. Il vaut mieux préparer ça à l’avance, pour prendre le temps chez vous de bien lire les conditions et choisir quel moyen de paiement utiliser.

Les machines nécessaires pour faire de l’IA sont louée entre 45 centimes et 1€, 1€20 par l’heure.

Pour avoir accès à tous les modèles sur invokeai, il vous faudra un compte gratuit sur HuggingFace (https://huggingface.co).