Le projet en détail
De la constitution du corpus à la publication d'un modèle libre : la feuille de route, la méthode scientifique, les besoins, le financement et les questions que vous vous posez.
Où en est le projet
Lingua Nostra est aujourd'hui un projet de recherche à l'état de concept. Il n'existe pas encore de prototype, et c'est la conséquence logique de l'étape où nous nous trouvons.
« Notre priorité du moment est la constitution du corpus et la recherche des premiers partenaires scientifiques et financiers. »
Avant de développer une intelligence artificielle fiable pour une langue régionale, il est indispensable de réunir un corpus de qualité, d'obtenir les autorisations nécessaires et de rassembler les ressources scientifiques et techniques. C'est précisément cette phase préparatoire qui occupe Lingua Nostra. Le projet en est à son commencement, et cette phase est déjà engagée.
Déjà identifié et libre de droits :
À recenser et à négocier :
Réunir ce corpus est la première phase du projet.
Feuille de route
Le projet n'avance pas par dates mais par jalons. Chaque phase prépare la suivante. Voici la progression envisagée.
Réunir et numériser les textes provençaux : almanachs et presse du Félibrige, dictionnaires de référence, littérature provençale. Reconnaissance optique des caractères sur les éditions anciennes, réocérisation de tous les textes disponibles à la BnF. C'est l'un des travaux les plus longs du projet, et sans doute l'un des plus déterminants.
Corriger les erreurs de reconnaissance, écarter les doublons, équilibrer, mélanger, créer des corpus avec certaines dominantes, et formater ces ensembles dans un standard exploitable pour l'entraînement.
Partir d'un grand modèle multilingue et l'adapter au provençal en trois temps : le pré-entraînement continu, où le modèle s'imprègne de la langue écrite, l'affinage par instructions, où il apprend à suivre des consignes plutôt qu'à seulement prolonger un texte, à partir de milliers de paires question-réponse rédigées et corrigées par des locuteurs natifs, puis l'alignement sur leurs préférences, qui ancre le registre, la justesse et la pertinence des réponses.
Un réseau de locuteurs natifs valide, corrige et tranche via des interfaces simples pensées pour un public non technique. Les locuteurs sont, avec la qualité du corpus, un enjeu majeur de réussite. Sans eux, sans doute pas de modèle de qualité : c'est ce que nous tenterons de démontrer en comparant avec un modèle étalon non ajusté par les locuteurs.
Diffuser le modèle et le code sous licence libre, auto-hébergeables, accompagnés de la documentation du corpus. L'outil appartient alors à la communauté linguistique.
Transposer la méthode éprouvée sur le provençal vers d'autres langues de France. La deuxième langue ciblée serait le breton, notamment dans sa variété vannetaise. À plus long terme, d'autres langues d'oc pourraient recevoir chacune leur propre modèle. Lou Pichoun sert de laboratoire à l'avenir.
Méthodologie scientifique
Pourquoi un corpus est indispensable. En traitement automatique du langage (TAL / NLP), un grand modèle de langue (LLM) apprend en observant d'immenses quantités de texte. Pour qu'il parle provençal, il faut lui présenter du provençal en quantité et en qualité suffisantes. La valeur du modèle d'intelligence artificielle final dépendrait directement de celle du corpus.
Pourquoi adapter un grand modèle de langue plutôt que partir de zéro. Entraîner un LLM depuis rien exige des volumes de données et de calcul hors de portée d'un projet comme celui-ci. Un grand modèle multilingue a déjà appris la structure générale du langage ; il suffit alors de le réorienter vers le provençal. Plusieurs langues à faibles ressources, du turc à l'irlandais, ont été adaptées ainsi avec des moyens modestes, sans pour autant disposer d'une langue proche à hautes ressources.
Les trois temps de l'entraînement. D'abord le pré-entraînement continu, où le modèle absorbe la langue écrite et apprend à en prolonger naturellement les phrases. Ensuite l'affinage par instructions, étape commune à tout assistant : le modèle apprend à suivre des consignes à partir de milliers de paires question-réponse couvrant la traduction, la grammaire, la culture et la conversation. La part proprement provençale tient à ce que ces paires sont rédigées et corrigées une à une par des locuteurs natifs, ce qui en fait la contribution humaine la plus exigeante du projet. Enfin l'alignement sur les préférences, où l'on affine son style en lui montrant, entre deux réponses, laquelle un locuteur préfère.
Comment fonctionne la validation. Le modèle est évalué séparément dans chaque dialecte. Lors de l'affinage, il propose systématiquement deux réponses ; un locuteur, rhodanien ou maritime, choisit la meilleure dans son propre dialecte. Chaque dialecte pourrait ainsi être validé par ses propres locuteurs.
Comment mesurer les performances. Plusieurs instruments se complètent : la perplexité, qui mesure l'aisance du modèle face à un texte inconnu ; des tests à trous, où l'on masque un mot pour vérifier s'il le retrouve ; un jeu de questions-réponses sur la culture et la littérature provençales ; et surtout une évaluation par plusieurs experts indépendants, jugeant la grammaticalité, la justesse de la langue et le naturel du registre.
L'ambition à terme : une voix provençale libre. Le traitement automatique du langage ne s'arrête pas au texte. À terme, Lou Pichoun vise à s'adjoindre une synthèse vocale provençale (Text-to-Speech, TTS) en code ouvert, entraînée sur des enregistrements de locuteurs natifs consentants. L'enjeu n'est pas seulement technique : générer une voix est aujourd'hui un problème résolu. Ce qui compte, c'est la gouvernance de cette voix, consentement éclairé, poids ouverts, voix appartenant à la communauté, qualité à la hauteur des solutions propriétaires. C'est ce cadre éthique et souverain qui fera de la voix provençale une ressource durable pour la Provence, et non un produit d'exportation. La reconnaissance vocale (transcription automatique) viendrait compléter la boucle : comprendre, répondre et lire à voix haute en provençal.
Défis et incertitudes
Un projet de recherche comporte des inconnues. Les énoncer clairement fait partie du sérieux de la démarche.
Écrire dans deux dialectes. Le modèle devra produire aussi bien en rhodanien qu'en maritime. C'est un défi réel, qui dédouble le travail de corpus, de validation et d'évaluation.
La qualité du provençal généré. Atteindre un niveau de langue irréprochable reste l'inconnue principale ; seule la validation par les locuteurs permettra de la lever.
Un défi déjà maîtrisé : la mobilisation des locuteurs. Le réseau associatif permettrait de réunir les locuteurs nécessaires à la correction et à l'affinage du modèle.
Besoins et financement
Financer Lingua Nostra, c'est rendre possibles des ressources précises. Il ne s'agit bien entendu pas ici d'un budget détaillé, mais de perspectives.
Recenser les textes provençaux, repérer les fonds dormants des universités et des associations, identifier les détenteurs de droits.
Scanner les ouvrages non encore numérisés, appliquer la reconnaissance optique sur les éditions anciennes, corriger après lecture machine.
Mobiliser et accompagner les locuteurs qui corrigeront les réponses du modèle et trancheront entre deux versions.
Louer ponctuellement la puissance de calcul nécessaire à l'entraînement, sur des serveurs spécialisés, le temps des phases lourdes.
S'appuyer sur des compétences en provençal et en sociolinguistique pour garantir la rigueur de la langue et des choix dialectaux.
Construire le pipeline d'entraînement, l'interface de validation communautaire et l'outil final auto-hébergeable.
Le financement de Lingua Nostra repose sur plusieurs sources qui se relaient. Un premier modèle, participatif, pourrait amorcer le projet ; nous ferons aussi des demandes de financements institutionnels, privés, voire universitaires.
La première vocation des fonds est de financer le temps de travail pour la création du corpus, des divers outils, de l'entraînement, puis de la publication de l'IA provençale.
Les financements institutionnels, privés et universitaires. Un dossier complet a déjà été constitué pour aller chercher ces soutiens. Le projet Lingua Nostra prend la forme de deux entités : une association œuvrant pour l'épanouissement numérique des communautés de langues minorisées en France, la communauté provençalophone en premier lieu, et une SASU développant des outils de traitement automatique des langues et spécialisée dans l'entraînement de modèles de langue et d'intelligence artificielle générative souveraine.
Suivre le projet
Le projet est à ses débuts. Laissez votre adresse pour suivre son avancée et être prévenu du lancement de Lou Pichoun comme des différentes étapes.
Références scientifiques
Adapter un grand modèle à une langue à faibles ressources n'est pas une hypothèse : plusieurs équipes l'ont fait, parfois avec très peu de données et du matériel modeste. Voici les travaux qui balisent la voie.
Modèles de langues minoritaires
Modèle bilingue irlandais-anglais, référence méthodologique du projet : pré-entraînement continu puis ajustement, validé par des locuteurs natifs. Environ 44 heures de calcul sur deux processeurs graphiques.
Le pionnier irlandais : pré-entraînement continu avec extension du vocabulaire. La référence des méthodes d'adaptation.
Adaptation au basque, langue structurellement plus éloignée du français que le provençal. Évalué sur de vrais examens de langue.
Adaptation sur du matériel quasi domestique, à partir d'environ 274 millions de mots. Le cas le plus directement reproductible.
Des résultats exploitables avec un corpus minuscule, comparable au corpus provençal disponible. La preuve qu'un faible volume suffit à amorcer.
Ayla Rigouts Terryn et Justin Royer (Université de Montréal) développent l'étiquetage morphosyntaxique et la lemmatisation du chuj, langue maya peu documentée, à partir de données de terrain. Un doctorat consacré à ces outils a commencé en 2026.
Langues minorisées et épanouissement numérique
Mélanie Jouitteau (IKER, CNRS) appelle à une mobilisation publique, scientifique et industrielle pour rendre les langues minorisées compatibles avec l'intelligence artificielle, faute de quoi la diversité linguistique risque une réduction massive.
Megan Cotnam-Kappel, titulaire de la Chaire de recherche sur l'épanouissement numérique des communautés franco-ontariennes (Université d'Ottawa), définit ce champ comme visant « une présence en ligne dynamique », le pouvoir d'agir individuel et collectif, l'accès équitable aux technologies et les compétences numériques. Article : Megan Cotnam-Kappel et Jean-Luc Ciocca, « Les inégalités d'accès, de compétences et de pouvoir d'agir numériques et linguistiques des élèves : perspectives du personnel enseignant en Ontario français », Minorités linguistiques et société, n° 23.
Entraînement, adaptation et évaluation des modèles
Ikram Belmadani, Benoît Favre, Richard Dufour, Frédéric Béchet et Carlos Ramisch (TALN 2025) comparent pré-entraînement continu, affinage supervisé et leur combinaison pour adapter un modèle généraliste au domaine médical français, avec des données limitées.
Elie Antoine, Frédéric Béchet, Géraldine Damnati et Philippe Langlais (EMNLP 2024) montrent, sur un banc d'essai français, que certains exemples font échouer les modèles quelle que soit leur taille, du fait de leur complexité linguistique.
Hichem Ammar Khodja, Frédéric Béchet, Quentin Brabant, Alexis Nasr et Gwénolé Lecorvé (LREC-COLING 2024) proposent un jeu de données qui suit l'évolution des faits dans le temps, pour ajouter, corriger ou retirer une connaissance d'un modèle de langue déjà entraîné sans le réentraîner.
Ahmed Hamdi, Alexis Nasr, Nizar Habash et Núria Gala (WANLP 2015) construisent un outil d'analyse pour le dialecte tunisien, langue peu dotée, en exploitant les ressources de l'arabe standard, langue proche et bien outillée.
Questions fréquentes
Parce que le provençal est en grand danger : ce projet est d'abord une démarche de conservation. Parce que le provençal, lisible pour un francophone de la région, est un levier de réappropriation de la langue. Parce que c'est la langue du porteur du projet, qui a accès au réseau de locuteurs nécessaire à la validation. Et parce qu'aucun modèle ne parle aujourd'hui le provençal : ce serait une première.
Les grands modèles commerciaux ne maîtrisent pas le provençal : cette langue est quasi absente de leurs données d'entraînement. Sollicités, ils produisent un provençal approximatif, mêlé de français. Ils ne peuvent ni le parler correctement ni servir à juger. De plus, s'en servir revient à sous-traiter la conservation du patrimoine immatériel à des entreprises privées et pour la plupart hors du territoire français.
Un modèle dédié, entraîné sur un corpus provençal validé par des locuteurs, atteint une qualité qu'aucun modèle généraliste ne propose pour le provençal. Il peut être auto-hébergé, publié en licence libre, et rester sous la maîtrise de la communauté plutôt que dépendre d'un service propriétaire.
L'objectif réaliste se situe entre 50 et 100 millions de mots de provençal. Cela peut sembler peu, mais le modèle same du Nord a donné des résultats exploitables avec quatre fois moins. Le corpus provençal disponible se situe dans cette fourchette viable.
Pour l'indépendance technologique et la maîtrise des données. Un modèle que l'on héberge soi-même ne dépend d'aucune entreprise, ne peut être retiré ni modifié par un tiers, et garantit la pérennité de l'outil et le contrôle des données des locuteurs qui l'ont rendu possible.
Pour que l'outil appartienne à la communauté linguistique et non à une institution. Une licence permissive permet à chacun d'utiliser, d'étudier, d'améliorer et de redistribuer le modèle. C'est la condition d'une véritable souveraineté numérique de la langue.
Parce que la qualité d'un modèle dépend d'abord de celle de son corpus. Avant tout entraînement, il faut constituer ce corpus, obtenir les autorisations et réunir les ressources scientifiques et techniques. C'est cette phase préparatoire qui occupe aujourd'hui le projet : un prototype prématuré ne dirait rien de fiable.