Le projet en détail
De la constitution du corpus à la publication d'un modèle libre : la feuille de route, la méthode scientifique, les besoins, le financement et les questions que vous vous posez.
Où en est le projet
Lingua Nostra est aujourd'hui un projet de recherche à l'état de concept. Il n'existe pas encore de prototype, et c'est la conséquence logique de l'étape où nous nous trouvons.
« Notre priorité du moment est la constitution du corpus et la recherche des premiers partenaires scientifiques et financiers. »
Avant de développer une intelligence artificielle fiable pour une langue régionale, il est indispensable de réunir un corpus de qualité, d'obtenir les autorisations nécessaires et de rassembler les ressources scientifiques et techniques. C'est précisément cette phase préparatoire qui occupe Lingua Nostra. L'absence de démonstration n'est donc pas une lacune : elle marque le point de départ d'un travail rigoureux.
Déjà identifié et libre de droits :
À recenser et à négocier :
Réunir ce corpus est la première phase du projet, pas un acquis.
Feuille de route
Le projet n'avance pas par dates mais par jalons. Chaque phase prépare la suivante. Voici la progression envisagée.
Réunir et numériser les textes provençaux : almanachs et presse du Félibrige, dictionnaires de référence, littérature provençale. Reconnaissance optique des caractères sur les éditions anciennes. C'est le travail le plus long et le plus déterminant.
Corriger les erreurs de reconnaissance, écarter les doublons pour éviter que le modèle ne mémorise par cœur, équilibrer autant que possible les variétés du provençal, et formater l'ensemble dans un standard exploitable pour l'entraînement.
Partir d'un grand modèle multilingue et l'adapter au provençal en trois temps : le pré-entraînement continu, où le modèle s'imprègne de la langue écrite ; l'affinage par instructions, où il apprend à suivre des consignes plutôt qu'à seulement prolonger un texte, à partir de milliers de paires question-réponse rédigées et corrigées par des locuteurs natifs ; puis l'alignement sur leurs préférences, qui ancre le registre, la justesse et la norme graphique.
Un réseau de locuteurs natifs valide, corrige et tranche entre deux réponses, via une interface simple pensée pour un public non technique. Sans eux, pas de modèle de qualité : à ce stade, ils sont la seule source de vérité possible.
Diffuser le modèle et le code sous licence libre, auto-hébergeables, accompagnés de la documentation du corpus. L'outil appartient alors à la communauté linguistique, pas à une institution.
Transposer la méthode éprouvée sur le provençal vers d'autres langues de France. La deuxième langue ciblée serait le breton, notamment dans sa variété vannetaise. À plus long terme, d'autres langues d'oc pourraient recevoir chacune leur propre modèle, gascon, languedocien, limousin, aux côtés d'autres langues régionales. Lou Pichoun sert de laboratoire ; les suivants bénéficient de tout ce qu'il aura permis d'apprendre.
Méthodologie scientifique
Pourquoi un corpus est indispensable. En traitement automatique du langage (TAL / NLP), un grand modèle de langue (LLM) apprend en observant d'immenses quantités de texte. Pour qu'il parle provençal, il faut lui présenter du provençal en quantité et en qualité suffisantes. La valeur du modèle d'intelligence artificielle final dépend directement de celle du corpus : c'est la matière première de tout le projet.
Pourquoi adapter un grand modèle de langue plutôt que partir de zéro. Entraîner un LLM depuis rien exige des volumes de données et de calcul hors de portée d'un projet comme celui-ci. Un grand modèle multilingue a déjà appris la structure générale du langage ; il suffit alors de le réorienter vers le provençal. Plusieurs langues à faibles ressources, du turc à l'irlandais, ont été adaptées ainsi avec succès et des moyens modestes, sans pour autant disposer d'une langue proche à hautes ressources.
Les trois temps de l'entraînement. D'abord le pré-entraînement continu, où le modèle absorbe la langue écrite et apprend à en prolonger naturellement les phrases. Ensuite l'affinage par instructions, étape commune à tout assistant : le modèle apprend à suivre des consignes à partir de milliers de paires question-réponse couvrant la traduction, la grammaire, la culture et la conversation. La part proprement provençale tient à ce que ces paires sont rédigées et corrigées une à une par des locuteurs natifs, ce qui en fait la contribution humaine la plus exigeante du projet. Enfin l'alignement sur les préférences, où l'on affine son style en lui montrant, entre deux réponses, laquelle un locuteur préfère.
Comment fonctionne la validation. Le modèle est évalué séparément dans chaque dialecte. Lors de l'affinage, il propose systématiquement deux réponses ; un locuteur, rhodanien ou maritime, choisit la meilleure dans son propre dialecte. Chaque dialecte est ainsi validé par ses propres locuteurs : il n'y a pas un provençal unique à trancher, mais deux lignes affinées en parallèle.
Comment mesurer les performances. Plusieurs instruments se complètent : la perplexité, qui mesure l'aisance du modèle face à un texte inconnu ; des tests à trous, où l'on masque un mot pour vérifier s'il le retrouve ; un jeu de questions-réponses sur la culture et la littérature provençales ; et surtout une évaluation par plusieurs experts indépendants, jugeant la grammaticalité, la justesse de la langue et le naturel du registre.
L'ambition à terme : une voix provençale libre. Le traitement automatique du langage ne s'arrête pas au texte. À terme, Lou Pichoun vise à s'adjoindre une synthèse vocale provençale (Text-to-Speech, TTS) en code ouvert, entraînée sur des enregistrements de locuteurs natifs consentants. L'enjeu n'est pas seulement technique : générer une voix est aujourd'hui un problème résolu. Ce qui compte, c'est la gouvernance de cette voix, consentement éclairé, poids ouverts, voix appartenant à la communauté, qualité à la hauteur des solutions propriétaires. C'est ce cadre éthique et souverain qui fera de la voix provençale une ressource durable pour la Provence, et non un produit d'exportation. La reconnaissance vocale (transcription automatique) viendrait compléter la boucle : comprendre, répondre et lire à voix haute en provençal.
Défis et incertitudes
Un projet de recherche comporte des inconnues. Les énoncer clairement fait partie du sérieux de la démarche.
Écrire dans deux dialectes. Le modèle devra produire aussi bien en rhodanien qu'en maritime. C'est un défi réel, qui dédouble le travail de corpus, de validation et d'évaluation.
La qualité du provençal généré. Atteindre un niveau de langue irréprochable reste l'inconnue principale ; seule la validation par les locuteurs permettra de la lever.
Un défi déjà maîtrisé : la mobilisation des locuteurs. Le réseau associatif et félibréen permet de réunir sans difficulté les locuteurs nécessaires à la correction et à l'affinage du modèle.
Besoins et financement
Financer Lingua Nostra, c'est rendre possibles des ressources précises. Il ne s'agit pas encore d'un budget détaillé, mais des moyens nécessaires pour passer du concept à la première phase.
Recenser les textes provençaux, repérer les fonds dormants des universités et des associations, identifier les détenteurs de droits.
Scanner les ouvrages non encore numérisés, appliquer la reconnaissance optique sur les éditions anciennes, corriger après lecture machine.
Mobiliser et accompagner les locuteurs qui corrigeront les réponses du modèle et trancheront entre deux versions.
Louer ponctuellement la puissance de calcul nécessaire à l'entraînement, sur des serveurs spécialisés, le temps des phases lourdes.
S'appuyer sur des compétences en provençal et en sociolinguistique pour garantir la rigueur de la langue et des choix dialectaux.
Construire le pipeline d'entraînement, l'interface de validation communautaire et l'outil final auto-hébergeable.
Le financement de Lingua Nostra repose sur plusieurs sources qui se relaient. Un premier modèle, participatif, amorce le projet ; viennent ensuite des financements institutionnels, privés et universitaires.
La première vocation des fonds est de rémunérer le temps de travail du fondateur pour le démarrage du projet. Viennent directement après les premières dépenses pour la collecte du corpus, les dépenses techniques, et le montage des dossiers de subvention.
L'amorçage : le sociofinancement. Une campagne de financement participatif, en prévente, ouvrira la marche avec un palier de démarrage de 5 000 €. Les contreparties prendront la forme, en priorité, d'un accès bêta au modèle et de remerciements dans la documentation du projet, complétés par quelques objets provençaux.
Ensuite : les financements institutionnels, privés et universitaires. Un dossier complet a déjà été constitué pour aller chercher ces soutiens. Une fois le démarrage financé, le projet Lingua Nostra prendra la forme d'une société par actions simplifiée unipersonnelle (SASU) française dédiée à la recherche et au développement en traitement automatique des langues, ce qui ouvre l'accès à plusieurs dispositifs : statut de jeune entreprise innovante, crédits d'impôt recherche et innovation, convention de thèse en entreprise, programmes nationaux et européens consacrés aux langues en danger et aux langues de France, mécénat d'entreprise et de fondations, et crédits de calcul offerts par des fournisseurs de modèles. Le sociofinancement n'est donc que la première marche d'une stratégie de financement à plusieurs étages.
Suivre le projet
Le projet est à ses débuts. Laissez votre adresse pour suivre son avancée et être prévenu du lancement de Lou Pichoun.
Références scientifiques
Adapter un grand modèle à une langue à faibles ressources n'est pas une hypothèse : plusieurs équipes l'ont fait, parfois avec très peu de données et du matériel modeste. Voici les travaux qui balisent la voie.
Modèles de langues minoritaires
Modèle bilingue irlandais-anglais, référence méthodologique du projet : pré-entraînement continu puis ajustement, validé par des locuteurs natifs. Environ 44 heures de calcul sur deux processeurs graphiques.
Le pionnier irlandais : pré-entraînement continu avec extension du vocabulaire. La référence des méthodes d'adaptation.
Adaptation au basque, langue structurellement plus éloignée du français que le provençal. Évalué sur de vrais examens de langue.
Adaptation sur du matériel quasi domestique, à partir d'environ 274 millions de mots. Le cas le plus directement reproductible.
Des résultats exploitables avec un corpus minuscule, comparable au corpus provençal disponible. La preuve qu'un faible volume suffit à amorcer.
Deux démonstrations de faisabilité économique : un pipeline complet sur un seul processeur graphique grand public, et un entraînement mené pour environ 500 dollars.
Ressources et projets pour les langues de France
Programme national de corpus et d'outils pour les langues de France (alsacien, breton et autres). Le provençal n'y figure pas encore : Lingua Nostra viendrait combler ce vide.
L'almanach du Félibrige et le grand dictionnaire de Mistral, numérisés et libres de droits. Le socle du corpus provençal.
Questions fréquentes
Parce que le provençal est en grand danger : ce projet est d'abord une démarche de conservation. Parce que le provençal, lisible pour un francophone de la région, est un levier de réappropriation de la langue. Parce que c'est la langue du porteur du projet, qui a accès au réseau de locuteurs nécessaire à la validation. Et parce qu'aucun modèle ne parle aujourd'hui le provençal : ce serait une première.
Les grands modèles commerciaux ne maîtrisent pas le provençal : cette langue est quasi absente de leurs données d'entraînement. Sollicités, ils produisent un provençal approximatif, mêlé de français. Ils ne peuvent ni le parler correctement ni servir à juger ce qui est juste.
Un modèle dédié, entraîné sur un corpus provençal validé par des locuteurs, atteint une qualité qu'aucun modèle généraliste ne propose pour le provençal. Il peut être auto-hébergé, publié en licence libre, et rester sous la maîtrise de la communauté plutôt que dépendre d'un service propriétaire.
L'objectif réaliste se situe entre 50 et 100 millions de mots de provençal. Cela peut sembler peu, mais le modèle same du Nord a donné des résultats exploitables avec quatre fois moins. Le corpus provençal disponible se situe dans cette fourchette viable.
Pour l'indépendance technologique et la maîtrise des données. Un modèle que l'on héberge soi-même ne dépend d'aucune entreprise, ne peut être retiré ni modifié par un tiers, et garantit la pérennité de l'outil et le contrôle des données des locuteurs qui l'ont rendu possible.
Pour que l'outil appartienne à la communauté linguistique et non à une institution. Une licence permissive permet à chacun d'utiliser, d'étudier, d'améliorer et de redistribuer le modèle. C'est la condition d'une véritable souveraineté numérique de la langue.
Parce que la qualité d'un modèle dépend d'abord de celle de son corpus. Avant tout entraînement, il faut constituer ce corpus, obtenir les autorisations et réunir les ressources scientifiques et techniques. C'est cette phase préparatoire qui occupe aujourd'hui le projet : un prototype prématuré ne dirait rien de fiable.