\section{Événements ayant jalonné ce stage}

%     \begin{verbatim}
% - Stage à lieu au LIFO, dans l'équipe CA, encadré par ...
% - Stage de fin de master d'informatique Minerve GPEx
% - Challenge@EvalLLM comme cas d'usage, participation envisagée mais timing pas OK
% - différents événements et sorties organisées pendant le stage 
%   - TransIA : Tours, Présentations pluridisciplinaires sur l'intégration de l'IA (sous toutes ses formes) 
%   dans la société
%   - TAL-I : journée du GDR TaL-I à Paris (Jussieu) sur les travaux portant sur l'interprétabilité et 
%   l'explicabilité dans le contexte des tâches de traitement de la langue naturelle
%   - Frugal
%   - 2nd Symposium on Mental Health and AI : deux jours de conférence (suivi en pointillé en distanciel) 
%   présentation des travaux à la croisée entre santé mentale et intelligence artificielle (impact, outils 
%   de détection, de prise en charge)
%   - Place du Numérique : événement public de sensibilisation et de communication sur le Numérique 
%   organisé place du Martoi à Orléans (Des événements similaires organisés dans chaque département 
%   de la région CVL) J'ai participé à la tenue du stand de l'université, été ambassadrice de l'événement 
%   et ai joué le rôle d'un témoin dan sle tribunal des génération futures portant sur "L'IA nous 
%   contrôle-t-elle?
%   - Présentation aux journées d'équipe CA
%     \end{verbatim}

    Ce mémoire restitue les travaux et réflexions que j'ai portés à l'occasion de mon stage de fin de master ARIAS, parcours Minerve GPEx au sein de l'équipe Contraintes et Apprentissage du Laboratoire d'Informatique Fondamentale d'Orléans (LIFO) au cours duquel j'ai été encadré par Mme Halftermeyer. Au cours de ces six mois de stage et en parallèle de mon travail au sein du LIFO, j'ai pu suivre et participer aux événements scientifiques et de dissémination suivants:
    
    Le colloque pluridisciplinaire \textbf{Sociétés en transition à l'ère de l'intelligence artificielle} (TransIA) portait sur les impacts de l'Intelligence Artificielle sur la société et les différents pans de la recherche. Il regroupait des présentations issues des différentes disciplines allant des Sciences de l'éducation au droit privé et droit public en passant par l'étude le l'impact social et environnemental de l'IA. Il m'a permis d'aborder la recherche au sujet de l'intelligence artificielle sous l'angle de son impact et d'avoir un regard plus ouvert sur les autres disciplines de recherche et leur application à l'IA. 

    La journée du Groupe de Recherche \textbf{TAL-I} regroupait des présentations et une session poster portant sur l'interprétabilité dans le contexte du Traitement Automatique des Langues Naturelles. Cette journée organisée à Paris m'a permis de compléter ma découverte du paysage de l'explicabilité pour le TALN  effectuée durant mon immersion au semestre précédent et d'échanger avec d'autres chercheurs sur mon projet individuel ainsi qu'à propos de leur travaux. C'est à l'occasion d'un de ces échanges que j'ai choisi d'orienter mon sujet de stage sur l'utilisation d'outils d'explicabilité post-hoc.

    J'ai aussi eu l'occasion de suivre en distanciel les présentations de la \textbf{Journée Frugalité en TAL et ML} qui portaient sur les enjeux et les impacts environnementaux et sociaux du développement du TAL et du ML et les solutions actuellement étudiées pour les prendre en compte et les réduire. Ces présentations m'ont permise de prendre conscience de l'importance des ses enjeux et mieux comprendre quels sont les leviers pour les prendre en compte dans des travaux de recherche en IA.

    Le \textbf{Second Symposium on Mental Health and AI} regroupait des présentations de travaux à la croisée entre l'intelligence artificielle, les sciences cognitives et la psychologie. J'ai pu suivre certaines présentations en lien avec le projet collaboratif que nous avions présenté avec Eva Troupillon au semestre précédent dans le cadre du module Défi Appel à Proposition de Projet. 

    À l'occasion des \textbf{journées de l'équipe CA}, j'ai pu découvrir les travaux en  cours au sein de l'équipe. J'y ai moi-même présenté les premières contributions méthodologiques et les difficultés auxquelles je faisais face dans le cadre de mon stage. J'ai pu prendre conscience de l'importance des échanges et de la collaboration au sein de la recherche et de la capacité de ces échanges à faire prendre du recul sur ses travaux et permettre d'avancer. C'est à partir d'un échange avec Mme Dao à la suite de ma présentation que certaines propositions de conception de perturbation sont nées.

    J'ai aussi pu participer à un \textbf{challenge RAG} organisé par l'atelier EvalLLM. La tâche à laquelle je me suis inscrite permettait de compléter le paysage de mon sujet, notamment par un dataset francophone spécialisé dans la défense. Malheureusement, le calendrier ne m'a pas permis de soumettre de résultat valable et je n'ai donc pas pu concourir jusqu'au bout.
    
    Mon intégration au LIFO m'a aussi facilité l'accès aux \textbf{séminaires organisés régulièrement} le lundi au sein du laboratoire. J'ai pu suivre plusieurs présentations de sujet d'étude de collèges de chercheurs du laboratoire. Ces présentations sur divers sujets (Traitement de la Langue, Automatisation des outils de développement, Graph Neural Networks appliqués,...) me permettent de compléter ma culture des sujets de recherche d'actualités au sein du laboratoire et de ses partenaires qu'ils ce soient connexes au domaine de mon stage ou non.

    En dehors des événements internes au monde de la recherche et de l'informatique, j'ai aussi pu marrainer la \textbf{Place du Numérique} organisée à Orléans le 9 juin dernier. Cet événement vise à faire connaître et rendre accessible la diversité du monde du numérique dont la recherche en informatique fait partie. J'ai notamment joué le rôle de témoin dans le \textit{tribunal des générations futures} questionnant l'influence de l'intelligence artificielle sur notre comportement.

\section{Contexte et problématiques traités dans ce mémoire}
    \subsection{Contexte}
    %     \begin{verbatim}
    % - Intro RAG : 
    %     - les modèles ont des souci pour gérer la connaissance (hallucination, péremption des modèles)
    %     - on a couplé les modèles génératifs avec un base de connaissance entrenue et maitrisée par concepteur et/ou utilisateur
    % - Intro XAI
    %     - modèles opaques
    %     - besoin de confiance
    %     - méthode d'explications pour rendre comportement accessible et anticipable
    % - methodes qui ouvrent la boite, observent et donnent des explications
    % - On souhaite cartographier ces modèles
    % - On choisi un outil
    % - On découvre les difficultés et problématiques à l'usage
    % - On propose une méthodologie pour exploiter cet outil dans l'optique de cartographier la langue de spécialité
    %     \end{verbatim}

        Au sein de la recherche en deep learning, le développement de l'intelligence artificielle connaît une explosion depuis plusieurs années. Des modèles de plus en plus gros et de plus en plus complexes voient le jour et repoussent leurs limites très régulièrement. Une des grande difficultés de ces modèles et de contenir une très grande quantité et diversité d'informations leur permettant non seulement d'aborder une grande diversité de sujet de façon assez poussée mais le tout en générant des contenu de très grande qualité que ce soit sous forme d'images, de bande sonore ou de texte. \\
        Pour répondre à ce problème, \cite{lewis_retrieval-augmented_2020} propose de coupler des modèles capables de générer des contenus de grande qualité à des bases de données capable de fournir les connaissances nécessaires à la génération de contenu pertinent à l'aide d'un modèle d'extraction d'information. L'objectif d'une telle architecture, appelée \textbf{architecture RAG} (\textit{Retrieval Augmented Generation}), est de libérer les modèles générateurs de la charge de la connaissance sans sacrifier le format de sortie pour un simple moteur de recherche. De plus, entretenir une base de connaissance sous la forme de texte ou d'embedding est plus aisé et et moins coûteux en calcul que de ré-entraîner régulièrement un modèle à plusieurs milliards de paramètres.

        La croissante complexité des modèles profond engendre aussi un problème de confiance. En effet, les modèles profond suivent des structures élaborées rendant le raisonnement sous-jascent totalement opaque à l'utilisateur, qu'il soit spécialiste de ces machines ou non. Cependant, cette opacité est problématique dans certains cas d'usage. Lorsque l'impact d'une mesure est grande, il est central de pouvoir justifier son intérêt avant de l'appliquer. De façon plus générale, il est inenvisageable de confier à un outil dont on n'est pas capable de justifier la fiabilité des tâches sensibles. C'est pour permettre l'intégration de l'intelligence artificielle au sein de la médecine, de la défense, de la justice, de l'économie ou encore de la géo-politique qu'il est nécessaire de mettre en place des outils capable de rendre de la transparence aux modèles du deep learning et que le domaine de l'\textbf{explicabilité de l'intelligence artificielle} s'est développé.

        Au cours de ce stage, nous nous sommes intéressés à l'application d'une méthode d'explicabilité aux modèles extracteurs pour les architectures RAG.

        
    \subsection{Problématiques qui ont guidé ce travail}

%         \begin{verbatim}
%             TODO
%         \end{verbatim}
%     \md{à reprendre}
%     \begin{verbatim}
% - Objectif naif : Identifier les composants du modèle impliqués dans l'identification et la gestion 
% de la langue de spécialité d'un dataset
% - Objectif pratique : Identifier et proposer des préconisations d'usage de la librairie MechIR pour 
% la localisation des composant impliqués dans la langue de spécialité
% - Définition de langue de spécialité, réduction de l'objectif à l'identification du vocabulaire 
% de spécialité 
%     \end{verbatim}

    % \color{gray}
    % L'interprétabilité mécaniste vise à "ouvrir" les modèles et observer le flux des données lors de leur utilisation afin de fournir des explications de leur fonctionnement fondées sur la "mécanique interne". Au cours de ce stage, j'ai souhaité appliquer l'activation patching qui est une méthode d'interprétabilité mécaniste à un modèle d'extraction de documents dans l'objectif de cartographier ses domaines d'expertise. 
    % \md{à finir}
    % \color{black}


    Un objectif initial de ce stage était de défricher et construire un sujet de thèse s'intégrant à un projet de l'association \textit{Info Jeunes Centre Val de Loire} \footnote{\url{https://infojeunescvdl.fr/}}. Cette association sensibilise et porte assistance aux jeunes de 15 à 30 ans pour notamment leur faciliter la connaissance et l'accès aux multiples dispositifs d'aide s'adressant à eux. La diversité, le nombre et les multiples critères d'accès à ces dispositifs représente une grosse charge de travail pour maintenir leur maîtrise des dispositifs qui changent souvent. Leur projet vise à concevoir un moteur de recherche de dispositifs permettant, étant donné un profil de jeune et sa ou ses problématiques, de trouver l'ensemble des aides qui lui sont accessible en justifiant la pertinence et donnant les éventuelles modifications administratives nécessaires pour y être éligible. Cet outil s’adresserait aux assistants employés par l'association dans un premier temps et pourrait être étendu sous la forme d'un chatbot afin de la rendre accessible aux jeunes directement.

    Le stage visait donc à défricher la bibliographie et proposer un premier prototype de méthode de cartographie des modèles d'extraction d'information à l'aide des outils trouvés. Cette cartographie sera utilisée par la suite comme support pour expliquer le comportement de l'extracteur ainsi que pour améliorer ce dernier.

    Au cours de l'exploration bibliographique, les méthodes d'interprétation mécaniste \cite{somvanshi_bridging_2026}, l'activation patching \cite{chen_axiomatic_2024} et l'outil MechIR \cite{parry_mechir_2025} ont été identifiés. L'interprétabilité mécaniste vise à "ouvrir" les modèles et observer le flux des données lors de leur utilisation afin de fournir des explications de leur fonctionnement fondées sur la "mécanique interne". L'activation patching est une méthode d'interprétation mécaniste et MechIR propose une implémentation de cette dernière.
    
    Cependant, la prise en main et l'exploitation de MechIR donnant du fil à retordre, l'objectif du stage à du être revu. Il fallait d'abord concevoir une méthodologie d'usage de l'outil afin de, dans un premier temps, localiser le vocabulaire de spécialité dans des modèles d'extraction. Ces premiers résultats serviront de support pour la construction du sujet de thèse.

    