Notre IA.
Architecture et principes
Sûr, Privé et Éthique.
TL;DR
Chaque jour, des milliers de personnes hésitent à demander de l’aide pour leur santé mentale. Faute d’alternatives accessibles et sécurisées, certaines se tournent vers des IA généralistes qui n’offrent ni confidentialité ni véritable protection.
Lucia est aujourd’hui en version 1.0, un prototype déjà opérationnel sur ses fonctions principales. Elle a été conçue dès le départ pour lever ces barrières : une IA agentique, confidentielle et disponible à tout moment, qui aide à exprimer ses émotions, propose des ressources adaptées et oriente vers des professionnels.
Lucia ne soutient pas seulement les individus : elle allège aussi le travail des équipes en filtrant les demandes, en priorisant les urgences et en déclenchant des alertes ciblées. Ce modèle hybride, mêlant intelligence artificielle et supervision humaine, combine impact sociétal et efficacité durable pour les institutions.
Notre CPTS agit en partenariat avec l’Agence Régionale de Santé (ARS PACA) afin de renforcer l’accès aux soins et la coordination sur notre territoire.
Lucia est plus qu’un chatbot
Lucia n’est pas un simple outil de conversation : c’est une solution technologique avancée qui repense la manière d’aborder le soutien psychologique. Grâce à des modèles d’intelligence artificielle spécialisés, elle comprend le langage naturel, détecte les nuances émotionnelles et adapte ses réponses de façon personnalisée. Elle peut également orienter vers des ressources fiables ou alerter des professionnels de santé lorsque la situation l’exige, tout en offrant un espace de confiance, sécurisé et respectueux de chaque utilisateur.
Au-delà de Chatgpt et autres modeles « libres »
Contrairement aux IA généralistes, Lucia a été conçue dès le départ pour la santé mentale. Son fonctionnement repose sur trois piliers utilisateurs essentiels :
- Une sécurité par design, grâce à une architecture multi-agents qui filtre et valide chaque réponse avant transmission.
- Une supervision humaine, où la logique conversationnelle est conçue et revue par des experts en santé mentale.
- Une orientation immédiate en cas de crise, avec redirection vers des services d’aide adaptés lorsqu’une situation sensible est détectée.
Cet article vous explique en toute transparence comment fonctionnent ces mécanismes : le traitement et la protection des données, les choix éthiques qui structurent Lucia, et la manière dont chaque interaction vise à protéger, accompagner et inspirer confiance.
Eddi Phou
CTO – CAIO
AI Strategy & Technology Innovation
I/ Parce que la santé mentale n’a pas de frontière.
Les dérives des modèles sans filtre
Certains modèles d’intelligence artificielle dits « libres » revendiquent une approche sans censure et sans restriction. Sur le papier, cette promesse de liberté totale peut sembler séduisante. Dans les faits, elle crée une zone grise dangereuse. Sans mécanismes de régulation, ces systèmes deviennent rapidement des espaces où tout circule, y compris le pire : tutoriels de fabrication d’explosifs, contenus violents ou sexuels, incitations au suicide, discours extrémistes.
Concrètement, un utilisateur en détresse peut recevoir une réponse qui encourage ses pensées suicidaires au lieu de l’apaiser. Un adolescent isolé peut tomber sur des conversations qui banalisent la haine ou l’autodestruction. Et tout cela, en accès libre, sans contrôle ni conscience des conséquences.
Ces modèles représentent un double danger. Sur le plan individuel, ils exposent les plus vulnérables à des contenus qui aggravent leur souffrance psychologique et peuvent les pousser à des passages à l’acte irréversibles. Sur le plan collectif, ils diffusent des savoir-faire dangereux dans un espace numérique accessible à tous, alimentant de véritables menaces pour la sécurité publique.
Traduit de eccu.edu EC-COUNCIL UNIVERSITY
L’impact humain
Lucia a été pensée dès le départ comme l’opposé de cette logique. Chaque interaction est protégée par une couche de sécurité active : des agents dédiés analysent le contenu des échanges, veillent au respect de la vie privée et filtrent toute dérive. L’objectif est simple : offrir un espace sûr où la technologie est réellement au service de l’humain.
Prenons deux exemples concrets :
- Lorsqu’un utilisateur exprime des idées noires, Lucia ne se contente pas de répondre. Elle déclenche un protocole qui évite tout contenu dangereux et oriente immédiatement vers des ressources spécialisées ou des numéros d’urgence.
- Lorsqu’une personne cherche des informations sensibles (violence, automutilation), Lucia bloque l’accès à ces contenus et propose à la place un accompagnement bienveillant et des alternatives constructives.
Là où d’autres modèles laissent circuler le pire, Lucia s’engage à instaurer un cadre de confiance et de protection, centré sur l’écoute, l’accompagnement et l’orientation vers des ressources fiables.
Lucia, la solution agentique
Lucia est l’agent conversationnel qui dialogue directement avec l’utilisateur, mais elle n’agit pas seule. Elle est entourée d’une équipe d’agents virtuels, comparables à des collègues numériques, spécialisés chacun dans une mission : compréhension du langage, sécurité, orientation ou gestion technique.
Cette architecture multi-agents permet à Lucia de combiner analyse, protection et orientation, bien au-delà d’un simple chatbot conversationnel.
II/ L’humain au cœur du dispositif
Un soutien immédiat, mais jamais isolé
Lucia n’a pas vocation à remplacer les professionnels de santé : elle agit comme un premier niveau de soutien, disponible à tout moment. Grâce à l’intelligence artificielle, elle peut offrir une écoute immédiate, aider à exprimer ses émotions et orienter vers des ressources adaptées. Mais certains cas nécessitent un accompagnement approfondi que seule une expertise humaine peut fournir.
Le modèle « human in the loop »
C’est pourquoi Lucia repose sur un modèle hybride : l’IA accompagne l’utilisateur au quotidien, mais garde la possibilité, avec son consentement explicite, de transmettre de manière sécurisée certaines données à un professionnel de santé. Ces données sont limitées, strictement protégées, et partagées uniquement lorsqu’un besoin particulier est identifié, toujours dans l’intérêt de l’utilisateur.
Exemple concret :
- Une personne anxieuse échange avec Lucia, qui propose des exercices de respiration et de relaxation.
- Après plusieurs messages, Lucia détecte des signaux de détresse plus profonds (idées noires, isolement marqué).
- Elle propose alors, de façon claire et respectueuse, de partager la situation avec un psychologue partenaire.
- Si l’utilisateur accepte, seules les informations nécessaires sont transmises de façon chiffrée, et le professionnel prend le relais.
- L’utilisateur sera contacté par le canal de son choix. À noter qu’ils peuvent tout à fait conserver l’anonymat en confirmant un pseudonyme et une adresse e-mail temporaire à travers Lucia.
Un équilibre entre rapidité et responsabilité
Cette approche hybride garantit la disponibilité permanente de l’IA tout en maintenant la profondeur et la responsabilité de l’accompagnement humain. L’IA filtre, analyse et soutient, tandis que l’humain intervient dès que la situation l’exige.
Optimisation du travail des professionnels
Lucia permet aussi aux équipes de mieux gérer la demande : traiter un volume plus important de conversations, recevoir des alertes en cas de besoin critique et se concentrer sur les cas nécessitant une attention immédiate. Elle agit ainsi comme un filtre intelligent, qui fluidifie le parcours de soin et libère du temps pour les professionnels.
Même si l’IA progresse rapidement, elle ne peut pas être laissée seule face à des décisions qui touchent directement à la vie humaine. Lucia veille à ce que la relation de confiance entre patient et professionnel reste au centre, tout en offrant un soutien complémentaire.
III/ Un cadre fiable et responsable.
Sécurité et conformité.
Lucia a été conçue dès le départ pour respecter les normes les plus strictes. Chaque échange est chiffré et n’est stocké que temporairement. L’infrastructure repose sur des serveurs certifiés HDS en France ainsi que sur des environnements conformes tels qu’AWS et Microsoft Azure.
Dans le domaine de la santé mentale, la sécurité et l’éthique sont des fondations. Chaque décision technologique a été pensée pour offrir un espace de confiance et de bienveillance. Cette exigence permanente distingue Lucia d’un simple chatbot et en fait une solution durable et responsable.
Mais comment ca marche?
L’architecture de Lucia repose sur une organisation en couches distinctes, chacune ayant un rôle précis dans la sécurité et la conformité. Lorsqu’un utilisateur interagit avec Lucia, les informations passent d’abord par une couche de filtrage et de contrôle, qui vérifie la conformité des données et bloque toute information sensible inutile. Ensuite, une couche d’orchestration agentique répartit la tâche entre différents modules spécialisés : certains gèrent le langage, d’autres supervisent la sécurité ou l’orientation.
Afin de garantir la fiabilité des réponses, nous avons également intégré des mécanismes spécifiques pour protéger les modèles d’IA contre les phénomènes d’hallucination. Bien qu’il ne soit pas possible de les effacer totalement, nous combinons supervision humaine, validation croisée entre agents et filtres automatiques qui permettent d’en réduire significativement l’occurrence, assurant des interactions plus cohérentes et dignes de confiance.
Enfin, les échanges sont acheminés vers des serveurs certifiés et cloisonnés, garantissant que les données ne circulent jamais en clair ni hors de l’infrastructure validée.
Anonymisation.
L’anonymisation rend toute donnée impossible à rattacher à une personne, de manière irréversible. Elle permet d’extraire uniquement des statistiques globales, sans suivi individuel.
Pseudonymisation.
La pseudonymisation remplace les identifiants directs par un code, réversible uniquement dans un cadre strictement contrôlé. Elle permet à un professionnel d’intervenir avec l’accord explicite de l’utilisateur.
Accès externes
Comme toute infrastructure moderne, Lucia dispose de points d’accès externes. Ils sont strictement surveillés et aucune donnée sensible n’est transmise à des plateformes non certifiées. Toutes restent cloisonnées dans l’infrastructure validée.
Analytics
Lucia ne conserve jamais les dialogues ni les données sensibles. Seules des métriques anonymisées, comme la durée des échanges ou le nombre de sessions, sont collectées pour améliorer le service, sans jamais tracer les utilisateurs.
IV/ Une expérience inclusive.
Accessibilité
Lucia a été pensée pour être utilisée par tous, sans barrière technique ni complexité. Son interface claire et intuitive permet à chacun, quel que soit son âge ou son niveau de familiarité avec le numérique, d’accéder facilement à un soutien en santé mentale. Une attention particulière est portée à l’accessibilité universelle afin que les personnes en situation de handicap puissent elles aussi bénéficier d’une expérience fluide et inclusive.
Ouverture
Au-delà de son ergonomie, Lucia incarne une véritable vision d’ouverture. Elle ne se limite pas à un profil d’utilisateur précis, mais s’adresse à l’ensemble de la population. Soutien ponctuel, suivi régulier ou première orientation vers un professionnel : Lucia s’adapte aux besoins de chacun. Cette ouverture se traduit également par une volonté d’élargir son champ d’action en intégrant constamment de nouvelles ressources et fonctionnalités.
Lucia est accessible depuis smartphone, tablette ou ordinateur, sans téléchargement. Son interface responsive s’adapte à tous les supports. Son architecture modulaire lui permet d’évoluer en permanence : interfaçage avec des services externes, intégration de bases de données spécialisées, nouvelles solutions d’accessibilité.
Ce n’est qu’un début : nous en sommes encore à la version 1, et chaque évolution renforcera la promesse d’une solution plus inclusive, plus ouverte et toujours tournée vers les besoins réels de ses utilisateurs.
V/ Un secteur prioritaire.
Contexte et positionnement
Aujourd’hui, d’immenses ressources financières sont consacrées à des secteurs comme l’armement, la défense ou la sécurité physique. Ces investissements répondent à des enjeux stratégiques indéniables, mais ils laissent dans l’ombre une autre priorité tout aussi essentielle : le bien-être des populations et l’accompagnement face aux bouleversements de l’ère numérique. Les technologies émergentes, telles que l’intelligence artificielle et les sciences cognitives, transforment nos vies à une vitesse inédite. Dans ce contexte, il devient urgent de rééquilibrer les efforts pour soutenir des solutions qui placent l’humain au centre, protègent sa santé mentale et renforcent sa résilience.
La santé mentale s’impose désormais comme un secteur prioritaire en Europe et dans le monde. Les gouvernements, les institutions et les entreprises reconnaissent l’urgence de développer des outils fiables, accessibles et éthiques. Face à la demande croissante de soutien psychologique, il est essentiel de proposer des solutions numériques capables d’allier innovation, responsabilité et proximité. Ce nouvel équilibre représente un enjeu médical et social, mais aussi une condition clé pour préparer l’avenir de nos sociétés dans un environnement technologique en mutation constante.
Dans cette dynamique, la CPTS Toulon Littoral et Bi2C Consulting concentrent leurs efforts sur l’intersection de trois tendances majeures: L’IA agentique, la télésanté, la protection des données personnelles.
En combinant ces dimensions, nous proposons un modèle qui répond aux attentes des individus tout en s’inscrivant dans les exigences des systèmes de santé.
En résumé, une innovation de nouvelle génération du domaine publique.
C’est dans ce contexte que Lucia s’impose comme une avancée majeure dans le soutien en santé mentale. Bien plus qu’un simple chatbot, Lucia est la façade visible d’un écosystème numérique puissant, conçu pour respecter la personne, protéger ses libertés et offrir une expérience à la fois fluide, accessible et sécurisée.
Lucia repose sur quatre piliers technologique :
- L’IA : offrir une écoute bienveillante, disponible à tout moment, et un premier niveau de soutien psychologique accessible à tous.
- La confidentialité absolue : garantir que les données ne soient jamais exploitées à des fins commerciales et donner à chaque utilisateur le contrôle total sur ses informations.
- L’éthique intégrée : prévenir les dérives possibles de l’IA et orienter vers des professionnels compétents lorsque la situation le nécessite.
- L’innovation continue et sécurisée : faire évoluer la solution dans le respect des normes les plus strictes, tout en intégrant les dernières avancées technologiques.
En réunissant ces dimensions, Lucia trace la voie d’une approche durable et responsable, où l’intelligence artificielle devient un levier de confiance pour améliorer l’accès aux soins, renforcer la prévention et soutenir le bien-être collectif. Elle n’est pas seulement une technologie, mais un véritable engagement pour l’avenir : celui d’une santé mentale plus inclusive, sécurisée et universelle.
VI/ Lucia aujourd’hui : un prototype déjà tourné vers l’avenir
Lucia est actuellement en version 1.0, un prototype déjà opérationnel sur ses fonctions principales. Tout ce qui est présenté dans cette page — sécurité par design, supervision humaine, architecture multi-agents, accessibilité universelle — guide déjà notre développement. Certaines fonctionnalités sont en place, d’autres sont encore en cours de consolidation.
Nous avançons avec une exigence simple : mieux vaut une mise en ligne progressive mais sûre, plutôt qu’un déploiement rapide sans garanties. Chaque étape est validée pour rester fidèle à nos priorités : protéger la santé mentale, garantir la confidentialité des données et construire une solution inclusive.
Lucia n’est donc pas une promesse lointaine, mais une réalité en construction : un outil qui s’améliore en continu pour offrir une expérience fiable, sécurisée et respectueuse de chaque utilisateur.
Une Question?
N’oublie pas ! Lucia est aussi à ta disposition pour répondre à tes questions, qu’elles concernent la CPTS Toulon Littoral, son site internet ou d’autres thématiques en lien avec ses missions.
Grâce à une information claire et fiable, elle t’oriente vers les ressources appropriées et t’accompagne dans ta recherche de renseignements.