Responsabilité
Qui peut déclencher une action ? Avec quelles ressources, quelles limites et quelle validation humaine ?
Recherche
Comprendre l’autonomie, programmer la responsabilité
Les agents peuvent choisir leurs actions et interagir avec des systèmes réels. Notre recherche étudie comment leur donner un cadre explicite, vérifiable et compréhensible pour les personnes qui les développent et les utilisent.
Les questions que nous étudions
Composition
Comment déléguer entre agents tout en conservant des responsabilités et des permissions lisibles ?
Preuves
Comment relier une action à son autorisation et comprendre son origine à partir du programme et de la trace ?
Des principes aux mécanismes
Probabilistic Agentic Programming (PAP)
PAP place la responsabilité explicite au cœur de la programmation agentique. Ses principes architecturaux restent indépendants de la syntaxe d’un langage.
Formalisation
Un modèle formel décrit les conditions d’autorisation et de médiation. Les propriétés démontrées précisent ce que ces mécanismes garantissent dans le fragment étudié.
Touba
Le langage et le runtime donnent une réalisation exécutable de ces principes : contrats compilés, contrôles avant les effets et traces reliées aux sources.
Ce que les résultats nous apprennent
La qualité d’une réponse et l’autorité sont deux questions distinctes
Un modèle peut proposer une action incorrecte. Un contrôle de gouvernance efficace maintient les limites du programme et fournit une trace exploitable de sa décision.
L’interface compte
La façon de présenter les capacités et l’historique influence les résultats des modèles. Son évaluation accompagne celle des mécanismes d’exécution.
Les contrats doivent rester lisibles à travers les couches
Relier source, représentation compilée et exécution permet d’étudier les responsabilités sur toute la chaîne, y compris lors d’une délégation.
Articles
- Prépublication arXiv
Responsibility Boundaries for Agentic Systems: A Comparative Evaluation of Probabilistic Agentic Programming
Frontières de responsabilité : formalisation, abstractions et évaluation comparative.
Lire sur arXiv
Les défis à poursuivre
Nous étudions l’extension des propriétés formelles à la concurrence et aux interruptions, la gouvernance des effets distants et la facilité avec laquelle les développeurs comprennent et auditent les responsabilités.
Chronologie
- Automne 2025
Début du projet autour de la responsabilité explicite et de l’autonomie bornée.
- Hiver 2026
Étude de l’état de l’art et formalisation des fondements de PAP.
- Été 2026
Travaux sur les frontières de responsabilité et l’évaluation comparative.
- Automne 2026
Approfondissement de la formalisation et des mécanismes exécutables de Touba.