Droits, Devoirs et Éthique des Agents Autonomes

L'autonomie de décision et d'action d'agents logiciels ou robotiques est une propriété fondamentale des problématiques informatiques actuelles. On en trouve différentes définitions et mises en œuvre que ce soit dans le domaine des systèmes multi-agents, des systèmes robotique ou des interactions homme-système. Elle est devenue une caractéristique essentielle dans de nombreuses applications telles que le commerce électronique, les jeux interactifs, l'intelligence ambiante, l'assistance aux personnes, la robotique sociale ou collective, la robotique de défense ou de sécurité. Bien que recherchée et préservée, l'autonomie doit être bornée par des mécanismes de régulation et de contrôle, de représentations de droits et de devoirs, qui visent à assurer la cohérence, la conformité aux réglementations  voire l'éthique, du fonctionnement du ou des agents au sein du système ainsi que de l'ensemble formé par les agents et leurs utilisateurs ou opérateurs dans le cas de systèmes hybrides mêlant agents logiciels ou robotiques et humains. Les questions suivantes se posent : • Comment concevoir le contrôle d'un agent qui détient des données personnelles, qui assiste une personne souffrant de déficiences cognitives, qui possède des capacités de destruction de biens et de personnes ? • Quelles règles programmer pour respecter la conformité à un cadre réglementaire ou éthique donné, sous quelle forme ? • Comment gérer les conflits entre ces règles ? • Un agent peut-il être plus éthique qu'un être humain ? Peut-il l'empêcher de faire certaines actions ? • Comment les chercheurs et industriels qui imaginent, conçoivent, fabriquent et vendent des systèmes fondés sur un ou plusieurs agents autonomes peuvent-ils répondre à ces questions ? L'objet de cet atelier est d'organiser une réflexion commune sur les différents modèles présentés actuellement dans les différentes disciplines de l'Intelligence Artificielle en lien avec : • normes, réglementations, institutions, organisations, cadres éthiques ; • validation, cohérence de normes, d'institutions, d'organisations ; • contrôle d'agents autonomes au sein d'organisations, d'institutions, de systèmes normatifs ; • aspects dynamiques en termes d'émergence et d'évolution de normes ou d'organisations ; • concepts sociaux ou juridiques liés aux normes, aux cadres éthiques, aux organisations : autorité, pouvoir, dépendance, pénalités, contrats ; • partage d'autorité entre agents et opérateurs ou utilisateurs : règles de détention de l'autorité ou du pouvoir de décision, contrôle de l'interaction opérateur / agent, reprise en main ou veto émanant de l'opérateur ou des agents, conflits liés aux normes ou au cadre éthique • normes pour les agents et normes pour les utilisateurs ou opérateurs; • confiance et réputation pour la régulation entre agents autonomes au sein d'organisations, d'institutions ; • architectures d'agents normatifs. Les présentations pourront aborder ces concepts selon différentes problématiques telles que : langages et architectures, formalismes de représentation et de raisonnement, relations avec les opérateurs ou utilisateurs, intelligibilité par les opérateurs ou les utilisateurs, complémentarités et interactions entre les modèles du niveau multiagent et les modèles du niveau agent. Organisateurs • O. Boissier (ENSM Saint-Etienne) • J.C. Heudin (Institut de l'Internet et du Multimédia) • C. Tessier (ONERA) Soumissions L'atelier se veut un lieu d'échange et de discussions entre les jeunes chercheurs, chercheurs et industriels désireux de partager leurs connaissances sur les thèmes de l'atelier. Toute personne intéressée est invitée à envoyer un résumé (de 2 à 4 pages maximum), en français, sous forme électronique exclusivement, en pdf à boissier AT emse.fr avant le 20 mai. Dates importantes • 20 Mai 2013 : date limite de soumission • 2 Juillet 2013 : Atelier D2éA2 lors de la Plate-Forme IA