Ai for explaining decisions in multi-agent environments

Sarit Kraus, Amos Azaria, Jelena Fiosina, Maike Greve, Noam Hazon, Lutz Kolbe, Tim Benjamin Lembcke, Jörg P. Müller, Sören Schleibaum, Mark Vollrath

פרסום מחקרי: פרק בספר / בדוח / בכנספרסום בספר כנסביקורת עמיתים

34 ציטוטים ‏(Scopus)

תקציר

Explanation is necessary for humans to understand and accept decisions made by an AI system when the system's goal is known. It is even more important when the AI system makes decisions in multi-agent environments where the human does not know the systems' goals since they may depend on other agents' preferences. In such situations, explanations should aim to increase user satisfaction, taking into account the system's decision, the user's and the other agents' preferences, the environment settings and properties such as fairness, envy and privacy. Generating explanations that will increase user satisfaction is very challenging; to this end, we propose a new research direction: Explainable decisions in Multi-Agent Environments (xMASE). We then review the state of the art and discuss research directions towards efficient methodologies and algorithms for generating explanations that will increase users' satisfaction from AI systems' decisions in multi-agent environments.

שפה מקוריתאנגלית
כותר פרסום המארחAAAI 2020 - 34th AAAI Conference on Artificial Intelligence
עמודים13534-13538
מספר עמודים5
מסת"ב (אלקטרוני)9781577358350
סטטוס פרסוםפורסם - 2020
אירוע34th AAAI Conference on Artificial Intelligence, AAAI 2020 - New York, ארצות הברית
משך הזמן: 7 פבר׳ 202012 פבר׳ 2020

סדרות פרסומים

שםAAAI 2020 - 34th AAAI Conference on Artificial Intelligence

כנס

כנס34th AAAI Conference on Artificial Intelligence, AAAI 2020
מדינה/אזורארצות הברית
עירNew York
תקופה7/02/2012/02/20

טביעת אצבע

להלן מוצגים תחומי המחקר של הפרסום 'Ai for explaining decisions in multi-agent environments'. יחד הם יוצרים טביעת אצבע ייחודית.

פורמט ציטוט ביבליוגרפי