Deep-Reinforcement-Learning (Deep RL) ist eine vielversprechende Technik, die es service-orientierten Systemen ermöglicht, sich selbständig an offene und dynamische Umgebungen anzupassen. Allerdings basieren die Entscheidungen für solche Anpassungen auf tiefen neuronalen Netzen, die für Menschen praktisch undurchschaubar sind - eine Art Blackbox. Das ist sowohl für die Entwickler:innen von service-orientierten Systemen als auch für die Anbieter und Nutzenden problematisch.

Chat4XAI soll dabei helfen, diese Hürde zu überwinden. Ähnlich wie ChatGPT basiert dieser KI-Chatbot auf einem Large Language Model (LLM), welches eine Interaktion in natürlicher Sprache ermöglicht. Das Ziel: Im Dialog mit Chat4XAI sollen Entwickler:innen und Anwender:innen von service-orientierten Systemen die Entscheidungen des Systems besser nachvollziehen können. Dies soll nicht nur die Entwicklung der Systeme unterstützen, sondern auch zu mehr Vertrauen und Rechtssicherheit beitragen.

Am 30.11.2023 stellt Jone Bartel die Arbeit auf der 21st International Conference on Service-Oriented Computing (ICSOC) in Rom vor.

Conference Paper

Metzger, A., Bartel, J., Laufer, J. (2023). An AI Chatbot for Explaining Deep Reinforcement Learning Decisions of Service-Oriented Systems. In: Monti, F., Rinderle-Ma, S., Ruiz Cortés, A., Zheng, Z., Mecella, M. (eds) Service-Oriented Computing. ICSOC 2023. Lecture Notes in Computer Science, vol 14419. Springer, Cham. https://doi.org/10.1007/978-3-031-48421-6_22

Abstract

Deep Reinforcement Learning (Deep RL) is increasingly used to cope with the open-world assumption in service-oriented systems. Deep RL was successfully applied to problems such as dynamic service composition, job scheduling, and service adaptation. While Deep RL offers many benefits, understanding the decision-making of Deep RL is challenging because the action-selection policy that underlies its decision-making essentially appears as a black box. Yet, understanding the decision-making of Deep RL is key to help service developers perform debugging, support service providers to comply with relevant legal frameworks, and facilitate service users to build trust. We introduce Chat4XAI to provide natural-language explanations of the decision-making of Deep RL. Compared with visual explanations, the reported benefits of natural-language explanations include better understandability for non-technical users, increased user acceptance, and more efficient explanations. Chat4XAI leverages modern AI chatbot technology and dedicated prompt engineering. Compared to earlier work on natural-language explanations using classical software-based dialogue systems, using an AI chatbot eliminates the need for eliciting and defining potential questions and answers up-front. We prototypically realize Chat4XAI using OpenAI’s ChatGPT API and evaluate the fidelity and stability of its explanations using an adaptive service exemplar.

Keywords

chatbot, explainable AI, reinforcement learning, service engineering, service adaptation