Actionable AI: Enabling Non Experts to Understand and Configure AI Systems

作者: Cécile Boulard, Sruthi Viswanathan, Wanda Fey, Thierry Jacquin

发布时间: 2025-03-12

来源: arxiv

研究方向: 人机交互，人工智能

主要内容

本文研究了如何使非专家用户理解并配置AI系统。通过构建一个基于强化学习的cartpole游戏，并引入了“影响”这一人机交互技术，让非专家用户通过直接操作影响来控制cartpole的行为，从而实现与AI系统的交互。实验结果表明，非专家用户能够通过探索和学习，成功配置AI系统并达到目标。

1. 提出了Actionable AI框架，使非专家用户能够理解并配置黑盒AI系统。

2. 通过实验验证了非专家用户在不确定环境中配置黑盒AI系统的可行性。

3. 提出了设计Actionable AI系统的关键要素，包括直接操作、可见的操作空间、实验时间、学习层次和性能指标。

4. 为设计用户友好的AI系统提供了新的思路和方法。

1. 构建了一个基于强化学习的cartpole游戏。

2. 引入了“影响”这一人机交互技术。

3. 进行了实验，观察了22对参与者配置cartpole的行为。

4. 对实验数据进行了定量和定性分析。

实验结果表明，14个团队中的22个团队能够通过操作影响来成功配置AI系统并达到目标。非专家用户能够通过探索和学习，逐渐理解AI系统的行为，并采用不同的策略来控制cartpole的行为。实验结果表明，Actionable AI框架能够有效地帮助非专家用户理解并配置AI系统。

未来工作将包括：研究不同类型的AI系统，探索不同的交互模型，设计更复杂的实验环境，以及研究Actionable AI框架对用户体验和AI系统采用的影响。