黑箱

黑箱是指一种难以深入探究其内部机制以了解其运作方式的系统。神经网络常被视作黑箱。这是因为当神经网络做出特定预测时，要清晰解释其背后的原因颇具难度。目前，在人工智能领域，模型可解释性已成为一个备受热议且研究活跃的领域。