化学、生物学和医学领域的研究者正越来越多地借助人工智能（AI）模型提出新假设。然而，这些算法得出结论的依据及其普适性往往并不明确。德国波恩大学的一项最新研究警示，研究者在使用AI时可能存在误区，同时指出了在何种条件下可以信任模型。相关成果发表于《细胞报告：物理科学》（Cell Reports Physical Science）期刊。

自适应机器学习算法能力强大，但其决策过程通常不透明。例如，若用数千张汽车图片训练人工智能，它能识别新图片中是否有汽车，但无法确定其判断是基于车轮、挡风玻璃等关键特征，还是无关因素（如车顶天线）。这种“黑匣子”特性意味着研究者不能盲目依赖其结果。

“可解释性”是AI研究的关键课题，旨在揭示模型的决策逻辑。研究人员指出，某些AI模型专门用于提高其它模型的可解释性。然而，即使模型揭示了判断标准（如天线），仍需评估其科学合理性——人类知道天线与汽车无关，但AI可能误将其作为关键特征。

在化学和药物研究中，生成模型能提出具有特定活性的新分子结构，但无法解释其原理。研究强调，当前AI模型本质上是统计工具，可能关注无关特征。验证其建议需通过实验，例如合成并测试分子，但这过程成本高昂。因此，研究者需谨慎评估AI的结果，避免过度解读相关性为因果关系。

研究最后强调，尽管AI能推动科学进步，但必须清醒认识其局限性：它可能发现人类忽略的规律，也可能依赖无意义的特征。合理使用AI需结合科学验证，而非盲目信任其输出。