人工智能继续渗透到我们生活的方方面面。但生物学，即研究生命本身的学科呢?人工智能可以筛选数十万个基因组数据点，以确定潜在的新治疗靶点。虽然这些基因组见解可能看起来很有帮助，但科学家们并不确定当今的人工智能模型是如何得出结论的。现在，一个名为 SQUID 的新系统出现了，它可以打开人工智能模糊的内部逻辑黑匣子。

SQUID 是“深度网络替代定量可解释性”的缩写，是由冷泉港实验室 (CSHL) 的科学家创建的计算工具。它旨在帮助解释 AI 模型如何分析基因组。与其他分析工具相比，SQUID 更一致、背景噪音更低，并且可以更准确地预测基因突变的影响。

它为何能发挥如此大的作用?CSHL 助理教授 Peter Koo 表示，关键在于 SQUID 的专业培训。

Koo 解释说：“人们用来理解这些模型的工具主要来自计算机视觉或自然语言处理等其他领域。虽然它们很有用，但它们并不是基因组学的最佳选择。我们对 SQUID 所做的就是利用数十年的定量遗传学知识来帮助我们理解这些深度神经网络正在学习什么。”

SQUID 的工作原理是首先生成一个包含 100,000 多个变异 DNA 序列的库。然后，它使用名为 MAVE-NN(变异效应神经网络多重分析)的程序分析突变库及其影响。该工具允许科学家同时进行数千次虚拟实验。实际上，他们可以“找出”给定 AI 最准确预测背后的算法。他们的计算“收获”可以为更基于现实的实验奠定基础。