本文来自微信公众号： 原理 ，作者：小雨
人类与人工智能（AI）的合作，被广泛视为未来的一种工作模式。人们期待，人类与AI的联手能够取得比人或AI单独工作时更好的结果。
然而，2024年，一项发表于《自然·人类行为》的系统综述与元分析，汇总了74项涉及人类与AI协作的研究，涵盖图像分类、房价预测、编写代码等多种不同的任务。结果发现，平均而言，人类与AI协作的表现，反而不如两者中表现更好的一方。
这一发现令人警醒，也引发了人们的质疑：人类与AI的协作究竟是否值得继续探索？
来自马克斯·普朗克人类发展研究所的研究人员认为，2024年元分析得出的悲观结论，可能源于以往的实验设计没有充分考虑人类学习的作用。为了支持这一观点，他们重新分析了上述74项研究，得出的结果比此前的结论乐观得多。
这项新研究已于近期发表在《美国国家科学院院刊》上。
被忽视的学习
学习、经验和反馈，是人类作出有效决策的关键。然而，在以往的人类与AI协作的研究中，这些因素究竟得到了多大程度的重视？
在新研究中，研究人员更详细地考察了人类与AI的互动方式。他们想知道，如果AI能够解释自己的判断，或者人类能够在每次决策后获得正确答案的反馈，从而有机会学习并调整自己使用AI的方式，结果是否会有所不同。
分析发现，大多数研究的实验设计都缺少已知能够促进人类学习的条件。典型的研究通常只进行一次实验，没有练习环节，参与者需要完成的任务次数中位数为30次，也不提供结果反馈。
而在74项研究中，只有10项向参与者提供了某种形式的反馈，只有3项考察了人类使用AI辅助的方式如何随着任务的反复进行而发生变化，没有任何一项研究通过实验直接改变反馈条件，以检验其产生的影响。
解释与反馈
为了进一步探究这些因素对人机协作的影响，研究人员展开了更深入的分析。他们采用一种称为贝叶斯元回归分析的统计方法，比较了提供反馈与不提供反馈的研究，同时考虑AI是否对自己的建议作出解释。
由此，他们得出了另一个令人意外的结果：当参与者同时获得AI解释和结果反馈时，人类和AI的协作呈现出正向协同的趋势，表现有可能超越两者中更好的一方。相比之下，只有AI解释、没有结果反馈的研究则表现出明显的负向协同效应，而单独提供结果反馈也没有带来明确的改善。
这表明，AI解释本身可能不足以改善人类与AI协作。当人们能够通过结果反馈，逐渐学会判断AI的可靠性时，解释才更有可能发挥作用。
尚待回答的问题
总的来说，研究人员认为，过往的研究在很大程度上忽视了人类学习的作用。
不过，这项研究仍然存在局限。由于此前的74项研究都没有通过实验直接比较不同的学习条件，例如提供结果反馈与不提供结果反馈，研究人员只能根据各项研究的实验设计特征进行比较。因此，要确定人类学习是否真的能够改善人类与AI的协作，还需要开展新的实验，以获得更有力的因果证据。
另一个尚未解决的问题是，这些发现能否适用于生成式AI和大语言模型（LLM）。通过与聊天机器人的语言交互，人们或许能够更容易地获得个性化的反馈和解释，从而促进学习。但要真正实现这一点，人们还需要知道什么才是正确的。由于聊天机器人本身也可能出错，它们给出的回答不能被视为独立的结果反馈。
与此同时，认知卸载也带来了新的风险。认知卸载指的是将原本需要自己完成的思考工作交给AI。从中长期来看，这可能妨碍学习，甚至导致某些能力的退化。
重新思考人类与AI的协作
研究人员因此呼吁，人类与AI交互研究需要进行一次范式转变：不再仅仅关注人类与AI合作时的表现，还应重视人类如何在合作过程中学习和调整。
这一认识也对未来的AI系统设计提出了新的要求。研究人员强调，在设计AI系统及其交互方式时，应当从一开始就将人类视为能够不断学习的个体。只有这样，才能更充分地发挥人类与AI协作的潜力。
#参考来源：
https://www.mpg.de/27037803/human-learning-is-an-underestimated-factor-in-the-success-of-human-ai-teams?c=2249https://www.pnas.org/doi/10.1073/pnas.2536100123
#图片来源：
封面及首图：MPI for Human Development