“科技是懒人推动的!”


相信所有人在“摸鱼”或者“躺平”的时候,都曾经用这句话为自己找借口。


从蒸汽机的工业革命,到计算机的数字革命,技术的进步确实让人类在某些方面,越来越有躺平的资本。


作为最有潜力成为下一代平台的 AI 技术,会让人类变得“更懒”吗


好像确实是的,但这并不是个好消息。


根据发表在《机器人与人工智能前沿》杂志上的一项最新研究显示,当人类与 AI 和机器合作时,真的会“摸鱼偷懒”。


该研究的第一作者 Cymek 称:“团队合作既可以是一种祝福,也可以是一种诅咒。”


所以,在 AI 时代,人类最大的危机不是被机器取代,而是“懒到退化”?


一、机器助手,让人类“放松警惕”


当有了机器这样一个有力帮手时,会让人类变得比较“心大”。


德国柏林工业大学的研究人员向 42 名参与者提供了模糊的电路板图像,要求他们检查是否有缺陷。其中一半的参与者被告知,他们要处理的电路板已由一台名为“熊猫”的机器人检查过,并已标记出缺陷。


实验:模拟电路板质量控制的视觉搜索任务 |《机器人与人工智能前沿》研究


实际上,机器人“熊猫”在实验过程中检测到了 94.8% 的缺陷。所有参与者都看到了相同的 320 张扫描电路板图像,当研究人员仔细查看参与者的错误率时,他们发现,与“熊猫”一起工作的参与者,在任务后期捕捉到的缺陷较少,因为他们已经看到“熊猫”成功地标记了许多缺陷。


两组参与者几乎检查了整个电路板表面,花时间搜索,自我评价努力程度较高。结果是,与机器人合作的参与者平均发现了 3.3 个缺陷,独自完成任务的人平均发现了 4.23 个缺陷。


两组参与者检测到的缺陷的平均值和标准偏差 |《机器人与人工智能前沿》研究


研究称:“这表明参与者在与机器人伙伴合作时,可能不太专心地检查电路板。我们研究的参与者似乎保持了检查电路板的努力,但似乎检查是在较少的脑力劳动和对采样信息的关注下进行的。”


这意味着,如果他们被告知机器人已经检查了一部分,并体验到机器人的可靠后,他们就会发现更少的缺陷。在潜意识中,他们假设“熊猫”不太会漏掉缺陷,产生“社会惰化”效应


这项研究的影响对于依赖严格的质量控制的行业尤为重要。作者警告称,甚至是短时间内对人类注意力的放松,可能是由于过度依赖机器人的准确性,都可能危及安全。


研究人员 Onnasch 提到:“在更长的轮班时间内,当任务变得例行化,并且工作环境提供的性能监控和反馈较少时,动力的丧失往往更大。在制造业普遍存在,特别是在双重检查常见的与安全相关的领域,这可能对工作结果产生负面影响。”


当然,研究者的测试也有一些限制。比如,样本其实还不够大,而且在实验室中难以模拟“社会惰化”,因为参与者知道他们受到监视。Cymek 解释道:“主要的限制是实验室环境。要了解人机互动中动力丧失问题的严重性,我们需要走出实验室,在实际工作环境中与经验丰富的工人一起测试我们的假设,他们通常与机器人一起工作。”


二、“人机合作危机”


事实上,在实验室之外,人机合作导致的“堕化”早已经在现实世界中出现。


在自动驾驶领域,有一个与“社会惰化”相似的现象,叫做“自动化自满(Automation complacency)”,典型是由于有了自动化辅助而分心


2018 年 3 月,在美国亚利桑那州,配有安全员的Uber 自动驾驶汽车撞死一位骑自行车的人。警方的分析发现,如果安全员一直看着道路,安全员本可以在受害者前方 12.8 米处停下来,并避免悲剧。


特斯拉常常是美国媒体和监管机构重点关注的目标,原因常常是与自动驾驶有关的事故。一个典型的场景是,特斯拉司机在使用自动驾驶功能时睡觉,或玩游戏,并卷入致命车祸。


在当下的 AI 狂潮中,机器取代人类的预言越来越接近现实。一方认为机器会服务于人类,另一方则认为人类会不小心制造出邪恶之物。


在医疗领域,IBM 研发的 AI 系统“Doctor Watson”曾向癌症患者给出过不安全的用药建议。今年有论文指出,生成式 AI 已经可以通过美国医疗许可考试的三个部分。一个相似的迁移假设是,如果未来由 AI 对人类进行诊治,然后人类医生进行把关,人类医生是否又会出现“社会惰化”和“自动化自满”问题


前述研究的作者指出:“将人类和机器人的能力结合显然提供了许多机会,但我们也应该考虑,人机团队中可能发生的意外群体效应。当人类和机器人在一项任务上工作时,这可能会导致人类团队伙伴的动力损失,并使社交惰化等影响更有可能发生。”


还有人担心,AI 可能会影响人类思维和创造力,并削弱人际关系,从整个现实中分心。硅谷的生成式 AI 明星初创公司 Inflection 推出的聊天机器人 Pi,被设计成一位友善、支持的伴侣。创始人表示,Pi 是帮助人们应对孤独的工具,可以作为一个倾诉的对象。批评者则认为,这会让人逃离现实,而不是与真实的人类互动。


现在,人与工具的关系已经进化到一个新的层次。所有工具的诞生,其实都让人类变懒了,如扫地机让人免于清扫房屋,手机让人不用再记下电话号码。


但 AI 技术和此前的技术区别在于,将更多的思考和选择工作,都交给了 AI,而后者基本上是一个黑箱,这更像一种思考自主权的让渡。当人将开车决策完全交给自动驾驶,将医疗诊断都交由 AI 系统,潜在的代价与记不住电话号码的代价可能完全不同。


开发了历史上第一个聊天机器人的计算机科学家约瑟夫·维森鲍姆,曾将科学比喻成“一种上瘾的药物”,并由于服用剂量越来越大而成为“一种慢性毒药”,如将计算机引入一些复杂的人类活动,可能会没有回头路可走。


当人把思考、判断的权力交给机器,作为一种“参考”,“社会惰化”和“自动化自满”的魔鬼或许也潜伏其中,并可能随任务的重复成为一种慢性毒药。


本文来自微信公众号:极客公园 (ID:geekpark),作者:芯芯,编辑:靖宇