您当前的位置: 首页 > 旅游

自动化会让我们变愚蠢

2018-10-28 12:17:40

自动化会让我们变愚蠢?

Mark Anderson说软件正在蚕食世界,他或许是从一个风投家的角度看到了无尽商机。但《浅薄(The Shallows: What the Internet Is Doing to Our Brains)》以及《玻璃笼子:自动化与我们(The Glass Cage: Automation and Us)》两本书的作者Nicholas Carr却感受到的是对人类未来的忧患——软件导致的知识工作自

人工智能已经来临。现在的计算机不仅目光敏锐而且行动敏捷。它们可以感知环境,解决棘手问题,做出微妙判断,并懂得学习经验。它们已经能够复制许多我们当中有价值的智力人才,我们现在已经把过去许多自己做的复杂工作交到了它们手上。

但是人类对计算机自动化的依赖程度不断加深可能要付出高昂代价。令人不安的证据表明,在我们越来越依赖于各种人造物以后,人类自身的智能正在变弱。智能软件似乎不能提高我们的智能,而是令我们变蠢了。

这是一个缓慢的过程。波自动化浪潮始于二战后,制造业开始在工厂安装电子控制设备,从而显着提升了生产效率和企业利润。不仅如此,自动化被誉为是解放者,让被替代的工人得以从事更有活力的工作,发挥更有价值的才能。

然后到了1950年代,哈佛商学院的JamesBright教授开始研究自动化在不同行业(从重工业、炼油业到面包烘烤等)中收到的实效。结果他发现,工厂情况并未得到好转。新机器并没有把人往上赶,而是往往把人挤到了更单调乏味、要求更低的岗位。比方说,自动化铣床并没有把金属加工工人变成了富于创意的艺术家,而是把他变成了一个按按钮的人。

Bright因此得出结论认为,自动化对工人产生的重要效应不是 提升技能 而是 去技术化 。 经验教训越来越清晰, 他在1966年写道: 高度复杂的设备并不需要熟练的操作者。 技能 已经被植入到机器里面了。

今天,我们正在更广的范围内再次感受到这一教训。随着软件拥有了分析和决策能力,自动化已经飞跃出了工厂,进入到白领世界。计算机正在接管长久以来被认为是受到过良好教育以及训练有素的专业人士才能从事的知识工作:飞行员得靠计算机开飞机;医生要向它们请教诊断结论;建筑师用它们来设计建筑。自动化的这波新浪潮席卷了每一个人。

计算机并没有夺走了有才能的人的所有工作,但是却改变了工作的完成方式。专业技能同样的去技术化迹象正在不断累积,甚至连高度专业的领域亦是如此。今天的计算机操作者就像昨天的机器操作者。

比方说天上的自动驾驶。发明1个世纪以来,自动驾驶已经让飞行更高效更安全。随着1970年代计算机化 飞控系统 的引入,这一趋势仍在延续。但是现在航空专家担心我们走得太远了。我们已经把太多的驾驶舱任务交给了计算机,以至于飞行员正在失去优势,并开始出现英国飞行研究者MatthewEbbatson所谓的 技能退化 。

2007年,准备博士论文的Ebbatson对一组飞行员进行了一项实验。实验内容是让飞行员在飞行模拟中做出一项难度很高的机动动作 让引擎失效的波音飞机在恶劣天气下着陆,希望借此评估一下这些人的技能(比方说评估空速的精确度等)。

随后他把模拟结果与飞行员的实际飞行记录进行了对比。对比发现飞行员对控制的熟练程度与该飞行员近手工操作飞机的时间具有紧密联系(注:熟能生巧嘛,这个研究似乎多此一举)。越是不需要频繁练习的可容错操作,技能就退化得越快。可是现在飞机的起飞和降落大部分已经由计算机包办了,因此这两块恰恰正是飞行员缺乏练习的地方。

而人工操作能力的一点点退化都可能造成悲剧事故。手艺生疏的飞行员更有可能在紧急情况下犯错。近的多次飞行事故均牵扯到自动化相关的飞行员人为错误,其中就包括2009年美国大陆航空3407航班在布法罗的坠机事故以及法航447在大西洋的坠机,还是就是2013年韩亚航空在旧金山的着落失败事故等。

去年,美国联邦航空管理局(FAA)驾驶舱技术特别调查小组发布了一份报告,报告记录了坠机与过度信赖自动化之间存在着越来越多的关联。飞行员已经 习惯于先观察发生了什么事情再去做出反应而不是保持前瞻性。 现在FAA已经敦促航空公司要让飞行员花更多的时间去联系人工操作。

软件改进后,使用软件的人也就不大愿意去磨练自己的专门技能。这应该归咎于那些提供了大量提示的应用;而那些不那么热心的、更简单一些的应用却会促使人更努力去思考、行动和学习。

10年前,荷兰乌特勒支大学的信息科学家让一群人执行复杂的分析和规划任务,这些人有的用不提供任何辅助的基本软件,有的则用提供了大量辅助的复杂软件。研究人员发现,使用简单软件的人反而制定出了更好的策略,所犯错误更少并且形成了更出色的工作技能。而使用更先进软件的那些人往往却在遭遇棘手问题时 毫无目标地乱点鼠标 。本该是有帮助的软件实际上却令这部分人头脑短路,不懂学习。

加州大学伯克利分校的哲学家HubertDreyfus在2002年写道,人类的专门知识是 经历了各种情况后而形成的,观察角度都是一样的,但是需要不同的策略决策。 换句话说,熟能生巧,只有不断地使用这些技能才能克服各种不同的挑战。

相反,现代软件的目标则是让我们轻松面对这些挑战。艰苦、费力的工作正是程序员渴望自动化的 毕竟这是立竿见影的东西。换言之,进行自动化的人的兴趣点以及做工作的人的兴趣点之间存在着根本性的紧张关系。

但无论如何,自动化的范围还在继续扩大。电子病历的推广使得医生越来越依赖于在软件模板的指导下进行病人身体检查。软件引进了有用的检查列表和告警信息,但是也使得医学愈发的程式化,并且疏远了医生与病人之间的距离。

年间,纽约州立大学奥尔巴尼分校的TimothyHoff进行了一项研究,研究调查了75名采用计算机化系统进行初级诊疗的医生。医生认为软件弱化了自己对病人的了解,令其 对诊疗做出明智决策的能力 受到削弱。

哈佛医学院教授BethLown,2012年的一篇合着的期刊文章也对医生受到 屏幕驱动 的现象提出了警告,文章认为医生按照计算机指示而非病人的病情叙述进行的思考是狭隘的。糟糕的情况有可能会导致错失重要的诊断信号。

这种风险并非理论上存在而已。诊断杂志近的一篇论文对美国的埃博拉私病例的误诊进行了检查。他们认为,医院临床医生用来记录病人信息的数字化模板有可能对误诊起到了误导的作用。研究人员认为,这些工具为了能捕捉数据而进行了优化,但却牺牲了分类诊断的实用性,所以存在很大的局限性,导致用户只见树木不见森林。其结论是,医疗软件无法替代基本的病史采集、检查技能以及批判性思维。


牛大魔王
小龙虾苗多少钱一斤
推荐阅读