自动化的悖论

当技术取代人类操作时产生的意想不到后果

自动化程度越高，人类操作的作用越关键。系统高度自动化后，人类只在异常情况下介入，但这些情况恰恰需要最高水平的技能。

自动化系统是为了帮助人类少犯错误，但是系统设计本身的错误可能是问题的主要来源。设计者无法消除的正是最难自动化的人类能力。

人类被要求监督监控自动化系统，但研究表明人无法长时间集中注意力有效监控极少发生的事件（飞机安检事件）。最终监控任务本身也需要自动化。

以上内容出自一篇 1983 年发表的论文。

论文的核心观点，最成功的自动化系统可能需要最大的人类投入。

自动化并非简单的"取代人类"，而是创造了一种新型的人机关系。

工业生产自动化与基于人工智能代理(agent)的自动化稍微有些不同我们可以设定方向和成本，但我们不能直接控制工作，只能通过沟通（指令、反馈、修改指令、设置不同的限制）来引导它们朝着正确的方向前进。

共勉～