«Помилятися - це людина; Вільям Е. Вуган зробив це спостереження ще в 1969 році. Передача контролю над автоматизованою системою несе в собі потенціал для того, щоб система зіткнулася і завдала серйозної шкоди до її перевірки.
Автоматизація не нова, але вона набуває набагато більшого поширення завдяки інтеграції цифрових та фізичних систем. Перевага автоматизації в масштабах - це велика ефективність. Але недоліком покладатися на систему "встановити і забути" є те, що хтось може не встановити її належним чином.
З системою, яка простежується без втручання та жодного способу зупинки машини, ви можете мати руйнівні наслідки. Відповідно, техніка може створити тип ситуації, зображену в «Учневі чаклуна», коли те, що, як видається, полегшує життя, насправді виходить з-під контролю.
