The efficiency trap: why optimising everything can backfire, badly | Mathematics | The Guardian
Тотальна optimisation має три пастки: без запасу міцності система сиплеться при першому стресі, як лікарні без вільних ліжок, вузьке "найкраще" покращує вимірюване ціною невимірюваного, а ідеально раціональні окремі гравці разом влаштовують хаос на кшталт flash crash 2010 року. AI все це підсилює, бо спокушає прибрати людей-наглядачів, натаскується на leaderboard і user satisfaction замість розсудливості, а взаємодія тисяч агентів стає непередбачуваною.
Оптимізувати все підряд це як зняти гальма, щоб машина стала легшою.