Черный ящик Пандоры

Mногие открытия и технологии можно использовать во благо человека или во вред. И не только в форме оружия: от бомбы до лазера. Но и более изыскано — например, чаек с полонием.

С изобретением компьютера сначала так и получалось: став помощником инженеров и врачей, компьютер также стал наводить ракеты на цели и управлять военным боем.

Однако на этом человечество не остановилось, предположив, что компьютер способен на большее, нежели чем просто стать очередным оружием в руках у злых дядь.

И появилась антиутопия злого супер-интеллекта: про бунт машин, всякого рода терминаторов, матриц и т.д. Все, так или иначе, про достижение и последующее осознание компьютерами своего интеллектуального превосходства над людьми с вытекающей из этого по компьютерному логичной целью уничтожения человечества за ненужностью для дальнейшего прогресса.

К счастью, за полвека существования этой антиутопии практических оснований утверждать, что компьютер может хоть что-то осознать и захотеть, так и не появилось. Поэтому антиутопией занимаются теперь, в основном, в Голливуде. А в целом, ни ученые, ни народ по этой теме больше не заморачиваются.

Правда остается еще опасность вреда от компьютерных вирусов. Но с ними как-то борются, и в целом глобальной проблемы пока не видно.

И вдруг оказалось, что зло от компьютеров может прийти совсем с неожиданной стороны.

В январе, как гром среди снеговой грозы, шарахнула сенсация — международная группа ученых опубликовала в журнале Science статью о проблемах теории функционала плотности (ТФП) — одного из важнейших численных методов современной квантовой химии.

Главный вывод статьи таков.

Последние 10 лет методы ТФП двигались в неправильном направлении, все больше наращивая ошибки вычислений, используемых в сотнях прикладных областей: от разработки новых материалов до создания новых лекарств.

Как такое вообще могло случиться? По чей вине или недосмотру?

И вот оказывается — нет недосмотра. И нет ничьей вины.

Виноват новый класс вирусов. Но не из тех, что вызывают у человека грипп или стирают информацию в компьютере. А из тех, что активируются в сознании людей, в результате использования компьютеров.