Алгоритм судного дня. Как Facebook, Google, Microsoft, Apple и другие корпорации создают искусственный суперинтеллект и почему это приведет к катастрофе

© Вантух К.А., перевод на русский язык, 2022

© Оформление. ООО «Издательство «Эксмо», 2022

Искусственный интеллект уже среди нас, но выглядит при этом совсем не так, как мы предполагали. Он незаметен – и в то же время лежит в основе финансовых систем, электрических сетей и цепочек поставок розничной торговли. Это его невидимая рука указывает нам дорогу, когда мы ведем машину, решает за нас, какое слово мы собирались набрать на клавиатуре, подсказывает, что нам следует покупать, смотреть, слушать, читать. Именно на этой технологии сейчас строится наше будущее, поскольку она проникает во все аспекты нашей жизни: здравоохранение, жилищное строительство, сельское хозяйство, транспорт, спорт и даже в любовь, секс и смерть.

Искусственный интеллект (ИИ) – не очередная тенденция в среде высоких технологий, не модное словечко и не временное увлечение. Это третья эпоха в развитии вычислительной техники. Мы оказались свидетелями радикальных перемен и в этом смысле похожи на современников промышленной революции. Вначале никто не замечал никаких изменений, ведь в сравнении с продолжительностью их жизни они происходили постепенно. Когда же все кончилось, мир уже выглядел иначе: главными сверхдержавами стали Великобритания и Соединенные Штаты, а их индустриальная, военная и политическая мощь оказалась достаточной, чтобы задать облик следующего столетия.

Сейчас все и повсюду бесконечно обсуждают ИИ и его значение для будущего каждого из нас. Обычные темы вам известны: роботы отберут у нас рабочие места, роботы перевернут экономику с ног на голову, роботы в конце концов станут убивать людей. Замените слово «машина» словом «робот», и мы вернемся к дебатам, которые велись 200 лет назад. Естественно размышлять о последствиях новых технологий для наших рабочих мест и нашей способности зарабатывать деньги, поскольку мы уже видели революционные перемены в очень большом количестве отраслей. Понятно, что, думая об ИИ, мы неизбежно вспоминаем компьютер HAL 9000 из фильма «Космическая одиссея 2001 года», WOPR из «Военных игр», Скайнет из «Терминатора», Рози из «Джетсонов», Делорес из Westworld или любые другие антропоморфные воплощения ИИ из популярной культуры. Тем, кто не занят непосредственно в сфере ИИ, будущее представляется фантастическим или пугающим, причем в обоих случаях – в силу неверных причин.

Те, кто не участвует в каждодневной работе над ИИ, не способны корректно считывать контуры будущего, поэтому когда обычная публика пытается обсуждать ИИ, то либо говорит о роботах-завоевателях, которых видела в кино, либо относится к теме с маниакальным безудержным оптимизмом. Подобное отсутствие промежуточных тонов – своего рода проблема разработки ИИ: одни резко преувеличивают пользу от него, другие видят в нем непобедимое оружие.

Я это знаю, поскольку большую часть прошлого десятилетия посвятила исследованию ИИ и встречам с людьми и организациями как внутри, так и вовне этой экосистемы. Я выступала в качестве консультанта многих компаний, находящихся в самом центре работ по ИИ, включая Microsoft и IBM. Я встречалась с людьми, которые не входят в подобные фирмы, но обладают существенными финансовыми интересами в них: венчурными капиталистами, управляющими частными инвестиционными фондами, высокопоставленными должностными лицами в Министерстве обороны и Государственном департаменте, различными законодателями, считающими, что единственная перспектива отрасли – это регулирование со стороны государства. Кроме того, у меня были сотни встреч с академическими учеными и инженерами, работающими «в поле». Среди людей, непосредственно занятых в области ИИ, почти не встретишь ни крайних апокалиптических, ни утопических взглядов на будущее, которые нам, как правило, преподносят в новостях.