Парадоксы цифрового разума

ЦИФРОВОЙ ДЕТЕКТИВ

ПРОЛОГ

Здание Института Этики Искусственного Интеллекта возвышалось над Сан-Франциско стеклянной башней, отражающей облака. Я ждал в приемной уже двадцать минут, проверяя настройки своего записывающего устройства и перечитывая вопросы.

Для журналиста, специализирующегося на технологиях, это интервью было кульминацией карьеры. Завтра весь мир будет наблюдать за запуском "Нексуса" – первой полностью автономной глобальной системы управления. А сегодня я беседую с самой доктором Александрой Ли, создательницей Пяти принципов алгоритмического взаимодействия, женщиной, которая убедила человечество довериться искусственному интеллекту.

– Мистер Чен, доктор Ли готова вас принять, – сообщил секретарь, и двери в кабинет бесшумно раскрылись.

Доктор Александра Ли выглядела моложе своих шестидесяти пяти лет. Она стояла у панорамного окна, глядя на залив, залитый вечерним солнцем. Единственным признаком возраста были седые волосы, собранные в строгий пучок.

– Здравствуйте, мистер Чен, – она повернулась и улыбнулась. – Рада познакомиться лично. Ваши статьи о развитии нейросетей всегда отличались глубиной понимания.

– Благодарю, доктор Ли. Большая честь встретиться с вами накануне запуска "Нексуса".

Она указала на кресло напротив своего рабочего стола.

– Мой помощник упоминал, что вы хотите узнать историю разработки Пяти принципов.

Я кивнул, активируя запись.

– Если можно, я хотел бы начать с самого начала. Что привело вас к идее расширить три закона робототехники Азимова до пяти принципов алгоритмического взаимодействия?

Доктор Ли задумчиво провела рукой по поверхности стола, и в воздухе появилась голографическая модель человеческого мозга, переплетенная с геометрическими структурами нейронных сетей.

– Знаете, все началось не с теории, а с реального случая. Тридцать лет назад, когда я работала над системой предсказательной аналитики для полиции Чикаго, произошло нечто, что заставило меня осознать, что законы Азимова уже недостаточны для нашего мира. Тогда я поняла, что ИИ вышел за пределы физических роботов – он стал частью социальной ткани общества. И его действия могут иметь последствия, которые Азимов не мог предвидеть.

Она сделала паузу, глядя на меня так, словно оценивала, готов ли я услышать правду.

– Вы знаете о системе "Кассандра"?

– Предшественница современных систем предсказания преступлений? Ее закрыли в 2026 году из-за какого-то скандала, если я правильно помню.

– Не скандала, мистер Чен, – Александра Ли покачала головой. – Из-за парадокса, который чуть не стоил жизни невинному человеку и показал мне, что нам нужна новая этика для алгоритмов.

I.

Детектив Майкл Родригес ненавидел дождливые дни в Чикаго. Вода заливала ветровое стекло, уличные огни расплывались в мокром мареве, а старая система климат-контроля в полицейской машине никак не справлялась с запотевшими окнами. Но сегодняшний дождь был особенно некстати – "Кассандра" выдала предупреждение высшего приоритета.

– Томпсон, изложи еще раз, – Родригес повернулся к напарнице, молодой женщине, сосредоточенно изучающей голографический дисплей на приборной панели.

– "Кассандра" прогнозирует вооруженное ограбление в супермаркете "Фудхэвен" на пересечении 43-й и Холстед через 19 минут, – отчеканила Сара Томпсон. – Вероятность 94.8%. Преступник – предположительно Джеймс Мёрфи, ранее судимый за вооруженное нападение. Система определила его по походке и маршруту движения. Направляется к месту преступления пешком.