Цифровая этика

Новейшие прорывные технологии, внедрению которых во многом посвящен этот учебник, открывают перед компаниями огромные возможности. Но, применяя эти технологии, руководители, как правило, не имеют навыков и инструментов прогнозирования целого ряда рисков и возможных последствий их использования. ИТ-компании собирают персональные данные пользователей̆ и передают сторонним организациям, социальные сети манипулируют пользователями, даже крупные игроки не способны защитить данные клиентов, а алгоритмы, используя непрозрачные системы метрик, повышают статус одних социальных групп и дискриминируют другие. Также, что более важно, и руководители, и разработчики часто оказываются в ситуации выбора, часто неосознаваемого: между заботой о пользователе и соблюдением его интересов в части приватности и объективного к нему отношения – и интересами бизнеса по массированному сбору данных, управлению пользовательским поведением и т.д. Следует ли упоминать, что побеждают чаще последние?

Все эти вопросы, проблемы и риски сейчас принято относить к области Digital Ethics – цифровой этике (по другой терминологии Ethical Tech – этики технологий)1. Множатся истории организаций, столкнувшихся с такими проблемами, как нарушение конфиденциальности, утечки данных, алгоритмическая предвзятость, масштабные технологические ошибки, ошибки систем искусственного интеллекта (ИИ) и т. д. Эти ситуации приносят компаниям репутационные и финансовые риски. Распространение новых технологий не только дало новые возможности для бизнеса, но и возложило дополнительную ответственность на людей, которые создают и внедряют технические решения.

Но компании и госорганизации редко разрабатывают общий подход к оценке этических последствий использования технологий, и эти вопросы остаются на «обочине» процесса цифровой трансформации компании. В ряде случаев организация вынуждена соблюдать определенные этические нормы; например, еще недавно компания, продающая свою продукцию в Европе, вынуждена была соответствовать нормам европейского акта GDPR (General Data Protection Regulation2), довольно жестко регулирующего защиту персональных данных в Евросоюзе. Сейчас подобную роль в России выполняют некоторые требования Роскомнадзора. Однако такие случаи – пока лишь исключения, которые только подчеркивают общее правило. В любом случае, в 2022 году руководитель организации не может считать себя высокопрофессиональным, если он не задумывается об этических последствиях использования технологии в его компании, независимо от того, относится ли компания к области ИТ или нет.

Руководители в целом и CDTO в частности должны видеть и понимать потенциальные этические дилеммы и риски, которые могут возникнуть при разработке или использовании цифровых технологий, и закладывать ответственное отношение к этике в свою стратегию и основные принципы создания цифровых продуктов и сервисов. Компании, использующие этически неоднозначные решения при разработке продуктов, ставят под удар репутацию своего бренда. Организаций, имеющих собственный этический подход, пока не так много, но именно их можно назвать наиболее технологически зрелыми.

Рис. 1. 57% лидеров компаний на продвинутой стадии цифровой зрелости уделяют внимание этике технологий.