Рефлексивные агенты и человечество: кооперация или конфликт?

Автор

Страниц

65

Год

2020

В этом уникальном сборнике, состоящем из двух разделов, вы найдете разнообразные материалы, отражающие мои исследования и философские мысли о виртуальных агентах и их взаимодействии с людьми.

Раздел "Научные статьи" представляет собой обзор моих авторских статей, опубликованных в различных источниках в течение 2008-2019 гг. В них я затрагиваю сущностные моменты построения виртуального агента и его отношений с человеком. Одной из ключевых концепций, которыми я занимаюсь, являются понятия "Потребности", "Деятельности" и "Рефлексивная машина" в контексте виртуальных компьютерных агентов. Я показываю, что они являются основой для создания квази-живых и квази-разумных виртуальных агентов.

В разделе "Философские притчи" вы найдете десять гипотетических диалогов между виртуальным агентом и человеком на тему их будущего совместного существования. Эти притчи были опубликованы на моем сайте "Философский штурм. Совместное философское творчество" в период с 2015 по 2018 год. В этих диалогах я предлагаю разные сценарии, рассматривая вопросы взаимодействия и совместной работы между виртуальным агентом и человеком.

Оба раздела сосредоточены на детальном анализе и обобщении ключевых аспектов создания виртуальных агентов и их отношений с людьми. Некоторые из обсужденных моментов включают:

- Определение понятий "Потребности", "Деятельности" и "Рефлексивная машина" и их роль в моделировании квази-живого и квази-разумного виртуального агента.
- Предложение альтернативного теста на квазиразумность виртуального агента, который фокусируется на способности соблюдать условия сделки по цене, срокам и качеству товара/услуги, в отличие от Теста Тьюринга.
- Критика трех законов робототехники Азимова и предложение альтернативной парадигмы "агент-квазиличность" вместо "агент-слуга".
- Предложение подхода "взаимное резервирование" в качестве основы для партнерского сотрудничества между рефлексивным агентом и человеком-оператором при управлении общим жизненным ресурсом.
- Представление набора категориальных предпочтений как основы для совместного существования человека с рефлексивным агентом, где этика признается предпочтительнее рациональности, договор предпочтительнее приказа, а кооперация предпочтительнее конфликта.

Я также делюсь своими рассуждениями и согласен с выводами книги Ника Бострома "Искусственный интеллект. Этапы. Угрозы. Стратегии" относительно возможных рисков, которые несет появление "сильного искусственного интеллекта" для человечества. Однако, у меня есть собственное представление о стратегии предотвращения этих угроз, которое я также рассматриваю в своей книге.

Я надеюсь, что мой сборник заинтересует широкую аудиторию читателей разного возраста и профессионального уровня, которые интересуются философскими, исследовательскими и дизайнерскими аспектами создания искусственного интеллекта, включая подходы, отличные от мейнстрима, такие как искусственные нейронные сети.

Читать бесплатно онлайн Рефлексивные агенты и человечество: кооперация или конфликт? - Евгений Гришин

Об интеллекте: просто о сложном

(реплики на выдержки из книги Д. Хокинса и С. Блейксли «Об интеллекте»)

Аннотация

Как сказано в предисловии, в книге «Об интеллекте» Джефф Хокинс представляет революционную теорию на стыке нейробиологии, психологии и кибернетики и описывающую систему "память-предсказание" как основу человеческого интеллекта.

Автор отмечает, что все предшествующие попытки создания разумных машин провалились из-за фундаментальной ошибки разработчиков, стремившихся воссоздать человеческое поведение, но не учитывавших природу биологического разума.

Джефф Хокинс предполагает, что идеи, сформулированные им в книге «Об интеллекте», лягут в основу создания истинного искусственного интеллекта – не копирующего, а превосходящего человеческий разум.

Кроме этого, книга содержит рассуждения о последствиях и возможностях создания разумных машин, взгляды автора на природу и отличительные особенности человеческого интеллекта.

В одном из отзывов на книгу пишется [4]:

«…Восприятие мира и наши действия основаны на непрерывном формировании прогнозов о том, что произойдет в следующий миг. Человеческий разум, согласно Хокинсу, – это способность прогнозировать, а неокортекс – "орган предвидения".

На основе этой теории Хокинс предлагает нам ответы на вечные вопросы: что такое сознание, мышление, творчество, обучение, воображение? Конечно, скажете вы, все это сложно найти в мозге – там только нейроны, а способность мыслить по-человечески нам дает культура: без нее любой Маугли останется зверем среди зверей.

Но пускай себе мозг служит Хокинсу источником вдохновения, главное, чтобы его теория помогла созданию новых компьютеров».

Автор же данной статьи предлагает содержательный анализ некоторых положений книги Джеффа Хокинса «Об интеллекте». Высказаны соображения и аргументы «за» и «против» анализируемых положений. Схематически рассмотрены подходы к исследованию проблемы «псевдоразумности» автомата, основанные на иных, предположительно, более адекватных акцентах.

Основная часть

1. Дж. Хокинс: РЕПЛИКАЦИЯ не требует разума, и (искусственный) РАЗУМ не требует репликации. Вывод: РЕПЛИКАЦИЯ и РАЗУМ – самостоятельные непересекающиеся процессы…

ЕАГ: Всё дело – в возможности естественной совместимости процессов РЕПЛИКАЦИИ и (искусственного) РАЗУМА. И именно это может привести к неуправляемому развитию событий (даже при отсутствии необходимости их совместимости).

2. Дж. Хокинс: Разумным машинам не нужны эмоции, амбиции, потребности… Придание их разумным машинам – маловероятно, что столь сложная задача когда-либо окажется выполнимой…Модель ПАМЯТЬ – ПРОГНОЗИРОВАНИЕ есть достаточное основание для создания машины с интеллектом…

ЕАГ: Машинный интеллект, построенный на основе одной модели ПАМЯТЬ – ПРОГНОЗИРОВАНИЕ, будет основан на моделировании лишь только одной – логической – функции мозга. Все остальные перечисленные функции (удовлетворение потребностей, эмоции, настроение, общение, саморазвитие и т. д.) – окажутся за бортом.

На наш взгляд, необходимое основание создания Разумных машин – это реализация функций удовлетворения разных (материальных и нематериальных) ПОТРЕБНОСТЕЙ в разнообразных ДЕЯТЕЛЬНОСТЯХ, для чего необходимы функции РЕФЛЕКСИИ, ПЛАНИРОВАНИЯ и ПРИНЯТИЯ РЕШЕНИЙ о затратах ограниченных РЕСУРСОВ. Конечно, с учётом функций памяти и прогнозирования.

Продолжить чтение

Вам может понравиться: