Все жанры Все авторы
Искусственный интеллект: необъяснимый, непредсказуемый, неконтролируемый. Роман Ямпольский. Саммари - Smart Reading

Искусственный интеллект: необъяснимый, непредсказуемый, неконтролируемый. Роман Ямпольский. Саммари

Автор

Страниц

15

Год

—

Это краткое содержание книги «Искусственный интеллект: необъяснимый, непредсказуемый, неконтролируемый» авторства Романа Ямпольского. В данном обзоре представлены ключевые идеи, важные мысли, а также примеры и практические кейсы, изложенные в оригинале.

В 2015 году на одном из заводов компании Volkswagen произошел трагический инцидент: робот-погрузчик неожиданно схватил работника и прижал его к металлической поверхности, в результате чего человек погиб. Это событие стало первым, но, к сожалению, не единственным случаем, когда искусственный интеллект стал причиной человеческой смерти. В ближайшем будущем подобные случаи могут произойти не только в производственных условиях, но и на улицах, и даже в наших домах, так как ИИ становится все более распространенным в повседневной жизни.

При разработке виртуальных помощников и предоставлении им множества функций мы зачастую забываем о рисках и мерах безопасности. Более того, у самого ИИ может быть свое собственное мнение и поведение, что добавляет неопределенности в его использование.

Как мы можем реагировать на эту быстроразвивающуюся ситуацию? К сожалению, времени для бездействия остается не так много. Однако, хорошей новостью является наличие четкого плана действий, который может помочь в минимизации рисков, связанных с интеграцией ИИ в различные сферы нашей жизни. Важно не только разрабатывать технологии, но и обеспечивать их безопасность, создавая этические и правовые рамки, которые защитят человечество от потенциальных угроз, вызванных неисправностями или неправильными решениями искусственного интеллекта.

Читать бесплатно онлайн Искусственный интеллект: необъяснимый, непредсказуемый, неконтролируемый. Роман Ямпольский. Саммари - Smart Reading

Оригинальное название:

AI: Unexplainable, Unpredictable, Uncontrollable


Автор:

Roman Yampolskiy


www.smartreading.ru

Лампа Аладдина 2.0

Эта история стара как мир. Юноша находит в песках пустыни старую лампу и освобождает всемогущего джинна. Средневековый алхимик стремится познать самые сокровенные тайны природы, и это не ускользает от внимания высших сил. Праведный раввин, движимый самыми благородными намерениями, вызывает к жизни голема, но очень скоро существо выходит из-под контроля хозяина. Тот, кто был (или казался) помощником, стал господином.

Да, такой сюжет существует многие столетия, но только в наши дни он стал реальностью. В XXI веке люди создали сущность, которая умнеет с каждым часом и которую они все еще считают искусственной.

Искусственному интеллекту (ИИ) посвящены тысячи статей и сотни книг, его созданием и изучением занимается множество людей в разных странах. Но едва ли 1 % специалистов всерьез озабочены вопросом: а можем ли мы контролировать ИИ и в какой степени он нам подвластен?

Мы не знаем ответа на этот вопрос. Зато видим, что чем умнее ИИ, тем более необъяснимы с человеческой точки зрения, непроверяемы и непредсказуемы его решения.

Три веские причины опасаться

Причина 1. Что ИИ сделает в следующий момент

Как AlphaZero удалось одержать победу в го? Этого не знают даже те, кто его разработал. Виртуальному игроку была поставлена задача и дан карт-бланш в рамках имеющихся у него возможностей. С прочими формами ИИ человек сегодня заключает тот же контракт.

Это выглядит очень рискованно даже в тех случаях, когда цель перед ИИ поставлена благая или хотя бы безобидная. Футуролог Ник Бостром еще в 2003 году предложил мысленный эксперимент, в котором перед ИИ была поставлена одна-единственная задача – увеличить производство канцелярских скрепок. Эксперимент заканчивался тем, что в скрепки была переработана вся Вселенная. Цель не всегда оправдывает средства – мы это знаем, а ИИ – нет.

Момент, когда ИИ превзойдет интеллектуальные возможности человечества, называется переходом в сингулярность. Все, что будет происходить на Земле и во Вселенной в сингулярности, доступно нашему пониманию в той же мере, как то, что происходило до Большого взрыва.

Или мы преувеличиваем тьму незнания? Тот же Бостром склонен смотреть на вещи более оптимистично. Можно предположить, что ИИ будет действовать в рамках известных нам физических законов (если по ходу дела не откроет новые). Возможно, будет иметь место конкуренция между разными типами ИИ (а природа конкуренции неплохо изучена экономистами и психологами). Кроме того, ИИ ведь будет человеческим созданием, а значит, с высокой вероятностью позаимствует ценности своих создателей…

Но главный вопрос, конечно, в том, чего будет хотеть сверхинтеллект. Тут важна разница между конечными и инструментальными целями. Первые могут оказаться какими угодно, а вот инструментальные цели, как заключает Ямпольский, «можно свести к одному стимулу любых агентов – стать самым умным агентом, что в качестве побочного эффекта может породить сверхсознание, воздействие которого на поведение агента сделает его еще менее предсказуемым для нас».

Словом, сверхинтеллект не будет спрашивать у нас, как ему половчее насоздавать триллионы новых скрепок.

Вам может понравиться: