Совместимость. Как контролировать искусственный интеллект

Совместимость. Как контролировать искусственный интеллект

Авторы:

Жанры: Компьютерная литература, Научпоп

Циклы: Книжные проекты Дмитрия Зимина , Библиотека фонда «Династия»

Формат: Полный

Всего в книге 108 страниц. Год издания книги - 2021.

В массовом сознании сверхчеловеческий искусственный интеллект — технологическое цунами, угрожающее не только экономике и человеческим отношениям, но и самой цивилизации. Конфликт между людьми и машинами видится неотвратимым, а его исход предопределенным. Выдающийся исследователь ИИ Стюарт Рассел утверждает, что этого сценария можно избежать. В своей новаторской книге автор рассказывает, каким образом люди уже научились использовать ИИ, в диапазоне от смертельного автономного оружия до манипуляций нашими предпочтениями, и чему еще смогут его научить. Если это случится и появится сверхчеловеческий ИИ, мы столкнемся с сущностью, намного более могущественной, чем мы сами. Как гарантировать, что человек не окажется в подчинении у сверхинтеллекта? Для этого, полагает Рассел, искусственный интеллект должен строиться на новых принципах. Машины должны быть скромными и альтруистичными и решать наши задачи, а не свои собственные. О том, что это за принципы и как их реализовать, читатель узнает из этой книги, которую самые авторитетные издания в мире назвали главной книгой об искусственном интеллекте. Все, что может предложить цивилизация, является продуктом нашего интеллекта; обретение доступа к существенно превосходящим интеллектуальным возможностям стало бы величайшим событием в истории. Цель этой книги — объяснить, почему оно может стать последним событием цивилизации и как нам исключить такой исход. Введение понятия полезности — невидимого свойства — для объяснения человеческого поведения посредством математической теории было потрясающим для своего времени. Тем более что, в отличие от денежных сумм, ценность разных ставок и призов с точки зрения полезности недоступна для прямого наблюдения. Первыми, кто действительно выиграет от появления роботов в доме, станут престарелые и немощные, которым полезный робот может обеспечить определенную степень независимости, недостижимую иными средствами. Даже если робот выполняет ограниченный круг заданий и имеет лишь зачаточное понимание происходящего, он может быть очень полезным. Очевидно, действия лояльных машин должны будут ограничиваться правилами и запретами, как действия людей ограничиваются законами и социальными нормами. Некоторые специалисты предлагают в качестве решения безусловную ответственность.

Читать онлайн Совместимость. Как контролировать искусственный интеллект


Переводчик Наталья Колпакова

Научный редактор Борис Миркин, д-р техн. наук

Редактор Антон Никольский

Издатель П. Подкосов

Руководитель проекта И. Серёгина

Корректоры И. Астапкина, М. Миловидова

Компьютерная верстка А. Фоминов

Дизайн обложки Ю. Буга


Фото на обложке Shutterstock


© Stuart Russell, 2019

All rights reserved.

© Издание на русском языке, перевод, оформление. ООО «Альпина нон-фикшн», 2021

© Электронное издание. ООО «Альпина Диджитал», 2021

* * *

Посвящается

Лой, Гордону, Люси, Джорджу и Айзеку


Эта книга издана в рамках программы «Книжные проекты Дмитрия Зимина» и продолжает серию «Библиотека „Династия“». Дмитрий Борисович Зимин — основатель компании «Вымпелком» (Beeline), фонда некоммерческих программ «Династия» и фонда «Московское время». Программа «Книжные проекты Дмитрия Зимина» объединяет три проекта, хорошо знакомые читательской аудитории: издание научно-популярных переводных книг «Библиотека „Династия“», издательское направление фонда «Московское время» и премию в области русскоязычной научно-популярной литературы «Просветитель». Подробную информацию о «Книжных проектах Дмитрия Зимина» вы найдете на сайте ziminbookprojects.ru.

Предисловие

Зачем эта книга? Почему именно сейчас?

Это книга о прошлом, настоящем и будущем нашего осмысления понятия «искусственный интеллект» (ИИ) и о попытках его создания. Эта тема важна не потому, что ИИ быстро становится обычным явлением в настоящем, а потому, что это господствующая технология будущего. Могущественные государства начинают осознавать этот факт, уже некоторое время известный крупнейшим мировым корпорациям. Мы не можем с точностью предсказать, как быстро будет развиваться технология и по какому пути она пойдет. Тем не менее мы должны строить планы, исходя из возможности того, что машины далеко обойдут человека в способности принятия решений в реальном мире. Что тогда?

Все, что может предложить цивилизация, является продуктом нашего интеллекта; обретение доступа к существенно превосходящим интеллектуальным возможностям стало бы величайшим событием в истории. Цель этой книги — объяснить, почему оно может стать последним событием цивилизации и как нам исключить такой исход.

Общий план книги

Книга состоит из трех частей. Первая часть (главы с первой по третью) исследует понятие интеллекта, человеческого и машинного. Материал не требует специальных знаний, но для интересующихся дополнен четырьмя приложениями, в которых объясняются базовые концепции, лежащие в основе сегодняшних систем ИИ. Во второй части (главы с четвертой по шестую) рассматривается ряд проблем, вытекающих из наделения машин интеллектом. Я уделяю особое внимание контролю — сохранению абсолютной власти над машинами, возможности которых превосходят наши. Третья часть (главы с седьмой по десятую) предлагает новое понимание ИИ, предполагающее, что машины всегда будут служить на благо человечеству. Книга адресована широкому кругу читателей, но, надеюсь, пригодится и специалистам по ИИ, заставив их пересмотреть свои базовые предпосылки.

Глава 1. Что, если мы добьемся своего?

Много лет назад мои родители жили в английском городе Бирмингеме возле университета. Решив уехать из города, они продали дом Дэвиду Лоджу, профессору английской литературы, на тот момент уже известному романисту. Я с ним так и не встретился, но познакомился с его творчеством, прочитав книги «Академический обмен» и «Тесный мир», в которых главными героями были вымышленные ученые, приезжающие из вымышленной версии Бирмингема в вымышленную версию калифорнийского Беркли. Поскольку я был реальным ученым из реального Бирмингема, только что переехавшим в реальный Беркли, создавалось впечатление, что некто из «Службы совпадений» подает мне сигнал.

Меня особенно поразила одна сцена из книги «Тесный мир». Главное действующее лицо, начинающий литературовед, выступая на крупной международной конференции, обращается к группе корифеев: «Что, если все согласятся с вами?» Вопрос вызывает ступор, потому что участников больше устраивает интеллектуальная битва, чем раскрытие истины и достижение понимания. Мне тогда пришло в голову, что крупнейшим деятелям в сфере ИИ можно задать тот же вопрос: «Что, если вы добьетесь своего?» Ведь их целью всегда являлось создание ИИ человеческого или сверхчеловеческого уровня, но никто не задумывался о том, что произойдет, если нам это удастся.

Через несколько лет мы с Питером Норвигом начали работать над учебником по ИИ, первое издание которого вышло в 1995 г.[1] Последний раздел этой книги называется «Что произойдет, если у нас получится?». В нем обрисовывается возможность хорошего и плохого исходов, но не делается конкретного вывода. К моменту выхода третьего издания в 2010 г. многие наконец задумались о том, что сверхчеловеческий ИИ необязательно благо, но эти люди находились по большей части за пределами магистральной линии исследования ИИ. К 2013 г. я пришел к убеждению, что это не просто очень важная тема, но, возможно, основной вопрос, стоящий перед человечеством.

В ноябре 2013 г. я выступал с лекцией в Даличской картинной галерее, знаменитом художественном музее в южной части Лондона. Аудитория состояла главным образом из пенсионеров — не связанных с наукой, просто интересующихся интеллектуальными вопросами, — и мне пришлось избегать любых специальных терминов. Мне это показалось подходящей возможностью впервые опробовать свои идеи на публике. Объяснив, что такое ИИ, я огласил пятерку кандидатов на звание «величайшего события в будущем человечества»:


С этой книгой читают
Уравнение Бога. В поисках теории всего
Автор: Мичио Каку

«Уравнение Бога» – это увлекательный рассказ о поиске самой главной физической теории, способной объяснить рождение Вселенной, ее судьбу и наше место в ней. Знаменитый физик и популяризатор науки Митио Каку прослеживает весь путь удивительных открытий – от Ньютоновой революции и основ теории электромагнетизма, заложенных Фарадеем и Максвеллом, до теории относительности Эйнштейна, квантовой механики и современной теории струн, – ведущий к той великой теории, которая могла бы объединить все физические взаимодействия и дать полную картину мира.


Расстроенная психика. Что рассказывает о нас необычный мозг

Все решения и поступки зарождаются в нашей психике благодаря работе нейронных сетей. Сбои в ней заставляют нас страдать, но порой дарят способность принимать нестандартные решения и создавать шедевры. В этой книге нобелевский лауреат Эрик Кандель рассматривает психические расстройства через призму “новой биологии психики”, плода слияния нейробиологии и когнитивной психологии. Достижения нейровизуализации, моделирования на животных и генетики помогают автору познавать тайны мозга и намечать подходы к лечению психических и даже социальных болезней.


Охотники за нейтрино. Захватывающая погоня за призрачной элементарной частицей

Эта книга – захватывающий триллер, где действующие лица – охотники-ученые и ускользающие нейтрино. Крошечные частички, которые мы называем нейтрино, дают ответ на глобальные вопросы: почему так сложно обнаружить антиматерию, как взрываются звезды, превращаясь в сверхновые, что происходило во Вселенной в первые секунды ее жизни и даже что происходит в недрах нашей планеты? Книга известного астрофизика Рэя Джаявардхана посвящена не только истории исследований нейтрино. Она увлекательно рассказывает о людях, которые раздвигают горизонты человеческих знаний.


Занимательное дождеведение: дождь в истории, науке и искусстве

«Занимательное дождеведение» – первая книга об истории дождя.Вы узнаете, как большая буря и намерение вступить в брак привели к величайшей охоте на ведьм в мировой истории, в чем тайна рыбных и разноцветных дождей, как люди пытались подчинить себе дождь танцами и перемещением облаков, как дождь вдохновил Вуди Аллена, Рэя Брэдбери и Курта Кобейна, а Даниеля Дефо сделал первым в истории журналистом-синоптиком.Сплетая воедино научные и исторические факты, журналист-эколог Синтия Барнетт раскрывает удивительную связь между дождем, искусством, человеческой историей и нашим будущим.


Знание-сила, 2006 № 12 (954)

Ежемесячный научно-популярный и научно-художественный журнал.


Магнетизм высокого напряжения. Максвелл. Электромагнитный синтез
Автор: Miguel Angel Sabadell

Джеймс Клерк Максвелл был одним из самых блестящих умов XIX века. Его работы легли в основу двух революционных концепций следующего столетия — теории относительности и квантовой теории. Максвелл объединил электричество и магнетизм в коротком ряду элегантных уравнений, представляющих собой настоящую вершину физики всех времен на уровне достижений Галилея, Ньютона и Эйнштейна. Несмотря на всю революционность его идей, Максвелл, будучи очень религиозным человеком, всегда считал, что научное знание должно иметь некие пределы — пределы, которые, как ни парадоксально, он превзошел как никто другой.


Квантовая модель атома. Нильс Бор. Квантовый загранпаспорт

Нильс Бор — одна из ключевых фигур квантовой революции, охватившей науку в XX веке. Его модель атома предполагала трансформацию пределов знания, она вытеснила механистическую модель классической физики. Этот выдающийся сторонник новой теории защищал ее самые глубокие физические и философские следствия от скептиков вроде Альберта Эйнштейна. Он превратил родной Копенгаген в мировой центр теоретической физики, хотя с приходом к власти нацистов был вынужден покинуть Данию и обосноваться в США. В конце войны Бор активно выступал за разоружение, за интернационализацию науки и мирное использование ядерной энергии.


Алексей Васильевич Шубников (1887—1970)

Книга посвящена жизни и творчеству выдающегося советского кристаллографа, основоположника и руководителя новейших направлений в отечественной науке о кристаллах, основателя и первого директора единственного в мире Института кристаллографии при Академии наук СССР академика Алексея Васильевича Шубникова (1887—1970). Классические труды ученого по симметрии, кристаллофизике, кристаллогенезису приобрели всемирную известность и открыли новые горизонты в науке. А. В. Шубников является основателем технической кристаллографии.


Посланник

Война. Беда пришла на Землю. Она стала ареной самых кровопролитных сражений и ужасающих катастроф за всё время её существования. Нет надежды на победу, есть лишь желание того, чтобы победа досталась врагу как можно труднее. Города Земли лежат в руинах, и на остатках государств водружён красный флаг с пятью золотыми звёздами. Возродится ли Земля из руин? И снова живой корабль Шаргион и его экипаж летят к Земле... Их ждут огонь, боль, потери, и невероятные приключения в чужих мирах!


Флоренс и Джайлс

Должна признаться, хотя, может, и не следовало бы, что для девочки моего возраста запас слов у меня весьма богатый. Но из-за того, что мой дядюшка — убежденный противник образования для женщин, я вынуждена скрывать свое красноречие, держать его под спудом, позволяя себе только простейшие, самые примитивные высказывания. Со временем скрытность стала моей второй натурой, а виной всему опасения, серьезнейшие опасения: заговори я вслух так, как думаю, все поймут, что я читаю книги, и тогда доступ в библиотеку для меня будет закрыт.


Все, чего они хотели

В книге рассказывается история главного героя, который сталкивается с различными проблемами и препятствиями на протяжении всего своего путешествия. По пути он встречает множество второстепенных персонажей, которые играют важные роли в истории. Благодаря опыту главного героя книга исследует такие темы, как любовь, потеря, надежда и стойкость. По мере того, как главный герой преодолевает свои трудности, он усваивает ценные уроки жизни и растет как личность.


Литературная Газета, 6581 (№ 51-52/2016)

"Литературная газета" общественно-политический еженедельник Главный редактор "Литературной газеты" Поляков Юрий Михайлович http://www.lgz.ru/.