Темные данные. Практическое руководство по принятию правильных решений в мире недостающих данных

Темные данные. Практическое руководство по принятию правильных решений в мире недостающих данных

Авторы:

Жанры: Экономика, Базы данных

Циклы: не входит в цикл

Формат: Фрагмент

Всего в книге 106 страниц. Год издания книги - 2021.

Человечество научилось собирать, обрабатывать и использовать в науке, бизнесе и повседневной жизни огромные массивы данных. Но что делать с данными, которых у нас нет? Допустимо ли игнорировать то, чего мы не замечаем? Британский статистик Дэвид Хэнд считает, что это по меньшей мере недальновидно, а порой – крайне опасно. В своей книге он выделяет 15 влияющих на наши решения и действия видов данных, которые остаются в тени. Например, речь идет об учете сигналов бедствия, которые могли бы подать жители бедных районов, если бы у них были смартфоны, результатах медицинского исследования, которые намеренно утаили или случайно исказили, или данных, ставших «темными» из-за плохого набора критериев для включения в выборку. Хэнд также рассказывает о том, какие меры могут сгладить эффект «темных данных» и как их можно обратить себе на пользу. Книга будет интересна широкому кругу читателей, интересующихся дата-сайенс, программированием и статистикой.

Читать онлайн Темные данные. Практическое руководство по принятию правильных решений в мире недостающих данных


Переводчик М. Белоголовский

Редактор В. Ионов

Главный редактор С. Турко

Руководитель проекта А. Василенко

Корректоры Е. Аксёнова, А. Кондратова

Компьютерная верстка К. Свищёвв

Художественное оформление и макет Ю. Буга


© 2020 by David J. Hand

This edition published by arrangement with the Science Factory, Louisa Pritchard Associates and The Van Lear Agency LLC.

© Издание на русском языке, перевод, оформление. ООО «Альпина Паблишер», 2021


Все права защищены. Данная электронная книга предназначена исключительно для частного использования в личных (некоммерческих) целях. Электронная книга, ее части, фрагменты и элементы, включая текст, изображения и иное, не подлежат копированию и любому другому использованию без разрешения правообладателя. В частности, запрещено такое использование, в результате которого электронная книга, ее часть, фрагмент или элемент станут доступными ограниченному или неопределенному кругу лиц, в том числе посредством сети интернет, независимо от того, будет предоставляться доступ за плату или безвозмездно.

Копирование, воспроизведение и иное использование электронной книги, ее частей, фрагментов и элементов, выходящее за пределы частного использования в личных (некоммерческих) целях, без согласия правообладателя является незаконным и влечет уголовную, административную и гражданскую ответственность.

Посвящается Шелли


Предисловие

Перед вами необычная книга. Почти все, что издается на эту тему – будь то популярная литература о больших или открытых данных, обработке данных или пособия по статистическому анализу, – основывается на том, что у вас уже есть. Речь идет об информации, хранящейся в компьютере, ящиках рабочего стола или аудио-, видеозаписях вашего смартфона. Но эта книга совсем о другом. Она о данных, которых у вас нет. Возможно, вы пытаетесь получить их прямо сейчас или когда-то безуспешно пытались сделать это, а может быть, ошибочно полагаете, что они у вас имеются. Как бы то ни было, речь пойдет о данных, которых у вас нет.

Я утверждаю и далее продемонстрирую это на многих примерах, что отсутствующие данные важны не менее тех, которыми мы располагаем. Вы сможете сами убедиться, что неизвестные нам данные являются причиной многих заблуждений, порой имеющих катастрофические последствия. Я покажу, как и почему это происходит. Затем я расскажу, как этого можно избежать – на что именно стоит обращать внимание, чтобы обойти неприятности. А в завершение, когда вы поймете, как возникают темные данные и как они создают нам проблемы, я покажу, как с их помощью перевернуть с ног на голову традиционное представление об анализе данных и, если вы достаточно проницательны, глубже вникнуть в свою область, улучшить процесс принятия решений и выбора действий.

Мое собственное понимание темных данных развивалось постепенно, на протяжении всей карьеры. Я благодарю всех, кто подкидывал мне проблемы, которые, как я постепенно осознал, были не чем иным, как проблемами темных данных. Я выражаю признательность всем, кто вместе со мной искал способы их решения. Сферы, где возникали эти проблемы, варьировались от медицинских исследований и фармацевтической промышленности до государственной и социальной политики, финансового сектора и производства – ни одна сфера человеческой деятельности не свободна от рисков, которые несут с собой темные данные.

Отдельно хочу поблагодарить тех, кто любезно согласился пожертвовать своим временем, чтобы прочитать рукопись этой книги, а именно Кристофороса Анагностопулоса, Нила Ченнона, Найла Адамса и трех анонимных читателей от издательства. Они помогли мне избежать неловкости перед вами, сократив число допущенных ошибок. Питер Таллак, мой агент, помог найти идеального издателя для этой работы, любезно давал мне советы и направлял работу над книгой в целом. Мой редактор из издательства Princeton University Press Ингрид Гнерлих была мудрым и ценным гидом в вопросах оформления проекта. Наконец, я особенно признателен своей жене профессору Шелли Ченнон, за ее вдумчивую критику моих рукописей. Благодаря ее вкладу книга стала значительно лучше.

Имперский колледж, Лондон

Часть I

Темные данные

Происхождение и последствия

Глава 1

Темные данные

Незримая сила, которая формирует наш мир

Призрак данных

Как-то во время прогулки я встретил странного пожилого человека, который что-то высыпал на пешеходную дорожку примерно через каждые 15 м. Я не смог сдержать любопытства и поинтересовался, что это он такое делает.

– Рассыпаю слоновий порошок, – совершенно серьезно ответил он. – Слоны не выносят его запах, поэтому держатся подальше.

– Постойте, но в наших краях нет слонов, – улыбнулся я.

– Вот именно! – воскликнул он. – Это очень эффективное средство.

Этот забавный случай служит хорошим прологом для вещей куда более серьезных, о которых я собираюсь рассказать.

Каждый год корь убивает почти 100 000 человек. Один из 500 заболевших умирает от осложнений, многие страдают от необратимой потери слуха или от поражения головного мозга. К счастью, для Соединенных Штатов это редкое заболевание – например, в 1999 г. было зарегистрировано всего 99 случаев. Однако внезапная вспышка кори в январе 2019 г. привела к тому, что в штате Вашингтон была объявлена чрезвычайная ситуация. Некоторые штаты также сообщили о резком увеличении числа случаев заражения корью


С этой книгой читают
Десять великих экономистов от Маркса до Кейнса

Настоящее издание представляет собой сборник работ выдающегося экономиста Йозефа Шумпетера (1883–950), которые были отобраны для публикации самим автором, но увидели свет в виде книги только после его смерти. Каждый из вошедших в книгу биографически-теоретических очерков посвящен жизни и трудам классиков экономической науки, работавших во второй половине XIX – первой половине XX столетия, с большинством из которых Шумпетер был знаком лично.Книга представляет интерес не только для специалистов по истории экономической мысли, но и для широкого круга читателей.


Как богатые страны стали богатыми, и почему бедные страны остаются бедными
Жанр: Экономика

В настоящей книге известный норвежский экономист Эрик Райнерт показывает, что богатые страны стали богатыми благодаря сочетанию государственного вмешательства, протекционизма и стратегических инвестиций, а не благодаря свободной торговле. По утверждению автора, именно такая политика была залогом успешного экономического развития, начиная с Италии эпохи Возрождения и заканчивая сегодняшними странами Юго-Восточной Азии. Показывая, что современные экономисты игнорируют этот подход, настаивая и на важности свободной торговли, Райнерт объясняет это ним расколом в экономической науке между континентально-европейской традицией, ориентированной на комплексную государственную политику, с одной стороны, и англо-американской, ориентированной на свободную торговлю, — с другой. Написанная доступным языком, книга представляет интерес не только для специалистов по экономической истории и теории, но и для широкого круга читателей. Перевод с английского How Rich Countries Got Rich… and Why Poor Countries Stay Poor by Erik S.


Проложите "трубопровод", по которому потекут деньги
Автор: Барк Хэджес
Жанр: Экономика

Книга о том, как во времена новой общественно-экономической формации каждый может проложить свой собственный "финансовый трубопровод"; как выбрать правильную стратегию и создавать множественные источники пассивного дохода.


Государства Прибалтики 2.0. Четверть века «вторых республик»

В предлагаемой вниманию читателя монографии впервые сделана попытка комплексного рассмотрения основных социально-экономических и политических характеристик Латвии, Литвы и Эстонии. 25 лет независимости – достаточное время для того, чтобы сделать выводы о характеристиках прибалтийской «модели» экономики и политики. Небольшие размеры Прибалтики сочетаются с масштабными проблемами в отношениях этих государств с Россией. Именно здесь были запущены и реализованы процессы разрушения советской модели в экономике и политике конца 80-х – начала 90-х годов ХХ века.


В поисках роста: Приключения и злоключения экономистов в тропиках
Жанр: Экономика

Экономический рост — благо для страны, так как он улучшает жизнь простых людей. Но почему одни страны растут быстрее, чем другие? Почему попытки международных организаций и развитых стран стимулировать рост в бедных странах далеко не всегда приводили к успеху? Какие ошибки совершают политики и о чем следует помнить в будущем? Книга, которую вы держите в руках — не учебник по теориям экономического роста. Она скорее представляет собой путеводитель по тем дорогам, которыми шли экономисты в попытках сделать бедные страны богатыми.


Изощренный механизм эксплуатации

В книге раскрывается сущность и формы, а также причины изменения современных капиталистических методов эксплуатации трудящихся в условиях HTP, построенных на выжимании все большей прибыли из квалификации, интеллектуальных сил и нервной энергии работников. Особое внимание уделено современным методам управления персоналом: осуществлению надзора и налаживанию «человеческих отношений», повышению качества «трудовой жизни», «гуманизации труда», влиянию роста эксплуатации на положение и здоровье трудящихся. Для широкого круга читателей.


Начало всех Начал

И сказал Господь: да будет свет… Наивные полагают, что это и было началом. Но нет, гораздо раньше было Начало всех Начал. А потом да, очень много всего: Вселенная, дивный сад, дерево познания добра и зла, треугольник Адама, Евы и Лилит, неистовый Мафусаил с мечом в руке, бунт ангелов, истребление драконов, стрела в сердце Каина, всемирный потоп и поголовное истребление нефелимов, стоккимов и прочих великанов.…И первая на свете радуга, очень важный знак, о значении которого, увы, забыли.


Том 4. Кресси. Трилогия
Автор: Брет Гарт
Жанр: Вестерн

Повесть «Кресси» — это история любви деревенской девушки, прямой, смелой и непосредственной, к образованному человеку.«Степной найденыш», «Сюзи», «Кларенс», — составляют трилогию, в центре которой история жизни главного героя — Кларенса Бранта. Как и многие другие произведения Б. Гарта, повести рассказывают о жизни золотоискателей, развращающей власти золота, о мужестве людей, отвергнутых буржуазным обществом.


Старуха и горшки
Жанр: Сказка

В книге рассказывается история главного героя, который сталкивается с различными проблемами и препятствиями на протяжении всего своего путешествия. По пути он встречает множество второстепенных персонажей, которые играют важные роли в истории. Благодаря опыту главного героя книга исследует такие темы, как любовь, потеря, надежда и стойкость. По мере того, как главный герой преодолевает свои трудности, он усваивает ценные уроки жизни и растет как личность.


Совушка - мудрая головушка
Жанр: Сказка

В книге рассказывается история главного героя, который сталкивается с различными проблемами и препятствиями на протяжении всего своего путешествия. По пути он встречает множество второстепенных персонажей, которые играют важные роли в истории. Благодаря опыту главного героя книга исследует такие темы, как любовь, потеря, надежда и стойкость. По мере того, как главный герой преодолевает свои трудности, он усваивает ценные уроки жизни и растет как личность.