Как увидеть человеческую предвзятость
May. 30th, 2019 01:10 pm![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
lankasterskyЧеловеческая предвзятость (bias) проникает и влияет на все виды социального взаимодействия: стереотипы, предубеждения, шаблоны мышления и т.п.
Иногда общество замечает негативное влияние байеса и пытается его исправить, часто с перекосом то в одну, то в другую сторону (как колебания с затухающей амплитудой). Например, сейчас на пике общественного внимания гендерные и расовые стереотипы.
Иногда влияние байеса малозаметно и мы пока не обращаем на это большого внимания. Например, в спорте есть статистика, что родные стены помогают (матчи дома). Статистики выявили, что виной предвзятость судей, которые подчинаются воле болельщиков и часто судят в пользу "домашних" спортсменов. (Некоторые спортсмены тоже могут подчинятся воле толпы, если не могут контролировать эмоции.) Для борьбы с нечестным судейством придумывают видеоповторы, вводят дополнительных судей и т.п.
Иногда байес тяжело измерить статистически (мало данных, они плохо формализованы и тп), но помогают психологи, социологи, исследующие стимулы, управляющие личностью и социумом.
Хорошая новость состоит в том, что по мере набора данных модели машинного обучения помогают выявлять скрытые шаблоны в поведении людей и показывать нам места перегибов. "Бездушные машины" изначально лишены эмоций и предвзятостей, и если им скормить "чистые" данные, то на выходе нас ждут интересные откровения, недоступные простому взору. Процесс этот довольно сложный, наука Data Science, в которую входит machine learning (построение моделей машинного обучения), сравнительно молодая. Требуется соблюдать ряд правил, чтобы все получилось: уметь строить гипотезы (творческий подход), не путать причину со следствием (логическое мышление), кропотливо собирать и очищать данные (см. правило "г-но на входе - г-но на выходе") и тп. Одна из интереснейших книг, раскрывающих механизмы построения и интерпретации таких моделей - the signal and the noise (книга популярная, требуются элементарные знания статистики). Другая интересная серия книг, демонстрирующих, как отлавливать байесы с помощью анализа и наблюдений (без data science) - "Фрикономика", "Суперфрикономика" и "Когда грабить банк" тех же авторов (известных экономистов).
Когда вырабатываешь в себе навык построения таких моделей, начинаешь на многие вещи смотреть по-другому: видеть, как байесы управляют нашим сознанием, приходит понимание, как их избежать. И тут начинается самое интересное.
Иногда общество замечает негативное влияние байеса и пытается его исправить, часто с перекосом то в одну, то в другую сторону (как колебания с затухающей амплитудой). Например, сейчас на пике общественного внимания гендерные и расовые стереотипы.
Иногда влияние байеса малозаметно и мы пока не обращаем на это большого внимания. Например, в спорте есть статистика, что родные стены помогают (матчи дома). Статистики выявили, что виной предвзятость судей, которые подчинаются воле болельщиков и часто судят в пользу "домашних" спортсменов. (Некоторые спортсмены тоже могут подчинятся воле толпы, если не могут контролировать эмоции.) Для борьбы с нечестным судейством придумывают видеоповторы, вводят дополнительных судей и т.п.
Иногда байес тяжело измерить статистически (мало данных, они плохо формализованы и тп), но помогают психологи, социологи, исследующие стимулы, управляющие личностью и социумом.
Хорошая новость состоит в том, что по мере набора данных модели машинного обучения помогают выявлять скрытые шаблоны в поведении людей и показывать нам места перегибов. "Бездушные машины" изначально лишены эмоций и предвзятостей, и если им скормить "чистые" данные, то на выходе нас ждут интересные откровения, недоступные простому взору. Процесс этот довольно сложный, наука Data Science, в которую входит machine learning (построение моделей машинного обучения), сравнительно молодая. Требуется соблюдать ряд правил, чтобы все получилось: уметь строить гипотезы (творческий подход), не путать причину со следствием (логическое мышление), кропотливо собирать и очищать данные (см. правило "г-но на входе - г-но на выходе") и тп. Одна из интереснейших книг, раскрывающих механизмы построения и интерпретации таких моделей - the signal and the noise (книга популярная, требуются элементарные знания статистики). Другая интересная серия книг, демонстрирующих, как отлавливать байесы с помощью анализа и наблюдений (без data science) - "Фрикономика", "Суперфрикономика" и "Когда грабить банк" тех же авторов (известных экономистов).
Когда вырабатываешь в себе навык построения таких моделей, начинаешь на многие вещи смотреть по-другому: видеть, как байесы управляют нашим сознанием, приходит понимание, как их избежать. И тут начинается самое интересное.
