Table of Contents

Понимание предубеждений: основа принятия решений человеком

Предвзятость является фундаментальным аспектом человеческого познания, который влияет практически на каждое принятое нами решение, от обыденного выбора в нашей повседневной жизни до критических суждений, которые формируют наши отношения, карьеру и сообщества. Хотя мы часто гордимся тем, что являемся рациональными, объективными мыслителями, реальность такова, что наш мозг постоянно полагается на умственные ярлыки и бессознательные установки, которые могут ввести нас в заблуждение. Для педагогов, студентов, бизнес-лидеров и всех, кто стремится к созданию более справедливой среды, понимание природы и влияния предвзятости представляет собой важный первый шаг к значимым изменениям.

По своей сути, предвзятость относится к тенденции благоприятствовать одной точке зрения, группе или результату по сравнению с другой, часто приводя к несправедливому обращению или ошибочным суждениям. Эти предубеждения могут действовать как на сознательном, так и на бессознательном уровнях, хотя именно бессознательное разнообразие представляет собой наибольшую проблему. Бессознательный предвзятость относится к социальным стереотипам, установкам или убеждениям, которые придерживаются определенных групп людей, сформированных за пределами нашего сознательного осознания. Поскольку эти предубеждения функционируют ниже нашего порога осознания, они могут влиять на наши действия и решения без нашего знания, что делает их особенно трудными для идентификации и решения.

Различие между сознательным и бессознательным предубеждением имеет решающее значение для понимания того, как предубеждение проявляется в современном обществе. Сознательное предубеждение включает преднамеренную, преднамеренную дискриминацию, когда люди осознают свои предубежденные отношения и действуют на них сознательно. Бессознательное или неявное предубеждение, однако, действует автоматически и непреднамеренно, влияя на наше понимание, действия и решения способами, которые мы никогда не сможем распознать без преднамеренного размышления и вмешательства.

Наука, стоящая за бессознательными предубеждениями

Когнитивные предубеждения — это бессознательные и систематические ошибки в мышлении, которые происходят, когда люди обрабатывают и интерпретируют информацию в своем окружении и влияют на свои решения и суждения. Эти ментальные модели развиваются, когда наш мозг пытается управлять подавляющим количеством информации, с которой мы сталкиваемся ежедневно. Вместо тщательного анализа каждой части данных наш ум создает ярлыки — эвристику — которые позволяют нам принимать быстрые решения с минимальными когнитивными усилиями.

С эволюционной точки зрения эти ментальные ярлыки хорошо служили нашим предкам, позволяя быстро реагировать на угрозы и возможности в их среде. Однако в нашем сложном современном мире эти же механизмы могут приводить к систематическим ошибкам в суждениях. Эти предубеждения могут искажать восприятие человеком реальности, приводя к неточной интерпретации информации и рационально ограниченному принятию решений.

Как формируются неосознанные биазы

Бессознательные предубеждения развиваются через сложное взаимодействие факторов, которые формируют наше восприятие с раннего детства до взрослой жизни.

  • Культурный фон: Ценности, нормы и убеждения культуры, в которой мы воспитываемся, оказывают глубокое влияние на наши бессознательные ассоциации и ожидания в отношении различных групп людей.
  • Представительство СМИ: То, как различные группы изображаются на телевидении, в кино, в средствах массовой информации и социальных сетях, создает мощные ассоциации, которые встраиваются в наше бессознательное сознание.
  • Личный опыт: Индивидуальные взаимодействия и опыт общения с людьми из разных слоев общества формируют наши ожидания и предположения, иногда основанные на ограниченных или нерепрезентативных встречах.
  • Влияние Peer: Отношение и поведение окружающих нас людей — членов семьи, друзей, коллег и членов сообщества — формируют наши собственные бессознательные отношения посредством социального обучения.
  • Образовательные системы: Учебная программа, которую мы изучаем, исторические повествования, которые мы изучаем, и разнообразие (или его отсутствие) в нашей образовательной среде способствуют формированию бессознательных предубеждений.
  • Институциональные структуры: Организации и системы, в которых мы участвуем, часто усиливают определенные предубеждения посредством своей политики, практики и структур власти.

Литература показывает, что даже те люди, которые открыто и глубоко привержены равенству, могут иметь бессознательные или неявные предубеждения. Этот вывод особенно важен, поскольку он демонстрирует, что одних только благих намерений недостаточно для устранения предубеждений. Даже люди, которые сознательно отвергают предрассудки и активно работают над равенством, могут питать бессознательные ассоциации, которые противоречат их явным ценностям.

Модель двойного процесса познания

Чтобы понять, как работает бессознательный уклон, он помогает рассмотреть модель человеческого познания с двойным процессом. Модели двойного процесса утверждают, что человеческое познание включает в себя два основных процесса — один медленный, преднамеренный, трудоемкий и в значительной степени сознательный, и один быстрый, автоматический, не требующий усилий и в значительной степени бессознательный. Первая система, часто называемая Системой 1, работает быстро и автоматически с небольшим сознательным усилием. Вторая система, Система 2, включает в себя более медленное, более преднамеренное аналитическое мышление.

Бессознательные предубеждения в первую очередь действуют через мышление Системы 1. Когда мы сталкиваемся с человеком или ситуацией, наш мозг быстро и автоматически классифицирует информацию на основе прошлого опыта и изученных ассоциаций. Это происходит так быстро, что мы часто формируем впечатления и выносим суждения, прежде чем наш сознательный, аналитический ум имеет возможность участвовать. Хотя эта быстрая обработка может быть эффективной, это также означает, что наши решения могут быть подвержены влиянию стереотипов и предрассудков, которые мы сознательно не одобряем.

Типы когнитивных предубеждений

Исследователи выявили десятки когнитивных предубеждений, которые влияют на человеческое суждение и принятие решений. Понимание этих конкретных типов предубеждений может помочь нам распознать, когда они могут влиять на наше собственное мышление и действия.

Подтверждающие предвзятости

Подтверждение предвзятости — это тенденция искать, интерпретировать, благоприятствовать и вспоминать информацию таким образом, чтобы подтвердить наши ранее существовавшие убеждения или гипотезы. Когда мы придерживаемся определенного взгляда на человека, группу или ситуацию, мы бессознательно уделяем больше внимания доказательствам, которые поддерживают этот взгляд, отвергая или минимизируя противоречивую информацию. Это предвзятость может создавать самоусиливающиеся циклы, когда наши первоначальные предположения становятся все более укоренившимися, независимо от их точности.

В образовательных учреждениях предвзятость подтверждения может привести к тому, что учитель, который считает, что конкретный студент изо всех сил пытается сосредоточиться в первую очередь на ошибках этого студента, игнорируя их успехи.На рабочем месте менеджер, который сформировал негативное впечатление о сотруднике, может интерпретировать неоднозначное поведение в худшем свете, давая более благотворительные интерпретации аналогичным действиям привилегированных сотрудников.

Сродство

Аффинити-предвзятость, также известная как предвзятость подобия или эффект «подобного мне», описывает нашу тенденцию тяготеть к людям, которые разделяют характеристики с нами. Предвзятость подобия-мне влияет на работодателей и их решения о найме. Если работодатели могут найти какой-либо интерес или характеристику, к которой они относятся, то они будут более склонны нанимать кандидата. Эта предвзятость выходит за рамки очевидных демографических характеристик, включая общие интересы, образование, стили общения и черты личности.

Хотя естественно чувствовать себя более комфортно с людьми, которые кажутся знакомыми, предвзятость аффинити может значительно подорвать усилия по разнообразию и включению. Это приводит к однородным командам и организациям, где люди из разных слоев общества борются за получение доступа или продвижения, независимо от их квалификации или потенциального вклада.

Эффекты Halo и Horn

Эффект гало возникает, когда положительное впечатление в одной области влияет на наше общее восприятие человека. Например, если кто-то физически привлекателен, хорошо говорит или учился в престижном университете, мы можем бессознательно предположить, что они обладают другими положительными качествами, такими как интеллект, компетентность или надежность, даже без доказательств в поддержку этих предположений.

И наоборот, эффект рога (или обратный эффект гало) происходит, когда отрицательная характеристика или впечатление в одной области приводит нас к принятию отрицательных качеств в других, не связанных областях.Одна ошибка или воспринимаемый недостаток могут окрасить все наше восприятие человека, что затрудняет им преодоление этого первоначального негативного впечатления.

Предвзятость атрибуции

Предвзятость атрибуции влияет на то, как мы объясняем причины поведения и результаты. Мы склонны приписывать наши собственные успехи нашим навыкам и усилиям (внутренним факторам), обвиняя наши неудачи во внешних обстоятельствах, находящихся вне нашего контроля. Однако, оценивая других, мы часто делаем обратное — приписывая их успехи удаче или внешним факторам, рассматривая их неудачи как свидетельство личных недостатков.

Это предубеждение может иметь серьезные последствия в образовательных и профессиональных условиях. Учителя могут приписывать плохую работу студента лени или отсутствию способностей, а не учитывать внешние факторы, такие как семейный стресс, неспособность к обучению или неадекватное предварительное обучение. Аналогичным образом, менеджеры могут приписывать успех своей собственной команды своему руководству, приписывая успех другой команды более легким заданиям или лучшим ресурсам.

Эвристика доступности

Эвристика доступности — это наша тенденция переоценивать вероятность событий, которые легче вспомнить или которые приходят на ум быстро.Это часто означает, что мы придаем непропорциональное значение недавним событиям, драматическим событиям или информации, которая часто повторяется, независимо от фактической статистической вероятности.

Например, если учитель недавно имел дело с разрушительным учеником из определенной демографической группы, он может бессознательно ожидать аналогичного поведения от других студентов, которые разделяют эту характеристику, даже если первоначальный инцидент был единичным случаем. Освещение в СМИ также может вызвать эвристику доступности, заставляя нас переоценивать распространенность определенных поведений или характеристик в конкретных группах.

Усиление предубеждений

Привязка предвзятости возникает, когда мы слишком сильно полагаемся на первую часть информации, которую мы получаем (якорь) при принятии решений. Эта исходная информация устанавливает точку отсчета, которая влияет на все последующие суждения, даже когда якорь является произвольным или нерелевантным.

В контексте найма, если интервьюер формирует сильное первое впечатление, основанное на внешности кандидата, рукопожатии или вступительных замечаниях, это первоначальное впечатление может закрепить их оценку всего, что следует. Аналогичным образом, в академических условиях, производительность студента на раннем задании может закрепить ожидания учителя, что затрудняет для студента изменение этого восприятия через более позднюю работу.

Предвзятость в повседневных решениях: примеры из реального мира

Понимание предвзятости в абстрактных терминах важно, но признание того, как она проявляется в конкретных ситуациях, помогает нам более эффективно выявлять и решать ее. Предвзятость влияет на решения практически во всех областях жизни, часто со значительными последствиями для отдельных лиц и общества.

Предвзятость в найме и занятости

Процесс найма представляет собой одну из наиболее широко изученных областей исследования бессознательных предубеждений, и результаты отрезвляют. Исследование Национального бюро экономических исследований показало, что даже когда резюме кандидатов были в основном идентичными, потенциальные работодатели возвращали звонки от соискателей со стереотипно кавказскими именами на 50% чаще, чем для соискателей со стереотипно афроамериканскими именами. Это исследование, часто называемое исследованием «Лакиша и Джамал», демонстрирует, как предвзятость может действовать даже тогда, когда лица, принимающие решения, имеют доступ к одинаковой объективной информации.

Процесс найма во многих организациях США, характеризующийся двусмысленностью, временным давлением и отвлекающими факторами, а также легитимностью эмоций как инструмента принятия решений, поощряет принятие решений, основанных на неявном, а не явном познании. В соответствии с этой теоретизацией, неявные, но не явные расовые отношения предсказывают оценки респондентов белых кандидатов и чернокожих кандидатов по отношению к белым кандидатам. Этот вывод предполагает, что решения о найме часто отражают бессознательные предубеждения, а не преднамеренную дискриминацию, что имеет важные последствия для того, как мы обращаемся с этими различиями.

Предвзятость при приеме на работу выходит далеко за рамки расы и этнической принадлежности. Виды неявного предубеждения, которые могут возникнуть во время процесса набора и отбора кандидатов, включают имя, возраст, красоту, внешний вид, цвет волос, место рождения, учетные данные, полученные за пределами страны набора, рост и вес. Исследования показали, что более высокие люди, как правило, зарабатывают больше в среднем, привлекательные люди часто получают преференциальное лечение, а кандидаты с иностранными учетными данными сталкиваются с дополнительным вниманием независимо от их фактической квалификации.

Гендерная предвзятость при приеме на работу остается распространенной, несмотря на десятилетия внимания к этому вопросу. При оценке одинаково квалифицированных заявителей, которые отличались только своим родительским статусом, матери были оценены значительно менее преданными своей карьере, чем не-матери, были рекомендованы к найму только в 47% случаев, по сравнению с не-матери в 84%, и были рекомендованы для более низкой начальной заработной платы, чем не-матери. Примечательно, что противоположная картина возникла для отцов, которые были оценены более благоприятно, чем не-отцы во всех этих измерениях.

Менеджеры выражали умеренные уровни явной и неявной предвзятости во всех измерениях. Менеджеры отличались от людей других профессий примерно в одной трети сравнений. Самые большие различия были в их неявных предубеждениях, причем менеджеры выражали больше предвзятости, чем люди в других профессиях. Это исследование, в котором анализировались данные более 5 миллионов посетителей веб-сайта Project Implicit, предполагает, что те, кто занимает должности организационной власти, могут иметь особенно сильные бессознательные предубеждения, что делает осведомленность и вмешательство еще более критическими.

Предвзятость в образовательных установках

Образовательная среда не застрахована от влияния бессознательного предубеждения. Учителя, несмотря на свою приверженность успеху учащихся, могут бессознательно удерживать разные ожидания для студентов на основе расы, пола, социально-экономического статуса или других характеристик. Эти дифференциальные ожидания могут стать самореализующимися пророчествами, поскольку студенты интернализуют полученные сообщения о своих способностях и потенциале.

Предвзятость может повлиять на несколько аспектов образовательного опыта, в том числе:

  • Оценка и оценка: Исследования показали, что одинаковая работа может получать разные оценки в зависимости от воспринимаемой личности ученика. Учителя могут бессознательно применять разные стандарты или интерпретировать неоднозначные ответы более благосклонно для одних студентов, чем для других.
  • Участие в классе: Учителя могут чаще обращаться к определенным ученикам, предоставлять более подробную обратную связь некоторым студентам или проявлять больше терпения в вопросах от студентов, которые они бессознательно предпочитают.
  • Дисциплинарные действия: Студенты из определенных демографических групп могут получить более суровые наказания за подобные нарушения, или их поведение может быть интерпретировано более негативно из-за стереотипов о своей группе.
  • Академический трекинг: Решения о том, какие студенты помещаются в продвинутые курсы, программы восстановления или специальное образование может быть под влиянием бессознательных предположений о способностях различных групп.
  • Руководство по колледжу и карьере: Советы и поощрения, которые получают студенты о своих будущих вариантах, могут быть сформированы бессознательными предубеждениями консультантов о том, какие пути подходят для разных типов студентов.

Совокупный эффект этих предубеждений может значительно повлиять на академические траектории студентов, уверенность в себе и долгосрочные возможности. Студенты, которые постоянно получают сообщения - явные или неявные - что они менее способны или менее ценятся, могут отвлечься от обучения, развить негативные академические самооценки или не использовать возможности, для которых они квалифицированы.

Предубеждения в здравоохранении

Неявные предубеждения в условиях здравоохранения могут иметь последствия во многих областях, включая компрометацию межличностного общения и принятия клинических решений, что в конечном итоге влияет на уход за пациентами и может способствовать неравенству в здравоохранении среди маргинализированных групп населения. Медицинские работники, несмотря на их подготовку и приверженность благосостоянию пациентов, могут иметь бессознательные предубеждения, которые влияют на диагностику, рекомендации по лечению, управление болью и качество взаимодействия между пациентом и поставщиком.

Исследования зафиксировали различия в том, как боль оценивается и лечится в разных демографических группах, причем сообщения некоторых пациентов о боли воспринимаются менее серьезно, чем другие. Бессознательные предположения о болевой толерантности разных групп, поведении, связанном с поиском лекарств, или соблюдении медицинских рекомендаций могут привести к неадекватному лечению и ухудшению результатов в отношении здоровья.

Предвзятость в уголовном правосудии

Система уголовного правосудия приводит многочисленные примеры того, как бессознательные предубеждения могут иметь изменяющие жизнь последствия. Исследования документально подтвердили расовые различия практически на каждом этапе процесса правосудия, начиная с первоначальных встреч полиции и заканчивая решениями о вынесении приговоров. Хотя некоторые из этих различий могут отражать сознательную дискриминацию, бессознательные предубеждения также играют значительную роль.

Полицейские, принимающие решения о том, представляет ли кто-то угрозу, прокуроры, решающие, какие дела преследовать и какие обвинения предъявлять, судьи, определяющие суммы залога и приговоры, - все эти решения могут быть подвержены влиянию бессознательных ассоциаций между определенными демографическими характеристиками и преступностью, опасностью или надежностью.

Предубеждения в социальных взаимодействиях

Помимо институциональных условий, бессознательные предубеждения формируют наши повседневные социальные взаимодействия бесчисленными тонкими способами.

  • Делайте предположения об интересах, способностях или происхождении людей на основе их внешности.
  • Чувствовать себя более или менее комфортно в разговорах с людьми из разных групп
  • Толкование неоднозначного поведения по-разному в зависимости от того, кто их выполняет
  • Предлагать помощь, советы или возможности для некоторых людей легче, чем для других.
  • Больше доверия к мнениям, выраженным определенными людьми
  • Делайте различные предположения о роли или опыте людей в профессиональных условиях.

Эти предубеждения микроуровня, хотя и незначительны по отдельности, накапливаются с течением времени, чтобы создать значительно разные переживания для людей из разных слоев общества. Они способствуют чувству отчуждения, подрывают уверенность и ограничивают возможности способами, которые трудно идентифицировать или бросить вызов именно потому, что они действуют бессознательно.

Дальнедостижимое влияние предубеждений на принятие решений

Последствия бессознательной предвзятости выходят далеко за рамки отдельных несправедливых решений. Когда предвзятость систематически действует в различных учреждениях и обществе, она создает и увековечивает значительное неравенство, которое затрагивает целые группы людей.

Увековечение стереотипов и социального неравенства

Бессознательная предвзятость отражает и укрепляет существующие стереотипы. Когда лица, принимающие решения, бессознательно отдают предпочтение определенным группам, они создают возможности и результаты, которые, по-видимому, подтверждают стереотипные предположения. Например, если женщины с меньшей вероятностью будут наняты на руководящие должности из-за бессознательной предвзятости, возникающая в результате недопредставленность женщин в руководстве может быть неверно истолкована как свидетельство того, что женщины менее подходят для таких ролей, что еще больше усиливает предвзятость.

Это создает порочный круг, в котором предвзятость приводит к разрозненным результатам, которые затем используются для оправдания тех самых предубеждений, которые их создали. Разрыв этого цикла требует сознательного признания того, как предвзятость действует, и преднамеренного вмешательства для создания более справедливых процессов и результатов.

Сокращение разнообразия и инноваций

Когда бессознательные предубеждения влияют на принятие решений о найме, продвижении по службе и включении, организации в конечном итоге получают менее разнообразные команды. Эта однородность достигается за значительную плату. Исследования последовательно показывают, что разные команды более инновационны, принимают лучшие решения и достигают превосходной производительности по сравнению с однородными группами.

Разнообразные перспективы помогают командам избегать группового мышления, оспаривать предположения и рассматривать более широкий спектр решений проблем.Когда предвзятость ограничивает разнообразие, организации теряют доступ к этим преимуществам, что в конечном итоге подрывает их эффективность и конкурентоспособность.

Индивидуальный вред и потерянный потенциал

Для людей, которые являются объектами предвзятости, кумулятивные эффекты могут быть разрушительными. Повторяющиеся переживания, когда их упускают из виду, недооценивают или несправедливо обращаются, наносят психологический ущерб, приводя к стрессу, тревоге, снижению уверенности в себе и снижению мотивации. Талантливые люди могут покидать поля, где они сталкиваются с постоянным предубеждением, представляя потерю не только для этих людей, но и для общества в целом.

Понятие «стереотипная угроза» описывает, как осознание негативных стереотипов о своей группе может фактически ухудшить производительность.Когда людям напоминают о стереотипах, предполагающих, что их группа менее способна в определенной области, они могут испытывать беспокойство, которое мешает их способности действовать в лучшем виде, создавая самоисполняющееся пророчество.

Эрозия доверия и социальной сплоченности

Когда предвзятость систематически действует в учреждениях — будь то в сфере образования, занятости, здравоохранения или уголовного правосудия — она подрывает доверие между этими учреждениями и сообществами, которым они служат. Люди, которые неоднократно испытывают предвзятость или становятся свидетелями ее воздействия на других, скептически относятся к заявлениям о справедливости и меритократии, что приводит к разъединению и социальной фрагментации.

Для создания институтов, которым все члены общества могут доверять, необходимы не только благие намерения, но и доказуемая справедливость в процессах и результатах.

Доказательные стратегии для смягчения предубеждений

Хотя бессознательный уклон является распространенным и глубоко укоренившимся, исследования выявили многочисленные стратегии, которые могут помочь уменьшить его влияние на принятие решений. Важно отметить, что многие стратегии доступны для смягчения бессознательного уклона, что требует преднамеренных усилий и внимания участника. Хотя для предотвращения предвзятости необходимы дополнительные когнитивные ресурсы, это стоит усилий.

Осведомленность и образование

Основой для устранения бессознательного предубеждения является осознание — как общего явления, так и наших собственных специфических предубеждений. Неявные предубеждения могут быть распознаны, как только они осознанно распознаются отдельными лицами. Как только сотрудники и работодатели получают образование на неявных предубеждениях, они могут распознать негативное влияние на рабочем месте и попытаться смягчить его.

Однако одной лишь осведомленности недостаточно. Лица, которые оценивали себя как весьма объективные до рассмотрения материалов кандидатов, на самом деле демонстрировали больше случаев предвзятости, чем лица, которых не просили оценить их объективность. Этот вывод предполагает, что чрезмерная уверенность в нашей собственной объективности может фактически сделать нас более уязвимыми к предвзятости, поскольку мы не в состоянии задействовать критическое самоосмысление, необходимое для противодействия ей.

Эффективное образование по уклону должно включать:

  • Понимание науки: Изучение того, как развивается и действует бессознательный предвзятость, помогает людям понять, что наличие предубеждений не делает их плохими людьми, а делает их людьми.
  • Определение конкретных предубеждений: Инструменты, подобные Тест на неявную ассоциацию Они могут помочь людям обнаружить свои собственные бессознательные ассоциации.
  • Признание ситуационных факторов: Понимание того, что предвзятость с большей вероятностью влияет на решения при определенных условиях (давление времени, неоднозначность, усталость), может помочь людям быть более бдительными в этих ситуациях.
  • Постоянное обучение: Осознание предвзятости — это не одноразовое обучение, а непрерывный процесс обучения, размышления и развития навыков.

Положительные результаты включали в себя увеличение знаний, навыков и отношения вокруг неявного предубеждения. Навыки, связанные с неявным предубеждением, включали, например, повышение осведомленности о личных предубеждениях. Исследования по неявному обучению предвзятости в медицинских учреждениях задокументировали эти преимущества, хотя эффективность варьируется в зависимости от качества и дизайна обучения.

Структурированные процессы принятия решений

Один из наиболее эффективных способов снижения предвзятости заключается в реализации структурированных, стандартизированных процессов для важных решений. Когда решения принимаются на основе четко определенных, связанных с работой критериев, последовательно применяемых во всех кандидатах или ситуациях, меньше места для бессознательного предвзятости, чтобы влиять на результаты.

В контексте найма это может включать:

  • Стандартизированные интервью: Задавать всем кандидатам одни и те же вопросы в одном порядке и использовать заранее определенные критерии для оценки ответов
  • Слепой обзор резюме: Удаление идентификационной информации, такой как имена, фотографии и адреса, из материалов приложения во время первоначального скрининга
  • Оценки, основанные на навыках: Оценка кандидатов на основе фактических образцов работы или задач, связанных с работой, а не полагаться исключительно на интервью и учетные данные
  • Различные панели найма: В том числе люди из разных слоев общества в комитетах по найму, чтобы привнести несколько перспектив в процесс оценки.
  • Задержка рейтинга: Оценка кандидатов по заранее определенным критериям перед их ранжированием, а не формирование общих впечатлений, на которые могут влиять нерелевантные факторы.

В образовательных учреждениях структурированные подходы могут включать использование рубрик для оценки, внедрение слепой оценки, где это возможно, и установление четких, объективных критериев для принятия решений по отслеживанию академических результатов.

Замедление принятия решений

Бессознательная предвзятость, скорее всего, влияет на решения, когда мы полагаемся на быстрое, автоматическое мышление Системы 1. Замедляя и привлекая больше аналитического мышления Системы 2, мы можем поймать и исправить предвзятые суждения, прежде чем они приведут к несправедливым результатам.

Стратегии замедления процесса принятия решений включают:

  • Строительство в период ожидания перед принятием окончательных решений
  • Требование письменного обоснования решений, основанных на заранее определенных критериях
  • Реализация процессов обзора, когда решения рассматриваются несколькими людьми
  • Создание контрольных списков для обеспечения учета всех соответствующих факторов
  • Планирование важных решений для тех случаев, когда лица, принимающие решения, менее устали или испытывают стресс.

Искать разные перспективы

Один из самых мощных способов противодействия индивидуальной предвзятости заключается в том, чтобы гарантировать, что важные решения включают в себя вклад людей с различным опытом, опытом и перспективами. Различные команды лучше способны определить, когда предвзятость может влиять на решение и оспаривать предположения, которые кажутся естественными для некоторых членов, но сомнительными для других.

Этот подход лучше всего работает, когда разнообразие подлинно, и когда все голоса действительно услышаны и оценены. Просто иметь разнообразное представление недостаточно, если некоторые перспективы систематически сбрасываются со счетов или если есть давление, чтобы соответствовать доминирующим точкам зрения.

Подотчетность и прозрачность

Повышение прозрачности процессов принятия решений и привлечение лиц, принимающих решения, к ответственности за результаты могут помочь уменьшить предвзятость. Когда люди знают, что их решения будут тщательно изучены и что им может потребоваться обосновать свой выбор, они с большей вероятностью будут заниматься тщательным, преднамеренным мышлением, а не полагаться на бессознательные ярлыки.

Это может включать:

  • Регулярно анализируя данные о результатах для выявления моделей, которые могут указывать на предвзятость
  • Требующая документация процессов принятия решений и обоснований
  • Определение четких последствий для решений, которые не могут быть оправданы на основе соответствующих критериев
  • Создание механизмов обратной связи, которые позволяют людям выражать озабоченность по поводу потенциально предвзятых решений.
  • Публичная отчетность по показателям разнообразия и прогресс в достижении целей справедливости

Контрстереотипическое воздействие

Исследования показывают, что преднамеренное подвергание себя контрстереотипическим примерам — людям, которые противоречат распространенным стереотипам о своей группе, — может помочь ослабить бессознательные предубеждения с течением времени.

Это может включать активный поиск средств массовой информации, которые изображают различных людей в различных ролях, изучение опытных людей из недопредставленных групп или создание возможностей для значимого взаимодействия с людьми из разных слоев общества. Ключ в том, что воздействие должно быть существенным, позитивным и индивидуализированным, а не поверхностным или токенистическим.

Перспективы и эмпатия

Активное понимание чужого опыта и перспектив может помочь уменьшить предвзятость. Это выходит за рамки простого сочувствия, включающего в себя по-настоящему попытку увидеть ситуации с точки зрения другого человека и понять, как их опыт может отличаться от нашего.

Упражнения по изучению перспектив, структурированные диалоги между различиями и возможность напрямую услышать от людей об их опыте с предвзятостью могут помочь развить эту способность. Однако важно, чтобы такие усилия не возлагали бремя на маргинализированных людей, чтобы просвещать других о предвзятости или требовать от них неоднократно пересчитывать болезненные переживания.

Организационные и системные вмешательства

Хотя индивидуальное осознание и усилия важны, для наиболее эффективного устранения бессознательных предубеждений требуются организационные и системные изменения. Учитывая, что когнитивные предубеждения являются автоматическими и часто бессознательными, одних только индивидуальных усилий недостаточно.

Организации могут осуществлять политику и практику, которые уменьшают возможности для предвзятости влиять на результаты, такие как:

  • Установление четких целей в области разнообразия, справедливости и интеграции с измеримыми результатами
  • Реализация стратегий снижения предвзятости во всех основных процессах принятия решений
  • Создание структур подотчетности, которые отслеживают и устраняют неравенство
  • Предоставление ресурсов и поддержка сотрудников из недопредставленных групп
  • Обеспечение разнообразного представительства в руководящих и директивных должностях
  • Регулярный пересмотр и обновление политики по выявлению и устранению источников предвзятости
  • Создание культур, в которых люди чувствуют себя в безопасности, вызывая опасения по поводу предвзятости.

Создание инклюзивных сред в образовательных учреждениях

Учебные заведения несут особую ответственность за устранение неосознанной предвзятости как в силу своей роли в формировании развития молодежи, так и в силу того, что они могут служить моделями для более широких социальных изменений.

Учебная программа и педагогика

Сама учебная программа может либо усиливать, либо оспаривать предубеждения. Инклюзивные учебные программы представляют собой различные перспективы, подчеркивают вклад людей всех слоев общества и помогают учащимся понять, как предвзятость и дискриминация сформировали историю и продолжают влиять на общество сегодня. Это включает в себя не только то, чему учат, но и то, как его учат - используя педагогические подходы, которые включают различные стили обучения и создают возможности для всех студентов участвовать и преуспевать.

Климат и ожидания в классе

Учителя могут работать над созданием классной среды, в которой все ученики чувствуют себя ценными и способными к успеху.

  • Поддерживать высокие ожидания для всех студентов, обеспечивая надлежащую поддержку
  • Использование разнообразных примеров и материалов, которые позволяют всем учащимся видеть себя отраженными
  • Призыв к студентам на справедливой основе и предоставление равных возможностей для участия
  • Устранение предвзятости и дискриминации, когда они происходят в классе
  • Создание возможностей для студентов, чтобы узнать о и от различных опыт друг друга
  • Осознавая язык и избегая стереотипных предположений

Оценка и оценка

Справедливое оценивание требует сознательного внимания к потенциальным источникам предвзятости. Это включает использование нескольких форм оценки для захвата различных типов обучения, внедрение слепой оценки, где это возможно, использование четких рубрик, которые фокусируются на соответствующих целях обучения, и регулярное изучение распределений оценок для выявления потенциальных моделей предвзятости.

Школьная политика и практика

Помимо отдельных классов, школы должны изучать все свои политики и практики на предмет потенциальной предвзятости, включая дисциплинарные процедуры, академическое отслеживание, внеклассные возможности и консультирование в колледже. Данные должны регулярно анализироваться для выявления неравенства, а политика должна быть скорректирована для содействия более справедливым результатам.

Профессиональное развитие

Педагоги нуждаются в постоянном профессиональном развитии, ориентированном на распознавание и устранение предвзятости. Это должно выходить за рамки одноразовых семинаров, чтобы включать в себя устойчивые возможности обучения, сотрудничество со сверстниками и поддержку для реализации стратегий снижения предвзятости на практике.

Участие семьи и общины

Создание инклюзивных школ требует партнерства с семьями и общинами. Это означает активное обращение к семьям из всех слоев общества, создание многочисленных возможностей для участия, устранение языковых и культурных барьеров и подлинную оценку перспектив и знаний, которые приносят семьи.

Ограничения пристрастной подготовки

Хотя осознание и обучение являются важными компонентами решения проблемы бессознательного предубеждения, важно понимать их ограничения. Исследования эффективности обучения предвзятости дали неоднозначные результаты, причем некоторые исследования показали кратковременные улучшения в осознании, но ограниченные доказательства устойчивых изменений поведения.

Несколько факторов могут ограничить эффективность обучения предвзятости:

  • Оборонительные реакции: Когда люди чувствуют себя обвиненными в предвзятости, они могут стать оборонительными и устойчивыми к обучению, особенно если обучение является обязательным или карательным по тону.
  • Отсутствие последующих действий: Одноразовые тренировки редко приводят к длительным изменениям без постоянного подкрепления и практики.
  • Недостаточная связь с практикой: Обучение, которое фокусируется только на осознании, не предоставляя конкретных стратегий для изменения поведения, может оставить участников неопределенными в отношении того, как применять то, что они узнали.
  • Организационный контекст: Обучение вряд ли будет эффективным, если более широкая организационная культура не поддерживает равенство и инклюзивность или если нет механизмов подотчетности для предвзятых решений.
  • Упрощение: Некоторые подходы к обучению упрощают сложный характер предвзятости или предполагают, что одной лишь осведомленности достаточно для ее устранения.

Для того чтобы обучение по вопросам предвзятости было эффективным, оно должно быть частью комплексного подхода, который включает структурные изменения в процессах принятия решений, подотчетность за результаты, постоянное обучение и размышления и подлинную организационную приверженность справедливости.

Роль технологии в решении проблем

С одной стороны, технологические инструменты могут помочь уменьшить предвзятость путем стандартизации процессов, удаления идентифицирующей информации из оценок и анализа данных для выявления моделей неравенства. Программное обеспечение для слепого скрининга резюме, структурированные платформы интервью и аналитические инструменты могут поддерживать более справедливое принятие решений.

Однако технологии могут также увековечить и даже усилить предвзятость. Системы ИИ могут влиять на человеческое мышление, усиливая существующие предубеждения с течением времени, часто без осознания пользователями. Когда пользователь с предвзятостью подтверждения последовательно принимает результаты ИИ, которые согласуются с их предубеждениями, подвергая сомнению те, которые бросают вызов их предположениям, они тренируются избирательно доверять ИИ. Со временем эта модель становится самоукрепляющейся.

Искусственный интеллект и системы машинного обучения обучаются на исторических данных, которые часто отражают существующие предубеждения и неравенства. Когда эти системы используются для принятия или информирования решений о найме, кредитовании, уголовном правосудии или других смежных областях, они могут увековечить дискриминационные модели в масштабе. Решение проблемы предвзятости в системах ИИ требует тщательного внимания к данным обучения, разработке алгоритмов, тестированию на разнородные воздействия и постоянному мониторингу результатов.

Более того, использование технологий в процессе принятия решений может создать ложное чувство объективности. Люди могут предположить, что алгоритмические решения по своей сути справедливы, потому что они основаны на данных и математике, не признавая, что данные, алгоритмы и варианты реализации отражают человеческие суждения, которые могут быть предвзятыми.

Движение вперед: приверженность постоянному совершенствованию

Решение проблемы бессознательного предубеждения не является проблемой, которую можно решить раз и навсегда. Скорее, это требует постоянной приверженности, бдительности и готовности постоянно изучать и совершенствовать нашу практику. Несколько принципов могут направлять эту работу:

Обнимите дискомфорт

Узнать о наших собственных предубеждениях и о том, как мы могли способствовать неравенству, может быть неудобно. Вместо того, чтобы избегать этого дискомфорта, мы должны опираться на него, признавая, что рост требует признания наших несовершенств и ошибок.

Сосредоточьтесь на системах, а не только на отдельных людях

Хотя осознание и изменение поведения индивидов важны, для достижения устойчивого прогресса необходимо изменить системы и структуры, которые позволяют предвзятости влиять на результаты. Это означает изучение политики, практики и институциональных культур, а не просто обеспечение обучения отдельных лиц.

Пострадавшие сообщества

Усилия по устранению предвзятости должны быть информированы и подотчетны наиболее затронутым ею общинам. Это означает, что необходимо прислушиваться к опыту людей и учиться на нем, привлекать различные заинтересованные стороны к разработке решений и обеспечивать, чтобы мероприятия действительно улучшали результаты для тех, кто оказался в маргинализации.

Используйте данные для улучшения

Регулярный сбор и анализ данных о результатах может помочь определить, где может действовать предвзятость, и отследить, работают ли вмешательства. Для этого требуется дезагрегировать данные по соответствующим демографическим категориям, изучить закономерности с течением времени и быть готовым корректировать стратегии на основе того, что показывают данные.

Поддерживайте смирение

Никто не свободен от предвзятости, и ни одна организация не решила полностью эту проблему. Сохранение смирения в отношении наших собственных ограничений и сохранение открытости для обратной связи и нового обучения имеет важное значение для дальнейшего прогресса.

Устойчивая приверженность

Решение проблемы бессознательного предубеждения требует постоянных усилий с течением времени, а не только в моменты повышенной осведомленности или в ответ на конкретные инциденты. Включение этой работы в существующую организационную практику и индивидуальные привычки помогает обеспечить ее продолжение даже тогда, когда внимание смещается на другие приоритеты.

Вывод: путь к большей справедливости

Бессознательная предвзятость представляет собой одно из самых значительных препятствий для создания действительно справедливых и инклюзивных обществ. Действуя ниже нашего сознательного осознания, эти предубеждения влияют на бесчисленные решения, от которых мы нанимаем и продвигаем то, как мы оцениваем студентов, лечим пациентов и взаимодействуем с соседями. Совокупный эффект этих предвзятых решений увековечивает неравенство, ограничивает возможности для талантливых людей и подрывает потенциал наших учреждений и сообществ.

Однако понимание природы и влияния бессознательного предубеждения также указывает на решения. Признавая, что предубеждение является универсальной человеческой тенденцией, а не недостатком характера, мы можем подойти к этому вызову с честностью и надеждой. Мы можем признать наши собственные предубеждения без защиты, изучить практики наших институтов без отрицания и взять на себя обязательство постоянного совершенствования, не ожидая совершенства.

Стратегии, изложенные в этой статье, — от индивидуального осознания и рефлексии до структурных изменений в процессах принятия решений — предлагают конкретные пути для снижения влияния предвзятости. Реализация этих стратегий требует усилий, ресурсов и постоянной приверженности. Это требует, чтобы мы замедлялись, когда наш инстинкт заключается в том, чтобы полагаться на быстрые суждения, что мы подвергаем сомнению предположения, которые кажутся естественными, и что мы создаем подотчетность, даже когда это неудобно.

Для педагогов особенно важно устранять бессознательные предубеждения. Школы и университеты формируют не только возможности отдельных студентов, но и понимание следующего поколения справедливости, равенства и справедливости. Когда образовательные учреждения моделируют инклюзивные практики, поддерживают высокие ожидания для всех студентов и активно работают над противодействием предвзятости, они способствуют более широким социальным изменениям, которые выходят далеко за их стены.

Аналогичным образом, для руководителей предприятий, поставщиков медицинских услуг, политиков и всех, кто в состоянии принимать решения, влияющие на жизнь других, понимание и устранение бессознательной предвзятости является как этическим императивом, так и практической необходимостью. Организации, которые успешно снижают предвзятость, получают выгоду от увеличения разнообразия, улучшения принятия решений, расширения инноваций и укрепления отношений с сообществами, которым они служат.

Работа по устранению бессознательного предубеждения продолжается и развивается. По мере того, как наше понимание того, как работает предубеждение, углубляется благодаря продолжающимся исследованиям, и по мере того, как мы учимся как на успехах, так и на неудачах в реализации, наши стратегии будут продолжать развиваться. Постоянной остается необходимость приверженности — изучению нашего собственного мышления и поведения, созданию более справедливых систем и структур и построению общества, где у каждого есть реальные возможности для процветания.

Это нелегкая работа. Она требует от нас противостоять неудобным истинам о себе и наших институтах. Она требует постоянных усилий без обещания быстрых решений или полных решений. Тем не менее, это важная работа, работа, которая напрямую связана с нашими глубочайшими ценностями справедливости, справедливости и человеческого достоинства. Вовлекаясь в эту работу с честностью, смирением и решимостью, мы можем создать образовательную среду, рабочие места и сообщества, которые более полно осознают эти ценности - не идеально, но постепенно, шаг за шагом, двигаясь к большей справедливости и инклюзивности для всех.