13/09/2026
ПАРАДОКС СИМПСОНА: КОГДА ЦИФРЫ ВООБЩЕ НЕ ТО, ЧЕМ КАЖУТСЯ
Данные не лгут – считают оптимисты. Чтобы, например, искусственный интеллект хорошо работал и выдавал годные результаты, знай, скармливай ему качественные данные. И пусть себе управляет банками, больницами и говорит полиции, кого профилактически арестовывать.
К сожалению, в работе с данными существует множество подводных камней. Один такой досадный эффект известен ученым, как минимум, столетие. Он получил название «Парадокс Юла-Симпсона» в честь описавших его Эдварда Симпсона (1951 г.) и Удни Юла (1903 г.). А название, если что, предложил математик К.Р. Блайт, которых внимательно читал их работы.
Итак, Симпсон заметил, что, когда мы объединяем различные группы данных в один большой массив, мы иногда теряем важный контекст, в том числе, скрытые факторы, которые влияют на происходящее в выборке.
Представьте себе, что вы тестируете новое лекарство. Вы проверили его на большой группе пациентов. Одним давали старое, другим новое. По сравнению со старым, новое выглядит более эффективным, потому что, в целом, с ним выздоравливало больше пациентов. Ура, все отлично. Но если вы разделите группу на тех, кто болел тяжело и умеренно, вы можете обнаружить, что в обеих группах лучше помогало старое лекарство. Что за ерунда тут произошла? Оказывается, в больнице решили давать новый препарат, в основном, людям, болевшим умеренно, которые и так обычно поправляются. Скрытый фактор – тяжесть заболевания – и он исказил итоги в большой выборке.
Это парадокс уже приводил к статистическим аномалиям на практике. Например, в 1973 году Университет Беркли (Калифорния) столкнулся с кризисом. Оказалось, что данные о зачислениях демонстрируют резкую предвзятость в отношении женщин. Данные по всем зачислениям показали, что около 44 % парней получают письма о зачислении. А среди девушек зачисляют только 35 %. Учитывая, что поступают тысячи, это точно не какая-то случайность, а откровенная дискриминация. Пока администрация напряглась в ожидание исков, математики решили разбить данные по факультетам.
И данные внезапно сделали кувырок и встали с ног на голову. По отдельным факультетам не отмечалось дискриминации, на самом деле, на многих у девушек было даже некоторое преимущество, хотя и скромное. Как могло получиться, что на факультеты по отдельности поступает больше девочек, а по университету в целом – больше мальчиков?
Оказалось, что все дело в сложности поступления. Девушки, в большинстве своем, шли на факультеты с высоким конкурсом (например, психологический). Там изначально было мало мест, и они отклоняли большинство абитуриентов (а большинством и были женщины). Парни шли на факультеты, где конкуренция была ниже (например, на химический), и их, в массе, принимали. Это различие между факультетами, в итоге, раздувало показатель «зачисленные мужчины» и снижало показатель «зачисленные женщины».
Сегодня парадокс Симпсона активно вспоминают недобрым словом даже на уровне Всемирной организации здравоохранения именно из-за популярности ИИ.
В одном недавнем исследовании работы ИИ-агентов ученые нашли чистый пример парадокса. Изучалась работа пяти ИИ-агентов, которые работали либо вместе с соавторами-людьми, либо автономно. Грубо говоря, они создавали некий код, затем оценивалась успешность принятия этого кода командами разработчиков. Выяснилось, что в целом, работа в соавторстве с людишками менее эффективна. Созданное без участия людей куда чаще принималось командой (53,8 % к 79,8 %). Но когда данные проверили по каждому агенту отдельно, оказалось, что всех сбил с пути агент Codex – у него высокая успешность, но почти не бывает соавторства, так что он перетянул общий показатель на себя. На самом деле, 4 из 5 агентов выдавали лучшие результаты при соавторстве. Но и этим данным нельзя полностью доверять! Оказалось, можно копнуть дальше и найти еще несколько важных факторов.
К сожалению, ИИ не будет искать важные факторы, если вы не поставите такую задачу. Вопрос в том, сколько руководителей в области финансов, здравоохранения, образования и прочих важных дел, охваченные этим сладким чувством «ух, как щас сэкономим» вообще в курсе возможных статистических иллюзий, который породит им невиновная машина.
Текст: Елизавета Пономарева специально для проекта «Ресурсная психология»
---
Кадр из фильма «Игра в имитацию»