Взаимодействие переменных в статистике: количественные и качественные эффекты.

В статистике: взаимодействие переменных – влияние одной причины на результат зависит от другой. Регрессионный анализ, факторные эксперименты.

8 мин чтения

100%

Источник: Interaction (statistics) — Wikipedia

Сравнивайте с английским: нажмите на абзац — оригинал откроется в окне. Кнопка EN под абзацем показывает его прямо в тексте.

Содержание

Введение

В статистике взаимодействие может возникать при рассмотрении взаимосвязи между тремя или более переменными и описывает ситуацию, в которой влияние одной причинной переменной на результат зависит от состояния второй причинной переменной (то есть, когда эффекты двух причин не являются аддитивными). Хотя обычно рассматривается в контексте причинно-следственных связей, концепция взаимодействия может также описывать некаузальные ассоциации (в этом случае также называемые модерацией или модификацией эффекта). Взаимодействия часто рассматриваются в контексте регрессионного анализа или факториальных экспериментов. Наличие взаимодействий может иметь важные последствия для интерпретации статистических моделей. Если две переменные взаимодействуют, то взаимосвязь между каждой из взаимодействующих переменных и третьей «зависимой переменной» зависит от значения другой взаимодействующей переменной. На практике это затрудняет прогнозирование последствий изменения значения переменной, особенно если переменные, с которыми она взаимодействует, трудно измерить или контролировать. Понятие «взаимодействие» тесно связано с понятием модерации, распространенным в социальных и медицинских исследованиях: взаимодействие между объясняющей переменной и переменной среды предполагает, что эффект объясняющей переменной был смягчен или изменен переменной среды. Количественное взаимодействие между A и B – это ситуация, когда величина эффекта B зависит от значения A, но направление эффекта B остается постоянным для всех значений A. Качественное взаимодействие между A и B относится к ситуации, когда как величина, так и направление эффекта каждой переменной могут зависеть от значения другой переменной. Таблица средних значений слева, представленная ниже, демонстрирует количественное взаимодействие: лечение A полезно как при применении B, так и при его отсутствии, но польза больше, когда B не применяется (то есть, когда A применяется самостоятельно). Таблица средних значений справа демонстрирует качественное взаимодействие: A вредно при применении B, но полезно при его отсутствии. Следует отметить, что та же интерпретация была бы верна, если бы мы рассматривали пользу от B в зависимости от применения A. B = 0 B = 1 B = 0 B = 1 A = 0 2 1 A = 0 2 6 A = 1 5 3 A = 1 5 3 Различие между качественными и количественными взаимодействиями зависит от порядка, в котором рассматриваются переменные (в отличие от этого, свойство аддитивности инвариантно к порядку переменных). В следующей таблице, если мы сосредоточимся на эффекте лечения A, наблюдается количественное взаимодействие: применение лечения A улучшает результат в среднем, независимо от того, применяется ли лечение B или нет (хотя польза больше, если лечение A применяется самостоятельно). Однако, если мы сосредоточимся на эффекте лечения B, то обнаружим качественное взаимодействие: применение лечения B субъекту, уже получающему лечение A, в среднем ухудшит ситуацию, в то время как применение лечения B субъекту, не получающему лечение A, в среднем улучшит результат. B = 0 B = 1 A = 0 1 4 A = 1 7 6

Statistical term
In statistics, an interaction may arise when considering the relationship among three or more variables, and describes a situation in which the effect of one causal variable on an outcome depends on the state of a second causal variable (that is, when effects of the two causes are not additive). Although commonly thought of in terms of causal relationships, the concept of an interaction can also describe non causal associations (then also called moderation or effect modification). Interactions are often considered in the context of regression analyses or factorial experiments. The presence of interactions can have important implications for the interpretation of statistical models. If two variables of interest interact, the relationship between each of the interacting variables and a third "dependent variable" depends on the value of the other interacting variable. In practice, this makes it more difficult to predict the consequences of changing the value of a variable, particularly if the variables it interacts with are hard to measure or difficult to control. The notion of "interaction" is closely related to that of moderation that is common in social and health science research: the interaction between an explanatory variable and an environmental variable suggests that the effect of the explanatory variable has been moderated or modified by the environmental variable. A quantitative interaction between A and B is a situation where the magnitude of the effect of B depends on the value of A, but the direction of the effect of B is constant for all A. A qualitative interaction between A and B refers to a situation where both the magnitude and direction of each variable's effect can depend on the value of the other variable. The table of means on the left, below, shows a quantitative interaction — treatment A is beneficial both when B is given, and when B is not given, but the benefit is greater when B is not given (i. e. when A is given alone). The table of means on the right shows a qualitative interaction. A is harmful when B is given, but it is beneficial when B is not given. Note that the same interpretation would hold if we consider the benefit of B based on whether A is given. B = 0 B = 1 B = 0 B = 1 A = 0 2 1 A = 0 2 6 A = 1 5 3 A = 1 5 3

The distinction between qualitative and quantitative interactions depends on the order in which the variables are considered (in contrast, the property of additivity is invariant to the order of the variables). In the following table, if we focus on the effect of treatment A, there is a quantitative interaction — giving treatment A will improve the outcome on average regardless of whether treatment B is or is not already being given (although the benefit is greater if treatment A is given alone). However, if we focus on the effect of treatment B, there is a qualitative interaction — giving treatment B to a subject who is already receiving treatment A will (on average) make things worse, whereas giving treatment B to a subject who is not receiving treatment A will improve the outcome on average. B = 0 B = 1 A = 0 1 4 A = 1 7 6

Аддитивность единицы обработки

В своей простейшей форме, предположение об аддитивности эффекта лечения гласит, что наблюдаемый отклик yij от экспериментальной единицы i при получении лечения j может быть записан как сумма yij = yi + tj. Предположение об аддитивности эффекта лечения подразумевает, что каждое лечение оказывает точно такой же аддитивный эффект на каждую экспериментальную единицу. Поскольку любая экспериментальная единица может получить только одно из лечений, предположение об аддитивности эффекта лечения является гипотезой, которая не является непосредственно опровержимой, согласно Коксу и Кемпторну. Однако многие следствия аддитивности эффекта лечения могут быть опровергнуты. Для рандомизированного эксперимента предположение об аддитивности эффекта лечения подразумевает, что дисперсия постоянна для всех лечений. Следовательно, в противоположность этому, необходимым условием для аддитивности эффекта лечения является постоянство дисперсии. Свойство аддитивности эффекта лечения не является инвариантным при изменении масштаба, поэтому статистики часто используют преобразования для достижения аддитивности эффекта лечения. Если переменная отклика, как ожидается, будет следовать параметрическому семейству распределений вероятностей, то статистик может указать (в протоколе эксперимента или наблюдательного исследования), что отклики должны быть преобразованы для стабилизации дисперсии. Во многих случаях статистик может указать, что к откликам следует применить логарифмические преобразования, которые, как предполагается, следуют мультипликативной модели. Предположение об аддитивности эффекта лечения было сформулировано в планировании экспериментов Кемпторном и Коксом. Использование Кемпторном аддитивности эффекта лечения и рандомизации аналогично анализу, основанному на дизайне, при выборке из генеральной совокупности. В последние годы стало обычным использовать терминологию Дональда Рубина, которая оперирует контрфактами. Предположим, мы сравниваем две группы людей по какому-то признаку y. Например, первая группа может состоять из людей, которым дается стандартное лечение для медицинского состояния, а вторая группа – из людей, которые получают новое лечение с неизвестным эффектом. Рассматривая ситуацию с "контрфактической" точки зрения, мы можем рассмотреть индивида, у которого признак имеет значение y, если этот индивид принадлежит к первой группе, и значение τ(y), если индивид принадлежит ко второй группе. Предположение об "аддитивности эффекта лечения" заключается в том, что τ(y) = τ, то есть "эффект лечения" не зависит от y. Поскольку мы не можем наблюдать одновременно y и τ(y) для данного индивида, это не поддается проверке на индивидуальном уровне. Однако аддитивность эффекта лечения подразумевает, что кумулятивные функции распределения F1 и F2 для двух групп удовлетворяют F2(y) = F1(y – τ), при условии, что распределение индивидов по группам 1 и 2 не зависит от всех других факторов, влияющих на y (то есть отсутствуют вмешивающиеся факторы). Отсутствие аддитивности эффекта лечения можно рассматривать как форму взаимодействия между назначением лечения (например, в группы 1 или 2) и исходным или необработанным значением y.

In its simplest form, the assumption of treatment unit additivity states that the observed response yij from experimental unit i when receiving treatment j can be written as the sum yij = yi + tj. The assumption of unit treatment additivity implies that every treatment has exactly the same additive effect on each experimental unit. Since any given experimental unit can only undergo one of the treatments, the assumption of unit treatment additivity is a hypothesis that is not directly falsifiable, according to Cox and Kempthorne. However, many consequences of treatment unit additivity can be falsified. For a randomized experiment, the assumption of treatment additivity implies that the variance is constant for all treatments. Therefore, by contraposition, a necessary condition for unit treatment additivity is that the variance is constant. The property of unit treatment additivity is not invariant under a change of scale, so statisticians often use transformations to achieve unit treatment additivity. If the response variable is expected to follow a parametric family of probability distributions, then the statistician may specify (in the protocol for the experiment or observational study) that the responses be transformed to stabilize the variance. In many cases, a statistician may specify that logarithmic transforms be applied to the responses, which are believed to follow a multiplicative model. The assumption of unit treatment additivity was enunciated in experimental design by Kempthorne and Cox. Kempthorne's use of unit treatment additivity and randomization is similar to the design based analysis of finite population survey sampling. In recent years, it has become common to use the terminology of Donald Rubin, which uses counterfactuals. Suppose we are comparing two groups of people with respect to some attribute y. For example, the first group might consist of people who are given a standard treatment for a medical condition, with the second group consisting of people who receive a new treatment with unknown effect. Taking a "counterfactual" perspective, we can consider an individual whose attribute has value y if that individual belongs to the first group, and whose attribute has value τ(y) if the individual belongs to the second group. The assumption of "unit treatment additivity" is that τ(y) = τ, that is, the "treatment effect" does not depend on y. Since we cannot observe both y and τ(y) for a given individual, this is not testable at the individual level. However, unit treatment additivity implies that the cumulative distribution functions F1 and F2 for the two groups satisfy
F2(y) = F1(y − τ), as long as the assignment of individuals to groups 1 and 2 is independent of all other factors influencing y (i. e. there are no confounders). Lack of unit treatment additivity can be viewed as a form of interaction between the treatment assignment (e. g. to groups 1 or 2), and the baseline, or untreated value of y.

Категорические переменные

Иногда взаимодействующие переменные являются категориальными, а не вещественными числами, и исследование может рассматриваться как задача анализа дисперсии. Например, индивидуумы в популяции могут быть классифицированы по религии и роду занятий. Если требуется предсказать рост человека, основываясь только на его религии и роде занятий, простая аддитивная модель, то есть модель без учета взаимодействия, добавит к среднему росту корректировку, соответствующую конкретной религии, и еще одну – соответствующую конкретному роду занятий. Модель с учетом взаимодействия, в отличие от аддитивной, может добавить дополнительную корректировку, учитывающую "взаимодействие" между данной религией и данным родом занятий. Этот пример может навести на мысль, что термин "взаимодействие" не совсем точно отражает суть явления. Статистически, наличие взаимодействия между категориальными переменными обычно проверяется с помощью анализа дисперсии (ANOVA). Однако, если одна или несколько переменных являются непрерывными, то проверка обычно проводится с использованием умеренной множественной регрессии. Это связано с тем, что модератор – это переменная, влияющая на силу взаимосвязи между двумя другими переменными.

Проектированные эксперименты

Геничи Тагучи утверждал, что взаимодействия можно устранить из системы, правильно выбрав характеристику качества и применив преобразование. Однако Джордж Бокс и другие высказывали мнение, что это не всегда верно.

Схемы взаимодействия

Графики взаимодействия, также известные как графики простых эффектов, показывают возможные взаимодействия между переменными.

Пример: взаимодействие видов и температуры воздуха и их влияние на температуру тела

Рассмотрим исследование температуры тела разных видов при различных температурах воздуха, в градусах Фаренгейта. Данные представлены в таблице ниже. На графике взаимодействия в качестве оси X можно использовать либо температуру воздуха, либо вид. Второй фактор отображается линиями на графике взаимодействия. Наблюдается взаимодействие между двумя факторами (температура воздуха и вид) в их влиянии на зависимую переменную (температуру тела), поскольку эффект температуры воздуха зависит от вида. Это взаимодействие видно на графике, так как линии не параллельны друг другу.

Пример: влияние тяжести инсульта и лечения на выздоровление

В качестве второго примера рассмотрим клиническое исследование взаимодействия между тяжестью инсульта и эффективностью лекарственного препарата в отношении выживаемости пациентов. Данные представлены в таблице ниже. На графике взаимодействия линии для групп пациентов с легкой и умеренной степенью тяжести инсульта параллельны, что указывает на то, что препарат оказывает одинаковый эффект в обеих группах, и, следовательно, взаимодействия не наблюдается. Линия для группы пациентов с тяжелой степенью инсульта не параллельна остальным линиям, что свидетельствует о наличии взаимодействия между тяжестью инсульта и эффектом препарата на выживаемость. Линия для группы пациентов с тяжелой степенью инсульта горизонтальна, что указывает на отсутствие различий в выживаемости между пациентами, получавшими препарат, и пациентами, получавшими плацебо. В отличие от этого, линии для групп пациентов с легкой и умеренной степенью тяжести инсульта имеют отрицательный наклон, что указывает на то, что среди этих пациентов группа плацебо демонстрирует более низкую выживаемость по сравнению с группой, получавшей препарат.

Испытания гипотез на взаимодействие

Анализ дисперсии и регрессионный анализ используются для выявления значимых взаимодействий.

Пример: Взаимодействие температуры и времени при выпечке печенья

На урожайность качественного печенья влияют температура и время выпечки в духовке? В таблице представлены данные по 8 партиям печенья. Данные показывают, что урожайность хорошего печенья максимальна, когда либо (i) температура высокая, а время выпечки короткое, либо (ii) температура низкая, а время выпечки длительное. Если печенье долго выпекать при высокой температуре, оно сгорает, и урожайность снижается. Из графика и данных видно, что линии не параллельны, что свидетельствует о наличии взаимодействия. Это можно проверить с помощью дисперсионного анализа (ANOVA). Первая модель ANOVA не будет включать член взаимодействия. То есть, первая модель ANOVA не учитывает возможное взаимодействие. Вторая модель ANOVA будет включать член взаимодействия. То есть, вторая модель ANOVA явно проводит проверку гипотезы о наличии взаимодействия.

Модель ANOVA 1: отсутствие термина взаимодействия; выход ~ температура + время

В модели ANOVA, не учитывающей взаимодействие, ни температура, ни время не оказывают статистически значимого влияния на урожайность (p=0,91), что, очевидно, является неверным заключением. Более корректная модель ANOVA должна тестировать наличие возможного взаимодействия.

Модель ANOVA 2: включает в себя срок взаимодействия; урожай ~ температура * время

Термин взаимодействия "температура:время" является статистически значимым (p=0.000180). Судя по результатам теста взаимодействия и графику взаимодействия, влияние времени на выход продукции зависит от температуры, и наоборот.