Тест обычно считается надежным , если с его помощью получаются одни и те же показатели для каждого обследуемого при повторном тестировании.
надежность по внутренней согласованности: если некоторая переменная измеряется частью теста, то другие его части, не будучи согласованными с первой, измеряют нечто другое.
Надежность ретестовая - предполагает повторное предъявление того же самого теста тем же испытуемым и примерно в тех же условиях, что первоначальное, а затем установление корреляции между двумя рядами данных (не меньше 1 мес после 1, коэф кор больше 0,7).
Надежность параллельных форм предусматривает создание эквивалентных форм опросника и предъявление их одним и тем же испытуемым для того, чтобы затем оценить корреляцию между полученными результатами (СЛОЖНОСТЬ, 2 набора заданий).
Надежность частей теста определяется путем деления опросника на две части (обычно на четные и нечетные задания), после чего и рассчитывается корреляция между этими частями. Обычно к этому способу определения надежности рекомендуется прибегать только в тех случаях, когда необходимо быстро получить результаты.
наилучшей процедурой определения надежности является проведение повторных исследований через более или менее значительные временные интервалы .
Все исследования надежности должны выполняться на достаточно больших (рекомендуется 200 и более испытуемых) и репрезентативных выборках. Надежность - важная характеристика теста, но сама по себе ценности не представляет. Она необходима для достижения валидности.
7.Валидность теста
Тест называется валидным , если он измеряет то, для измерения чего предназначен.
Очевидная валидность - описывает представление о тесте, сложившееся у испытуемого.
Конкурентная валидность оценивается по корреляции разработанного теста с другими, валидность которых относительно измеряемого параметра установлена
Прогностическая валидность устанавливается с помощью корреляции между показателями теста и некоторым критерием, характеризующим измеряемое свойство, но в более позднее время.
Инкрементная валидность имеет ограниченное значение и относится к случаю, когда один тест из батареи тестов может иметь низкую корреляцию с критерием, но не перекрываться другими тестами из этой батареи. В этом случае данный тест обладает инкрементной валидностью. Это может быть полезно при проведении профотбора с помощью психологических тестов.
Дифференциальная валидность может быть проиллюстрирована на примере тестов интересов. Тесты интересов обычно коррелируют с академической успеваемостью, но по-разному для разных дисциплин.
эмпирическая – рассчитывается величина статистической связи между результатами обследования одних и тех же испытуемых с помощью данной методики и известными методиками, измеряющими данное свойство.
Конструктная валидность теста демонстрируется полным, насколько это возможно, описанием переменной, для измерения которой предназначается тест.
критериальная – количественная мера связи между полученными результатами тестирования и внешними критериями оценки диагностируемого свойства.
Одним из важных отличий психометрических тестов является то, что они стандартизированы , а это позволяет сравнить показатели, полученные одним испытуемым, с таковыми в генеральной совокупности или соответствующих группах.
Стандартизация теста наиболее важна в тех случаях, когда осуществляется сравнение показателей обследуемых.
При этом вводится понятие нормы, или нормативных показателей. Для получения стандартных норм нужно тщательно отобрать большее количество испытуемых в соответствии с ясно обозначенным критерием. При формировании выборки стандартизации следует учитывать ее объём и репрезентативность.
В некоторых случаях приходится формировать несколько групп стандартизации или стратифицировать группу стандартизации относительно таких параметров, как возраст, пол, социальный статус. Устанавливать нормы не всегда обязательно. При использовании психологических тестов в научном исследовании нормы не столь важны и достаточно «сырых» показателей теста.
Нормы для каждой группы должны быть представлены в средних величинах и показателе стандартного отклонения.
Сегодня на практике все больше используется такой тип производной оценки, как стандартные показатели , удовлетворяющий большинству требований, предъявляемых к психологическому измерению. Такие показатели выражают отличие индивидуального результата испытуемого от среднего в единицах стандартного отклонения соответствующего распределения.
Созданием стандартизованного теста и его публикацией обычно завершается работа психолога , однако следует помнить и о том, что с течением времени необходим пересмотр (ревизия) теста.
При создании теста можно пользоваться факторным анализом для сжатия информации или, компактного описания изучаемых явлений при наличии множества наблюдений или переменных. чтобы найти несколько фундаментальных факторов, которые объясняли бы большую часть дисперсии в группе оценок по различным тестам или другим психометрическим измерениям.
Существует несколько процедур факторного анализа, но все они предполагают две стадии: 1) факторизацию матрицы корреляций, с тем чтобы получилась первоначальная факторная матрица; 2) вращение факторной матрицы, с тем чтобы обнаружить наиболее простую конфигурацию факторных нагрузок.
МЕТОДИКА РАСЧЕТА ТЕСТОВЫХ ХАРАКТЕРИСТИК
Бовтрукевич Мария Викторовна,
студент 3 курса г. Минск
Киреенко Анна Владимировна
студент 3 курса , кафедра информационных технологий, БГУ, г. Минск
Сиротина Ирина Казимировна
научный руководитель, ст. преподаватель, БГУ, г. Минск
На сегодняшний день вопрос тестового контроля очень актуален. Широкое применение он получил при проведении вступительной компании в вузы, при проверке знаний учащихся школ, лицеев, средних специальных и высших учебных заведений, при приеме на работу.Поскольку тестыпомогают определить человеку его способности, задатки, склонности, а также уровень знаний, умений и навыков, то они занялизначимую позицию в сфере образования.
Тест - это инструмент, состоящий из квалиметрически выверенной системы тестовых заданий, стандартизированной процедуры проведения и заранее спроектированной технологии и анализа результатов для измерения качеств и свойств личности, учебных достижений, изменение которых возможно в процессе систематического обучения .
Педагогическим тестом называется система заданий специфической формы, определенного содержания, равномерно возрастающей трудности - система, создаваемая с целью объективно оценить структуру и измерить уровень подготовленности учащихся (студентов). .
Главная проблема тестовогоконтролязнаний- сам процесссозданиятестов, ихунификацияианализ.Чтобы довеститестдополнойготовностикприменениюнеобходимонесколько лет собирать статистические данные.Довольночастовстречаетсязначительныйсубъективизмвформированиисодержаниясамих тестов, в отборе и формулировке тестовых вопросов. Многое такжезависитот конкретной тестовой системы, от того, сколько времени отводится наконтроль знаний, от структуры включенных в тестовое задание вопросов и т. д.Для объективной оценки уровня знаний необходимо грамотное составление теста: недостаточно придумать вопросы и варианты ответов, так как в этом случае может возникнуть немало противоречий, ошибок, неопределенностей, задания могут оказаться слишком простымиили же наоборот, слишком сложными. Всвязи с чемтестовые задания проходят процесс специальной оценки, который мы и рассмотрим в нашей работе.
Целью нашей работы является систематизация методов, позволяющих рассчитывать тестовые характеристики. Проведя анализ научной литературы по теме исследования , мы отобрали самые распространенные тестовые характеристики, собрали их воедино, подробно расписали их применение, составили общие правила для создания качественного теста, привели примеры. Мы надеемся, что данная работа усовершенствует такую форму проверки знаний, как тестовый контроль, что в свою очередь улучшит качество образования.
В теории и практике тестовых измерений последователи выделяют разнообразные тестовые характеристики: надежность, валидность, дискриминативность, социокультутраняя адаптированность, достоверность, однозначность, стандартизированность, точность, сложность, нормирование и др. В данной работе в силу спецификации нашего исследования мы рассмотрели следующие из них: надежность, валидность, дискриминативность.
Дискриминативность задач определяется, как способность отделять испытуемых с высоким общим баллом по тесту от тех, кто получил низкий балл, или испытуемых с высокой продуктивностью учебной деятельности от испытуемых с низкой продуктивностью. .
Для вычисления дискриминативности мы будем использовать метод крайних групп: при расчете дискриминативности тестового задания учитываются результаты наиболее и наименее успешных студентов. Доля членов крайних групп может изменяться в широких пределах в зависимости от величины выборки. Чем больше выборка, тем меньшей долей испытуемых можно ограничиться при выделении групп с высоким и низким результатами. Нижняя граница «отсечения групп»составляет 10 % от общего числа испытуемых в выборке, верхняя -33 %. В нашей работемы будем использовать 27 % группу, так как при таком процентном соотношении достигается максимальная точность определения дискриминативности.
Индекс дискриминации D определяетсякак разность между долей лиц, правильно решивших задачу, из «высокопродуктивной»и «низкопродуктивной»групп и находится поформуле:
где: Nn max - количество студентов в группе лучших, верно выполнивших задание; Nn min - количество студентов в группе худших, верно выполнивших задание; N max - общее количество испытуемых в группе лучших; N min - общее количество испытуемых в группе худших.
В. К. Гайда и В. П. Захаров предлагают вычислять коэффициент дискриминации, рассчитывая меру соответствия между успешностью решения одной задачи и всего теста. Этот показатель будет являться коэффициентом дискриминации, для его расчета используют формулу:
, (2)
где: x - среднее арифметическое значение всех индивидуальных оценок по тесту;
x n - среднее арифметическое значение оценок по тесту у тех испытуемых, которые правильно решили задачу;
δ x - среднеквадратическое отклонение индивидуальных оценок по тесту для выборки;
n - число испытуемых, правильно решивших задачу;
N d - общее число испытуемых.
Коэффициент дискриминации может принимать значения от -1 до +1. Высокое положительное значение дискриминативности тестового задания свидетельствует об эффективности деления испытуемых, высокое отрицательное значение свидетельствует о непригодности данной задачи для теста, о ее несоответствии суммарному результату. Результат D ≥0,3 считается удовлетворительным. Если значение коэффициента близко к 0, то задачи должны рассматриваться как некорректно сформулированные.
Валидность означает пригодность тестовых результатов для той цели, ради чего проводилось тестирование . Валидность -это характеристика способности теста служить поставленной цели измерения . Валидность определяет, насколько тест отражает то, что он должен оценивать .
Различают следующие ее виды: с одержательная валидность - характеристика репрезентативности содержания теста по отношению к запланированным для проверки знаниям и умениям ;к онструктная (концептуальная) валидность - характеристика адекватного измерения теоретического конструкта,т. е. действительно ли тест на умственное развитие определяет коэффициент умственного развития; к ритериальная валидность-определяет способность теста служить индикатором строго определенных особенностей, форм поведения;т екущая валидность - характеристика теста, отражающая его способность различать испытуемых на основании того признака, который является объектом выявления в данной методике;п рогностическая валидность предоставляет информацию о том, насколько точно можно судить о качестве, выявленном в ходе тестирования, по прошествии определенного времени после измерения .
Для оценки валидности теста обычно используют корреляцию между показателями теста и некоторым внешним критерием. Для педагогических тестов в качестве критерия обычно берутся оценки экспертов, выставленные ими при традиционной проверке знаний студентов без использования тестов. Процесс валидизации осложняется необходимостью установления меры согласованности оценок экспертов, которых обычно бывает не менее трех человек.
Валидностьпо количественным способам определенияпреимущественно выясняетсяс помощью качественных оценок, как правило, с привлечением экспертов :офакторном анализе говорят, когда для определения валидности используется факторный анализ с целью определения факторных нагрузок и факторного состава теста; консенсусная валидность - для получения второго ряда оценок используют данные внешних экспертов; эмпирическа я валидность - для получения второго ряда оценок используют результаты, полученные путем применения методики известной ранее или из других источников.
В данной работе мы рассмотрим пример расчета валидности с учетом результатов тестирования и экспертных оценок:
, (3)
где: - среднееарифметическоеэкспертных оценок,
Стандартное отклонение этих оценок:
(3.2)
Аналогично - среднееарифметическоетестовых баллов студентов, а
- стандартное отклонение этих баллов, вычисляются также по формулам (3.1), (3.2).
Надежностью называется характеристика теста, отражающая точность тестовых измерений, а также устойчивость тестовых результатов к действию случайных факторов .
Различают два вида надежности: надежность как устойчивость; надежность как внутреннюю согласованность.
Надежность как устойчивость. Устойчивость результатов теста - возможность получения одинаковых результатов у испытуемых в различных случаях. Надежность как устойчивостьизмеряется с помощью повторного проведения теста на той же выборке испытуемых, обычно через две недели после первого тестирования. Надежность теста тем выше, чем более согласованы результаты одного и того же человека при повторной проверке знаний посредством того же теста или эквивалентной его формы (параллельного теста). Для нахождения данной характеристики предлагают в , использовать формулу Пирсона:
, (4)
где X i - тестовый балл i-го испытуемого при первом измерении;
Y i - тестовый балл того же испытуемого при повторном измерении;
N -количество испытуемых.
Внутренняя согласованность определяется связью каждого конкретного элемента теста с общим результатом, тем, насколько каждый элемент входит в противоречие с остальными, насколько каждый отдельный вопрос измеряет признак, на который направлен весь тест. Для проверки внутренней согласованности рассматриваются следующие методы: метод расщепления или метод автономных частей; метод эквивалентных бланков; метод Альфа Кронбаха. В методе расщепления применяются формулы: Спирмана-Брауна; Рюлона; Кьюдера-Ричардсона; Стенли. Если значения коэффициента r попадают в интервал 0,80-0,89, то говорят, что тест обладает хорошей надежностью, а если этот коэффициент не меньше 0,90, то надежность можно назвать очень высокой. При применении метода расщепления тестовую матрицу разбивают на две половины, состоящие из заданий с четными и нечетными номерами.
Формула Спирмена -Брауна выглядит так:
Перед применением этой формулы, надо применить формулу (3). Обратите внимание на то, что в данном случаи X i - тестовый балл i -го испытуемого за задания с четным номером; Y i
Формула Рюлона выглядит так:
Дисперсия разностей между результатами каждого испытуемого по обеим половинам тестаS 2 d находится по формуле:
где:X i - тестовый балл i-го испытуемого за задания с четным номером;
Y i - тестовый балл того же испытуемого за задания с нечетным номером.
Дисперсия суммарных баллов результатаS 2 z находится по формуле:
, (6.2)
где: Z i - суммарный балл за весть тест i -го студента.
Формула Кьюдера-Ричардсонавыглядит так:
, (7)
где: p j - доля правильных ответов на j -ое задание, т.е. кол-во правильных ответов, деленное на кол-во студентов;
q j - доля неправильных ответов на j -ое задание, т. е. кол-во неправильных ответов, деленное на кол-во студентов (q j = 1 -p j );
S 2 z - дисперсия суммарных баллов результата, которая вычисляется по формуле (5.2).
При подсчете надежности по формуле Стенли студентов необходимо разделить на две группы. В первую группу войдут 27% «сильных» студентов (те, кто набрал наибольшее количество баллов), а в слабую 27% «слабых» студентов (те, кто набрал наименьшее количество баллов).
Формула Стенли:
, (8)
где W L - количество неправильных ответов на данный вопрос в слабой группе;
W H - количество неправильных ответов на данный вопрос в сильной группе;
n - количество вопросов в тесте;
k - количество испытуемых в сильной (слабой) группе, т. е. 27 % от общего числа испытуемых.
Коэффициент Альфа Кронбаха показывает внутреннюю согласованность характеристик, описывающих один объект, и находится по формуле:
, (9)
где: S 2 Y - дисперсия суммарных баллов результата, которая вычисляется по формуле (3.2);
S 2 Yi - дисперсия элемента i .
Методику расчета тестовых характеристик покажем на конкретном примере . Мы получили результаты тестирования студентов, представленные в таблице 1.
Таблица 1
Результаты первого тестирования
|
Ст удент i |
Экспертная оценка |
Номер задания |
|||||||||
|
1 0 |
|||||||||||
Спустя две недели тест провели повторно и получили результат, представленный в таблице 2.
Таблица 2
Результаты второго тестирования
|
i |
Экспертная оценка |
Номер задания |
|||||||||
|
1 0 |
|||||||||||
Используя данные таблиц, перейдем к расчету всех вышеперечисленных характеристик.
Дискриминативность
1.Рассчитываем количество студентов в крайних группах, сразу округляя до целых:.
2. Рассмотрим группу лучших и группу худших, в каждой из которых будет по 3 человека. Получим таблицу 3.
Таблица 3
Сводная таблица тестирования с экспертными оценками
|
i |
Экспертная оценка, Ei |
Номер задания |
Общий балл за тест |
|||||||||
|
1 0 |
||||||||||||
Таким образом в группу лучших входят студенты под номером 1, 10, 4; в группу худших: 3, 5, 2 (если встречаются студенты с одинаковым баллом за тест, учитываем экспертные оценки).
3. Составимтаблицу4, состоящую только из студентов группы лучших и студентов группы худших, сразу рассчитывая количество студентов в каждой группе, правильно выполнивших задание.
Таблица 4
Сводная таблица тестирования с экспертными оценками
для крайних групп
|
i |
Экспертная оценка, Ei |
Номер задания |
|||||||||||
|
1 0 |
|||||||||||||
|
Группа лучших |
|||||||||||||
|
Группа худших |
|||||||||||||
4. Рассчитываем индекс дискриминативности для каждого задания по формуле (1):
, , 
, 
, 
, 
, 
, 
, 
, 
.
Длаем вывод, что задания 6 и 7 недискриминативны.
Валидность
В таблице 6найдены E i (экспертная оценка),Z i (общий балл за тест), n - известно, в нашем случае равно 10.
1. Находим и по формуле (3.1):
2. Находим и по формуле (3.2):
,
.
3.Валидность рассчитывается по формуле (3). Для удобства отдельно посчитаем:
Получим: .
Надежность как устойчивость
1. Для начала построим таблицу 5.
Таблица 5
Нахождения надежности по формуле Пирсона
|
Номер ученика i |
Балл при первом тестировании X i |
Балл при повторном тестировании Y i |
X i Y i |
(X i ) 2 |
(Y i ) 2 |
2. Применим формулу (4):
Надежность как внутренняя согласованность. Данную характеристику мы будем считать методом расщепления по формуле Рюлона (6).
1. Для начала найдем дисперсию разностей между результатами каждого испытуемого по обеим половинам теста. Заполним таблицу 6.
Таблица 6
Расчет дисперсии разностей результатов
|
i |
Балл за задания с четным номером X i |
Балл за задания с нечетным номером Y i |
X i -Y i |
|
|
2. Применим формулу (6.1): 
.
3. Найдем дисперсию суммарных баллов результата, предварительно построив таблицу 7.
Таблица 7
Расчет дисперсии суммарных баллов
|
I |
Балл за все задания Z i |
|
|
4. Применяя формулу (6.2), а затем и формулу (6), получим:
, 
.
Интерпретация результатов
1. Надежность как устойчивость: поскольку значение коэффициента приблизительно равно 0,923, то тест имеет высокую степень надежности. Значит, с этой точки зрения он составлен очень хорошо.
2. Надежность как внутренняя согласованность: значение коэффициента корреляции приблизительно равно 0,198. Это говорит о низкой надежности, поэтому лучше провести повторное тестирование с целью определения, какие тестовые задания необходимо заменить.
3. Дискриминативность: недискриминативны задания 6 и 7, так как неудовлетворительным считается коэффициент дискриминации менее 0,3. Это значит, что эти задания непригодны для теста и их необходимо заменить.
4. Валидность: степень корреляции между результатами теста и внешним критерием (экспертными оценками) достаточно высока и составляет 0,962823. Данный результат говорит о высокой валидности рассмотренного теста.
Обращаем ваше внимание на особые случаи .
- Иногда при нахождении коэффициента надежности происходит деление на нуль. Это может произойти, если все студенты имеют одинаковое количество правильных и неправильных ответов. Такое редко бывает на практике, скорее всего, произошла утечка ответов. В данном случае следует тест провести повторно.
- При нахождении надежности как устойчивости, так же возможен случай, который дает в ответе неопределенность, т. е. происходит деление нуля на нуль. Такое может произойти, когда студент дал одинаковое количество правильных и неправильных ответов на первом и повторном тестировании. Это означает, что тест составлен очень удачно или же наоборот, очень неудачно. Советуем вам проверить другие тестовые характеристиками и, исходя из них, сделать заключение.
- При расчете валидности также возможен случай, когда происходит деление на 0. Это может произойти в том случае, если все студенты имеют одинаковое количество правильных и неправильных ответов или, если все экспертные оценки одинаковы. Такой случай редко может произойти на практике, скорее всего, произошла утечка ответов, и данный результат искажен.
Если мы хотим составить тестовые задания, обладающие удовлетворительной дискриминативностью, то необходимо избегать следующего: 1) излишней сложности, запутанности формулировок; 2) неоднозначности условий; 3) очевидности решения; 4) зависимости результата от памяти или от других индивидуальных особенностей испытуемого, а не от уровня развития тех умений и навыков, для оценки которых разрабатывается тест; 5) абсурдности, нереальности вариантов ответов; 6) появления двух и более правильных ответов, не оговоренных в условии.
Существуют следующие способы повышения валидности теста: 1) подбор оптимальной трудности заданий для обеспечения нормального закона распределения баллов по тесту; 2) экспертиза качества содержания теста;
3) расчет оптимального времени выполнения теста; 4) подбор заданий с высокой дискриминативностью.
Предварительное исследование источников ненадежности позволяет по возможности устранить их влияние при конструировании теста. К числу таких источников обычно относят: 1. Субъективизм при оценке результатов выполнения заданий теста. Наиболее эффективный метод преодоления отмеченного недостатка - использование закрытых заданий, которые благодаря возможности объективной оценки результатов выполнения при прочих равных ведут к повышению надежности теста. 2. Угадывание. Как показывают специальные исследования, угадывание существенно снижает надежность теста, особенно в тех случаях, когда тестируется группа слабых учеников, которые обычно прибегают к догадке при выполнении наиболее трудных заданий теста. 3. Отсутствие логической корректности формулировок заданий теста. Как правило, некорректные задания пропускают сильные ученики, что в целом негативно отражается на надежности теста. 4. Неоправданный выбор весовых коэффициентов. При правильном положении вещей выбор весовых коэффициентов в процессе подсчета индивидуальных баллов обучаемых должен базироваться на соответствующей теории. 5. Длина теста. Надежность растет по мере увеличения длины теста. Для удовлетворительной, но не хорошей надежности обычно достаточно 30 заданий теста. 6. Отсутствие стандартной инструкции к тесту. Инструкции к тесту должны быть предельно стандартизованы и точны. Любые неоднозначности, двусмысленности и отступления от требований стандартизации в инструкции ведут к снижению надежности теста. 7. Иные источники ненадежности связаны с испытуемыми, а не с заданиями теста. Например, испытуемый может плохо себя почувствовать во время работы над тестом либо ошибиться в инструкции. На результаты выполнения теста могут повлиять усталость и скука, температура в помещении, шум за окном и т. п.
В заключение отметим, что в рамках нашего проекта с целью оптимизации процесса эмпирической обработки тестовых характеристикстудентами специальности «Информатика» Фалеем Александром и Березюком Сергеем разработани реализован онлайн сервис .Обработка пользовательских данных разделена на три этапа: прием информации от клиента и формирование массивов исходных данных, обработка значений с помощью расчетных формул и алгоритмов, компоновка и вывод результатов пользователю. Целевой аудиторией данного сервиса преимущественно могут стать учителя школ и преподаватели вузов.Адрес проекта: www.qualitester.com .
Список литературы:
1. Аванесов В. С. Композиция тестовых заданий/ В. С. Аванесов. - М.: Адепт, 1998. - 217 с.
2. Аванесов В. С. Применение заданий в тестовой форме в новых образовательных технологиях / В.С. Аванесов // Школьные технологии. - 2007. - № 3. - С. 146-163.
3. Аванесов В. С. Форма тестовых заданий: учеб. пособие / В. С. Аванесов. М.: Центр тестирования, 2005. - 120 с.
4. Гуцанович С. А., Радьков А. М. Тестирование в обучении математике: диагностико-дидактические основы / С. А. Гуцанович, А. М. Радьков. - Мозырь: Издательский Дом «Белый Ветер», 2001. - 168 с.
5.Майоров А. Н. Теория и практика создания тестов для системы образования. - Москва: «Интеллект-Центр», 2002. - 296 с.
6.Челышкова,М.Б. Теория и практика конструирования педагогических тестов. - Москва: «Логос», 2002. - 432 с.
Тестирование - это исследовательский метод, который позволяет выявить уровень знаний, умений и навыков, способностей и других качеств личности, а также их соответствие определенным нормам путем анализа способов выполнения испытуемым ряда специальных заданий. Такие задания принято называть тестами. Тест - это стандартизированное задание или особым образом связанные между собой задания, которые позволяют исследователю диагностировать меру выраженности исследуемого свойства у испытуемого, его психологические характеристики, а также отношение к тем или иным объектам. В результате тестирования обычно получают некоторую количественную характеристику, показывающую меру выраженности исследуемой особенности у личности. Она должна быть соотносима с установленными для данной категории испытуемых нормами. Значит, с помощью тестирования можно определить имеющийся уровень развития некоторого свойства в объекте исследования и сравнить его с эталоном или с развитием этого качества у испытуемого в более ранний период.Тесты обычно содержат вопросы и задания, требующие очень краткого, иногда альтернативного ответа («да» или «нет», «больше» или «меньше» и т.д.), выбора одного из приводимых ответов или ответов по балльной системе. Тестовые задания обычно отличаются диагностичностью, их выполнение и обработка не отнимают много времени. В то же время, как показала мировая практика, очень важно видеть, что реально могут выявить тесты, для того чтобы не подменить предмет диагностирования. Так, многие тесты, претендующие на выявление уровня развития, реально выявляют лишь уровень подготовленности, информированности или умелости испытуемых.
При подготовке тестовых заданий следует соблюдать ряд условий. Во-первых, нужно определить и ориентироваться на некоторую норму, что позволит объективно сравнивать между собой результаты и достижения различных испытуемых. Это означает также, что исследователь должен принять некоторую научную концепцию изучаемого явления, ориентироваться на нее и с этих позиций обосновывать создание и интерпретировать результаты выполнения заданий. Например, тесты-задания на выявление уровня сформированности знаний, умений и навыков по тем или иным учебным предметам составляются и применяются на основе некоторых представлений о критериях оценки знаний, умений и навыков учащихся и соответствующих норм отметок или могут быть рассчитаны лишь на сравнение испытуемых между собой по успешности. выполнения ими заданий. Во-вторых, испытуемые должны находиться в одинаковых условиях выполнения задания (независимо от времени и места), что позволяет исследователю объективно оценить и сравнить полученные результаты.
Норма каждого теста определяется составителем-разработчиком путем нахождения среднего показателя, соответствующего результатам большой совокупности людей, принадлежащих некоторой культуре (выборка стандартизации). Этот показатель принимается за средний показатель развития выявляемого тестом свойства, статистически характерного для среднего человека. Это может быть, например, возрастной нормой интеллектуального развития или какой либо личностной характеристикой. Такой показатель определяется опытным путем и принимается за точку отсчета. Результаты каждого испытуемого сравниваются с нормой и соответствующим способом оцениваются: каждый тест сопровождается способом обработки данных и интерпретации результатов. Например, в тесте на определение акцентуации характера (К. Леон-гардт) испытуемый по каждому из типов акцентуации может набрать максимум 24 балла; признаком сильной выраженности (акцентуации) считается показатель, превышающий 12 баллов (исследователь может сам, на основании накопленного опыта, дополнительно уточнить характеристику меры выраженности свойства при показателях до 24 баллов).
Тесты, ориентированные на определение среднестатистических норм и принятие их в качестве критериев оценки и интеграции, позволяют осуществлять нормативно-ориентированное тестирование (НОРТ). Такие нормативные оценочные действия часто используются в педагогической практике. Например, существуют критерии оценки знаний, умений и навыков и нормы отметок по тем или иным учебным предметам, применяются учебные задания тестового характера по разным предметам с установленными нормами выставления отметок. НОРТ можно осуществить с применением многих тестов (тест Равена, тест Кэттелла, методика диагностики уровня субъективного контроля и др.).
Бывает много случаев, когда важно учитывать изменения в показателях одного и того же испытуемого на определенном промежутке времени, например до начала обучения и после завершения обучения некоторому учебному материалу. Это позволяет фиксировать возможности испытуемого, а периодическая диагностика и сравнение его показателей с предыдущими позволяет выявлять темп и направление развития изучаемого свойства. В таких случаях интерпретация результатов тестирования осуществляется с позиции выбранных критериев, показывающих особенности продвижения испытуемого в усвоении содержания учебного материала и развитии определенных психических качеств. Многие интеллектуальные тесты, тесты достижений и др. позволяют использовать их в указанном выше смысле. Норма теста в подобных случаях индивидуальная.
Возможен и случай, когда определение нормы теста осуществляется по содержательному признаку, на основе анализа логико-психологической структуры материала заданий, когда успешность выполнения теста интерпретируется в терминах - качественных характеристиках исследуемого свойства. Такие качественные характеристики выступают как критерии оценки достижений испытуемого, а само тестирование становится критериально-ориентированным. Критериально-ориентированное тестирование (КОРТ) позволяет достаточно успешно сочетать тестирование, интерпретацию результата и коррекцию хода обучения (формирования). Напомним еще раз, что результаты выполнения заданий в КОРТ соотносятся с качественными характеристиками содержания задания (теста), а не с некоторым среднестатистическим уровнем успешности его выполнения, как в НОРТ.
Примером может служить использование «Методики АРП» и соответствующего ей блока методик, предложенного одним из авторов данного пособия. Выполнение данного блока позволяет определить уровень развития мышления испытуемого - школьника, которое может быть эмпирическим, аналитическим, планирующим и рефлектирующим. Поскольку сформированность того или иного уровня развития мышления является предпосылкой возможного становления в будущем следующего уровня развития, поэтому имеется возможность: 1) принятия этих уровней в качестве критериев оценки исследуемого свойства; 2) принятия следующего за установленным уровня в качестве направления последующего развития мышления и определение ближайшей зоны развития мышления ученика; 3) составление адекватного набора упражнений по одному или ряду учебных предметов, выполнение которых должно привести к достижению школьником соответствующего уровня развития мышления1.
Существуют определенные правила проведения тестирования и интерпретации полученных результатов. Эти правила достаточно четко проработаны, и основные из них имеют следующий смысл: 1)
информирование испытуемого о целях проведения тестирования; 2)
ознакомление испытуемого с инструкцией по выполнению тестовых заданий и достижение уверенности исследователя в том, что инструкция понята правильно; 3)
обеспечение ситуации спокойного и самостоятельного выполнения заданий испытуемыми; сохранение нейтрального отношения к тестируемым, уход от подсказок и помощи; 4)
соблюдение исследователем методических указаний по обработке полученных данных и интерпретации результатов, которыми сопровождается каждый тест или соответствующее задание; 5)
предупреждение распространения полученной в результате тестирования психодиагностической информации, обеспечение ее конфиденциальности; 6)
ознакомление испытуемого с результатами тестирования, сообщение ему или ответственному лицу соответствующей информации с учетом принципа «Не навреди!»; в этом случае возникает необходимость решения серии этических и нравственных задач; 7)
накопление исследователем сведений, получаемых другими исследовательскими методами и методиками, их соотнесение друг с другом и определение согласованности между ними; обогащение своего опыта работы с тестом и знаний об особенностях его применения.
Как уже было отмечено, каждый тест сопровождается конкретной инструкцией и методическими указаниями по обработке и интерпретации получаемых данных.
Выделяют также несколько типов тестов, каждому из которых сопутствуют соответствующие процедуры тестирования.
Тесты способностей позволяют выявить и измерить уровень развития тех или иных психических функций, познавательных процессов.
Такие тесты чаще всего связаны с диагностикой познавательной сферы личности, особенностей мышления и обычно называются также интеллектуальными. К ним относятся, например, тест Равена, тест Амтхауэра, соответствующие субтесты теста Век-слера и т.д., а также тесты-задания на обобщение, классификацию и множество других тестов исследовательского характера.
Тесты достижений ориентированы на выявление уровня сфор-мированности конкретных знаний, умений и навыков и как меры
1 См.: Атаханов Р.А. Математическое мышление и методики определения уровня его развития // Науч. ред. В.В.Давыдова. - Рига, 2000.
успешности выполнения, и как меры готовности к выполнению некоторой деятельности. В качестве примеров могут служить все случаи тестовых экзаменационных испытаний. На практике обычно применяются «батареи» тестов достижений.
Личностные тесты предназначены для выявления свойств личности испытуемых. Они многочисленны и разнообразны: существуют опросники состояний и эмоционального склада личности (например, тесты тревожности), опросники мотивации деятельности и предпочтений, определения черт характера личности и отношений.
Имеется группа тестов, называемых проективными, которые позволяют выявить установки, неосознаваемые потребности и побуждения, тревоги и состояние страха. Испытуемому предлагаются различные стимульные материалы типа сюжетно неопределенных картинок, незавершенных предложений, сюжетные рисунки с конфликтными ситуациями и др. с просьбой интерпретировать их. Механизм выполнения таких заданий проявляется в том, что испытуемый некоторым образом упорядочивает элементы стимульного материала и придает им субъективный смысл, отражающий его личный опыт и переживания. Иначе говоря, проективные тесты построены на признании существования механизма «проектирования» человеком своего внутреннего мира на внешний, когда он невольно приписывает другим людям те свои влечения, потребности и желания, которые в обычном состоянии подавлены. Значит, проективные тесты позволяют с достаточной мерой объективности диагностировать бессознательные переживания человека. Такими тестами являются тематический апперцептивный тест, тест «чернильных пятен» Роршаха, широко применяемый фрустрационный тест Розенцвейга и др. Используются также графические проективные методики, где исследователь ставит испытуемого в ситуацию проектирования своего состояния, особенностей личности и отношений на реальность путем изображения дома, дерева, семьи, человека, несуществующего животного и его интерпретации. Например, тест «Конструктивный рисунок человека из геометрических фигур» выявляет индивидуально-типологические различия путем анализа рисунка человека, составленного из десяти фигур (треугольников, квадратов и кругов, причем их сочетание может быть любым): испытуемый может оказаться принадлежащим к типу «руководителей», «тревожно-мнительных личностей» и т. д.
Применение тестов всегда связано с измерением проявления того или иного психологического свойства и оценкой уровня его развития или сформированности. Поэтому важное значение имеет качество теста. Качество теста характеризуется критериями его точности, т. е. надежностью и валидностью.
Надежность теста определяется тем, насколько получаемые показатели являются стабильными и насколько они не зависят от случайных факторов. Разумеется, речь идет о сравнении показаний одних и тех же испытуемых. Это значит, что надежному тесту должна быть свойственна согласованность показателей тестирования, полученных при повторном тестировании, и можно быть уверенным в том, что тест выявляет одно и то же свойство. Применяются разные способы проверки надежности тестов. Один способ - это только что упомянутое повторное тестирование: если результаты первого и через определенное время проводимого повторного тестирования покажут наличие достаточного уровня корреляции, то это будет свидетельствовать о надежности теста. Второй способ связан с применением другой эквивалентной формы теста и наличием высокой корреляции между ними (некоторые тесты предлагаются пользователям в двух формах; например, тест-опросник Айзенка EPI - по определению темперамента - имеет равнозначные формы А и Б). Возможно и применение третьего способа оценки надежности, когда тест допускает его расщепление на две части и одна и та же группа испытуемых обследуется с применением обеих частей теста. Надежность теста показывает, насколько результаты тестирования могут быть устойчивы, насколько точно измеряются психологические параметры и насколько высокой может быть мера доверия исследователя к полученным результатам.
Валидность теста отвечает на вопрос о том, что именно выявляет тест, насколько он пригоден для выявления того, для чего он предназначен. Например, тесты способностей нередко выявляют несколько иное: натренированность, наличие соответствующего опыта или, наоборот, его отсутствие. В таком случае тест не отвечает требованиям валидности.
В психодиагностике выделяют разные виды валидности. В простейшем случае валидность теста обычно определяется путем сопоставления полученных в результате тестирования показателей с экспертными оценками о наличии данного свойства у исследуемых (текущая валидность или валидность «по одновременности»), а также путем анализа данных, полученных в результате наблюдения за обследуемыми в различных ситуациях их жизни и деятельности, и их достижений в соответствующей области. Вопрос о валидности теста может быть решен еще и сравнением его данных с показателями, полученными с помощью методики, связанной с данной методикой, валидность которой считается установленной.
3.2. Надежность тестовых методик
Превращение психодиагностических процедур и техник в надежный инструмент науки и практики зависит от усилий многих специалистов по психометрической отладке, конструированию тестов, удовлетворяющих основным психометрическим требовованиям: надежности, валидности, стандартизации. Основные принципы проверки и определения надежности, конструирования и валидизации психодиагностических методик освещены в ряде специальных работ по психодиагностике (А. Анастази, А. Бодалси, В. Столин, А. Шмелев, К. Гуревич, В. Мельников и др.). В данном учебном пособии мы опишем базовые понятия и принципы проведения психодиагностического обследования, знание которые является непременным условием профессиональной квалификации практического психолога.
Психодиагностика как научная дисциплина включает три области психологического знания:
предметную область психологии, изучающую данные психические явления;
психометрику – науку об измерении индивидуальных различий и диагностируемых переменных;
практическое использование психологического знания в целях адекватного психологического воздействия и оказания помощи людям в решении их проблем.
надежности – внутренней согласованности частей теста и воспроизводимости результатов при повторном тестировании;
валидности – отражения в результатах теста именно того свойства, для диагностики которого он предназначен;
достоверности – защищенности теста от влияния на результаты стремления испытуемого изменить их в желательную сторону;
репрезентативности – наличия норм результатов массового обследования в популяции, на которую рассчитан тест, позволяющих оценить степень отклонения от средних значений любого индивидуального показателя.
Эти психометрические требования относятся к разным группам тестов, при этом в наибольшей степени – к объективным тестами личностным опросникам, в наименьшей – к проективным техникам.
Оъективная оценка психологических методик и тестов означает определение их надежности. В психометрии термин «надежность» всегда означает согласованность показателей, полученных у тех же самых испытуемых.
Насколько пригоден данный тест? Действительно ли он выполняет свои функции? Эти вопросы могут вызывать и иногда вызывают длительные бесплодные дискуссии. Предубеждения, субъективные выводы, личные пристрастия приводят, как считает А. Анастази, с одной стороны, к переоценке возможностей конкретного теста, а с другой – к упорному его неприятию. Единственный способ ответить на подобные вопросы – эмпирическая проверка. Объективная оценка
психологических тестов прежде всего означает определение их надежности и валидности в конкретных ситуациях.
^
Надежность теста
есть согласованность показателей, полученных у тех же самых испытуемых при повторном тестировании тем же самым тестом или эквивалентной его формой.
Если у ребенка IQ в понедельник равен 110, а в пятницу – 80, то очевидно, что к такому показателю вряд ли можно отнестись с доверием. Аналогично, если индивид в ряду из 50 слов правильно определил 40, а в другом считающемся эквивалентным ряду – 20, то ни один из этих показателей не может рассматривается в качестве меры его вербального понимания. Разумеется, в обоих примерах возможно, что ошибочным является только один из двух показателей, но это может подтвердить лишь последующее тестирование; из приведенных данных следует только то, что вместе показатели не могут быть правильными.
Прежде чем психологический тест станет общим достоянием, необходимо провести тщательную объективную проверку его надежности. Надежность может проверяться относительно временных изменений, выбора конкретных заданий или тестовой выборки индивидуальности экспериментатора или специалиста по обработке тестовых показателей и других аспектов тестирования. Очень важно точно указать тип надежности и способ ее определения, поскольку один и тот же тест может изменяться в различных аспектах. Желательно также иметь сведения о численности и особенностями индивидов, на которых проверялась надежность теста.
Такая информация позволит пользующемуся тестом решить, насколько надежен этот тест для той группы, к которой он собирается его применить.
Наиболее полное объяснение надежности тестовых методик дает А. Анастази. Под надежностью понимается согласованность результатов теста, получаемых при повторном его применении к тем жеиспытуемым в различные моменты времени, с использованием разных наборов эквивалентных заданий или при изменении других условий обследования. На надежности основывается вычисление ошибки измерения, которая служит для указания вероятных пределов колебаний измеряемой величины, возникающих под действием посторонних случайных факторов. В самом широком смысле надежность показывает, в какой степени индивидуальные различия в тестовых результатах оказываются «истинными», а в какой могут быть приписаны случайным ошибкам. Если перевести это на язык специальных терминов, то измерение надежности теста позволяет оценить величину общей дисперсии тестовых показателей, являющуюся дисперсией ошибки. Вопрос, однако, состоит в том, что считать дисперсией ошибки. Одни и те же факторы, которые применительно к одним задачам являются посторонними, при решении других проблем уже считаются источниками «истинных» различий. Например, если нас интересуют колебания настроения, то происходящие день ото дня изменения в результатах теста эмоционального состояния могли относиться к цели тестирования и, следовательно, к истинной дисперсии результатов. Но если тест предназначен для измерения более стабильных характеристик личности, то те же ежедневные колебания можно отнести к дисперсии ошибки.
Существенно то, что любые изменения условий, в которых проводится тест, если они не имеют отношения к его цели, увеличивают дисперсию ошибки. Поэтому, придерживаясь единых условий тестирования (контролируя общую обстановку, временные ограничения, инструктирование испытуемого, контакт с ним и другие аналогичные факторы), экспериментатор уменьшает дисперсию ошибки и повышает надежность теста. Но и в оптимальных условия ни один тест не является абсолютно надежным инструментом. По этому стандартный набор данных о тесте должен включать в себя и меру надежности. Такая мера характеризует тест, когда он применяется в стандартных условиях и проводится с испытуемыми, похожими на тех, кто участвовал в нормативной выборке. Следовательно, необходимо также приводить сведения об этой выборке.
К. М. Гуревич определяет надежность как «крайне сложное и многоплановое понятие, одна из основных функций которого – оценить постоянство показателей тестовых испытаний» [Гуревич, 1981].
В принципе можно сказать, что надежность должна обосновывать ошибку измерения – она должна показывать, какая часть изменчивости показателей ошибочна. Известно несколько основных факторов, определяющих уровень надежности. Так, надежность всегда будет иметь тенденцию к увеличению, если соблюдается постоянство условий проведения процедуры тестирования, так как это снижает ошибку вариабельности измеряемого параметра. В то время многочисленность целей, сложность проблемы, изменчивость ситуаций, как правило, увеличивают ошибку измерения, уменьшая тем самым надежность.
Разновидностей надежности теста так же много, как и условий, влияющих на результаты теста, поэтому любые такие условия могут оказаться посторонними по отношению к цели, и тогда
обусловленная ими дисперсия должна войти в дисперсию ошибки. Однако практическое применение находит лишь несколько типов надежности. Поскольку все типы надежности отражают степень последовательности или согласованности двух независимо полученных серий показателей, то в качестве их меры может выступать коффециент корреляции. Более специальное обсуждение корреляции с подробным описанием вычислительных процедур приводится в учебниках по статистике для педагогов и психологов (В. Аванесов, А. Гусев, Ч. Измайлов, М. Михалевская и др.).
Hа практике используются три основных метода оценкинадежности тестов:
1) повторное тестирование;
2) параллельное тестирование;
3) метод расщепления.
Рассмотрим каждый из них в отдельности.
^ Повторное тестирование Является одним из основных методов измерения надежности. Повторное
тестирование выборки испытуемых проводится одним и тем же тестом через определенный интервал времени при одинаковых условиях. Повторное тестирование обычно называют ретестом, а надежность, измеренную таким способом, – ретестовой надежности. Схема оценки ретестовой надежности имеет вид:
В этом случае за индекс надежности принимается коэффициент корреляции между результатами двух тестирований.
Метод повторного тестирования обладает как достоинствами, так и недостатками. К числу достоинств относятся естественность и простота определения коэффициента надежности. К недостаткам следует отнести неопределенность в выборе интервала между двумя измерениями. Возникновение временной неопределенности связано с тем, что повторное тестирование отличается от первичного. Испытуемые уже знакомы с содержанием теста, помнят свои первоначальные ответы и ориентируются на них при повторном выполнении теста. Поэтому при повторном тестировании нередко наблюдается или «подгонка» под первоначальные результаты, или как следствие негативизма демонстрация «новых» результатов. Во избежание этого, приводя в руководстве к тесту его ретестовую надежность, следует указывать, какому интервалу времени она соответствует. В связи с тем что ретестовая надежность уменьшается с ростом временного интервала, наиболее доверительными являются высокие коэффициенты надежности, полученные при явно больших интервалах между тестированиями. Недостаточно высокие коэффициенты надежности могут быть следствием неоптимального определения временных интервалов.
^
Параллельное тестирование
В этом случае многократность измерения организуется с помощью параллельных, или эквивалентных, тестов. Параллельными называются тесты, которые с одинаковой ошибкой измеряют одно и то же свойство психики. В этом случае одни и те же лица выполняют несколько вариантов одного и того же теста или эквивалентные тесты. Как правило, практическое использование данного типа надежности связано со значительными затруднениями, поскольку крайне сложно построить несколько вариантов одного теста таким образом, чтобы испытуемый не мог обнаружить их психологическую однородность. Да и искажающее влияние тренировки в этом случае не полностью снято. Кроме того, возникает вопрос: являются ли альтернативные типы надежности характеристиками именно надежности теста, а не параметрами эквивалентности испытаний? Ведь если две формы испытания проводятся при однотипных константных условиях, то, вероятнее всего, исследуются показатели эквивалентности двух форм тестирования, а не показатели надежности самих тестов. Ошибка измерения в этом случае определяется флюктуациями выполнения теста, а не флюктуациями структуры теста.
Схема использования параллельных тестов для измерения на дежности имеет вид:
Рассчитанный между двумя тестами коэффициент корреляции называется эквивалентной надежностью.
^ Метод расщепления Он является развитием метода параллельного тестирования и базируется на допущении о параллельности не только отдельных форм теста, но и отдельных заданий внутри одного теста. Это одна из наиболее простых проверок теста, когда вычисляется коэффициент корреляции между его половинами. Каким же образом поделить тест на две половины, чтобы иметь возможность выровнять обе половины по тому или иному конкретному основанию? Чаще всего задачи теста делят на чет-нечет, что позволяет в какой-то мере устранить возможные недостатки. Главное достоинство этого типа надежности состоит в независимости результатов тестирования от таких элементов деятельности, как врабатывание, тренировка, практика, утомление и т.д. При разделении теста на две части индекс надежности вычисляется по формуле Спирмена-Брауна, предложивших ее независимодруг от друга. Их статьи были опубликованы в одном и том же номере психологического журнала с выводами и формулами [Аванесов, 1982]. В их формуле
R
(х,
0=2 RJ
\ +
R
, у
где R – коэффициент корреляции двух половин теста. В качестве коэффициента индекса надежности рассматривается средний модуль коэффициента корреляции всех заданий теста или средний коэфициент детерминации.
Итак, мы рассмотрели три эмпирических метода оценки надежности тестов: повторное тестирование одним и тем же тестом, повторное тестирование параллельной формой теста и расщепление теста.
Какой из этих методов дает истинную оценку надежности теста? Каким из методов следует пользоваться? Ответ на этот вопрос зависит от личной симпатии и целей исследования.
При использовании метода повторного тестирования получаем оценку степени устойчивости результатов во времени и в зависимости от условий тестирования. Поэтому ретестовый коэффициент надежности называют также коэффициентом устойчивости или стабильности теста. При использовании метода параллельных форм и метода расщепления оценивается степень взаимной согласованности частей теста. Поэтому коэффициенты надежности, полученные этими двумя методами, интерпретируются как покачен и гомогенности, однородности тестов.
Помимо показателей устойчивости и гомогенности, Р. Б. Кэттелл считает необходимым рассматривать показатель переносимос mu (transferability ). Он представляет собой оценку способности тес та сохранять точность измерения в разных выборках, субкультурах и популяциях. Совместно устойчивость, гомогенность и переносимость образуют комплексную характеристику надежности, которую Р. Б. Кэттелл называет постоянством (consistency ) и определяет как «степень, в которой тест продолжает предсказывать то, что он однажды предсказал, несмотря на изменения (в определенных пределах): а) объема, в котором тест применялся; б) условий, в которых он применялся; в) состава выборки, в которой он применяется».
Наконец, существует тип надежности, непосредственно имеющий отношение к надежности лица, проводящего тестовое испытание. Оценка надежности лица, проводящего тест, получается с помощью независимого моделирования испытания двумя различными экспериментаторами.
Надежность результатов тестирования зависит не только от надежности самого теста и процедуры его проведения. Важным фактором, влияющим на результаты интерпретации данных, является специфика конкретной выборки. Наиболее существенными характеристиками выборки, с этой точки зрения, следует признать социально-психологическую однородность по разным параметрам; учитываются также возраст и пол.
Последовательность действий при проверке надежности А. Г. Шмелев предлагает провести следующим образом [Общая психодиагностика, 1987]:
1. Узнать, существуют ли данные о надежности теста, предлагаемого к использованию, на какой популяции и в какой диагностической ситуации проводилась проверка. Если проверки не было или признаки новой популяции и ситуаций явно специфичны, провести заново проверку надежности с учетом указанных ниже возможностей.
2. Если позволяют возможности, то произвести повторное тестирование на всей выборке стандартизации и подсчитать все коэффициенты, приведенные как для целого теста, так и для отдельных пунктов. Анализ полученных коэффициентов поможет понять, насколько пренебрежима ошибка измерения.
3. Если возможности ограничены, произвести повторное тестирование только на части выборки (не менее 30 испытуемых), подсчитать вручную ранговую корреляцию для оценки внутренней
согласованности (методом расщепления) и стабильности целого теста.
Безусловно, рассмотренные понятия психодиагностики – ее важнейшие атрибуты. Однако высокие показатели надежности сами по себе не определяют практическую ценность теста. Ведущий фактор, который позволяет измерить целевые результаты психологического тестирования, – валидность.
В практическом смысле под надежностью понимают постоянство или устойчивость результатов измерений. Если определенный измерительный инструмент надежен, то при повторных измерениях, проводимых тем же инструментом и другим человеком, результат не изменится. И наоборот, ненадежные измерительные инструменты дают различные результаты измерений, зависящие от самых различных обстоятельств.
Надежность – это общее требование, предъявляемое к измерениям любого типа при любых условиях.
Существует несколько способов оценки того, насколько надежные результаты измерений дает данный тест. Чаще всего используются три метода.
1.Оценка надежности теста методом повторного тестирования . Одним из наиболее часто используемых. С помощью этой процедуры вычисляется коэффициент корреляции между двумя переменными – результатами измерений, полученными при двукратном тестировании одних и тех же людей с использованием одного и того же теста, но в разное время.
С точки зрения исследователя, процедура повторного тестирования проста и занимает немного времени. Испытуемым она, вероятно, нравится меньше, поскольку им приходится проходить тест дважды. Как подчеркивают Смит и Джордж, важным аспектом тестирования является мотивация испытуемых хорошо справиться с тестом. Возможно, что при повторном тестировании испытуемые чувствуют нетерпение или скуку, за счет чего в результаты вносится дополнительная погрешность.
При исследовании надежности теста методом повторного тестирования в промежутке между первым и вторым тестированием могут произойти также и другие события. Если это слишком короткое время, то на коэффициент устойчивости могут повлиять такие факторы, как запоминание вопросов теста или полученный при первом тестировании опыт, а также снижение интереса испытуемых к тесту. Если между первым и вторым тестированием проходит слишком много времени, то испытуемые могут измениться в каком-либо релевантном тесту отношении (они могут подготовиться, накопить опыт, изучить материал и так далее).
Неодинаковые реакции испытуемых на первое тестирование вносят дополнительную ошибку в оценку надежности теста. По этой причине данный метод наиболее полезен для оценки надежности тестов, предназначенных для оценки умений, которые не имеют отношения к памяти и вряд ли улучшатся в результате непродолжительной практики во время первого тестирования. В качестве примеров таких тестов можно привести тесты на остроту слуха, на умение решать проблемы и на тонкую моторику.
2. Оценка надежности теста методом проверки внутренней согласованности . Некоторые проблемы, связанные с мотивацией, памятью и полученным опытом, возникающие при оценке надежности методом повторного тестирования, можно обойти путем использования метода проверки внутренней согласованности теста. При этом проверяется согласованность ответов на отдельные вопросы теста, а не постоянство результатов, полученных при тестировании в разное время. Один из часто применяемых подходов заключается в том, что несколько испытуемых проходят тестирование раз, после чего тест делят на две части, результаты которых подсчитываются отдельнo. У каждого испытуемого теперь по два результата, и их используют для расчета коэффициента корреляции.
Обычно деление теста на две части производится следующим образом: в одну половину включают вопросы с нечетными, а в другую – с четными номерами. Полученный коэффициент корреляции r между двумя наборами “результатов” называется коэффициентом внутренней согласованности или иногда – разделительным коэффициентом.
3. Оценка надежности теста методом эквивалентных форм Кроме метода проверки внутренней согласованности можно воспользоваться альтернативной процедурой, которая основана на использовании двух различных тестов.
Если в основе обоих тестов лежит один и тот же материал, и они эквивалентны по форме и степени сложности, можно провести оценку надежности с помощью процедуры использования эквивалентных форм. Каждому испытуемому предлагаются оба теста и вычисляется коэффициент корреляции между полученными результатами (r), который называется коэффициентом эквивалентности. В этом названии содержится указание на главный недостаток этого метода – трудность конструирования эквивалентных форм теста. Тест считается надежным, если при использовании одного и того же измерительного инструмента получаются одинаковые результаты. Если же разные формы теста не эквивалентны, то не используется один и тот же измерительный инструмент, и, соответственно, оценка надежности будет занижена.
Конструирование эквивалентных форм теста может быть трудным и занимающим много времени делом. Кроме того, перед тем как разные формы теста можно будет применить для оценки надежности теста, они должны быть проверены на эквивалентность с использованием другой выборки. Однако после того как тест показал свою адекватность и надежность, может оказаться полезным наличие под рукой эквивалентных форм теста.
Но в отличие от надежности помимо случайных факторов на валидность теста влияют систематические факторы. Они привносят систематические искажения в результаты. Эти факторы есть другие психические свойства, которые мешают проявиться в результатах теста тому свойству, на которое тест направлен. Например, мы хотим измерять потенциал обучаемости (важнейший компонент общих интеллектуальных способностей человека). Но даем испытуемому тест с жестким ограничением времени исполнения и отсутствием возможности вернуться и исправить допущенную ошибку. Совершенно очевидно, что искомое психическое свойство оказывается смешанным в тесте с ложным психическим свойством - стрессоустойчивостью: испытуемые с высокими показателями стрессоустойчивости будут лучше выполнять тест. В этом проявится эффект систематического искажения.
В современной психометрике разработаны десятки разнообразных теоретических и экспериментальных методов проверки валидности тестов. Основным элементом практически всех этих методов является так называемый критерий. Критерий валидности - это независимый от теста, внешний по отношению к тесту источник информации об измеряемом психическом свойстве. Мы не можем судить о валидности теста до тех пор, пока не сравним его результаты с источником истинной (или хотя бы заведомо более валидной) информации об измеряемом свойстве - с критерием.
В научных исследованиях преобладают специальные лабораторные критерии. Например, конструируется компактный тест-опросник на тревожность. А в качестве критерия валидности для него используется специальный трудоемкий объективный лабораторный эксперимент, в котором воспроизводится реальная ситуация тревожности (испытуемым-добровольцам угрожают за ошибочные действия ударами тока и т. п.).
На практике очень часто в качестве критерия валидности используются прагматические критерии - показатели эффективности той деятельности, ради прогнозирования которой предпринимается тестирование. В школе самый типичный критериальный показатель - это успеваемость. Но для социально-психологической адаптации ребенка внешним критериальным показателем может быть уровень популярности в классе.
27. Проблема адаптации иностранных и иноязычных тестов и методик. (Теоретичні та методологічні питання адаптації іноземних тестів і методик)
Психологическая практика испытывает потребность в научно-обоснованых и одновременно экономичных, стандартизованных психодиагностических тестах. В этой связи всегда была и остаётся актуальной проблема не только разработки отечественных, но и адаптации иностранных, апробированных и валидизированных методов диагностики. Адаптация теста – это комплекс мероприятий, обеспечивающих адекватность методики в новых условиях её применения.
Основные этапы адаптации теста:
1) анализ исходных теоретических положений автора теста, предполагающий выявление точек соприкосновения с теорией и методологией отечественной психологии;
2) лингвистический перевод текста и его инструкцийна язык пользователя.Завершается этот этап экспертной оценкой соответствия текстов переведённого варианта текстам оригинала;
3) экспериментальная проверка переведённого текста по критериям валидности, надёжности и достоверности в соответствии с психометрическими требованиями;
4) эмпирическая стандартизация теста на соответствующих выборках.
Из приведённых этапов видно, что использование иноязычных тестов – это не просто перевод на другой язык. В этом случае осн. трудности связаны не только с языковыми, но и с социокультурными различиями среды, в которой тест создавался и в которой будет применяться.Лингвистический аспект адаптации означает приспособление лексики и грамматики текста к возрастной и образовательной специфике контингентов лиц, планируемых для обследования, а также учёт коннотативного значения (специалисты по логике используют понятие коннотативный как эквивалент понятию подразумеваемый . Таким образом, коннотативное значение – это то, которое предполагается или подразумевается или выражается словом, символом, жестом или событием. Коннотативные значения обычно определяют абстрактные качества, общие свойства или классы объектов, или эмоциональные компоненты). Следует иметь ввиду, что языковым особенностям культуры того общества, в котором создавался тест, трудно, а порой просто невозможно найти равноценный эквивалент в иной культуре.Поэтому профессиональный перевод псих тестов всегда сопровождается ещё и лингвистической коррекцией, аязыковые конструкции подвергаются псих верификации(правильности восприятия, мыслей, предположений.Верификация - это подтверждение соответствия конечного продукта предопределённым эталонным требованиям.) Следовательно, полная эмпирическая адаптация теста после его перевода обязательна, и часто она так же сложна, как разработка оригинальной методики.
В последнее время адаптация зарубежных тестов становится не только объектом обсуждения специалистов, но и направлением специальных исследований, предметом соответствующей методической и рекомендательной, инструктивной литературы.
Известно сколь сложные стадии адаптации проходили многие методики, например Миннесотский многофакторный личностный тест (MMPI) или 16-факторный личностный опросник Р.Кеттела (16-PF). Адаптация этих методик выражалась в проверке соответствия американских и словянских тестовых норм с помощью статистических расчётов средних арифметических и стандартных отклонений по основным диагностическим шкалам на новых выборках испытуемых. Исследовались также корреляции между шкалами этих методик, Однако самый глав этап проверки коректности адаптированых вариантов этих опросников – анализ воспроизводимости диагностических шкал, т. е. анализ корреляций между отдельными пунктами,- был проведен значительно позднее. Это позволило выяснить:
1) насколько правомерным было заимствование системы дифференцированных понятий (личностных черт) по отношению к тем, которые были предложены разработчиками в иных социокультурных условиях;
2) какие собственно диагностические понятия реально “ работают” в наших условиях.
В результате серии исследований выяснилось, что зарубежные многофакторные личностные тест-опросники по отношению к русскоязычным выборкам обнаруживают как устойчивые диагностические свойства, так и специфические особенности.
Таким образом для практической психодиагностики адаптация иностранных тестов означает не только семантическую интерпретацию в новом языковом варианте, но и тщательную экспериментальную и нормативную их апробацию в иных социокультурных условиях с применением современных методов математического анализа.
