Лекция на тему Виды тестов и формы тестовых заданий
Работа добавлена на сайт bukvasha.net: 2014-12-17Поможем написать учебную работу
Если у вас возникли сложности с курсовой, контрольной, дипломной, рефератом, отчетом по практике, научно-исследовательской и любой другой работой - мы готовы помочь.
Предоплата всего
от 25%
Подписываем
договор
ВИДЫ ТЕСТОВ И ФОРМЫ ТЕСТОВЫХ ЗАДАНИЙ
План
1. Основные виды педагогических тестов.
2. Формы тестовых заданий.
3. Эмпирическая проверка и статистическая обработка результатов.
4. Принципы отбора содержания. Критерии оценки содержания теста.
5. Соотношение формы задания и вида проверяемых знаний, умений, навыков.
1. Основные виды педагогических тестов
Существуют два основных вида тестов: традиционные и нетрадиционные.
Тест обладает составом, целостностью и структурой. Он состоит из заданий, правил их применения, оценок за выполнение каждого задания и рекомендаций по интерпретации тестовых результатов. Целостность теста означает взаимосвязь заданий, их принадлежность общему измеряемому фактору. Каждое задание теста выполняет отведенную ему роль и потому ни одно из них не может быть изъято из теста без потери качества измерения. Структуру теста образует способ связи заданий между собой. В основном, это так называемая факторная структура, в которой каждое задание связано с другими через общее содержание и общую вариацию тестовых результатов.
Традиционный тест представляет собой единство, по меньшей мере, трех систем:
- содержательной системы знаний, описываемой языком проверяемой учебной дисциплины;
- формальной системы заданий возрастающей трудности;
- статистических характеристик заданий и результатов испытуемых.
Традиционный педагогический тест нужно рассматривать в двух существенных смыслах: - как метод педагогического измерения и как результат применения теста. Удивительно, что тексты на русском языке тяготеют к смыслу метода, в то время как в большинстве работ западных авторов понятие тест чаще рассматривается в смысле результатов. Между тем, оба эти смысла характеризуют тест с разных сторон, потому что тест надо понимать одновременно и как метод, и как результат педагогического измерения. Одно дополняет другое. Тест, как метод, не мыслится без результатов, подтверждающих качество его самого и качество оценок измерения испытуемых различного уровня подготовленности.
В приведенном выше определении традиционного теста получили развитие несколько идей.
Первая идея - тест рассматривается не как обычная совокупность или набор вопросов, задач и т.п., а в виде понятия "система заданий". Такую систему образует не всякая совокупность, а только та, которая обусловливает возникновение нового интегративного качества, отличающего тест от элементарного набора заданий и от других средств педагогического контроля. Из множества возможных систем наилучшую образует та целостная совокупность, в которой качество теста проявляется в сравнительно большей степени. Отсюда вытекает мысль о выделении первого из двух главных системообразующих факторов - наилучшего состава тестовых заданий, образующих целостность. Исходя из этого, можно дать одно из самых коротких определений: тест - это система заданий, образующих наилучшую методическую целостность. Целостность теста - это устойчивое взаимодействие заданий, образующих тест как развивающуюся систему.
Вторая идея состоит в том, что в данном определении теста совершен отход от укоренившейся традиции рассмотрения теста как простого средства проверки, пробы, испытания. Всякий тест включает в себя элемент испытания, он не сводится весь к нему. Ибо тест - это еще и концепция, содержание, форма, результаты и интерпретация - все, требующее обоснования. Этим подразумевается, что тест является качественным средством педагогического измерения. В соответствии с положениями теории, тестовые оценки не являются точными оценками испытуемых. Правильно говорить, что они лишь репрезентируют эти значения с некоторой точностью.
Третья идея, развиваемая в нашем определении традиционного теста - это включение нового понятия - эффективность теста, который ранее в литературе по тестам не рассматривался в качестве критерия анализа и создания тестов. Ведущая идея традиционного теста - минимумом числом заданий, за короткое время, быстро, качественно и с наименьшими затратами сравнить знания как можно большего числа учащихся.
По существу, этим отражается идея эффективности педагогической деятельности в области контроля знаний. Хотелось бы думать, что против самой этой идеи возражать уже некому и незачем. Если наш учитель может разъяснить учебный материал не хуже своего зарубежного коллеги, то хорошо проверить требуемые знания, у всех учеников, по всему изученному материалу, он не в состоянии из-за господствующей у нас классно-урочной системы занятий, нехватки компьютерной техники, тестов и программ для организации автоматизированного самоконтроля - самой гуманной формы контроля знаний. Не в состоянии он это делать и физически. В силу, мягко скажем, ошибочной социальной политики зарплата наших учителей уже давно не компенсирует затраты даже физической энергии, необходимой для хорошего преподавания, не говоря уже о повышенных затратах энергии интеллектуальной, что способно совершать только раскованное, а не озабоченное поисками хлеба мышление. Как отмечается в литературе, квалифицированный работник получает у нас в три-четыре раза меньше того уровня зарплаты, за границами которого нарушается нормальная жизнедеятельность и начинается разрушение трудового потенциала.
Хотя в литературе имеются сотни примеров определений теста, с которыми либо трудно, либо вообще нельзя согласиться, это совсем не означает, что данное определение традиционного теста - истина в последней инстанции. Как и все остальные понятия, оно нуждается в постоянном улучшении. Просто оно представляется автору пока более аргументированным, чем некоторые другие известные понятия педагогического теста. Впрочем, стремление к улучшению понятий - явление совершенно нормальное и необходимое для нормально развивающейся практики и науки. Конструктивные попытки дать другие определения теста или оспорить уже имеющиеся всегда полезны, но именно этого нам не достает.
К традиционным тестам относятся тесты гомогенные и гетерогенные. Гомогенный тест представляет собой систему заданий возрастающей трудности, специфической формы и определенного содержания - система, создаваемая с целью объективного, качественного, и эффективного метода оценки структуры и измерения уровня подготовленности учащихся по одной учебной дисциплине. Легко видеть, что в своей основе определение гомогенного теста совпадает с определением традиционного теста.
Гомогенные тесты распространены больше других. В педагогике они создаются для контроля знаний по одной учебной дисциплине или по одному разделу такой, например, объемной учебной дисциплины, как физика. В гомогенном педагогическом тесте не допускается использование заданий, выявляющих другие свойства. Наличие последних нарушает требование дисциплинарной чистоты педагогического теста. Ведь каждый тест измеряет что-то заранее определенное.
Например, тест по физике измеряет знания, умения, навыки и представления испытуемых в данной науке. Одна из трудностей такого измерения заключается в том, что физическое знание изрядно сопряжено с математическим. Поэтому в тесте по физике экспертно устанавливается уровень математических знаний, используемых при решении физических заданий. Превышение принятого уровня приводит к смещению результатов; по мере превышения последние все больше начинают зависеть не столько от знания физики, сколько от знания другой науки, математики. Другой важный аспект - стремление некоторых авторов включать в тесты не столько проверку знаний, сколько умение решать физические задачи, вовлекая, тем самым, интеллектуальный компонент в измерение подготовленности по физике.
Гетерогенный тест представляет собой систему заданий возрастающей трудности, специфической формы и определенного содержания - система, создаваемая с целью объективного, качественного, и эффективного метода оценки структуры и измерения уровня подготовленности учащихся по нескольким учебным дисциплинам. Нередко в такие тесты включаются и психологические задания для оценки уровня интеллектуального развития.
Обычно гетерогенные тесты используются для комплексной оценки выпускника школ, оценки личности при приеме на работу и для отбора наиболее подготовленных абитуриентов при приеме в вузы. Поскольку каждый гетерогенный тест состоит из гомогенных тестов, интерпретация результатов тестирования ведется по ответам на задания каждого теста (здесь они называются шкалами) и кроме того, посредством различных методов агрегирования баллов делаются попытки дать общую оценку подготовленности испытуемого.
Напомним, что традиционный тест представляет собой метод диагностики испытуемых, в котором они отвечают на одни задания, в одинаковое время, в одинаковых условиях и с одинаковой оценкой. При такой ориентации задачи определения точного объема и структуры освоенного учебного материала отступают, по необходимости, на задний план. В тест отбирается такое минимально достаточное количество заданий, которое позволяет сравнительно точно определить, образно говоря, не "кто что знает", а "кто знает больше". Интерпретация результатов тестирования ведется преимущественно на языке тестологии, с опорой на среднюю арифметическую, моду или медиану и на так называемые процентильные нормы, показывающие - сколько процентов испытуемых имеют тестовый результат хуже, чем у любого взятого для анализа испытуемого с его тестовым баллом. Такая интерпретация называется нормативно-ориентированной. Здесь вывод достраивается рейтингом: задания ответы выводы о знаниях испытуемого рейтинг, понимаемый как вывод о месте или ранге испытуемого.
Интегративные тесты. Интегративным можно назвать тест, состоящий из системы заданий, отвечающих требованиям интегративного содержания, тестовой формы, возрастающей трудности заданий, нацеленных на обобщенную итоговую диагностику подготовленности выпускника образовательного учреждения. Диагностика проводится посредством предъявления таких заданий, правильные ответы на которые требуют интегрированных (обобщенных, явно взаимосвязанных) знаний двух и большего числа учебных дисциплин. Создание таких тестов дается только тем преподавателям, которые владеют знаниями ряда учебных дисциплин, понимают важную роль межпредметных связей в обучении, способны создавать задания, правильные ответы на которые требуют от учащихся знаний различных дисциплин и умений применять такие знания.
Интегративному тестированию предшествует организация интегративного обучения. К сожалению, существующая сейчас классно-урочная форма проведения занятия, в сочетании с чрезмерным дроблением учебных дисциплин, вместе с традицией преподавания отдельных дисциплин (а не обобщенных курсов), ещё долго будут тормозить внедрение интегративного подхода в процессы обучения и контроля подготовленности. Преимущество интегративных тестов перед гетерогенными заключается в большей содержательной информативности каждого задания и в меньшем числе самих заданий. Потребность создания интегративных тестов возрастает по мере повышения уровня образования и числа изучаемых учебных дисциплин. Поэтому попытки создания таких тестов отмечаются, в основном, в высшей школе. Особенно полезны интегративные тесты для повышения объективности и эффективности проведения итоговой государственной аттестации учащихся и студентов.
Методика создания интегративных тестов сходна с методикой создания традиционных тестов, за исключением работы по определению содержания заданий. Для отбора содержания интегративных тестов использование экспертных методов является обязательным. Это связано с тем, что только эксперты могут определить адекватность содержания заданий целям теста. Но, прежде всего, самим экспертам важно будет определиться с целями образования и изучения тех или иных образовательных программ, а затем и договориться между собой по принципиальным вопросам, оставив для экспертизы лишь вариации в понимании степени значимости отдельных элементов в общей структуре подготовленности. Согласованный, по принципиальным вопросам, отобранный состав экспертов в зарубежной литературе нередко панелью. Или учитывая различия в смысле последнего слова, в русском языке, такой состав можно назвать представительной экспертной группой. Группа подбирается так, чтобы адекватно представлять подход, используемый при создании соответствующего теста.
Адаптивные тесты. Целесообразность адаптивного контроля вытекает из необходимости рационализации традиционного тестирования. Каждый учитель понимает, что хорошо подготовленному ученику нет необходимости давать легкие и очень легкие задания. Потому что слишком высока вероятность правильного решения. К тому же, легкие материалы не обладают заметным развивающим потенциалом. Симметрично, из-за высокой вероятности неправильного решения нет смысла давать трудные задания слабому ученику. Известно, что трудные и очень трудные задания снижают учебную мотивацию многих учащихся. Нужно было найти сопоставимую, в одной шкале, меру трудности заданий и меру уровня знаний. Эта мера была найдена в теории педагогических измерений. Датский математик Г. Раск назвал эту меру словом "логит". После появления компьютеров эта мера легла в основу методики адаптивного контроля знаний, где используются способы регулирования трудности и числа предъявляемых заданий, в зависимости от ответа учеников. При успешном ответе следующее задание ЭВМ подбирает более трудным, при неуспешном - легким. Естественно, этот алгоритм требует предварительного опробования всех заданий, определения их меры трудности, а также создания банка заданий и специальной программы.
Использование заданий, соответствующих уровню подготовленности, существенно повышает точность измерений и минимизирует время индивидуального тестирования до, примерно, 5 - 10 минут Адаптивное тестирование позволяет обеспечить компьютерную выдачу заданий на оптимальном, примерно 50%-ом уровне вероятности правильного ответа, для каждого ученика.
В западной литературе выделяется три варианта адаптивного тестирования. Первый называется пирамидальным тестированием. При отсутствии предварительных оценок всем испытуемым дается задание средней трудности и уже затем, в зависимости от ответа, каждому испытуемому дается задание легче или труднее; на каждом шаге полезно использовать правило деления шкалы трудности пополам. При втором варианте контроль начинается с любого желаемого, испытуемым, уровня трудности, с постепенным приближением к реальному уровню знаний. Третий вариант - когда тестирование проводится посредством банка заданий, разделенных по уровням трудности.
Таким образом, адаптивный тест представляет собой вариант автоматизированной системы тестирования, в которой заранее известны параметрами трудности и дифференцирующей способности каждого задания. Эта система создана в виде компьютерного банка заданий, упорядоченных в соответствии с интересующими характеристиками заданий. Самая главная характеристика заданий адаптивного теста - это уровень их трудности, полученный опытным путем, что означает: прежде чем попасть в банк, каждое задание проходит эмпирическую апробацию на достаточно большом числе типичных учащихся интересующего контингента. Слова "интересующего контингента" призвано представлять здесь смысл известного в науке понятия более строгого понятия "генеральная совокупность".
Распространенная у нас образовательная модель адаптивной школы Е.А. Ямбурга, исходит, по существу, из общих идей адаптивного обучения и адаптивного контроля знаний. Истоки такого подхода можно проследить с момента возникновения педагогических трудов Коменского, Песталоцци и Дистервега, которых объединяют идеи природосообразности и гуманности обучения. В центре их педагогических систем был Ученик. Например, в малоизвестной у нас работе А. Дистервега "Дидактические правила" можно прочитать такие слова: "Преподавай сообразно природе... Учи без пробелов... Начинай преподавание с того, на чем остановился ученик... Прежде чем приступить к преподаванию, нужно исследовать точку исхода... Без знания того, на чем остановился ученик, невозможно порядочно обучить его". Недостаточная информированность о реальном уровне знаний учеников и естественные различия в их способностях усвоить предлагаемые знания стали главной причиной появления адаптивных систем, основанных на принципе индивидуализации обучения. Этот принцип трудно реализуем в традиционной, классно-урочной форме.
До появления первых компьютеров наиболее известной системой, близкой к адаптивному обучению, была так называемая "Система полного усвоения знаний". План
1. Основные виды педагогических тестов.
2. Формы тестовых заданий.
3. Эмпирическая проверка и статистическая обработка результатов.
4. Принципы отбора содержания. Критерии оценки содержания теста.
5. Соотношение формы задания и вида проверяемых знаний, умений, навыков.
1. Основные виды педагогических тестов
Существуют два основных вида тестов: традиционные и нетрадиционные.
Тест обладает составом, целостностью и структурой. Он состоит из заданий, правил их применения, оценок за выполнение каждого задания и рекомендаций по интерпретации тестовых результатов. Целостность теста означает взаимосвязь заданий, их принадлежность общему измеряемому фактору. Каждое задание теста выполняет отведенную ему роль и потому ни одно из них не может быть изъято из теста без потери качества измерения. Структуру теста образует способ связи заданий между собой. В основном, это так называемая факторная структура, в которой каждое задание связано с другими через общее содержание и общую вариацию тестовых результатов.
Традиционный тест представляет собой единство, по меньшей мере, трех систем:
- содержательной системы знаний, описываемой языком проверяемой учебной дисциплины;
- формальной системы заданий возрастающей трудности;
- статистических характеристик заданий и результатов испытуемых.
Традиционный педагогический тест нужно рассматривать в двух существенных смыслах: - как метод педагогического измерения и как результат применения теста. Удивительно, что тексты на русском языке тяготеют к смыслу метода, в то время как в большинстве работ западных авторов понятие тест чаще рассматривается в смысле результатов. Между тем, оба эти смысла характеризуют тест с разных сторон, потому что тест надо понимать одновременно и как метод, и как результат педагогического измерения. Одно дополняет другое. Тест, как метод, не мыслится без результатов, подтверждающих качество его самого и качество оценок измерения испытуемых различного уровня подготовленности.
В приведенном выше определении традиционного теста получили развитие несколько идей.
Первая идея - тест рассматривается не как обычная совокупность или набор вопросов, задач и т.п., а в виде понятия "система заданий". Такую систему образует не всякая совокупность, а только та, которая обусловливает возникновение нового интегративного качества, отличающего тест от элементарного набора заданий и от других средств педагогического контроля. Из множества возможных систем наилучшую образует та целостная совокупность, в которой качество теста проявляется в сравнительно большей степени. Отсюда вытекает мысль о выделении первого из двух главных системообразующих факторов - наилучшего состава тестовых заданий, образующих целостность. Исходя из этого, можно дать одно из самых коротких определений: тест - это система заданий, образующих наилучшую методическую целостность. Целостность теста - это устойчивое взаимодействие заданий, образующих тест как развивающуюся систему.
Вторая идея состоит в том, что в данном определении теста совершен отход от укоренившейся традиции рассмотрения теста как простого средства проверки, пробы, испытания. Всякий тест включает в себя элемент испытания, он не сводится весь к нему. Ибо тест - это еще и концепция, содержание, форма, результаты и интерпретация - все, требующее обоснования. Этим подразумевается, что тест является качественным средством педагогического измерения. В соответствии с положениями теории, тестовые оценки не являются точными оценками испытуемых. Правильно говорить, что они лишь репрезентируют эти значения с некоторой точностью.
Третья идея, развиваемая в нашем определении традиционного теста - это включение нового понятия - эффективность теста, который ранее в литературе по тестам не рассматривался в качестве критерия анализа и создания тестов. Ведущая идея традиционного теста - минимумом числом заданий, за короткое время, быстро, качественно и с наименьшими затратами сравнить знания как можно большего числа учащихся.
По существу, этим отражается идея эффективности педагогической деятельности в области контроля знаний. Хотелось бы думать, что против самой этой идеи возражать уже некому и незачем. Если наш учитель может разъяснить учебный материал не хуже своего зарубежного коллеги, то хорошо проверить требуемые знания, у всех учеников, по всему изученному материалу, он не в состоянии из-за господствующей у нас классно-урочной системы занятий, нехватки компьютерной техники, тестов и программ для организации автоматизированного самоконтроля - самой гуманной формы контроля знаний. Не в состоянии он это делать и физически. В силу, мягко скажем, ошибочной социальной политики зарплата наших учителей уже давно не компенсирует затраты даже физической энергии, необходимой для хорошего преподавания, не говоря уже о повышенных затратах энергии интеллектуальной, что способно совершать только раскованное, а не озабоченное поисками хлеба мышление. Как отмечается в литературе, квалифицированный работник получает у нас в три-четыре раза меньше того уровня зарплаты, за границами которого нарушается нормальная жизнедеятельность и начинается разрушение трудового потенциала.
Хотя в литературе имеются сотни примеров определений теста, с которыми либо трудно, либо вообще нельзя согласиться, это совсем не означает, что данное определение традиционного теста - истина в последней инстанции. Как и все остальные понятия, оно нуждается в постоянном улучшении. Просто оно представляется автору пока более аргументированным, чем некоторые другие известные понятия педагогического теста. Впрочем, стремление к улучшению понятий - явление совершенно нормальное и необходимое для нормально развивающейся практики и науки. Конструктивные попытки дать другие определения теста или оспорить уже имеющиеся всегда полезны, но именно этого нам не достает.
К традиционным тестам относятся тесты гомогенные и гетерогенные. Гомогенный тест представляет собой систему заданий возрастающей трудности, специфической формы и определенного содержания - система, создаваемая с целью объективного, качественного, и эффективного метода оценки структуры и измерения уровня подготовленности учащихся по одной учебной дисциплине. Легко видеть, что в своей основе определение гомогенного теста совпадает с определением традиционного теста.
Гомогенные тесты распространены больше других. В педагогике они создаются для контроля знаний по одной учебной дисциплине или по одному разделу такой, например, объемной учебной дисциплины, как физика. В гомогенном педагогическом тесте не допускается использование заданий, выявляющих другие свойства. Наличие последних нарушает требование дисциплинарной чистоты педагогического теста. Ведь каждый тест измеряет что-то заранее определенное.
Например, тест по физике измеряет знания, умения, навыки и представления испытуемых в данной науке. Одна из трудностей такого измерения заключается в том, что физическое знание изрядно сопряжено с математическим. Поэтому в тесте по физике экспертно устанавливается уровень математических знаний, используемых при решении физических заданий. Превышение принятого уровня приводит к смещению результатов; по мере превышения последние все больше начинают зависеть не столько от знания физики, сколько от знания другой науки, математики. Другой важный аспект - стремление некоторых авторов включать в тесты не столько проверку знаний, сколько умение решать физические задачи, вовлекая, тем самым, интеллектуальный компонент в измерение подготовленности по физике.
Гетерогенный тест представляет собой систему заданий возрастающей трудности, специфической формы и определенного содержания - система, создаваемая с целью объективного, качественного, и эффективного метода оценки структуры и измерения уровня подготовленности учащихся по нескольким учебным дисциплинам. Нередко в такие тесты включаются и психологические задания для оценки уровня интеллектуального развития.
Обычно гетерогенные тесты используются для комплексной оценки выпускника школ, оценки личности при приеме на работу и для отбора наиболее подготовленных абитуриентов при приеме в вузы. Поскольку каждый гетерогенный тест состоит из гомогенных тестов, интерпретация результатов тестирования ведется по ответам на задания каждого теста (здесь они называются шкалами) и кроме того, посредством различных методов агрегирования баллов делаются попытки дать общую оценку подготовленности испытуемого.
Напомним, что традиционный тест представляет собой метод диагностики испытуемых, в котором они отвечают на одни задания, в одинаковое время, в одинаковых условиях и с одинаковой оценкой. При такой ориентации задачи определения точного объема и структуры освоенного учебного материала отступают, по необходимости, на задний план. В тест отбирается такое минимально достаточное количество заданий, которое позволяет сравнительно точно определить, образно говоря, не "кто что знает", а "кто знает больше". Интерпретация результатов тестирования ведется преимущественно на языке тестологии, с опорой на среднюю арифметическую, моду или медиану и на так называемые процентильные нормы, показывающие - сколько процентов испытуемых имеют тестовый результат хуже, чем у любого взятого для анализа испытуемого с его тестовым баллом. Такая интерпретация называется нормативно-ориентированной. Здесь вывод достраивается рейтингом: задания ответы выводы о знаниях испытуемого рейтинг, понимаемый как вывод о месте или ранге испытуемого.
Интегративные тесты. Интегративным можно назвать тест, состоящий из системы заданий, отвечающих требованиям интегративного содержания, тестовой формы, возрастающей трудности заданий, нацеленных на обобщенную итоговую диагностику подготовленности выпускника образовательного учреждения. Диагностика проводится посредством предъявления таких заданий, правильные ответы на которые требуют интегрированных (обобщенных, явно взаимосвязанных) знаний двух и большего числа учебных дисциплин. Создание таких тестов дается только тем преподавателям, которые владеют знаниями ряда учебных дисциплин, понимают важную роль межпредметных связей в обучении, способны создавать задания, правильные ответы на которые требуют от учащихся знаний различных дисциплин и умений применять такие знания.
Интегративному тестированию предшествует организация интегративного обучения. К сожалению, существующая сейчас классно-урочная форма проведения занятия, в сочетании с чрезмерным дроблением учебных дисциплин, вместе с традицией преподавания отдельных дисциплин (а не обобщенных курсов), ещё долго будут тормозить внедрение интегративного подхода в процессы обучения и контроля подготовленности. Преимущество интегративных тестов перед гетерогенными заключается в большей содержательной информативности каждого задания и в меньшем числе самих заданий. Потребность создания интегративных тестов возрастает по мере повышения уровня образования и числа изучаемых учебных дисциплин. Поэтому попытки создания таких тестов отмечаются, в основном, в высшей школе. Особенно полезны интегративные тесты для повышения объективности и эффективности проведения итоговой государственной аттестации учащихся и студентов.
Методика создания интегративных тестов сходна с методикой создания традиционных тестов, за исключением работы по определению содержания заданий. Для отбора содержания интегративных тестов использование экспертных методов является обязательным. Это связано с тем, что только эксперты могут определить адекватность содержания заданий целям теста. Но, прежде всего, самим экспертам важно будет определиться с целями образования и изучения тех или иных образовательных программ, а затем и договориться между собой по принципиальным вопросам, оставив для экспертизы лишь вариации в понимании степени значимости отдельных элементов в общей структуре подготовленности. Согласованный, по принципиальным вопросам, отобранный состав экспертов в зарубежной литературе нередко панелью. Или учитывая различия в смысле последнего слова, в русском языке, такой состав можно назвать представительной экспертной группой. Группа подбирается так, чтобы адекватно представлять подход, используемый при создании соответствующего теста.
Адаптивные тесты. Целесообразность адаптивного контроля вытекает из необходимости рационализации традиционного тестирования. Каждый учитель понимает, что хорошо подготовленному ученику нет необходимости давать легкие и очень легкие задания. Потому что слишком высока вероятность правильного решения. К тому же, легкие материалы не обладают заметным развивающим потенциалом. Симметрично, из-за высокой вероятности неправильного решения нет смысла давать трудные задания слабому ученику. Известно, что трудные и очень трудные задания снижают учебную мотивацию многих учащихся. Нужно было найти сопоставимую, в одной шкале, меру трудности заданий и меру уровня знаний. Эта мера была найдена в теории педагогических измерений. Датский математик Г. Раск назвал эту меру словом "логит". После появления компьютеров эта мера легла в основу методики адаптивного контроля знаний, где используются способы регулирования трудности и числа предъявляемых заданий, в зависимости от ответа учеников. При успешном ответе следующее задание ЭВМ подбирает более трудным, при неуспешном - легким. Естественно, этот алгоритм требует предварительного опробования всех заданий, определения их меры трудности, а также создания банка заданий и специальной программы.
Использование заданий, соответствующих уровню подготовленности, существенно повышает точность измерений и минимизирует время индивидуального тестирования до, примерно, 5 - 10 минут Адаптивное тестирование позволяет обеспечить компьютерную выдачу заданий на оптимальном, примерно 50%-ом уровне вероятности правильного ответа, для каждого ученика.
В западной литературе выделяется три варианта адаптивного тестирования. Первый называется пирамидальным тестированием. При отсутствии предварительных оценок всем испытуемым дается задание средней трудности и уже затем, в зависимости от ответа, каждому испытуемому дается задание легче или труднее; на каждом шаге полезно использовать правило деления шкалы трудности пополам. При втором варианте контроль начинается с любого желаемого, испытуемым, уровня трудности, с постепенным приближением к реальному уровню знаний. Третий вариант - когда тестирование проводится посредством банка заданий, разделенных по уровням трудности.
Таким образом, адаптивный тест представляет собой вариант автоматизированной системы тестирования, в которой заранее известны параметрами трудности и дифференцирующей способности каждого задания. Эта система создана в виде компьютерного банка заданий, упорядоченных в соответствии с интересующими характеристиками заданий. Самая главная характеристика заданий адаптивного теста - это уровень их трудности, полученный опытным путем, что означает: прежде чем попасть в банк, каждое задание проходит эмпирическую апробацию на достаточно большом числе типичных учащихся интересующего контингента. Слова "интересующего контингента" призвано представлять здесь смысл известного в науке понятия более строгого понятия "генеральная совокупность".
Распространенная у нас образовательная модель адаптивной школы Е.А. Ямбурга, исходит, по существу, из общих идей адаптивного обучения и адаптивного контроля знаний. Истоки такого подхода можно проследить с момента возникновения педагогических трудов Коменского, Песталоцци и Дистервега, которых объединяют идеи природосообразности и гуманности обучения. В центре их педагогических систем был Ученик. Например, в малоизвестной у нас работе А. Дистервега "Дидактические правила" можно прочитать такие слова: "Преподавай сообразно природе... Учи без пробелов... Начинай преподавание с того, на чем остановился ученик... Прежде чем приступить к преподаванию, нужно исследовать точку исхода... Без знания того, на чем остановился ученик, невозможно порядочно обучить его". Недостаточная информированность о реальном уровне знаний учеников и естественные различия в их способностях усвоить предлагаемые знания стали главной причиной появления адаптивных систем, основанных на принципе индивидуализации обучения. Этот принцип трудно реализуем в традиционной, классно-урочной форме.
Критериально-ориентированные тесты. При критериально-ориентированном подходе создаются тесты для сопоставления учебных достижений каждого ученика с планируемым к усвоению объемом знаний, умений или навыков. В этом случае в качестве интерпретационной системы отсчета используется конкретная область содержания, а не та или иная выборка учеников. При этом упор делается на то, что может выполнить ученик и что он знает, а не на то, как он выглядит на фоне других.
Есть свои трудности и при критериально-ориентированном подходе. Как правило, они связаны с отбором содержания теста. В рамках критериально-ориентированного подхода в тесте стараются отразить все содержание контролируемого курса или, по крайней мере, то, что можно принять за этот полный объем. Процент правильного выполнения заданий рассматривают как уровень подготовки или как степень овладения общим объемом содержания курса. Конечно, в рамках критериально-ориентированного подхода для последней интерпретации есть все основания, так как тест включает все то, что можно условно принять за 100%.
Критериально-ориентированные тесты закрывают довольно широкий спектр задач. В частности, они помогают собрать полную и объективную информацию об учебных достижениях каждого учащегося в отдельности и группы учеников; сравнить знания, умения и навыки ученика с требованиями, заложенными в государственных образовательных стандартах; отобрать учеников, достигших планируемого уровня подготовленности; оценить эффективность профессиональной деятельности отдельных преподавателей и групп преподавателей; оценить эффективность различных программ обучения.
Акцент на содержательном подходе может оказать благотворное влияние на педагогическое тестирование в целом. От такого подхода выигрывает, например, интерпретация тестовых баллов при текущем контроле. Ученик получает информацию не о том, как он выглядит на фоне других, а о том, что он может делать и что знает по сравнению с заданными требованиями к уровню подготовки по предмету. Разумеется, такая интерпретация не исключает сочетания с отнесением результатов к нормам, что, как правило, происходит при текущем контроле знаний учеников в повседневном учебном процессе. В этом случае тестирование интегрировано с обучением и помогает учащемуся выявить возможные затруднения, а также своевременно исправить ошибки в усвоении содержания учебного материала.
2. Формы тестовых заданий
В современной тестологии (Аванесов В.С., Челышкова М.Б., Майоров А.Н. и др.) различают 4 типа заданий в тестовой форме: задания на выбор одного или нескольких правильных ответов, задания в открытой форме или на дополнение, задания на установление правильной последовательности и задания на установление соответствий. Наиболее распространенной является первая форма.
Рассмотрим подробно каждую форму заданий по классификации В.С. Аванесова.
Задания на выбор одного или нескольких правильных ответов для компьютерного контроля знаний подходят больше всего. Такие задания удобно разделить на следующие виды: задания с двумя, тремя, четырьмя пятью и большим числом ответов. Инструкцией для этой формы заданий служит предложение: «Обведите (отметьте, укажите) номер правильного ответа».
Пример 1. Отметьте номер правильного ответа.
Место, которое занимает цифра в записи числа, называют
1) позицией;
2) разрядом;
3) положением;
4) знакоместом.
Задание должно быть сформулировано кратко и четко, так, чтобы его смысл был понятен при первом прочтении.
Содержание задания формулируется как можно яснее и как можно короче. Краткость обеспечивается тщательным подбором слов, символов, графиков, позволяющих минимумом средств добиваться максимума ясности смысла задания. Необходимо полностью исключить повторы слов, использование малопонятных, редко употребляемых, а также неизвестных учащимся символов, иностранных слов, затрудняющих восприятие смысла. Хорошо, когда задание содержит не более одного придаточного предложения.
Для достижения краткости в каждом задании лучше спросить о чем-нибудь одном. Утяжеление заданий требованиями что-то найти, решить и затем еще и объяснить отрицательно сказываются на качестве задания, хотя с педагогической точки зрения легко понять причину такой формулировки.
Еще лучше, когда короткими являются и задание и ответ. Неправильный, но правдоподобный ответ в американской тестовой литературе называется словом дистрактор (от английского глагола tо distract – отвлекать). В общем случае, чем лучше подобраны дистракторы, тем лучше бывает и задание. Талант разработчика проявляется в первую очередь в разработке эффективных дистракторов. Обычно считают, что чем выше доля выбора неправильного ответа, тем он лучше сформулирован. Следует отметить, что это верно только до известного предела; в погоне за привлекательностью дистракторов нередко теряется чувство меры. Привлекательность каждого ответа проверяется эмпирически.
Задания с выбором одного или нескольких ответов являются самой критикуемой формой. Сторонники привычных подходов утверждают, что по-настоящему проверить знания можно только в процессе непосредственного общения с учеником, задавая ему уточняющие вопросы, что помогает лучше прояснить подлинную глубину, прочность и обоснованность знаний. С подобными утверждениями надо согласиться. Однако есть еще вопросы экономии живого труда учителей и учащихся, экономии временных затрат и проблемы повышения эффективности образовательного процесса.
Нередко считается, что найти правильный ответ гораздо легче, чем формулировать его самому. Однако в хорошо сделанных заданиях незнающему ученику неправильные ответы часто кажутся более правдоподобными, чем правильные. Талант разработчика теста раскрывается в процессе создания именно неправильных, но очень правдоподобных ответов. Другое возражение – что тестовое задание с выбором одного или нескольких правильных ответов годится только для оценки знаний так называемого низшего уровня.
Выделяется вариант заданий с выбором одного, наиболее правильного ответа из числа предложенных. Соответственно пишется и инструкция к таким заданиям: «Обвести номер наиболее правильного ответа». Естественно предполагается, что все остальные ответы к заданиям правильные, но в различной мере.
Существует три основания для введения таких заданий в практику.
Первое – это старая идея исключения из заданий неправильных ответов, которые слабые учащиеся могут, якобы, запомнить. Если следовать этому очень спорному тезису, то неправильные ответы при тестировании вообще давать нельзя.
Второе основание для введения таких заданий в практику более реалистично. Оно касается необходимости формировать у учащихся не только умения отличать правильные ответы от неправильных, но и умения дифференцировать меру правильности ответов. Это действительно важно, как в общем среднем, так и в высшем профессиональном образовании.
Третье основание для применения заданий с выбором наиболее правильного ответа – это стремление проверить с их помощью полноту знаний.
Сколь бы ни были убедительны основания для введения таких заданий в практику, последние вряд ли могут найти широкое применение.
В заданиях открытой формы готовые ответы не даются: их должен придумать или получить сам тестирующийся. Иногда вместо термина «задания открытой формы» используют термины: «задания на дополнение» или «задания с конструируемым ответом». Для открытой формы принято использовать инструкцию, состоящую из одного слова: «Дополните».
Пример 2. Дополните.
В двоичной системе счисления 10-1=_________.Задания на дополнение бывают двух заметно отличающихся видов:
1) с ограничениями, налагаемыми на ответы, возможности получения которых соответствующим образом определены по содержанию и форме представления;
2) задания со свободно конструируемым ответом, в котором необходимо составить развернутый ответ в виде полного решения задачи или дать ответ в виде микросочинения.
В заданиях с ограничениями заранее определяется, что однозначно считать правильным ответом, и задается степень полноты представления ответа. Обычно он бывает достаточно кратким – одно слово, число, символ и т.д. Иногда – более длинным, но не превышающим двух-трех слов. Естественно, что регламентированная краткость ответов выдвигает определенные требования к сфере применения, поэтому задания первого вида в основном используются для оценки достаточно узкого круга умений.
Отличительная особенность заданий с ограничениями на дополняемые ответы заключается в том, что они должны порождать только один, запланированный разработчиком правильный ответ.
Задания второго типа со свободно конструируемым ответом не имеют никаких ограничений на содержание и форму представления ответов. За определенное время учащийся может писать что угодно и как угодно. Однако тщательная формулировка подобных заданий предполагает наличие эталона, в качестве которого обычно выступает наиболее правильный ответ с описывающими его характеристиками и признаками качества.
В заданиях на установление соответствия преподаватель проверяет знание связей между элементами двух множеств. Элементы для сопоставления записываются в два столбца: слева обычно приводятся элементы задающего множества, содержащие постановку проблемы, а справа – элементы, подлежащие выбору.
К заданиям дается стандартная инструкция: «Установите соответствие».
Пример 3. Установите соответствие
| Свойство а) коммутативности б) ассоциативности в) дистрибутивности относительно сложения | Формула 1) (a+b)+c = a+(b+c) 2) a+b = b+a 3) (a+b)c = ac+bc 4) a(b+c) = ab+ac 5) ab = ba 6) (ab)c = a(bc) |
Следует отметить, что желательно, чтобы в правом столбце элементов было больше, чем в левом. В этой ситуации возникают определенные трудности, связанные с подбором правдоподобных избыточных элементов. Иногда на один элемент левого множества необходимо выбрать несколько правильных ответов из правого столбца. Кроме того, соответствия могут быть расширены на три и большее число множеств. Эффективность задания существенно снижается, если неправдоподобные варианты будут легко различаться даже незнающими учащимися.
Эффективность задания также снижается в тех случаях, когда число элементов в левом и правом столбцах одинаково и при установлении соответствия для последнего элемента слева просто не из чего выбирать. Последнее правильное или неправильное соответствие устанавливается автоматически благодаря последовательному исключению элементов для предыдущих соответствий.
Тестовые задания на установление правильной последовательности предназначены для оценки уровня владения последовательностью действий, процессов и т.п. В заданиях приводятся в произвольном, случайном порядке действия, процессы, элементы, связанные с определенной задачей. Стандартная инструкция к этим заданиям имеет вид: «Установите правильную последовательность действий».
Пример 4. Установите правильную последовательность
Команда полного ветвления на УАЯ имеет формат:
иначе <серия 2>
кв
то <серия 1>
если <условие>
Задания на установление правильной последовательности получают доброжелательную поддержку у многих преподавателей, что объясняется важной ролью упорядоченного мышления и алгоритмов деятельности.
Цель введения таких заданий в учебный процесс – формирование алгоритмического мышления, алгоритмических знаний, умений и навыков.
Алгоритмическое мышление можно определить как интеллектуальную способность, проявляющуюся в определении наилучшей последовательности действий при решении учебных и практических задач. Характерные примеры проявления такого мышления – успешное выполнение различных заданий за короткое время, разработка самой эффективной программы для ЭВМ и т.п.
Выбор форм заданий определяется многими весьма противоречивыми факторами, в числе которых особенности содержания, цели тестирования, а также – специфика контингента испытуемых. Проверка проще при использовании заданий закрытой формы, однако, такие задания менее информативны. Задания открытой формы более информативны, но сложнее организовать их проверку. Еще более сложной задачей является создание компьютерных программ для проверки правильности ответов на такие задания. Это связано с богатством словарного запаса испытуемых (при ответе могут быть использованы синонимы), внимательностью (опечатки, несоответствие регистров) и т.п.
Для успешной ориентировки в формах заданий можно использовать специальную таблицу (см. таблицу 1) сопоставительного анализа заданий, предложенную М.Б. Челышковой.
По мнению разработчика, настоящая таблица носит сугубо ориентировочный характер, однако, ее использование может облегчить процесс подбора тестовых заданий различной формы для решения тех или иных диагностических задач.
Таблица 1
Сопоставительный анализ характеристик тестовых заданий
| Характеристики | Задания закрытой формы | Задания на дополнение | Задания на установление соответствия | Задания на установление последовательности |
| Проверка знания фактов | Годны | Годны | Годны | Годны |
| Применение знаний по образцу | Годны | Годны | Годны | Годны |
| Применение знаний в нестандартных ситуациях | Негодны | Годны | Негодны | Годны |
| Простота конструирования | Есть | Есть | Нет | Нет |
| Исключение угадывания | Не исключено | Исключено | Не исключено | Не исключено |
| Объективность оценки | Да | Нет | Да | Да |
| Исключение описок | Нет | Да | Нет | Нет |
| Возможность оригинального ответа | Нет | Да | Да/Нет | Нет |
Превращение заданий в тестовой форме в тестовые задания начинается с момента статистической проверки каждого задания на наличие у них тестобразующих свойств.
3. Эмпирическая проверка и статистическая обработка результатов
Наличие достаточного числа тестовых заданий позволяет перейти к разработке теста как системы, обладающей целостностью, составом и структурой. На третьем этапе отбираются задания и создают тесты, повышаются качество и эффективность теста.
Целостность теста образует взаимосвязь ответов испытуемых на задания теста, наличие общего измеряемого фактора, влияющего на качество знаний.
Состав теста образует правильный подбор заданий, позволяющий минимально необходимым числом отобразить существенные элементы языковой компетентности испытуемых.
Уровень и структура знаний выявляются при анализе ответов каждого испытуемого на все задания теста. Чем больше правильных ответов, тем выше индивидуальный тестовый балл испытуемых. Обычно этот тестовый балл ассоциируется с понятием "уровень знаний" и проходит процедуру уточнения на основе той или иной модели педагогического измерения. Один и тот же уровень знаний может быть получен за счет ответов на различные задания. Например, в тесте из тридцати заданий испытуемый получил десять баллов. Эти баллы скорее всего, получены за счет правильных ответов на первые десять, сравнительно легких заданий. Присущую для такого случая последовательность единиц, а затем нулей можно назвать правильной структурой подготовленности испытуемого. Если же обнаруживается противоположная картина, когда испытуемый правильно отвечает на трудные задания и неправильно - на легкие, то это противоречит логике теста и потому такой профиль знаний можно назвать инвертированным. Он встречается редко, и чаще всего, по причине ошибочности теста, в котором задания расположены с нарушениями требования возрастающей трудности. При условии, что тест сделан правильно, каждый профиль свидетельствует о структуре знаний. Эту структуру можно назвать элементарной (поскольку есть еще факторные структуры, которые выявляются с помощью методов факторного анализа).
Для определения уровня структурированности подготовленности можно использовать коэффициент Л.Гутмана, ранее неточно называвшийся мерой «надежности теста».
rg = 1 - 
где rg коэффициент структурированности;.
- 
- сумма ошибочных элементов индивидуальных структур, подсчитываемых в векторах-строках баллов испытуемых;
- N – число испытуемых;
- k – число заданий.
Уровень знаний в значительной степени зависит от личных усилий и способностей, в то время как структура знаний заметно зависит от правильной организации учебного процесса, от индивидуализации обучения, от мастерства педагога, от объективности контроля - в общем, от всего того, чего обычно не хватает. Путь к достижению этого идеала лежит через трудности создания качественных тестов.
Разработка тестов начинается с анализа содержания преподаваемых знаний и овладения принципами формулирования тестовых заданий. К сожалению, на тесты все еще смотрят как на средство, которое легко придумать, в то время как сильная сторона тестов - их эффективность, проистекающая из теоретической и эмпирической обоснованности.
На третьем этапе от разработчиков нового поколения тестов потребуется некоторая математико-статистическая подготовка, знания теории тестов. Теорию тестов можно определить как совокупность непротиворечивых понятий, форм, методов, аксиом, формул и утверждений, способствующих повышению эффективности и качества тестового процесса. Кроме того, может потребоваться и некоторый опыт применения методов многомерного статистического анализа, и опыт правильной интерпретации тестовых результатов.
Часто возникает вопрос: «Как поведут себя удаляемые задания в других группах испытуемых?» Ответ зависит от качества подбора групп, а точнее от статистического плана формирования выборочных совокупностей. Верный ответ на этот вопрос следует искать в смысле понятия «target group»; это множество испытуемых в генеральной совокупности, для которых предназначен разрабатываемый тест.
Соответственно, если задания проектируемого теста ведут себя неодинаково в разных группах, то это является, скорее всего, указанием на ошибки в формировании выборок испытуемых. Последние должны быть такими же однородными, как и испытуемые в целевой группе. На языке статистики это означает, что испытуемые в целевой и в экспериментальных группах должны принадлежать одной генеральной совокупности.
Логарифмические оценки, называемые логитами, таких, казалось бы, реально несопоставимых феноменов как уровень знаний испытуемого с уровнем трудности каждого задания, были использованы для непосредственного сопоставления уровня трудности с уровнем подготовленности испытуемого.
По мнению Беспалько В.П. и Татур Ю.Г., тестирование должно быть измерением качества усвоения знаний, умений и навыков. Сравнение правил выполнения задания (задачи), предложенного в тексте, с эталоном ответа позволяет определить коэффициент усвоения знаний (Кus). Следует заметить, что 
, где А – число правильных ответов, а Р – число заданий в предлагаемых тестах.
Определение Кus является операцией измерения качества усвоения знаний. Кus поддается нормировке (0 < Кus < 1), процедура же контроля усвоения легко автоматизируется. По коэффициенту судят о завершенности процесса обучения: если Кus > 0,7, то процесс обучения можно считать завершенным. При усвоении знаний с Кus ≤ 0,7 студент в профессиональной деятельности систематически совершает ошибки и неспособен к их исправлению из-за неумения их находить. Нижнюю допустимую границу окончания процесса обучения повышают до величины, необходимой с точки зрения безопасности деятельности.
4. Принципы отбора содержания. Критерии оценки содержания теста
При создании теста внимание разработчика, прежде всего, привлекают вопросы отбора содержания, которое можно определить как оптимальное отображение содержания учебной дисциплины в системе тестовых заданий. Требование оптимальности предполагает использование определенной методики отбора, включающей вопросы целеполагания, планирования и оценки качества содержания теста.
Этап целеполагания является наиболее трудным и вместе с тем наиболее важным: от результатов его выполнения в первую очередь зависит качество содержания теста. В процессе целеполагания преподавателю необходимо решить вопрос о том, какие результаты учеников он хочет оценить с помощью теста.
Основания для ошибок в выводах педагога далеко не всегда связаны с технологическими недостатками традиционных средств контроля. Иногда они обусловлены недоработками педагога на этапе целеполагания, когда центр тяжести проверки смещается на второстепенные цели обучения, а иногда этап целеполагания отсутствует вовсе, поскольку часть педагогов уверена в непогрешимости своего опыта и интуиции, особенно при условии многолетней работы в школе. Однако никакие даже очень совершенные методы контроля и никакой опыт не дадут оснований для надежных выводов о достижении целей обучения до тех пор, пока нет уверенности в правильной постановке целей контроля и в их правильном, несмещенном отображении в содержании теста.
При создании теста ставится задача отобразить в его содержании то главное, что должны знать ученики в результате обучения, поэтому ограничиться простым перечислением целей обучения нельзя. В тест хотелось бы включить все, но, к сожалению, это невозможно, поэтому часть целей приходится просто отбросить и не проверять степень их достижения учащимися. Для того чтобы не утратить самое главное, необходимо структурировать цели и ввести определенную иерархию в их взаимное расположение. Без сомнения, здесь нет и не может быть готовых общих рецептов, поскольку в каждой дисциплине свои приоритеты. К тому же отдельные цели заметно связаны между собой, и потому простого представления о системе целей как об упорядоченной совокупности без рассмотрения связей между элементами явно недостаточно.
После определения целей тестирования и их конкретизации необходимо разработать план и спецификацию теста.
При разработке плана делается примерная раскладка процентного соотношения содержания разделов и определяется необходимое число заданий, по каждому разделу дисциплины исходя из важности раздела и числа часов, отведенных на его изучение в программе.
Раскладку начинают с подсчета планируемого исходного числа заданий в тесте, которое затем в процессе работы над тестом будет неоднократно меняться в сторону увеличения или уменьшения. Обычно предельное число не превышает 60 - 80 заданий, поскольку время тестирования выбирают в пределах 1,5 - 2 ч., а на выполнение одного задания отводится в среднем не более 2 мин.
После выполнения первого шага по планированию содержания разрабатывается спецификация теста, в которой фиксируется структура, содержание проверки и процентное соотношение заданий в тесте. Иногда спецификацию делают в развернутой форме, содержащей указания на тип заданий, который будет использоваться для оценки достижений учащихся в соответствии с намеченными целями создания теста, время выполнения теста, число заданий, особенности проведения тестирования, которые могут повлиять на характеристики теста и т.д.
Спецификация в развернутой форме включает:
1) цель создания теста, обоснование выбора подхода к его созданию, описание возможных сфер применения теста;
2) перечень нормативных документов, используемых при планировании содержания теста;
3) описание общей структуры теста, включающее перечень субтестов (если они есть) с указанием подходов к их разработке;
4) количество заданий различной формы с указанием числа ответов к закрытым заданиям, общее число заданий в тесте;
5) число параллельных вариантов теста либо ссылку на кластер, содержащую число и номера заданий кластера;
6) вес каждого задания, рекомендуемый автором теста;
7) рекомендуемое время выполнения теста, в том числе на каждый субтест, среднее время выполнения одного задания с учетом специфики формы;
8) соотношение заданий по различным разделам и видам учебной деятельности школьников;
9) рекомендации по контингенту учащихся для апробации теста;
10) охват требований стандартов (для аттестационных тестов);
11) перечень требований, не вошедших в тест (для аттестационных тестов);
12) рекомендуемую автором стратегию расположения заданий в тесте.
Знания и умения делятся таким образом:
А – знания понятий, определений, терминов;
В – знание законов и формул;
С – умение применять законы и формулы для решения задач;
D – умение интерпретировать результаты на графиках и схемах;
Е – умение проводить оценочные суждения.
Нередко устанавливаются следующие пропорции:
А – 10%, В – 20%, С – 30%, D – 30%, Е – 10%.
Помимо критериев, есть общие принципы, способствующие в определенной степени правильному отбору содержания тестов.
Принцип репрезентативности регламентирует не только полноту отображения, но и значимость содержательных элементов теста. Содержание заданий должно быть таким, чтобы по ответам на них можно было сделать вывод о знании или незнании всей программы проверяемого раздела или курса.
Принцип системности предполагает подбор содержательных элементов, отвечающих требованиям системности и связанных между собой обшей структурой знаний. При соблюдении принципа системности тест можно использовать для выявления не только объема знаний, но и для оценки качества структуры знаний учеников.
После отбора содержания теста начинается наиболее ответственный этап создания предтестовых заданий. Эта работа поручается обычно самым опытным преподавателям с большим стажем работы в школе. Однако для создания заданий одного опыта недостаточно. Необходимы также специальные знания по теории и методике разработки педагогических тестов, обеспечивающие профессиональный подход к созданию предтестовых заданий.
В.С. Аванесов выделил 3 критерия отбора содержания тестовых заданий:
1) определенность содержания теста;
2) непротиворечивость содержания заданий;
3) обоснованность содержания тестовых заданий.
1. Определенность содержания теста образует предмет педагогического измерения. В случае гомогенного теста возникает вопрос об уверенности в том, что все задания теста проверяют знания именно по определенной учебной дисциплине, а не по какой-то другой. Довольно часто случается так, что правильные ответы на некоторые задания требуют знаний не только интересующей дисциплины, но и ряда других, обычно смежных и предшествовавших учебных дисциплин. Близость и связанность которых затрудняет точное определение предметной принадлежности измеряемых знаний.
Например, в физических расчетах используется немало математических знаний и потому в систему физического знания обычно включается та математика, которая используется при решении физических задач. Неудача в математических расчетах порождает неудачу при ответах на задания физического теста. Отрицательный балл ставится, соответственно, за незнание физики, хотя испытуемый допустил ошибки математического толка. Если в такой тест включено много таких заданий, которые для правильного решения требуют не столько физических знаний, сколько умений выполнять усложненные расчеты, то это может быть примером неточно определенного содержания теста по физике. Чем меньше пересечение знаний одной учебной дисциплины со знаниями другой, тем определеннее выражается в тесте содержание учебной дисциплины. Определенность содержания требуется и во всех других тестах. В гетерогенном тесте это достигается посредством явного выделения заданий одной учебной дисциплины в отдельную шкалу. При этом нередко встречаются задания, хорошо работающие не только на одну, но и на две, три и даже большее число шкал.
Во всяком тестовом задании заранее определяется, что однозначно считается ответом на задание, с какой степенью полноты должен быть правильный ответ. Не допускается определение понятия через перечисление элементов, не входящих в него.
2. Непротиворечивость содержания заданий требует, чтобы относительно одной и той же мысли не возникали суждения, одновременно утверждающие и отрицающие ее. Недопустимо существование двух исключающих ответов на одно и то же задание теста. Если испытуемым дается инструкция: "Обведите кружком номер правильного ответа", а затем в одном из ответов утверждается, что правильного ответа нет, то это порождается пример непоследовательности мышления разработчика теста. В некоторых тестах встречаются ответы, вообще не связанные с содержанием задания. Таки ответы довольно легко распознаются испытуемыми как ошибочные, и потому тест оказывается неэффективным. Для повышения эффективности тест предварительно проходит апробацию на типичной выборке испытуемых. И если обнаружатся такие ответы к заданиям, которые испытуемые вообще не выбирают, то такие ответы из теста удаляются. Потому что они не выполняют функцию так называемых дистракторов, призванных отвлечь внимание незнающих испытуемых от правильного ответа. Кроме того, такие дистракторы вредны для теста, ибо снижают точность измерений (но об этом в статьях, где будут рассматриваться вопросы надежности тестов).
3. Обоснованность содержания тестовых заданий означает наличие у них оснований истинности. Обоснованность связана с аргументами, которые могут быть приведены в пользу той или другой формулировки заданий теста. При отсутствии доказательных аргументов в пользу правильности сформулированного задания оно в тест не включается, ни под каким предлогом. То же происходит, если в процессе экспертного обсуждения возникает хотя бы один контраргумент, или допускается условие, при котором данное утверждение может оказаться двусмысленным или ложным. Идея обоснованности содержания теста тесно переплетается с принципом содержательной правильности тестовых заданий, о чем уже говорилось в предыдущей статье. Напомним, что в тест включается только то содержание учебной дисциплины, которое является объективно истинным и что поддается некоторой рациональной аргументации. Соответственно, спорные точки зрения, вполне приемлемые в науке, не рекомендуется включать в содержание тестовых заданий.
Неистинность содержания тестовых заданий отличается от некорректности их формулировки. Неистинность, как отмечалось выше, определяется соответствующим ответом, в то время как некорректно сформулированное задание может продуцировать ответы как правильные, так и неправильные, а то и вызывать недоумение. Сюда же можно отнести неточно или двусмысленно сформулированные задания, порождающие несколько правильных или условно правильных ответов. Отсюда возникает необходимость вводить дополнительные условия истинности, что удлиняет само задание и усложняет его семантику. Некорректность формулировки обычно выясняется в процессе обсуждения содержания заданий с опытными педагогами-экспертами. Успех такого обсуждения возможен при создании соответствующей культурной среды, где допустимы только конструктивные и тактичные суждения. Увы, опыт убеждает, что такое встречается не часто. Между тем, только совместное и доброжелательное обсуждение материалов разработчиками и экспертами способно породить атмосферу поиска наилучших вариантов содержания теста. Этот поиск практически бесконечен, и здесь нет истины в последней инстанции.
5. Соотношение формы задания и вида проверяемых знаний, умений, навыков
Как уже упоминалось в предыдущих статьях, для целей тестирования знания, можно разделить на три вида: предлагаемые, приобретаемые и проверяемые. Теперь рассмотрим этот вопрос чуть подробнее.
Предлагаемые знания даются учащимся в форме учебных пособий, материалов, текстов, лекций, рассказов и т.п., отражающих основную часть образовательной программы. Эти знания формулируются, кроме того, в системе заданий, по которым сами учащиеся могут проверить степень своей подготовленности.
Приобретаемые учащимися знания являются обычно только частью предлагаемых знаний, большей или меньшей, в зависимости от учебной активности учащихся. С развитием компьютерного обучения появились условия для превышения объема приобретаемых знаний над объемом предлагаемых знаний. Это новая ситуация, связанная с возможностями массового погружения учащихся в мировое образовательное пространство, в котором ведущая роль заданий в процессе приобретения знаний уже осознана достаточно хорошо. Решение учебных заданий является главным стимулом для активизации учения, собственной деятельности учащихся. Эта деятельность может протекать в форме работы с учителем, в группе или самостоятельно. Распространенные в литературе рассуждения об уровнях усвоения относятся исключительно к приобретаемым знаниям.
Проверяемые знания образуют основное содержание того документа, который может называться называется программой экзамена или тестирования, в зависимости от избираемой формы контроля знаний. Главной признаком проверяемых знаний является их актуальность, что означает готовность испытуемых к практическому применению знаний для решения заданий, используемых в момент проверки. В высшей школе этот же признак иногда называют оперативностью знаний.
В процессе тестирования школьников и абитуриентов обычно проверяются только такие знания, которые находятся в оперативной памяти, те, что не требует обращения к справочникам, словарям, картам, таблицам и т.п. В числе проверяемых знаний можно выделить еще нормативные знания, которые подлежат обязательному усвоению учащимися и последующему контролю со стороны органов управления образованием посредством экспертно подобранной и утвержденной руководящим органом системы заданий, задач и других контрольных материалов.
Кроме того, выделяются свойства знаний. В.И. Гинецинский выделяет следующие свойства знаний:
рефлексивность (я не только знаю нечто, но и знаю, что я это знаю);
транзитивность (если я знаю, что некто знает нечто, то из этого следует, что я знаю это нечто);
антисимметричность (если я знаю кого-то, то это не значит, что он меня знает).
Классификация видов и уровней знаний
Классификации видов и уровней знаний, сформулированная Блумом для решения практических задач педагогического измерения.
1. Знание названий, имен. Сократу принадлежат слова: кто постигает имена, тот постигнет и то, чему принадлежат эти имена. Как отмечает известный зарубежный философ Дж. Остин, знание предмета или явления во многом определяется тем, знаем ли мы его название, точнее - его правильное название.
2. Знание смысла названий и имен. Давно известно, что как понимаем, так и действуем. Понимание смысла названий и имен помогает их запоминанию и правильному употреблению. Например, при имени "Байкал" некоторые из младших школьников могут думать не о знаменитом озере, жемчужине России, а о фруктовой воде, продаваемой под тем же названием. Другой пример можно взять из области политического сознания. Как справедливо отмечают в своей книге Ю.Н. Афанасьев, А.С. Строганов и С.Г. Шеховцев, сознание бывших советских людей оказалось неспособными видеть различные смыслы таких абстракций языка как "свобода", "власть", "демократия", "государство", "народ", "общество", считая их как бы ясными по умолчанию. Что и стало одной из причин, позволившей при активном соучастии этих людей уничтожить систему их собственного жизнеобеспечения.
3. Фактуальные знания. Знание фактов позволяет не повторять ошибки, свои и чужие, обогатить доказательную основу знаний. Нередко фиксируются в виде научных текстов, результатов наблюдений, рекомендаций типа техники безопасности, житейской мудрости, поговорок, изречений. Например, из Древнего Китая пришло изречение китайского мыслителя Джу Си: не варите песок в надежде получить кашу.
4. Знание определений. Самое слабое место в школьном образовании, потому что определениям нельзя научить; их можно понять и усвоить только как результат самостоятельных усилий по овладению требуемыми понятиями. Знание системы определений является одним из лучших свидетельств теоретической подготовленности. В учебном процессе все четыре рассмотренных вида знаний можно объединить в группу репродуктивных знаний. Как отмечал И.Я. Лернер, за годы школьного обучения учащиеся выполняют свыше 10 тыс. заданий. Учитель вынужден организовать репродуктивную деятельность, без которой содержание изначально не усваивается.
Это знания, не требующие при усвоении заметной трансформации, и потому они воспроизводятся в той же форме, в какой воспринимались. Их можно, с некоторой условностью, назвать знаниями первого уровня.
5. Сравнительные, сопоставительные знания. Они широко распространены в практике и в науке, присущи преимущественно интеллектуально развитым лицам, особенно специалистам. Они способны анализировать и выбирать лучшие варианты действий при достижении той или иной цели. Как отмечал Н.Кузанский, "все исследователи судят о неизвестном путем соизмеряющего сравнения с чем-то уже знакомым, так что все исследуется в сравнении".
6. Знание противоположностей, противоречий, антонимов и т.п. объектов. Такие знания ценны в обучении, особенно на самом начальном этапе. В некоторых сферах такие знания являются главными. Например, в школьном курсе безопасности жизнедеятельности надо точно знать - что ученикам можно делать, а чего нельзя делать, ни при каких обстоятельствах.
7. Ассоциативные знания. Они свойственны интеллектуально развитому и творческому человеку. Чем богаче ассоциации, тем больше условий и выше вероятность для проявления творчества. В значительной мере именно на богатстве ассоциаций построена языковая культура личности, писательский труд, работа художника, конструктора и работников других творческих профессий.
8. Классификационные знания. Применяются главным образом в науке; Примеры - классификации Линнея, периодическая система элементов Д.И. Менделеева, классификации тестов и т.п. Классификационные знания являются обобщенными, системными знания. Этот вид знаний присущ только лицам с достаточным интеллектуальным развитием, так как требует развитого абстрактного мышления, целостного и взаимосвязанного видения совокупности явлений и процессов. Система знаний - это, прежде всего, владение эффективными определениями основных понятий изучаемых наук.
Знания п.п. 5-8 можно отнести ко второму уровню. Такие знания позволяют учащимся решать типовые задания как результат подведения каждого конкретного задания под известные классы изучаемых явлений и методов.
9. Причинные знания, знания причинно-следственных отношений, знание оснований. Как писал В. Шекспир, пора необъяснимого прошла, всему приходится подыскивать причины. В современной науке причинный анализ является основным направлением исследований. Как отмечал Л. Витгенштейн, говорят "я знаю" тогда, когда готовы привести неоспоримые основания.
10. Процессуальные, алгоритмические, процедурные знания. Являются основными в практической деятельности. Овладение этими знаниями является существенным признаком профессиональной подготовленности и культуры. В эту же группу можно отнести технологические знания, позволяющие неизбежно получать запланированный результат.
11. Технологические знания. Эти знания представляют собой особый вид знаний, проявляющихся на разных уровнях подготовленности. Это может быть сравнительно простое знание об отдельной операции технологической цепочки, или комплекса знаний, позволяющих непременно достигать поставленных целей с минимально возможными затратами.
Знания п.п. 9-11 можно отнести к знаниям более высокого, третьего уровня. Они приобретаются, главным образом, в системе среднего и высшего профессионального образования.
К высшему, четвертому уровню знаний можно отнести следующие виды знаний:
12. Вероятностные знания. Такие знания нужны в случаях неопределенности, нехватки имеющихся знаний, неточности имеющейся информации, при необходимости минимизировать риск ошибки при принятии решений. Это знания о закономерностях распределения данных, достоверности различий, о степени обоснованности гипотез.
13. Абстрактные знания. Эти особый вид знаний, при котором оперируют идеализованными понятиями и объектами, несуществующими в реальности. Много таких объектов в геометрии, естествознании, и в тех общественных науках, которые на Западе называют поведенческими - это психология, социология, педагогика. Вероятностные, абстрактные и специальные научные знания в каждой отдельной дисциплине знания составляют основу теоретических знаний. Это уровень теоретических знаний.
14. Методологические знания. Это знания о методах преобразования действительности, научные знания о построении эффективной деятельности. Это знания самого высокого, пятого уровня.
Перечисленные виды знаний не образуют пока полной классификационной системы и потому допускают возможность заметного расширения представленной номенклатуры, замены одних видов знаний другими, объединения их в различные группы.
Каждый из перечисленных видов знаний выражается соответствующей формой тестовых заданий.
Для определения степени обученности по каждой учебной дисциплине выделяют объем знаний, которые необходимы для усвоения согласно учебной программе, что составляет базовый объем знаний. Базовые знания представляют минимум государственного образовательного стандарта. Однако и среди базовых знаний выделяют те, которые должны оставаться в памяти по любой дисциплине, в совокупности образуют мировоззренческие знания. Б.У. Родионов и А.О. Татур (центр тестирования МИФИ) выделяют несколько звеньев мировоззренческих знаний: базовые знания, программные знания, сверхпрограммные знания. Педагогические тесты – единственный инструмент, позволяющий не только измерить обученность, но и умение использовать знания. Если говорить только об умениях, то на всех уровнях усвоения знаний можно выделить четыре вида умений:
1) умение узнавать объекты, понятие, факты, законы, модели;
2) умение действовать по образцу, по известному алгоритму, правилу;
3) умение проводить анализ ситуации, вычленять главное и строить из освоенных операций процедуры, позволяющие получить решение тестового задания;
4) умение и способность находить оригинальные решения.
Четыре вида умений, названные Б.У. Родионовым и А.О. Татур, не противоречат теории поэтапного формирования умственных действий, в основу которой и положен метод разработки автоматизированного тестирования с целью оценки усвоения знаний, приобретения умений и навыков. Это позволяет создать не только экспертные системы оценок степени обучаемости студентов, но и построить гибкую динамичную рейтинговую систему контроля знаний.
rg = 1 -
где rg коэффициент структурированности;.
-
- сумма ошибочных элементов индивидуальных структур, подсчитываемых в векторах-строках баллов испытуемых; - N – число испытуемых;
- k – число заданий.
Уровень знаний в значительной степени зависит от личных усилий и способностей, в то время как структура знаний заметно зависит от правильной организации учебного процесса, от индивидуализации обучения, от мастерства педагога, от объективности контроля - в общем, от всего того, чего обычно не хватает. Путь к достижению этого идеала лежит через трудности создания качественных тестов.
Разработка тестов начинается с анализа содержания преподаваемых знаний и овладения принципами формулирования тестовых заданий. К сожалению, на тесты все еще смотрят как на средство, которое легко придумать, в то время как сильная сторона тестов - их эффективность, проистекающая из теоретической и эмпирической обоснованности.
На третьем этапе от разработчиков нового поколения тестов потребуется некоторая математико-статистическая подготовка, знания теории тестов. Теорию тестов можно определить как совокупность непротиворечивых понятий, форм, методов, аксиом, формул и утверждений, способствующих повышению эффективности и качества тестового процесса. Кроме того, может потребоваться и некоторый опыт применения методов многомерного статистического анализа, и опыт правильной интерпретации тестовых результатов.
Часто возникает вопрос: «Как поведут себя удаляемые задания в других группах испытуемых?» Ответ зависит от качества подбора групп, а точнее от статистического плана формирования выборочных совокупностей. Верный ответ на этот вопрос следует искать в смысле понятия «target group»; это множество испытуемых в генеральной совокупности, для которых предназначен разрабатываемый тест.
Соответственно, если задания проектируемого теста ведут себя неодинаково в разных группах, то это является, скорее всего, указанием на ошибки в формировании выборок испытуемых. Последние должны быть такими же однородными, как и испытуемые в целевой группе. На языке статистики это означает, что испытуемые в целевой и в экспериментальных группах должны принадлежать одной генеральной совокупности.
Логарифмические оценки, называемые логитами, таких, казалось бы, реально несопоставимых феноменов как уровень знаний испытуемого с уровнем трудности каждого задания, были использованы для непосредственного сопоставления уровня трудности с уровнем подготовленности испытуемого.
По мнению Беспалько В.П. и Татур Ю.Г., тестирование должно быть измерением качества усвоения знаний, умений и навыков. Сравнение правил выполнения задания (задачи), предложенного в тексте, с эталоном ответа позволяет определить коэффициент усвоения знаний (Кus). Следует заметить, что
Определение Кus является операцией измерения качества усвоения знаний. Кus поддается нормировке (0 < Кus < 1), процедура же контроля усвоения легко автоматизируется. По коэффициенту судят о завершенности процесса обучения: если Кus > 0,7, то процесс обучения можно считать завершенным. При усвоении знаний с Кus ≤ 0,7 студент в профессиональной деятельности систематически совершает ошибки и неспособен к их исправлению из-за неумения их находить. Нижнюю допустимую границу окончания процесса обучения повышают до величины, необходимой с точки зрения безопасности деятельности.
4. Принципы отбора содержания. Критерии оценки содержания теста
При создании теста внимание разработчика, прежде всего, привлекают вопросы отбора содержания, которое можно определить как оптимальное отображение содержания учебной дисциплины в системе тестовых заданий. Требование оптимальности предполагает использование определенной методики отбора, включающей вопросы целеполагания, планирования и оценки качества содержания теста.
Этап целеполагания является наиболее трудным и вместе с тем наиболее важным: от результатов его выполнения в первую очередь зависит качество содержания теста. В процессе целеполагания преподавателю необходимо решить вопрос о том, какие результаты учеников он хочет оценить с помощью теста.
Основания для ошибок в выводах педагога далеко не всегда связаны с технологическими недостатками традиционных средств контроля. Иногда они обусловлены недоработками педагога на этапе целеполагания, когда центр тяжести проверки смещается на второстепенные цели обучения, а иногда этап целеполагания отсутствует вовсе, поскольку часть педагогов уверена в непогрешимости своего опыта и интуиции, особенно при условии многолетней работы в школе. Однако никакие даже очень совершенные методы контроля и никакой опыт не дадут оснований для надежных выводов о достижении целей обучения до тех пор, пока нет уверенности в правильной постановке целей контроля и в их правильном, несмещенном отображении в содержании теста.
При создании теста ставится задача отобразить в его содержании то главное, что должны знать ученики в результате обучения, поэтому ограничиться простым перечислением целей обучения нельзя. В тест хотелось бы включить все, но, к сожалению, это невозможно, поэтому часть целей приходится просто отбросить и не проверять степень их достижения учащимися. Для того чтобы не утратить самое главное, необходимо структурировать цели и ввести определенную иерархию в их взаимное расположение. Без сомнения, здесь нет и не может быть готовых общих рецептов, поскольку в каждой дисциплине свои приоритеты. К тому же отдельные цели заметно связаны между собой, и потому простого представления о системе целей как об упорядоченной совокупности без рассмотрения связей между элементами явно недостаточно.
После определения целей тестирования и их конкретизации необходимо разработать план и спецификацию теста.
При разработке плана делается примерная раскладка процентного соотношения содержания разделов и определяется необходимое число заданий, по каждому разделу дисциплины исходя из важности раздела и числа часов, отведенных на его изучение в программе.
Раскладку начинают с подсчета планируемого исходного числа заданий в тесте, которое затем в процессе работы над тестом будет неоднократно меняться в сторону увеличения или уменьшения. Обычно предельное число не превышает 60 - 80 заданий, поскольку время тестирования выбирают в пределах 1,5 - 2 ч., а на выполнение одного задания отводится в среднем не более 2 мин.
После выполнения первого шага по планированию содержания разрабатывается спецификация теста, в которой фиксируется структура, содержание проверки и процентное соотношение заданий в тесте. Иногда спецификацию делают в развернутой форме, содержащей указания на тип заданий, который будет использоваться для оценки достижений учащихся в соответствии с намеченными целями создания теста, время выполнения теста, число заданий, особенности проведения тестирования, которые могут повлиять на характеристики теста и т.д.
Спецификация в развернутой форме включает:
1) цель создания теста, обоснование выбора подхода к его созданию, описание возможных сфер применения теста;
2) перечень нормативных документов, используемых при планировании содержания теста;
3) описание общей структуры теста, включающее перечень субтестов (если они есть) с указанием подходов к их разработке;
4) количество заданий различной формы с указанием числа ответов к закрытым заданиям, общее число заданий в тесте;
5) число параллельных вариантов теста либо ссылку на кластер, содержащую число и номера заданий кластера;
6) вес каждого задания, рекомендуемый автором теста;
7) рекомендуемое время выполнения теста, в том числе на каждый субтест, среднее время выполнения одного задания с учетом специфики формы;
8) соотношение заданий по различным разделам и видам учебной деятельности школьников;
9) рекомендации по контингенту учащихся для апробации теста;
10) охват требований стандартов (для аттестационных тестов);
11) перечень требований, не вошедших в тест (для аттестационных тестов);
12) рекомендуемую автором стратегию расположения заданий в тесте.
Знания и умения делятся таким образом:
А – знания понятий, определений, терминов;
В – знание законов и формул;
С – умение применять законы и формулы для решения задач;
D – умение интерпретировать результаты на графиках и схемах;
Е – умение проводить оценочные суждения.
Нередко устанавливаются следующие пропорции:
А – 10%, В – 20%, С – 30%, D – 30%, Е – 10%.
Помимо критериев, есть общие принципы, способствующие в определенной степени правильному отбору содержания тестов.
Принцип репрезентативности регламентирует не только полноту отображения, но и значимость содержательных элементов теста. Содержание заданий должно быть таким, чтобы по ответам на них можно было сделать вывод о знании или незнании всей программы проверяемого раздела или курса.
Принцип системности предполагает подбор содержательных элементов, отвечающих требованиям системности и связанных между собой обшей структурой знаний. При соблюдении принципа системности тест можно использовать для выявления не только объема знаний, но и для оценки качества структуры знаний учеников.
После отбора содержания теста начинается наиболее ответственный этап создания предтестовых заданий. Эта работа поручается обычно самым опытным преподавателям с большим стажем работы в школе. Однако для создания заданий одного опыта недостаточно. Необходимы также специальные знания по теории и методике разработки педагогических тестов, обеспечивающие профессиональный подход к созданию предтестовых заданий.
В.С. Аванесов выделил 3 критерия отбора содержания тестовых заданий:
1) определенность содержания теста;
2) непротиворечивость содержания заданий;
3) обоснованность содержания тестовых заданий.
1. Определенность содержания теста образует предмет педагогического измерения. В случае гомогенного теста возникает вопрос об уверенности в том, что все задания теста проверяют знания именно по определенной учебной дисциплине, а не по какой-то другой. Довольно часто случается так, что правильные ответы на некоторые задания требуют знаний не только интересующей дисциплины, но и ряда других, обычно смежных и предшествовавших учебных дисциплин. Близость и связанность которых затрудняет точное определение предметной принадлежности измеряемых знаний.
Например, в физических расчетах используется немало математических знаний и потому в систему физического знания обычно включается та математика, которая используется при решении физических задач. Неудача в математических расчетах порождает неудачу при ответах на задания физического теста. Отрицательный балл ставится, соответственно, за незнание физики, хотя испытуемый допустил ошибки математического толка. Если в такой тест включено много таких заданий, которые для правильного решения требуют не столько физических знаний, сколько умений выполнять усложненные расчеты, то это может быть примером неточно определенного содержания теста по физике. Чем меньше пересечение знаний одной учебной дисциплины со знаниями другой, тем определеннее выражается в тесте содержание учебной дисциплины. Определенность содержания требуется и во всех других тестах. В гетерогенном тесте это достигается посредством явного выделения заданий одной учебной дисциплины в отдельную шкалу. При этом нередко встречаются задания, хорошо работающие не только на одну, но и на две, три и даже большее число шкал.
Во всяком тестовом задании заранее определяется, что однозначно считается ответом на задание, с какой степенью полноты должен быть правильный ответ. Не допускается определение понятия через перечисление элементов, не входящих в него.
2. Непротиворечивость содержания заданий требует, чтобы относительно одной и той же мысли не возникали суждения, одновременно утверждающие и отрицающие ее. Недопустимо существование двух исключающих ответов на одно и то же задание теста. Если испытуемым дается инструкция: "Обведите кружком номер правильного ответа", а затем в одном из ответов утверждается, что правильного ответа нет, то это порождается пример непоследовательности мышления разработчика теста. В некоторых тестах встречаются ответы, вообще не связанные с содержанием задания. Таки ответы довольно легко распознаются испытуемыми как ошибочные, и потому тест оказывается неэффективным. Для повышения эффективности тест предварительно проходит апробацию на типичной выборке испытуемых. И если обнаружатся такие ответы к заданиям, которые испытуемые вообще не выбирают, то такие ответы из теста удаляются. Потому что они не выполняют функцию так называемых дистракторов, призванных отвлечь внимание незнающих испытуемых от правильного ответа. Кроме того, такие дистракторы вредны для теста, ибо снижают точность измерений (но об этом в статьях, где будут рассматриваться вопросы надежности тестов).
3. Обоснованность содержания тестовых заданий означает наличие у них оснований истинности. Обоснованность связана с аргументами, которые могут быть приведены в пользу той или другой формулировки заданий теста. При отсутствии доказательных аргументов в пользу правильности сформулированного задания оно в тест не включается, ни под каким предлогом. То же происходит, если в процессе экспертного обсуждения возникает хотя бы один контраргумент, или допускается условие, при котором данное утверждение может оказаться двусмысленным или ложным. Идея обоснованности содержания теста тесно переплетается с принципом содержательной правильности тестовых заданий, о чем уже говорилось в предыдущей статье. Напомним, что в тест включается только то содержание учебной дисциплины, которое является объективно истинным и что поддается некоторой рациональной аргументации. Соответственно, спорные точки зрения, вполне приемлемые в науке, не рекомендуется включать в содержание тестовых заданий.
Неистинность содержания тестовых заданий отличается от некорректности их формулировки. Неистинность, как отмечалось выше, определяется соответствующим ответом, в то время как некорректно сформулированное задание может продуцировать ответы как правильные, так и неправильные, а то и вызывать недоумение. Сюда же можно отнести неточно или двусмысленно сформулированные задания, порождающие несколько правильных или условно правильных ответов. Отсюда возникает необходимость вводить дополнительные условия истинности, что удлиняет само задание и усложняет его семантику. Некорректность формулировки обычно выясняется в процессе обсуждения содержания заданий с опытными педагогами-экспертами. Успех такого обсуждения возможен при создании соответствующей культурной среды, где допустимы только конструктивные и тактичные суждения. Увы, опыт убеждает, что такое встречается не часто. Между тем, только совместное и доброжелательное обсуждение материалов разработчиками и экспертами способно породить атмосферу поиска наилучших вариантов содержания теста. Этот поиск практически бесконечен, и здесь нет истины в последней инстанции.
5. Соотношение формы задания и вида проверяемых знаний, умений, навыков
Как уже упоминалось в предыдущих статьях, для целей тестирования знания, можно разделить на три вида: предлагаемые, приобретаемые и проверяемые. Теперь рассмотрим этот вопрос чуть подробнее.
Предлагаемые знания даются учащимся в форме учебных пособий, материалов, текстов, лекций, рассказов и т.п., отражающих основную часть образовательной программы. Эти знания формулируются, кроме того, в системе заданий, по которым сами учащиеся могут проверить степень своей подготовленности.
Приобретаемые учащимися знания являются обычно только частью предлагаемых знаний, большей или меньшей, в зависимости от учебной активности учащихся. С развитием компьютерного обучения появились условия для превышения объема приобретаемых знаний над объемом предлагаемых знаний. Это новая ситуация, связанная с возможностями массового погружения учащихся в мировое образовательное пространство, в котором ведущая роль заданий в процессе приобретения знаний уже осознана достаточно хорошо. Решение учебных заданий является главным стимулом для активизации учения, собственной деятельности учащихся. Эта деятельность может протекать в форме работы с учителем, в группе или самостоятельно. Распространенные в литературе рассуждения об уровнях усвоения относятся исключительно к приобретаемым знаниям.
Проверяемые знания образуют основное содержание того документа, который может называться называется программой экзамена или тестирования, в зависимости от избираемой формы контроля знаний. Главной признаком проверяемых знаний является их актуальность, что означает готовность испытуемых к практическому применению знаний для решения заданий, используемых в момент проверки. В высшей школе этот же признак иногда называют оперативностью знаний.
В процессе тестирования школьников и абитуриентов обычно проверяются только такие знания, которые находятся в оперативной памяти, те, что не требует обращения к справочникам, словарям, картам, таблицам и т.п. В числе проверяемых знаний можно выделить еще нормативные знания, которые подлежат обязательному усвоению учащимися и последующему контролю со стороны органов управления образованием посредством экспертно подобранной и утвержденной руководящим органом системы заданий, задач и других контрольных материалов.
Кроме того, выделяются свойства знаний. В.И. Гинецинский выделяет следующие свойства знаний:
рефлексивность (я не только знаю нечто, но и знаю, что я это знаю);
транзитивность (если я знаю, что некто знает нечто, то из этого следует, что я знаю это нечто);
антисимметричность (если я знаю кого-то, то это не значит, что он меня знает).
Классификация видов и уровней знаний
Классификации видов и уровней знаний, сформулированная Блумом для решения практических задач педагогического измерения.
1. Знание названий, имен. Сократу принадлежат слова: кто постигает имена, тот постигнет и то, чему принадлежат эти имена. Как отмечает известный зарубежный философ Дж. Остин, знание предмета или явления во многом определяется тем, знаем ли мы его название, точнее - его правильное название.
2. Знание смысла названий и имен. Давно известно, что как понимаем, так и действуем. Понимание смысла названий и имен помогает их запоминанию и правильному употреблению. Например, при имени "Байкал" некоторые из младших школьников могут думать не о знаменитом озере, жемчужине России, а о фруктовой воде, продаваемой под тем же названием. Другой пример можно взять из области политического сознания. Как справедливо отмечают в своей книге Ю.Н. Афанасьев, А.С. Строганов и С.Г. Шеховцев, сознание бывших советских людей оказалось неспособными видеть различные смыслы таких абстракций языка как "свобода", "власть", "демократия", "государство", "народ", "общество", считая их как бы ясными по умолчанию. Что и стало одной из причин, позволившей при активном соучастии этих людей уничтожить систему их собственного жизнеобеспечения.
3. Фактуальные знания. Знание фактов позволяет не повторять ошибки, свои и чужие, обогатить доказательную основу знаний. Нередко фиксируются в виде научных текстов, результатов наблюдений, рекомендаций типа техники безопасности, житейской мудрости, поговорок, изречений. Например, из Древнего Китая пришло изречение китайского мыслителя Джу Си: не варите песок в надежде получить кашу.
4. Знание определений. Самое слабое место в школьном образовании, потому что определениям нельзя научить; их можно понять и усвоить только как результат самостоятельных усилий по овладению требуемыми понятиями. Знание системы определений является одним из лучших свидетельств теоретической подготовленности. В учебном процессе все четыре рассмотренных вида знаний можно объединить в группу репродуктивных знаний. Как отмечал И.Я. Лернер, за годы школьного обучения учащиеся выполняют свыше 10 тыс. заданий. Учитель вынужден организовать репродуктивную деятельность, без которой содержание изначально не усваивается.
Это знания, не требующие при усвоении заметной трансформации, и потому они воспроизводятся в той же форме, в какой воспринимались. Их можно, с некоторой условностью, назвать знаниями первого уровня.
5. Сравнительные, сопоставительные знания. Они широко распространены в практике и в науке, присущи преимущественно интеллектуально развитым лицам, особенно специалистам. Они способны анализировать и выбирать лучшие варианты действий при достижении той или иной цели. Как отмечал Н.Кузанский, "все исследователи судят о неизвестном путем соизмеряющего сравнения с чем-то уже знакомым, так что все исследуется в сравнении".
6. Знание противоположностей, противоречий, антонимов и т.п. объектов. Такие знания ценны в обучении, особенно на самом начальном этапе. В некоторых сферах такие знания являются главными. Например, в школьном курсе безопасности жизнедеятельности надо точно знать - что ученикам можно делать, а чего нельзя делать, ни при каких обстоятельствах.
7. Ассоциативные знания. Они свойственны интеллектуально развитому и творческому человеку. Чем богаче ассоциации, тем больше условий и выше вероятность для проявления творчества. В значительной мере именно на богатстве ассоциаций построена языковая культура личности, писательский труд, работа художника, конструктора и работников других творческих профессий.
8. Классификационные знания. Применяются главным образом в науке; Примеры - классификации Линнея, периодическая система элементов Д.И. Менделеева, классификации тестов и т.п. Классификационные знания являются обобщенными, системными знания. Этот вид знаний присущ только лицам с достаточным интеллектуальным развитием, так как требует развитого абстрактного мышления, целостного и взаимосвязанного видения совокупности явлений и процессов. Система знаний - это, прежде всего, владение эффективными определениями основных понятий изучаемых наук.
Знания п.п. 5-8 можно отнести ко второму уровню. Такие знания позволяют учащимся решать типовые задания как результат подведения каждого конкретного задания под известные классы изучаемых явлений и методов.
9. Причинные знания, знания причинно-следственных отношений, знание оснований. Как писал В. Шекспир, пора необъяснимого прошла, всему приходится подыскивать причины. В современной науке причинный анализ является основным направлением исследований. Как отмечал Л. Витгенштейн, говорят "я знаю" тогда, когда готовы привести неоспоримые основания.
10. Процессуальные, алгоритмические, процедурные знания. Являются основными в практической деятельности. Овладение этими знаниями является существенным признаком профессиональной подготовленности и культуры. В эту же группу можно отнести технологические знания, позволяющие неизбежно получать запланированный результат.
11. Технологические знания. Эти знания представляют собой особый вид знаний, проявляющихся на разных уровнях подготовленности. Это может быть сравнительно простое знание об отдельной операции технологической цепочки, или комплекса знаний, позволяющих непременно достигать поставленных целей с минимально возможными затратами.
Знания п.п. 9-11 можно отнести к знаниям более высокого, третьего уровня. Они приобретаются, главным образом, в системе среднего и высшего профессионального образования.
К высшему, четвертому уровню знаний можно отнести следующие виды знаний:
12. Вероятностные знания. Такие знания нужны в случаях неопределенности, нехватки имеющихся знаний, неточности имеющейся информации, при необходимости минимизировать риск ошибки при принятии решений. Это знания о закономерностях распределения данных, достоверности различий, о степени обоснованности гипотез.
13. Абстрактные знания. Эти особый вид знаний, при котором оперируют идеализованными понятиями и объектами, несуществующими в реальности. Много таких объектов в геометрии, естествознании, и в тех общественных науках, которые на Западе называют поведенческими - это психология, социология, педагогика. Вероятностные, абстрактные и специальные научные знания в каждой отдельной дисциплине знания составляют основу теоретических знаний. Это уровень теоретических знаний.
14. Методологические знания. Это знания о методах преобразования действительности, научные знания о построении эффективной деятельности. Это знания самого высокого, пятого уровня.
Перечисленные виды знаний не образуют пока полной классификационной системы и потому допускают возможность заметного расширения представленной номенклатуры, замены одних видов знаний другими, объединения их в различные группы.
Каждый из перечисленных видов знаний выражается соответствующей формой тестовых заданий.
Для определения степени обученности по каждой учебной дисциплине выделяют объем знаний, которые необходимы для усвоения согласно учебной программе, что составляет базовый объем знаний. Базовые знания представляют минимум государственного образовательного стандарта. Однако и среди базовых знаний выделяют те, которые должны оставаться в памяти по любой дисциплине, в совокупности образуют мировоззренческие знания. Б.У. Родионов и А.О. Татур (центр тестирования МИФИ) выделяют несколько звеньев мировоззренческих знаний: базовые знания, программные знания, сверхпрограммные знания. Педагогические тесты – единственный инструмент, позволяющий не только измерить обученность, но и умение использовать знания. Если говорить только об умениях, то на всех уровнях усвоения знаний можно выделить четыре вида умений:
1) умение узнавать объекты, понятие, факты, законы, модели;
2) умение действовать по образцу, по известному алгоритму, правилу;
3) умение проводить анализ ситуации, вычленять главное и строить из освоенных операций процедуры, позволяющие получить решение тестового задания;
4) умение и способность находить оригинальные решения.
Четыре вида умений, названные Б.У. Родионовым и А.О. Татур, не противоречат теории поэтапного формирования умственных действий, в основу которой и положен метод разработки автоматизированного тестирования с целью оценки усвоения знаний, приобретения умений и навыков. Это позволяет создать не только экспертные системы оценок степени обучаемости студентов, но и построить гибкую динамичную рейтинговую систему контроля знаний.
