Кто же на самом деле сделал домашку. Как образование ищет способ противостоять ИИ

Вечер современного студента или школьника, выполняющего домашние задания, сегодня выглядит не так, как 10 или 15 лет назад. Он открывает ИИ-чат-бот, вставляет формулировку домашнего задания и за короткое время получает готовые ответы, текст письменной работы или решенные задачи. Еще несколько минут нужно на то, чтобы подправить стиль, переставить предложения, добавить немного эмоций и убрать явные следы машинного текста, и работу можно считать завершенной. Эта практика ставит современное образование перед необходимостью искать новые способы проверки знаний и убеждаться, что домашнее задание действительно является свидетельством знаний школьников или студентов.

Еще недавно списывание имело естественные ограничения. Для него нужен был источник — учебник, чужая работа или онлайн-сервис с информацией, касающейся задачи. Искусственный интеллект убрал почти все препятствия. Он доступен круглосуточно, работает быстро и умеет практически все — написать эссе, решить задачу или объяснить тему.

Для образования возникла концептуальная проблема, которая заключается даже не в том, что учащиеся получили новый способ списывать. Проблема на самом деле состоит в том, что теперь письменная работа или решенная задача (написанный код) больше не обязательно свидетельствуют о том, что их автор действительно думал, читал и учился. Проверяя эти работы, преподаватель не может определить, стоит ли за ними реальная работа учащегося. Попытки выявить "следы" ИИ с помощью ИИ-детекторов в большинстве случаев бесполезны: эти инструменты дают очень много ложных срабатываний, а сам факт использования чат-бота практически невозможно доказать.

Так что образование вынуждено менять не только правила использования ИИ, но и саму логику оценивания. Если домашнее задание может выполнить машина, то приходится проверять то, чего машина за ученика сделать не может: как он рассуждает, объясняет, отвечает на вопросы и защищает собственный результат. Это вызов такого масштаба, с которым образовательная система сталкивается впервые и пока не знает, как на него реагировать.

Насколько серьезна проблема — ИИ в образовании

Последние два-три года использование ИИ школьниками и студентами только росло. К примеру, среди американских подростков доля тех, кто применяет ChatGPT для школьных задач, удвоилась буквально за год. Среди студентов колледжей использование ИИ уже стало массовой практикой. Австралийские исследования показывают еще более широкое распространение ИИ в университетах: более 80% опрошенных студентов уже использовали генеративный ИИ для учебных задач.

Но понятие "использование ИИ в обучении" может означать принципиально разные сценарии: в одном случае студент просит чат-бот объяснить сложную тему, помочь разобраться с ошибкой или предложить идеи; в другом — он поручает ИИ-инструменту выполнить задание вместо себя, а затем сдает результат как собственную работу.

Неудивительно, что в мире ищут не только факты взаимодействий с ИИ, но и их сценарии. И часто они оказываются именно граничащими с мошенничеством. К примеру, в британских университетах количество подтвержденных случаев академической недобропорядочности, связанной с ИИ, возросло в несколько раз за год: с примерно 1,6 случая на тысячу студентов до более чем 5 из тысячи. И это лишь подтвержденные случаи: подавляющее большинство "причесанных" ИИ-текстов остаются незамеченными в принципе.

Почему просто ловить следы ИИ — не работает

Первая реакция образования на появление генеративного ИИ была почти инстинктивной: создать программы-детекторы, определяющие, был ли текст написан человеком или чат-ботом. Проблема в том, что на практике такие инструменты работают гораздо хуже, чем хотелось бы — и, главное, неравномерно.

Исследование Стэнфордского университета наглядно показало проблему ИИ-детекторов. Авторы эксперимента проверили, что популярные детекторы ИИ определили как ИИ-тексты более 60% эссе экзамена TOEFL, написанных студентами, для которых английский не является родным языком. Для текстов американских школьников, являвшихся носителями английского, результаты были почти безошибочными. Система, призванная бороться с академической недобропорядочностью, таким образом рискует наказывать именно тех, кто пишет на английском как неродном языке. Ведь детекторы часто воспринимают предсказуемость такого текста как следствие его создания с помощью ИИ. Предсказуемость (perplexity) — это признак, оценивающий, насколько легко речевой модели предусмотреть следующее слово в тексте. Чем предсказуемее слова, конструкции и структура предложений в письменном тексте, тем выше вероятность того, что текст система обозначит как сгенерированный ИИ. Однако для человека, пишущего на неродном языке, такая предсказуемость вполне естественна. Он использует более простую лексику, повторяет знакомые языковые конструкции, строит предложения по изученным шаблонам и пытается избегать сложных или необычных формулировок. Поэтому такой даже написанный человеком текст статистически становится похожим на тот, который детектор ожидает увидеть от языковой модели. Да и вообще текст, написанный четкими конструкциями без эмоциональных вкраплений, выглядит для ИИ-детекторов как признак искусственности.

Параллельно вокруг этой практики уже формируется отдельный рынок. Одни сервисы предлагают написать академический текст за студента, другие — "очеловечить" сгенерированный ИИ-чат-ботом материал, изменить его стиль и структуру или сделать так, чтобы его было сложнее выявить с помощью ИИ-детекторов. Другими словами, популярность ИИ в образовании привела к возникновению целой инфраструктуры, которая не только помогает выполнять работу с помощью ИИ, но позволяет скрыть сам факт его использования.

Не ловить на списывании, а разговаривать

Все эти проблемы требуют более сложных решений, чем просто поиск инструментов детекции "следов" ИИ. Один из самых распространенных ответов на этот тупик — устная защита письменной работы: ученик пишет текст дома, а затем объясняет учителю или комиссии ход мыслей и полученные результаты. Идея привлекательна тем, что обходит проблему детекции: учителю не нужно угадывать, кто писал текст. Преподавателю достаточно задать несколько вопросов и будет видно, понимает ли ученик или студент написанное.

Эта идея действительно не нова и активно используется университетами при защите бакалаврской или магистерской степеней. Сейчас этот механизм пробуют перенести на обыденные школьные задачки.

Самой активной во внедрении таких методов стала Дания. С нового учебного года все письменные работы, выполняемые дома датскими старшеклассниками, будут защищаться устно. Именно об этом недавно объявило Министерство образования, прямо назвав причину: в старших классах возникла проблема с списыванием с помощью ИИ, и разбираться с ней нужно уже сейчас.

Новое требование касается, прежде всего, SSO — большой письменной работы, которую ежегодно выполняют около 9 тысяч датских старшеклассников как часть выпускной программы. Сдать текст теперь — только половина дела. К письменной работе прилагается обязательная устная защита: учащийся защищает работу перед учителем и демонстрирует, что понимает ее содержание. Точный формат защиты и другие процедурные моменты еще согласовываются.

Параллельно школы обязали установить мониторинг экранов во время письменных экзаменов и файерволы, ограничивающие доступ к интернету во время экзаменов. Министерство также рекомендует возвращать больше письменных заданий в класс — под наблюдение, а не домой.

Важно, что Дания не запрещает ИИ в образовании в целом. Еще в прошлом году несколько школ пытались наоборот — разрешать учащимся пользоваться генеративным ИИ во время подготовки к устному экзамену по английскому, а затем требовали устной презентации результата. Однако финальные работы и устная защита, по мнению чиновников образования Дании, должны нивелировать негативное влияние ИИ на результат обучения.

Или просто запретить

Впрочем, не все образовательные системы пытаются договориться с ИИ. Некоторые возвращаются к самому простому решению — ограничить его использование. К примеру, на днях стало известно, что в Нью-Йорке с нового учебного года вводят мораторий на использование генеративного ИИ. Важно: этот запрет будет действовать только для младших школьников — учащихся от дошкольного возраста до восьмого класса. В этом случае речь идет не столько о списывании. Городская школьная система аргументирует это ограничение необходимостью сохранить время для чтения, письма, решения сложных задач и живого общения с учителями и одноклассниками.

Вместе с ИИ Нью-Йорк пытается сократить и общее экранное время в школе. Для учащихся младших классов рекомендовано ограничение до 30 минут в день, для учащихся 6-8 классов — до 45 минут. То есть, дискуссия возвращается в сторону обсуждения того, сколько технологий вообще должно быть в обучении ребенка, которое по сути является продолжением дискуссий о доступности для детей других онлайн-сервисов, в частности соцсетей.

Вопрос, который остается главным

За всеми этими попытками обуздать образовательный ИИ скрывается другой вопрос, который может быть важнее самой идеи выявления списывания. Его суть кратко можно сформулировать так: "Какие навыки образование пытается проверять, когда машина может написать грамотный текст или ответить на тест?" Долгое время письменный текст был удобным и почти универсальным способом проверки мышления: если ученик мог четко изложить мысль на бумаге, считалось, что он ее действительно имеет. ИИ разорвал эту связь — теперь грамотный текст сам по себе ничего не гарантирует: ни знаний, ни способности ученика мыслить.

Все больше образовательных систем пытаются делать ставку на понимание, умение устно объяснить собственное мнение и способности отвечать на уточняющие вопросы. Пока что нейросети не могут подменить ученика в реальном времени перед живым человеком.

В то же время, образование сейчас пытается ответить на более важный вопрос: не только что проверять, а чему вообще учить в мире, где почти любой ответ можно получить за несколько запросов к ИИ. Если информация, написание текста, перевод или решение сложной задачи все меньше нуждаются в усилиях человека, то ценность образования все больше смещается от запоминания ответов к умению задавать правильные вопросы, оценивать полученное, мыслить критически и самостоятельно принимать решения. Именно этот переход — от обучения "знать ответы" к обучению "понимать, что с ними делать" — может стать главным вызовом для образования ближайших лет.