Студент РГГУ рассказал в твиттере, что написал дипломную работу с помощью чат-бота ChatGPT. После этого РГГУ предложил ограничить доступ к ChatGPT в образовательных организациях «из-за его возможного негативного влияния на обучение». При этом диплом решили не аннулировать.
Вот, как отреагировали ученые, журналисты и глава Минобра на такую научную работу.
Ни у меня, ни у вуза нет намерений навредить. Здесь больше вопрос к системе образования — нужно продумывать алгоритм того, как относиться к нейросетям.
То, что происходит сейчас, могло быть в начале нулевых, когда кто-то начал использовать интернет, а не литературу для написания дипломов, и был придуман Антиплагиат. Запретили интернет? Нет. Нужно не запрещать, а думать как с этим работать.
Возникшая ситуация актуализировала необходимость оперативного решения задач, связанных с разработкой инструментов распознавания использования нейросетей при подготовке письменных работ (курсовые работы, эссе, рефераты, ВКР), а также увеличение количества оригинальных индивидуальных заданий, кейсов, расчетов, которые обучающиеся могут выполнить только самостоятельно. Из-за опасений по поводу негативного воздействия на обучение, а также опасений по поводу безопасности и точности генерируемого системой контента, может быть целесообразно ограничить доступ к ChatGPT в образовательных организациях.
Если десятилетия назад главной проблемой для вузов был плагиат и недобросовестные заимствования, и эта проблема была успешно решена, то сейчас образовательное сообщество оказалось перед лицом нового вызова, связанного с применением нейронных сетей и искусственного интеллекта в научной и образовательной деятельности. Российские и зарубежные эксперты высказывают опасения по поводу возникшей проблемы, и найти достойный выход — главная задача научного сообщества.
Во-первых, довольно странно называть нейросеть, использующую большие данные, т. е. по-настоящему огромные массивы вербальной информации, в том числе энциклопедического и специального характера, искусственным интеллектом. Все-таки предполагается, что отличительной особенностью интеллекта является способность к творчеству, к созданию новых идей. Работа чат-бота в данный момент вообще принципиально не отличается от электронных переводчиков, которые используются повсеместно. Как электронные переводчики создают перевод, опираясь на очень большие словари, так и чат-бот создает имитацию текста, опираясь на большой корпус вербальной информации.
Во-вторых, ссылка на процент оригинальности текста, т. е. результаты проверки «Антиплагиатом», в данном контексте тоже вызывает недоумение. То, что чат-бот имитирует оригинальный текст, опираясь на огромный массив данных, дает возможность избегать обвинений в некачественном и/или неуместном цитировании, что и проверяют алгоритмы «Антиплагиата». Более того, механизмы проверки «Антиплагиата» также не безупречны, что хорошо видно на массиве дипломных работ на разные темы гуманитарной направленности. Безусловно, прецедент использования чат-бота показывает, что и сами механизмы проверки «Антиплагиата» нуждаются в совершенствовании.
Переходя же к сути вопроса, необходимо отметить, что не стоит преувеличивать важность и опасность данного прецедента. Так, известно о явлении «купленных» работ, что, конечно, роняет общий уровень научного исследования и профанирует выполнение квалификационных требований, однако воспринимается как неизбежное зло. Прецедент с чат-ботом является просто еще одной гранью проблемы недобросовестных исследований.
Однако хотелось бы обратить внимание так же и на то обстоятельство, что об истории написания диплома при помощи чат-бота стало известно от самого автора работы. С поправкой на род деятельности автора (он является блогером) вызывает сомнение стопроцентная правдивость рассказанной им версии событий. Кажется вполне вероятным, что ради публичной огласки и популярности в среде своих подписчиков автор мог несколько преувеличить участие чат-бота в работе.
Что же касается мер противодействия использованию нейронных сетей в студенческих работах, то помимо указанной выше необходимости доработать и, возможно, даже отчасти изменить алгоритмы работы системы «Антиплагиат», представляется полезным подумать об изменении формата выпускной квалификационной работы студента. Возможно, усиление не реферативного, а творческого, прикладного аспекта этой работы помогло бы снова показать ту грань, которая есть между нейросетью и имитацией сознания и творчества, с одной стороны, и живым человеком-создателем с другой.
Возможные меры противодействия Российский государственный гуманитарный университет планирует обсудить на круглом столе в ближайшую пятницу, 17-го февраля, с привлечением всех вовлеченных неравнодушных лиц: представителей академического сообщества — как гуманитарной, так и технической его части, ведь проблема действительно оказывается на стыке гуманитарного и технического знания — в том числе и специалистов в области искусственного интеллекта и нейросетей, журналистов, а также преподавателей высшей школы и студенческого сообщества.
Для того, чтобы студенты не писали дипломы при помощи нейросети, надо просто отменить эту формалистскую и тупую практику вообще писать дипломы. Умение написать диплом не имеет ровно никакого отношения к готовности человека работать по специальности, к объему и качеству полученных знаний, и вообще это филькина грамота, которой прикрывают неспособность действительно проверить знания и навыки объективным и честным способом.
Я писала диплом и в американской школе, и в российском вузе. Там и там — на отлично. И ответственно заявляю — способность его написать не может являться даже косвенным показателем успешности завершения многолетнего обучения.
Ретроградство и пыль в глаза все эти дипломы, так же, как и все эти кандидатские, больше ничего.
Во-первых, конечно, у меня есть вопросы к комиссии, которая сама решила что диплом написанный нейросетью вообще может пойти на защиту. Видимо так там фильтруют качество экзаменационных работ.
Во-вторых, накладывать санкции на людей за использование GPT и нейросетей в гуманитарных науках — это как лишать инженеров дипломов за использование САПР и калькуляторов при подготовке базовых материалов. Потому что роль ИИ на рынке реального труда в обработке огромного количества информации будет только набирать обороты. И уже совсем скоро это в любом случае войдет в обиход. Это бесполезно блокировать. Даже сейчас для гуманитарного спеца это уже навык, который идёт в существенный плюс, если указан в резюме.
К тому же, ведь там студент не тупо сдал бессмысленный текст. Он же эту работу очень сильно обработал, структурировал и переписал. То есть (с его слов) в данном случае он воспользовался ChatGPT, как инструментом! В инициативном порядке, впервые в стране! Это же отличный повод не ремень достать, а похвалить человека за то, что он оглядывается по сторонам и планирует будущее!
Про предложение госпожи Симоньян отменить дипломы вообще могу сказать следующее: всей профессиональной среде в любой точке кризиса, особенно такого экзистенциального (привет, рерайтеры!) как нейросети, надо всё-таки держать себя в узде. Думать на перспективу и делать далекоидущие выводы, без мимолетного хайпа.
Конечно, отменять все дипломы немного неправильно. Важно вообще понять, что такое «дипломная работа» в практике системы высшего образования. Это не «Диплом», как некий напечатанный на листочках А4 объект или субъект. Это просто зонтичный термин для отчетной работы. Отчётная работа может быть в виде чего угодно — от чертежа гаража до полноценного подкаста или Ютуб-канала с мемами — если студент грамотно подведет под это теоретическую базу и докажет важность метрик для конкретного поля деятельности.
В сети уже звучат призывы запретить это исчадие ада — нейросетку. Но кажется, такое уже где-то было, кхм-кхм! Точно, это же было, когда компьютер впервые обыграл чемпиона мира по шахматам!
С тех пор человек не может обыграть компьютер и использует его для тренировок. А вот такие прецеденты — это повод еще раз задуматься над тем, как нужно поменять классическое образование, когда многое можно автоматизировать. И когда средней руки специалисты легко заменяются нейросетками.
Ситуация с нейросетью доказала, что в России есть серьезные проблемы с выпускными работами.
Ужесточение требований по «Антиплагиату» не дает серьезных результатов — как мы видим, систему можно обойти.
Нейросеть не может сама написать хорошую работу, поэтому важно смотреть на содержание работы, а не на цифры «Антиплагиата».
Да, я считаю, что такую работу университет должен аннулировать — потому что в любых правилах написания работы сказано, что работа должна быть написана лично.
Копирование из бота — это все равно, что копирование из учебника, не вижу тут особой разницы. Бот не создает нового знания, а просто удобно компилирует то, что есть в интернете.
Если бы мы нашли такую диссертацию, мы бы в «Диссернете» посмеялись, и при наличии достаточных доказательств, что работа написана ботом, вывесили бы на сайте. Но пока что мы не умеем такие работы отслеживать, тем более в автоматическом режиме.
Никаких, я считаю, негативных последствий для студента быть не должно. Он просто проверил систему на прочность, на мой взгляд. Это первый момент. А второй очень важный момент: вот такого рода ситуации, случающиеся внезапно, — хотя вроде бы об искусственном интеллекте, о нейросети и о ее возможностях известно давно, показывают, что университетам надо перестраиваться. Как минимум, наталкивает на мысль, что надо менять подход к заданиям.
Студент показал свой навык умения работы с новыми технологиями, принцип правильного построения задач. Фактически его багаж знаний на основе одной работы проверен не был. Это означает лишь одно — изменившиеся условия современного мира требуют модернизации традиционных форм аттестации специалиста. В частности, их большей практикоориентированности, моделирования ситуаций планируемой профессиональной деятельности, в которых будущий специалист должен будет продемонстрировать свои компетенции «здесь и сейчас» в режиме реального времени.
Это ИИ-решение заслуживает пристального внимания, однако оно не несет критической угрозы конструктам современного образовательного процесса и не требует кардинальных мер в виде запретов и значительных ограничений. При этом сейчас можно предпринять ряд шагов, чтобы вновь появившийся инструмент мог принести пользу образовательному процессу.
Во-первых, необходимо признать существование данного инструмента и тот факт, что запретить его невозможно, поскольку проследить его использование студентом достаточно проблематично.
Во-вторых, ChatGPT — вполне логичный этап развития технологии ИИ, и мы можем ожидать, что данные технологии и далее будут развиваться в различных сферах. Вполне закономерно, что теперь ИИ влияет на образование. Верится, что технологии ИИ тоже могут помочь сделать обучение качественнее.
В связи с этим необходимо изучить функциональные возможности данного инструмента и определить, каким образом он может быть использован в образовательном процессе. Например, СhatGPT сможет взять на себя некоторые рутинные задачи как студентов, так и преподавателей. Это позволит уделить время обучению уникальным навыкам, творческому подходу, нестандартному видению проблемы.
Это далеко не первый пример того, как развитие современных технологий бросает вызов системе образования. Нам кажется принципиально важным рассматривать это именно как вызов, а не как опасность. И важно не пытаться закрыться от подобных процессов — это по определению невозможно. Нам нужно научиться работать в этих новых условиях.
В свое время, наряду с повсеместным активным использованием сети Интернет, остро стал вопрос о правомерности заимствований информации. Был дан вполне разумный ответ на этот вызов — появилась система «Анитиплагиат». Со множеством оговорок и при грамотном применении возможностей этой системы мы вполне могли оценить степень оригинальности текста и адекватность использования тех или иных внешних источников информации для подготовки выпускной/дипломной/научной работы.
В данном примере про чат-бот ChatGPT речь идет о том, что прежние методы и подходы к оценке знаний и навыков студента оказываются не вполне показательными. Раньше мы могли судить о квалификации выпускника путем оценки его выпускной работы: способность грамотно сформулировать задачу, провести анализ проблематики, подобрать необходимые источники информации, сделать содержательные выводы и предложения. Сейчас необходимо предложить альтернативный способ проверки этих знаний и навыков. И тут вариантов множество: разбор конкретных уникальных кейсов, экзамен/опрос в режиме свободной беседы с экзаменатором по заданной проблематике и т. д.
В России обсуждают запрет нейросетей для студентов. Точно так же 200 лет назад в Европе рабочие громили фабрики — боялись, что машины оставят их без заработка. За 40 лет до полёта Гагарина американская пресса смеялась над мыслью о том, что реактивную ракету можно запустить в космос.
Цена таких запретов — технологическая отсталость страны. С подготовкой айтишников мы уже опаздываем, и сегодня стране не хватает миллиона IT-специалистов. Пора пересмотреть подход к образованию, чтобы перестать плестись в хвосте технологических изменений.
Грядёт новая промышленная революция. Через 20 лет каждое второе рабочее место будет автоматизировано. На каждую исчезающую профессию появятся две новых. Готовиться к этому нужно уже сегодня.
Призываем Министерство труда и Министерство науки и высшего образования к широкому обсуждению, чему и как учить людей, чтобы современные технологии становились их помощниками, а не конкурентами.
Россия — страна, создающая новые технологии, а не боящаяся их.
