Дипломные работы студентов с ИИ и отсутствие критического мышления Вячеслав Лаук-Дубицкий

Вячеслав Лаук-Дубицкий Продюсер разработчик компьютерных игр. Интенсив ГорИИзонты: эволюция медиа организатор Мастерская новых медиа. Одной из ключевых проблем становится чрезмерное доверие к результатам которые генерируют нейросети.
Особенно заметно это проявляется в образовательной среде: студенты нередко воспринимают ответ искусственного интеллекта как заведомо правильный и не пытаются самостоятельно проверить полученную информацию. На примере проверки дипломных работ показано что многие студенты не анализируют даже уникальность названия собственной темы программы или игры.
При дополнительной проверке выясняется что формулировки и идеи уже существуют в интернете или практически полностью совпадают с готовыми материалами.
При этом студент может быть уверен что нейросеть предложила ему оригинальную и сильную идею. Проблема заключается не только в использовании ИИ а в отказе от критического мышления.
Раньше базовым требованием считалась элементарная проверка: существует ли такая идея не является ли она заимствованной насколько самостоятельно выполнена работа.
Теперь часть пользователей воспринимает положительную оценку нейросети как достаточное подтверждение качества и оригинальности результата. В образовательной сфере это приводит к расхождению между ожиданиями студента и реальной оценкой работы.
Нейросеть может убедить человека что его решение оригинально и заслуживает высокой оценки тогда как проверка показывает обратное.
В результате итоговая оценка снижается не из-за самого факта использования ИИ а из-за отсутствия самостоятельной проверки и осмысления его ответа. Отдельное направление связано с распространением искусственного интеллекта в сфере мультимедиа.
Уже в ближайшей перспективе системы на основе ИИ планируется использовать для оценки фильмов сценариев игр и другого контента.
Такая оценка может стать значимой при принятии решений о финансировании проектов. Ожидается что несколько независимых компаний будут разрабатывать системы оценки медиаконтента.
Это означает что искусственный интеллект постепенно становится не только инструментом создания произведений но и механизмом влияющим на то какие проекты получат поддержку и доступ к финансированию. Возможное преимущество такой системы предварительный отбор большого количества контента.
С её помощью можно выявлять проекты которые не соответствуют установленным требованиям или обладают низким художественным и содержательным качеством.
Это потенциально может сократить количество слабых фильмов игр и сценариев которые получают ресурсы на производство. Однако автоматизированная оценка создаёт серьёзные риски.
Одна из рассматриваемых систем использует специализированную версию нейросети обученную на словаре духовно-нравственных ценностей и большом количестве критериев.
При наличии сотен параметров итоговая оценка может выглядеть объективной и научно обоснованной хотя на практике возникает возможность по-разному трактовать эти критерии. Чем больше критериев используется в оценочной модели тем выше риск непрозрачности.
Одну и ту же идею можно представить как соответствующую требованиям или наоборот как противоречащую им в зависимости от того каким образом сформулированы параметры и как настроена система.
Поэтому большое количество критериев само по себе не гарантирует справедливость и точность оценки. Искусственный интеллект нельзя воспринимать как безусловный источник истины.
Его результаты требуют проверки особенно когда речь идёт об образовании авторстве оригинальности и распределении финансовых ресурсов.
ИИ может быть полезным инструментом анализа но окончательные решения должны учитывать человеческую экспертизу контекст и возможность ошибок самой системы.

Источник: rutube.ru