Цифровая колонизация и утрата исторической памяти: анализ зависимости от зарубежных LLM - Андрей Эли

Андрей Эли директор по информационной безопасности HoffTech. Интенсив ГорИИзонты: эволюция медиа организатор Мастерская новых медиа. Поверхностный характер импортозамещения В выступлении поднимается проблема декларативного импортозамещения когда зарубежные технологические решения получают российское наименование российский шильдик без глубокой переработки архитектуры.
Это приводит к сохранению фундаментальной зависимости от западных моделей что проявляется даже в базовых функциях: например при генерации изображений или переводе запросов которые сначала проходят через английский язык искажая смысл и контекст пример с стеклянным стаканом превращающимся в стеклянное окно. Когнитивные искажения и цифровая цензура Отмечается критическая проблема заложенных в модели этических и политических фильтров.
Автор приводит пример избирательной цензуры: модель отказывается генерировать образы связанные с российской историей красногвардейцы чтобы избежать ошибок в их изображении при этом демонстрируя иную степень лояльности к другим историческим объектам.
Это свидетельствует о том что российские ИИ-продукты зачастую базируются на зарубежных весах и правилах модерации которые не учитывают национальный контекст и ценности. Угроза культурной идентичности и исторической памяти Особое внимание уделяется влиянию западных моделей на профессиональную среду дизайнеров архитекторов.
Существует риск размывания визуальных кодов национальной истории: когда специалисты обучаются или работают с ИИ-инструментами настроенными по западным лекалам создаваемые ими объекты например памятники теряют свою аутентичность и становятся безликими.
Это трактуется как форма утраты исторической памяти через технологический инструментарий. Разрыв между законодательными инициативами и техническими возможностями Критикуется темп принятия профильного законодательства об искусственном интеллекте прохождение трех чтений за 10 дней без публичных обсуждений.
Автор указывает на парадокс: закон требует полной национализации систем и использования исключительно российских решений однако реальный технологический уровень отрасли таково что достижение полной автономности может занять еще около десяти лет. Выводы Технологическая зависимость как культурный риск: Использование зарубежных базовых моделей в качестве фундамента для российских ИИ ведет не только к технической уязвимости но и к навязыванию чуждого менталитета и ценностных установок через алгоритмы генерации контента. Необходимость создания собственных архитектур: Для обеспечения истинного суверенитета недостаточно перекрасить существующие решения требуется разработка моделей обученных на национальных массивах данных с учетом специфики русского языка и культурного кода. Критический разрыв в государственном регулировании: Существует опасный диссонанс между жесткими требованиями закона о национализации ИИ и фактическим состоянием индустрии.
Попытки форсировать переход на отечественное ПО без наличия полноценных коммерческих аналогов могут привести к технологическому регрессу или созданию неэффективных суррогатных продуктов. Проблема верификации смыслов: ИИ сегодня выступает как инструмент формирования визуальной и текстовой среды.
Без контроля над тем какие данные закладываются в основу обучения страна рискует получить поколение специалистов чье восприятие истории и культуры будет опосредовано алгоритмами зарубежных корпораций.

Источник: rutube.ru