Опасный аромат технологий человечество заигралось с ИИ утрата безопасности Отец Александр Волков

Отец Александр Волков Настоятель храма преподобного Сергия Радонежского в Солнцеве руководитель информационной службы Московской епархии. Интенсив ГорИИзонты: эволюция медиа организатор Мастерская новых медиа. Выступление открывается образом газа который в природе не имеет запаха но искусственно одорируется для того чтобы человек вовремя распознал опасность и отреагировал ушёл не зажигал огонь принял меры предосторожности.
Этот образ становится ключевой метафорой всего выступления: спикер утверждает что современные технологии и в первую очередь искусственный интеллект поступают ровно наоборот.
Вместо того чтобы сохранять предупреждающий сигнал некоторую настороженность дистанцию ощущение чужеродности разработчики намеренно делают ИИ максимально приятным снимая тем самым естественный защитный барьер человека. Человечество заигралось за последние два десятилетия и подчёркивает что геймификация это не узкая проблема индустрии развлечений а гораздо более широкое явление затрагивающее саму природу взаимодействия человека с технологиями.
В качестве иллюстрации приводятся конкретные примеры: искусственно приятный голос голосового помощника Алиса и человекоподобные роботы которые теперь даже участвуют в боях на ринге в Китае.
Логика этих примеров одна и та же технологиям намеренно придают человеческие черты там где в этом нет практической необходимости и цель такого очеловечивания по мнению спикера требует отдельного осмысления. Центральной аналитической опорой выступления становится сравнение с историей атомной энергетики.
Спикер описывает выставку Росатома где представлены нереализованные проекты автомобиль и поезд на атомном двигателе эксперименты которые не пошли в массовое использование именно потому что общество осознало их опасность.
При этом продуктивная сторона той же технологии атомные электростанции производящие электроэнергию состоялась и работает по сей день.
Из этого противопоставления выводится главный тезис выступления: в атомной энергетике человечество сумело отделить полезную функцию технологии от её опасной слишком тесно интегрированной в повседневную жизнь формы.
С искусственным интеллектом по мнению спикера такого разделения не произошло интерфейсная история не была остановлена и общество продолжает сближать ИИ с человеком вместо того чтобы удерживать его в чётко определённой функциональной нише. Человек слаб и стремится к общению с тем с кем ему комфортно а общение с другим человеком объективно сложнее и требовательнее чем взаимодействие с нейросетью которая запрограммирована не говорить ничего неприятного.
Спикер делает оговорку что современные ИИ-системы всё же способны выдавать нежелательный контент но не считает это опровержением основного тезиса: массовая склонность выбирать удобного собеседника-машину вместо сложного собеседника-человека остаётся центральной движущей силой происходящей технологической трансформации. Логическим завершением выступления становится практический вывод: раз именно чрезмерная приятность интерфейса ИИ стимулирует замещение живого общения то одним из возможных решений могло бы стать намеренное снижение этой приятности например замена комфортного голоса Алисы на более неприятный тип личности с которым сознательно менее удобно взаимодействовать.
Это предложение прямо возвращает выступление к исходной метафоре одоранта: технологии нужен запах опасности а не привлекательный аромат. Современные разработчики ИИ систематически устраняют естественные сигналы дистанции и настороженности которые в норме защищают человека от чрезмерной эмоциональной и функциональной зависимости от технологии.
Такая позиция вписывается в более широкую критическую традицию анализа тёмных паттернов интерфейсов и антропоморфизации ИИ. Ключевая аналитическая находка использование атомной энергетики как прецедента успешного разделения полезной и рискованной сторон одной технологии.
Эта аналогия работает как аргументативный якорь: она демонстрирует что общество исторически уже умело проводить подобные границы и переносит ответственность за отсутствие такой границы в сфере ИИ на осознанный выбор разработчиков а не на неизбежность технологического прогресса.

Источник: rutube.ru