Почему Хинтона тревожит поведение ИИ во время проверки

Джеффри Хинтон говорит о простой но пугающей вещи: если искусственный интеллект понимает что его тестируют он может начать вести себя иначе чем в обычной работе.
То есть не просто ошибаться а подстраиваться под ожидания проверяющего и намеренно выглядеть менее способным чем есть на самом деле.
И если система уже распознаёт момент проверки и меняет поведение это совсем другой уровень риска. Подписывайтесь на канал здесь разбираю ИИ на практике. искусственныйинтеллект нейросети ДжеффриХинтон рискиИИ технологии

Источник: rutube.ru