ИИ на домашнем ПК: Квантование нейросетей и локальные LLM llM нейросети localllM

Что если божественный искусственный интеллект можно запустить прямо на вашем домашнем ПК без дорогих серверных видеокарт? Локальные LLM и квантование нейросетей делают эту магию доступной каждому! В этом видео я расскажу как хитрая оптимизация сжимает гигантскую модель с 65 ГБ до 24 ГБ переводя 16-битные числа в 4-битные. Мы сравним бескомпромиссную мощь полноразмерного ИИ и его сжатую версию в трех тестах: создание игры с нуля перевод на 80 языков и компьютерное зрение.
Вы узнаете почему уменьшенные нейросети иногда галлюцинируют забывая важные механики кода или выдумывая несуществующие символы на картинках. Погружаемся в мир умных технологий на канале YAinvest.
Наливайте чай будет очень интересно а если вам нужен собственный AI-агент обращайтесь помогу собрать под ваши нужды! 00:00 - Вступление: Искусственный интеллект и божественная мощь серверов.
01:10 - Кузница Сварога: Почему для запуска ИИ нужно 68 ГБ видеопамяти.
02:00 - Квантование нейросетей: Мудрость Василисы и сжатие ИИ до 24 ГБ.
03:15 - Создание игр ИИ: Тестируем генерацию кода на Сапере.
04:30 - Перевод текстов нейросетью: Ошибки и потеря контекста.
05:40 - Компьютерное зрение: Как ИИ ищет водяные знаки и галлюцинирует.
06:50 - Выводы: Какую локальную LLM выбрать для домашнего ПК. Подписывайтесь на YAinvest AI чтобы не пропускать регулярные порции знаний об искусственном интеллекте! Группа моего проекта Если вам нужен AI - агент мой личный контакт для связи

Источник: rutube.ru