ИИ в кармане: Тернарные нейросети 1.58 бит меняют всё llM нейросети localllM обзорнейросетей

Что если мощный искусственный интеллект поселится прямо в смартфоне? Локальные LLM и тернарные модели 1.58 бит меняют всё! Забудьте про гигантские дата-центры теперь быстрый ИИ работает на вашей ладони. В этом видео разберем как тернарные веса магия трех состояний помогают запускать AI-агентов на чипах Apple Silicon.
Вы узнаете как мудрая оптимизация кэша снимает ограничения железа и позволяет выдавать 27 токенов в секунду на обычном iPhone 17 Pro Max. Погружаемся в мир приватного ИИ на канале YAinvest AI.
Наливайте чай будет интересно а если вам нужен собственный AI-агент обращайтесь помогу собрать под ваши нужды! 00:00 - Вступление: Эра гигантских языковых моделей в облаке.
01:10 - Тернарные модели 1.58 бит: Как работает магия богини Макоши.
02:30 - Проблема памяти ИИ: Почему старое железо тормозит нейросети.
03:45 - Оптимизация под Apple Silicon: Снятие проклятия Мараны.
04:50 - Скорость ИИ на телефоне: 27 токенов в секунду на iPhone.
05:40 - Локальные AI агенты: Приватный искусственный интеллект будущего. Подписывайтесь на YAinvest AI чтобы не пропускать регулярные порции знаний об искусственном интеллекте! Группа моего проекта Если вам нужен AI - агент мой личный контакт для связи

Источник: rutube.ru