AI Radar

Разработчик запустил языковую модель на 28,9 млн параметров на микроконтроллере ESP32-S3

Разработчик slvDev запустил локально на ESP32-S3 языковую модель с 28,9 млн параметров. Для этого он использовал 4-битную квантизацию и подход Per-Layer Embeddings из Gemma.

27 июля 2026 г.1 мин чтенияИсточник: Tom's Hardware

модели чипыоткрытые модели

Модель занимает 14,9 МБ, а таблица эмбеддингов примерно на 25 млн параметров хранится во flash-памяти объёмом 16 МБ. Быстрая память микроконтроллера остаётся доступной для вычислительного ядра модели.

Демонстрационная модель обучена на TinyStories и способна генерировать только короткие простые художественные тексты. Работа не предназначена для чат-ботов или программирования, но показывает возможность запуска узкоспециализированных нейросетей на дешёвом автономном оборудовании.

Почему это важно

Почему важно: проект демонстрирует, как архитектурные приёмы и размещение весов в памяти расширяют границы локального инференса на микроконтроллерах. Это полезный ориентир для edge- и embedded-команд, работающих с узкими офлайн-задачами.

Первоисточники и подтверждения

AI developer runs 28.9-million-parameter model on $10 ESP32-S3 microcontroller — uses Google's Per-Layer Embeddings technique, stores table on 16MB Flash memoryОткроется в новой вкладке

Подборку проверяет редакция DSML. AI помогает дедуплицировать сигналы и готовить текст, но опубликованный выпуск остаётся редакционным продуктом, а не лентой отдельных каналов.