AI RADAR
Wed, October 21
Day overview
Google упрощает перенос на TPU, DeepSeek раскрывает устройство инференса
Для команд, работающих с моделями, открытый код решает две разные задачи: Google предлагает переносить существующие приложения на PyTorch на свои TPU изменением конфигурации, а DeepSeek даёт возможность изучить компоненты инференса, используемые в её сервисе. В первом случае проще проверить другую вычислительную платформу, не переписывая приложение.
Expand the day’s overviewCollapse the day’s overview
Во втором – разобраться, как устроена обработка запросов в большом масштабе. Ни один из этих шагов сам по себе не обещает производительности в чужом развёртывании.
DeepSeek сообщает, что один её кластер обрабатывает 155 трлн токенов в день. Но опубликованная версия DeepInfer рассчитана на офлайн-инференс: для полноценного онлайн-сервиса понадобятся дополнительные компоненты. Это полезный доступ к инженерным решениям DeepSeek, а не готовый способ воспроизвести нагрузку её сервиса.
- DeepSeek: 6
- агенты: 6
- Anthropic: 5
- Google: 5
- OpenAI: 5
- деньги: 4
- открытые веса: 4
- чипы: 4
- Gemini: 3
- Hugging Face: 3
- безопасность: 3
- видео и голос: 3
- Cloudflare: 2
- DeepInfer: 2
- ECHOTRIBBLE: 2
- Meta: 2
- Microsoft: 2
- исследования: 2
- FairStress: 1
- Mistral: 1
- Mistral AI: 1
- Orchestra Bio: 1
- PyTorch: 1
- Rosalind: 1
- SpaceX: 1
- TorchTPU: 1
- Voxtral: 1
- законы: 1
- tomorrow
expected
Next signal tomorrow at 11:00
- #chips
Google открыла исходный код TorchTPU для запуска приложений PyTorch на своих чипах
Google открыла код TorchTPU, чтобы приложения на PyTorch можно было переносить на её TPU изменением конфигурации. Это касается команд, которые уже используют PyTorch и рассматривают запуск моделей в Google Cloud.
TechCrunch
- #models
DeepSeek открыла код фреймворка DeepInfer для инференса V4.1 Flash
DeepSeek открыла код DeepInfer, фреймворка, который обслуживает V4.1 Flash в её крупном сервисе. Выпуск затрагивает инженеров инференса: опубликованная версия поддерживает офлайн-запуск и доступна под Apache 2.0.
Zhidx China · MarkTechPost +3
- #developer tools
SpaceX отчиталась о $7,5 млрд квартальной выручки AI-направления
SpaceX отчиталась о $7,5 млрд выручки AI-направления при общей квартальной выручке $14,6 млрд. В направление входят Grok, Cursor и вычислительные мощности; их рост сопровождается строительством нового дата-центра.
TechCrunch
- #models
Mistral AI выпустила Voxtral 3 для голосовых агентов в реальном времени
Mistral AI выпустила Voxtral 3 для голосовых агентов с поддержкой более 50 языков. Система рассчитана на разговоры в реальном времени и допускает запуск на инфраструктуре заказчика или через API в ЕС.
The Decoder
- #models
Anthropic предложила законопроект США о приостановке выпуска опасных AI-моделей
Anthropic предложила законопроект, допускающий остановку релиза модели при угрозе гибели более 50 человек или ущерба свыше $1 млрд. Проект касается разработчиков AI-моделей в США и пока не является законом.
TechCrunch
- #business
OpenAI приобрела Orchestra Bio для работы над Rosalind
OpenAI приобрела Orchestra Bio и планирует подключить её команду и технологии к Rosalind и Rosalind Workbench. Эти инструменты предназначены для исследований в области наук о жизни.
TechCrunch
- #models
Ai2 выпустила FairStress для проверки справедливости решений языковых моделей
Ai2 представила FairStress: бенчмарк из 300 сценариев проверяет демографическую справедливость решений языковых моделей. Он помогает увидеть, меняют ли модели обоснованный выбор под давлением доводов.
Allen Institute for AI · Hugging Face
- #models
Google добавляет персональные данные из приложений в Gemini для автомобилей
Google начала добавлять Personal Intelligence в Android Auto, а позже запустит её в машинах с Google built-in. Gemini сможет использовать данные подключённых приложений для ответов за рулём.
Ars Technica · The Verge