3

Ответ на пост «Российский ИИ-чип для роботов и умных систем создали в Москве»

Вы осетра то урежьте…

  • NVIDIA RTX A6000 (48 ГБ): В режиме тензорных вычислений TF32 дает около 38,7 TFLOPS. Стоимость её более 500 000 руб.

  • При запуске модели на 7B параметров показывает скорость примерно 50 токенов/сек, где 1 токен равен примерно 4 английским словам или 1 слову на русском. О каких «одновременно запускать до пяти нейросетей» идет речь?

  • «с задержкой 1,5–2,3 миллисекунды» - опять аналогвнет? Задержка первого токена (TTFT): Для модели Llama-2-7B на A6000 на запросе в 1024 токена составляет около ~900 мс.

  • Карта имеет потребление порядка 300Вт, у нас же 40. По классике «Число π в военное время может достигать четырёх».

  • Ну и главный вопрос: A6000 клепают по 8нм ТП. Микрон располагает 180нм. Так что из этой новости сделаноунас?

69

Российский ИИ-чип для роботов и умных систем создали в Москве

В Москве разработали первый в России нейросетевой ускоритель для встраиваемых систем на базе отечественного микропроцессора. Устройство создала компания «ХайТэк» — резидент ОЭЗ «Технополис Москва». Оно полностью собрано из российских компонентов и не зависит от иностранных лицензий.


Модуль LinQ HX обрабатывает данные в реальном времени без подключения к интернету или облачным серверам. Производительность — до 30 триллионов операций в секунду. Это позволяет одновременно запускать до пяти нейросетей с задержкой 1,5–2,3 миллисекунды. Устройство поддерживает различные интерфейсы — от датчиков до систем управления, потребляет не более 40 ватт.

В основе ускорителя — российский микрочип для ИИ, который входит в реестр Минпромторга. Компания вложила в разработку около 800 миллионов рублей.

Сейчас устройство не используется в городской инфраструктуре, но в перспективе может применяться в системах видеонаблюдения для автоматического выявления нештатных ситуаций, в автономных роботах, а также в медицинских системах ИИ-диагностики и мониторинга пациентов, рассказали в пресс-службе Правительства Москвы.

Подписывайтесь на Телеграм «Сделано у нас» тут, а на сообщество на Пикабу можно подписаться здесь

Также у нас теперь есть канал в МАХ

Показать полностью 1
Отличная работа, все прочитано!

Темы

Политика

Теги

Популярные авторы

Сообщества

18+

Теги

Популярные авторы

Сообщества

Игры

Теги

Популярные авторы

Сообщества

Юмор

Теги

Популярные авторы

Сообщества

Отношения

Теги

Популярные авторы

Сообщества

Здоровье

Теги

Популярные авторы

Сообщества

Путешествия

Теги

Популярные авторы

Сообщества

Спорт

Теги

Популярные авторы

Сообщества

Хобби

Теги

Популярные авторы

Сообщества

Сервис

Теги

Популярные авторы

Сообщества

Природа

Теги

Популярные авторы

Сообщества

Бизнес

Теги

Популярные авторы

Сообщества

Транспорт

Теги

Популярные авторы

Сообщества

Общение

Теги

Популярные авторы

Сообщества

Юриспруденция

Теги

Популярные авторы

Сообщества

Наука

Теги

Популярные авторы

Сообщества

IT

Теги

Популярные авторы

Сообщества

Животные

Теги

Популярные авторы

Сообщества

Кино и сериалы

Теги

Популярные авторы

Сообщества

Экономика

Теги

Популярные авторы

Сообщества

Кулинария

Теги

Популярные авторы

Сообщества

История

Теги

Популярные авторы

Сообщества

Недвижимость и ремонт

Теги

Популярные авторы

Сообщества