alexPec 3 9 ноября, 2023 Опубликовано 9 ноября, 2023 · Жалоба Всем доброго дня. Думаю про AI- акселератор, так, для развития кругозора попробовать. Кто-то знает доступные к покупке и документированные есть сейчас? Интересует производительность порядка 2-3 TOPS на числах int8. Вариант с драйверами линукса (это касательно документации), чтобы потом вытащить оттуда как его запускать, тоже рассматривается. Цитата Поделиться сообщением Ссылка на сообщение Поделиться на другие сайты Поделиться
fguy 4 15 ноября, 2023 Опубликовано 15 ноября, 2023 · Жалоба У xilinx есть ip dpu, ранние версии работали и на 20м цинке (zed board). Сейчас можно начать копать от сих https://xilinx.github.io/Vitis-AI/3.5/html/docs/workflow-system-integration#about-the-dpu-ip Цитата Поделиться сообщением Ссылка на сообщение Поделиться на другие сайты Поделиться
alexPec 3 15 ноября, 2023 Опубликовано 15 ноября, 2023 · Жалоба 20 минут назад, fguy сказал: У xilinx есть ip dpu, ранние версии работали и на 20м цинке (zed board). Сейчас можно начать копать от сих https://xilinx.github.io/Vitis-AI/3.5/html/docs/workflow-system-integration#about-the-dpu-ip Его я уже пробовал. Примерно год-полтора назад. Не понравилось как он вживляется в ПЛИС. Сначала надо свое железо собрать, оставить какие-то интерфейсы под DPU, потом кто-то из среды ставит сам туда DPU (не помню точно). Все это работает только под линуксом, никакого описания как им пользоваться в bare-mеtal нет (а мне надо именно так), плюс многие типы слоев не поддерживаются и при компиляции сети vitis AI ругается и вываливается с ошибкой, что такого слоя сделать не могу. Можно было бы и им пользоваться (сам бы сделал поддержку нужных слоев), но так и не нашел описания потрохов DPU. Если у кого есть описание, каким пользоваться (в смысле внутренних регистров, структуры и т.д.), поделитесь пожалуйста. Цитата Поделиться сообщением Ссылка на сообщение Поделиться на другие сайты Поделиться
fguy 4 15 ноября, 2023 Опубликовано 15 ноября, 2023 · Жалоба 1 час назад, alexPec сказал: Не понравилось как он вживляется в ПЛИС. Сначала надо свое железо собрать, оставить какие-то интерфейсы под DPU, потом кто-то из среды ставит сам туда DPU (не помню точно). Это если через витис сдк, а так же есть ядро для вивадо бд и рефдизайн. Ядро хоть и бесплатное, но зашифровано. Расшифровать не проблема, но коментов там практически нуль, но и обфускация не сделана - т.ч. что то понять по именам можно если систем верилог знаете. Цитата Поделиться сообщением Ссылка на сообщение Поделиться на другие сайты Поделиться
Kuzmi4 0 11 марта Опубликовано 11 марта · Жалоба Здравствуйте, Если для общего развития + интересует CNN accelerator + чтобы не много жрал, есть такое для PolarFire SoC : https://github.com/Microchip-Vectorblox/VectorBlox-SDK Обкатали сейчас V1000 в железе, у них в планах выйти на V4000 - там может и будет TOPs. Если коротко - до DPU от Xilinx ему конечно далеко, но местами интересный и довольно простой интерфейс. Дизайн для V250 на Yolov3 давал 16FPS. Цитата Поделиться сообщением Ссылка на сообщение Поделиться на другие сайты Поделиться
alexPec 3 11 марта Опубликовано 11 марта · Жалоба Интересная информация, спасибо! Но все-таки хочется чего-то на уровне 2-4TOPS для более-менее интересных задач. Что-то вроде Coral от google, и по производительности, и по потреблению хорош для моих задач. Но вот доки на него найти похоже нереально... Цитата Поделиться сообщением Ссылка на сообщение Поделиться на другие сайты Поделиться
Kuzmi4 0 15 марта Опубликовано 15 марта · Жалоба А что конкретно вам там нужно найти ? Судя , например, по вот этому : https://coral.ai/products/m2-accelerator-dual-edgetpu/ Они предоставляют всё нужное для работы.. Цитата Поделиться сообщением Ссылка на сообщение Поделиться на другие сайты Поделиться
alexPec 3 15 марта Опубликовано 15 марта · Жалоба 10 часов назад, Kuzmi4 сказал: Они предоставляют всё нужное для работы.. Спасибо большое, Kuzmi4! Как-то мимо меня это прошло... Когда копался - этого еще не было. Исходники библиотек выложили, кое-какое описание работы утилит и т.д. Есть с чем покопаться. Посмотрим, все ли они открыли в исходниках. Цитата Поделиться сообщением Ссылка на сообщение Поделиться на другие сайты Поделиться
Doka 1 20 марта Опубликовано 20 марта · Жалоба По теме "нейроночки и HW" (HDL & HLS) рекомендую посмотреть вот эту подборку 100+ репо (там есть как оптимизация конкретных блоков так и ускорители целиком): https://github.com/deepware-ai (саму ссылку нашёл тут https://t.me/hw_ml ) Цитата Поделиться сообщением Ссылка на сообщение Поделиться на другие сайты Поделиться
alexPec 3 22 марта Опубликовано 22 марта · Жалоба Спасибо! Интересная подборка. Но это все на HDL, а интересны именно самостоятельные акселераторы, отдельным чипом. У них показатели будут все равно выше ПЛИСовых ускорителей. Цитата Поделиться сообщением Ссылка на сообщение Поделиться на другие сайты Поделиться
Kuzmi4 0 1 апреля Опубликовано 1 апреля · Жалоба Из потенциально интересных могу посоветовать такой: https://hailo.ai/products/ai-accelerators/hailo-8-ai-accelerator/#hailo8-performance https://hailo.ai/files/hailo-8-m-2-et-product-brief-en/ PyTorch и ONNX есть, FPS на "ResNet-50" тысячи (390 FPS/W), и т.д.. Правда у них всё закрыто, нужно регистрироваться, запросы отсылать и всё такое... Цитата Поделиться сообщением Ссылка на сообщение Поделиться на другие сайты Поделиться
alexPec 3 1 апреля Опубликовано 1 апреля · Жалоба 40 минут назад, Kuzmi4 сказал: Из потенциально интересных могу посоветовать такой: Классная штука! Даже на али продают. Покопаюсь, вроде написано на гитхабе есть проект RT софта. Только если нужно слать запросы - тут сразу тупик. Геолокация у меня "не западная" Цитата Поделиться сообщением Ссылка на сообщение Поделиться на другие сайты Поделиться
Kuzmi4 0 1 апреля Опубликовано 1 апреля · Жалоба 41 minutes ago, alexPec said: Геолокация у меня "не западная" .. бывает (С) см. личку Цитата Поделиться сообщением Ссылка на сообщение Поделиться на другие сайты Поделиться
