Jump to content

    

faa

Свой
  • Content Count

    752
  • Joined

  • Last visited

Community Reputation

0 Обычный

1 Follower

About faa

  • Rank
    Знающий
  • Birthday 07/27/1961

Контакты

  • Сайт
    Array
  • ICQ
    Array

Информация

  • Город
    Array

Recent Profile Visitors

4291 profile views
  1. Основное чуть не забыл, мы четыре потока под 5ГБ каждый в одну машину толкать пытаемся ;) 2 в одну ноду, 2 в другую. Если интел - в разные камни. Если EPYC - делим на 4 ноды. С gigabyte все неплохо. Работает, биос полный - есть доступ ко всем параметрам, техподдержка отзывчивая и толковая. Супермикро: Работает плохо. Жлобы, за каждый чих хотят денег. Биос обрезан - параметры далеко не все, подкрутить ничего нельзя. ТП - динамисты и футболисты. Это если коротко. ЗЫ: Всех с наступающим 2022 НГ!
  2. Kintex 7 даже через кабель - вопросов не было, gen2 же. Kintex US через кабель - проблемы были. Поддержка xilinx спросила "хоть где-то работает?". На ответ "да" послали к вендорам хостов ;) Virtex 7 не использовали.
  3. А ПЛИС какие? Платы в слот вставлялись или через кабель 2м и свитч/ретаймер?
  4. А никто и не требовал постоянной пиковой. Нужна была постоянная скорость в ~0.6 от пиковой (с учетом оверхеда и размеров TLP) для Ген3х8. Буфера были. Многоуровневые. Перед коркой PCIe фифо толстое, перед фифо буфер в ddr. Не считая буферов в конвейере. Про архитектуру современных ЦПУ немного в курсе. Но, ИМХО, EPYC поправильнее сделан по сравнению с интел. Скоро еще aarch64 попробуем. Вот тогда и посмотрим "чьи лыжи не едут" ;)
  5. Замирания при записи в системную память по dma. При этом биос был настроен с учетом всех рекомендаций mellanox и прочих HTS/HPC. Операционка тоже настраивалась: изоляция ЦПУ, выключение irq-balance и т.п. Проблема была именно в замирании транзакций по PCIe. На форуме интел я нашел, что народ жаловался на такие же замирания. Какой-то инженегр (по нику не поймешь кто) из интела отписал, что "да, жалуются, поправить можно, какие-то биты в msr, уточню-отпишусь". И затих. Замирания на интеле были на десятки миллисекунд. С чем связано - хз, возможно с архитектурой. На ксеонах до скалябельных было очень плохо, на больших постоянных потоках не работают. В пике неплохие цифры показывают, но недолго :) Скалябельные первые и вторые чуть лучше, но тоже замирания были. Измеряли по длительности сигналов full в буферных фифо. Можно поискать результаты, но уже почти 4 года прошло. Проще заново промерять. ;) Если время будет. У интела еще явная проблема - приоритет доступа к контроллеру памяти со стороны dma pcie один из самих низких. Может это как-то настраивается, но либо это тайна, либо никто не знал, да еще и забыл. Про EPYC надо писать отдельно - там много. Замирания может и не пропали, но заработало устойчиво вот на таком железе: MZ31-AR0-00, биос version: R06. В конторе есть еще несколько железок под EPYC, по ним тоже есть статистика. Местами не очень хорошая ;) Особенно по супермикро :(
  6. Почти тот же. А в чем противоречие? ;) Что на Интеле были замирания? Заменили хосты на EPYC 7002 и все стало хор и ок. Замираний нет, рестартов нет, потерь нет. Аптаймы - пока не выключишь. Тут еще AMD дает утилитку интересную. Ну и тюнинг сервера нужен, у AMD есть рекомендации.
  7. в триггерах. Там 8 дескрипторов всего.
  8. Под линуксом мы и пишем прямо в gpu. Только gpu д.б. quadro/tesla/ampere и т.п., где разлочена прямая запись.
  9. Нет. Это ж Церн ;) Наши драйвер виндовый сами писали. Там все довольно просто. Но под виндой 96МБ dma буфер только был. Больше 7-ка не дает сделать. А под линуксом на х86_64 до 1ГБ на дескриптор через hugepage-1GB. И scatter-gather не нужен. Родной драйвер cmem тоже работает, но с hugepage программистам проще показалось. Нужно только конвертировать адреса из virt в phys через ioctl. И да, cmem на больших размерах буфера очень долго их может выделять (пока он непрерывного пространства страничками по 4К наберет).
  10. Есть проект wupper на opencores. Работает. Под 6 ГБ/сек на Gen3 x8 по DMA выдает. Больше нам не надо было. Драйвера и софт в комплекте. В драйвере надо надо включить pci bus master - там этого нет :) У нас работает на xilinx Kintex 7 (XC7Z045) и US (XCKU085). Правда, под 45 Zynq пришлось переписывать довольно много. Но там есть фича - каждую TLP пытается писать по следующему свободному дескриптору. Но это довольно просто лечится.
  11. Помнится, пришлось применить метод Понселе Посмотрите, может точности хватит.
  12. Версия какая? Был не так давно баг, что не попадала в расчет длины при тюнинге часть проводника, которая оказалась в паде. В 5.99 было много косячков в тюнинге. Что-то из них поправлено, но еще могли остаться.
  13. Опять всплыли миллиметровые сетки в схематике. Уже столько воздуха насотрясали по этому вопросу... ГОСТ 2.701-2008 п.5.4.2 (Выделено мной). И нигде не сказано, что этот шаг д.б. строго кратен миллиметру. В п.5.3.4 указаны минимальные расстояния между элементами. Даже дюймовая сетка позволяет их выдерживать. Нормоконтроль (наш) уже успокоился. А тут все бурления какие-то :(
  14. Постоянно делаем многолистовые схемы. Есть схемы с повторением листов, т.е с повторением частей схемы. На верхнем уровне эти листы подключаем к разным цепям, нетлист формируется правильно, КЗ и пересечений не замечено. По нумерации листов: ЕМНИП, нумерация листов идет по внутренней последовательности, которая определяется таймштампом листа (т.е. временем создания). Причем, номера листа присваивается сразу при создании листа. Может сейчас в ветке master это перепилили - там в программерах появилось много новых лиц и еще больше идей ;) Я сижу на ветке 5.1 - там, КМК, поведение при нумерации листов не изменилось. Т.о. разбивку схемы по листам приходится продумывать до начала рисования. Я обычно на корень кидаю листы в нужной мне последовательности. Если уровней больше двух, то сначала шагаю внутри листа по иерархии. Госту не совсем соответствует (там надо по листу сверху-вниз, слева-направо), но при печати и для понимания схемы, ИМХО, правильнее получается. Т.е. на корне номера листов с пропусками, если на некоторых листах уровней больше одного. Далее заполняю листы, а потом уже соединяю их по иерархии и на корневом. Пример с использованием одного файла схемы для 4 разных листов прикрепил. Пример иерархии листов прикрепил, номера листов сверху вниз. ГОСТ допускает иерархические метки, только сами метки в кикаде не соответствуют ГОСТу. По ГОСТу надо стрелочки, но там есть послабления при машинном черчении. Нормоконтроль не сильно бухтит. Вписать на _окончательной_ схеме номера листов в прямоугольники листов можно текстом. Я там еще пишу текстовку, интересную мне. Пример прикрепил. Не замечал изменение нумерации листов при перетаскивании прямоугольников листов.
  15. И где это написано? ЗЫ: мы их очень давно используем и не знаем об этом ;)