Jump to content

    

Рассчитать предел Шеннона для нестандартного кода 26 бит.

Доброго дня! 

Потребовался помехозащитный код нестандартной длины 26 бит. Информационных бит всего 8. Не придумал ничего лучше, как выбрать 256 слов из набора 2^26 c максимальным кодовым расстоянием. Алфавит небольшой, попробую принимать на максимальном правдоподобии, скорость не высокая. Стало интересно, а каков будет теоретически достижимый предел Шенона для этого ублюдочного кода?  
У меня модуляция QPSK. Допустим, на модели в Матлабе я получил BER 10-5 при SNR 3 дБ в awgn. Ну и так далее по точкам, я могу построить кривую BER/SNR. А как бы теперь рассчитать предельно достижимую кривую аналитически? Мне конечно хочется верить, что они совпадут, так как я использую мягкий декодер на максимальном правдоподобии, проверить и убедиться не мешало бы. 
Посмотрел книжки - в основном попадаются кривые для стандартных кодов. 
Уважаемые гуру, подскажите, куда копать?

Share this post


Link to post
Share on other sites
Just now, soldat_shveyk said:

Доброго дня! 

Потребовался помехозащитный код нестандартной длины 26 бит. Информационных бит всего 8. Не придумал ничего лучше, как выбрать 256 слов из набора 2^26 c максимальным кодовым расстоянием. Алфавит небольшой, попробую принимать на максимальном правдоподобии, скорость не высокая. Стало интересно, а каков будет теоретически достижимый предел Шенона для этого ублюдочного кода?  
У меня модуляция QPSK. Допустим, на модели в Матлабе я получил BER 10-5 при SNR 3 дБ в awgn. Ну и так далее по точкам, я могу построить кривую BER/SNR. А как бы теперь рассчитать предельно достижимую кривую аналитически? Мне конечно хочется верить, что они совпадут, так как я использую мягкий декодер на максимальном правдоподобии, проверить и убедиться не мешало бы. 
Посмотрел книжки - в основном попадаются кривые для стандартных кодов. 
Уважаемые гуру, подскажите, куда копать?

в теорию Шенона вам

https://electronix.ru/forum/index.php?app=forums&module=forums&controller=topic&id=125116&do=findComment&comment=1690399

или так

 

shanon.png

Share this post


Link to post
Share on other sites

des00, спасибо! 
А что за источник, из которого взят Figure 3.7?
Если, я правильно понял, то для моего кода (26,8) бит R = 0.3. 
А как мне пересчитать мой SNR в канале с QPSK в эти замечательные Eb/N0?

Share this post


Link to post
Share on other sites
31 minutes ago, soldat_shveyk said:

des00, спасибо! 
А что за источник, из которого взят Figure 3.7?
Если, я правильно понял, то для моего кода (26,8) бит R = 0.3. 
А как мне пересчитать мой SNR в канале с QPSK в эти замечательные Eb/N0?

третья глава книги https://www.berndfriedrichs.de/downloads_ecc/ecc2010_ch03.pdf

SNR = EbNo + 10*log10(bps*coderate), bps - бит на символ

Share this post


Link to post
Share on other sites

Получаю следующее:

 
bps = 2; 
coderate = 8/26;

На тесте SNR 3 dB показал BER 10-5. 

EbNo = SNR - 10*log(bps) - 10*log(coderate) = 3 - 3 + 5 = 5 dB. 

По вышеприведенному рисунку Figure 3.7 для R = 0.3 и BER 10-5 получаю EbNo = -0.5 dB (примерно). 

Неужели до предела Шенона еще 5.5 дБ? Или я что-то не то сравниваю. 
Модель декодера работает на максимальном правдоподобии, и предел Шенона, как мне казалось, должен быть ближе. 

Share this post


Link to post
Share on other sites

Код у вас достаточно короткий, поэтому до Шеннона далеко. Граница ведь выводится в предположении о бесконечной длине кодового блока. Вы и так выиграли 5 дБ по сравнению с некодированным случаем.

Share this post


Link to post
Share on other sites
12 hours ago, soldat_shveyk said:

Неужели до предела Шенона еще 5.5 дБ? Или я что-то не то сравниваю. 

Модель декодера работает на максимальном правдоподобии, и предел Шенона, как мне казалось, должен быть ближе. 

там по ссылке сходите, там картинка от @petrov  на 10 битах, при 1/3 как раз EbN0 порядка 5) 

Share this post


Link to post
Share on other sites
On 5/23/2020 at 5:01 PM, lennox said:

SNR с EsNo не перепутано?

а для согласованной полосы есть разница между этими двумя величинами?

Share this post


Link to post
Share on other sites
On 5/23/2020 at 9:07 AM, Grizzly said:

Граница ведь выводится в предположении о бесконечной длине кодового блока

А разве при бесконечной длине кодового блока не будет бесконечной пропускной способности? 
Допустим, длина кодового блока бесконечна. Спектральная плотность шума и полоса канала (согласованная полоса?) конечны.
Тогда энергия, приходящаяся на информационный бит относительно спектральной плотности шума Eb - тоже будет бесконечна. 

On 5/23/2020 at 1:01 PM, lennox said:

SNR с EsNo не перепутано?

Не, вроде все верно. Если переиначить, то EbNo = SNR - 10*Log10(bps) - 10*Log10(coderate). 
Чем больше бит на символ 2, 4 и т.д , тем меньше энергия информационного бита Eb. 
Чем ниже coderate 0.5, 0.25 и т.д., тем выше энергия информационного бит Eb. 

Share this post


Link to post
Share on other sites
38 minutes ago, soldat_shveyk said:

А разве при бесконечной длине кодового блока не будет бесконечной пропускной способности?

Нет, одна из теорем шенона говорит что пропускная способность канала связи определяется максимумом скорости передачи, который в свою очередь определяется максимальной разницей энтропии источника, по всем источникам и условной энтропии приемника, обусловленной шумом. Максимальная пропускная способность - в канале без помех.

Кстати, в главе, ссылку на которую я привел, рисунок  3.2 как раз об этом)

Share this post


Link to post
Share on other sites
15 minutes ago, des00 said:

Кстати, в главе, ссылку на которую я привел, рисунок  3.2 как раз об этом

des00, спасибо!!
Разобрался. Теперь все стало на свои места. 
Придумать свой корявый и нестандартный код - отличный повод наконец-то разобраться в теореме Шенона. 
То, что не дошло через голову, отлично доходит через руки :)

Share this post


Link to post
Share on other sites
2 hours ago, soldat_shveyk said:

Разобрался. Теперь все стало на свои места. 
Придумать свой корявый и нестандартный код - отличный повод наконец-то разобраться в теореме Шенона. 
То, что не дошло через голову, отлично доходит через руки :)

еще, надо было мне упомянуть теорему Шенона-Хартли, максимальная пропускная способность канала связи с ограниченной полосой W*log2(1+Ps/Pnoise) и не зависит от длительности. Правда эта форума выведена из предположений что у сигнала, статистические свойства должны быть близки к белому шуму)

Share this post


Link to post
Share on other sites

Create an account or sign in to comment

You need to be a member in order to leave a comment

Create an account

Sign up for a new account in our community. It's easy!

Register a new account

Sign in

Already have an account? Sign in here.

Sign In Now
Sign in to follow this