Перейти к содержанию
    

Обоснование достаточности нейросети

Доброго дня.

Имею нулевой опыт работы с нейросетями.

Интересует пока более общие вопросы. Например, есть ли какие-то подходы к выбору структуры нейросети, количества слоев, количество входов, необходима ли избыточность, как оценить разумную достаточность? Как это влияет на точность, время обучения и т.п.?

Может есть какая-то литература об этом, а то попадается в основном информация о том как сделать конкретную реализацию, обучить её и т.д. Меня это пока не интересует, в целом думаю задача для специалиста подъемная. Но как сконструировать саму архитектуру сети?

Благодарю за советы.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты

Методика выбора сети - это метод проб и ошибок. А для быстрого старта смотрим что есть на Kaggle. 

Колличество слоев столько сколько тянет Ваш компьютер  для выбранного датасета.  Как правило с начало ищим структуру на малом датасета(выжимке) так что бы обучение укладывалось в 5-10 минут. А потом уже увеличиваем слои до 1 часа счёта. А потом увеличивается датасет и планируется обучение на 1-2 месяца на арендованном сервере/суперкомпьютеры. 

Количество входов зависит от метода кодирования информации на входе. И от предыдущих 2-х пунктов.

Избыточность не нужна. Разумность и достаточность определяется по Loss  функции. Если качество падает то уменьшаем колличество слоев.

 

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты

Присоединяйтесь к обсуждению

Вы можете написать сейчас и зарегистрироваться позже. Если у вас есть аккаунт, авторизуйтесь, чтобы опубликовать от имени своего аккаунта.

Гость
К сожалению, ваш контент содержит запрещённые слова. Пожалуйста, отредактируйте контент, чтобы удалить выделенные ниже слова.
Ответить в этой теме...

×   Вставлено с форматированием.   Вставить как обычный текст

  Разрешено использовать не более 75 эмодзи.

×   Ваша ссылка была автоматически встроена.   Отображать как обычную ссылку

×   Ваш предыдущий контент был восстановлен.   Очистить редактор

×   Вы не можете вставлять изображения напрямую. Загружайте или вставляйте изображения по ссылке.

×
×
  • Создать...