Что такое отсев: Отсев — виды и применение

Штукатурка отсевом – отсев для штукатурки

Можно ли использовать отсев вместо песка для штукатурки? Такой вопрос часто интересует жителей регионов, где этот материал стоит дешево.

  • Штукатурка отсевом – отсев для штукатурки
  • Преимущества и недостатки использования отсева для штукатурки
  • Как выбрать отсев для штукатурки
  • Пропорции компонентов для штукатурки стен

Да, отсев вполне подойдет для создания штукатурной смеси. По своей структуре он напоминает песок, но придает раствору большую прочность.

В компании Грунтовозов вы можете купить отсев для штукатурки с доставкой до вашего объекта по минимальной цене.

Растворы для штукатурки в большинстве случаев изготавливают на основе песка. Отсев применяют в регионах, где у него низкая цена. Использование этого материала в штукатурке имеет свои преимущества и недостатки.

Плюсы применения отсева для штукатурки:

  • Хорошая адгезия
    Частицы отсева имеют угловатую форму. Это обеспечивает лучшее сцепление с вяжущим веществом (цементом, известью) и поверхностью стены.
  • Высокая прочность
    Марка раствора с отсевом всегда будет выше, чем с песком. К нему можно добавить меньше цемента, что позволит сэкономить средства.
  • Отсутствие примесей глины
    Отсев получают в процессе дробления и переработки щебня из горных пород. В нем практически нет глинистых частиц и комков глины. Это выгодно отличает отсев от песка, которому зачастую свойственен этот недостаток.
  • Красивый внешний вид
    Некоторые виды отсева имеют красивый цвет, блестящие включения кварца. Поэтому материал нередко используется как компонент декоративных штукатурок.
  • Доступная цена
    В регионах, где добывается много горной породы, отсев стоит почти в 2 раза дешевле песка.
    Он доступен в больших количествах на любом щебеночном карьере.

Минусы использования отсева для штукатурки:

  • Наличие крупных включений
    Даже в самой мелкой фракции отсева попадаются крупные включения с диаметром больше 5-10 мм. Поэтому перед добавлением в раствор материал приходится дополнительно просеивать.
  • Неоднородный зерновой состав
    Отсев получают как побочный продукт после отделения самой мелкой фракции щебня. Он может включать в себя мелкие частицы с диаметром меньше 1 мм и 0,63 мм. При их высоком содержании снижаются адгезия и прочность раствора, в смесь приходится добавлять больше цемента.
  • Большой вес и насыпная плотность
    Эти характеристики затрудняют перемешивание компонентов раствора. Если штукатурку из цемента и песка можно приготовить вручную, то для большего количества смеси с отсевом понадобится бетономешалка.

Дальше вы узнаете, по каким параметрам следует выбирать отсев для штукатурки.

Как выбрать отсев для штукатурки

Не каждый отсев подойдет для штукатурки. Для этого вида работ понадобится материал высокого качества.

При покупке стоит обратить внимание на такие характеристики:

  • Фракцию
    Для приготовления раствора нужно брать самую мелкую фракцию материала – 0-5. Только использование мелких частиц позволяет сделать поверхность стены или потолка идеально ровной.
  • Зерновой состав
    Структура отсева должна быть однородной, без включения частиц с диаметром выше 5 мм. Желательно, чтобы размер большинства частиц находился в пределах 1,5-4 мм.
  • Наличие пылевидных частиц
    Количество мелких примесей не должно превышать 10%. При их избытке в раствор приходится добавлять больше воды, что сказывается на прочности и сцеплении. Устранять недостаток приходится за счет использования большего объема цемента.
  • Примеси глины
    Включения глины снижают прочность смеси, на штукатурке со временем будут появляться трещины. В качественном отсеве таких примесей не должно быть больше 2%.
  • Цвет и внешний вид
    Эти характеристики имеют значение, если вы покупаете отсев для декоративной штукатурки. Лучше всего подойдет материал из мрамора, гранита, диорита и серпентинита.
  • Порода
    В раствор для штукатурки нельзя добавлять отсев из породы габбро. У нее гладкая поверхность, что ухудшает сцепление с цементом и стеной. Известняковый отсев можно применять вместо дополнительного вяжущего вещества. Но для этого следует выбирать очень мелкую фракцию, с размером зерен до 1,5-2 мм, напоминающую муку.

Оценить все описанные выше характеристики своими силами трудно, иногда невозможно без лабораторных исследований. Но самостоятельно заказывать экспертизу дорого. Поэтому мы рекомендуем покупать отсев с готовым сертификатом.

В нашем регионе по всем вышеперечисленным параметрам идеально подходит гранитный отсев 0-5. Он мелкий, имеет относительно однородный состав, не содержит примесей глины. По этой же причине, кстати, его берут в качестве основы под тротуарную плитку. Но даже в таком мелком и однородном отсеве изредка могут попадаться крупные частицы. Перед началом работ такие камешки обязательно нужно удалить.

Пропорции компонентов для штукатурки стен

Отсев делает раствор для штукатурки более прочным. Увеличить прочность можно приблизительно в 1,25-1,5 раза по сравнению с песком. Поэтому расход цемента при использовании отсева сокращается в 1,5 раза.

При изготовлении цементного раствора для штукатурки на основе отсева соотношение компонентов будет следующим (цемент:отсев):

  • М50 — 1:8
  • М100 — 1:7
  • М150 — 1:4

То есть если вам нужно приготовить раствор для штукатурки, скажем, с прочностью М50, смешайте 10 л цемента (1 ведро) и 80 л отсева (8 ведер). К этой массе добавьте 1,5 части воды (15 л). В результате вы получите приблизительно 80 л раствора.

Известняковый отсев можно использовать как дополнительное вяжущее вещество. Он улучшает адгезию штукатурки и повышает пластичность раствора. Кроме того, известняк обладает антисептическим свойством, предупреждает рост грибков. Штукатурка с известняком — это еще и дополнительная теплоизоляция. В помещении с таким покрытием снижается влажность.

Для приготовления раствора необходимо взять цемент, известняковую муку (или очень мелкий отсев с диаметром частиц до 1,5-2 мм) и песок. Соотношение компонентов тут – 1:2:6. К сухой массе нужно добавить еще 1,4 части воды.

Разберем соотношение компонентов на конкретных примерах:

На 10 л цемента необходимо 20 л мелкого известнякового отсева и 60 л песка. К этой массе необходимо добавить еще 14 л воды. В результате у вас получится приблизительно 60-62 л раствора.

Известково-цементную штукатурку можно приготовить и на основе гашеной извести, заменив песок отсевом.

Соотношения компонентов тут будут следующими (цемент:известь:песок):

  • М50 — 1:0,9:11
  • М100 — 1:0,0,4:6,4
  • М150 — 1:0,2:4,3

Для приготовления раствора с прочностью М150 вам понадобится 10 л цемента, 2 л гашеной извести и 43 л отсева. К материалу нужно добавить еще 14 л воды. Из этой массы у вас получится приблизительно 43-45 л штукатурного раствора.

Для штукатурки не следует готовить большие объемы раствора, так как он быстро твердеет и плохо наносится на стену. По консистенции раствор должен напоминать густую сметану. Слишком сухая смесь хуже прилипает к поверхности и с трудом выравнивается, а слишком жидкая будет стекать по стене.

Отсев — хороший вариант для отделки внутренних и внешних стен дома. При его добавлении в раствор можно сэкономить на цементе. А если учесть, что в некоторых регионах отсев стоит практически в два раза дешевле песка, то конечная цена штукатурки будет еще ниже. При этом качество работ совсем не пострадает. Главное – перед применением просеять материал, чтобы в нем не было крупных примесей.

    Что такое отсев щебня и где он используется?

    Отсев щебня — это природный материал, который остается в результате дробления твердых горных пород. Он образуется после того, как самые крупные осколки щебня будут распределены по фракциям. Таким образом, к отсеву относят самые мелкие элементы размером до 1 см. Из-за этого зачастую употребляется синоним данного понятия: песок из отсевов дробления. 


    Характеристики материала

    Долгое время ввиду своего происхождения отсев считался материалом, непригодным для использования. Кроме того, многие считают его аналогом песок. Однако со временем отсев стал активно применяться, и сейчас считается достаточно востребованным материалом.

    Для него характерны следующие параметры:

    1. Прочность. Под данной характеристикой понимаю способность отсева выдерживать механические нагрузки. Показатель измеряется в кг/см2;
    2. Размер.  Крупность отдельных элементов, или фракция, которая измеряется в мм;
    3. Насыпная плотность. От данного показателя зависит, насколько плотно можно уложить материал. Измеряется в кг/м3;
    4. Морозостойкость. Важный показатель, который фиксирует количество циклов замерзания и разморозки, который может выдержать отсев;
    5. Лещадность. Ключевой показатель для щебня, измеряемый в процентном соотношении и указывающий на наличие плоских и игольчатых зерен в составе массы;
    6. Количество примесей. В процентном соотношении также измеряется концентрация примесей;
    7. Удельная эффективная радиоактивность. Данный показатель измеряется в Бк/кг.

    Сравнение самых популярных видов отсева

    Чаще всего в работе используется один из двух видов щебня: гранитный и гравийный. Следовательно, и отсев производят из этих же материалов.

    Характеристика

    Гранитный отсев

    Гравийный отсев

    Прочность

    М1200

    М800-М1000

    Морозостойкость

    300 циклов

    150 циклов

    Лещадность 

    14,5%

    17%

    Насыпная плотность

    1340 кг/м3

    1400 кг/м3

    Количество примесей

    0,4%

    0,6%

    Возьмите на заметку: щебень также производят из известняка, и такой материал обладает наименьшей прочностью по сравнению со всеми остальными материалами.  

    Отсев щебня применяется для экономии. Например, добавив его в бетон, можно существенно снизить стоимость смеси, при этом не теряя показателей качества. Однако полностью заменить им ни песок, ни щебень более крупных фракций нельзя. Большие осколки камней требуют меньшего количества цементного раствора, который служит для заполнения промежутков между ними. А песок в свою очередь в связи с цементом образует прочный клеящий состав. 

    Применение отсева щебня

    Одно из основных преимуществ отсева — стоимость, которая существенно ниже, чем у исходного сырья. И при этом характеристики сохраняются те же, что и у остальных фракций щебня. Это позволило найти отсеву применение в следующих отраслях:

    • Строительство. Отсев активно используется при производстве бетона, создании железобетонных конструкций и др. Причем блоки, произведенные с применением данного материала, пользуются большой популярностью среди строительных организаций благодаря низкой стоимости, экологичности и удобству транспортировки.  
    • Ландшафтный дизайн. Крашеный щебень является популярным материалом для устройства садовых дорожек, клумб, подпорных стенок.
    • Устройство противоскользящих покрытий. Благодаря наличию острых граней у отдельных элементов, отсев становится идеальным материалом для создания различных типов противоскользящих полов и других типов покрытий. Также отсевом посыпают трассы в гололедицу.
    • Дренаж. Наличие мелких каменных частиц в системе дренажа помогает фильтровать и очищать воду.
    • Изготовление удобрений. Отсев применяется при создании полимерных покрытий и сельскохозяйственных удобрений. 

    Вам также может быть интересно

    Уплотнение грунта щебнем: что нужно знать?

    Грунт уплотняют щебнем, если у основания нет достаточной несущей способности, которая позволит строить на нем здание или прокладывать дорогу. Также нужно уплотнение и грунтам, по которым трудно ходить. Но зачем нужно уплотнение и что оно дает? Вот …

    Современные способы демонтажа зданий

    В наши дни за один год возводится больше новых сооружений и зданий, чем раньше за целое десятилетие. Старые или невостребованные постройки мгновенно «приговариваются» к сносу и заменяются на новые многоэтажные жилые дома или многофункциональные спортивные, культурные, торговые …

    Улучшаем качество грунта с помощью древесного компоста

    Древесный компост – это смесь растительных и древесных отходов, в которой присутствует небольшое количество органического сырья. Такой компост можно получить в домашних условиях, вот только потребуется на это от нескольких месяцев до нескольких лет. Именно поэтому многие …

    Где применять вторичный щебень различных фракций?

    Вторичный щебень появился на рынке сравнительно недавно, но сразу же привлек к себе внимание и стал востребованным в различных сферах. Что делает популярным сыпучий материал, который образуется в результате измельчения бетона, кирпича, асфальта и другого строительного мусора?

    Отсев в нейронных сетях. Выпадающие слои были популярны… | by Harsh Yadav

    Удалённые слои были популярным методом уменьшения переобучения нейронных сетей.

    Это король преступного мира регуляризации в современную эпоху глубокого обучения. Опубликовано в

    ·

    Чтение: 8 мин. . Но почему отсев так распространен? Как работает выпадающий слой внутри? Какую проблему он решает? Есть ли альтернатива увольнению?

    Рисунок 0: Индийский Джарохе, выпадающий свет (Изображение автора)

    Если у вас есть похожие вопросы по выпадающим слоям, то вы попали по адресу. В этом блоге вы узнаете о тонкостях знаменитых выпадающих слоев. После завершения этого блога вам будет удобно отвечать на различные вопросы, связанные с отсевом, и если вы более новаторский человек, вы можете придумать более продвинутую версию слоев отсева.

    Начнем… 🙂

    Этот блог разделен на следующие разделы:

    1. Введение: проблема, которую он пытается решить
    2. Что такое отсев?
    3. Как это решает проблему?
    4. Реализация Dropout
    5. Dropout во время вывода
    6. Как это было задумано
    7. Реализация Tensorflow
    8. Заключение

    Итак, прежде чем погрузиться в его мир, давайте ответим на первый вопрос. Какую проблему мы пытаемся решить?

    Глубокие нейронные сети имеют различную архитектуру, иногда неглубокую, иногда очень глубокую, пытающуюся обобщить заданный набор данных. Но в этом стремлении слишком усердно изучать различные функции из набора данных они иногда изучают статистический шум в наборе данных. Это определенно улучшает производительность модели в обучающем наборе данных, но значительно терпит неудачу в новых точках данных (тестовый набор данных). Это проблема переобучения . Чтобы решить эту проблему, у нас есть различные методы регуляризации, которые снижают вес сети, но этого недостаточно.

    Лучший способ уменьшить переоснащение или лучший способ упорядочить модель фиксированного размера — получить средние прогнозы для всех возможных значений параметров и агрегировать окончательный результат. Но это становится слишком затратным с вычислительной точки зрения и неприемлемым для вывода/предсказания в реальном времени.

    Другой способ основан на методах ансамбля (таких как AdaBoost, XGBoost и Random Forest), где мы используем несколько нейронных сетей с различной архитектурой. Но для этого требуется обучение и хранение нескольких моделей, что со временем становится огромной проблемой по мере того, как сети становятся глубже.

    Итак, у нас есть отличное решение, известное как Dropout Layers.

    Рисунок 1: Исключение, примененное к стандартной нейронной сети (изображение Nitish)

    Термин «выпадение» относится к исключению узлов (входной и скрытый слой) в нейронной сети (как показано на рисунке 1). Все прямые и обратные соединения с отброшенным узлом временно удаляются, таким образом создавая новую сетевую архитектуру из родительской сети. Узлы отбрасываются с вероятностью отсева p.

    Попробуем разобраться с заданным вводом x: {1, 2, 3, 4, 5} до полносвязного слоя. У нас есть слой отсева с вероятностью p = 0,2 (или сохранить вероятность = 0,8). Во время прямого распространения (обучения) от входа x будет отброшено 20% узлов, т. е. x может стать {1, 0, 3, 4, 5} или {1, 2, 0, 4, 5} и скоро. Точно так же это относится и к скрытым слоям.

    Например, если скрытые слои имеют 1000 нейронов (узлов) и применяется отсев с вероятностью отбрасывания = 0,5, то 500 нейронов будут случайным образом отброшены на каждой итерации (пакете).

    Как правило, для входных слоев вероятность удержания, т. е. вероятность 1-го сброса, ближе к 1, 0,8 является лучшим, как предложено авторами. Для скрытых слоев чем выше вероятность удаления, тем разреженнее модель, где 0,5 — наиболее оптимизированная вероятность сохранения, которая означает удаление 50% узлов.

    Так как же отсев решает проблему переобучения?

    В задаче переобучения модель изучает статистический шум. Если быть точным, основной мотив обучения состоит в том, чтобы уменьшить функцию потерь для всех единиц (нейронов). Таким образом, при переоснащении единица может измениться таким образом, чтобы исправить ошибки других единиц. Это приводит к сложной коадаптации, которая, в свою очередь, приводит к проблеме переобучения, поскольку эта сложная коадаптация не может обобщить невидимый набор данных.

    Теперь, если мы используем отсев, он не позволяет этим юнитам исправить ошибку других юнитов, тем самым предотвращая совместную адаптацию, так как в каждой итерации присутствие юнита крайне ненадежно. Таким образом, случайным образом отбрасывая несколько единиц (узлов), он заставляет слои брать на себя большую или меньшую ответственность за входные данные, применяя вероятностный подход.

    Это обеспечивает обобщение модели и, следовательно, уменьшение проблемы переобучения.

    Рисунок 2: (а) Скрытые элементы слоя без исключения; (b) Скрытые функции слоя с выпадением (Изображение Nitish)

    Из рисунка 2 легко понять, что скрытый слой с выпадением изучает больше обобщенных признаков, чем коадаптации в слое без выпадения. Совершенно очевидно, что отсев нарушает такие межблочные связи и больше фокусируется на обобщении.

    Хватит болтать! Давайте перейдем к математическому объяснению отсева.

    Рисунок 3: (a) Единица (нейрон) во время обучения присутствует с вероятностью p и связана со следующим слоем с весами ‘ ш ’ ; (b) Единица во время логического вывода/предсказания всегда присутствует и связана со следующим слоем с весами, « pw » (изображение Nitish)

    нейрон) в слое выбирается с вероятностью сохранения (вероятность 1-го сброса). Это создает более тонкую архитектуру в данном тренировочном пакете, и каждый раз эта архитектура отличается.

    В стандартной нейронной сети при прямом распространении мы имеем следующие уравнения:

    Рисунок 4: Прямое распространение стандартной нейронной сети (изображение Nitish)

    где:
    z: обозначает вектор выходных данных из слоя (l + 1) до активации
    y: обозначает вектор выходных данных из слоя l
    w: вес слоя l
    b: смещение слоя l

    Далее с помощью функции активации z преобразуется в выход для слоя (l+1).

    Теперь, если у нас есть отсев, уравнения прямого распространения меняются следующим образом:

    Рисунок 5: Прямое распространение слоя с отсевом (Изображение Nitish)

    Таким образом, прежде чем мы вычислим z, , входные данные для слоя дискретизируются и поэлементно умножаются на независимые переменные Бернулли. r обозначает случайные величины Бернулли, каждая из которых имеет вероятность p, равную 1. По сути, r действует как маска для входной переменной, что гарантирует сохранение только нескольких единиц в соответствии с вероятностью сохранения выпадения. Это гарантирует, что у нас есть прореженные выходные данные « y(bar)» , которые задаются в качестве входных данных для слоя во время распространения с прямой связью.

    Рисунок 6: Сравнение сети отсева со стандартной сетью для данного уровня во время прямого распространения (изображение Nitish)

    Теперь мы знаем, что отсев работает математически, но что происходит во время вывода/предсказания? Используем ли мы сеть с отсевом или удаляем отсев во время вывода?

    Это одна из самых важных концепций отсева, о которой знают очень немногие специалисты по данным.

    Согласно исходной реализации (рис. 3б) при выводе мы не используем слой отсева. Это означает, что на этапе прогнозирования учитываются все единицы. Но из-за взятия всех единиц/нейронов из слоя окончательные веса будут больше, чем ожидалось, и для решения этой проблемы веса сначала масштабируются в соответствии с выбранным коэффициентом отсева. Благодаря этому сеть сможет делать точные прогнозы.

    Чтобы быть более точным, если единица сохраняется с вероятностью p во время обучения, исходящие веса этой единицы умножаются на p на этапе прогнозирования.

    По словам Джеффри Хинтона, одного из авторов книги «Отсев: простой способ предотвратить переобучение нейронных сетей», произошел ряд событий, которые вдохновили фундаментальное отсев.

    1. Аналогия с Google Brain заключается в том, что он должен быть большим, потому что он изучает большой набор моделей. В нейронных сетях это не очень эффективное использование аппаратного обеспечения, поскольку одни и те же функции необходимо изобретать отдельно в разных моделях. Именно тогда была обнаружена идея использования одного и того же подмножества нейронов.
    2. Кассир банка: В те дни кассиры регулярно менялись, и это должно быть потому, что для успешного обмана банка требовалось сотрудничество между сотрудниками. Это внедрило идею случайного выбора разных нейронов, чтобы на каждой итерации использовался другой набор нейронов. Это гарантировало бы, что нейроны не смогут изучить коадаптацию, и предотвратило бы переоснащение, аналогично предотвращению заговоров в банке.
    3. Половое размножение: оно включает передачу половины генов одного родителя и половины другого, добавляя очень небольшое количество случайных мутаций, чтобы произвести потомство. Это создает смешанную способность генов и делает их более устойчивыми. Это может быть связано с отсевом, который используется для нарушения коадаптаций (добавляет случайность, как генная мутация).

    Разве это путешествие не увлекательно?

    Основной мотив представить идею о том, как был задуман отсев, состоит в том, чтобы мотивировать читателей исследовать окружающий мир и связать его с принципами работы нескольких других нейронных сетей. Это определенно породило бы много таких инноваций.

    Если мы будем следовать исходной реализации, нам нужно умножить веса на вероятность выпадения на этапе прогнозирования. Просто чтобы удалить любую обработку на этом этапе, у нас есть реализация, известная как « обратное отключение».

    Цель умножения весов на вероятность выпадения состоит в том, чтобы убедиться, что окончательные веса имеют одинаковую шкалу, поэтому прогнозы верны. В обратном отсеве этот шаг выполняется во время самой тренировки. Во время обучения все веса, оставшиеся после операции исключения, умножаются на обратную вероятность сохранения, т. е. w * (1/p).

    Чтобы получить математическое доказательство того, почему обе операции аналогичны весам слоев, я рекомендую просмотреть блог Лей Мао.

    Наконец-то!! Мы рассмотрели глубокий анализ слоев отсева, которые мы используем почти во всех нейронных сетях.

    Dropouts можно использовать с большинством типов нейронных сетей. Это отличный инструмент для уменьшения переоснащения модели. Это намного лучше, чем доступные методы регуляризации, и его также можно комбинировать с нормализацией максимальной нормы, что обеспечивает значительный прирост по сравнению с простым использованием отсева.

    В следующих блогах мы узнаем больше о таких базовых слоях, которые используются почти во всех сетях. Пакетная нормализация, нормализация слоев и слои внимания, и это лишь некоторые из них.

    [1] Нитиш Шривастава, Отсев: простой способ предотвратить переобучение нейронных сетей, https://jmlr.org/papers/volume15/srivastava14a/srivastava14a.pdf

    [2] Джейсон Браунли, Нежное введение в отсев для регуляризации глубоких нейронных сетей, https://machinelearningmastery.com/dropout-for-regularizing-deep-neural-networks/

    [3] Лей Мао, Объяснение отсева, https://leimao.github.io/blog/Dropout -Explained/#:~:text=Во время%20inference%20time%2C%20dropout%20does%20умножается%20на%20pkeep%20.

    [4] Хуан Мигель, Объяснение отсева и реализация в Tensorflow, http://laid.delanover.com/dropout-explained-and-implementation-in-tensorflow/

    Отсев в (глубоком) машинном обучении | Автор Amar Budhiraja

    Чтение: 4 мин.

    ·

    15 декабря 2016 г.

    Этот пост в блоге также является частью серии постов о глубоком обучении. Ранее я писал еще два поста — один об инициализации веса, а другой — об идентификации языка текста. Все посты самодостаточны, поэтому вы можете прочитать этот и проверить другие, если хотите.

    В этом посте я в первую очередь рассмотрю концепцию отсева в нейронных сетях, особенно глубоких сетях, а затем проведу эксперименты, чтобы увидеть, как это на самом деле влияет на практике, путем реализации глубокой сети на стандартном наборе данных и наблюдения за эффектом отсева. .

    Что такое Dropout в нейронных сетях?

    Согласно Википедии —
    Термин «выпадение» относится к выпадению единиц (как скрытых, так и видимых) в нейронной сети.

    Проще говоря, отсев означает игнорирование единиц (то есть нейронов) во время фазы обучения определенного набора нейронов, который выбирается случайным образом. Под «игнорированием» я подразумеваю, что эти юниты не учитываются во время конкретного прохода вперед или назад.

    Более технически. На каждом этапе обучения отдельные узлы либо исключаются из сети с вероятностью 1-p , либо сохраняются с вероятностью p , так что остается сокращенная сеть; входящие и исходящие ребра к выпадающему узлу также удаляются.

    Зачем нам Dropout?

    Учитывая, что мы немного знаем о дропауте, возникает вопрос — зачем вообще нужен дропаут? Почему нам нужно буквально отключать части нейронных сетей?

    Ответ на эти вопросы: «для предотвращения чрезмерной подгонки».

    Полностью связанный слой занимает большую часть параметров, и, следовательно, нейроны развивают взаимную зависимость друг от друга во время обучения, что ограничивает индивидуальную мощность каждого нейрона, что приводит к переподгонке обучающих данных.

    Теперь, когда мы немного узнали об отсеве и мотивации, давайте углубимся в детали. Если вам просто нужен обзор отсева в нейронных сетях, двух предыдущих разделов будет достаточно. В этом разделе я коснусь еще некоторых технических аспектов.

    В машинном обучении регуляризация — это способ предотвратить чрезмерную подгонку. Регуляризация уменьшает переоснащение, добавляя штраф к функции потерь. Добавляя этот штраф, модель обучается так, что она не изучает взаимозависимый набор весов признаков. Те из вас, кто знаком с логистической регрессией, могут быть знакомы с штрафами L1 (лапласиан) и L2 (гауссов).

    Dropout — это подход к регуляризации нейронных сетей, который помогает уменьшить взаимозависимое обучение нейронов.

    Фаза обучения:

    Фаза обучения: Для каждого скрытого слоя, для каждой обучающей выборки, для каждой итерации игнорировать (обнулять) случайную долю, p , узлов (и соответствующих активаций).

    Фаза тестирования:

    Использовать все активации, но уменьшить их на коэффициент p (для учета недостающих активаций во время обучения).

    Шривастава, Нитиш и др. «Отсев: простой способ предотвратить переоснащение нейронных сетей
    », JMLR 2014 9H возможных моделей. На этапе тестирования рассматривается вся сеть, и каждая активация уменьшается в раз.

    Давайте попробуем эту теорию на практике. Чтобы увидеть, как работает отсев, я построил глубокую сеть в Keras и попытался проверить ее на наборе данных CIFAR-10. Построенная глубокая сеть имеет три сверточных слоя размером 64, 128 и 256, за которыми следуют два плотно связанных слоя размером 512 и плотный слой выходного слоя размером 10 (количество классов в наборе данных CIFAR-10).

    Я взял ReLU в качестве функции активации для скрытых слоев и сигмоид для выходного слоя (это стандарты, особо не экспериментировал с их изменением). Кроме того, я использовал стандартную категориальную кросс-энтропийную потерю.

    Наконец, я использовал отсев во всех слоях и увеличил долю отсева с 0,0 (отсутствие отсева вообще) до 0,9 с размером шага 0,1 и прогнал каждый из них до 20 эпох. Результаты выглядят следующим образом: Точность

    по сравнению с отсевом (слева) и потеря по сравнению с отсевом

    Из приведенных выше графиков мы можем сделать вывод, что с увеличением отсева происходит некоторое увеличение точности проверки и снижение потерь до того, как тренд начнет идти вниз. .
    Могут быть две причины снижения тренда, если доля отсева равна 0,2:

    1. 0,2 является фактическим минимумом для этого набора данных, сети и используемых параметров набора
    2. Для обучения сетей требуется больше эпох.

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *