English2017
Английский для всех простым языком
Что такое «Fine-tuning» в английском
Первое, что приходит на ум, это конечно же, тюнинг автомобиля. Во всяком случае, слово «тюнинг» употребляется в России именно в этом контексте.
Тем не менее, английская идиома выражающаяся в таких фразах, как: fine-tuning, fine-tune, fine-tuned;
в зависимости от контекста, имеет следующий перевод:
— улучшение,
— тонкая настройка,
— уточнение,
— регулировка,
— доработка,
— корректировка.
Fine-tuning — to make small changes to something in order to make it as good or as effective as possible.
Примеры использования Fine-tune
Первый пример, хочу привести из письма моего друга, от которого я и узнала об этой идиоме.
Он прислал вот эти строки в ответ на мой английский текст:
I understood everything you said in the paragraph, but I made small corrections below.
The corrections are minor, like ‘fine-tuning.’
Я понял, всё, что ты сказала, но я немного подправил твой текст.
Поправки очень не значительные, это своего рода «полировка».
Второй пример
Кто поклонник Rihanna, знает, у нее есть клип под названием: «Shut up and drive».
В тексте ее песни есть слова: ‘I’m a fine-tuned supersonic speed machine’.
Дословный перевод: Я тонко настроенная сверхзвуковая скоростная машина.
Глубоко в смысл ее песни не вдавалась, но сказать можно еще и так: «Я тонкая шустрая штучка»
Еще пример из политики.
Куда ж без Трампа.
У него есть видео: ‘A Fine-Tuned Machine’ — четко отлаженный механизм.
Trump: ‘Administration running like ‘a fine-tuned machine’ — администрация работает четко и слаженно.
Другие примеры:
She spent hours fine-tuning her speech.
The training program helped him fine-tune his skill set.
The company’s aim is to fine-tune its manufacturing system.
There is some fine-tuning to be done, but the majority of the work on the marketing concept has been done.
Fine Tuning of Laws.
Fine-Tuning For Life In The Universe.
List of fine-tuning parameters.
It took a while to fine-tune the flute, but it was worth it.
fine tuning
Смотреть что такое «fine tuning» в других словарях:
Fine Tuning — refers to the process of making small modifications to improve or optimize the outcome. Generally, fine tuning seeks to increase the effectiveness or efficiency of a process or function. Fine tuning can be accomplished through a variety of… … Investment dictionary
fine-tuning — fine tune UK US verb [T] ► to make small changes to something in order to make it as good as possible: »The training program helped him fine tune his skill set. »The company s aim is to fine tune its manufacturing system. fine tuning noun [U] ►… … Financial and business terms
fine-tuning — fine tunˈing noun • • • Main Entry: ↑fine * * * ˌfine ˈtuning ; noun uncountable • The system is set up but it needs some fine tuning … Useful english dictionary
fine tuning — Small adjustments to improve something or to get it working are called fine tuning … The small dictionary of idiomes
Fine-tuning — In theoretical physics, fine tuning refers to circumstances when the parameters of a model must be adjusted very precisely in order to agree with observations. Theories requiring fine tuning are regarded as problematic in the absence of a known… … Wikipedia
Fine Tuning — Infobox Radio Station name = Fine Tuning area = United States Canada branding = slogan = The World s Most Interesting Music airdate = 2001 frequency = XM 76 format = Eclectic owner = XM Satellite Radio Radio Station website =… … Wikipedia
fine tuning — Small adjustments to improve something or to get it working are called fine tuning. (Dorking School Dictionary) *** Small changes to something to improve it or make it work better are called fine tuning. We are still fine tuning… … English Idioms & idiomatic expressions
fine tuning — tikslusis derinimas statusas T sritis fizika atitikmenys: angl. fine tuning; sharp tuning vok. Feinabstimmung, f; Feineinstellung, f; Scharfeinstellung, f rus. острая настройка, f; тонкая настройка, f; точная настройка, f pranc. accord précis, m; … Fizikos terminų žodynas
fine tuning — tikslusis derinimas statusas T sritis automatika atitikmenys: angl. fine adjustment; fine tuning vok. Feinabstimmung, f; Feinjustierung, f rus. тонкая настройка, f; точная юстировка, f pranc. accord précis, m; alignement précis, m … Automatikos terminų žodynas
Fine-tuning — Ajustement fin En physique, la notion d ajustement fin (fine tuning en anglais) se réfère à une situation où un certain nombre de paramètres doivent avoir une valeur incroyablement précise (par exemple à 10 40 près) pour pouvoir rendre compte de… … Wikipédia en Français
Fine tuning — Ajustement fin En physique, la notion d ajustement fin (fine tuning en anglais) se réfère à une situation où un certain nombre de paramètres doivent avoir une valeur incroyablement précise (par exemple à 10 40 près) pour pouvoir rendre compte de… … Wikipédia en Français
Что такое fine tuning
В предыдущей статье мы говорили об одном из методов Transfer Learning — выделении признаков. Сегодня продолжим разговор о трансферном обучении и затронем ещё один метод использования предварительно обученных архитектур — Fine Tuning (дообучение). Читайте далее, как замораживать и размораживать блоки моделей TensorFlow, а также как повысить точность модели, дообучив последние слои для решения задачи распознавания образов.
Fine Tuning что это
В отличие от feature extraction, суть дообучения (Fine Tuning) заключается в размораживании последних слоев нейронной сети (Neural Net) и их обучении. Таким образом, корректируются слои, которые имеют наиболее абстрактные представления. Производя дообучение только нескольких слоев, мы уменьшаем риск переобучения (overfitting). И самое главное, это позволяет сделать текущую модель ещё более подходящей к нашей задаче.
Если верхние слои следует дообучить, то полносвязные слои нужно заменить на свои и тоже обучить. Процедура Fine tuning состоит в следующем:
Первые 3 шага обсуждались в прошлой раз, когда к замороженной сверточной основе поверх добавили свой полносвязный классификатор. Пример на Python для создания и обучения своего полносвязного классификатора TensorFlow выглядит так:
Поскольку мы заморозили сверточную основу сети VGG16 в первой строчке, то её коэффициенты после обучения никак не изменились, в отличие от добавленных полносвязных слоев (Dense). Теперь нужно разморозить последние слои сверточной основы.
Размораживание заданных слоев
Вызовом метода conv_base.summary() можно узнать название всех слоев, а также количество параметров. Мы разморозим только последний блок под номером 5, который содержит 3 сверточных слоя и слой Pooling. Пример кода на Python для замораживания все блоков сверточной основы архитектуры VGG16, кроме 5-го:
Обучение модели TensorFlow
Теперь можем приступить к 5-му шагу и обучить размороженный блок с полносвязным классификатором. Мы выбрали оптимизатор RMSProp с очень маленькой скоростью обучения (learning rate), чтобы ограничить размах изменений. Большие изменения повредят обученные локальные представления. Пример кода на Python для компиляция и обучения модели TensorFlow:
Также мы добавили в качестве обратного вызова инструмент визуализации TensorBoard. Инициализации TensorBoard в ipynb-блокноте или в Google Colab выглядит так:
Точность и функция потерь (синие линии — валидационная выборка)
Таким образом, точность модели Machine Learning достигла 93% на валидационной выборке. Это лучше, чем использование только одного метода выделения признаков, обсуждаемого в прошлой статье.
О том, как применять Fine tuninng на реальных моделях Machine Learning, а также как производить обучение моделей TensorFlow, вы узнаете на нашем специализированном курсе «VISI: Computer Vision» в лицензированном учебном центре обучения и повышения квалификации IT-специалистов в Москве.
Transfer Learning: как быстро обучить нейросеть на своих данных
Машинное обучение становится доступнее, появляется больше возможностей применять эту технологию, используя «готовые компоненты». Например, Transfer Learning позволяет использовать накопленный при решении одной задачи опыт для решения другой, аналогичной проблемы. Нейросеть сначала обучается на большом объеме данных, затем — на целевом наборе.
В этой статье я расскажу, как использовать метод Transfer Learning на примере распознавания изображений с едой. Про другие инструменты машинного обучения я расскажу на воркшопе «Machine Learning и нейросети для разработчиков».
Если перед нами встает задача распознавания изображений, можно воспользоваться готовым сервисом. Однако, если нужно обучить модель на собственном наборе данных, то придется делать это самостоятельно.
Для таких типовых задач, как классификация изображений, можно воспользоваться готовой архитектурой (AlexNet, VGG, Inception, ResNet и т.д.) и обучить нейросеть на своих данных. Реализации таких сетей с помощью различных фреймворков уже существуют, так что на данном этапе можно использовать одну из них как черный ящик, не вникая глубоко в принцип её работы.
Однако, глубокие нейронные сети требовательны к большим объемам данных для сходимости обучения. И зачастую в нашей частной задаче недостаточно данных для того, чтобы хорошо натренировать все слои нейросети. Transfer Learning решает эту проблему.
Transfer Learning для классификации изображений
Нейронные сети, которые используются для классификации, как правило, содержат N выходных нейронов в последнем слое, где N — это количество классов. Такой выходной вектор трактуется как набор вероятностей принадлежности к классу. В нашей задаче распознавания изображений еды количество классов может отличаться от того, которое было в исходном датасете. В таком случае нам придётся полностью выкинуть этот последний слой и поставить новый, с нужным количеством выходных нейронов
Зачастую в конце классификационных сетей используется полносвязный слой. Так как мы заменили этот слой, использовать предобученные веса для него уже не получится. Придется тренировать его с нуля, инициализировав его веса случайными значениями. Веса для всех остальных слоев мы загружаем из предобученного снэпшота.
Существуют различные стратегии дообучения модели. Мы воспользуемся следующей: будем тренировать всю сеть из конца в конец (end-to-end), а предобученные веса не будем фиксировать, чтобы дать им немного скорректироваться и подстроиться под наши данные. Такой процесс называется тонкой настройкой (fine-tuning).
Структурные компоненты
Для решения задачи нам понадобятся следующие компоненты:
В нашем примере компоненты (1), (2) и (3) я буду брать из собственного репозитория, который содержит максимально легковесный код — при желании с ним можно легко разобраться. Наш пример будет реализован на популярном фреймворке TensorFlow. Предобученные веса (4), подходящие под выбранный фреймворк, можно найти, если они соответствуют одной из классических архитектур. В качестве датасета (5) для демонстрации я возьму Food-101.
Модель
В качестве модели воспользуемся классической нейросетью VGG (точнее, VGG19). Несмотря на некоторые недостатки, эта модель демонстрирует довольно высокое качество. Кроме того, она легко поддается анализу. На TensorFlow Slim описание модели выглядит достаточно компактно:
Веса для VGG19, обученные на ImageNet и совместимые с TensorFlow, скачаем с репозитория на GitHub из раздела Pre-trained Models.
Датасет
В качестве обучающей и валидационной выборки будем использовать публичный датасет Food-101, где собрано более 100 тысяч изображений еды, разбитых на 101 категорию.
Скачиваем и распаковываем датасет:
Пайплайн данных в нашем обучении устроен так, что из датасета нам понадобится распарсить следующее:
Все вспомогательные функции, ответственные за обработку данных, вынесены в отдельный файл data.py :
Обучение модели
Код обучения модели состоит из следующих шагов:
После запуска обучения можно посмотреть на его ход с помощью утилиты TensorBoard, которая поставляется в комплекте с TensorFlow и служит для визуализации различных метрик и других параметров.
В конце обучения в TensorBoard мы наблюдаем практически идеальную картину: снижение Train loss и рост Validation Accuracy
Тестирование модели
Теперь протестируем нашу модель. Для этого:
Весь код, включая ресурсы для построения и запуска Docker контейнера со всеми нужными версиями библиотек, находятся в этом репозитории — на момент прочтения статьи код в репозитории может иметь обновления.
На воркшопе «Machine Learning и нейросети для разработчиков» я разберу и другие задачи машинного обучения, а студенты к концу интенсива сами представят свои проекты.
fine tuning
1 fine tuning
острая настройка
—
[Л.Г.Суменко. Англо-русский словарь по информационным технологиям. М.: ГП ЦНИИС, 2003.]
Тематики
точная настройка
—
[Я.Н.Лугинский, М.С.Фези-Жилинская, Ю.С.Кабиров. Англо-русский словарь по электротехнике и электроэнергетике, Москва, 1999 г.]
Тематики
2 fine tuning
3 fine tuning
4 fine tuning
5 fine tuning
6 fine tuning
7 fine tuning
8 fine tuning
9 fine tuning
10 fine-tuning
11 fine tuning
12 fine tuning
13 fine-tuning
14 fine tuning
15 fine tuning
16 fine tuning
17 fine-tuning
18 fine-tuning
19 fine tuning
20 fine-tuning
См. также в других словарях:
Fine Tuning — refers to the process of making small modifications to improve or optimize the outcome. Generally, fine tuning seeks to increase the effectiveness or efficiency of a process or function. Fine tuning can be accomplished through a variety of… … Investment dictionary
fine-tuning — fine tune UK US verb [T] ► to make small changes to something in order to make it as good as possible: »The training program helped him fine tune his skill set. »The company s aim is to fine tune its manufacturing system. fine tuning noun [U] ►… … Financial and business terms
fine-tuning — fine tunˈing noun • • • Main Entry: ↑fine * * * ˌfine ˈtuning ; noun uncountable • The system is set up but it needs some fine tuning … Useful english dictionary
fine tuning — Small adjustments to improve something or to get it working are called fine tuning … The small dictionary of idiomes
Fine-tuning — In theoretical physics, fine tuning refers to circumstances when the parameters of a model must be adjusted very precisely in order to agree with observations. Theories requiring fine tuning are regarded as problematic in the absence of a known… … Wikipedia
Fine Tuning — Infobox Radio Station name = Fine Tuning area = United States Canada branding = slogan = The World s Most Interesting Music airdate = 2001 frequency = XM 76 format = Eclectic owner = XM Satellite Radio Radio Station website =… … Wikipedia
fine tuning — Small adjustments to improve something or to get it working are called fine tuning. (Dorking School Dictionary) *** Small changes to something to improve it or make it work better are called fine tuning. We are still fine tuning… … English Idioms & idiomatic expressions
fine tuning — tikslusis derinimas statusas T sritis fizika atitikmenys: angl. fine tuning; sharp tuning vok. Feinabstimmung, f; Feineinstellung, f; Scharfeinstellung, f rus. острая настройка, f; тонкая настройка, f; точная настройка, f pranc. accord précis, m; … Fizikos terminų žodynas
fine tuning — tikslusis derinimas statusas T sritis automatika atitikmenys: angl. fine adjustment; fine tuning vok. Feinabstimmung, f; Feinjustierung, f rus. тонкая настройка, f; точная юстировка, f pranc. accord précis, m; alignement précis, m … Automatikos terminų žodynas
Fine-tuning — Ajustement fin En physique, la notion d ajustement fin (fine tuning en anglais) se réfère à une situation où un certain nombre de paramètres doivent avoir une valeur incroyablement précise (par exemple à 10 40 près) pour pouvoir rendre compte de… … Wikipédia en Français
Fine tuning — Ajustement fin En physique, la notion d ajustement fin (fine tuning en anglais) se réfère à une situation où un certain nombre de paramètres doivent avoir une valeur incroyablement précise (par exemple à 10 40 près) pour pouvoir rendre compte de… … Wikipédia en Français
