Dropout

Отличие второго высшего от профессиональной переподготовки

Цель

Согласно ФЗ «Об образовании в Российской Федерации», смысл второго высшего образования заключается в подготовке высококвалифицированных кадров, у которых уже есть профессия. У профессиональной переподготовки такой цели нет

Под ней подразумевается получение конкретных знаний, квалификации и навыков – самое важное, что пригодится специалисту в новой профессии

Согласно статистике, второе высшее склонны получать люди с большим количеством времени – то есть молодежь до 30 лет. Профпереподготовке отдают предпочтение работающие люди, многие из которых уже состоялись в основной профессии и занимают руководящие посты.

Место обучения

Второе высшее можно получить только в вузе, а вот выбор, где пройти профессиональную переподготовку, уже куда шире — отучиться можно как в частных, так и в государственных учебных центрах.

Итоговый документ

Самая большая путаница – между вторым дипломом о высшем образовании и дипломом о профессиональной переподготовке. Вуз вручает готовому специалисту, сдавшему итоговый экзамен, диплом государственного образца для бакалавра, магистра или специалиста.

Подразумевается, что диплом о втором высшем равен первому диплому и позволяет выпускнику заниматься новым видом деятельности.

В случае профессиональной переподготовки выдается диплом установленного образца. При этом по закону профпереподготовка приравнивается ко второму высшему, поэтому оба документа считаются равноценными.

При этом не возбраняется, если человек проходит профпереподготовку параллельно с получением основного образования. Согласно закону, диплом ему должны выдать одновременно с документом о высшем или среднем профессиональном образовании и присвоением квалификации.

Условия обучения

Получать второе высшее можно только на основе уже имеющегося высшего образования. К обучению допускаются обладатели диплома бакалавра, специалиста, либо магистры. Также возможно получить второе высшее после ординатуры, ассистентской стажировки или программы подготовки научно-педагогических кадров. При этом магистратура не считается вторым высшим образованием.

Профпереподготовку же можно проходить при наличии как высшего, так и среднего профессионального образования.

Определения

Основные обозначения:

— подмножество (выборка) объектов из множества объктов ,

— множество алгоритмов,

— функция потерь, значение есть величина потерь, возникающих при применении алгоритма  к объекту .

Средней потерей алгоритма  на выборке  называется величина

Пусть — вероятностное пространство.
Ожидаемой потерей алгоритма  называется величина

Если функция бинарная (возвращяет либо 0, либо 1), то  называется частотой ошибок, а  — вероятностью ошибки алгоритма .

Не столь важно, что скрывается за термином «алгоритм». Это могут быть в частности, решающие правила в задачах классификации и распознавания образов, функции регрессии в задачах восстановления регрессии илипрогнозирования, и т. п.. Определение.
Методом обучения (или алгоритмом обучения) называется отображение , которое произвольной обучающей выборке ставит в соответствие некоторый алгоритм .

Определение.
Методом обучения (или алгоритмом обучения) называется отображение , которое произвольной обучающей выборке ставит в соответствие некоторый алгоритм .

Вероятность переобучения (частотное определение)

Определение.
Переобученностью алгоритма относительно контрольной выборки называется разность

Определение.
Вероятностью переобучения называется вероятность того, что величина переобученности превысит заданный порог :

где вероятность можно понимать в смысле равномерного распределения на множестве всех разбиений выборки на наблюдаемую обучающую и скрытую контрольную .

Вероятность переобучения может быть измерена эмпирически методом Монте-Карло,
см. также скользящий контроль:

где —  случайных разбиений заданной выборки на обучающую подвыборку и контрольную подвыборку .

Вероятность переобучения (вероятностное определение)

Определение.
Переобученностью алгоритма называется разность

Определение.
Вероятностью переобучения называется вероятность того, что величина переобученности превысит заданный порог :

где — вероятность в пространстве случайных незавичимых выборок , взятых из одного и того же неизвестного распределения.

Недостатки вероятностного определения:

• Сложность эмпирического измерения при неизвестной вероятностной мере.
• Большинство верхних оценок для выводятся через оценки для с помощью Леммы о симетризации. При это снижается точность оценок.

О природе переобучения

Переобучение в задаче прогнозирования долгосрочного результата хирургического лечения атеросклероза.

Эмпирическим риском называется средняя ошибка алгоритма на обучающей выборке.
Метод минимизации эмпирического риска (empirical risk minimization, ERM) наиболее часто применяется для построения алгоритмов обучения.
Он состоит в том, чтобы в рамках заданной модели выбрать алгоритм, имеющий минимальное значение средней ошибки на заданной обучающей выборке.

С переобучением метода ERM связано два утверждения, которые на первый взгляд могут показаться парадоксальными.

Утверждение 1.
Минимизация эмпирического риска не гарантирует, что вероятность ошибки на тестовых данных будет мала.
Легко строится контрпример — абсурдный алгоритм обучения, который минимизирует эмпирический риск до нуля, но при этом абсолютно не способен обучаться.
Алгоритм состоит в следующем.
Получив обучающую выборку, он запоминает её и строит функцию, которая сравнивает предъявляемый объект с запомненными обучающими объектами.
Если предъявляемый объект в точности совпадает с одним из обучающих, то эта функция выдаёт для него запомненный правильный ответ.
Иначе выдаётся произвольный ответ (например, случайный или всегда один и тот же).
Эмпирический риск алгоритма равен нулю, однако он не восстанавливает зависимость и не обладает никакой способностью к обобщению.

Вывод: для успешного обучения необходимо не только запоминать, но и обобщать.

Утверждение 2.
Переобучение появляется именно вследствие минимизации эмпирического риска.
Пусть задано конечное множество из D алгоритмов, которые допускают ошибки независимо и с одинаковой вероятностью.
Число ошибок любого из этих алгоритмов на заданной обучающей выборке подчиняется одному и тому же биномиальному распределению.
Минимум эмпирического риска — это случайная величина, равная минимуму из D независимых одинаково распределённых биномиальных случайных величин.
Её ожидаемое значение уменьшается с ростом D.
Соотвественно, с ростом D увеличивается переобученность — разность вероятности ошибки и частоты ошибок на обучении.

В данном модельном примере легко построить доверительный интервал переобученности, так как функция распределения минимума известна.
Однако в реальной ситуации алгоритмы имеют различные вероятности ошибок, не являются независимыми,
а множество алгоритмов, из которого выбирается лучший, может быть бесконечным.
По этим причинам вывод количественных оценок переобученности является сложной задачей, которой занимается теория вычислительного обучения.
До сих пор остаётся открытой проблема сильной завышенности верхних оценок вероятности переобучения.

Утверждение 3.
Переобучение связано с избыточной сложностью используемой модели. Всегда существует оптимальное значение сложности модели, при котором переобучение минимально.

График зависимости средней потери на обучении и на контроле от степени полинома.

Пример.
Рассмотрим задачу аппроксимации вещественной функции по обучающей выборке из 50 точек . Это равномерная сетка на отрезке .

В качестве модели рассмотрим полиномы заданной степени :

В качестве метода обучения возьмём метод наименьших квадратов:

Таким образом, функция потерь квадратична:
.

Возьмём контрольную выборку — также равномерную сетку на отрезке , узлы которой находятся в точности между узлами первой сетки: .

Зададимся вопросом:
что будет на контрольной выборке при увеличении степени полинома ?
Степень связана с числом свободных параметров модели, то есть играет роль сложности модели.

Ниже показаны графики самой выборки и аппроксимирующей функции:

• при — недообучение.
• при — оптимальная сложность модели.
• при — неустойчивость и переобучение.