Источник картинки
Процесс обучения нейросетей до сих пор мало изучен. Об этом заявил ученый, специалист в области информационных технологий, ректор Сколковского института науки и технологий, председатель ученого совета ИППИ РАН, академик РАН Александр Кулешов в интеврю газете «Коммерсант» в мае 2016 года.
«До сих пор математического объяснения работе нейронных сетей не существует. Грубо говоря, мы не понимаем законов физики, которые задействованы в их работе», - заявил Кулешов.
Сейчас в среде ведущих математиков во всем мире начался негласный конкурс. Они соревнуются в том, кто первый опоймет, как все это устроено. Многие математики относятся к этой задаче как к главному вызову в жизни.
«Да, удивительная вещь, но в этом отношении мы вернулись в XVI век, когда ученые наблюдали какой-то эффект, но не могли его объяснить. Человечество не сталкивалось с подобным, наверное, со времен Галилея. Это касается нейронных систем, так называемых систем Deep learning — глубинного обучения, и так далее», - рассказал математик.
Он добавил, что существует подход к изучению, базирующийся на работе сетей с большим количеством уровней, которые умеют неизвестным нам образом тренироваться. Туда вносится определенный объем данных, который сети обрабатывают и выдают новый продукт.
«Сам этот процесс обучения на самом деле достаточно мистический, потому что непонятно, как это происходит. Там, внутри, конечно, работают некоторые математические алгоритмы, в том числе оптимизационные и тому подобные, но как в целом устроен процесс, мы не понимаем. В мире есть математические гуру, которые умеют создавать настоящие нейронные сети. Это похоже на кулинарный рецепт наших бабушек, которые всего добавляли по щепотке на глаз, но на словах не могли объяснить, как же варить щи», - рассказал Кулешов.