Аналитичность функций как основа прогнозирования и моделирования в машинном обучении

• СЕМЕНОВ Александр Александровичнаучный сотрудник ФКУ НПО «СТиС» МВД Россииmail@law-books.ru
• ГОНЧАР Владимир ВладимировичДоцент кафедры информационных технологий и организации расследования киберпреступлений Московская академия Следственного комитета Российской Федерации имени А.Я. Сухареваvg0778@bk.ru

В работе рассматривается аналитичность функции как ключевое свойство, определяющее возможность прогнозирования её значений по ограниченным данным. Показано, что степень аналитичности связана с непрерывностью, гладкостью и поведением производных различных порядков. Анализируется роль производных и их численного вычисления при отсутствии явного выражения функции, а также связь с рядом Тейлора. Подчеркивается, что методы прогнозирования, включая машинное обучение, опираются на предположение об аналитичности, а её уровень напрямую влияет на точность восстановления и интерпретации зависимостей.

Ключевые слова: аналитичность функции, производная, высшие производные, непрерывность, гладкость функции, разрыв функции, ряд Тейлора, численные методы, прогнозирование, машинное обучение, аппроксимация функций, математическая интуиция, анализ данных

Существует бесчисленное количество способов описать нейросеть, которая гипотетически могла бы решать прикладную задачу, и бесчисленное количество способов выстроить процесс машинного обучения нейросети. Вся суть работы специалиста по машинному обучению заключается в подборе, настройке и обучении нейросети таким образом, чтобы это действительно привело к положительному результату. Помимо опыта, который применим не всегда, у него существует только один инструмент для решения этой проблемы – математическая интуиция. Последняя во многом основывается на глубоком понимании природы такого фундаментального понятия, как аналитичность функции (здесь и далее по тексту подразумевается (если не оговорено обратное), что функция может иметь несколько входных аргументов и несколько выходных значений). При этом могут использоваться упрощенные иллюстрации.

Аналитичность есть не у всех функций.

Однако все функции, известные из школьной математики, а также почти все функции, выражающие зависимости из реального мира, ею до какой-то степени обладают. Это объясняется тем, что за каждой функцией скрывается какая-то закономерность, знание нескольких значений функции зачастую дает представление о природе этой закономерности и позволяет судить о функции в целом. На рисунке 1 изображены графики трех разных функций, при этом левая сторона во всех случаях закрыта, но читатель без труда может мысленно дорисовать загороженную сторону графика. Это – проявление аналитичности функции.

Рисунок 1. Графики трех разных функций Разные функции могут обладать аналитичностью в разной степени, и даже одна функция может обладать аналитичностью в разной степени в разных точках. На рисунке 2 приведены два графика одной и той же функции, но на картинке слева загорожена средняя часть графика, а на картинке справа – наоборот, боковые части. Нетрудно заметить, что восстановить недостающую часть графика на левой картинке интуитивно проще, чем на правой. Причина в том, что на картинке слева можно наблюдать функцию на тех участках, где ее поведение более ярко выражено, т. е. ее график более информативен.

Рисунок 2. Два графика функций с загороженными частями Попробуем теперь разобраться с тем, какие математические понятия позволяют выразить наше интуитивное представление аналитичности функции. Рассмотрим для этого более сложные функции на рисунке 3 Функция f1 разрывная и, конечно, по одному фрагменту этой функции совершенно нельзя предсказать другой. Вертикальным передвижением фрагментов графика функции f1 получена функция f2, уже без разрывов, но ее поведение резко преломляется в тех же трех точках, что и у функции f1. Может показаться, что функции f1 и f2 в равной степени почти не обладают аналитичностью. Однако это не совсем так, ведь понимание того, что функция f2 непрерывна, позволяет по крайней мере знать, что значения функции в двух близких к слому точках по разные стороны от слома близки, в то время как для функции f1 эти значения могут быть совершенно разными. Таким образом, функция f2 все же более предсказуема, чем функция f1, т. е. более аналитична. Однако наличие точек слома все же делает ее достаточно непредсказуемой. Функция f3 получена из функции f2 сглаживанием в небольшой окрестности точек слома. Так, функция f3 уже не обладает угловатостями. Однако все равно ясно, что ее значения на одних прямых участках совершенно ничего не говорят о значениях на других. Тем не менее, эта функция все же более аналитична, чем f2, поскольку на ее кривых участках по их кривизне можно судить об угле наклона соседних прямых участков. Таким образом, с одной стороны, ликвидация разрывов и угловатостей делает функцию более аналитичной, с другой стороны, если на разных участках функция обладает разной природой, то все же ее аналитичность останется ограниченной.

Рисунок 3. Сложные функции

Вспомним теперь понятие производной функции. Про производную функции от одной переменной со школы известно следующее:

– производная f ’ функции f – это скорость того, как быстро меняется значение функции f, если изменяется ее аргумент x; – если нарисован график функции, то тангенс угла наклона касательной прямой линии к графику функции в точке равен значению производной функции в этой точке; – для некоторых функций есть формулы, по которым можно посчитать их производные; 7 – производная f ’ функции f сама является функцией, ее производная называется второй производной функции f и обозначается f ’’, аналогично вводятся третья, четвертая и т. д. производные.

На рисунке 3 функция f2 непрерывна, в отличие от f1, однако ее производная f2’ прерывается в трех точках, что выглядит, как излом. Функция f3 не имеет сломов, т. е. ее производная f3’ непрерывна. Однако скорость изменения ее первой производной, т. е. ее вторая производная f3’’, все же резко прерывается в точках пересечения с пунктирными линиями. Это сложно заметить невооруженным глазом, но можно осознать, если вдуматься в то, что производная – скорость изменения функции: на участке, где график функции прямой, она меняется равномерно, т. е. ее первая производная одинакова на всем участке; раз первая производная одинакова, т. е. не меняется, то скорость ее изменения равна нулю, т. е. нулю равна вторая производная; напротив, если функция не линейна на участке, то ее первая производная не постоянна и, следовательно, вторая производная не равная нулю. Обратим внимание, что само название «производная» как бы подсказывает, что производная является функцией, которая не существует сама по себе, а происходит от исходной функции. Этот термин очень неудачен, поскольку в реальном мире дела обстоят ровно наоборот: не машина имеет скорость, потому что перемещается, а машина перемещается, потому что у нее есть скорость; в свою очередь скорость машины меняется, потому что крутящиеся колеса создают ускорение, а не наоборот; колеса крутятся тем быстрее, чем быстрее двигатель создает крутящий момент, а это происходит тем быстрее, чем быстрее водитель решит нажать на педаль газа, и т. д. После этого разъяснения должно стать проще понять логику аналитичности. Представим какую-то функцию, отражающую некоторую зависимость в реальном мире. Эта зависимость уходит корнями в законы физики, химии и т. д. Если в каком-то из факторов, оказывающих влияние на значение функции, произошло неожиданное изменение, то резко меняется значение какой-то по счету производной функции и, как следствие, в результате меняется поведение функции, т. е. теряется ее аналитичность. Чем меньше уровень производной, в которой произошло изменение, и чем больше изменение, тем быстрее это изменение окажет влияние на производные меньшего уровня и, в конце концов, на саму функцию, т. е. тем меньше ее аналитичность.

Функции, выражающие физические зависимости, могут иметь бесконечное число производных, так как в реальном мире ничто не происходит само по себе и у любого события есть какая-то физическая причина. Правда, влияние этих причин дальнего порядка настолько незначительно, что тонет в погрешностях и потому не прослеживается. В чистой же математике можно предположить отсутствие всяких погрешностей, в такой ситуации у функции можно найти все (т. е. бесконечное число) ее производные. Именно на этом основана идея ряда Тейлора (формула на рисунок 4).

Рисунок 4. Идея ряда Тейлора

Ряд Тейлора позволяет приблизительно представить функцию f в некоторой области вокруг точки x0 через сумму бесконечного числа слагаемых, зависящих только от x, x0 и значений всех производных функции f в точке x0. Если отрезать часть слагаемых, то формула будет неточная, но все же даст хорошее приближенное значение для функции f. Ряд Тейлора не нужен нам для изуче- ния машинного обучения, однако он нужен для иллюстрации следующей мысли: знание всех производных аналитичной функции в некоторой точке позволяет получить всю информацию о функции в соседних точках, даже если изначально мы никакой информацией о функции в этих точках не обладаем. Однако ситуация, в которой нам известны значения всего бесконечного множества производных, все же создана искусственно: она имеет место только тогда, когда у нас есть запись функции в виде формулы.

Что делать, если на руках нет формулы для функции, как в этом случае считается производная? Казалось бы, можно посчитать первую производную пользуясь тем, что она равна тангенсу угла наклона касательной. Но как точно провести касательную? В общем случае это сделать невозможно, удовлетворяются тем, что если функция аналитична, то касательная к графику в точке x0 приблизительно параллельна линии, которая проведена через точки x0-d и x0+d графика функции при маленьком значении d (рисунок 5). Следует обратить внимание, что вычисление тангенса угла наклона касательной в этом случае как раз совпадает с вычислением производной через ее определение, т. е. то, как изменяется функция, делится на то, как поменялся аргумент (формула на рисунок 6).

Рисунок 5. График функции при малом значении d Рисунок 6. Деление аргумента (формула № 2.6) Теперь, когда определена формула первой производной, следует понять, как посчитать вторую и следующую производные. Здесь вспомним, что вторая производная f ’’ функции f является, в свою очередь, первой производной функции f ’, и для нее применимо то же самое правило. Применим формулу № 2.6 для второй производной, используя вместо d значение d/2, и подставим в нее значения первой производной, вычисленные по этой же формуле № 2.6, в результате получим формулу на рисунке 7.

Рисунок 7. Вычисление по формуле 2.6 с использованием d/2 (формула № 7) 7 Как видно, для вычисления первой производной было достаточно значений функции в двух точках, для второй производной понадобятся значения в трех точках и т. д. Чем больше значений функции можно использовать, тем больше производных можно определить и, следовательно, тем надежнее предсказывать поведение функции.

Рассмотрим пример. Положим, один велосипедист догоняет второго, а мы измеряем расстояние f между ними раз в секунду. Положим, что в первый момент времени расстояние было равно 100 метрам, через секунду – 102 метрам, и еще через секунду – 103 метрам. На первый взгляд, может показаться, что второй велосипедист отрывается от первого, но если посчитать вторую производную функции f, то обнаружится, что она меньше нуля, т. е. что через какое-то время расстояние начнет сокращаться (формула на рисунок 8).

Рисунок 8. Сокращение расстояния Если предположить, что первые две производные содержат достаточно информации о функции, то на основании этих простых вычислений можно сделать вывод: отстающий первый велосипедист догонит второго. Представим, что мы также сделали еще один замер расстояния через одну секунду после последнего, и оно составило 103.1 метра. Еще один замер позволяет вычислить третью производную (формула на рисунок 9).

Рисунок 9. Вычисление третьей производной Как видно из расчетов формулы № 9, значение третьей производной больше нуля и, следовательно, даже если какой-то период расстояние будет сокращаться, потом оно снова будет увеличиваться, т. е. первый велосипедист так и не догонит второго. Из данного примера видно, что любое измерение, даже на первый взгляд не дающее дополнительной информации, может перевернуть наше представление о природе изучаемой функции.

На практике, когда нет формульного выражения для функции, в прикладных программах вычисляют производные именно таким способом, какой мы рассмотрели выше. Это называется «численным» определением значения производной. Более того, если задача заключается не в том, чтобы спрогнозировать значение функции в некоторой точке по ее значениям в других точках, то для такого прогноза необязательно вычислять значения производных, существуют подходы, которые позволяют спрогнозировать значение функции без вычисления производных. Эти подходы отличаются друг от друга только тем, что обеспечивают разную точность в разных ситуациях. Однако их всех объединяет то, что все они строятся на понятии аналитичности функции.

Рассмотрим теперь две функции, изображенные на рисунке 10. График функции f2 ломаный, состоит из прямых отрезков, каждый из которых почти никак не характеризует поведение функции на других отрезках. С другой стороны, график функции f1 выглядит вполне гладким, благодаря чему кажется, что функция f1, вероятно, обладает значительно большей аналитичностью, чем f2. Обратим внимание, что значения функций f1 и f2 во многих точках совпадают. Представим себе теперь, что на практике возникла необходимость восстановить функцию f2 по ее значениям в пяти точках x1, x2, x3, x4 и x5. В таком случае, поскольку функция f1 гораздо более аналитична, при восстановлении функции по указанным значением получится что-то гораздо более похожее на f1, чем на f2.

Другими словами, поскольку при восстановлении функции по ее значениям неявно предполагается, что восстанавливаемая функция аналитична, то ее не аналитичные проявления как бы сглаживаются, усредняются.

Может показаться, что последние явление вредно, так как функции f1 и f2 все же обладают совершенно разным поведением. Однако у них есть одно общее свойство – обе заметно постепенно возрастают. Это свойство явно выражено в том, что у функции f1 во всех точках положительная первая производная, но совершенно никак не может быть определено ни на каком прямом участке графика функции f2. Тем не менее, это свойство явно прослеживается из графика f2, просто для его выявления необходимо пронаблюдать график функции на участке, гораздо большем характерной длины одного отрезка прямой, как бы с большой высоты (рисунок 10).

Рисунок 10. График функции на участке большем характерной длины одного отрезка прямой

Список литературы

1. Chen Zhang, Joohee Kim Video object detection with two-path convolutional LSTM pyramid. 2016. – URL: https://www.researchgate.net/ publication /343702579_Video_Object_Detection_ With_ Two-Path_ Convolutional_LSTM_ Pyramid/ fulltext/5f3b2658928 51cd302013482/Video-Object- Detection-With-Two-Path-Convolutional-LSTM- Pyramid.pdf/ (дата обращения: 16.01.2026).
2. Hanson A., Koutilya PNVR, Sanjukta Krishnagopal, Larry Davis Bidirectional Convolutional LSTM for the Detection of Violence in Videos. 2018. – URL: https://openaccess.thecvf.com/content_ eccv_2018_workshops/w10 /html/Hanson_ Bidirectional_Convolutional_LSTM_or_the_ Detection_of_ Violence_in_ Videos_ ECCVW_2018_ paper.html (дата обращения: 15.01.2026).
3. Howard A.G., Menglong Zhu, Bo Chen, Kalenichenko D. MobileNets: Efficient Convolutional 7 Neural Networks for Mobile Vision Applications. 2017. – URL: https://arxiv.org/pdf/1704.04861/ (дата обращения: 11.01.2026).
4. Iandola F.N., Han S., Moskewicz M.W., Ashraf K., Dally W.J., Keutzer K. SqueezeNet: AlexNet-level accuracy with 50x fewer parameters and <0.5MB model size Recognition. 2016. Published as a conference paper at ICLR. 2015. – URL: https:// www. researchgate.net/publication/ 301878495_ SqueezeNet_AlexNet-level_accuracy_ with_50x_ fewer_ parameters_ and_05MB_model_size (дата обращения: 10.01.2026).
5. Ioffe S., Szegedy C. Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift. 2015. – URL: https://arxiv. org/pdf/1502.03167/ (дата обращения: 13.01.2026).
6. Kaiming He, Xiangyu Zhang, Shaoqing Ren, Jian Sun Deep Residual Learning for Image Recognition. 2015. – URL: https://arxiv.org/ pdf/1512.03385 (дата обращения: 11.01.2026).
7. Kaiming He, Xiangyu Zhang, Shaoqing Ren, Jian Sun Spatial pyramid pooling in deep convolutional networks for visual recognition. 2015. – URL: https:// arxiv.org/pdf/1406.4729/ (дата обращения: 11.01.2026).
8. Krizhevsky I., Sutskever I., Hinton G.E. Imagenet classification with deep convolutional neural networks. 2012. – URL: https://proceedings. neurips.cc/paper_files/paper/2012/file/ c399862d3b9d6b76c8436e 924a68c45b-Paper.pdf (дата обращения: 12.01.2026).
9. Lavin A., Scott Gray Fast Algorithms for Convolutional Neural Networks. 2015. – URL: https:// arxiv.org/abs/1509.09308 (дата обращения: 11.01.2026).
10. Mikolov T., Kai Chen, Corrado G., Jeffrey Dean Efficient Estimation of Word Representations in Vector Space. 2013. – URL: https://arxiv.org/ abs/1301.3781 (дата обращения: 15.01.2026).
11. Norman P. Jouppi, Cliff Young, Nishant Patil and others In-Datacenter Performance Analysis of a Tensor Processing Unit. 2017. – URL: https:// arxiv.org/pdf/1704.04760 (дата обращения: 11.01.2026).
12. Ronneberger O., Fischer Ph., Brox Th. U-Net: Convolutional Networks for Biomedical Image Segmentation. 2015. – URL: https://arxiv.org/ pdf/1505.04597/ (дата обращения: 13.01.2026).
13. Szegedy C., Wei Liu, Chapel Hill, Yangqing Jia, Pierre Sermanet, Scott Reed, Dragomir Anguelov, Dumitru Erhan, Vincent Vanhoucke, Andrew Rabinovich Going Deeper with Convolutions. 2014. – URL: https://arxiv.org/pdf/1409.4842 (дата обращения: 12.01.2026)
14. Simonyan K., Zisserman A. Very Deep Convolutional Networks for Large-Scale Image Recognition. 2015. Published as a conference paper at ICLR 2015. – URL: https://arxiv.org/pdf/1409.1556 (дата обращения: 10.01.2026).
15. Wei Liu, Anguelov D., Erhan D., Szegedy C., Reed S., Cheng-Yang Fu, Berg A.C. SSD: Single Shot MultiBox Detector. 2016. – URL: https://arxiv. org/pdf/1512.02325 (дата обращения: 11.01.2026).
16. Официальный сайт ONNX. – URL: https:// onnx.ai/.
17. Основы технологий искусственного интеллекта: учебное пособие/ А.А. Семенов, В.В. Гончар, А.С. Эрдниев. – Московский университет МВД России имени В.Я, Кикотя, 2025. – 190с.
18. Финансовый мониторинг: учебное пособие / В.И. Глотов, А.У. Альбеков, О.Н. Тисен и др. – КноРус, 2022. – 198 с.
19. Тисен О.Н. Противодействие современным приемам и способам вербовки в международные террористические организации // Российская юстиция. 2018, №9. С. 51-54.
20. Овчинский А.С., Аветисян К.Р. Аудиальные воздействия на участников массовых мероприятий как объект административно-правового регулирования// Вестник Московского университета МВД. 2015. № 1-. С. 293-297.
21. Зиборов О.В., Аветисян К.Р. Комплексный подход при противоборстве организации массовых беспорядков// Вестник Московского университета МВД. 2023. № 7. С. 100-104.

Скачать