СoCalc as a Learning Tool for Neural Network Simulation in the Special Course “Foundations of Mathematic Informatics”

Abstract

The role of neural network modeling in the learning сontent of special course “Foundations of Mathematic Informatics” was discussed. The course was developed for the students of technical universities – future IT-specialists and directed to breaking the gap between theoretic computer science and it’s applied applications: software, system and computing engineering. CoCalc was justified as a learning tool of mathematical informatics in general and neural network modeling in particular. The elements of technique of using CoCalc at studying topic “Neural network and pattern recognition” of the special course “Foundations of Mathematic Informatics” are shown. The program code was presented in a CofeeScript language, which implements the basic components of artificial neural network: neurons, synaptic connections, functions of activations (tangential, sigmoid, stepped) and their derivatives, methods of calculating the network`s weights, etc. The features of the Kolmogorov’s theorem application were discussed for determination the architecture of multilayer neural networks. The implementation of the disjunctive logical element and approximation of an arbitrary function using a three-layer neural network were given as an examples. According to the simulation results, a conclusion was made as for the limits of the use of constructed networks, in which they retain their adequacy. The framework topics of individual research of the artificial neural networks is proposed.

У статті розглянута роль моделювання нейронної мережі в навчальному процесі спеціального курсу "Основи математичної інформатики". Курс був розроблений для студентів технічних університетів - майбутніх спеціалістів з інформаційних технологій та спрямований на подолання розриву між теоретичною інформатикою та її прикладними програмами: програмною, системною та комп’ютерною інженерією. CoCalc розглядається як навчальний інструмент математичної інформатики в цілому та, зокрема, для моделювання нейронних мереж. Показані елементи методики використання CoCalc при вивченні теми "Нейронні мережі та розпізнавання образів" спеціального курсу "Основи математичної інформатики". Код програми був представлений на мові CofeeScript, в якій реалізуються основні компоненти штучної нейронної мережі: нейрони, синаптичні з'єднання, функції активації (тангенціальні, сигмоїдні, ступінчасті) та їх похідні, методи розрахунку ваги мережі та ін. Обговорювалися особливості застосування теореми Колмогорова для визначення архітектури багатошарових нейронних мереж. В якості прикладів було наведено реалізацію диз'юнктивного логічного елемента та наближення довільної функції за допомогою тришарової нейронної мережі. Згідно результатів моделювання, було зроблено висновок щодо меж використання побудованих мереж, в яких вони зберігають свою адекватність. Запропоновано основні теми окремих досліджень штучних нейронних мереж.

В статье рассмотрена роль моделирования нейронной сети в учебном процессе специального курса "Основы математической информатики". Курс был разработан для студентов технических университетов - будущих специалистов по информационным технологиям и направлен на преодоление разрыва между теоретической информатикой и ее приложениями: программной, системной и компьютерной инженерией. CoCalc рассматривается как учебный инструмент математической информатики в целом и, в частности, для моделирования нейронных сетей. Показаны элементы методики использования CoCalc при изучении темы "Нейронные сети и распознавания образов" специального курса "Основы математической информатики". Код программы был представлен на языке CofeeScript, в которой реализуются основные компоненты искусственной нейронной сети: нейроны, синаптические соединения, функции активации (тангенциальные, сигмоидни, ступенчатые) и их производные, методы расчета веса сети и др. Обсуждались особенности применения теоремы Колмогорова для определения архитектуры многослойных нейронных сетей. В качестве примеров были приведены реализацию дизъюнктивного логического элемента и приближения произвольной функции с помощью трехслойной нейронной сети. Согласно результатам моделирования, был сделан вывод о границах использования построенных сетей, в которых они сохраняют свою адекватность. Предложены основные темы отдельных исследований искусственных нейронных сетей.