СoCalc as a Learning Tool for Neural Network Simulation in the Special Course “Foundations of Mathematic Informatics”

Abstract

The role of neural network modeling in the learning сontent of special course “Foundations of Mathematic Informatics” was discussed. The course was developed for the students of technical universities – future IT-specialists and directed to breaking the gap between theoretic computer science and it’s applied applications: software, system and computing engineering. CoCalc was justified as a learning tool of mathematical informatics in general and neural network modeling in particular. The elements of technique of using CoCalc at studying topic “Neural network and pattern recognition” of the special course “Foundations of Mathematic Informatics” are shown. The program code was presented in a CofeeScript language, which implements the basic components of artificial neural network: neurons, synaptic connections, functions of activations (tangential, sigmoid, stepped) and their derivatives, methods of calculating the network`s weights, etc. The features of the Kolmogorov–Arnold representation theorem application were discussed for determination the architecture of multilayer neural networks. The implementation of the disjunctive logical element and approximation of an arbitrary function using a three-layer neural network were given as an examples. According to the simulation results, a conclusion was made as for the limits of the use of constructed networks, in which they retain their adequacy. The framework topics of individual research of the artificial neural networks is proposed. Обговорено роль нейромережевого моделювання у змісті навчання спецкурсу «Основи математичної інформатики» для студентів технічних університетів – майбутніх фахівців з інформаційних технологій, спрямованого на подолання розриву між теоретичною інформатикою та її прикладними застосуваннями: програмною, системною та комп’ютерною інженерією. Обґрунтовано вибір CoCalc як засобу навчання основи математичної інформатики у цілому та нейромережевого моделювання зокрема. Наведено елементи методики використання CoCalc у навчанні теми «Нейронні мережі та розпізнавання образів» спецкурсу «Основи математичної інформатики». Наведено програмний код мовою CoffeeScript, що реалізує основні компоненти штучної нейронної мережі: нейрони, синаптичні з’єднання, функції активації (тангенціальна, сигмоїдальна, ступінчаста) та їх похідні, методи обчислення вагових коефіцієнтів мережі та ін. Обговорено особливості застосування теореми Колмогорова для визначення архітектури багатошарових нейронних мереж. Подано приклади реалізації диз’юнктивного логічного елементу та апроксимації довільної функції з використанням тришарової нейронної мережі. За результатами моделювання зроблено висновок про межі застосування побудованих мереж, в яких вони зберігають адекватність. Запропоновано рамкову тематику індивідуальних навчально-дослідних проектів із побудови штучних нейронних мереж.