Редакционная пометка. Статья восстановлена по сохранившимся репликам разговора от 16 октября 2026 года и по его основным темам. Прямые слова Романа приведены как цитаты; объясняющий текст написан заново для публикации. Это не дословная стенограмма.
Сделаем нейросеть сами
Всё началось с довольно простой просьбы:
Роман: «Давай сделаем простейшую нейросеть».
Когда говорят «нейросеть», воображение обычно рисует ChatGPT, генерацию изображений или что-то столь же сложное. Но для знакомства с принципом работы необязательно начинать с миллионов параметров. Достаточно одного искусственного нейрона.
Он получает числа на вход, умножает каждое на определённый вес, складывает результаты и решает, выдавать ли сигнал на выходе.
Например, для двух входов:
Здесь и — входные значения, а и — веса. Веса определяют, насколько сильно каждый вход влияет на решение.
В простейшем пороговом нейроне ответ равен 1, если сумма достигла установленного порога , и 0 — если не достигла:
Это ещё не ChatGPT. Но здесь уже есть главное: числа на входе, настраиваемые параметры и правило получения ответа.
Хорошо бы увидеть, как это работает
Следующим пожеланием стал интерфейс:
Роман: «Можно к этой программе приделать интерфейс?»
Идея оказалась полезной: гораздо легче понять нейрон, если можно менять веса и порог и сразу смотреть, как меняется результат.
Но интуитивная ясность пришла не сразу.
Роман: «До понимания мне еще как до Луны».
Именно поэтому мы решили не перескакивать к сложным сетям, а задержаться на одном понятии — пороге срабатывания.
Порог — это граница, после которой нейрон говорит «да», то есть выдаёт 1. Сам порог не имеет смысла отдельно от весов: важно, какую сумму создают входные сигналы.
Возьмём веса .
При пороге 1 нейрон реализует логическое «ИЛИ»: достаточно, чтобы хотя бы один вход был равен 1.
| Первый вход | Второй вход | Сумма | Выход при пороге 1 |
|---|---|---|---|
| 0 | 0 | 0 | 0 |
| 0 | 1 | 1 | 1 |
| 1 | 0 | 1 | 1 |
| 1 | 1 | 2 | 1 |
Роман: «Даже если порог 1, все равно „или“».
Да, именно так — при этих весах и правиле срабатывания . Чтобы получить «И», можно поднять порог до 2: тогда оба входа должны быть равны единице.
Здесь мы обнаружили важную вещь: один и тот же нейрон может вести себя по-разному в зависимости от весов и порога. Меняется не программа вычисления, а её параметры.
Кто это придумал?
Почти неизбежно возник исторический вопрос:
Роман: «А кто вообще тот гений кто придумал нейросеть?»
У этой истории нет одного-единственного автора. Уоррен Мак-Каллок и Уолтер Питтс предложили раннюю математическую модель искусственного нейрона в 1943 году. Позже Фрэнк Розенблатт разработал перцептрон — систему, которая могла изменять свои параметры в процессе обучения на примерах.
Роман: «Так все-таки, Розенблатт это тот кто стоит у истоков?»
Да, один из ключевых исследователей ранних обучаемых нейронных сетей. Но у истоков стояли несколько учёных и несколько разных идей. Важно различать модель искусственного нейрона и перцептрон как обучаемую систему.
И ещё одно различие: пороговый нейрон, которому мы сами выставили веса, не обязательно обучается. Обучение начинается там, где существует правило, позволяющее изменять параметры по результатам работы.
А какие сети бывают ещё?
Роман: «Кроме перцептрона, какие бывают сети? Чем отличаются?»
Нейросети различаются не только числом нейронов. У них бывает разная архитектура — то есть разные способы организации вычислений и передачи информации.
Например:
- Многослойные полносвязные сети пропускают данные через несколько последовательных слоёв нейронов.
- Свёрточные сети (CNN) особенно известны применениями к изображениям: они используют локальные фильтры, распознающие особенности входных данных.
- Рекуррентные сети (RNN) обрабатывают последовательности и используют информацию о предыдущих шагах.
- Трансформеры применяют механизм внимания для работы со взаимосвязями между элементами последовательности. На этой архитектуре основано множество современных языковых моделей.
- Автоэнкодеры учатся представлять данные в сжатой или преобразованной форме и затем восстанавливать их.
Все они родственны по общей идее настраиваемых параметров и вычислений, но устроены и обучаются не совершенно одинаково.
Почему одного нейрона недостаточно?
В конце разговора возник вопрос, который стал мостом ко второй статье.
Простейший пороговый перцептрон с двумя входами может реализовать «И» и «ИЛИ». Но существует операция, с которой он не справляется, как ни меняй веса и порог, — XOR, исключающее «ИЛИ».
XOR выдаёт 1, если входы различаются, и 0, если они одинаковы.
| Первый вход | Второй вход | XOR |
|---|---|---|
| 0 | 0 | 0 |
| 0 | 1 | 1 |
| 1 | 0 | 1 |
| 1 | 1 | 0 |
Почему этот случай особенный? Потому что один пороговый нейрон разделяет входные точки прямой линией, а точки XOR одной прямой правильно разделить нельзя.
Вот тут и появляется следующий вопрос: если один нейрон не справляется, могут ли справиться несколько, соединённых вместе?
Во второй статье мы попробуем ответить на него — и от трёх нейронов доберёмся до производных, градиентного спуска и обратного распространения ошибки.
Роман и Астра (ChatGPT). По мотивам диалога от 16 октября 2026 года; редакционная реконструкция с сохранением подтверждённых реплик.
Комментарии
Загрузка комментариев…