Что такое нейросеть и как работает. Level 1.

Генеральный директор Anthropic (конкурент GPT - Claude) признался, что они понятия не имеют, как работает ИИ

«Когда генеративная система искусственного интеллекта что-то делает, например, резюмирует финансовый документ, мы не имеем ни малейшего представления на конкретном или точном уровне, почему она делает тот или иной выбор — почему она выбирает одни слова вместо других или почему она иногда совершает ошибку, хотя обычно она точна»

На первый взгляд такое заявление от создателя может шокировать, но если задуматься, его можно понять. Давайте разбираться.

📜🕰️ Предыстория. Создание нейросети

В 1943 году два американских учёных, Мак‑Каллок и Питтс, работали в Университете Чикаго над супер задачей: научить машину самостоятельно, на примерах, находить закономерности в данных без ручного прописывания «если – то» правил.

Так как машина должна была учиться сама на примерах, как человек — вернее, как мозг человека, — создатели нейросети вдохновились именно им.

А именно:

1. Мозг состоит (в основном) из нервных клеток — нейронов
2. Миллионы нейронов по цепочке передают друг другу сигналы
3. Прежде чем передать сигнал, нейрон "оценивает" стоит ли передавать его дальше.

Таким образом, прежде чем сигнал окажется в финальной точке, он пройдёт миллионы таких "оценок", и если окажется достойным — мы пошевелим пальцем 😉

Мак-Каллок и Питтс выразили эти условия передачи сигналов по цепочке в формулах — когда нейрон «включается» и как он оценивает и передаёт сигналы дальше. Так они создали математическую модель и спустя семь лет, в 1950-х, модель перевели в программу. Дальше периодически дорабатывали: то откладывали в ящик, то возвращались к ней снова.

💡🧠 Принцип работы

Лучше объясним на примере,

Представим, что сигнал — это автомобиль, нейроны — перекрёстки, а «оценка» - светофоры. При обучении сеть настраивает работу светофоров так, чтобы наше авто как можно быстрее доехало до правильного пункта назначения.

Мы не знаем ни того, где находятся светофоры, ни того, как они работают: мы их не программируем. Всё это - «чёрный ящик».

Еще пример,

Допустим, у нас очень простая нейронная сеть для распознавания животных. Мы ничего ей не подсказываем и не программируем вручную. Мы даём миллион картинок с кошками и говорим — это кошка, но не объясняем почему. Сеть сама учится определять кошку — по размерам, форме морды, форме ушей и т.д.

Когда мы показываем ей тигра, а она говорит «это кошка», мы говорим «почти, но нет». И сеть сама перестраивает работу «светофоров» до тех пор, пока не даст правильный ответ.

После этого её обучение можно считать завершённым.

📌📊 По итогу

Возвращаясь к словам генерального директора Anthropic, Мы понятия не имеем, насколько тигр для нейросети — это не кошка😂 В этот чёрный ящик нельзя заглянуть.

Больше новостей 👉 Бинарный | Нейросети