Азбука ИИ

В последнее время на ФШ участились дискуссии на тему ИИ. При этом многие участники в своих суждениях часто основываются на недостаточном знании терминологии данной области и принципов функционирования систем искусственного интеллекта. В попытке внести хоть какую-то ясность написан данный текст.

Искусственный интеллект

Термин искусственный интеллект (artificial intelligence, AI) был предложен на заре компьютерной эры, в 1956, на семинаре, посвященном разработке методов решения логических задач, в городе Ганновере, США. Искусственный интеллект – это технический термин. Это не модель естественного интеллекта, не его аналог. Это вообще не интеллект (lда и вообще мы не знаем точно, что такое интеллект). Искусственный интеллект – это способность какого-либо искусственного, т.е. созданного человеком, устройства решать задачи, традиционно считающиеся прерогативой человеческого ума. Примеры таких задач – интеллектуальные игры (шахматы, шашки, го), логические рассуждения и доказательство теорем, распознавание образов – изображений, речи, машинописного и рукописного текста, машинизированный перевод.

Тест Тьюринга

Тест Тьюринга, вопреки практически всеобщему заблуждению, не определяет наличие интеллекта у компьютера. Тест Тьюринга описан в знаменитой статье 1950 года «Может ли машина мыслить» (Первоначальное название – «Вычислительные машины и разум», Computing Machinery and Intelligence). Тьюринг пишет:

“Я собираюсь рассмотреть вопрос «Могут ли машины мыслить?» Но для этого нужно сначала определить смысл терминов «машина» и «мыслить» … Вместо того, чтобы пытаться дать такого рода определения, я заменю наш вопрос другим, который тесно с ним связан и выражается словами с относительно четким смыслом. Эта новая форма проблемы может быть описана с помощью игры, которую мы назовем «игрой в имитацию»”.

Точно также, т.е. «Игра в имитацию», называется художественный фильм, посвященный жизни этого замечательного английского математика, знаменитого также тем, что он раскрыл секрет шифровальной машины «Энигма». Каков же вывод, к которому приходит автор в этой статье?

“Я уверен, что лет через пятьдесят станет возможным программировать работу машин с емкостью памяти около 10⁹ так, чтобы они могли играть в имитацию настолько успешно, что шансы среднего человека установить присутствие машины через пять минут после того, как он начнет задавать вопросы, не поднимались бы выше 70%”.

Без всякого сомнения, современные ИИ-боты типа ChatGPT, Gemeni пр. легко проходят тест Тьюринга. Значит ли это, что они мыслят? Никоем образом. Это значит лишь, что они успешно имитируют мышление в глазах, заметьте, среднего человека, не эксперта.

«Китайская комната»

Мы задаем себе вопрос, обладает ли машина интеллектом. Но для начала неплохо бы задаться вопросом, обладает ли интеллектом человек. А вдруг – нет. Говорят, что ИИ – это просто программа, написанная человеком. А может быть интеллект человека – это тоже программа, написанная Богом, ну или Природой, на ваш выбор? Или может быть не все люди обладают интеллектом, а только некоторые? Как это определить? И что такое интеллект вообще?

Мысленный эксперимент “Китайская комната” Джона Сёрла призван доказать, что путем вопросов и ответов мы это определить не можем. Откуда же мы знаем, что человек обладает интеллектом? Это кажется очевидным из нашего личного опыта. Мы непосредственно осознаем, как мы думает, рассуждаем, решаем интеллектуальные задачи. Что это, если не проявления интеллекта? Допустим. А как насчет всех остальных людей? Откуда мы знаем, что они также обладают интеллектом. Мы ведь не можем проникнуть в их сознание? Об их интеллекте мы судим лишь по аналогии с нами самими. Я человек, и они люди. Я обладаю интеллектом, значит и они обладают интеллектом.

Узкий и общий искусственный интеллект

Принято различать:

(1) Узкий искусственный интеллект (artificial narrow intelligence, ANI), который решает задачи лишь определенной узкой области, например играет в шахматы, но не в шашки.

(2) Общий искусственный интеллект (artificial general intelligence, AGI), предназначенный для решения широкого круга интеллектуальных задач на уровне или лучше человека и даже, возможно, обладающий сознанием. Последний иногда называют сильным искусственным интеллектом.

Узкий искусственный интеллект является реальностью по крайней мере в некоторых областях. Пример – шахматные программы. Общий искусственный интеллект является задачей, которая когда-нибудь возможно будет решена. Может быть скоро. Некоторые считают, что уже решена.

Программы игры в шашки/шахматы

Первые системы искусственного интеллекта представляли собой компьютерные программы, написанные человеком, программистом, на том или ином языке программирования.

Первую программу для игры в шашки создал Артур Самуэль в 1952 году. Он очень гордился тем, что его программа играет в шашки гораздо лучше его самого.

В августе 1974 года разработанная в СССР программа Каисса стала первым чемпионом мира по шахматам среди компьютерных программ.

В 1996 и 1997 состоялись два матча шахматного суперкомпьютера Deep Blue с Гарри Каспаровым. В первом матче победил чемпион мира, во втором – компьютер.

Доказательство теорем

В 1956 году была разработана программа «Логический теоретик» (Logic Theorist) для доказательства теорем пропозициональной логики. Авторы: Аллен Ньюэлл, Герберт А. Саймон и Дж. К. Шоу. Саймон заявил: “Мы изобрели компьютерную программу, способную мыслить не численно, и тем самым решили почтенную проблему разума и тела” (Имеется в виду, очевидно, проблема Декарта о связи души и тела). Бертран Рассел был в восторге, узнав, что для одной из логических теорем программа нашла более короткое доказательство, чем то, которое он привел в «Principia Mathematica».

Универсальный решатель задач

Рассмотренные выше задачи (игра в шахматы, доказательство теорем) так или иначе сводятся к поиску решения в потенциально бесконечном дереве. Это учитывает программа «Универсальный решатель задач» (General Problem Solver, GPS, 1957 год). Авторы: Саймоном, Ньюэлл, Шоу. Программа успешно доказывала теоремы евклидовой геометрии и логики предикатов, решала шахматные задачи.

Экспертные системы

Первые восторги от систем искусственного интеллекта “алгоритмического типа” быстро прошли. Второй бум связан с экспертными системами. Идея состояла в том, что некоторый эксперт передает свои знания специалисту в области ИИ, а тот переводит их в “базу знаний” – набор правил логического вывода для выбранной предметной области. Работа экспертной системы начинается с того, что клиент отвечает на вопросы системы, например: “Какая у вас температура? У вас болит голова?”. В итоге система должна выдать рекомендацию, строя цепочку рассуждений, как это делал бы эксперт”.

Искусственные нейросети

Естественная нейросеть головного мозга состоит из нервных клеток – нейронов. Нейрон содержит ряд отростков. Входные отростки – дендриты, и выходной отросток – аксон. Аксоны нервных клеток передают нервные импульсы дендриту или телу данной нервной клетки, в результате она переходит в возбужденное или заторможенное состояние. Область передачи нервного импульса от аксона к дендриту или телу клетки называется синапсом.

В искусственной нейросети нервная клетка – это функция y = f(x₁, x₂ … xₖ), xᵢ – входные сигналы y – выходной сигнал данной клетки. Синапсам соответствует матрица весовых коэффициентов связи выхода i-й клетки и входа j-й клетки.

Эти весовые коэффициенты могут быть как положительными, так и отрицательными (возбуждающими и тормозящими). Когда говорят, что у данной искусственной нейросети 1 млрд. параметров, это значит, что в ней 1 млрд. весовых коэффициентов. Модель ChatGPT 3 содержала около 175 млрд. параметров. Эксперты считают, что модель ChatGPT 6 содержит примерно 10 триллионов параметров (официальных данных нет). Для сравнения, в головном мозге человека содержится порядка 100 триллионов синапсов.

Значения весовых коэффициентов устанавливаются в ходе процедуры “обучения”, когда нейросети предъявляются образцы “входа”, а “выход” сравнивается с эталонным ответом. Например, вход – это оцифрованная картинка, которая содержит изображение буквы, цель – распознать букву и выдать её цифровой код. Сложность в том, что буква может иметь разный размер и располагаться под разными углами, а нейросеть в любом случае должна её распознать.

Проводится серия обучающих актов, в которых нейросети предъявляются разнообразные изображения всех букв. Результат сравнения выхода нейросети с эталонным ответом используется для корректировки весовых коэффициентов. После завершения обучения значения весовых коэффициентов стабилизируется, и нейросеть как правило безошибочно опознает образцы, на которых её обучали. Но этого недостаточно. По идее, нейросеть должна распознавать и те изображения букв, которые ей не предъявляли в процессе обучения.

Фундаментальная гипотеза

Фундаментальная гипотеза искусственных нейронных сетей состоит в том, что нейронная сеть способна приблизить (аппроксимировать) любую непрерывную функцию с любой заданной точностью. Говоря простыми словами, нейросеть в принципе может после соответствующего обучения безошибочно распознавать не только предлагавшиеся образцы, но и похожие на них. Разумеется, на практике эта гипотеза никогда не подтверждается на 100%. Можно, конечно, сказать, что проблема в обучении. Но никто не может сказать, какое обучение является “соответствующим” для решаемой задачи.

Рассмотрим такой гипотетический пример. Предположим, нейросеть нужно обучить отличать кошек от собак. Нейросети предлагают множество фотографий кошек и собак, снятых в разных масштабах, под разным углом и с разных сторон. Обучение заканчивается, и все вроде хорошо. Но оказывается, что из-за оплошности “учителя” все кошки в выборке были белые, серые и пятнистые, а все собаки – черные или коричневые. Как среагирует нейросеть на коричневую кошку? Это неизвестно.

Первым человеком, погибшим от беспилотного автомобиля, стала Элейн Херцберг.  Она была сбита в марте 2018 года автомобилем Uber на базе внедорожника Volvo XC90. Токая велосипед, Херцберг переходила дорогу в неположенном месте в условиях плохой освещённости. Одной из главных причин трагедии стала ограниченность обучающей выборки: нейросеть обучали преимущественно на образцах, где люди переходят дорогу исключительно по зебре или на регулируемых переходах.

ИИ – это не алгоритм

Когда говорят, что ИИ – это просто программа, это верно только в отношении первых систем 50-60-х годов прошлого века. Искусственная нейросеть – набор из триллионов весовых коэффициентов, полученных в результате “обучения” и значения которых не знает даже тот программист, который писал соответствующую программу. Необученная нейросеть бесполезна. Принципиальная особенность ИИ-ботов, построенных на базе искусственных нейросетей, состоит, в частности, в том, что никто на самом деле не знает, как именно он ответит на данный запрос.

Перцептрон

Простейшая однослойная нейросеть, в которой входные сигналы связаны через весовые коэффициенты с нейронами, а выходы нейронов являются в то же время выходами сети, называется перцептроном. Идея была высказана и реализована в виде компьютерной модели американским нейрофизиологом Фрэнком Розенблаттом в 1957 году. Принцип работы перцептрона отдаленно напоминает принцип обработки зрительного сигнала в сетчатке глаза. Хотя Розенблатту и удалось продемонстрировать решение некоторых задач распознавания изображений, вскоре оказалось, что однослойный перцептрон имеет принципиальное ограничение. Оно заключается в том, что перцептрон может решать только линейно разделимые задачи. Например, двухбитный перцептрон можно научить определять количество единичных битов – 0, 1 или 2, – но нельзя научить определять равенство значений этих битов. Поэтому развитие нейросетевых систем ИИ пошло по пути создания многослойных искусственных нейросетей.

Многослойные нейросети

В многослойных нейросетях информация передается от входа к выходу, проходя несколько слоев. Обычно различают входной слой, один или несколько промежуточных (скрытых) слоев и выходной слой. Наибольшее распространение получили сети с прямой связью (Feedforward neural network), информация в которых движется строго в одну сторону, без обратной связи.

Современные большие нейросети содержат десятки слоев. Из каких именно слоев состоит нейросеть и как они связаны между собой определяется архитектурой многослойной сети. В сверточных нейросетях (Convolutional Neural Networks, CNN) последующие слои обобщают, сжимают и очищают от шума информацию от предыдущих слоев. Последний слой, выдает ответ. Такие сети эффективны, в частности, в задачах распознавания изображений. В больших языковых моделях широкое распространение получила архитектура трансформер. Аббревиатура GPT переводится как “Генеративный трансформер с предварительным обучение” (A generative pre-trained transformer).

LLM

Большая языковая модель (Large Language Model, LLM), это нейросеть, обученная на больших объемах текстовых данных и предназначенная для перевода “текст в текст”, например текста вопроса или задачи на естественном языке – в ответ, текста на одном языке – в текст на другом языке. Мультимодальная LLM, называемая также Large Multimodal Models (LMM) преобразуют текст в картинку или в звук.

Токен

На входе LLM выполняется специальный алгоритм – токенизатор (tokenizer), на выходе – детокенизатор (detokenizer). Токенизатор разбивает слова на части (токены) и переводит их в числовой код. С такими кодами модели работать проще, чем со словами. Детокенизатор выполняет обратную задачу – соединяет токены в слова.

Токен обычно содержит 3-4 буквы или меньше. Короткие слова занимают всего 1 токен. Пример токенизации: “слово” → “сло-в-о”.

То, что модель работает с токенами, а не с буквами, является причиной того, что LLM трудно переворачивать слова.

ChatGPT и другие ИИ-боты

ChatGPT и другие чат-боты с искусственным интеллектом (Gemini, Cloud, Grok, DeepSeek, Алиса, GigaChat) представляют собой интернет-сайты – надстройки над LLM. Чат боты имитируют диалог с моделью, сохраняя в вашем аккаунте последовательность вопросов и ответов для каждого чата. Каждый раз, когда в рамках данного диалога вы задаете вопрос, чат-бот соединяет в одну цепочку скрытый от пользователя  системный промпт, ваш первый вопрос, ответ на этот вопрос, ваш второй вопрос, ответ на второй вопрос и т.д. Завершается все это вашим последним вопросом. Модель анализирует весь этот текст и выдает ответ. Модель не хранит никакой информации кроме той, которая явно содержится в системном промпте и в тексте диалога. Поэтому, например, она не понимает, что такое “реальное время”, не знает о вашем существовании в промежутке между вопросами, не может честно играть в игру “загадай число”. Вы можете напрямую общаться с LLM через API. Тогда вам придется самому организовывать цепочку вопросов и ответов, самому создавать системный промпт.