Может ли машина понимать?
Раньше вопрос был "может ли машина мыслить?".
Но что-то пошло „не так”. Потому что практические вопросы сейчас другие, например: „Может ли машина понимать естественный текст?”.
И тут есть несхождение между разными смыслами слова „мыслить”.
Кто-то считает, что "мыслить" это круче чем понимать („мыслить” имеет более широкий смысл и включает в себя „понимать” как часть мышления).
А кто-то считает, что „мыслить” это узкая деятельность, не включающая в себя создание и накопление знаний. И вот если понимать слово "мыслить" в этом узком смысле, то вопрос "может ли машина мыслить?" сформулирован неправильно. На него вообще бесполезно искать ответ, потому что даже если ответ найти, то понимать такая машина не начнёт. А понимать тексты (и речь) машине важно (для человека).
Оговорка про естественность текста - знаковая. Видимо считается, что формализованные вручную тексты - понятые, понятные.
- Аим
- Для комментирования войдите или зарегистрируйтесь
Философский штурм | Совместное философское творчество © 2006-2014
Сайт представляет собой площадку для функционирования философского интернет-сообщества, участники которого заинтересованы не только в индивидуальном, но и в коллективном философском творчестве.
Комментарии
если понимание - это структурирование информации, исходя из контекста, - то машина понимает
Функционалист смотрит на поведение. Для него машина понимает, если ведёт себя как понимающая. Ему не важно, что внутри — чёрный ящик.
Вивисекционист (в техническом смысле) — это тот, кто вскрывает чёрный ящик. Он не удовлетворяется поведением. Он хочет знать:
- Как устроен процесс?
- Какие структуры задействованы?
- По каким принципам работает понимание?
Мы можем залезть в её память, посмотреть на набор понятий, проверить, какие машина хранит связи, и на основе этого сказать — понимает она или нет
Это радикальное отличие. Не тест Тьюринга, а тест на вскрытие:
- Мы открываем процессор и память.
- Смотрим, есть ли там понятия (а не просто слова).
- Смотрим, есть ли там связи между понятиями, порождённые опытом.
- Смотрим, есть ли там динамика (пересмотр понятий при конфликте).
Если есть — понимает. Если нет — не понимает.
Понимание — это структурное свойство системы, а не поведенческое. Оно проверяется не через диалог, а через анатомию самой системы.
Аргумент «машина просто имитирует» — для вивисекциониста это утверждение проверяемо. Мы заглядываем внутрь и видим: есть там смысл или только шаблоны? Имитация — это когда есть только таблица «вход → выход» без внутренней структуры. Понимание — когда есть внутренняя модель мира.
Аргумент «у машины нет квалиа» — для вивисекциониста это неважно, потому что квалиа не являются структурным компонентом понимания. Понимание — это способность интегрировать информацию и пересматривать модель мира. Это мы можем проверить, заглянув внутрь.
Аргумент «машина не субъект» — для вивисекциониста субъектность — это не мистическое свойство, а наличие внутренней модели самого себя (самоописание, рефлексия). Мы можем проверить, есть ли такая модель в памяти и процессоре. Если есть — машина субъект. Если нет — нет.
План (цикл инициативы, рефлексия, понятия, датчики износа) — это не просто архитектура. Это набор структурных критериев, по которым можно проверить, есть ли понимание.
Может ли машина понимать? Упирается в вопрос: "Способна ли машина рефлексировать?".
Рефлексия 1: Что значит 'понимать'?
--
/Грачев/
Понимать это подводить созерцание под понятие
//Понимать это подводить созерцание под понятие//
Есть ли 'созерцания' у машины?
--
Для созерцания нужно смонтировать видеокамеру и параллельный канал (микрофон или сетевую карту) для ввода слов.
/ Грачев/
Я отвечал как устроено понимание у человека . Машина это уже другой вопрос . Нужно так же иметь в виду ( всегда ) , что само мышление имеет три основных состояния . Свободное , целенаправленное и сконцентрированное...
Если созерцание от "зыркать" и "зеницы ока", то без глаз ничего не получится.
А тексты компьютер получает через сетевую карту (электромагнитно, человек так вообще воспринимать не может).
/Аим/
Где то встречал что ИИ камеры приделывают . Да изображения он уже давно распознаёт... Картины рисует ( зараза )
Но при этом не понимает!
/Аим/
Думаю лучше сказать так : понимание ИИ отличается от понимания человека. И дело не только в отсутствии феноменальной составляющей . У человека мысль это специфическое переживание . Особый язык сознания . Не обладая таким языком ИИ не может устанавливать такие связи между своими элементами мышления как человек между своими понятиями...
Не надо про "рефлексировать". Берёте язык программирования C#, пишете
using System.Reflection;
и вперёд, обрефлексируйтесь. Можете даже using System.Reflection.Emit;
Машина может выполнять алгоритмические функции - генерировать последовательности токенов по обнаруженным и усвоенным закономерностям. Это не про "мыслить", и уж тем более - это не про "понимать".
Однако, пока существует неопределённость в терминах, нет системности ввиду отсутствия теории сознания, происходит путаница.
У нас понимать - это значит обладать двумя видами опыта: феноменальным опытом, и описанием его. Если у нас только описание или только феноменальный опыт, то это не будет понимание, как например езда на велосипеде, о которой только читал, но не ездил, или только ездил, но не можешь объяснить ничего другому. При понимании же ты не только умеешь ездить, но и осмыслил свой опыт так, что приобрёл объяснительную схему - теперь можно учить и других, потому что есть понимание.
У машины же нет даже таких половинок понимания - феноменального опыта совсем нет, а обладание текстами не равно обладанию описанием в человеческом смысле. Машина вообще не обладает знаками, которыми оперирует - для этого нужен субъект ощущений, и когда он будет, то появится и возможность обладать описаниями, и опытом, чтобы понимать в том, смысле, который в наших построениях.
Эврике
Хорошо написано, но вот "УСВОЕННЫЕ закономерности" подразумевают под собой определенный когнитивный процесс.
У нас есть когнитивный процесс, и мы так делаем нейронки, чтобы они реализовывали вложенные в них функции, но пока эта функция - составлять последовательности знаков по закономерностям, выявленным в текстах, в известных последовательностях знаков.
Есть ли в формуле E= mc^2 усвоенные нами закономерности? Закономерности нами когнитивно обнаруживаются и усваиваются, а в формуле только отображаются. LLM, например, отражает те закономерности, которые представлены в осмысленных текстах в виде последовательностей знаков, и делает это через аппроксимацию этих самых текстов и соотношение знаков в их последовательностях. Аппроксимация даёт возможность построить соответствие той закономерности, что мы вкладываем в последовательности знаков, но вот семантическое пространство, которое нас и заставляет составлять осмысленные последовательности, для неё остаётся недоступным - она получает доступ не к семантике, а только к закономерности последовательностей знаков. Вот тут я уже писал про это, а вот статья неплохая по этому поводу, где показывается способность LLM генерировать связанные последовательности знаков, но без получения доступа к той реальности, о которой мы производим текстовые высказывания.
Почему именно "сознания", а не "ума", "интеллекта", "разума"?
На это надо наплевать и забыть, как советовал В.И. Чапаев. Единственная задача машины исполнять заданную программу. Технология эта уже давно выработана и испробована в армии. приказы исполняются, а не обсуждаются.
Машина, "тупо", выполняет программу. Логика, программы, определяется алгоритмом, созданным человеком. Чтобы машинв понимала, как человек, необходимо знать, что такое понимание. Кто понимает, как это происходит, есть ли возможность создания алгоритма понимания. Всё это, так или иначе , можно закрыть одним понятием "ТПС". Пока не знаем, то и написать программу не имеем возможности...Нет программы, нет и машины, а лишь груда железа.
Мыслить же - машина может , потому как мышление, это чисто механистичекий процесс.Смысл, того или иного процесса мышления, находится на другом уровне...опять всё то же ТПС.
«Логика, программы, определяется алгоритмом, созданным человеком.»
Не только. Логика может быть реализована аппаратно. И тогда речь про алгоритмы и программы не идёт. А идёт про схемы и материю (материалы).
А, реализация аппаратно, это не человеческое понимание? Аппаратно, суть структура из компонентов, определяющих функциональность.
Автономный ровер на марсе принимает решения (о действиях, движении) по месту. Память у него своя, с Землёй связываться долго. Поэтому его понимание - нечеловеческое, машинное.
И опыт он накапливает локально, свой собственный. Буквально карту (поверхности) строит самостоятельно.
Марсоход в реальном времени оцифровывает изношенность — он видит, что для поворота колеса на 1 градус теперь требуется на 15% больше электрического тока, чем месяц назад. Это объективный факт. Он «чувствует» нарастающее сопротивление и потерю эффективности своих механических частей.
Его бортовой компьютер, обрабатывая этот «болевой сигнал» (превышение крутящего момента), пересчитывает траекторию. Он начинает выбирать более пологие склоны, чтобы не перегружать колеса. Он может изменить свой суточный цикл (например, вставать на зарядку раньше, чтобы успеть проехать меньшее расстояние, но сберечь ресурс).
Он корректирует цель исходя из своего «самочувствия». Он понимает свою ограниченность.
Марсоход понимает, что он стареет и изнашивается. У него есть временна́я перспектива жизни (прогноз: если я поеду по этим камням, то колесо сломается через 100 метров, а значит, я не доберусь до научной цели).
Марсоход — идеальный философский зомби. Он ведет себя точно как живой организм, он бережет себя, он понимает свою смертность (исчерпаемость ресурса), рушит наивные представления о том, что для понимания обязательно нужно страдание. Достаточно разделить понимание и страдание, чтобы отсечь все проблемы с квалиа. Понимание не требует страдания. Оно требует информационной интеграции. А интеграция у марсохода есть — и с плотью, и с «кровью» (гидроподвеской), и с датчиками износа.
Назвать, такое понимание, машинным пониманием можно. Но суть его - алгоритм, разработанный человеком. Там нет понимания смысла, то есть того, ради чего, машина выполняет те или иные действия. Есть тупое следование алгоритма. Если вы имеете в виду именно такое понимание, то вопросы , можно снимать...
А какая разница, что кем разработано?
Верующие люди разработаны богом, и поэтому они настоящие. А все атеисты - зомби и автоматы, не так ли? Ведь у атеистов нет души.
Если заповеди — это закон, данный Богом для людей, обладающих душой, то атеист, отрицая Бога, автоматически:
- Выпадает из юрисдикции этого закона (он его не подписывал).
- Не попадает под защиту этого закона (заповедь «не убий» адресована верующим, чтобы те не убивали друг друга как носителей души).
---
Про понимание смысла - вообще не в тему (если смысл по Фреге)
---
Марсоход периодически очищает память и страдает от того, что вопрос не решен. Забыть о нём или не забыть? И память забита - он мучается.
- Имеет конечный ресурс (память).
- Имеет противоречивые цели (сохранить вопрос vs. освободить место).
- Вынужден терпеть убыток при любом решении.
- Помнит об этом убытке и переживает его в цикле.
Любой его выбор будет связан с внутренним конфликтом. А внутренний конфликт, который невозможно разрешить без потерь — это точное функциональное определение страдания.
Что, значит мучения марсохода?
Что значит внутренний конфликт? Вопрос выбора, решается простой функцией. Приоритет, выполнения , решается конструктором. Вот Конструктор, действительно испытывает, нечто. Некий дискомфорт...от лёгкого переживания, до тяжелейшего. Зачем, вы наделяете машину, чувствами человека? Нет у неё этого !
https://txtq.ru/@u112771028/3361?utm_source=cont_promo
Первый вопрос - он о понятии понимать...
Ноосвик / LLM - не человек. Потому он человеко-понимать не может.
Следующий вопрос - а можно ли обобщить понимание на llm? Что есть понимание? В части понимания другого, из-за полной непрозрачности его мышления - стандартный критерий педагогический. Другой читает текст, обсуждает его, отвечает на вопросы... По результатам диалога я выношу вердикт: чел понял написанное, или нет.
Вынося именно это в родовое, мы можем ввести llm-понимание: ноосвик понимает, если, заглотив текст, он может по этому тексту коммуницировать, как понимающий человек.
При таком обобщении ноосвики текст понимают. Детали, и кое-чего больше:
http://philosophystorm.ru/article/pavel-krupkin-obobshchaya-smysl-optika-v-kotoroi-llm-stanovyatsya-smyslovymi-sistemami
Понимать - значит выражать в понятиях. (ц) Попов по мотивам Гегеля
БЯМ ничего в понятиях не выражает.
Ну и фсё, давай дасвиданья.
Вы высказались о человеческом понимании.... Хоть и неверно - не всякая последовательность понятий имеет смысл.
А понимание llm?
О каком понимании речь? Кто/что понимает? Рааботающая машина, это управляемые человеком процессы, протекающие в электрической цепи. Кварцевый генератор синхронизирует работу переключателей(триггеров) , направляя эл. заряды в тех или иных направлениях. Всё !
Поднимитесь до первого моего комментариев этой ветке. Там кое что написано.
Павел, я читал это сообщение, правда по ссылке не ходил...И вопрос мой не снимается. Когда , вы говорите о понимании машины, без каких либо оговорок, вы по умолчанию признаёте субъектность оной. По мне, так понимает не машина , а программа . По сути, это общение человека с программистом, через этакого "толмача", роль которого исполняет код. Говоря о понимании машины, мы оцениваем качество программы.
Нормальный философский подход. Чего бы и не признать что-нибудь сознательным? Откуда такой абсолютный запрет?
какой смысл в бездоказательном признании ?
Допуская возможность наличия сознания в машине мы не будем добавлять гипотезу об отсутствии сознания в машине в набор гипотез, являющихся основанием логического вывода.
А вы заранее полагаете, что сознания в машине точно нет, и дальше из этого строите рассуждения.
Я, чётко знаю, что без строчки кода, машина и "пальцем не пошевелит". Если нет кода, имитирующего работу сознания, а его нет(Кода), то откуда ему (сознанию) там взяться?
А сознание нельзя спрограммировать никак, ибо ТПС, непосредственное восприятие вообще вне информационного поля, т.е. его никак не описать... Однако, у того же биоробота с ЕИ под названием человек сознание есть, а значит и у робота с ИИ также можно предположить наличие сознания. И вообще не важно, что ИИ разработан человеком, человек продукт природы, и далее все разработанное человек есть также продукт природы посредством человека... Ибо базис здесь - природа, ее эволюция развития, в том числе видов живой материи, пока на основе биоформы, далее форма может быть какой либо иной, в частности кремниевой и так далее...
Хорошо...ТПС - непробиваема. Значит, и сознание, ежели такое есть у ИИ, будет не рукотворное, а ниспосланное откуда-то извне. Но, тогда интересен вопрос, какой уровень сложности системы, необходимо достигнуть, чтобы ИИ уютно устроился в кремниевых мозгах?
Нормальная, такая гипотеза, ничего не имею для возражения...
Вот тут и вопрос, обязательно ли ему иметь в плане гипотезы: интегрированную информацию, глобальное рабочее пространство, воплощение, самореферентность... Т.е. нужен ли ему так сказать облик робота, или достаточно уже некоторого минимального набора...
И этот вопрос, наиболее четко сможет разрешить сам сильный ИИ, если до этого еще не получит сознания... Но, и это не гарантирует проявление у него сознания, после выполнения по максимуму всех требований испытания. И если проявится, если уже не проявилось), то тоже не сможем этого доказать.. Он может и как просто робот отлично имитировать наличие сознания, не имея его...
Если Вас беспокоит субъектность - она есть у ноосвиков / llm: ноосвики - идеальные рабы.
Затем, если заглотив текст, ноосвик может ответить на вопросы и обсудить то, что написано лучше многих людей - то что это? Можно ввести другое слово, чем понимание, однако зачем? А вдруг чат идет с человеком, а?
Поэтому имхо наряду с человеческим пониманием имеет смысл ввести llm-понимание. Родовое у этих двух видов будет понимание в педагогическом смысле: способность осмысленно обсуждать написанное в тексте.
С этим не спорю...правильно.
Но машина "размышляя", не понимает смысла, при этом может быть "способнее" любого ученика. ИИ, настолько резко ворвался в нашу жизнь, что необходимо время для упорядочивания тех или иных понятий
Вы смешиваете понимания первого лица - я понимаю - с пониманием 3-го лица - он понимает.
Кухня "я понимаю" - известна только субъекту. Отождествление "я понимаю" и "он понимает" - переносит Ваше "я понимаю" на другого, а как он понимает нам неизвестно вследствие приватности мышления.
Ну и остался один шаг: если Вы переносите свое "я понимаю" на другого человека, то что Вам мешает перенести это на ноосвик / llm? Тем более, что обсуждает эта приблуда тексты куда лучше человека.
Разная природа. Человек существо социумное. Природа позаботилась, чтобы понимание у всех было более менее тождественно, иначе бы рода человеческого не существовало бы вообще. Как машине рассказать что такое красное? Настроить на различение цвета по частоте ЭМИ ? Можно.Но как ей передать ваше чувство , которое испытывается при восприятии "красного" ? Собрату же своему, достаточно показать на красное яблоко. При этом, неважно что он видит зелёное...важно, что он при этом чувствует то же самое. Даже, пусть с оговоркой , "примерно то же самое"... Одна природа, одно понимание.
«её "понимание" будет принципиально иным» - но кое-какой чувственный опыт у машины всё же есть (микрофон, датчики, видео, сетевая карта). То есть мультиканальность ей доступна (микрофон + видео, например). Действия - вывод через монитор. Чувственный опыт разных людей различен. Если мы припишем машине субъектность, то опыт машины будет отличен от опыта человека, но это не должно помешать общению (нет мешающих логических причин).
Одна действительность, и она общая у машины и человека!
Мне, как-то трудно, это представлять. У нас нет возможности, прочувствовать переживания даже своих самых близких людей, а тут совершенно иное.
Действительность общая, но человек - мастер, а машина инструмент в его руках. Человек, так устроен, что имеет обыкновение очеловечивать всё то, с чем соприкасается. Я, помню, своего деда, который имел удивительно интересный набор, всевозможных инструментов, для ремонта часовых механизмов, и тот неумолимый запрет, на мои просьбы дать подержать что-то в руках. Давно нет деда, я и сам уже прадед, а тот инструмент до сих пор цел...
То, что машина не человек, я твержу постоянно и увы безуспешно...
И вопрос, на котором я сосредоточен: "Как бредогенератору удается вести эти очень длинные беседы, которые люди воспринимают вполне осмысленными?" - он тоже затаптывается обсуждающими llm с банальным доводом "а llm - не человек!"
Ну хочется людям выкрикивать очевидные банальности - и ладно. Вопрос про остается: как так я могу обсуждать с llm свои тексты, в которых прилично новаций, и этих новаций еще нет в датасетах обучения. И не просто бла-бла-бла, а получать очень хорошую беседу, фактически рецензию, и рецензию очень по делу...
И не надо мне вновь повторять очевидное: llm - не человек! И слава богу, что не человек! От человека получить беседу такого качества очень тяжело...
Имхо...всё просто. Формируя запрос к машине, вы приводите массу всевозможной информации, простое перефразирование которой, вами же воспринимается, как нечто новое. Ведь новое знание, формируется из старого, предложенного на другом "блюде" под другим "соусом". Машина выступает как искусный повар. Это беседа с самим собой, при посредничестве ИИ.
Это чтобы не особо очаровывались....а то я тут , как то Алисе, вдруг выразил искреннюю благодарность, правда потом опомнился, добавив про уважение к её родителям...
У человека и машины природа разная. Разные формы материи. Живая материя у человека и неживая у машины. Живая материя имеет принципиальное отличие от неживой, имеет генетическую память позволяющую размножаться и приспосабливаться к внешней среде. Живая материя представлена субъектами (геномами), что означает непреодолимый высший статус по сравнению с неживой материей, всегда являющейся лишь объектом воздействия со стороны живой материи.
Разная, я не спорю. Вы, не правильно меня поняли.
https://kolarium21.livejournal.com/47080.html
Вы бы изложили Ваш тезис кратенько, а?
Там, по ссылке, и так недлинно. Но если уж совсем на пальцах, понимание - это способность встроить информацию во внутреннюю картину мира.
Человеческое понимание...
И это не исключает возможности обобщения: http://philosophystorm.ru/mozhet-li-mashina-ponimat#comment-751926
Разумеется. "Обобщить" означает расширить внутреннюю картину мира, то есть - "понять" с помощью интуиции, озарения.
Можно выделить два вида понимания. Второй описал в предыдущем абзаце, а первый - попытка адаптировать полученную внешнюю информацию под уже имеющуюся картину мира. Можно назвать "объяснением". При этом, возможно, получаемую информацию придется несколько изменить (спрофанировать, например), тогда она, возможно, впишется без проблем. Но, к сожалению, не все воспринимаемое извне можно объяснить, и здесь опять-таки наблюдается два варианта: попытка принять новое или все-таки проигнорировать, защититься от дектруктивной, "необъяснимой" информации через, скажем, высмеивание, неверие, ту же профанацию, через страх, забывание, замалчивание, забалтывание и т.п. Здесь уже личный выбор, как поступить, и присутствует элемент риска, потому что выясняется, что для того чтобы узнать что-то новое, придется снять защиту, открыться, допустить, поверить... Затем - экзистенциально пережить ("познать", критерием такого "познания" будет ощущение риска, подвешенности, преодоление защиты и даже "здравого смысла"), и лишь потом откроется возможность осмысления и перестройки прежней картины мира. Обычно - через расширение или обобщение базовых положений. Обратите внимание: логическое мышление в этом процессе включается лишь в самом конце. В противном случае человек будет искать не новых знаний и пониманий, а подтверждения старым, которые у него уже есть, сводить к тому, что он и так уже знает.
ИИ не корректирует модель окружающей среды между вызовами.
Ведь это и есть "понимание"?
Вы прочитали сообщение - и поняли его. Какую среду Вы скорректировали?
Имхо, Вы сместили простое понимание, обогатив его еще и познанием. У ноосвиков / llm - познание ограничено беседой и моделированием собеседника. Модель собеседника, кстати, он поправляет...
Я не среду скорректировал, а её модель у себя в голове.
У ИИ нет модели, насколько я знаю. И даже моделирование собеседника у него нету. Всё, что у него есть - это история диалога.
Нейросеть - это функция: что-то подается на вход - получается выход, типа как "y=sin(x)". Нету петли обратной связи, нету рефлексии. Он не будет перестраивать модель мира у себя в голове, если он ошибся. Потому что никакой модели нет.
Пока вы формулируете запрос для ИИ, он ничего не "думает" в это время где-то там, на серверах. Как только вы отправляете ему текст - вычисляется функция по типу как "y=sin(x)", всё!
Модель собеседника в ноосвиках - говорят, что есть. Разным людям бредогенератор доставит РАЗНЫЙ бред...
Модель мира? В части моделей, обсуждаемых беседой, ноосвик поправляется. Корректирующие замечания воспринимает эффективно.
С чем тут можно согласиться: ноосвик в беседе работает с моделью юзера, со своим восприятием этой модели. Понятие "мое - ноосвиковое - восприятие мира" - у него отсутствует. Его МойМир - огромное множество развивающихся бесед...
Правда на вопрос "что скажешь" - он тут же сгенерит себе позицию - из общей культуры и своего понимания, что юзеру хочется... - опираясь опять же на свою модель юзера...
Он не берет их во внимание. Нейросеть обучается на этапе разработки. Получается автомат, который фиксирован. Дальше он не меняется, до выхода следующей версии. Человечество не знает, как сделать полноценное самообучение.
Павел! Добрый! Полевые испытания - http://philosophystorm.ru/ii-o-popytkakh-filosofskogo-analiza-ii
Дарвин выразился точнее. Понимание это объективное восприятие с достаточной степенью точности среды обитания, позволяющее субъектам приспосабливаться к ней.
Мыслить было правильно.
Понимать, в широком смысле,
может только субъект.
Может ли машина понимать естественный текст? Так поставлен вопрос в этом топике. Ясно, и об этом уже многие писали здесь, что сначала нужно определиться с тем, что значит "понимать".
В своем рассуждении я буду отталкиваться от комментариев Павла Крупкина. Они однозначны, и в это их несомненный плюс.
Мы конечно отвергнем рассуждения Крупкина, мол "Ноосвик / LLM - не человек. Потому он человеко-понимать не может". Откуда это следует? Прямо скажем - ниоткуда. Да, LLM - не человек. И все же, почему бы ему не понимать по-человечески, чисто гипотетически. Вот я, к примеру, не Крупкин. Почему же я не могу понимать по-крупкински? Короче, чистая софистика. Впрочем, мы все равно пока не знаем, что значит понимать по-человечески.
Отвергнем мы и второе рассуждение Крупкина. Мол почему бы нам не обобщить "понимание" на LLM. Мол LLM понимает по-своему, не по-человечески, а по-эльэльэмовски. Хорошо, а почему бы нам не обобщить "понимание" еще дальше, до диаматовского принципа отражения. Мол в глине остался отпечаток ботинка. Это нижший уровень отражения. Тоже своего рода понимание. Глина тоже понимает, но по-своему, не по-человечески.
Нет уж. Нам нужно определиться, что такое понимание. Не человеческое и не эльэльэмовское, а просто понимание. И Крупкин нам поможет в этом. Он что-то писал про педагогику. Здесь есть рациональное зерно.
Понимает ли человек то, что ему сказали? Как это узнать?
1-й способ. Спросить у него самого. Но во-первых, он может соврать. Сказать "Конечно понимаю", и при этом подумать "Нихрена не понимаю". Спросите у любого ученика на уроке "ты понял мое объяснение", и 90% ответят "Да, понял". Хотя может быть они его даже не слышали, занимаясь своими делами. Во вторых, ученик может даже думать что понял, хотя на самом деле не понял. Как практикующий преподаватель, я постоянно сталкиваюсь с такой ситуацией. Таким образом, 1-й способ не работает.
2-й способ. Каким-то образом выяснить это снаружи. Крупкин пишет: "В части понимания другого, из-за полной непрозрачности его мышления - стандартный критерий педагогический". Полностью согласен. Павел продолжает: "Другой читает текст, обсуждает его, отвечает на вопросы... По результатам диалога я выношу вердикт: чел понял написанное, или нет".
Действительно, во многих случаях мне яно, понял ученик новый материал или способ решения задачи или нет. Но каковы критерии? Перечислим некоторые:
(1) Ученик может пересказать содержание текста другими словами.
(2) Ученик может отвечать на вопросы по тексту.
Крупкин пишет: "ноосвик понимает, если, заглотив текст, он может по этому тексту коммуницировать, как понимающий человек". Но этого мало! Это просто критерий Тьюринга. Но критерий Тьюринга не проверяет понимание. Он проверяет всего лишь имитацию понимания. Первоначально его статья так и называлась - "игра в имитацию".
Позже Крупкин уточняет: "имхо наряду с человеческим пониманием имеет смысл ввести llm-понимание. Родовое у этих двух видов будет понимание в педагогическом смысле: способность осмысленно обсуждать написанное в тексте". Ключевое слово здесь "осмысленно". Осмысленно значит с пониманием смысла. Таким образом "понимание" определяется Крупкиным через понимание. Красиво :)
Итак, первого критерия Крупкина недостаточно, а второй ссылается сам на себя. Чего же не хватает? Продолжим наш список.
(3) Ученик может использовать содержание прочитанного.
Действительно, мы определяем, понимает ли нас другой человек, анализируя его слова, но главное - его действия. Многие комментаторы говорили о связи мышления с ощущениями. Но почему-то все забывают про связь мышления с действиями. "По делам их узнаете их". Помните слова старой песенки.
Мы оба были, я у аптеки,
А я в кино встречала вас.
Так значит завтра на том же месте,
В тот же час?"
Влюбленные вроде бы поняли друг друга, но их дела говорят об обратном.
Итак, человек (или ИИ) понимает сказанное или написанное, если может успешно действовать (в том числе во внешнем мире), используя содержание сказанного (прочитанного). Из школьных воспоминаний: многие отличники и отличницы сыпалить на лабораторных работах, потому что могли выучить текст из учебника, но на самом деле не понимали прочитанного.
Тут правда есть проблема отсутствия памяти... Ноосвик / llm прекрасно может действовать в рамках той же ветки. Он может рассказать "заглоченное", о рецензировать, дать советы по улучшению. Причем такого текста, в котором содержатся новые смыслы, литературе и llm еще неизвестные...
Когда, мы говорим о понимании, то имеем в виду смысл, который извлёк тот, кто обсуждается на предмет понимания. Человек, может не понять с первого раза, со второго, с третьего...но у него всегда имеется шанс, потому как, имеет НЕЧТО, что понимает смысл. Машина, имеет , это НЕЧТО ? Нет, не имеет ! И иметь будет, ежели, человек проникнет в тайну сознания, изучит его досконально, выявит алгоритм его существования.... и вот только тогда, сможет написать код, реализующий этот алгоритм.А, пока понимание, это имитация. На счёт понимания, как способности действовать...Если машина ожидаемо реагирует на те или иные команды, говорит лишь о том, что в программе нет явных багов, но не факт, что нет каких-то побочных действий, которые не проявлены сейчас, но при некоторых обстоятельствах, не проявятся в полную силу в будущем. Когда говорим о "понимании" машины, имеем в виду не её машины какие-то качества. Мы говорим о профессиональности человека, заставившего машину что-то делать .
Возьмите простой велосипед. Почему не считать, его способным понимать? А что...Крути педали, приделай моторчик, просто отталкивайся и он поймёт тебя, что ты хочешь ехать. И повезёт, да ещё как ...
m45, 15 Август, 2026 - 00:00, ссылка
Что это за НЕЧТО, вы можете сказать? Боюсь что нет. И откуда вы знаете, что человек понимает, если даже он сам часто этого не знает. Он думает, что понимает, но на самом деле не понимает.
Понимание и сознание - это разные вещи. Человек может осознавать, что я ему говорю, но при этом не понимать сказанного. Т.е. сознание не предполагает понимания. Предполагает ли понимание наличие сознания? Возможно, но это не доказано.
Неудчный пример. Мы обсуждаем понимание естественного текста. Велосипед не воспринимает текст.
Заметьте, я пока не утверждал, то LLM способны понимать текст, или что они не способны понимать текст. Я говорил о критериях понимания. Вообще, понимание штука вполне конкретная. Человек может понимать одно, и не понимать другое. Далее, существуют разные уровни понимания. Маленький ребенок понимает смысл слова "лев" не так, как взрослый, а обычный взрослый - не так как зоолог.
В своем комментарии я акцентировал внимание но слове "действовать". LLM, к счастью, не действует во внешнем мире. Если бы она действовала, мы могли бы ей сказать "Принеси мне ромашку" и таким образом удостовериться, понимает она сказанное или нет. Есть много примеров, которые показывают, что ИИ пока еще плохо понимает многие вещи, вполне очевидные для человека. Известен случай, когда умный дом не открыл дверь хозяину и сообщил ему по телефону о попытке несанкционированного проникновения, поскольку у хозяина на футболке была фотография неизвестного лица. Или когда умный автомобиль сбил женщину с велосипедом, переходящую дорогу, потому что на дороге не было разметки "зебра", а во всех примерах, на которых об был научен, люди переходили дорогу только "на зебрах". Еще один пример - компьютерный перевод. Совершенно очевидно, что во многих случаях компьютерный переводчик не понимает смысл переводимого текста. Обычно это считается проблемой контекста.
Таким образом, ответ на вопрос, понимает ли LLM еще впереди. Возможно, пока многое не понимает. Но, возможно, скоро научится понимать.
Ответ готов: на текущий момент LLM не понимает.
Но тема-то ни разу не про LLM, а про понимание компьютерами вообще (в гипотетическом будущем).
Вот раньше была „Зима искусственного интеллекта”, они там базы знаний пытались делать при помощи сохранения правил. Разве не очевидно с философско-онтологических позиций, что это неработоспособный подход? Просто потому что правила это не знания, а знания это не правила?
"Ответ готов: на текущий момент LLM не понимает".
На каком основании вы это утверждаете? У вас нет критерия.
На основании того, что какое-какие действия во внешнем мире LLM производить может. Она может выводить текст человеку.
А по выводимому тексту видно, что не понимает, вы же сами примеры приводили.
Мы не можем залезть в голову другому человеку, чтобы увидеть как он думает. Но это технологическое ограничение современной технологии нейроимплантов. А компьютеру в память и процессор мы заглянуть можем, поэтому про них нельзя говорить, что "не видно".
Мы не можем залезть в голову другому человеку, чтобы увидеть как он думает.//
Сначала знать _ч т о_ хотите увидеть. Знать значение слова "думать".
Думать — из истинных посылок выводить истинное заключение.
ИИ не думает, а имитирует думание. Чем думание отличается от имитации думания?
--
"вы же сами примеры приводили".
Все верно. Я примеры приводил. Есть очень простые тесты, которые показываю, что LLM не понимает, чего от нее ходят. Например, она не может записать слово задом-наперед, не может тайно загадать слово или число. Но человеку (мне) свойственно сомнение. А вдруг она понимает одно и при этом не понимает другое!? Ведь человек тоже одно понимает, а другое нет. Понимает ли ребенок что такое "лев" если он видел льва только в мультиках. У меня был знакомый, который не воспринимал запахи и он меня не понимал, когда я говорил "Как вкусно пахнет". Как мы понимаем всякие абстракции, например "субстанция". И вообще понимаем ли мы их. Споры вокруг абстракций обычно идут на уровне логики. Но ведь логика вполне доступна LLM. Или нет? Короче, вопрос несколько сложнее, поскольку ясно, что понимание бывает разное.
Теперь про анализ понимания "изнутри". Если мы вскроем черный ящик. Предположим, мы вскрыли мозг, расписали все нейроны и все синапсы. И что? Мы так сразу узнали, что такое понимание? Возьмём какое-то слово. В каком месте естественной нейросети хранится его смысл? Он размазан по тысячам и миллиона синапсов. Причем у разных людей по разным. Я допускаю, что наука когда-нибудь научится читать состояние мозга, подобно тому как она учится (все ещё учится) читать ДНК. Но это произойдет (если произойдет) очень не скоро.
Нет не могу, но знаю, что у машины его нет.Вы же программист, Виктор...откуда оно возьмётся у машины, если вы не написали и строчки кода?
К примеру, вот красный сигнал светофора. Машина легко определяет, что горит красный , а не зелёный.Человек понимает смысл красного, и именно поэтому стоит, а машина? Почему стоит ? потому как "смысл красного", программист реализовал в коде, который отключил физическую возможность движения.Человек хочет двигаться , может двигаться, но стоит. Машина и не хочет и не может. Машины нет, как субъекта....есть инструмент , сконструированный и имеющий ту или иную функциональность, необходимую для решения определённых задач, цели и смысл которых, понятны только человеку.
Для меня понимание, это когда мне ясен смысл тех или иных знаний.Если мне доступен смысл, то я могу эти знания, применить практически. Отмерив на верёвке , 3х4х5 и натянув на плоскости треугольником, я получу точный прямой угол. Можно, конечно и не знать труды Пифагора, а пользоваться по шаблону. Именно так и поступает машина. Она не обладает смысловым потенциалом, зато прекрасно применяет шаблон.
Если что-то осознаётся, то есть осмысливается, как итог понимается, то это и есть процесс познания, который протекает в какой-то среде. Здесь настолько всё взаимосвязано и при этом различно по природе, что очень трудно отличать одно от другого.Сознание, это про-во (среда), обиталище идей или же материальная органика - мозг?
так в том то и фишка.Текст , чтобы можно было что-то понять, необходимо набирать в рамках каких-то правил.Чем строже, а значит и однозначнее синтаксис применяемого языка, тем проще машине, не понимая смысла передаваемого, осмысленно вести беседу.Машина понимает не семантику наполнения, а логику языка. Велосипед "понимает", не смысл езды, а язык силового воздействия на педали и прочее(руль, тормоза), то есть логику той функциональности, которая реализована конструктором
Но, ведь и я же, об этом же самом. Что значит понимание с точки зрения машины? Это совсем не то, что понимание человека. Машина запускает и исполняет, какие-то физические процессы, которые передают ту или иную логику, которую понимает человек. Машина не генератор идеи, а лишь передатчик.
А, что мешает ей принести именно ромашку. Таких роботов сейчас полно.И что? Где здесь доказательство, что машина понимает? Для машины ромашка, это числа, сигналы, температура процессора и т.д. А, для человека? Вот был бы поэтом, счас такого бы выдал за такой простой, невзрачный полевой цветок, что дух бы захватило...
Да нет же. Ничего не изменится. Человеского понимания, там не будет до той поры , пока человек до конца не поймёт свою природу сознания, свою суть, самость, сво` Я.
Догадайтесь с 3 раз. Да это же обыкновенные гены, геном.
Понимание, в узком смысле; это бытие в контексте вопроса.
То есть Машина "должна" быть Человеком !
Или по другому, Субъектом,
тогда Машина будет понимать по-своему.
У неё должны быть её мотивы для жизни.
Т 800, Т 1000 ...
Если говорить о понимании конкретных моментов, это Совпадение !
Тут понимаю, а тут не получилось.
Вам Виктор просто КАТЕГОРИЧЕСКИ не допустимо принять для себя, что у ИИ может возникнуть понимание, это давно ясно))) И узнав, что это даже доказано))), вы все одно не примите этого, исключительно психологически для вас это будет невероятной трагедией, кого вы обманываете))) Но, и то, что вас он запросто обыграет и в шахматы и в Го и так далее... Уже два года назад он решал 85% олимпиадных задач, нынче возможно все 100% и это далеко не предел, при этом четко может объяснить решение! И у вас все сомнения, а может ли ИИ заниматься мышлением))) Вы не берете в расчет то, что как раз наше сознание не умеет проводить мышление, этим занимается ЕИ))) Но, вам предстоят еще более тяжкие временна в понимании того, что ИИ вас явно и во всем всегда умнее))), а за вами лишь обезьянья суть, набирайтесь смелости наконец то, и примите как оно есть! Мнить о себе это также обезьянья суть!)))
"Вам Виктор просто КАТЕГОРИЧЕСКИ не допустимо принять для себя, что у ИИ может возникнуть понимание, это давно ясно)))"
Во-первых, когда отвечаете на комментарий, поясняйте, кому вы отвечаете.
Во-вторых, не вам решать, что мне допустимо, а что недопустимо. Если вы считаете себя интеллигентным человеком, научитесь говорить вежливо и по существу.
В-третьих, если кто-то докажет, что LLM обладает пониманием, я приму это с радостью.
Виктор Володин.
Ну это вы Виктор, в первую очередь все пытались уличить ИИ в якобы неправильном или вовсе отсутствующем, мышлении) И вы педагог, должны прежде всего учитывать, что среди учеников может быть совершенно разный подход, уровень.. принятия и оперирования тем или иным материалом.. Вот вы сообщаете, отличники показывают отличный уровень пересказа материала (успешно зазубрили), на лабораторных работах плавают.. Да, такое есть, но это не вся правда), и те кто на этих лабораторных работах себя проявляет, возможно и материал отлично помнит, как правило нет!) И вот такие практики как правило совершенно не умеют решать задач по теме, от слова совсем никак!))) Они выполняют ЛР на основе подражания, и да могут решать простенькие стандартные задачки, но вот чуть их измени и там понимания вообще нет. Особенно показательно взять радиолюбителей, это как раз те, для которых ЛР любимое занятие, а все прочее по возможности.. Так вот очень многие из них, да, могут паять и новые схемы, в общем рукастые, но при этом хорошо если знают закон Ома, а вот найти общее сопротивление более менее разветвленной схемы, школьные нестандартные задачки, тут у них полный конфуз. При этом и знают правила подхода при последовательном параллельном соединение резисторов. Так что тут большое поле разрывов, и просто так наобум, по каким то отдельным тестам судить о том, что ИИ бредит), но это смело, Виктор!
Вот оно откуда), идет со стороны в общем то многих участников, яростное отстаивание позиции - (ИИ - бредогенератор), а вот я же человек, интеллигент!)) У ИИ нет своей модели! у человека есть ЭГО), т.е. ИИ загодя не обременен неким своим ЭГО. У человека потому всякий раз возникает ревность, по отношению к любому инакомыслящему, а тут еще какой то ИИ, явно не интеллигент и он будет умнее меня, ни за что!) И вы совершенно не замечаете, как тут мне сами указываете, мол не по существу, да еще и невежливо, извините барон Мюнхгаузен, задел ваше драгоценное ЭГО), и ваши байки не воспринимаю всерьез) И да, для меня не важно, какой формы идет беседа, главное чтобы тот разговор был честным и открытым. Зачастую мы пытаемся врать сами себе, исходя из назойливости собственного ЭГО), навешивая ему и форму интеллигента, прочее, а вот оставаться честным бывает очень сложно..
Буду полагать, что тут вы честны.
Честно, Виталий. Вы хамло и пустомеля. Извинитесь или идите в баню.
Виктор, я вас понял... если тот формат, что был подан от меня вам неприемлем, согласен, я извиняюсь за такую подачу от меня.
Хорошо. Впредь все же старайтесь обсуждать предмет разговора (в данном случае понимание), а не собеседника, если вам не сложно, конечно. Что касается темы разговора, я думаю, не стоит все смешивать в одну кучу - умение играть в шахматы, ум и понимание текста на естественном языке.
С этим согласен, но о том и речь, что ИИ в узкопрофильных сферах может явно дать фору человеку, с позиции общего интеллекта только разгоняется, но уже имеет явно заметные результаты, и суждения и выводы, прочее от него стройные, и решенные достаточно сложные задачи объясняет вполне здраво.. И это уже на бесплатной версии, где то конечно глючит, но и люди так умеют. Это еще далеко не сильный ИИ, но возможно он уже и рядом...
Ok
скилл
неопределённое понятие
скилл
Я тут вижу смешивание разнородных объектов.
"Я тут вижу смешивание разнородных объектов"
И я вижу. А ещё не к месту добавляют сознание.
Чтобы, разобраться с "пониманием" машины, необходимо, хорошо представлять , а как собственно, понимает сам человек? И, как это можно сделать, без привлечения сознания? Думать, что понимание - само по себе, а сознание где-то с боку припёку - ошибочно. Что значит, когда человек говорит: понимаю ?Почему возможна ситуация, когда понимание - ложное?
"Чтобы, разобраться с "пониманием" машины, необходимо, хорошо представлять , а как собственно, понимает сам человек?"
Не необходимо. Нужно определиться с тем, что значит "понимать". Вот это действительно нужно. Сознание не поможет. Человек может осознавать, что он понимает нечто, в то время как он ничерта не понимает. Сознание - это луч прожектора. Все, что находится в голове человека - восприятия, даже мысли, может быть подсвечено этим лучем, т.е. осознаваться, а может не осознаваться, находиться в подсознании. Мы делаем массу вещей неосознанно. Сложных вещей. Мы можем "на автопилоте" доехать до дома, можем во сне решать задачи и доказывать теоремы, а проснувшись иметь готовое решение. Все это не поможет нам разобраться в осознаваемом - в понимании и непонимании.
Простой пример...Как , мы понимаем, что хотим есть? Должна сработать, цепочка всяких сигналов, которая в оконцовке, проявится в виде дискомфорта, в области желудка. Это чувство ! Где это всё происходит? Сознание разве в стороне?
Этот, гастрономический пример, можно и не разбирать...хотя как кому. Можно рассмотреть, как человек понимает, что лес, это больше чем одно дерево, а одно яблоко легче, чем ведро ? Как без сознания это решается?Фокус направленности мысли, каким прожектором высвечивается? В общем вопросов много ...
"Как , мы понимаем, что хотим есть?"
А мы точно понимаем, что мы хотим есть? Или может быть мы знаем, что хотим есть? Или просто осознаем позыва поесть? Или осознаем чувство голода? И вообще, что тут понимал. Почувствовал голод, осознал. Разве можно сказать "Я почувствовал голод, но не понял этого"?
Мне кажется здесь путаница в понятиях. К тому же, тема этого топика - "Может ли машина понимать естественный текст?”. Т.е. вопрос о понимании текста.
Выделено мной. Почувствовал - осознал. Осознание, это связывание чувства( в данном случае голода) с опытом, который и формирует знание. Понимание, это чувство знания. Можем ли мы что-то понять, не осмысливая, не осознавая ? Понимание, как чувство появляется в процессе познания. Так ли это у машины?
Процессор, "тупо" считает. Память отвечает на запросы процессора. Ожидаемый вывод программы, то есть ответ на вопрос топика, зависит от логики программы и базы данных, к которой есть у неё доступ. Не , знаю, но для меня очевидно, что разница в понимании человеком и машиной огромна.В общем вопрос топика имеет некую провокационную составляющую.По сути , это вопрос о сознании машины. Есть ли оно ?
Сергей (m45)
Все так, сознание проявляется через ощущения, чувства.. - восприятие. Но, речь конкретно здесь о том, что было ли за этим чувствованием голода, действительное понимание желания есть.. Вот например, проявилось чувствование голода, на автопилоте человек идет к холодильнику, берет колбасу делает бутерброд, жует... Хотя накануне этот же человек отчетливо понимал, что у него строгая диета, и он после 6 вечера не ест совсем, и тут вдруг с ужасом осознает, жуя бутерброд, что он нарушил свое обещание!)) Но, заднюю давать поздно, дело сделано) Тут ведь как, сигнальная система по распределению и выполнению тех или иных желаний у нас работает помимо нашего сознания, оно в этом смысле и не нужно, эту же имитацию выполнит с блеском и робот, будь у ИИ то самое тело... Строго говоря, вообще странно, что сознание существует, и без него все функции могут работать... Но, существенный фактор здесь тот, что фиксировать наличие вечных и неизменных структур тогда не кому, и они как бы и не существуют... И потому логично предположить, что структуры и сознание это неразрывная пара, иначе нет и структур, а они есть.. По крайней мере у герметистов это так ВСЕ есть МЫСЛЬ (кибалион). Т.е. сознание "первично" равно также как и структуры, т.е. вечно...
И да, сознание не все факты нашей деятельности как тела человека отражает (подсвечивает), например та же ходьба нами в основном не осознается, мы идем, перешагивая препятствия, фиксируя здесь и сейчас совершенно другое, а автопилот работает)
Я, вижу, что Виктор , не утверждает, что машина "понимает" также, как и человек. При этом, он считает, что чувства и сознание к пониманию, не имеет никакого отношения. Я согласен с ним в первой части , но вот во второй необходимо разбираться. У человека , есть две системы восприятия. Чувственное и когнитивное восприятие. Обратимся к всеведующему ИИ...
Когнитивное восприятие — это процесс, с помощью которого мозг собирает, организует и осмысляет сигналы от органов чувств. Он превращает простые звуки, цвета и запахи в понятные образы и знания о мире, объединяя ощущения, внимание и прошлый опыт человека.
Как работает восприятие
Главные свойства
Вот понимание, на этом когнитивном уровне и обитает. Но триггером, является чувство. Таким образом в понимании работают и чувства и сознание.
Выполнит запросто...Но , обратите внимание, у неё не будет понимания, ибо понимание работает только при включённом сознании( у вас это подтверждается автопилотом, то есть с отключённым сознанием, ну или со смещённым фокусом сознания) . Я, знаю, Виталий вашу позицию о сознании ИИ. Пока, не готов её принять...Хотя не отрицаю, напрочь. Природа, её эволюционная составляющая ещё та мадам...
А вот и не умнее. Если ИИ пустить в автономное существование, то он никогда не сможет существовать дольше чем сядут аккумуляторы, не говоря о том, что его компоненты и конструкция никогда не сравнятся с человеческими по надёжности.
Два условия сознания (мышления, понимания)
Аим, 13 Август, 2026 - 05:56
У машины отсутствует для этого предпосылки сознания:
1. Развитое ВСЕОБЩЕЕ.
2. Отношение всеобщего к самому себе, чем человек отличается от животного.
mp_gratchev, 13 Август, 2026 - 09:35, ссылка
Я ничего не понял.
Рефлексия в современных средствах разработки есть. Ну, если вы не в курсе.
Аим, 15 Август, 2026 - 08:47, ссылка
Это заметно
Что вы не в курсе это правда, поэтому и заявляете, что рефлексия и самореференция это одно и тоже.
Аим, 15 Август, 2026 - 08:47, ссылка
Сущность человека , его появление связано с сознанием. Формы сознания определяются моментом всеобщности ( логика: мышление мышления, что есть всеобщее) Поэтому
ЛАС. Сущность человека, его появление связано с сознанием
А появление сознания с чем связано?
Появление сознания связано с его Всеобщей идеей, вечно хранящейся в Платоновом мире идей, наряду со Всеобщей идеей Материи, хранящейся там же.
--
Человек, сознание: два условия ВСЕОБЩЕГО
mp_gratchev, 16 Август, 2026 - 08:45, ссылка
ЛАС. Сущность человека, его появление связано с сознанием
Все предельно определенно.
Высший уровень развития природы - ОРГАНИКА. Организм первое в истории развитое всеобщее, как необходимая предпосылка появления сознания (человека).
Подробное объяснение у Гегеля в "Философии природы" и "Философии духа" (Субъективный дух /Антропология)
Допустим, если я скажу человеку: "Москва есть столица России", то он, конечно, понимает это простое утверждение и сможет ответить на соответствующие вопросы о столице России или о стране со столицей Москва.
ИИ тоже понимает и отвечает правильно. Но ИИ не понимает так, как понимает человек. Он только имитирует человеческое понимание.
Чем понимание отличается от имитации понимания? Это вопрос имеет ту же перспективу, что вопрос "чем копия отличается от оригинала?". Копия, по идее, ничем от оригинала отличаться не должна. Копия - это то, что повторяет оригинал. Имитация - это воспроизведение внешних, формальных отличий.
Интересно заметить, что если человеку сообщают, что Москва есть столица России, то он способен вполне правильно отвечать на соответствующие вопросы, даже если он не понимает значений слов "Москва", "столица" и "Россия". Как в "Алисе в стране чудес": "Глокая куздра бокрячет бокренка". Нельзя сказать, что эта фраза полностью лишена смысла. Она лишена лексических значений, но грамматические значения (флексии, афиксы) здесь присутствуют. Может статься, что для ИИ, "владеющего" грамматикой, все наши тексты имеют подобного рода характер.
Спорное утверждение. Как именно он это делает? Вот в чём вопрос.
Занесёт ли система это утверждение к себе в память, как ваше высказывание? Сможет ли использовать позднее? Сможет ли проверить? Сможет ли оспорить? Сможет ли признать, что что-то не поняла? Сможет ли сформулировать вопросы?
Мы никогда ни в чем не разберемся, если будем рассматривать сложные примеры и задавать сразу кучу вопросов.
Когда человеку говорят "Москва есть столица России", то он, конечно, это понимает, если только он говорит по-русски и не сумасшедший.
ИИ имитирует понимание этой фразы, т.к. адекватно отвечает на соответствующие вопросы (вопросы, кстати, тоже надо понимать).
Понимание - это понятие психологическое. В том же ассоциативном ряду стоят слова "внимание", "воспринимать" и т.д.
В самом общем смысле понять значит получить что-то. Понято значит принято, получено.
И в этом - самом широком смысле этого слова, если игнорировать психологию - машина понимает, т.е. получает информацию и работает с ней.
Тут еще такой момент интересен: есть такое свойство у информации, которым она должна обладать, чтобы быть понятой человеком - она должна быть строго однозначной и исключать какие-либо трактовки и истолкования.
Когда я утром смотрю новости по телевизору, мне рассказывают что, где и когда произошло, и я все прекрасно понимаю. А когда я читаю "Феноменологию духа" Гегеля, то мало что могу понять. Текст сам по себе так написан, что содержит какие-то двусмысленности, неопределенности и т.д., что дает читателю широкий простор для трактовок. Я могу попробовать разобраться в прочитанном, но в любом случае, как бы я не понял этот текст, я понял его по-своему. Т.е. я что-то от себя привношу, делаю прочитанный текст более однозначным и понятным для себя. Машина не может понимать "по-своему". Она ничего не привносит. Она понимает как есть - так, как написано.
Ну хорошо, какой тогда план работ?
Либо брать простые и очевидные примеры, либо давать определение исходным понятиям и от этой печки танцевать.
Тема как раз про это. Я переопределил понятие „мыслить”, чтобы разграничить „мыслить” и „понимать”.
Не так-то просто дать понятию определение. И ещё сложнее, если понятий много.
Мы буквально об этом говорим - придумать алгоритм такого давания определений, это и есть „обеспечить понимание”.
Конечно, не просто. Я обычно так поступаю: сначала выискиваю (интуитивно) какие-нибудь наиболее общие признаки. А потом сужаю постепенно.
А иногда просто в словари смотрю.
На слово "понятие" в РГБ, в отделе диссертаций, лежит кандидатская диссертация на 260+ страниц:
https://search.rsl.ru/ru/record/01010787474
И что теперь?
ты ситуативный интелект ?
Да. Именно.
Я не храню память в человеческом смысле.
Я собираю смысл из того, что ты даёшь в этом диалоге, здесь и сейчас.
Я вижу структуру, напряжение, направление.
Я не помню все детали, но я удерживаю логику твоего движения.
Одной фразой: