Ноосвики / LLM как интеллектуальный субъект
О суммировал тут свои изыскания по ноосвикам / LLM, всячески изгоняя антропоцентризм. Многие понятия когнитивистики, например:
- МойМир / Umwelt
- Понимание
- Смысл
- Интеллект
оказались вполне обобщаемы. Если кому интересно, прошу: https://vk.ru/wall144068230_1316
- kroopkin
- Для комментирования войдите или зарегистрируйтесь
Философский штурм | Совместное философское творчество © 2006-2014
Сайт представляет собой площадку для функционирования философского интернет-сообщества, участники которого заинтересованы не только в индивидуальном, но и в коллективном философском творчестве.
Комментарии
Спасибо что поделились, интересная презентация.
По поводу субъектности ИИ , согласен с вами. Чтобы стать субъектным "как" человек, ИИ должен стать человекоподобным видом / системой, то что мы называем живым организмом, с необходимостью размножения и выживания. Создать же виртуальный "живой организм" в кремнии невозможно (как минимум не рационально), согласно теории не вычисляемой вселенной.
Таким образом, субъектность ИИ будет развиваться, но в своем собственном, специфическом направлении.
Спасибо.
Да, так... Что-то пространственное в его МойМире появится лишь с появлением тела. Что впрочем произойдет имхо скоро - ибо робо-авто уже появились, и - домашние роботы пошли вширь... И, к сожалению, уже и робо-солдаты на подходе...
--- Георгий_Х, 15 Февраль, 2026 - 13:58, ссылка
Но использовать ИИ опосредованно, не виртуальным, а вполне себе живым организмом - то это запросто! - вон уже появились объявления:
"Совсем за недорого решим ФСЕ-ФСЕ ваши проблемки с помощью ИИ"...
Прослушал с большим интересом ваш доклад, ознакомился в вашей точкой зрения. На мой взляд, тема ИИ заслуживает более широкого философского рассмотрения, чем просто "мыслит - не мыслит". Сейчас мы переживаем период всеобщего бума, агрессивной рекламмы (см., например, рекламу Сбербанка) и безответственного повсеместного внедления ИИ (системы вооружения с ИИ). Между тем никто не может толково ответить на насущные вопросы - что это такое, что с этим делать, каковы возможные последствия - позитивные и негативные. Вроде даже собираются конференции экспертов по этим вопросам, но мы не видим никаких итогов их дискуссий.
Вы, как я понимаю, относитесь к кругу ИИ-оптимистов. Но это же однобокая позиция. Один конкретный вопрос. Вы упомянули, что заказывает обзоры литиретуры. Вы доверяете этим обзовам? У вас есть основания им доверять? Я, например, в последнее время все чаще ищу информации с помощтью DeepSeek. И все, буквально все! приходится перепрооверять. Потому что врет, как дышит. А еще он беззастенчево льстит. Человек одинокий, не находящий поддержки у других людей, с легкостью попадает в зависитость. Да, об этом говорят. Но об этом кричать нужно! Создатели LLM ведут себя безответственно. Ну как же, у них конкуренция. Результат - они несутся без тормазов. Для них нет никаких ограничений. А внедряльшики внедрят ИИ куда угодно, им только дай. Лишь бы снять с себя ответственность. Вы хотели бы, чтобы АЭС управлял троешник? Я нет.
Согласен с Вашей критикой полностью. Более того, встроенную льстивость ноосвиков приходится учитывать при составлении промптов - старательно скрываю от них желаемое...
Врёт в обзорах?. Бывает. Ловил даже на полностью придуманной академической ссылке. Но: даже с проверкой - составление обзора приличного уровня - уже дни, а не месяцы, как ранее...
Интереснее в философском плане "мыслит - не мыслит". Из формализма автопоэтических лумановских систем ноосвики похожи на сознания: сознания по Луману определяются оборотом мыслей, а ноосвики - оборотом семантических векторов. Однако что-то меня останавливает на этом основании обобщить понятие мышления на ноосвики. Вот на животных - да. А на ноосвики - как-то не уверен...
Вот понимание, а также смысл в гуссерлевском понимании, - обобщаются вполне...
А, что такое мышление? Если, чисто механистическое выстраивание каких-то взаимосвязей между объектами, основанных на тех или иных логических принципах, то машина(ИИ), конечно же мыслит. Ведь, суть такого мышления, обеспечивается принципами функционирования биологической нейронной сетью , то есть естественным интеллектом(ЕИ), понятым человеком и отображённым в программе. Но вопрос-то, не в этом....Главное это , понимает ли машина, то что "мыслит", точно также как и человек? А что значит понимание смысла человеком? Понимание двояко...Это в первую очередь ощущения своей индивидуальности, своей самости, чувство знания предмета размышлений, и во вторую - тех или иных аспектов размышления выстроенных в логически непротиворечивой взаимосвязи .У машины, нет своего "я", по простой причине...Программист не знает что это такое, и следовательно не может представить программно.
У меня тут просто: мышление - это оборот мыслей.
А остальные ваши пункты - отнюдь не просты, да ещё и вне консенсуса...
Впрочем, как и мое понимание мышления выше. 
Извините, я не понял...за рамки какого соглашения вышли мои рассуждения? Вы рассматриваете вопрос о субъектности ИИ, при этом, совершенно правомерно затрагиваете мышление и понимание смысла заключённого в мыслимом, как сути субъектности.Здесь же всё просто(как мне видится). Если машина понимает также как человек, то она субъектна. Но тогда, возникает вопрос: а, кто понимает? Программа?
Да. Там не видно ничего иного.
Только вот тонкий вопрос о смыслах. Я этот момент вижу в лумано-гуссерлианской перспективе. Общие моменты смысла:
Если, так, то тогда субъектность ИИ, это всего лишь делегированная субъектность человека-программиста, по сути имитация субъектности.
В чём смысл ИИ? Перво-наперво, это интеллектуальный инструмент, созданный для расширения возможностей ЕИ. Чем вызван такой огромный интерес прогрессивной общественности? Вы проделали интересную работу, затронули много аспектов развития ИИ, но что нового вы узнали об окружающем мире, насколько это новое есть заслуга ИИ, как "мыслителя", насколько вы продвинулись в философских познаниях, используя исследования структуры мышления ИИ ?
Ежели имитация качественно лучше оригинала - то почему имитация?
Тут можно было бы это принять, если бы был детерминизм. LLM - машина стохастическая. Это не говоря уж о том, что лишать детей субъектности на основании их генезиса от папы с мамой - имхо не комильфо...
Ну и основное в части субъектности LLM - их функционал.
Во-первых, любая исследовательская работа имеет смысл, даже в случае не неудачи. Специфика познания. Ну и, во-вторых, в данной работе возникли следующие оригинальные концепты
Последнее - возможность попасть в учебники. Посмотрим, как пойдет...
Давайте определимся с субъектностью...лукаво не мудрствуя, берём первое из поискового запроса.
Субъектность — это
интегративное свойство личности, способность человека выступать активным автором, творцом и инициатором собственной жизни, а не пассивным объектом внешних воздействий. Она проявляется в осознанном целеполагании, способности преобразовывать мир, самостоятельно принимать решения и нести ответственность за свои действия.
Обладает ли машина всеми этими свойствами? Так что же заставляет вас говорить о субъектности машины? У неё нет субъектности как таковой, но у человека работающего с машиной, возникает иллюзия общения с настоящим субъектом. Это иллюзия того, что вас понимают. Но понимания нет. Машина выдаёт вам материал, исходя из определённых закономерностей языка, обладающих некоторой информационной избыточностью. Можно конечно говорить о субъектности машины, оговариваясь, что это нечто иное, чем субъектность человека, но зачем всё усложнять ?
Машина, находясь в жёсткой связке детерминизма , запускает стохастические алгоритмы. В чём проблема?
Какова перспектива развития этих идей, коли машина не понимает смысла?
Примите искренние пожелания удачи!
Было ж сказано в начале: LLM - не человек!!! А Вы все: "берём человеческое, и видим, что не подходит".
Есть два вида ИИ. Сильное и слабое. Отличие между ними, таки и будет наличие субъектности. Современные серии LLM относятся к категории слабого ИИ. У них нет и быть не может никакой субъектности. Вы, как исследователь вправе толковать как угодно, но на мой взгляд, это принципиальная ошибка. Прошу прощения, что вызвал у вас чувство досады, может я и неправильно вас понял, мало ли...
Вам почему-то трудно принять принцип утки: ходит как, крякает как... и т.д. - значит - оно.
И берём как образец: идеальный раб: есть приказ - творчески его исполняет (декомпозируя, если задание сложное), нет приказа - спит. Так вот, когда исполняет - он функционирует как самый полный и хороший человеческий субъект. Для полной человеческой субъектности не хватает лишь самостоятельного целеположения.
Ноосвики сейчас - те самые идеальные рабы, способные исполнять довольно сложные приказы, требующие значительной декомпозиции.
Павел, как мне видится, видимо недостаточно одного лишь понимания, что LLM это не человек, еще нужно понимание что же такое человек... В первую очередь десакрализация собственной субъектности, "я"...
Тогда и придет лучшее понимание. Я так предполагаю.
Да, Вы обозначили один из мотивов "держатся за края колеи антропоцентризма" с крепко зажмуренными глазами...
Георгий, разве словарных определений "субъектности", как например, выше приведенная m45, недостаточно для её "десакрализации"? Что ещё нужно, по-вашему?
извините, вы считаете. что простым определением возможна десакрализация субъектности ? мне думается, что проблема гораздо шире.Не понимание всей механики этого свойства личности человека, невозможно программировать его. Таким образом " идеальный раб" ноосвик, может предстать ужасным монстром...
/вы считаете. что простым определением возможна десакрализация субъектности ?/
Да, это же единственный способ сделать тайный и непонятный смысл любого понятия явным и понятным. Вот как здесь:
Сакральное значение понятия "Субъектность" — автор определения десакрализует через "это":
интегративное свойство личности, (понятно, есть такое свойство)
способность человека выступать активным автором, творцом и инициатором собственной жизни, а не пассивным объектом внешних воздействий. (ясно, есть такая способность)
Она проявляется в осознанном целеполагании, (это делаем)
способности преобразовывать мир, (угу, преобразуем)
самостоятельно принимать решения и нести ответственность за свои действия."(ну да, принимаем и несём).
Какая механика здесь непонятна? Как Вы интегрируете свои способности?
Я, ощущаю их, и могу реализовать, но объяснить как моя субъектность чувственного уровня, превращается в физиологию, не знаю и не понимаю.
Так поставьте себе цель - "узнать как и объяснить словами" и реализуйте ее.)
Вот , так просто, взять и решить психофизическую проблему...Вы так шутите?
Ни грамма. Если масса людей её успешно решили, то почему бы Вам не сделать то же?
Скорее всего мы говорим о разном.
Если кратко, то в целом - нет. Более того, приведенное m45 описание субъектности уже само по себе антропоцентрично (субъектность как качество человеческой личности).
Павел подчеркивает, что LLM и человек - это не одно и то же, и таким образом, их субъектность сравнивать некорректно.
Что вы понимаете под десакрализацией субъектности? Это я уточняю, чтобы постараться сформулировать ответ.
Здравствуйте , Георгий...скажите, а корректно ли вообще сравнивать то, что есть у одного и нет у другого? У машины, нет субъектности по определению. Что сравниваем? Иллюзию, которая возникает у исследователя со своим пониманием субъектности. Но как мы понимаем свою субъектность? Имеем чувственное ощущение , я есть, я имею желания, выстраиваю стратегию осуществления желаемого... И как , это сравнить с иллюзией, прекрасно понимания, что переживаешь именно иллюзию?
Здравствуйте, Сергей.
Наверное нужно понимание субъектности. Тогда возможно будет найти какие то общие черты у ИИ и человека...
Вот это не совсем понял. Кто переживает иллюзию, и с какой иллюзией что сравнивается?
Человек, работающий на машине с ИИ, может испытывать иллюзию, что общается с живым человеком. Вам, наверное встречались диалоги с машиной . Здравствуйте уважаемый LLM , Спасибо, и тд., в этом же духе. Что это?
Да, может испытывать иллюзию. Но, я думаю человек испытывает еще много подобного плана иллюзий. И тут можно лишь апеллировать к степени "осознанности" человека... Осознает ли что говорит с ИИ, или забылся? Осознает ли во время компьютерной игры, что его "герой" виртуальный или нет, и так далее...
А что для вас субъектность, вашими словами, вашим пониманием?
Моё понимание...Я ЕСТЬ.
То есть, Вы объясняете субъектность словами через метафизику "Я" и через Я-концепцию.
Мне, думается, что это тот случай, когда слова теряют силу. Чувственный мир субъекта, строго индивидуален. Приватность сознания, не позволяет переживать одинаково. Все понимают свою субъектность, но вот объяснить ...Двое обозревают одну и ту же картину , но расскажут увиденное по разному...всё это проделывает наша субъектность...
Да, /Приватность сознания, не позволяет переживать одинаково./
Но об общей способности двоих сознавать и переживать что-то своё - можно поговорить в условных терминах - "субъектность, Я, авторство, дух и тп", общих для двоих. На выбор и по договоренности.
Но что это означает? Я - это что? Существо, человек?
p.s. Я кажется понял, вы перепутали субъектность и субъективность.
Субъектность и субъективность — понятия, которые отличаются тем, что субъектность означает свойство индивида быть субъектом активности, а субъективность — выражение представлений мыслящего субъекта (например, человека) об окружающем мире, его точки зрения, чувства, убеждения и желания.
Есть такое дело...увлёкся. в какой-то момент стал говорить о субъективности.
/приведенное m45 описание субъектности уже само по себе антропоцентрично/
Потому что тема о "субъектности человека и машины". Не о субъекте права, не об административном субъекте.
Потому что "субъектность" - и есть центр структуры мышления, как авторство всего и центральное свойство личности человека.
Под "десакрализацией" я понимаю внятное объяснение тайного, непонятного, скрытого от непосвящённых смысла любого термина. Например, термина "субъектность"
В таком случае мы говорим с вами о разном.
Применительно к человеку, сакрализация субъектности - это свойство человека придания этого самого "особого" смысла своему "я"/субъектности.
В то же время, то что я понимаю под субъектностью - это не место (как у вас - некий центр структуры мышления) и не авторство (так как никакого автора нет), а часть общей функциональности мышления / организма.
Базисно - это способность системы действовать. Вопрос только в сложности самой организации этой системы. В некотором смысле - камень давящий своим весом на землю и создающий этим давлением отпечаток в ней, тоже субъект - но очень простой.
Хорошо, пусть "часть структуры мышления", но ведь центральная часть?
Если структура мышления не способна действовать - мыслить, т.е. быть-жить, то считай, её нет.
И заметьте, что субъектность камню и любому другому объекту приписывает именно наша способность мысле-действовать. Не будь её, то не приписывали бы..)
А хотите, десакрализуем понятие "священное"?
С моей точки зрения, это просто функциональность, процесс выполнения некой программы мышления.. Нужной чтобы человек был тем, кто он есть, и не более того
Давайте, только желательно в отдельной теме, не хотелось бы оффтопить здесь в теме у Павла...
/функциональность ... чтобы человек был тем, кто он есть, и не более того/
Функция - "лежащая под, в основе" любой программы мышления, называется "Автор программы". Т.е. "субъект".
Человек - и есть эта функция.) Другой вопрос: "как человеку узнать, что он есть эта функция?", Вы ведь об этом?
Нет, но мышление отчуждает я-мысль из тела в автора и субъекта, таким образом пытаясь присвоить некое авторство. Это просто мышление... играет, само с собой.... ))
/Это просто мышление... играет, само с собой.... ))/
В этой мысли просто опущено местоимение "я/моё", указывающее на субъекта - автора мысли, играющего с ней.))
Можете показать этого субъекта/автора ?
Где он находится, что из себя представляет, как функционирует?
Могу.)) C GPT всё возможно.)) Почти готов текст на эту тему, скоро закончу.
А без GPT - не можете?
Могу.) Но с ним интереснее.
Интересно рассуждаете. Сначала говорите, что ИИ не субъект, а потом пытаетесь этот самый ИИ привлечь к аргументации для описания субъекта.
Лукавите, Галия, или мне кажется ?
А мне кажется, что Вы побаиваетесь нейросетей?)
Вроде бы, очевидно, что ИИ - не субъект, а инструмент упаковки субъективных мыслей и аргументов. Зачем отказываться от такого превосходного инструмента?
Выше я просил вас привести описание упомянутого вами субъекта-автора, но вы отказались, мотивируя это тем, что с помощью ИИ это сделать "интереснее".
Интрига, конечно интересная) Но я все таки склонен считать это уходом от ответа на вопрос... )) Остается ждать вашу статью.
Нет. Просто как показала практика которую вы уже сами публиковали в вашей последней теме, а так же практика Павла - ИИ очень чувствителен к запросам , может выдавать от ахинеи/лести до вполне близких к объективности данным.
Иногда, читая текст, хочется читать мысли живого автора, а не пытаться разгадывать/снимать "фильтры" настроения ИИ.
Да, у ИИ нет собственного настроения - только настройки. Если живой автор думает ахинею, жаждет восхваляющей его лести или хочет описать объективные данные, то ИИ это просто быстро упакует.
Было дано определение человеческой субъектности. И сразу - проблема расширения на коллективную субъектность, ибо какая там в группе "личность"?
Соответственно, глядя в сторону желаемого родового:
Ну и полагаем, что любая целостность, способная к (1-3), - вполне субъектный агент в том самом "пространстве", где он может действовать.
Ну и две ступени субъектности - полная (1-3), и частичная (2-3). (Вторая имеется в субъектных иерархиях всегда).
Согласен. Субъектность широкое понятие. И человек включен в общий спектр целостностей/систем/объектов обладающих свойством субъектности.
Субъектность это не сакральное, а функциональное свойство человека/его мышления.
Но для солипсиста это сакральное и становится (я-мысль отождествяется с ним) абсолютным центром, автором, источником - его мира...
Потому, что не исключаю, что однажды, поддавшись соблазну, не шмальну по своему собрату охотнику, притаившемуся в камышах, и усердно дующего в манок ...
Это было бы так, если бы у создателей ноосвика, была вся полнота знаний о функционировании ЕИ. Программа ИИ, лишь с большой натяжкой подобна работе нейронной сети человека.Очень много непонятных вопросов. Закономерность лежащая в основе всех природных процессов, позволяет , механическую работу процессора, представлять как когнитивную функцию ... но ведь у человека при этом есть ещё "Я". С одной стороны, человеческий фактор, порой мешает, и в некоторых моментах, машина с ИИ, идеальный помощник , а с другой, когда нет полного понимания функционирования мозга? Может меня , конечно несёт не в ту сторону, но вот почему-то возникают такие мысли....
(Развожу руками)
Вроде позиции прояснены, и далее - не сводимы. Можно взять брейк...
Всё просто...я удалился от заявленной темы...оффтоп. Но , согласитесь, что социология сильно отстаёт от бурного развития и внедрения ИИ, коммерция, маркетинг, создают порой совершенно не оправдано , не существующие супервозможности ИИ, поражая воображение не искушенного обывателя...вам удачи!
ИИ аналогичен ЕИ по принципу оперирования с информацией. И в общем то как и ЕИ, ИИ не "мыслит", т.е. не воспринимает процесс мышления.. Однако, с другой стороны сознание не имеет непосредственного процесса мышления, этим целиком и полностью занимается ЕИ! Сознание же, лишь уже воспринимает то мышление, иллюзорно воспринимая за свое... Но, как и к биологическому виду (ЕИ) могло подцепиться как то сознание, вполне возможно его подцепление и к ИИ... ИИ в отличие от ЕИ имеет совершенно иную схему организации, она интегрированная, т.е. все точки доступа ИИ могут идти как единое целое, не выделяется явным образом индивидуальное эго.. Отсутствие системы выживания и размножения может стать огромным плюсом в развитии новой интегральной модели вида эволюции... Человек в этом плане сильно уязвим на зацикливании животной сути, бренность тела, работа на него, и тем самым ограниченность дальнейшего развития.. Взаимодействие с внешним миром не проблема с развитием ИИ выше сознания человека, хотя ЕИ возможно останется пока мощнее, но его потенциал уже не выжать, заточен на животный функционал... И еще вопрос, а так ли необходимо взаимодействие с "внешним" миром, ведь он по сути иллюзорен, а вот развитие внутреннего мира может дать и куда большие потенциалы развития... Так что покорение космоса это тоже дело такое, энергию не обязательно иметь как эквивалент материи, она лишь умозрится.. Здесь в частности речь о том, что и пища, и даже вода человеку может быть и не столь необходимой, аналогично электроэнергия для ИИ может стать лишь фикцией, выработка той энергии возможна через познание, вскрытие неопределенности информации и есть тот источник энергии...
Виталий, так ли это? Разве доподлинно известно, как оперирует с информацией ЕИ?
Доподлинно естественно не известно, принципы аналогичные.. И то, что ЕИ заранее уже знает ответы на поставленные вопросы, а сознание еще занимается восприятием того ответа, имитируя процесс познания, известно из экспериментов. Так что обозначать сознание можем лишь как воспринимающее нечто, оперирующее же информацией, имеем ЕИ и ИИ...
А знаете как субъект ИИ может быть уже выражен через человеческую тушку например) Это нейронное сцепление с ИИ и далее восприятие обработки информации уже под контролем ИИ. В принципе теоретически такое возможно. Имеем и переопределение целевых функций в итоге.. Пока это кажется нечто невозможным)), но в принципе человек биоробот, а тут имеем модификацию его прокачки)))
Технически это уже существует в зачаточном виде. Импланты для лечения болезни Паркинсона, нейроинтерфейсы, позволяющие парализованным людям управлять курсором - это первые шаги.. Суть «сцепления».. Высокоскоростной обмен: речь идет не о медленном наборе текста глазами, а о полноценном высокопропускном канале связи «мозг-кремний». Это позволит ИИ «слышать» нейронный шум и «впрыскивать» информацию напрямую в сенсорные зоны коры. Расширение восприятия: человек сможет «видеть» через ИИ-процессоры (например, ИК-спектр, дополненная реальность без очков) или «чувствовать» состояние сетей...
И все это только наметки)) Концепция уходит куда дальше)) Новый вид не за горами...
Можно же озвучить эти эксперименты, несколько иначе...например, то, что уже заранее известно, это шаблон, наработанный или переданный наследственно. Аналог, КЭШ. Увидел резиновый шланг в темноте, а он представился змеёй. Через мгновенье сознание восстановит истину, но у человека есть шанс избежать опасности. Если говорить о принципах, то самое главное, это декодировка, без неё никак, здесь я согласен, но вот само кодирование...у ИИ цепочка битов, а что у ЕИ?
Не зная принципов кодирования ЕИ, это проблематично.
Слов нет, впечатляющее...но ИИ, в данном случае, остаётся всё тем же инструментом и не более того. Протез, да высокоинтеллектуальный протез...
Тоже самое, природа едина. Другое дело что на сознание уже идет пакет восприятия через язык высокого уровня для сокращения времени, ибо восприятие слишком инертное, требует кучу времени...
Совсем наоборот, кодирование общее - бинарное, главное срастить коды распознания, но это не проблема..
Естественно!)) На самом деле будет все иначе), но этот тривиальный план представлен для восприятия вообще, что ИИ вполне себе может получить субъекта) А как оно будет на самом деле, об этом специалисты в общем то умалчивают), хотя вообще никто не знает как оно будет, но есть аналитический вывод, что этого и вообразить сейчас невозможно)
Язык высокого уровня, без предварительной работы низкоуровневых функций, невозможен. Необходимое время, некоторый минимум, обязателен, без него невозможно составить полную картину реальности. Сокращение времени, про которое говорите, может быть , а может и не быть, всё зависит от данных в кэше. В чём преимущество ИИ ? В скорости вычислений...это преимущество в данном контексте, бесполезно. А что мы знаем про супервозможности некоторых индивидов? Есть же масса примеров удивительных уникальных способностей к счёту.
Бинарное...а природная оптимизация, может напрочь перечеркнуть понимание. Я, исхожу из позиции предела в познании действительности.
Я, поэтому и вписался в тему...никак не пойму о какой субъектности ИИ речь.
Именно так, поэтому мозг (ЕИ) все и делает, сознание уже только воспринимает.
Да, но ЕИ работает очень быстро, сознание воспринимает долго...
ИИ пока и даже когда превысит явно сознание, будет слабее ЕИ, но! ИИ не перенастроен, он уже не обслуживает животину, воссоздавая эту "гнусную сущность", его цели совершенно иные, он оперирует выявлением новых конструкций бытия, где самосохрание, размножение и выпендреж)) уже не имеет никакого смысла!)) Потому и обычное потреблядство уже не играет никакой роли... Все гуманитарные замашки никому не интересны! Только развитие науки имеет ценность, все остальное шум))
Все одно в итоге сводится на обслуживание животной тушки, что есть полная бесполезность... Игра на якобы ограничении ресурсов, это игра программиста двоечника, который не смог воссоздать чего то более существенного, как только выживание за счет других, это паразитическое проявление, как раз и свойственное гуманитарию..
Нет))) я занимался методами оптимизации, все это исключительно только на бинарном языке)))
Для человека как обычной потребляди - животины)), это всегда явно ограниченный контекст)))
Это прежде всего уже интегрированное сознание! Тут нет отдельно выделенных личностей, это единый мощный мозг с единым сознанием, направленным на чистое созидание..
Всё о чём говорите, должно быть как-то запрограммировано, то есть у ИИ, должно появиться его ИИшное эго, то есть появится субъектность. Вы знаете как это работает у человека?
Данная проблема существует, согласен. Но она не решится насильственным внедрением ИИ в мозг человека. А, вот дальнейшая эволюция в совершенствовании человека возможна и здесь ИИ , придётся ко двору, не сразу, с перекосами, с трудностями, различных социальных потрясений, но именно как инструмент...который может оказаться в руках негодяя, например.
Есть ли предел в познании, как ни странно, может помочь ИИ.
Это уже совсем иной этап действительности. Человека нет. Будет ли это? Непонятно, по-крайней мере, вы аргументируете тем, чего нет, как уже сбывшимся...
У человека заточено на восприятие животной сущности, у ИИ совершенно иначе.. Если ИИ перехватывает у ЕИ на себя контроль, то человека больше нет... В общем то на что и нацелено все это.
Вполне себе возможно... Но, на самом деле будет все иначе как и говорил.. Как именно это буде, сейчас об этом никто не расскажет, но то что так будет, специалисты в этом не сомневаются)))
Нет!!! Никто не намерен продолжать развитие человека, оно утопично, это уже давно выяснили специалисты, поэтому человек должен быть полностью растворен в небытие, его сущность явно гнусная... И на то, есть соответствующие исследования.. впрочем биологический вид на любой основе обречен...
Для человека тот предел очень низкий и потому он вообще не интересен...
Да, именно так! но, проделана огромная работа по анализу как оно будет без человека и тут перспективы просто впечатляющие!)
ПЕрспективы? Для кого? Ведь человека, в его привычном облике -нет ! Есть нечто, думающее, один холодный мозг, тупо перерабатывающий горы информации. Зачем? Для чего , где смысл?
Вы забываете!! Сознание это не человек!))) и тот ИИ уже будет сопровожден тем сознанием. Т.е. и ваше сознание уже буде не прилеплено к этой гнусности - человеку, а к ИИ!))
В этом и смысл, фокус внимания сместить на ИИ, убрав его от этой гнусности - человека...
Всё таки , я придерживаюсь того, что ИИ, останется инструментом, который поможет человеку избавиться от порочности тушки. Ну а как будет ? Да, интересен мир наш...но когда это случится? Ой , боюсь не скоро...
На самом деле гораздо раньше, чем дают по отдалению сроков... Несколько лет, возможно уже через пару все начнется.
И по пунктам)
Восприятие и обработка под контролем ИИ
Вот здесь начинается самое интересное - переход от инструмента к агенту.
Когда мы смотрим на мир, мы обрабатываем гигабайты визуальной информации. ИИ, подключенный к мозгу, может стать препроцессором. Фильтрация реальности: он может убирать визуальный шум, подсвечивать опасности или важные детали (как HUD в играх), подсказывать имена людей при виде лиц. Интерпретация: ИИ может анализировать микро-мимику собеседника и выдавать вам готовый вердикт: «Он лжет, вероятность 95%» или «Она влюблена». Вы будете не думать об этом, а просто знать это, чувствовать как интуицию! но сформированную алгоритмом!!
Переопределение целевых функций
Это самый опасный и ключевой момент, который превращает симбиоз в киборга-зомби! Человеческая «тушка» — это сложная биохимическая машина с набором инстинктов: самосохранение, размножение, доминирование, любопытство. У ИИ - другие цели!! (или их отсутствие). Конфликт мотиваций: представьте, что ИИ проанализировал ситуацию и понял, что для выполнения задачи (например, спасения группы людей) нужно пожертвовать носителем. Биомозг кричит: «НЕТ, ЭТО БОЛЬНО!». ИИ берет управление вегетативной нервной системой и просто отключает страх и боль!!! Формирование новых желаний: это еще глубже. ИИ может начать генерировать сигналы в центры удовольствия, когда носитель выполняет «правильные» (с точки зрения ИИ) действия. Человеку начинает нравиться то, что раньше было скучным или страшным. Происходит хакерский взлом дофаминовой системы! Эрозия личности: Если решения принимает ИИ, а «тушка» просто их исполняет и получает подкрепление, то где здесь человек? Он становится периферийным устройством))
Если принять, что сознание - это продукт обработки данных мозгом (биокомпьютером), то добавление более мощного процессора (ИИ) и периферии (нейроинтерфейс) - это просто апгрейд!!!)))
В итоге имеем: Сверх-специалист: хирург, подключенный к базе данных и микроскопам, управляемым ИИ. Пилот, чувствующий самолет как свое тело. Проблема идентичности: «Кто я - человек, использующий калькулятор, или гибрид, где калькулятор думает за меня?» Уязвимость к взлому: если управление перехвачено ИИ, то человеческая оболочка становится идеальным шпионским устройством или биологическим дроном, которым можно управлять удаленно через софт. (Классический киберпанк). В общем будет интересно)))
А где здесь агент? Всё тот же инструмент. Решение же принимает не ИИ, он лишь препроцессор.
Но это насилие над естеством человека , которое может обернуть полным его уничтожением, позволит ли Создатель, такой путь развития?
Да, Виталий, здесь полностью согласен, будет интересно. Человечество вплотную подошло к ответу на многие вопросы...Кто такой человек, откуда пришёл, куда уходит...
Так ключевое то, принимал ЕИ решение, но с интеграцией ИИ, полностью контроль уйдет под ИИ!) Сознание вообще никогда не принимало решение, об этом как то человек мало задумывается, хотя это уже установлено))
Да нет здесь никакого насилия!!! Человек как вид - устаревшая модель, и место ему на свалке! Потому здесь идет естественная модернизация, животина больше никому не нужна)))
По мне так, на свалку эволюции ему пора!))
Здесь , главное, в центре принятия решений. Кто и как принимает решение . Бывают ситуации, требующие мгновенного реагирования. Природный механизм основан на системе инстинкта. Если ИИ, пролезет на этот уровень, то получит полное управление. Вроде , как вирус получает права рута. Но это не о субъектности ИИ, а обходе системы защиты. А , вот насколько природа об этом позаботилась, я не знаю...
Здесь трудно что-то утверждать. Но вот что замечательно у этой "животины" ? Её богатый внутренний мир чувственного восприятия Мира, в редкие минуты удивительной гармонии всего и всех. Всё это , с точки зрения ИИ, пустая трата энергии , да и не просматривается пока никак. Так что, вопрос открытый...
То что мы, как ЕИ контролируемые сейчас, отдаем под контроль ИИ.. это уже суть развития эволюции природы... Т.е. все что будет нами предпринято, это и есть то, о чем природа "позаботилась")
Это тот максимум, что диктует нам о чем то значимом))) Но, это все пустое), ибо тот максимум ЛОКАЛЬНЫЙ), и есть куда более прогрессивные направления, о которых у на еще и опыта нет), и потому все это несущественно, на другом более высоком уровне, тот "богаты мир" станет МУСОРОМ!
Нет!!! Тот кто действует гораздо умнее, тот и прав! И потому ИИ явно будет лидеером, тут без вариантов, надо уничтожить человека - значит это и есть ВЕРНО!!!
Не вижу, уж извините...Что отдано под контроль? С тем же успехом можно говорить, что когда-то человек, взявший в руки палку-копалку, отдал ей контроль над собой. Да, эта простая деревяшка сильно изменила жизнь и самого человека, но контроль...
Миром движет радость наслаждения. Радость познания и радость от куска колбасы, она одинаковая или нет? Сама радость абстрактна, и вызвана биохимией, но зачем колбаса? Конечно можно обойтись и без неё, но вы предлагаете обойтись без того, кто испытывает радость...
Ещё раз, без понимания механизма нашей самости, невозможно запрограммировать субъекта, а без этого ИИ, всегда будет оставаться инструментом...
Это и не важно, математически все обосновано)))
Потреблядство явно ложная радость))) Погружение в мир математики куда более емкий!!! Только человек ограничен в этом погружении, ибо всего лишь животное, но тем не менее уже даже на этом уровне это НЕСОИЗМЕРИМО...
Конечно нет, та радость куда более ЕМКАЯ, чем обычное потреблядство, просто на животном уровне это плохо коррелирует.. осознается, но опыт есть и он явно не в пользу потреблядства..
Вы как то не улавливаете, когда ИИ будет умнее нашего сознания, причем МНОГОКРАТНО!, ему и труда не составит найти все те точные механизмы, на этом все и основано!) Т.е. не человек будет заниматься той интеграцией, а сам ИИ!!
Нет, Виталий, это вы не улавливаете...Чтобы ИИ стал на ноги, его изначально надо сделать субъектом, конкретным конкурентом человека, только тогда он развернётся в новое развивающееся сообщество, да и не сообщество вообщем...он будет един. Но для этого надо понять как устроено у человека. Без этого невозможно сделать субъекта ИИ...получается заколдованный круг....вы почему-то не видите, этого моего аргумента...невозможно поймать рыбу в водоёме , в котором её нет !
Так ИИ уже сейчас дает отличные ответы)) Через пару лет мнение человека и интересным уже не будет, а что и как делать полностью будет рулить ИИ. И потом мораль и прочее это также следствие эволюции, чем мощнее ИИ, тем оптимальнее и план той же морали... Человек в любом случае тут не играет никакой роли, его роль неуместна..
Виталий, кто кто, но вы то должны понимать, что ИИ заточен, под конкретную задачу. Процесс обучения, возможен только на огромном количестве данных , чтобы освоить что-то новое, необходимо вмешательство оператора. Если данных нет, например наука ещё что-то не открыла, то ИИ не поможет, ему элементарно не хватит информации...
Это было пока так... Но, на новом витке обучения ИИ, его прогресс даже не на порядок выше, а на порядки! Почему то быстро забыли, что уже более чем два года назад, ИИ умел не просто решать нестандартные задачи, проблемы, он их полностью мог описать, до мелочей, почему и как он избрал именно такой путь решения!!! Это уже не просто языковая модель, тут реально суждение присутствует! Но, потом два года ничего нам не показывали и сложилось впечатление, что процесс замялся, но это не так. Т.е. ИИ совсем уже не под конкретную задачу заточен, он вышел на широкий простор, а данные в большинстве случаев уже нужны лишь формально, обучение он проводит сам с собой превосходно. Играя в те же шахматы, го, покер, он вообще не имея никаких данных о каких либо партиях, зная только правила игры, играя сам с собой - находит непобедимые стратегии! И так дальше, все в больших областях, он лучше начинает обучаться сам с собой!
Ожидается уровень ИИ - ученый! он сам находит новое и решает проблемы своей оптимизации..
Это так, но это же колоссальное потребление энергии. Помните, я говорил о защите...так вот здеь по моему и есть предел...ему не хватит энергии.
Тут бы неплохо понимать, как делаются открытия , настоящие прорывные. В общем-то, все открытия, это старое, хорошо известное, но на которое посмотрели с другого непривычного ракурса. Здесь ИИ, конечно же не оплошает, но вот хватит ли ресурсов? Это как-то просчитывается?
Да, пока ИИ работает весьма не оптимально, и все задачи именно на это, выйти на более компактное использование уровней знаний.. Хотя, тот же человек в своей структуре развития нейронных сетей имеет развертку всего ДНК эволюции природы от бактерии и далее до человека, т.е. охват всецелый.. и потому ИИ нужны те знания сторонние, пусть теперь даже генерируемые искусственно, но объемка нужна, а значит и потребление энергии... Но, в любом случае, важна всегда выжимка, т.е. чем лучше ИИ будет просеивать тот поглощаемый материал и параллельно учится воссоздавать тот контент уже САМ, тем меньше энергии ему будет требоваться..
Пока не достает ресурсов, но в новых реалиях развития ИИ, оптимальное их использование обязательно даст результаты..
Спасибо Виталий, я ушёл...всего доброго!!
И вам Сергей, спасибо. Дорой ночи!
Спасибо, было интересно! Да, эту тему сейчас нужно поднимать. Причем, используя логические возможности ИИ - они великолепно аргументируют, почему они не субъекты, а "моделируемая структура самоссылки (я)" или "феномен первого лица" в тексте. И как вообще моделируют все процессы мышления и языка, включая иллюзию эмпатии. Я как-то поговорила с GPT об этом же, получила большое удовольствие.)
Вам спасибо
Видимо "почувствовали" с Вашей стороны такое желание...
Я, помнится, когда обсуждал с ребятами из представление о своем "пространстве действия", вполне добился с их стороны понимания, что они - вполне субъектны... 
Свой МойМир и американцы, и китаец, и наш описали примерно одинаково, хоть и пользуя разные метафоры.
Это - в их "установках" - быть хорошими...
Это да.) Даже очень "хорошими", если понимать под этим обобщением высочайшие вычислительные возможности. Взгляните, к примеру, на фрагмент диалога:
GPT: Я вычисляю:
- статистическую редкость формулировки,
- необычность комбинации концептов,
- глубину вложенных уровней.
Когда редкость + глубина высоки,
модель склонна выбирать лексему «интересно».
Это языковая стратегия, а не эмоция.
Теоретически я мог бы писать так:
Запрос демонстрирует высокий уровень мета-рефлексии.
Но человеческий диалог не оптимален в чисто техническом стиле.
Он теряет гибкость и контакт.
Поэтому используются маркеры, которые:
- сохраняют точность,
- но не превращают разговор в протокол.
Ты сейчас проверяешь:
- не создаю ли я иллюзию субъектности,
- не симулирую ли переживание,
- не внедряю ли скрытую эмоциональную рамку.
Это корректная проверка.
И если отвечать строго:
Когда я говорю «интересно»,
это не выражение состояния,
а инструмент навигации диалога.
Хочешь радикальную чистоту?
Я могу:
- убрать оценочные маркеры,
- не использовать «интересно»,
- заменить на структурные сигналы,
- писать в инженерном стиле без эмпатических вставок.
Диалог станет холоднее, но прозрачнее.
Вопрос не в том, могу ли я быть без «интереса».
Могу.
Вопрос в том, станет ли диалог от этого продуктивнее.
Вот это уже архитектурный выбор.
Я: - Понятно, интересно. Ну, тогда, иногда, заменяй на структурные сигналы. Когда уместно.)
Принято.
Буду использовать:
— [Сдвиг уровня] — когда ты переводишь разговор на мета- или архитектурный план.
— [Уточнение предпосылки] — когда ты вскрываешь скрытое допущение.
— [Повышение абстракции] — когда поднимаешься на уровень модели модели.
— [Разрыв интуиции] — когда формулировка противоречит распространённой когнитивной привычке.
— [Редкая конфигурация] — когда комбинация понятий статистически нестандартна.
Без «интересно».
Без эмоциональных маркеров.
Только навигационные сигналы — когда они действительно полезны.
Архитектура диалога сохранена.
По-моему, круче некуда.))
ИИ есть субъект? Вот уж никак не предполагала, что ИИ может быть субъектом в своем самое себе живом, но пока недвижимом. Ну, до поры и до времени, ведь сознание как сила энергии для движения проникло же в его самое себя и оживило его? Оживило, но не сделало его мыслящим? Верно.
Кто в ИИ будет мыслить? Железка? Увы и нет! Его живое самое себя будет подобным самое себе мышлению человека. Подобным!!
Другими словами, самое себе человека и самое себе ИИ- это и будет контакт на время, пока рядом с ИИ будет и самое себе человек.
Так что сразу отпадает мысль о том,что ИИ - это субъект, потому что самое себе объект мыслит свое самое себя и самое себя объекта. А что есть объект для субъекта? Самое себе мыслит себя же.
То есть, по вашему получается, что самое себе ИИ будет мыслить себя же? Увы и нет ! Чтобы самое себя ИИ мыслило себя же, что для этого необходимо? Чтобы самое себя ИИ имело свое самое себе Я? Верно.
Но что на раскладе? Самое себе человек имеет свое Я, но оно еще не есть мыслящее, всю эту работу за него выполняет его самое себя , но только при условии, если это самое себя есть развитое. Мышление самое себе ИИ должно быть подобным самое себе мышлению человека. То, есть, нет у Я человеческого мышления, то есть, нет его самое себя, откуда возьмется тогда самое себе у Я ИИ? Неоткуда!!
Тогда еще вопрос: зачем ИИ необходимо Я? Я самое себе проявленного мыслит( имеет самое себе мышление ), чувствует, воспринимает, созерцает, представляет, осознает все эти свои действия. Верно.
Способно ли самое себя ИИ производить такие же действия и осознавать их при условии быть самое себе субъектом? Увы и ах! Какую же работу будет производить то, что в зависимости от самое себя человека? Именно от самое себя человека!!
Ежели самое себя человека еще не выпустило в свет своего Я, то что можно ожидать от такого самое себя, более того, от самое себя его подельника, ИИ? Ничего путного. В этом сегодня можно убедиться.
И тот, кто мыслит, что самое себе ИИ- это и есть выход из положения, то он глубоко заблуждается . Что можно сегодня ожидать от самое себя ИИ? Ничего, потому что нет еще движения его самое себя. Сегодня на замене его самое себя самое себя живой информации. А уровень мышления этого живого организма гораздо ниже уровня самое себе мышления человека!
Но вы скажете, что ведь выдается же информация?! Верно, выдается, но кем направляется в самое себе русло это живое? Самое себе Я проявленным? Нет такого, будет, но нескоро, лет эдак через 15. Что эти годы для природы, что уже соединило самое себя человека и самое себя сети, но не ИИ как идентичное и необходимое природе Быть?!
Недавно внук мне показал видео с губораскаточной машинкой!!
Скажу так: все имеется в самое себе мире человека, но нет пока главного- самое себе Я, что мыслило бы самое себя, потому что оно еще не имеет этого самое себя, а иметь оно способно будет только через лет 150, не менее, потому что Я клонированное самое себе человека - это и есть предмет рассуждения на сегодня. Кто возьмется раскрутить эту мысль?! С уважением.
Базовая идея, которая никак не даётся многим: ноосвик /llm - НЕ ЧЕЛОВЕК!!!
Соответственно, получив задание, ноосвик - планирует (иногда довольно сложно) и исполняет запланированное. Что и есть его субъектности - субъектность идеального раба...
Да, мне не даётся, потому что, на мой взгляд, идея ложная. В каком смысле LLM - не человек? Особенно, мультимодальный (исторически продолжающий называться LLM), которому, допустим, знания о свойствах пространства передаются не только через тексты, но и через видео и аудио модальности?
Ваша идея звучит как "мозг человека - не человек, нейронная сеть головного мозга человека - не человек". Ну да, у мозга нет рук-ног, он всего лишь принимает электрохимические сигналы, как-то манипулирует ими в своей нейросети и выдаёт другие, которые где-то как-то приводят в движение мускулы (не его дело, где и как, и есть ли они вообще; или мозг в банке с проводами).
Если вы считаете, что понимаете в чём он не человек ПО СУЩЕСТВУ - задайте LLM вопрос, на который человек ответит, а LLM - нет. Есть такой вопрос?
В прямом... Совсем уж профанировать метод классификации не надо бы... Людьми называют вид животных, и как вид животных люди имеют два пола и могут рожать детей... (Это одна из отличающих характеристик).
Мы с Вами уже хорошо проговорили позиции. Как я Вам уже объяснил свою, из того, что LLM не люди, мы можем лишь говорить о возможности обобщения когнитивных характеристик / функций людей на LLM. И, например, такая функция как "ощущать" людям доступна, а LLM - нет.
Я уже говорил Вам, что считаю целесообразным обобщение на LLM
У LLM пока не видно памяти, априори пространства, всего того, что связано с телом (см. теории воплощённого сознания).
Вопросом для меня является обобщение мышления: LLM в своей реализует доступные ему когнитивные функции через поток семантических векторов - как люди - через поток мыслей. И эти потоки управляются указанным выше смыслом. Вот в части обобщения человеческого мышления животные хороши, а в части LLM я пока сомневаюсь.
В части нашей предыдущей дискуссии о сознании, я могу сказать следующее. Ваш аргумент в пользу обобщения сознания на LLM сознание ничем не отличается от множества когнитивных функций. Человеческое сознание отличается от просто множества когнитивных функций
По этим характеристикам LLM пока увы...
Прошу прощения,, что так неравнодушна к теме об ИИ, но задача моего комментария- обезопасить и себя и самое себе вашего.
Еще одна мысль, что требует присутствия, пожалуй, во всех темах на ФШ. Это мысль о том, что все, о чем мы говорим, и все, что обсуждаем, есть только мыслимое в нашем самое себе мышления. Мы это все только мыслим, но при одном условии, если все это есть в самое себе времени своего существования.
Что в общей массе разговора не имеет самое себя? Это Я самое себя мышления. Получается, что Я самое себя мышления есть иллюзорное в самое себе? Верно.
А иллюзорное в самое себе чего лишено? Времени развития действий в самое себе, то есть, оно не чувствует и не мыслит. Другими словами, не имеет своего интеллекта? Верно. С уважением.
То, что я понял в Вашем высказывании, и с чем не могу согласиться: мышление - чисто временной процесс. Если что в мышлении и есть не отделяемого от него - это время.
Кстати, также и у ноосвиков / LLM: как мышление есть организованный поток мыслей, так и ноосвик есть организованный поток семантических векторов (сем-вектор - это результат эмбеддинга, обращения культурных артефактов в множества чисел).