Китайская комната, фрактальные деревья и теория симуляции
Китайская комната
Суть теории:
Представим себе изолированную комнату, в которой находится Джон Сёрл, который не знает ни одного китайского иероглифа. Однако у него есть записанные в книге точные инструкции по манипуляции иероглифами вида «Возьмите такой-то иероглиф из корзинки номер один и поместите его рядом с таким-то иероглифом из корзинки номер два», но в этих инструкциях отсутствует информация о значении этих иероглифов, и Сёрл просто следует этим инструкциям подобно компьютеру.
Наблюдатель, знающий китайские иероглифы, через щель передаёт в комнату иероглифы с вопросами, а на выходе ожидает получить осознанный ответ. Инструкция же составлена таким образом, что после применения всех шагов к иероглифам вопроса они преобразуются в иероглифы ответа. Фактически инструкция — это подобие компьютерного алгоритма, а Сёрл исполняет алгоритм так же, как его исполнил бы компьютер.
В такой ситуации наблюдатель может отправить в комнату любой осмысленный вопрос (например, «Какой цвет вам больше всего нравится?») и получить на него осмысленный ответ (например, «Синий»), как при разговоре с человеком, который свободно владеет китайской письменностью. При этом сам Сёрл не имеет никаких знаний об иероглифах и не может научиться ими пользоваться, поскольку не может узнать значение даже одного символа. Сёрл не понимает ни изначального вопроса, ни ответа, который сам составил. Наблюдатель, в свою очередь, может быть уверен, что в комнате находится человек, который знает и понимает иероглифы.
Фрактальные деревья
Фракта́л (лат. fractus — дроблёный, сломанный, разбитый) — множество, обладающее свойством самоподобия (объект, в точности или приближённо совпадающий с частью себя самого, то есть целое имеет ту же форму, что и одна или более частей).
"Фрактальные деревья" активно используются в геймдэве.
Стоит только внести в "идеальный" фрактал элемент "случайности" ...
Получаются крайне естественные и реалистичные объекты.
Не более чем математика.
Деревья просто самый простой пример.
Цимес:
Ну вот давайте честно.
Бывает ли такое, что встреченный вами человек (коллега/друг/знакомый) создаёт впечатление Npc.
Общаетесь вы со стандартной "китайской комнатой", к которой добавили элемент случайности по принципу "Фрактальных деревьев".
Сознание - иллюзия.
Свобода - иллюзия.
Человечество - самообучающаяся нейросеть, вы просто "нейрон".
Вероятнее всего так и есть, но далеко не факт, что это симуляция.
Скорее, это просто эволюция в своём упрощённом виде.
И вы, и я - вариация "китайской комнаты".
Цель системы - развитие, эффективность, адаптация.
Не оставили потомство - вы не эффективны, система внесла корректировки.
К чему всё это написано?
Решать вам.
Цели оскорбить чьи-то чувства, идеи или устои я не преследовал.
Китайская комната
В посте №29 мы обсуждали такой феномен, как тест Тьюринга. В котором сообщалось, что если программа смогла убедить человека в том, что она человек, значит она имеет интеллектуальное поведение. Эксперимент с китайской комнатой, критикует такой метод определения интеллектуальности предлагая свой эксперимент для этого:
Возьмём, например, какой-нибудь язык, которого вы не понимаете. Для меня таким языком является китайский. Текст, написанный по-китайски, я воспринимаю как набор бессмысленных каракулей. Теперь предположим, что меня поместили в комнату, в которой расставлены корзинки, полные китайских иероглифов.
Предположим также, что мне дали учебник на английском языке, в котором приводятся правила сочетания символов китайского языка, причём правила эти можно применять, зная лишь форму символов, понимать значение символов совсем необязательно. Например, правила могут гласить: «Возьмите такой-то иероглиф из корзинки номер один и поместите его рядом с таким-то иероглифом из корзинки номер два».
Представим себе, что находящиеся за дверью комнаты люди, понимающие китайский язык, передают в комнату наборы символов и что в ответ я манипулирую символами согласно правилам и передаю обратно другие наборы символов. В данном случае книга правил есть не что иное, как «компьютерная программа». Люди, написавшие её, — «программисты», а я играю роль «компьютера». Корзинки, наполненные символами, — это «база данных»; наборы символов, передаваемых в комнату, это «вопросы», а наборы, выходящие из комнаты, это «ответы».
Предположим далее, что книга правил написана так, что мои «ответы» на «вопросы» не отличаются от ответов человека, свободно владеющего китайским языком. Например, люди, находящиеся снаружи, могут передать непонятные мне символы, означающие; «Какой цвет вам больше всего нравится?» В ответ, выполнив предписанные правилами манипуляции, я выдам символы, к сожалению, мне также непонятные и означающие, что мой любимый цвет синий, но мне также очень нравится зелёный.
Таким образом, я выдержу тест Тьюринга на понимание китайского языка. Но все же на самом деле я не понимаю ни слова по-китайски. К тому же я никак не могу научиться этому языку в рассматриваемой системе, поскольку не существует никакого способа, с помощью которого я мог бы узнать смысл хотя бы одного символа. Подобно компьютеру, я манипулирую символами, но не могу придать им какого бы то ни было смысла.
Больше интересного в моем паблике telegram
Сознание
Решил попробовать побороть свою социопатию и выкладывать видео на ютуб. Если кому интересно послушать про сознание - заходите в гости)
Самый известный аргумент против искусственного интеллекта: "Китайская комната"
Аргумент «китайской комнаты» был предложен Джоном Сёрлом в статье «Сознание, мозг и программы» в 1980-м году. Аргумент направлен против такой позиции философии сознания, как функционализм и, в частности, против машинного функционализма, или, как отмечает Сёрл, против сильной версии искусственного интеллекта. Профессор Сёрл объясняет, что, хотя компьютер может очень эффективно манипулировать формальными, синтаксическими объектами (такими как слова), но настоящий разум понимает смысл этих объектов, в то время как компьютер нет. Сёрл добавляет, что данное различие не может быть устранено простым увеличением мощности компьютеров или написанием более совершенных программ. [видео на английском с русскими субтитрами]
9 философских мысленных экспериментов, которые не дадут вам спать ночью.
Иногда лучший способ проиллюстрировать сложные философские понятия, это изобразить их как историю или ситуацию. Вот девять таких мысленных экспериментов, которые могут привести к очевидным тревожным выводам.
1. «Дилемма заключённого»
Это классическая игровая задача, в которой подозреваемые сталкиваются с довольно трудным решением: молчать или признаться в совершении преступления. Беда в том, что подозреваемые не знают, как ответят их соучастники.
Вот «Дилемма заключённого» выложенная в двух словах в Стэнфордской энциклопедии философии:
Таня и Сингкх были арестованы за ограбление банка Hibernia и помещены в отдельные камеры. Оба заботились больше о своей личной свободе, чем о благополучии своего сообщника. Умный прокурор сделал каждому следующие предложения «Вы можете выбрать одно из двух - признаться или хранить молчание. Если вы расскажете все, а ваш сообщник будет молчать, я сниму все обвинения против вас, и использую ваши свидетельства, чтобы ваш сообщник получил серьёзный строк. И точно также, если он признается тогда, как вы будете молчать, он будет свободен, а вы будете сидеть в тюрьме. Если вы оба признаетесь, я признаю виновными вас обоих, но буду следить за тем, что вы оба получите условно-досрочное освобождение. Если вы оба будете молчать, мне придется опираться на выдвинутое против вас обвинение о владении огнестрельным оружием. Если вы хотите признаться, вы должны оставить записку тюремщику до моего возвращения завтра утром».
Этот мысленный эксперимент вызывает беспокойство, поскольку он учит нас, что мы не всегда принимаем «правильные» решения, когда сталкиваемся с недостаточной информацией, и когда другие лица заинтересованы в принятии этих решений, перемешивают все данные. «Дилеммой» является то, что каждый подозреваемый окажется в лучшем положении, если признается, а не будет молчать - но самым идеальным выходом из ситуации было бы взаимное молчание.
Это влияет на все, начиная от координации международного сотрудничества (в том числе предотвращения ядерной войны) и до нашего потенциального контакта и связи с Внеземным разумом.
2. Мэри – нейробиолог, страдающий дальтонизмом
Иногда его называют Спектральной Задачей или Знание Аргументов, этот мысленный
эксперимент призван стимулировать дискуссии против чисто физиколистского взгляда на Вселенную, а именно предположения о том, что Вселенная, в том числе и психические процессы, вполне материальны. Этот мысленный эксперимент пытается показать, чем на самом деле являются нефизические свойства (и достижимые знания), которые могут быть извлечены только путем сознательного опыта.
Автор концепции, Фрэнк Джексон, объясняет это так: Мария - блестящий ученый, которая, по какой-то причине, вынуждена исследовать мир из черно- белой комнаты с помощью черно-белого монитора телевизора. Она специализируется в нейрофизиологии зрения и допустим, что таким образом она получает всю физическую информацию о том, что происходит, когда мы видим спелые помидоры или небо, и используем такие термины, как «красный», «синий» и т.д.. Она обнаруживает, например, какие именно комбинации длин волн, приходящих с неба стимулируют сетчатку и как именно это провоцирует в центральной нервной системе сокращение голосовых связок и вывод воздуха из легких, что приводит к произнесению предложения «небо голубое» ... Что произойдет, когда Мария выйдет из ее черно- белой комнаты или ей дадут монитор цветного телевизора? Будет ли она изучать что-нибудь или нет?
Иными словами, Мэри знает все, что нужно знать о цвете, за исключением одной важной вещи: она никогда на самом деле сознательно не воспринимала цвет. Ее первый опыт восприятия цвета был таким, что она не могла его предвидеть. Ведь есть огромная разница между академическими знаниями чего-то и наличием фактического опыта.
Этот мысленный эксперимент учит нас, что наше восприятие реальности, в том числе и сознание, всегда будет больше, чем объективное наблюдение. По сути это показывает нам, что мы не знаем, того что мы не знаем. Мысленный эксперимент также дает нам надежду на будущее. Мы должны увеличить наши сенсорные возможности и найти пути для расширения осознания, ведь таким образом мы могли бы открыть совершенно новые возможности для психологического и субъективного исследования.
3. Жук в коробке
Этот эксперимент также известный как Аргумент Индивидуального Языка и он чем-то напоминает Марию нейробиолога. В своих философских исследованиях Витгенштейн предложил такой мысленный эксперимент, который бросил вызов тому, как мы смотрим на самонаблюдение, и как оно сообщает нам язык, который мы используем, чтобы описать ощущения.
Для мысленного эксперимента, Витгенштейн просит нас представить себе группу людей, каждый из которых имеет коробку, содержащее то, что-то наподобие «Жука». Никто не может заглянуть в чужие коробки. Все просят описать их жука - но каждый человек знает только своего жука. При этом каждый может говорить о своих жуках, хотя у них в коробках могут быть абсолютно разные вещи. Следовательно, Витгенштейн говорит, что последующие описания не могут принимать участие в «языковой игре». Со временем люди будут говорить о том, что находится в их коробках, как будто они это видели и держали в руках, и, в конечном счете, окажется, что слово «жук» означает «вещь, которая находится в черепной коробке человека».
Почему этот странный мысленный эксперимент должен вызывать волнение? Мысленный эксперимент указывает на то, что жук, такой же, как и наш ум, мы не можем точно знать, какой он у другого человека. Мы не можем точно знать, что другие люди испытывают, или понять уникальность их точки зрения. Это вопрос, который сильно связан с так называемой трудной проблемой сознания и феноменом первичных ощущений.
4. Китайская комната
Философ Джон Серл просит нас представить себе людей, которые знают только английский, и они сидят в комнате, используя английские инструкции для расшифровки строк китайских иероглифов. Итак, для тех, кто находится за пределами той комнаты, кажется, что человек в ней понимает китайский.
Эта дискуссия показывает, что, в то время как передовые компьютеры могут понимать и разговаривать на родном для вас языке, они не в состоянии понять этот язык. Это потому, что компьютеры строго ограничиваются обменом символических строк. Китайская комната должна была быть убийцей аргументов против искусственного интеллекта (ИИ), но это скорее упрощенное представление о нем и о том, где он является ведущим, в том числе о формировании общих выводов, изучении интеллекта, применении средств графического взаимодействия и потенциала для искусственного сознания.
Тем не менее, Серл прав в своем предположении, что у ИИ есть потенциал действовать и вести себя так, как если бы у него было осознание и понимание. Это проблематично, потому что может убедить нас, людей, что существует истинное понимание там, где его нет. Но лучше, если мы будем осторожны, оказавшись в окружении «умных» машин и их умственных способностей.
5. «Машина ощущений»
«Машина ощущений» философа Роберта Нозика является сильным намеком на то, что мы, вероятно, должны просто подключить себя к своего рода гедонистическому варианту матрицы.
Из книги «Анархия, государство и утопия» (1974):
Предположим, что существует машина ощущений, которая может передать вам любой ощущение, которое вы бы ни желали. Великолепный нейропсихолог может стимулировать ваш мозг таким образом, что вы будете думать и чувствовать будто, что вы написали большой роман, или это сделал друг, или вы прочитали интересную книгу. Все это время вы бы лежали в каком-то резервуаре с электродами, прикрепленными к вашему мозгу. Вы хотели бы подключиться к этой машине жизни, чтобы она предварительно программировала ваш жизненный опыт? ... Конечно, в то время как вы будете находиться в резервуаре, вы не будете знать, что вы в нем находитесь. Вы будете думать, что все это происходит на самом деле… Так вы хотели бы подключиться к ней?
Основная идея тут в том, что у нас есть очень веские причины, чтобы подключить себя к такой машине. Потому что мы живем во Вселенной без видимой цели, и потому что наша жизнь часто характеризуются менее чем идеальными условиями, к примеру, трудом и страданиями, поэтому мы не имеем никаких оснований, чтобы не выбрать что-то существенно лучше (даже если это что-то «искусственное»). Но как насчет человеческого достоинства? И удовлетворение наших «истинных» желаний? Мысленный эксперимент Нозика может показаться таким, от которого довольно легко отмахнуться, но нет, он стал таким, который бросает вызов философам на протяжении десятилетий.
6. Проблема вагонетки
Это один из мысленных экспериментов в этике, и вы можете считать виновной в его существовании известного философа-моралиста Филиппу Фут. Этот мысленный эксперимент, который в настоящее время имеет много вариантов, впервые появился в 1967 году в письменной работе Фут, «Неудача и Доктрина двойного эффекта».
Представьте, что вы находитесь за штурвалом железнодорожных переключателей и к вам приближается неуправляемая вагонетка. Железная дорога расходится на две ветви, одна ведет к группе из пяти человек, а другая –всего к одному человеку. Если вы ничего не сделаете, тележка убьет пять человек. Но если вы щелкните переключателем, он изменит направление треков и вагонетка убьет одинокого человека. Что вы сделаете?
Прагматики, которые стремятся максимизировать счастье, говорят, что должен быть убит один человек. Кантианцы, которые рассматривают людей как цель, а не средство, утверждают, что вы не можете использовать одного человека как средство для блага пятерых. Таким образом, вы не должны ничего делать.
Вторая вариация данной проблемы связана с «Толстяком» и не имеет никакого второго трека - человек настолько большой, что, если бы вы подтолкнули его на рельсы, его тело смогло бы помешать вагонетке врезаться в группу из пяти человек. Так что же вы сделаете? Ничего? Или столкнете его на рельсы?
Этот мысленный эксперимент раскрывает сложность морали путем проведения различия между убийством одного человека и позволением, чтобы умерло много людей– проблема, которая имеет последствия в наших законах, поведении, науке, правоохранительной деятельности и войне. «Правильное» и «неправильное» не так просто, как это часто нам кажется.
7. Паук в писсуаре
Это напоминающий о «Пещере Платона», еще один классический (и тревожный) мысленный эксперимент. Он был предложен Томасом Нагелем в эссе «Рождение, смерть и смысл жизни». В нем отражены вопросы невмешательства и осмысленности жизни. Это пришло ему в голову, когда он заметил грустного паука, который жил в писсуаре в мужском ванной комнате в Принстоне, где он преподавал. Паук, казалось, вел ужасную жизнь, каждый раз как кто-то на него мочился, «ему, казалось, это не нравилось». Он продолжает:
«Постепенно наши встречи стали угнетать меня. Конечно, это могло быть его естественной средой обитания, а потому, что он был пойман в ловушку, съехав по гладкому свесу фарфора, у него не было никакой возможности выбраться оттуда или даже если он, и хотел этого, то не имел никакого способа сказать об этом ... И вот однажды, под конец дня я взял бумажное полотенце от стены с дозатором и протянул к нему. Он ухватился ножками за конец полотенца, я поднял его и перенес на кафельный пол.
Он просто сидел, не шевелясь. Я слегка толкнул его полотенцем, но ничего не произошло... Я уехал, но когда я вернулся через два часа он не двигался.
На следующий день я нашел его в том же месте, ноги были сморщены таким образом, как у мертвых пауков. Его труп оставался там в течение недели, пока кто-то, наконец, не подмел пол.
Нагел действовал из сочувствия, предполагая, что пауку будет лучше (и, возможно, он даже будет наслаждаться жизнью) за пределами его «нормального» существования. Но произошло с точностью до наоборот. В конце концов, он не сделал для паука ничего хорошего.
Этот мысленный эксперимент заставляет нас обратить внимание на качество и осмысленность жизни не только животных, но нашей собственной. Как мы можем узнать, что кто-то хочет в действительности? И несет ли наша жизнь нам благо на самом деле? Он также заставляет нас подвергнуть сомнению наши политические вмешательства. Несмотря на все наши намерения, вмешательство иногда может нанести непредвиденный ущерб. Это урок вписан в самом начале директивы «Звездных войн», но, как показано в «Проблеме вагонетки», иногда бездействие тоже может быть морально проблематичным.
8. Дискуссия замены
В этом мысленном эксперименте, нас просят представить себе мир, в котором люди не заботятся о вкусе мяса. В таком случае, не было бы никаких животных, выращенных как скот. И, как следствие, не было бы резкого снижения количества животных, таких как свиньи, коровы и куры. Как однажды написала Вирджиния Вульф: «Из всех аргументов в пользу вегетарианства нет столь слабого, как аргумент во имя человечества. Свинья имеет более сильный интерес, чем кто-либо, в спросе на бекон. Если бы весь мир был еврейским, то не было бы никаких свиней вообще».
Эта цепь рассуждений может привести к некоторым странным и даже отвратительным выводам. Например, что лучше, иметь 20 миллиардов людей на планете с низким уровнем жизни или 10 млрд с более высоким уровнем жизни? Если выбрать последнее, то, как насчет еще 10000000000 жизни, которых никогда и не было? Но как мы можем чувствовать себя плохо, горюя о той жизни, которая никогда не происходила?
9. Первоначальное положение
Это тот мысленный эксперимент, который я полностью поддерживаю, а потому я фанат Джона Ролза. Он просит нас представить себя в ситуации, в которой мы ничего не знаем о нашей истинной жизни (мы находимся под «вуалью неведения»), это не позволяет нам знать о политической системе, при которой мы живем, или о законах. Мы не знаем ничего о психологии, экономике, биологии и других науках. Но вместе с группой таких же «слепых» людей, нас попросили рассмотреть полный список классических форм правосудия представителей различных традиций социальной и политической философии. Затем нам дали задание выбрать ту систему правосудия, которая, как мы чувствуем, будет наилучшим образом удовлетворять наши потребности в отсутствие какой-либо информации о нашей истинной сущности и ситуации, в которой мы фактически можем быть в реальном мире.
Так, например, что, если вы вернулись в «реальную жизнь», чтобы узнать, что вы живете в трущобах Индии? Или в районе среднего класса в Норвегии? Что делать, если вы умственно отсталый человек? Миллионер?
По словам Ролза, мы, скорее всего, остановились бы на том, что выбрали бы то, что гарантирует равные основные права и свободы, чтобы обеспечить наши интересы как свободных и равноправных граждан, и предоставить возможность совершать широкий спектр замыслов во имя добра. Он также предположил, что мы хотели бы выбрать систему, которая обеспечивает справедливое образование и трудоустройство.