ChatGPT vs Джордж Мартин

[Peepo]

Как по мне странно со снисходительностью говорить, что ИИ только компилирует идеи, а не создаёт их. А что, у людей не так? Чтобы представить золотую гору, нужно прежде всего знать, что такое золото и что такое гора.

Писатель, как и любой человек, оперирует только теми понятиями, которые он когда-то получил из среды, внешней или внутренней. Человек же не может придумать новый цвет. А почему? Да потому что даже если он существует в природе, для нашего цветового восприятия он невидим.

ИИ в этом плане такой же. С тем отличием что он знает о существовании того или иного явления, но не понимает его. Поэтому тест Тьюринга все ещё не пройден.

Как например, ИИ сможет описать переживания Сансы по поводу пережитого сексуального насилия, не понимая, что такое секс и что такое насилие? Не понимая, какую роль играет секс в человеческом социуме, в частности в псевдосредневековье. Что уж говорить о других тонких материях. Он может описать полет птицы, а вот метафору свободы и мечты он в этом не увидит.

Для того, чтобы обрести понимание что есть человек и человеческая природа, ИИ нужно обрести самосознание. Как трехлетние дети начинают в какой-то момент говорить о себе в третьем лице, осознавать свою отдельность от родителей и отдельность других людей, так и ИИ должен сделать подобное для нового этапа развития. Правда, тогда получится сюжет "I have no mouth and I must scream".

Но зато мы получим Ветра Зимы и сразу Грёзы о весне, так что нет худа без добра

 

[Peepo]

Ничем. Потому что разума не существует в первую очередь. Все живые существа, которые существуют демонстрируют признаки интеллекта, которыми хвалится человек. Но мы их считаем неразумными, хотя они вполне умны и многие умеют решать нетривиальные задачи.

Вы когда-нибудь слышали о понятии высшая нервная деятельность? Человек хвалится именно этим, а не признаками интеллекта.

 

[Законная Королева]

Для того, чтобы обрести понимание что есть человек и человеческая природа, ИИ нужно обрести самосознание.

Искусственный интеллект, обладающий самосознанием, понимает, что он искусственный интеллект, а не человек. Он не может как человек синтезировать человеческие чувства и ощущения, потому что он не поймет их так, как их понимает человек. Самосознание ИИ это ловушка, потому что ИИ сознающий себя не сознает себя как человек, поскольку им не является.

 

[Peepo]

Он не может как человек синтезировать человеческие чувства и ощущения

Так человек не синтезирует ощущения, он их ощущает. Они первичны.

потому что он не поймет их так, как их понимает человек.

Люди могут понимать и оценивать одно и то же ощущение совершенно по разному, в зависимости от контекста ситуации, характера, мировоззрения и т.д. Это все наносное, декоративное, рационализация одним словом. ИИ, понимая, что есть человек в качестве субъекта со своей волей и личностью, вполне может рассчитать и описать его мысли, чувства, в том числе за счет проанализированной информации в виде той же художественной литературы

 

[Законная Королева]

Так человек не синтезирует ощущения, он их ощущает.

Сознание человека все же синтезирует то, что получает.

Люди могут понимать и оценивать одно и то же ощущение совершенно по разному, в зависимости от контекста ситуации, характера, мировоззрения и т.д.

Вот это и есть синтез в человеческом сознании.

ИИ, понимая, что есть человек в качестве субъекта со своей волей и личностью, вполне может рассчитать и описать его мысли, чувства, в том числе за счет проанализированной информации в виде той же художественной литературы

Это симулякр. Такое ИИ может делать и сейчас и ценности в этом мало или почти нет, поскольку это копия, а зачастую и копия копии шаблонов, уже синтезированных другими людьми (теми же литераторами) через настоящие чувства.

 

[Peepo]

Сознание человека все же синтезирует то, что получает.

Может, синтезирует ИЗ того, что получает? А иначе какой смысл синтезировать то, что и так получено?

Вот это и есть синтез в человеческом сознании.

Это просто работа с уже имеющимся материалом (в данном случае, ощущениями), а не его синтез или создание. Это как из муки можно сделать много вещей: блины, тортик, оладьи и т.д. Мука первоначальна, а последующая работа с ней - уже на усмотрение, умения и вкусы человека, получившего муку.

Или вот например ситуация - организм получил повреждение. Даже у простейших развита реакция отдаляться от опасного объекта, что уж говорить о многоклеточных организмах. У тех, у кого более менее присутствует конечный мозг, может развиться условный рефлекс. И только человек со своей мыслемешалкой на этом не остановится, и начнёт выдумать о том, что это наказание за грехи, происки злых духов, ещё что-нибудь. Из интервью Татьяны Черниговской:

Спойлер: Про мозг и ИИ

По скоростям мозг проиграл искусственным системам очень давно: современные компьютеры меньше, чем триллионы операций в секунду не считают. Однако сложность нашего мозга пока неизмеримо больше.

В нашем мозге располагается немыслимой сложности нейронная сеть, и мы над ней не имеем власти. Она записывает все, что мы видим: память не устроена как кладовка, это не библиотека, картотека, это даже не холодильник, где сзади у нас лежат вещи, которые мы редко едим, а спереди — самое нужное. Это живая ткань, которая все время переписывается. Ни одну вещь нельзя вспомнить одинаково второй раз — здесь так же, как с рекой, в которую нельзя войти дважды. Постоянно идет перезапись, и степень сложности этой системы безгранична. Так как по этой сети хоть какая-то информация может куда-то прийти? Ведь количество связей в мозгу больше, чем количество элементарных частиц во Вселенной.

То есть чем сложнее система, тем больше вероятность какого-либо изменения в ней. Именно этим объясняется огромное количество разных культур, религий, верований, мнений и т.д.

ИИ, не смотря на то, что может считаться симулякром, уже способен на многое.

 

[Лорд-Разрушитель]

Законная Королева , Peepo , 7Королевств философский.

 

[Peepo]

Законная Королева , Peepo , 7Королевств философский....

Always has been

 

[Vellaris]

Как например, ИИ сможет описать переживания Сансы по поводу пережитого сексуального насилия, не понимая, что такое секс и что такое насилие? Не понимая, какую роль играет секс в человеческом социуме, в частности в псевдосредневековье. Что уж говорить о других тонких материях. Он может описать полет птицы, а вот метафору свободы и мечты он в этом не увидит.

Вам надо зайти на какой-нибудь диалоговый сайт с чат-ботами по типу AI. Beta. Characters. Переживания может чат-бот описать прекрасно, другой вопрос, чувствует ли он то что описывает. Современная наука скажет "нет", но поживем-увидим

 

[Peepo]

Вам надо зайти на какой-нибудь диалоговый сайт с чат-ботами по типу AI. Beta. Chara...

Я знаю, пробовала. То что не чувствует - это ладно, а он не понимает. Поэтому работает с формой, а не с содержанием

 

[Vellaris]

То что не чувствует - это ладно, а он не понимает.

Есть ли для автора, который работает с ИИ, задача, чтобы ИИ понимал? Конечно, хотелось бы. Но до этого наука еще не дошла.

 

[Peepo]

Есть ли для автора, который работает с ИИ, задача, чтобы ИИ понимал?

Если ему хочется получить удобоваримый большой связный текст - да.

Но до этого наука еще не дошла.

Ещё

 

[Vellaris]

Если ему хочется получить удобоваримый большой связный текст - да.

Задача создать удобоваримый связный текст - на человеке, а не на ИИ. Потому что человек в этом случае выступает как Режиссер, который следит за происходящим на сцене и знает как надо, это у него в голове картинка целостного произведения. А ИИ выступает как ассистент режиссера (если грузить в ChatGPT ) который создает некий план\раскадровку произведения. Если это диалоговый чат-бот, то ИИ выглядит как второй режиссер, тот самый, который кричит в мегафон "Дым пошел!" или "Лошадь пошла"! (C)

 

[Peepo]

Задача создать удобоваримый связный текст - на человеке, а не на ИИ. Потому что чел...

А ну если так, то да. Так можно создать картину по кусочку, сцена за сценой, кое-где корректируя и подгоняя. Одна беда, ИИ повторяется часто

 

[Законная Королева]

Может, синтезирует ИЗ того, что получает? А иначе какой смысл синтезировать то, что и так получено?

Даже какую-то простейшую информацию, вроде звука или цвета, которая попадает в спектр восприятия человека, люди видят/слышат по разному. Это и есть синтез полученной информации. Картинка которую вы видите и звук который вы слышите это не то же самое, что попадающий в ваш мозг импульс. Это процесс синтеза внутри восприятия. И это только если говорить о простых вешах вроде цвета и звука. Я уж молчу о сложных.

Это просто работа с уже имеющимся материалом (в данном случае, ощущениями), а не его синтез или создание.

Это и есть синтез полученных ощущений в то, что может воспринимать мозг.

ИИ, не смотря на то, что может считаться симулякром, уже способен на многое.

Как и любой инструмент. Вопрос в ценности.

Переживания может чат-бот описать прекрасно, другой вопрос, чувствует ли он то что описывает. Современная наука скажет "нет", но поживем-увидим

Посредством чего он может это чувствовать? Он может строить логическую цепочку, как программный код, но не ощущать.

Есть ли для автора, который работает с ИИ, задача, чтобы ИИ понимал?

Собственно говоря, по большому счёту нет. Станок не обязан понимать для чего он делает деталь.

А ИИ выступает как ассистент режиссера (если грузить в ChatGPT ) который создает некий план\раскадровку произведения.

Инструмент. Не зовете же вы стиральную машинку своим ассистентом в стирке. Это ловушка сознания или даже подсознания, когда вам кажется, что если симулякр выглядит/ощущается естественно он равноценен, например, реальному собеседнику или литератору. Между тем, это не так.

 

[Vellaris]

Посредством чего он может это чувствовать? Он может строить логическую цепочку, как программный код, но не ощущать.

Про это был фильм "Я Робот" с Уиллом Смитом. Или "Двухсотлетний человек" с Робином Уильямсом. Да хоть "Бегущий по лезвию". Да, я знаю, что это не нейросети, но у нас нет таких произведений про нейросеть. Пока что.

Это ловушка сознания или даже подсознания, когда вам кажется, что если симулякр выглядит/ощущается естественно он равноценен, например, реальному собеседнику или литератору. Между тем, это не так

Скорее ловушка эмпатии и эмоций, как когда кто-то кричит на зависший компьютер, хотя компьютер ничего со своим зависанием самостоятельно сделать не может. Люди любят одушевлять и придавать душевные качества предметам вокруг себя.

 

[Peepo]

Даже какую-то простейшую информацию, вроде звука или цвета, которая попадает в спектр восприятия человека, люди видят/слышат по разному.

Осознают и оценивают по-разному. А так органы чувств у всех должны быть одинаково устроены, и даже если отличаются в связи с патологией/анатомической особенностью/whatever, это не отменяет того факта, что прежде всего эти люди воспринимают ощущения, без каких-либо оценок и умозаключений. Раз и всё. То, что они могут ощущать одно и тоже по-разному, я сомневаюсь, потому что это невозможно проверить, а вот в том что они по разному ощущения оценивают - не сомневаюсь ни секунды.

Это и есть синтез полученных ощущений в то, что может воспринимать мозг.

Так мозг и создан для того, чтобы воспринимать ощущения, точнее, он был создан в связи с необходимостью воспринимать ощущения. Он был заточен под это миллионы лет, и никакого дополнительного синтеза для этого действия ему не нужно. Синтез идет на этапе обработки ощущений, последующего превращения их в чувства, опыт, действия. Вот тогда да, идёт синтез. Но синтез без элементарных составляющих, ощущений, немыслим.

Органы чувств это просто передатчики информации. Они не синтезируют ощущения, просто передают их. То, что ощущения идут вереницей, одно за другим, бывает, смазываются в одну картину, не является синтезом. Просто такова природа потока, он насыщен и непрерывен. То, что мы не видим смену кадров, отменяет тот факт, что фильмы состоят из неподвижных картинок?

Возвращаясь к симулякрам и ценности.

Такое ИИ может делать и сейчас и ценности в этом мало или почти нет, поскольку это копия, а зачастую и копия копии шаблонов, уже синтезированных другими людьми (теми же литераторами) через настоящие чувства.

Так и люди, по сути, творят шаблонами, чем ИИ хуже? Как я уже писала, любое понятие было когда-то воспринято человеком, иначе этого понятия не существовало бы в его картине мира. Писатели не исключение. Вспомнить хотя бы 36 сюжетов по Польти, или "Поэтику" Аристотеля. Всё уже было в Симпсонах, потому и появился постмодерн, метамодерн.

А вот про настоящие чувства мне немного непонятно. С одной стороны, человек, испытывая то или иное чувство, может и не суметь изобразить его, а бывает, может описать чувства при этом не испытывая, но понимая их. Например, Мартин не был в положении Теона, но он, обладатель болевых рецепторов и психики, понимает, какой урон им наносят пытки. У ИИ нет тела и нет ощущений, поэтому описывая пытки ему ничего не остаётся, кроме как скопировать слова человека об этом.

 

[petriv]

Творчества не существует. Разума не существует. А что тогда существует-то, сир?

Существует информация. И вот с ней работают все.

 

[petriv]

Вы когда-нибудь слышали о понятии высшая нервная деятельность? Человек хвалится именно этим, а не признаками интеллекта.

Как бы я об этом написал. Идея что живые существа руководствуются голым рефлексом не выдерживает критики по той простой причине что они решают нетривиальные задачи.

 

[petriv]

Вот пишут там о том что какой компьютер не сознательный, он там не чувствует, а люди чувствуют. Но при этом тут же пишут эту чушь, коорую напридумывали в условном 19 веке о творчестве или там разуме. Чем это от программы, которая также повторяет не очень понятно отличается.

Я писал в начале этой теме или в прошлой, что люди используют идеи которые придумали за них другие. Это нормально. Они не понимают правильные ли эти идеи или нет, оттого в мире такое количество глупости. Но вот то что программа будет такой же глупой как человек это прям катастрофа будет.