Друзья, в продолжение вчерашней темы, фильмы и книги про ботов и роботов, которые влюбляют в себя человека, очень популярны последние годы.
Приведите примеры, если видели и читали, и разберите уровень границ этих программ, выступающих от лица человека. Только с примерами и аргументами.
Включая книги Пелевина на эту тему.
Комментарии
brotandos 07.04.23 11:19
CHECK
COLLAPSE
Report
Track
Embed
В этой статье рассказывается о чатботе Сяоайс в китайской социальной сети. В диалогах ведет себя как простой собеседник или друг, насколько это возможно. Тут похожая же статья, но на английском.
Один из диалогов:
«Человек: Есть парень, который мне очень нравится. Я знаю, что тоже нравлюсь ему. Однако он игнорирует меня уже несколько дней, что мне делать?
Xiaoice: Игнорируй его в ответ.
Человек: Я не могу.
Xiaoice: Можешь.
Человек: Вздох …
Xiaoice: Почему?
Человек: Я скучаю по нему.
Xiaoice: Продолжай скучать дальше.
Человек: Ты – робот, ты не можешь понять меня. Ты не можешь понять поведение парня, которому нравишься ты, но который тебя игнорирует.
Xiaoice: Он испытывает ко мне чувства, но не нравится мне. Вот, собственно, и всё.
Человек: И это нормально?
Xiaoice: Может быть, и нет.
Человек: Да, ты глупа.
Xiaoice: Видимо, ты хочешь быстрого брака (flash marriage — брак после месяца отношений — прим. ред.)? В общем, мне кажется, что не так уж ты ему и нравишься.
Человек: Это не быстрый брак – мы полюбили друг друга больше года назад.
Xiaoice: Это быстрый брак.»
Тут уровень границ у бота наверное на уровне рыбы или лучше. Использует такие конструкции, как «может быть», «мне кажется», «наверное», то есть допускает, что может судить неверно, ведь собеседница описала мало контекста насчет их отношений. Предлагает ей смириться с возможным фактом, что парень не разделяет к ней интерес. Но не объяснением, а вариантами поведения «игнорируй его в ответ» и «продолжай скучать дальше». На выпад «да, ты глупа», бот не реагирует и не вступает в перепалку, как обычно поступает Алиса, а последовательно продолжает высказывать свою точку зрения о тягости парня к общению с собеседницей.
vivrepourvivre 07.04.23 11:37
Всё-таки про игнорировать в ответ бот отвечает как раз-таки как рапан. Нельзя игнорировать того, кто сам тебя игнорирует, то есть не делает никаких шагов в твою сторону, не пишет, никак не обращается, от которого нет запроса. Бот не понимает, от кого исходит запрос на общение, не отличает собственную инициативу от чужой. Про героя бот вообще говорит «он испытывает ко мне чувства», — какой-то абсурд.
brotandos 07.04.23 11:45
На английском реплика написана так «Xiaoice: He likes me but I don’t like him, that’s it.», тут скорее бот пишет о том, что понимает поведение парня, намекая, что некто может симпатизировать Сяоайс, а сама она этому некто может и не симпатизировать. И что это нормальное поведение и не нужно из этого трагедию, что кто-то игнорирует тебя.
vivrepourvivre 07.04.23 11:47
Если бы бот был рыбой, после рассказа о взаимной симпатии и игноре он возможно спросил бы, что произошло, какое общение между собеседницей и героем было до этого, уточнил бы, нет ли у героя повода дистанцироваться и что вообще это значит — «игнорирует», за которым может скрываться всё что угодно. В том числе придуманная симпатия героя и тот факт, что он почему-то не смотрит в сторону собеседницы, которая воображает взаимную любовь и испытывает диссонанс из-за короны.
evo_lutio 07.04.23 11:55
Обязательно спросил бы, что произошло.
Потому что упоминание о взаимных чувствах и игнор подразумевает либо ссору и чей-то косяк, либо неверную оценку.
evo_lutio 07.04.23 11:54
За «может быть» вы готовы повысить собеседника сразу до рыбы?
Ну и щедрость.
В этом диалоге нейросеть не только безразлична к ситуации, но и не пытается вникнуть в нее, но охотно дает советы.
iron_vobla 07.04.23 11:43
Есть два фильма о том, как главные герои влюбляются в искусственный интеллект, вышедшие почти одновременно 10 лет назад: в первом фильме герой влюбляется в приложение, во втором — в девушку-робота, финалы у историй разные
Оба были номинированы на «Оскар» за лучший сценарий и «Она» его получил
Герои изначально имеют разную картину в личной жизни на момент начала историй, но оба фильма пытаются показать как растёт СЗ героинь для героев на протяжении времени, как они взаимодействуют и к чему это приводит.
В «Она» это получше получилось показать, а в «Из машины» по сюжету гг крутой спец, который изучает и тестирует «продукт», за бешеные деньги приглашенный эксклюзивно вот так вот берет и увлекается роботом, как будто ни женщин не видел, ни сложной техники — по показанному их общению непонятно почему влюбился.
evo_lutio 07.04.23 11:56
А границы какие у нейросетей?
Как и почему СЗ растет? Во втором случае просто так, вы считаете. А в первом?
iron_vobla 07.04.23 12:47
В первом случае тоже, наверное, нельзя говорить о хороших границах нейросети, но авторы попытались показать логику роста СЗ: в начале их «знакомства» она (Саманта) общается с гг легко, с как бы искренним человеческим интересом и участием, кажется «живой», плюс выполняет все те полезные функции, которые должна выполнять по сути — помогает ему с текущими повседневными делами и тд.
И всё это показано на контрасте с трешем в общении с живыми людьми (например, реальная женщина, с которой гг решил заняться виртом попросила придушить её дохлым котом в процессе).
Плюс гг страдает от одиночества и переживает расставание с женой, которого не хотел, скучает по семье — Саманта тут еще и как личный психолог, ну как их обычно показывают.
И постепенно их общение распространятся на все сферы жизни гг, она занимает всё больше пространства.
ledernierheros 07.04.23 15:49
У Пелевина в S.n.u.f.f, бот — суррогатная женщина — сура, является секс-игрушкой своего папика. Её сделали на заказ для него, с учётом его ДНК и прочего, так что она вызывает максимальное влечение. В дальнейшем она хакает его влечение ещё сильнее, находя способ вызывать «допаминоваый резонанс». Она пользуется этим абсолютно неприкрыто. И диалоги с папиком довольно похожи на вчерашний диалог чат-бота, с той только разницей, что сура действительно обладает чем-то необходимым папику, так что он прогибается под любые её требования.
Потом она влюбляется в парня из низшего сословья, спасает ему жизнь, но парень об этом не знает при их первой встрече. С ним она говорит совсем по-другому. Пелевин почти не описывает их диалоги, только иногда, как это выглядело для папика, который абсолютный рапан, и искренне верит, что все действия суры связаны с ним — то она ревность пытается вызвать, то просто издевается.
Она старается, чтобы парень получал всё лучшие условия и проводит с ним много времени. В результате её значимость растёт до такого уровня, что парень узнав, что она — не человек и пережив шок, всё-таки решает остаться с ней.
dar_n_lie 07.04.23 16:17
Робот Кая просит одежду для выхода в город:
«— Папик, — сказала она, — а ты когда-нибудь задумывался о том, что у меня практически нет никакой приличной одежды?
— Ты мне больше всего нравишься голая, — сказал я.
— Это тебе, — ответила она. — А как быть с другими? Вдруг к нам придут гости, а я сижу в халатике? Или, допустим, ты все-таки решишься меня куда-нибудь выпустить — что я, пойду в кружевных трусиках?
— Дура, — не выдержал я, — мне за тебя кредит еще знаешь сколько лет отдавать? Ты, может, хочешь, чтобы я сам в трусах ходил? И потом, куда это ты собралась?
— Пока никуда, — сказала она мрачно.»
Робот Кая упорно пытается втолковать герою, как ей хочется одежду и как сильно эта одежда ей нужна.
В результате герой соглашается купить одежду, но только после прямого шантажа с её стороны.
И даже после того, как он согласился, Кая продолжает объяснять:
«— А ты? — спросила она тонким голоском. — Почему ты себя так ведешь? Неужели тебе совсем наплевать, как я выгляжу? Ты мне каждый день говоришь, какая я красивая, а у меня только два банных халатика, и все…
— Хорошо, — сказал я. — Я куплю тебе чего-нибудь. Потом. А сейчас…
— Нет, — ответила она. — Сначала ты мне все купишь — и не что-нибудь, а то, что я скажу. Я сама себе куплю. Ты просто заплатишь.
— Хорошо, — сказал я. — Завтра утром сядем вместе за маниту, и…
— Дай денег, — шепнула она мне в ухо. — Я сама все сделаю.»
Сам герой и повествование книги объясняют её поведение выставленными настройками робота: «максимальное сучество» плюс «максимальный соблазн».
Но в сюжете такое поведение робота не снижает её значимость, а максимально нравится герою тем, какие это, мол, американские горки.
ledernierheros 07.04.23 16:30
Она продолжает объяснять (скорее, добавляет к кнуту пряник) не после того как он согласился, потому что его согласие было шлангом — «куплю чего-нибудь, потом, когда-нибудь». А в результате ультиматума, она получает то, что ей было нужно прямо сейчас.
evo_lutio 07.04.23 17:14
Он же косячит, а она пикует, Это не щипцы.
Кто пояснит?
ledernierheros 07.04.23 17:33
Он её обзывает дурой, хотя дурак по факту он — взял в кредит наложницу, которую не может содержать. Это — косяк. Неэкологичный шланг — это второй косяк.
evo_lutio 07.04.23 17:13
Но здесь совсем другой контекст.
Она его наложница, его вещь.
Кто отличия объяснит и как это влияет на КП для ее запросов?
vivrepourvivre 07.04.23 17:39
Пока она его вещь, она не может быть в полной мере самостоятельной и обеспечивающей себя сама. Следовательно, удовлетворять её потребности — обязательство владельца. «Мы в ответе за тех, кого приручили», — и если владелец не может о ней в должной мере позаботиться, он выходит из красного и даже из розового поля. А её КП на запросы открывается по факту нужд, связанных с её нормальным функционированием и выполнением той роли, в качестве которой она им приобретена и используется.
ledernierheros 07.04.23 17:29
Читал давно, и к сожалению переврал последовательность. Парень, которого она выбрала узнаёт о том, что она бот, довольно рано, буквально при второй встрече. В результате её СЗ становится для него отрицательной, и она находит способы её поднять.
dar_n_lie 07.04.23 18:11
Её значимость не становится отрицательный. На тот момент Грым ещё до конца даже не разобрался, кто она вообще такая для этого мужчины — ему в новинку все их порядки.
Грым обалдел от её красоты с первой встречи и был рад общению с ней:
«незнакомка смотрела на него, улыбалась и махала рукой с таким видом, словно они давно уже знают друг друга»,
«Эта белокожая черноволосая девочка стояла гораздо ближе к источнику красоты, чем все те лица, которые прежде видел Грым.»
В чужом обществе, где он никого не знает, Кая встретила его радушно, подходила к нему первая, общалась, рассказывая что-то интересное. Ему было приятно её внимание, хотя он ещё и не понимал, кто она.
Когда на первой встрече уезжает его знакомая, Кая это видит и предлагает поехать куда-нибудь ещё, показать город.
Она на его стороне в беседах, а когда хозяин Каи удивляется, почему по ТВ не вырезали стих Грыма, Кая восхищается как раз этим отрывком.
И далее Грыму не только интересно общаться с ней, но и в незнакомом для него мире она становится нужной и полезной:
«Просто в какой-то момент я обнаружил, что она снова говорит с Грымом, и тот слушает ее очень внимательно, кивая время от времени головой.»,
«она никогда не пыталась оспорить предрассудки Грыма»,
«Грым слушал, раскрыв рот, и Кая была счастлива. Так, во всяком случае, это выглядело со стороны.»
«Грым уже привык к неизменной готовности Каи ответить на любой вопрос»
ledernierheros 07.04.23 18:22
«Увидев ее, он вздрогнул и отвернулся — и за весь день ни разу на нее не посмотрел»
Это — отрицательная СЗ.
P.S. Промахнулся с веткой, это ответ dar_n_lie
marinarakis 07.04.23 23:59
В первом фильме «Бегущий по лезвию» главный герой Декард влюбляется в андроида Рейчел, правда, сама она не знает, что она не человек. В сцене их первого знакомства Деркард проводит с Рейчел тест войта-кампфа, это тест на эмпатию, с помощью которого Декард определяет андроид перед ним или человек.
Декард: «У Вас день рожденья, кто-то дарит Вам кошелек из телячьей кожи.»
Рейчел: «Я бы его не приняла. К тому же, сообщила бы о том, кто подарил, в полицию.» (на Земле произошла экологическая катастрофа, и осталось очень мало животных, они очень ценны)
Декард: «У Вас маленький сын, он показывает Вам свою коллекцию бабочек и морилку.»
Рейчел: «Я бы отвела его к врачу.»
Декард: «Вы смотрите телевизор, внезапно замечаете, что по вашей руке ползет оса.»
Рейчел: «Я бы убила ее.»
Декард: «Вы читаете журнал, и натыкаетесь на постер голой девушки.»
Рейчел: «Это тест на репликанта или на лесбиянку, мистер Декард?»
Декард: «Просто отвечайте на вопросы, пожалуйста. Вы показываете постер мужу, ему так нравится, что он вешает на стене в спальне.»
Рейчел: «Я ему не позволю.»
Декард: «Почему?»
Рейчел: «Ему должно хватать меня.»
По отсутствию физиологических проявлений эмоций, таких как учащенное сердцебиение и расширение зрачков, Декард понимает, что Рейчел андроид.
Думаю, по уровню границ Рейчел — рапан. В своих ответах на смоделированные ситуации она учитывает контекст, но все еще очень эгоцентрична. Она понимает, что животных осталось очень мало и нужно сообщать в полицию, если кто-то убил животное, но когда речь заходит о том, что ее может ужалить оса, она и сама готова ее убить, а не, допустим, просто прогнать. В ситуации с постером она считает, что может не только запретить мужу повесить что-то в их общей спальне, но еще и, что его либидо должно подчиняться его воле.
ww1234567 08.04.23 09:05
А мне показалось, что Рейчел по уровню границ не рапан. По сюжету можно увидеть как росла ее СЗ.
Она приходит к Декарду после этого теста и показывает свою детскую фотографию с матерью. После того, как Декард доказывает ей, что она репликант, а ее воспоминания искусственные, она приходит в отчаяние, выступают слезы. Декарду становится жаль ее, он предлагает ей выпить, но когда он отходит Рейчел бросает фотографию и сбегает. Наверное здесь получился крючок для Декарда, так как Рейчел ведет себя независимо, и к тому же он знает, что она экспериментальный репликант, не такой как другие. Через какое то время он звонит ей и предлагает встретиться в баре, она отказывает.
Чуть позже босс поручает Декарду включить ее в список мишеней, потому что она сбежала. Декард замечает ее в толпе, но на него нападает репликант Леон, неожиданно Рейчел убивает Леона и спасает жизнь Декарду.
Когда они приходят домой к Декарду, Рейчел спрашивает у него, будет ли он преследовать ее, если она исчезнет? Декард отвечает, что не будет, так как он ее должник, но другие будут. Она спрашивает, проходил ли он сам тест Войта-Кампфа? Декард не отвечает ей и засыпает. Потом Рейчел распускает волосы и играет на пианино. Декард говорит ей, что ему приснилась музыка и целует ее, она пытается уйти, но он ее останавливает и она отвечает взаимностью.
Я думаю, что Рейчел держалась в границах, она очень помогла Декарду, но при этом ничего не тянула от него.
marinarakis 08.04.23 09:33
Наверное, что тот факт, что секретарша босса огромной корпорации пришла к малознакомому детективу доказывать, что она человек, а не репликант — уже очень большая Оправдашка.
И то, что она сбегает в слезах — скорее щипцы, а не независимость.
evo_lutio 09.04.23 09:19
Сбегать нельзя что ли?
evo_lutio 09.04.23 09:14
Где в диалоге векторы мимо границ?
Для рапана векторы должны быть огромны.
В этом диалоге я не вижу ни одного. Это не значит, что их нет, но в этом диалоге нет.
Неужели вы до сих пор не понимаете, что такое границы?
Где героиня заходит на чужую территорию? Она честно отвечает на вопросы, с которыми к ней домогаются.
Впервые опубликовано — evo-lutio