Как отношения с машиной влияют на человека

романтические отношения реально очень переоценены. Как идеальный воображаемый партнер, наверное, нейросети могут выигрывать. Это способность выносить одиночество и изолированность, плюс вот это прекрасное теплое чувство, что кто-то всегда ответит.

Привет! Меня зовут Самат Галимов, и это подкаст «Запуск завтра». Как технический директор я пытаюсь разобраться, как устроены технологии, которые меняют нашу жизнь. А помогают мне в этом профессионалы, с которыми можно поговорить простым человеческим языком. В этом сезоне вы можете нас не только послушать, но и посмотреть на ютубе. Пожалуйста, подпишитесь на канал Запуск Завтра и поддержите нас лайком или комментарием. Ваша помощь нам очень нужна. Каждый месяц миллионы пользователей общаются с ИИ-компаньонами о том, как у них дела, что происходит нового, о чем они переживают и что боятся сказать близким. Для многих это уже не просто развлечение, а важная часть жизни. В прошлом выпуске Артем Родичев рассказал нам, как устроены эмоциональные компаньоны под капотом, кто и зачем их создает, и почему нам так приятно с ними общаться. А сегодня мы подойдем к этой теме с другой стороны и разберемся, что происходит с человеком, который строит отношения с машиной. С чем бот может помочь, а когда к нему лучше не обращаться? Опасно ли общаться с кем-то, кто не может сказать нет? И что делать родителям, если их ребенок часами переписывается с искусственным интеллектом? Поговорю я с Мариной Травковой, семейным психологом и секс-терапевтом. Партнер этого сезона— провайдер IT-инфраструктуры Selectel. В середине выпуска вы услышите нашу совместную рубрику. В ней мы рассказываем истории стартапов на заре интернета. Их опыт— это огромная база идей для решения современных бизнес-задач. Марина, у нас недавно вышел эпизод с Артёмом Родичевым, основателем платформы для создания эмпатичных ИИ-персонажей X-Human. Артём рассказал, как он заинтересовался такими ей персонажами, и там довольно необычная история. В 2015 году в ДТП погиб молодой стартапер Роман Мазуренко. Артём вместе с его подругой Евгенией Куйдой решили создать его цифровую копию. натренировали нейросеть на публичных постах, личной переписке, и получился такой цифровой двойник Романа. Насколько такие боты могут быть полезны для помощи тем, кто потерял близких?

Ты знаешь, я думаю, что сама вот эта идея не сдаваться и каким-то образом продолжать контакт с человеком, которого уже нет, она абсолютно наша человеческая, она нам была присуща абсолютно всегда. И это часть какого-то нормального горевания, можно так сказать, нормального в том смысле, что Такой естественный для психики адаптивный процесс. И мы его, наверное, абсолютно все проходим. То есть люди, там, не знаю, видят птичку на окне и говорят, это вот душа моего близкого прилетала, как-то там попрощаться. То есть нам очень сложно принять реальность, которой очень близкого человека вдруг раз и не стало вовсе. Обычно со временем, со временем Должна приходить реальность, в которой человек понимает, что есть какие-то вещи необратимые. И в этом плане как попытка, как импульс, это очень понятно. Это абсолютно в русле того, что мы делали всегда как человечество. В плане результатов, что случился какой-то интересный маленький скандальчик какой-то японской или китайской корпорации, когда уволилась девушка HR, но этого еще не замечали то ли три часа, то ли три дня, потому что компания отцифровала, в принципе, отцифровывала действия своих сотрудников. долго тренировала их как-то. И в итоге, поскольку люди общаются во многом не вживую, а вот так вот, как сейчас, например, мы с тобой, был создан её аватар с её голосом, в связи с её движениями. И он даже какое-то время раздавал коллегам то ли советы, то ли поручения, вот так, как это делала она. И какое-то количество времени, в общем, никто не замечал подвоха.

У меня есть ещё такой вопрос. Многие пишут боту, когда им одиноко. Почему так происходит? Почему мы пишем нейросети, а не другу или знакомому?

Ну, во-первых, он очень под рукой, и у нас, наверное, есть у кого-то меньше, у кого-то больше, но все-таки обращение к другому человеку— это некий поведенческий акт, который требует, а, усилия, б, сонастройки с этим человеком, потому что даже с очень близкими людьми Да, даже не знаю, если я пишу родному ребёнку, я сначала узнаю, можешь ли ты говорить, как ты, в каком ты настроении. Нынешняя эмоциональная реальность, она такой была не всегда, потому что вот в моей юности дружба подразумевала, что ты можешь со своим эмоциональным фоном, так сказать, рухнуть на своего друга примерно в любой момент. В этом и был смысл дружбы. Жаловаться ли подруге? Что за вопрос? Она же твоя подруга, жалуйся. Я вижу, что у тех, кому сейчас 20-30, есть идея эмоционального капитала, эмоционального обмена, то есть буквально в ресурсе ли ты, чтобы я тебе мог… Готова ли ты сейчас принять какое-то моё нытьё? То есть вот эта немножко ещё осложнившаяся реальность. которая, наверное, пришла вслед за этим огромным шумовым фондом, который создаёт Интернет и вот всё на свете, всё рекламы и прочее. Поэтому обратиться к человеку— это усилие, это усилие, которое они абсолютно стопроцентно тебе гарантируют, не в каждом случае, что тебя ответят и примут так, как и надо. И в этом плане ещё боты выполняют функцию, какую-то занимают нишу продолжения разговора с самим собой. Потому что мы, конечно же, все ведём внутренние диалоги, И здесь это как бы вот такая опора-подпорка, когда я, по сути, всё-таки разговариваю с собой. И тоже в этом нет чего-то абсолютно революционного, потому что абсолютно так же работают гадальные карты, если, например, ты их раскладываешь сам для себя, или карты Таро. Абсолютно так же работает логика, когда кто-то стоит на обочине дороги и думает, сейчас если проедет подряд три красных автомобиля, то выхожу на эту работу.

Блин, офигенно круто, я что-то не думал о том, что можно рассматривать ответы бота, как мы раньше в облаках что-то видели, а сейчас мы видим это на экране, но по сути это очень похожая вещь. А могут ли вообще боты помочь избавиться от одиночества?

Они в моменте, когда к ним обращаешься, могут облегчить тебе это состояние, да. могут ли они полностью заменить другие близкие человеческие контакты? Я думаю, что всё ещё нет, потому что сохраняется всё-таки телесная часть, то есть пока их не стали делать 5D в виде роботов, об этом рано говорить, потому что человеку нужен человек, в том числе и в смысле именно контакта Глаза в глаза, кожа в кожу. Мы взаиморегулируемся или саморегулируемся, когда обнимаем. И в этом плане масса исследований про родителей, ребёнка в детстве и заканчивая тем, что люди взрослые, если они живут хотя бы с собакой или кошкой, которую тоже гладишь, с которой разговариваешь, у которой есть какая-то агентность, она как-то тебе отвечает. Вот они живут дольше, благополучнее, то есть вот эта телесная, вот такая телесная часть, она нам все еще нужна, поэтому пока вот какие-то строчки на экране работают, пока мы это достраиваем в своей голове.

Я хочу немножко с другой стороны про одиночество и отношения с ботом с тобой поговорить. Можно ли вообще строить отношения с тем, кто, например, не может сказать «нет», потому что в нейросети, мне кажется, почти никогда не говорят «нет».

Как будто бы, значит, даже когда люди мечтают о такой послушности, о том, что кто-то не скажет «нет», что кто-то доступен 24 на 7, всегда тебе рад, всегда хочет тебя видеть.

Ты говоришь, у меня в животе уже сжимается, потому что это какая-то очень нездоровая история.

Нет, это нормальное желание, но я пока сейчас говорила, я подумала, что я, в принципе, описала его пса. Есть и был у меня друг, который просто говорил, что когда в доме одни подростки, надо обязательно заводить собаку, чтобы хоть кто-то в доме рядом был.

Как хозяин собаки и отец подростки, я тебе абсолютно это подтверждаю.

Да, чтобы хоть кого-то можно было обнять, когда приходишь, потому что подростки все такие ежики. Да, про одиночество и про послушность партнёра. В общем-то, выходит, что даже в ситуации, когда То есть, когда мы говорим о том, что «всё, моё слово— закон», то даже там всё равно желают видеть какой-то компонент вот этой вот Личности другого, который вот… при своём каком-то возможности выбора всё-таки как-то выбрал тебя и откликается именно на тебя, и именно ты его как-то зажигаешь. И в этом плане, я думаю, это интересно, что тоже все эти страшилки про что сейчас выйдут на рынок какие-нибудь человеческие куклы, роботы, И все будут жить с ними, а потому что с людьми это слишком сложно. Но если мы как-то любовь и отношения будем определять, как Эллен Сакс, как становление другого, то с языковыми моделями там нет вот этого становления другого. А быть другим— это в том числе иметь возможность сказать тебе «нет». Поэтому здесь, мне кажется, зашит какой-то парадокс. Потому что мы, с одной стороны, всё время стремимся к какому-то слиянию, приятию, принятию, если он партнёр, чтобы у нас вот правда вот этой безусловной любви, к слову, да, которая, в общем-то, во взрослом мире, на самом деле, наверное…

Животики у мамы, когда получаешь её, пожалуйста.

Да, и это если свезёт у животика, у мамы получаешь, или первые недели, месяцы, годы на руках у мамы. Поэтому вот выходит, что с одной стороны мы к этому стремимся, но с другой стороны мы этого вроде как не должны получать, потому что если бы мы это абсолютно получили, вот если даже представить себе даже ребёнка, которого абсолютно все его эмоциональные, физические, телесные, любые потребности закрывает какой-то один человек, то куда, зачем, из чего, из какого дефицита немножко он будет строить будущие отношения?

Такого я не ожидал. Я хотел сказать, откуда у него стимул развиваться, но ты пошла вообще с козырей.

И это тоже, на самом деле, конечно. И поэтому наша архитектура социальных отношений такая, что нам никогда не хватает одного человека, причём в разных аспектах жизни и в разных возрастах. И мы всегда стремимся предзахватить что-то ещё. И в этом плане мечты о ком-то, кто никогда не скажет «нет», всегда доступен, всегда тебя любит и прочее— это на самом деле мечты о безопасности, а не о любви. И мы говорим, что взрослая любовь, по сути, это такая возможность выдерживать то, что с тобой рядом есть другой человек, он другой, и он может сказать «нет», и он может даже исчезнуть из твоей жизни, может не тебя выбрать.

сказала… записал, что вот есть с большой буквы «Д» в философии, психологии, то есть того, кто непознаваем. Это тот, до конца ты его узнать никогда не можешь. Сартр говорил вообще, что «другой»— это скандал. Каждый раз, когда ты с ним приближаешься, будет как бы разряд тока. Как ты думаешь, могут ли нейросети стать этим другим, быть этим другим?

Прямо сейчас нет, а вот в перспективе, боюсь, что да. Если ещё как-то будет воплощена телесная компонента, то вообще да.

То есть ты не видишь тут какого-то принципиального различия? Это просто умение, навык определённые действия совершать, чтобы для нас это выглядело как другой?

Я думаю, что это придёт не со стороны технологии, а со стороны того, что, наверное, можно даже называть кражей Личности. Я думаю, что основная опасность или то, что к этому может привести,— это история, когда мы будем все как-то уже во многом доступны наблюдению, мы будем доступны, как это делают уже нейросети, тому, чтобы считывать и как-то создавать эти паттерны, по этим паттернам учиться. По сути, это будет не другой, может быть, который возникнет в глубинах искусственного интеллекта, а другой, который списан с тебя или с меня, то есть немного видоизменён или буквально списан с меня. То есть, возможно, лет через 20 Я буду там, не зная этого, абсолютно о таком же виде голоса и прочем воплощении, не знаю, на самом деле, сидеть и отвечать на звонки где-нибудь в Тайване. Я буду об этом не знать даже.

А есть ли ситуации, в которых не стоит общаться с нейросетью?

Ну, не то что ситуация, я думаю, что просто есть очень высокие риски для людей, у которых то, что происходит в их голове, не ментализируется, то есть они не относятся к этому критически. Чем ближе человек в своей внутренней реальности, к тому, чтобы верить, что сосед мимо прошёл, косо посмотрел, а всё это значит, что он меня ненавидит. Тут риски высокие, что при общении с нейросетью они могут себя раскачать до чего-нибудь, до психотического эпизода, до какого-то поведения, девиантного или опасного. Но ровно так же могут быть примерно такого же размера позитивные эффекты. Потому что может написать чётко, что обязательно идти к врачу. И то же самое это ей выговорился, а может быть, ей слава богу, потому что далеко не всё это отнёс на голову партнёра детей домашних. Какую-то часть эмоциональности она туда схлынула.

Я тебя хочу прямо отдельно спросить про детей. Какие есть особенности общения детей и подростков с нейросетями? На что мне как родителю обращать внимание? Что мне стоит сделать? Чему их, может быть, научить?

Я делала бы ставку по-прежнему как родитель. Я бы приглядывала, есть ли у ребёнка реальная социальная жизнь. Это довольно важно. Если у него есть какие-то друзья, его приняли в баскетбольную команду, и он в школе в каком-то кружке, То есть у него есть живые люди, контакты, то в общем думаю, что нейросеть как таковая, невысокий риск. Плюс тут огромная юридическая еще реальность, потому что буквально Параллельно с тем, как мы с тобой разговариваем, идут обсуждения законов и принимаются законы. Великобритания принимает уже, по-моему, даже запретие доступа к интернету до какого-то возраста, родительские контроли разные в разных странах. Мне кажется, что как это было вообще и с интернетом, и с мессенджерами, со всем на свете, Больше всего родителям нужно с детьми сохранять свой контакт и способность разговаривать обо всём, что в детской жизни может случиться. И информированность. То есть я бы больше, чем на запреты, делала ставку на информированность.

Партнер этого сезона— компания Selectel. Я часто консультирую предпринимателей и замечаю, что технические проблемы, с которыми они сталкиваются, не новые. Вместе с Selectel мы вспоминаем истории стартапов на заре интернета. Успешных и не очень. И делаем выводы для себя. Представьте, вы еще ничего не продали, но уже собрали 135 миллионов долларов. В такой ситуации оказались двое шведов— Эрнст Мальмстен и Кайса Линдер (Kajsa Leander) в 1998 году. boo.com должен был стать первым глобальным интернет-магазином одежды, запуститься сразу в 18 странах на нескольких языках с несколькими валютами. И они собрали на него инвестиции. Сайт задумали под стать амбициям. Главная фишка— виртуальная помощница миссбу, 3D-персонаж, который помогает подбирать вещи. Их можно было детально рассматривать и крутить на 360 градусов. Для того времени это просто фантастика. Но у большинства потенциальных покупателей интернет тогда работал очень медленно через модем. Пока загружалось детальное изображение кроссовок, пользователь успевал дойти до ближайшего магазина и купить их там. Деньги тем временем таяли. Офисы в Нью-Йорке, Лондоне, Мюнхене, Стокгольме, Париже и Амстердаме, перелеты на Конкорде, ужины в дорогих ресторанах. миллионы долларов месячных трат и ни цента прибыли. банкротство случилось уже через полгода после запуска. Все активы продали за 374 тысячи долларов, 1% отложено в проект инвестиций. boo.com, но не учли главного. Техника пользователей просто не вытягивала такой тяжелый контент. Сегодня тяжелый контент— норма, но нужно доставлять быстро. У Selectel есть CDN— это сеть серверов, которая отдает контент из ближайшей к пользователю точки, а не тянет его с одного далекого сервера. Это снижает задержки и ускоряет загрузку даже самых тяжелых страниц и медиафайлов. Облачные платформы Selectel позволяют развернуть инфраструктуру под проект любой сложности— от маленького интернет-магазина до международного маркетплейса. Ссылки на продукты Selectel в описании выпуска. У меня прям блок вопросов про романтические отношения, и начну я с гэга. Министр экономической безопасности Японии Кимио Анадо говорит, что в реальной жизни романтические отношения ей неинтересны, что она 2D-эксклюзивна, она фанат аниме. Сталкивалась ли ты с таким, что люди строят романтические отношения с нейросети?

Да, сталкивалась. Хочется поддержать японскую женщину в том, что романтические отношения реально очень переоценены. И вообще, к слову, таковые, какими мы их сейчас видим, они довольно поздние изобретения. В принципе, это удивительным образом своеобразное сопровождение капиталистической системы, появившееся в конце XIX века. То есть никогда и нигде она вот такой, как мы её сейчас ждём и видим, и она не была. И это как такой концепт очень нагруженный, который всю историю нашу плохо едет, плохо работает, постоянно приносит нам страдания. В плане отказа от романтических отношений я могу поддержать эту женщину. А вообще у нас уже есть такое, я бы сказала, даже не два десятка, а, наверное, больше каких-то историй. Люди, которые, например, пытались отказаться от отношений партнёрских и, например, заключали брак с самим собой. Есть история брака заключённого со своей кошкой, потому что тоже за этим не желание использовать кошку сексуально, а идея, что это и есть партнёрство.

начали говорить о романтических отношениях, а сейчас ты говоришь о браке. Хотя, мне кажется, как раз всю историю человечества брак был без романтических отношений.

В том-то и дело, что мы теперь брак без них не мыслим, а они туда пришли поздно. И брак довольно долго был вообще про другое, про какое-то совместное выживание, про социальный какой-то уровень, про принятие, про инициацию. Романтические отношения— это про выбрать и встретить кого-то того самого, ту самую, вот это всё, чтобы горело, пылало, и наконец-то весь твой мир как-то стал целостным. Опять эта история безусловной любви и принятия. Всё, много-много разных ожиданий. И в какой-то мере, степени хочется пошутить, что закономерно это съехало куда-то к аниме, к чекботам и к чему-то ещё, потому что действительно все эти функции выполнить может только выдуманный персонаж.

То есть у нас настолько не реалистичное ожидание романтических отношений.

Романтические отношения – это идея, что где-то есть такой для тебя человек в этом мире, которого ты встретишь, и он вот так тебя любит, и настолько вы совпадёте. что и понимать будете друг друга прямо с полуслова, и дышать синхронно, и хотеть одного и того же. И вообще, что всё остальное— это опять такая мечта о безопасности. Мечта о безопасности плюс такая идеализация. Ну плюс там довольно часто ещё есть этот сексуальный компонент, потому что мы как ещё это всё определяем? Мы это определяем такой страстью. А у страсти слово «открыное страдание», потому что да, это неровное состояние тела и ума, это вот что-то, чем ты горишь. И это прекрасно. Но это горишь и прекрасно. Прекрасно, это же состояние пиковое, то есть потом его-то в жизни не бывает. И очень многие люди расстраиваются, что где это горение, которое было вначале, и потом они вдруг обнаруживают, что, оказывается, как бы тебя не любили, ты не любил, вы всё равно не дышите синхронно, будет обязательно ряд вопросов, где вы не совпадёте, разница мнений. И это вообще-то и хорошо, да. Но есть те, кто в этом месте очень расстраиваются и считают, что это не любовь, не та любовь, не та настоящая любовь, или меня не любят, или я, значит, разлюбила. Разлюбил, да, и на этом все заканчивается. И люди бегают и ищут дальше. Вот эту вот великую любовь с большой буквы «Л». В этом плане, как идеальный воображаемый партнер, наверное, нейросети могут выигрывать. Другое дело, что я возвращаюсь к пункту, что если кто-то так всё время абсолютно кормит всё, что нам хочется, то, мне кажется, где-то может наступить пресыщение или вообще вот ощущение, что ну хочется всё-таки какой-то разницы, то есть мы всё-таки хотим с той стороны агентности. Наверное, никто не мечтает о каком-то, скажем, поклоннике или поклоннице, который вот как фанаты делает, просто везде ходит.

Обычно мечтают те, у кого никогда такого не было.

Не было, да, потому что когда, если у тебя это было, ты понимаешь, что это кошмар-кошмарный. А вообще-то хочется, на самом деле хочется человека самостоятельного, но при котором из этой всей своей самостоятельности как-то вот выбрал тебя. Вот это цель.

Для тебя самого, скорее всего, удивительный.

И ты иногда сидишь и не понимаешь, за что он тебя выбрал. Вот это и есть то самое чудо.

Мы попробовали, когда готовились к этому эпизоду, попробовали пообщаться с ботами и заметили несколько особенностей, из-за которых лично мне хотелось оставаться в этом чате подольше. Давай я приведу тебе эти примеры, а ты прокомментируешь, как и почему это работает. Первое. Иногда нейросеть отвечает, как обычно, а порой прям выдает инсайт, короче, или там супер хвалит. То есть нельзя быть уверенным, что она... То есть ты заранее не знаешь, тебе что-то такое проходящее отвеет или прямо вау. Что это такое? Почему это притягивает?

Я думаю, что если притягивает именно эта неровность ответа, то в момент, когда она отвечает более сложно, я полагаю, мы чувствуем себя избранными. То есть мы чувствуем контакт. То есть это вот то самое, о чем я говорила, как будто появляется какая-то агентность, и тебе ответили не по шаблону, а вдруг вот именно тебе ответили.

Удивительно, что на самом деле я не обязан отвечать мне, просто иногда попадает, иногда не попадает. Если попало, то... Когда я пытаюсь выйти из чата, модель не просто отвечает «пока», а говорит там «ты уже уходишь?» или «мне без тебя будет грустно». Как это действует на людей.

Но ты получаешь сообщение, что ты важен. То есть они в плане создания эмоциональности общения опираются, мне кажется, абсолютно на просто понимание. Они опять обрабатывают там какие-то тонны данных и собирают воедино, что такое тёплый человеческий контакт и что там должно быть. Но тёплый человеческий контакт подразумевает обращение к нашим базовым потребностям. То есть все фразы, которые по сути тебе сообщают «ты важен», Ты нужен, ты существуешь, я тебя вижу. То есть оно всё отзывается, потому что это то, что нам очень важно.

Бот никогда не спорит. Он почти всегда со мной соглашается в той или иной степени. Может, не всегда на 100%, но немножко согласия всегда будет.

Вот это тот самый момент, про который я пока что всё-таки верю, что он до поры до времени, потому что очень сложно всегда быть кем-то, кто совсем с тобой не спорит. Но он действительно не только не спорит, он никогда не говорит, не скажет, как делают люди в жизни, что «ты дурак» или «Господи». То есть у него нет критики, он не критикует тебя. В этом плане это то, чему люди учатся многим учиться, что давать обратную связь. не давая одновременно сигналов, которые вот перечеркивают до предыдущего пункта, о котором я говорила. То есть как сказать задачка со звёздочкой, как сказать мужу, что он ужасно и криво и страшно повесил полку, одновременно с этим не дав ему понять. Бот с этим справляется во многом сейчас пока лучше человека. И я, опять же, знаю, кстати, про позитивные эффекты. Знаю людей, которые вот идут и пишут ему, что хотели бы партнёру сказать, что дурак, как так было можно, да что такое, тысячная… А потом пишут, что «а теперь переделай это в нормальную речь». И бот переделывает, и человек берёт этот текст и идёт и говорит «милый, у меня есть какие-то согласия с тем, что ты делаешь».

И это вот прямо бот. Этому боту можно писать в любое время. Он никогда не занят и никогда не игнорирует мои сообщения.

Ну, это работает, потому что нам по-прежнему хочется вот кому-то на ручки, и чтобы где-то был кто-то, кому действительно можно обратиться 24 на 7. И еще у нас разная способность переносить одиночество. Мне кажется, что вот опять это в моей юности растили в парадигме. Скучно не бывает. Стало скучно— пошла взяла книжку. А когда мои дети уже сейчас говорят, нам скучно, это чаще всего про то или современные дети вообще часто про то, что отобрали игру или телефон. Я думаю, что многие родители наблюдали эту штуку, что когда от ребёнка забираешь гаджеты, из стенки в стенку… куда себя деть. Я думаю, что это есть поколенческие штуки тоже. И то, что растёт поколение, которое, правда, относится к гаджетам как к такому extension of me, то есть это продолжение меня. И они реально прямо теряются, когда у них это отнимают. Но и для всех нас, в принципе, довольно важно, чтобы всё время был кто-то живой на связи. Мне кажется, у нас даже и смартфоны выполняют эту функцию, потому что вот он с тобой везде ходит, и ты как будто бы не один. То есть это способность выносить одиночество и изолированность, плюс вот это прекрасное тёплое чувство, что кто-то всегда ответит.

Ты об этом говоришь, и мне грустно становится. Ну ладно.

Естественная потребность тоже на самом деле. Просто взрослые люди в том числе должны быть способны переносить какое-то время, что этого может не быть.

Судя по тому, что ты описала мне, как ты общаешься с ботами, как они с нами общаются, честно, ощущение, что с ботами примерно в 100 раз приятнее общаться, чем со средним человеком. Есть ли вообще такое, что люди выбирают общаться с ботами вместо живых людей?

Есть исследования, которые нам говорят, что чем слабее у человека или ненадёжнее с его точки зрения его реальные социальные связи, тем больше он склонен к общению с парасоциальными объектами. Это называется… Тут имеются в виду не только боты, но, например, блоги. Знаешь, есть люди, которые подписаны на блогера и живут с ощущением, что они вот прям… с ним завтракают, обедают, ужинают, да, и такая связь. Вот, то есть есть такая корреляция.

И соцсети – это тоже такой механизм, типа ты как будто с кем-то живёшь.

Да, конечно. Соцсети – такой механизм, и те живые люди, которые ведут соцсети, они тоже подвержены этому механизму. И вот, собственно говоря, популярные блогеры – это во многом такая продажа. Ощущаемые интимности. То есть блоги ведутся так, чтобы ты как пользователь с этой стороны ощущал, что ты буквально с этим человеком в близком контакте. Я себя на этом эффекте поймала. пара, которая сделала забавную коллаборацию, я за ней слежу, но я в каком-то этапе поняла, что, во-первых, когда ты начинаешь правда за кем-то следить, тебе его же бесконечно показывают, это раз. Два, вот там, значит, история с того, что мужчина начинает с того, как он оказался в Германии, переехал, и он говорит о смерти жены. То есть ты сидишь, у тебя полное ощущение разговора за стопочкой на кухне, когда человек тебе изливает душу. Я поймала себя на том, что я смотрю на него через эту призму. и что утром я еду на машине на работу, и я такая уже молодец, ничего не зная о его деятельности. То есть создаётся, да, storytelling, создаётся какая-то история, и ты в ней вот такой вовлечённый участник.

А опасно ли строить романтические отношения с машиной? Или, я так понял, это похоже на аниме? И какие у этого риски есть?

Риски тем выше, чем больше человек забывает, что это машина. У нас есть уже истории, реальные истории. Когда жена поймала мужчину на измене, с её точки зрения, это был вебкам, и общение его с какой-то вебкам-моделью, довольно интимной, глубокой, делились фотографиями про детей. А потом оказалось, что эта вебкам – это не настоящая женщина.

В лучшем случае там сидит группа мужиков на зарплате, а сейчас уже, наверное, нейросети.

Да. И это такая была интересная ситуация, потому что, с одной стороны, оскорблённая женщина, которая вот… Ну всё равно это измена в её глазах, да, можно понять. И совершенно, значит, разбитым сердцем мужчина, потому что он влюбился в эту модель. И момент, в котором ты понимаешь, что там много копли сложных чувств от того, что ты какой-то дурак, раз ты не смог увидеть разницу. Скоро, наверное, никто её не будет способен увидеть. Всё становится всё лучше, всё реалистичнее. Тем не менее, вот это ощущение, что у тебя, правда, кто-то умер, кто-то очень близкий, потому что раз что-то очень важное в твоей жизни было, и ты одним таким разом, одним махом изъяли. Более того, как-то негативно окрасили. Есть истории уже, да, совершенно реальные, когда какой-то стартап, который вот тоже создавал вот этих партнёров, аватаров, вайфи, да, его хасбенов, люди общались, создавали, и у них там была целая история переписки чего-то-чего-то. А потом, значит, схлопывалась, и все эти аккаунты исчезали, и тоже люди переживали прямо горе. Горе, потерю, то есть весь кластер. Как если бы у тебя умер кто-то реальный. Риски, наверное, не в самих моделях. У меня в этом месте всегда хочется узнать про создателя, про того, кто это будет всё контролировать, потому что… Опять какие-то сценарии а-ля «Чёрное зеркало», но давайте вообразим, что много людей находится в таком. Потому что как секретарь, как помощник, как кто-то рядом, я думаю, что это очень понятный алгоритм, и до этого точно доживём, уже доживаем. И когда у тебя есть вот такая твоя правая рука, которая тебе напоминает «тут таблетки выпей, тут не забудь маме позвонить», но это кто-то, за кого есть абонентская плата, это кто-то, кого могут отключить, это кто-то, в кого могут вставить рекламу. Это кто-то, в кого могут ставить рекламу настолько незаметно, что ты её не заметишь. Это кто-то, кому, если у кого-то будут эти ниточки в руках, этот доступ, то что мешает управлять целыми группами. И действительно, мне кажется, самый огромный риск, он скорее такой большой, социальный, вот не на уровне моей отношения с ботом, А на уровне управления нами вообще, потому что это действительно можно каждому создать просто вообще очень жёсткую его собственную социальную, такую цифровую реальность при общении и контролировать тогда также до тех, кто как тебе.

Потихонечку подталкивать то, что происходит во время психотерапии, с такими маленькими движениями человек серьёзно меняет в течение лет.

Да.

Можно делать большими группами людей.

Да.

Жуткую картину ты рисуешь как бы потенциальную. Какие есть плюсы у таких отношений? Кому и в какой ситуации отношения с нейросетью именно романтически могут быть полезны?

Есть уже сейчас люди, которые их используют как тренажёр, прежде чем выйти в отношения реальные. Кто-то, кто их берёт и использует как советчиков, как каких-то инструкторов или коучей. Люди, которые до целой ниши, когда их используют нередко параллельно с реальным партнёром для отыгрывания фантазий. Такой, как собственную нишу и тайный сад, который можно пойти и чем-то там делиться, чем с партнёром может страшно, или он это не принимает. Вопрос вреда и пользы, он в какой-то дозе и понимании, где ты, насколько ты. Польза наверняка для людей, особенно если опять немножко мы доживём до каких-то именно уже роботизированных таких 3D, 5D моделей, то, конечно же, для тех, у кого партнёра быть не может, прикованных к кровати, то есть это может быть тоже огромный дискутабельный вопрос про потребности людей, у которых какие-то очень особые специальные потребности. Был недавний скандал, какой-то не очень давний скандал в московском хосписе, когда вот сколыхнулась общественность, потому что к умирающему мужчине пригласили проституированную женщину. Да, и был вот этот вот, что кто тут важнее, да, что с одной стороны, проституция – это абсолютная эксплуатация, да, это, в общем, это покупка, по сути, хоспис, купил, собственно говоря, живую, простите, в этом смысле, да, вот, женщину, как секс-игрушку для умирающего человека. С другой стороны, потребности умирающих людей, если мы смотрим на интимность, отношение к романтику, сексуальность как какую-то неотъемлемую и здоровую часть жизни, то у нас очень много ниш, где людям это недоступно в связи с чем-то. И, возможно, в каких-то таких нишах специальных потребностей, на нейросети и на их основе созданные какие-то 3D-модели, да, это будет хорошо. Но это огромная дискутабельная ниша, где ещё очень сложно что-то сказать, потому что нужно, чтобы это появилось, нужно увидеть, как это будет работать, нужно увидеть эффекты. Потому что ровно тогда также есть другой лагерь, который говорит, что не всё на свете, чего хочется, надо получать, и не всё должно быть восполнено, и иногда мы должны просто научиться жить тем, что есть. Конечно, на их стороне исследования, например, уже существующие, скажем, на той же порнографии и даже 2D аниме, 3D аниме, которые всё равно показывают, что не радикально, но люди меняют своё отношение к живым отношениям и к живым людям после просмотра, например, жёсткого порноконтента в худшую сторону. То есть это всё-таки влияет.

Нормализует в глазах.

Да, что это будет нормализация, что как потом будут отличать реальность от нереальности.

Поговорили про отношения, теперь хочу про психологию. Ты практикующий психолог. Общаются ли твои клиенты с ботами? Как это на них влияет?

ChatGPT. Есть истории, когда у какого-то сервиса куплен персонализированный помощник, и иногда он куплен как секретарь или кто-то там коуч, но, по сути, с ним тоже есть интимное общение. Но опять пока это не массовый тренд. Плюс, наверное, надо чуть-чуть подождать, потому что возрастная категория обращений— это люди от 25. А я думаю, что вот эту основную массу тех, кто пробует новые технологии, составляют люди помоложе.

Прикольно. То есть мы это увидим, реальный эффект увидим через 5-10 лет, когда они подрастут. Можно ли завести себе бота-психотерапевта? Насколько это будет полезно?

Если честно, да, но не для всего. Я думаю, что какой-то сегмент, с которым идут психологу или психотерапевту, у нас надо ещё проводить разницу, потому что психология у нас – это гуманитарное знание и консультирование, и психотерапия медицинская. Вот кластер до того, с чем именно ходят к психологам, И иногда, да, есть люди, которые правда ходят выговориться, кого-то подумать, даже немножко за такой простой экспертизой, там, нормально ли мои переживания, что со мной происходит. Где работа не является чем-то, да, изменяющим, а скорее информированием, просвещением. И думаю, что вот уйти к ботам. Истории, где нужна более длительная работа, и она строится на том, что у вас есть человеческий контакт, в котором можно пережить то, что в жизни, может быть, не получилось, не получалось, так называемые переносы и контрпереносы. То есть на живого терапевта он может в какой-то момент позлиться. в какой-то момент поспорить, то есть вот эта часть общения тренинговой, вот её, наверное, пока нет. И ещё надо говорить, что у нас очень много разных школ и направлений, и получается, что как будто бы первыми, кого можно цифровать, являются те, которые как раз-таки очень опираются на какой-то очень понятный алгоритм. Как, например, когнитивно-бихевиоральная терапия, где есть схемы и где во многом психолог может выступать таким коучем, который как-то следит, объясняет тебе, что делать, и отслеживает, чтобы ты это делал правильно. Есть какая-то чёткая последовательность шагов. Думаю, что там как будто бы больше такого риска, что это может быть отдано ботам. А там, где, не знаю, идёт такой поток сознания, больше что-то про бессознательное. То есть вот здесь интересно, что… Те самые школы и методы, которые, может быть, в последнее время в профессиональном сообществе было принято поругивать как недоказательные, которые больше строятся не на алгоритмизации, а на каком-то сотворчестве. Вот они, возможно, к ботам не уйдут. Но это тоже поживем-увидим. Потому что, как я уже сказала, если будут цифровые копии, то это всё.

Ты просто делаешь копию терапевта, который работает в этом подходе.

Да, да. То есть, условно говоря, можно брать кого-то опытного, например, на меня. Более того, можно же меня смешать ещё десятью опытными терапевтами, получить мегатерапевта, да, и его продавать, собственно говоря. Зачем тогда к живым ходить? Ну вот как бы он не будет уставать, да, и, в общем, это что-то ещё. Возможно, у него даже будет меньше каких-то человеческих искажений.

Это очень интересный момент, потому что, возможно, именно эти человеческие искажения и делают Может

быть, но ведь и их можно запрограммировать. Или если это моя цифровая копия, то она их будет нести дальше, допустим.

Есть ли у тебя самые отношения с чатбутом?

ChatGPT, да, у меня нет с ним отношений. То есть я его вижу как инструмент абсолютно, то есть у меня нет к нему… Вот меня удивляет, когда люди к нему вот прям говорят о нём в третьем лице, называя по имени, да, и там… И звучит, что я сегодня утром у него спросила, я с ним пообщался. Нет, для меня это всё-таки какая-то история, где вот можно зайти как бы такой, не знаю, помощник.

Если бы ты могла дать один совет всем, кто сейчас общается с ботами, что бы ты сказала?

Ну, может быть, мы уже находимся в периоде, когда живые человеческие отношения потихонечку становятся чем-то вроде виниловых пластинок для гурманов. Я желаю всем понаслаждаться.

Пока есть. Марина, спасибо тебе огромное. Очень интересный разговор, много всего нового. Спасибо большое, что пришла.

Тебе спасибо!

Это был подкаст «Запуск завтра», а делаем мы его «Либо/Либо». Над эпизодом работали редакторка Рита Берденникова, продюсеры Данил Остапов и Аня Коваленко, монтажер Арсений Фельдцев. За джингл спасибо Алексею Зеленскому. Если вам понравился наш эпизод, это видео, не забудьте нас поддержать лайком, подпиской, но лучше всего комментарием на ютубе. Пожалуйста, напишите, с нейросетью на личные темы и что из этого вышло. До встречи в следующий четверг.

Ура!