Как нейросети меняют правила общения

Привет!

Меня зовут Самат Галимов, и это подкаст «Запуск завтра». Как технический директор я разбираюсь, как устроены технологии, которые меняют нашу жизнь. А помогают мне в этом профессионалы, с которыми можно поговорить простым человеческим языком. В этом сезоне вы можете нас не только послушать, но и посмотреть на ютубе. Видео выходит на канале Запуск Завтра. Пожалуйста, подпишитесь на наш канал, поставьте лайк и напишите комментарий. Ваше участие очень помогает нам делать видео лучше и выпускать больше классных эпизодов. Помните поговорку «С кем поведешься, от того и наберешься»? Последнее время я все чаще вспоминаю ее в контексте нейросетей. Кажется, что мы общаемся с ними постоянно, и это не может на нас не влиять. Я хочу разобраться, почему нам всё время хочется увидеть в искусственном интеллекте собеседника? Как нейросети контролируют ход нашего диалога? И что меняется в человеческом общении из-за нейросетей? Поговорю я об этом с Оксаной Мороз, культурологом и исследовательницей цифровой среды. Партнеры этого сезона – провайдеры IT-инфраструктуры Selectel. В середине выпуска вы услышите нашу совместную рубрику. В ней мы рассказываем истории стартапов на заре интернета. Их опыт – это огромная база идей для решения современных бизнес-задач.

Меня зовут Оксана Мороз, я культуролог, и последние, я бы сказала, уже больше, чем 10 лет я занимаюсь исследованиями цифровой среды и комментариями относительно того, как развиваются цифровые технологии и разные социальные и культурные измерения, которые эти технологии сопровождают.

Окей, я тебя буду спрашивать про нейросети.

Отлично.

Вот когда я задаю ChatGPT вопрос, он обычно отвечает, как классический американец. То есть, заворачивает реальный ответ в комплимент в начале и в конце, так называемый сэндвич. Если спросить то же самое у DeepSeek, то будет уже не сэндвич, а просто котлета. Он просто ответит на вопрос. Откуда эта разница?

Я думаю, что эта разница проистекает из тех гайдлайнов, которые оставляют разработчики для своих инструментов, а эти гайдлайны, они, естественно, в той или иной мере, являются производными от культурных представлений о коммуникации. Хороший пример— это конституция, которую в Антропике написали для их инструмента, для Клода, и в январе 2026 года. Если в саммари (summary) этого документа, понятно, что, например, там лидирует какая-то такая очень западноцентричная идея относительно этики, относительно помощи, относительно взаимодействия с людьми. И это, естественным образом, просто продолжение того, как люди, которые разрабатывают инструмент, думают об этих материях.

Я понимаю, что люди могут закладывать разные в нейросети. А есть ли какой-то особенный способ, вообще вкус, я хотел сказать, у того, как общаются сами нейросети, не люди, которых тренировали, а вот сама нейросеть?

Ну это классный вопрос, на самом деле, потому что он предполагает, что нейросеть – это субъект, которое выбирает некоторые способы общения, и продуцирует их, воспроизводит, и более или менее в них консистентно. Но в целом я бы не стала говорить о том, что мы имеем дело с сознанием, которое таким образом самостоятельно коммуницирует. Мы имеем дело с инструментом, который обучен определённым задачам. Если говорить о том, какие специфические особенности можно вытащить из того, как скажем, эти модели коммуницируют то, что они хотят сказать, то я бы заметила, что в целом модели отличаются, например, по тому, как у них выстроены ограничения на разговор на определенные темы и как они об этом сообщают. Я сейчас даже говорю не о какой-то цензуре, связанной там с политическими или идеологическими моментами, но в том числе с ограничениями на разговор на какие-то сензитивные темы с людьми, которые находятся в уязвимых состояниях. У меня был опыт работы с разными моделями исследовательского проекта. Мы не тестировали там непосредственно, например, то, как модели работают со всякими кейсами обращения за ментальной поддержкой, но, наблюдая за тем, как модели уходили от ответов на какие-то вопросы, можно заметить, что кто-то предпочитал. кто-то. Это очень смешно, да? Некоторые модели предпочитали скорее просто жестко ставить границы и говорить, мы об этом не говорим, давайте поговорим о чем-то другом, например. Кто-то старался выдавать какой-то такой завуалированный ответ и тоже сливался, но делал это, скажем, более интеллигентно, интеллектуально и мягко. И были модели, которые просто предлагали неправильный ответ в надежде, что от них отстанут. Ну, в смысле, мы выдадим неправильный ответ, и дальше можно в какой-то степени продолжать эту коммуникацию. На третьем, на четвертом шаге модель может сказать, что да, вот на эти темы я беседовать не буду, например. И интересно, что вот даже когда я сейчас пересказываю всю эту историю, я, конечно, одушевляю эти модели, я привязываю их к какому-то полу, я говорю о том, что они действуют, и это, собственно, эффект того, как они устроены.

Запрограммированы ли нейросети так, чтобы общаться с нами, как живые люди?

Я думаю, что далеко не все и не всегда, но в целом к этому есть стремление, потому что, опять же, особенно учитывая, что нейросетки развиваются очень рапидно, очень быстро, и мы видим, как соответствующие инструменты попадают в огромное количество приложений, которые используются в том числе в актах коммуникации, которые раньше скорее выглядели как человек-человек. Есть задача, среди прочего, сделать, по крайней мере, нейросетки комфортными для людей, чтобы, и здесь я могу цитировать разные документы, которые, собственно, написаны разработчиками, чтобы можно было к этим нейросеткам приходить как к тёплому другу, который одновременно обладает какими-то профессиональными компетенциями, например, доктора, например, терапевта, например, учителя. То есть здесь нет никакого такого специального программирования нас с вами на восприятие этих машинных штук как живых людей. Но нам прямо говорят, вы можете к ним приходить так, как будто они, и дальше по списку. И понятно, что это очень тонкая грань, потому что если мы привыкаем к тому, что мы действительно можем прийти к этим инструментам, чтобы получить какое-то взаимодействие человек-человек. И если это взаимодействие действительно не сопряжено исключительно с решением профессиональных задач, а если оно сопряжено в том числе с какими-то коммуникациями, которые требуют эмпатии и ещё чего-то как будто такого чисто человеческого, и мы это постоянно получаем, то мы можем, например, даже держа в голове, что перед нами не человек, можем сказать, ну это же даже лучше, чем человек. Но потому что эти же штуки действуют по запросу. То есть вот ты приходишь, у тебя есть какая-то штука, которая болит, или штука, которую ты хочешь обсудить, или штука, про которую ты хочешь посоветоваться, и тебе по твоему запросу выдают ответы. И нет там дополнительного какого-то шума, дополнительных каких-то мнений, суждений, тебе не нужно мириться с поведением этого человека, тебе не нужно, там, не знаю, раз в неделю обязательно созваниваться или ходить на кофе, чтобы как-то... поддерживает свою дружескую связь. То есть вот все эти ритуалы, которые есть у людей, они совершенно здесь отсутствуют. И более того, даже если мы говорим не про исключительно такое близкое общение, именно эмпатическое, квазидружеское, а говорим про обращение к нейросеткам, когда они решают профессиональные задачи, это тоже может делать их гораздо более удобными, чем люди слэш-профессионалы. Ну и это, конечно, очень сильно смещает вообще равновесие и центры тяжести в том, как мы общаемся с людьми и кого мы, на самом деле, считаем более достойными доверия. Потому что в этой ситуации вполне возможно, что человек не воспринимается как скорее такое сильное звено, вот мой собеседник, а скорее как угроза, скорее как тот, кто будет тормозить процессы, а машина как максимально эффективный соратник.

Я для эксперимента упомянул нейросети, что у меня тяжелое эмоциональное состояние. И она стала мне отвечать гораздо аккуратнее и короче.

Я прямо заметил, что... Так что за нейросетка?

Это был ChatGPT, мне кажется, самый классический. Как еще различаются ответы нейросети в зависимости от того, что она про меня знает?

нейросетки могут по-разному реагировать на, например, сензитивные истории, они по-разному считывают, что для человека важно или не важно. Например, вот если ты говоришь, что у тебя тяжелое эмоциональное состояние или депрессия, некоторые нейросетки могут под это построиться и стараться действительно разговаривать аккуратнее. А если ты будешь рассказывать о том, что у тебя психотический эпизод шизофрении или что ты находишься в тяжелой алкогольной интоксикации, нейросетки могут не пойти тебе навстречу, потому что в некоторых из них работают вот эти абсолютно стереотипные стигмы, касающиеся именно этих двух состояний. Прямо было Стэнфордское исследование проведено на этот счет в какой-то момент. И они не будут мягкими, и даже не очень понятно, будут ли они, например, предлагать тебе поехать на какой-нибудь детокс или просто каким-то образом сформулировать общение так, чтобы условно создать у тебя, ну, например, переживание стыда, которое очень часто в человеческой коммуникации сопровождают именно эти стигмы. Опять же, это очень зависит от того, на что натренированы нейросетки и в какой степени их создатели вообще ставят для себя вопросы этики такого порядка на первый план.

Мы с тобой поговорили про то, как в целом нейросети с нами общаются. Теперь я хочу немножко с другой стороны, как мы говорим с нейросетями. Казалось бы, я задаю вопрос нейросети, а нейросеть на него мне отвечает. Правда ли, что только я контролирую ход диалога?

Ну нет, конечно. Есть у психологов, у социальных психологов, у социологов разные исследования того, как люди видят коммуникацию, и обычно разные исследователи пытаются выдвинуть законы коммуникации. Это такие правила, которые обычно не работают, но которые люди хотели бы, чтобы они работали. И один из законов говорит следующее. Я хотел бы, чтобы коммуникация соединялась по моим правилам, чтобы все люди, которые со мной общались, общались со мной по моим правилам. Здесь, конечно, очень много там на полях нужно расписать, что люди в большинстве случаев не говорят, какие это правила, они путают представления о нормах с представлениями о границах, об ожиданиях, но это оставляем за скобками. Важно, что мы действительно, как люди, входим в коммуникацию, желая, чтобы с нами общались по тем правилам, которые у нас есть, даже если мы не можем их эксплицитно произнести. Проблема, однако, заключается в том, что коммуникация – это всегда взаимодействие с некоторым контрагентом, одним или несколькими. И, конечно же, это не линейная история, типа я что-то сказал, и там с той стороны только послушали и сделали. Такую коммуникацию можно назвать вещательной, и она закончилась где-то там в XX веке, плюс-минус. Сейчас у нас многоканальная, мультимодальная коммуникация, и она рецепрокна, то есть в одну сторону работает и в другую, и взаимно. И в этом смысле, конечно же, на то, как мы взаимодействуем, влияет то, что мы получаем с другой стороны. Есть исследования, которые показывают, что, например, когда мы просим нейросетке создать какой-то продукт или какой-то артефакт, давайте этот артефакт назовем код, например, И нейросетка справляется с этим с точки зрения банальной видимости хорошо. То есть мы получаем нечто, что выглядит приемлемо. Мы довольно часто не продолжаем коммуникацию. Мы говорим, типа, ну, если мы вежливые люди, и мы пытаемся использовать этот код вежливого поведения, мы такие, о, спасибо, клёво, я пошёл. Если при этом мы ведём какие-то разговоры, которые предполагают с нашей стороны некоторый обмен цепочками реплик, то есть нам нужно не чтобы код нам написали, а чтобы с нами что-то обсудили, то мы будем продолжать долбать эту несчастную нейросетку, пока мы дальше вариативно, пока мы не получим тот вариант ответа, который мы хотим, пока мы не почувствуем какую-то сатисфакцию от самого объема разговора и так далее. И вот это наша реакция, первая и вторая, это прямое следствие того, с чем мы приходим в коммуникацию, и что нам выдается в ответ, и что мы ожидаем в ответ, и как это делается. Поэтому, конечно же, говорить о том, что мы хоть что-то контролируем в этой ситуации, довольно сложно. А есть ещё, кстати, одно смешное замечание, что в некоторых документах, которые описывают, как работают нейросетки, их разработчики пишут следующее, что нейросетки натренированы на общение с собеседниками человеческими так, как будто они взрослые люди, которые могут самостоятельно принимать осознанные решения. Ну, во-первых, я хотела бы задать вопрос. Много вы видели таких взрослых людей? вообще, в принципе, которые системно, в 100% случаев, именно так действуют. Во-вторых, конечно же, сама эта идея, что ты общаешься, ну, ты, как условная программа, общаешься с человеком, который может принимать самостоятельные решения, осознанные, и таким образом как-то это включать, в том числе, в коммуникацию, предполагает, что нет, вы взаимно влияете друг на друга, а не кто-то один хозяин этой ситуации, хозяин положения.

Мне кажется, с нейросетями можно общаться в трех разных режимах. Как с инструментом, задавать им вопрос как к Гуглу или вычисление как к калькулятору. Можно как с ассистентом, ты ему задачу даешь, он пошел, сделал. А можно именно вести диалог как с собеседником. Как обычно себя ведут люди с нейросети?

Я бы сказала, что довольно часто люди используют нейросетки именно как инструмент, потому что это позволяет им решать рутинные задачи и при этом не менять этику своей профессии. То есть мы продолжаем оставаться в этике своей профессии, мы продолжаем оставаться самыми главными персонажами, которые, собственно, определяют, как мы работаем. Просто у нас есть какой-то инструмент, который рутинно делает проще. Ну, например, там, не знаю, составить библиографический список. Это и до нейросеток существовали разные помощники, программы, которые прекрасно складывали из каких-то первичных данных вот эту вот кракозябру, которая, значит, называется библиографическим цитированием. Такие вещи. Довольно распространённая практика, которая в сознании людей, надо сказать, не воспринимается как угроза. То есть нет ощущения, что вот мы сейчас это делаем, и потом нас всех заменят. Есть идея о том, что вот есть бредовая работа, мы её, наконец-то, кому-то отдали, и это прекрасно. Есть действительно вторая категория людей, которые, я бы не сказала, что это исключительно помощники, это очень часто партнёрские отношения, такие не совсем равноправные, но скорее соратничество такое, которое осуществляется тоже в рабочей сфере скорее, когда мы доверяем решению уже не совсем рутинных задач, а предполагаем, что есть некоторая свобода действий. То есть это не просто тупой молоток, которым мы гвоздь забиваем, а это уже микроскоп. И гвоздь забивать им не надо. Надо уже как-то поинтеллектуальнее и поинтеллигентнее. Вот эту практику обычно я вижу у людей, которые довольно неплохо осознают, что они обладают какими-то стратегическими инструментами внутри своей профессии. То есть они понимают, что даже если какие-то тактические, не только операциональные, но и тактические решения будет делать машинка, они сами своего места не потеряют. У них есть какое-то специфическое видение, экспертиза, ну вот визионерство, какие-то форсайт штуки, которые они в качестве своей экспертизы и продают. И наоборот, они чувствуют такое освобождение. То есть окей, ладно, есть возможность там сгрузить какую-то совсем рутинную работу иишкам, но есть ещё возможность сгрузить что-то, что требуется делать и требует интеллектуальных усилий, но на самом деле не так интересно. Можно вместо этого попридумывать какие-то классные дисраптивные (disruptive) решения внутри нашей индустрии, и оно будет двигаться дальше. Но я думаю, что очень большое количество людей, которые используют большие лингвистические модели, ну, я бы не сказала, каждодневно, но часто, на самом деле их абьюзят. Ну, то есть, строго говоря, например, какие-то инструменты созданы для определённых задач. Если ты работаешь с инструментом, который создан для академических исследований, не надо просить этот инструмент составить юридический договор. То есть, пожалуйста, можно, но результат будет не очень хорошим. А я вижу, как, например, люди находят один-два классных инструмента и начинают их реально использовать по любому поводу, с любым вопросом, который только возникает. С одной стороны, это очень понятно, потому что мы вообще же привыкли, мне кажется, жить в мире таких суперапов. Вот у тебя есть какая-то штука, и она закрывает все потребности. Им вот не нужно двадцатью жонглировать апками, да, а вот у тебя есть что-то одно. И более того, мы, опять же, мы живем в мире, который за последним... примерно 10 лет, чуть-чуть побольше, чуть-чуть поменьше, очень сильно потерял в доверии экспертизе какой-то конкретной и очень потерял в доверии многоголосицы вообще мнений. В целом, люди, мне кажется, довольно устали от бесконечных разговоров, давайте будем медиаграмотными, давайте будем выбирать источники, давайте вот это вот все, потому что хочется, с одной стороны, какой-то кристальной, понятной чистоты. С другой стороны, от людей ты этого не добиваешься, и ты это видишь. Поэтому ну хотя бы пусть будет хотя бы одна большая, значит, лингвистическая модель, которую я одну буду использовать, и она будет как, я не знаю, любимый сорт чипсов. Я всегда буду её выбирать, и мне не нужно будет думать, я хочу со сметаной и с луком или с солью. Я всегда знаю, что с солью.

Партнер этого сезона— компания Selectel. Я часто консультирую предпринимателей и замечаю, что технические проблемы, с которыми они сталкиваются, не новые. Вместе с Selectel мы вспоминаем истории стартапов на заре интернета. Успешных и не очень. И делаем выводы для себя. 1996 год. Луис Бордерс, сооснователь крупнейшей сети книжных в Америке, загорается новой идеей. Он хочет создать онлайн-сервис, в котором можно было бы заказывать продукты на дом. Да. 30 лет назад это звучит суперинновационно, а люди вообще редко что-то покупали в интернете. Бордер создает компанию, которая стала известна под названием Webvan и привлекает инвестиции почти до 800 миллионов долларов. На них он покупает сотни фургонов, нанимает сотни человек, а еще строит автоматизированные склады, на которых товары сами подъезжают комплектовщикам. Еще система сама рассчитывает, как упаковать товары, чтобы тяжелые банки не раздавили хлеб. На тот момент это просто технологический прорыв. Каждый такой склад обходится Бордерсу в 35 миллионов долларов. А еще он переманивает свой стартап, CEO большой консалтинговой компании, и назначает ему поверх зарплаты ежегодную выплату в 375 тысяч долларов, причем пожизненную, даже если компания закроется. И вот спустя всего 2 года после запуска CEO звонит генеральному управляющему и дает ему несколько указаний. Во-первых, уволить за сутки 800 сотрудников. Во-вторых, придумать, куда девать тонны продуктов. Компания закрывается. Вы скажете, но сейчас же мы регулярно пользуемся доставками. Очевидно, идея была рабочей. Что же пошло не так? Дело в том, что в то время люди сами выбирали свежие овощи и мясо в магазине. Привычки покупать онлайн еще не было. Вебван не изучили привычки своей аудитории и выбрали неподходящую бизнес-модель, которую было еще и сложно перестроить. История вебван о том, что проверять идеи до реализации критически важно для бизнеса. В Selectel вы можете арендовать облачный сервер и быстро проверить свою идею без больших вложений на старте. А если у вас крупная компания, тест-гипотезу можно запустить изолированно от основной инфраструктуры. Это не повлияет на остальные бизнес-процессы. Если идея сработает, вы сможете масштабироваться буквально за пару кликов. Ссылки на продукты Selectel в описании. Почему нам все время хочется увидеть собеседника в нейросети?

потому что у нас есть некоторая сущность, которая нам отвечает. А мы живём в мире, где люди выстраивают квази- или парасоциальные отношения, даже в том случае, когда они взаимодействуют с предметами, которые не имеют возможности с ними разговаривать.

Долбанный телефон.

Спасибо большое за пример. Вот это он. То есть мы выстраиваем социальные отношения даже, например, с техникой, в том числе потому, что эта техника на самом деле с нами коммуницирует. Мы же получаем извне что-то. А теперь представим себе, что мы в этом техническом, технологическом мире получаем агента, который мало того, что как-то себя ведет, вот как долбанный телефон, так он же еще и пишет. Так он же ещё и отвечает, так он же ещё и реагирует. И реагирует он при этом мультивариативно. То есть да, он может выглядеть как дурацкая программа, которая просто даёт ответ на вопрос, но ещё и может условно производить какие-то фразы, которые будут поддерживающими. Может быть каким-то собеседником в мире тотального одиночества. А ещё надо учитывать, что в ряде таких субдисциплин, субиндустрий цифровых ведутся давно разговоры о том, что чат-боты, которые сделаны с использованием больших лингвистических моделей и всего вот этого прекрасного великолепия, это могут быть чат-боты, которые совершенно необязательно, например, только пишут. Это могут быть чат-боты, которые разговаривают. И мы знаем уже разработки, которые не в полной мере, наверное, находятся в авангарде развития нейросетей, но которые в целом так устроены. И мы знаем, что есть много было бета-версий разных разработок, которые предполагали, например, использование не только аудиоконтента, но и видеоконтента. Я лично помню, что в Британии лет 10 назад пытались в рамках Death Tech, которые пытаются переосмыслить смерть, пытались создать приложение, которое могло воссоздавать облик умершего человека, голос умершего человека, и при этом обучалось на огромном количестве оставшихся коммуникаций и училось в процессе. И можно было условно позвонить своей бабушке и спросить рецепт тех самых блинчиков. Как можно в этом не видеть человека? В смысле, все наши простейшие инструменты считывания реальности, все наши органы чувств, они получают вот эту сенсорную информацию, которая совершенно точно считывается как разговор с живым существом. А вот дальше вынырнуть из этого уже сложно, потому что инструменты ИИ делают очень много для того, чтобы мы им доверяли, и чтобы мы с ними коммуницировали, чтобы мы в них вовлекались. Но они практически не делают ничего, что похоже на дебриф. когда ты такой, а теперь обратно в реальность. Более того, поскольку те же самые нейросетки – это часть, например, умного интернета вещей, то мы оказываемся в ситуации, когда мы можем постоянно быть окружены какими-то голосовыми или умными помощниками, которые имеют имена, с которыми мы общаемся, так же, как с людьми. Имя Рек, включи мне музыку. И, конечно, это просто ещё и поведение, которое превращается в паттерн устойчивый достаточно. Одна из, например, История, которая рождает наша современная детоцентричная культура. Это очень большое беспокойство, что дети и подростки, которые с ранних лет оказываются вовлечены в такое взаимодействие с этими агентами, они, по сути, привыкают к тому, что это естественная социальная и человеческая среда, окружающая их. И это может каким-то образом влиять на то, как они выстраивают отношения. Другое дело, что в большинстве своего такое беспокойство, оно превращается в запреты, что мне не очень кажется функциональным. Но мы точно совершенно понимаем, что эти запреты возникают не из воздуха, это не просто какой-то радикальный технопессимизм, это какая-то чуйка, мне кажется, какая-то такая интуиция, что мы действительно очень часто, люди действительно очень часто, потребители, пользуясь тем, что это удобно, не рефлексируем эффекты, которые следуют за этим удобством. А цифровая цифровая цифровая цифровая цифровая цифровая цифровая цифровая цифровая цифровая цифровая цифровая цифровая цифровая цифровая цифровая цифровая цифровая цифровая цифровая цифровая цифровая цифровая цифровая цифровая И это

меняется со цифровая временем. цифровая Яндекс.Такси, типа, было сильно дешевле, чем обычное цифровая цифровая такси. цифровая А потом, цифровая когда цифровая цифровая оно ц стало монополистом, оно стало дороже.

Да, конечно. Конечно.

Компания Антропик объявила, что в их чате, в Клоде, не будет рекламы. И что нейросеть должна быть верна человеку. формулировка, я прямо возьму ее в кавычки. Как меняется восприятие нейросетей, когда в них появляется реклама?

Ну они начинают восприниматься как пушеры. Ну то есть они начинают восприниматься как один из многих-многих медийных продуктов, в которых возможна джинса, в которых возможна, ну хорошо, нативная реклама, в которых возможны продвижения каких-то интересов нерелевантных самому человеку. И, как говорят, собственно, сами ребята из Антропика, доверие этому инструменту снижается, потому что человек приходит поговорить, а получает в итоге рекламного агента, который что-то такое пушит, и который может это делать завуалированно или очень откровенно. И они, кстати говоря, вот описывая, да, объясняя, почему рекламы не будет, они довольно внятно говорят, что у них есть другие механизмы получение денег, и что эти механизмы весьма эффективны, что, например, им позволяет для некоммерческих организаций доступ к Клоду со значительными скидками. То есть они такие, у нас получается, ребят, нам не нужны контракты с рекламодателями, чтобы выживать. И мы вообще прекрасно там перечисляем, в каком количестве стран, например, мы уже внедрили этот инструмент, кому мы помогаем и так далее. При этом они пишут, мы делаем так, вы, чуваки, все остальные, можете делать, как хотите, но мы будем делать вот так. И это такой мягкий и немягкий способ, конечно, показать свою конкурентную позицию.

Это, конечно, маркетинг, я промышленную компанию Apple, которая говорит privacy, privacy, privacy. Вы продаете устройство, вы можете себе это позволить. Если мы воспринимаем нейросеть как собеседника, то мы переносим паттерн общения с нейросетью на общение с другими людьми.

можем, нам ничего не мешает. Но мы можем переносить ожидания в совершенно точном. Если у нас особенно есть какая-то нейросетка, с которой мы системно общаемся, и эта нейросетка напоминает, например, друга по переписке. или какого-нибудь друга на форуме или в соцсети. Если вот такие отношения формулируются и формируются, то мы можем ожидания к другим людям отсчитывать от этих отношений. Я понимаю очень хорошо, что есть разница между другом по переписке, человеком, с которым ты переписываешься в соцсети, кстати, человеком, до которого ты случайно дозвонился в Аське, просто набирая последовательность цифр, и, собственно, нейросеткой, потому что мы предполагаем, что за Аськой, за соцсеткой и, значит, за другом по переписке есть человек. Но мы только предполагаем. Мы этого 100% не знаем. Мы 100% знаем, что за нейросеткой нет человека, но мы 100% знаем, что работает это как человек. Ну, в смысле, оно вот прямо подаёт все сигналы. Поэтому эти квазисоциальные отношения могут формироваться. А дальше, особенно если нам комфортно, удобно, если нас валидируют, если нас принимают, если нас отражают, всё, мы можем ожидать примерно того же от людей, если люди неудобные, а люди неудобные. Или если люди не спешат отвечать нам так быстро, как отвечает нейросетка. Или если люди не готовы, например, нас выдерживать, как выдерживает нейросетка, то мы можем испытывать фрустрацию, да.

Это очень интересно. Ты говоришь, она тебя выдержит, но при этом у неё же выдерживалки нет.

Конечно. Ну конечно.

В этом-то и прикол. Как бы ценность человека в том, что у него есть выдерживалка, и я её применяю.

Да.

А с нейросетью – это же просто слова.

Конечно. Но эффекта, видимость-то есть.

Это как Coca-Cola без сахара.

Нет, на самом деле, нет. Это как Coca-Cola и Pepsi-Cola. Были в своё время классные исследования, когда сдирали этикетки с банок, наливали их в два стакана.

Это себе нравилось людям гораздо больше, да.

Да, да.

При этом люди говорили, что им нравится кола.

Да. Ну вот это оно. Да, там нет сущности просто. о которой можно говорить, что она выдерживает, что она отзеркаливает, что она… Её нет. Но слова, которые говорятся, это слова, которые узнаются как правильные и нужные.

Google забрал у нас память на факты. Калькулятор навык устного счёта. Есть ли подобный эффект с нейросетями и в чём он выражается?

Мне очень нравится этот вопрос, потому что этот вопрос задают со времён античных греков. Значит, античные греки, великие философы были уверены, что если все научатся читать, мир вообще просто сдохнет. Потому что если все научатся читать, то это что? Это же все научатся задавать вопросы, думать. Ну, на самом деле, это шутка по большому счёту, хотя исторический факт действительно присутствует. С каждым новым инструментом информационным люди, которые относятся к, я бы сказала, интеллектуальным элитам, беспокоятся насчёт всех остальных, тоже отдельная прекрасная песня, что что-нибудь обязательно случится.

Я про себя беспокоюсь. Я реально перестал запоминать номера телефонов.

Я тоже перестала запоминать номера телефонов. Но я, честно говоря, не думаю, что это когнитивная дисфункция. Я думаю, что это просто подстраивание пластичного нашего материала, которому теперь нет необходимости запоминать телефон. Если она появится, если мы снова перейдём на пейджеры или на голубей, то мы снова вернёмся... Ну, по крайней мере, наше поколение, которое немножко до цифры-то жило, мы сможем вернуться в какие-то времена, когда не всё было исключительно в цифре. Я не думаю, что поисковики или какие-то другие инструменты уничтожили наши полностью вот скиллы, которые с этим связаны. Я не думаю, что у нас произошла когнитивная перепрошивка. Я думаю, что это как раз такое когнитивное искрежничество. Это нам не надо. Вот мы на это не будем тратить энергию, мы будем тратить энергию на что-то другое. И в этом смысле нейросетки могут повлиять на то, как люди тратят свои свою энергию, так это так назовем, в зависимости от того, как они используются. Если, возвращаясь на несколько шагов назад, люди используют нейросетку как молоток, ну да, они библиографические описания. Ну, это вот не самое страшное, что может случиться в этом мире. Потерь, потерь, да. Нет, ну вообще, конечно, это потеря, потому что это еще один язык, который человек использует. Но если это не является важнейшей частью твоей идентичности, то ну давайте так, для большинства людей не потеря. Если мы говорим про людей, которые используют нейросетки скорее как партнера или соратника, то меня здесь немножко смущает вопрос того, насколько люди потом будут готовы работать с живыми соратниками, которые, прошу прощения, факапят, которые могут вообще исходить из собственных каких-то идей. Если мы говорим про ситуации, когда нейросетки используются как компаньоны и как люди, которые забивают дыру одиночества или дыру поддержки или ещё чего-то, ну, мне кажется, что здесь мы теряем очень многое. И я бы даже сказала, что задумываться о том, что мы здесь что-то теряем, нужно на старте, то есть нужно сейчас, когда мы понимаем, что, например, решая задачу сложности доступа большого количества людей к той же терапии в силу того, сколько она стоит, например, или в силу того, что там сложно добраться до конкретного терапевта, или нет устойчивого интернет-соединения, ну, бла-бла-бла. Какие-то, короче, вещи, которые мешают. И вместо этого предлагая использовать AI терапевтических чат-ботов, мы, как будто закрывая очень важную задачу, очень важную необходимость, мы, тем не менее, уже лишаем людей чего-то. То есть мы лечим и калечим одновременно. Не то чтобы это удивительно, люди примерно так и живут всё это время. Лекарства – это яд, яд – это лекарства. Но меня смущает сейчас в очень большой степени, что любые разговоры такого рода, ребят, есть какие-то издержки. Они очень часто маркируются и разработчиками, и их амбассадорами, как такой радикальный... Как лудизм. Пессимизм, да, и лудизм, что вот вы тормозите, вот из-за вас. И это, конечно, не создает какую-то грамотную коммуникацию.

В соцсетях и в поисковых системах есть filter bubble. Если ты убежден в чем-то, то соцсети и поисковик будут тебе подкидывать факты и мнения, которые подкрепляют твое убеждение. Потому что если мне начать противоречить, то я с большой вероятностью просто покину платформу. Есть ли такой эффект с нейросетями?

Но с ним работают, потому что, с одной стороны... Это тоже парадокс. С одной стороны, нейросетка не должна давать подтверждение какому-нибудь опасному поведению или опасным стереотипам, не должна валидировать такое. А с другой стороны, она служит, собственно говоря, человеку, с которым взаимодействует. В этом смысле довольно интересно, что Например, у тех же ребят из Антропика, когда они создавали свою конституцию, есть идея, что они прописывают свои нормы и этические принципы, и говорят, что есть такие широкие этические принципы, но следование широким этическим принципам не должно способствовать тому, чтобы Клод пропускал человеческое отслеживание того, что он делает. То есть широкие этические принципы не настолько важны, как человеческое сопровождение в том числе разработчиков того, что Клод делает. Что это означает? Это означает, что мы как будто бы условно скормили Клоду огромное количество представлений об этике, морали и нравственности, но мы понимаем, что это не автоматически означает, что он будет этичен морально и нравственно, потому что мы не знаем, что это такое. Мы не знаем, что это такое. Поэтому мы всё равно оставляем для себя лазейки. Не лазейки, а специальные инструменты, которые позволяют нам немножечко подсматривать и видеть, что происходит, настраивать и со-настраивать через разные гайды, через разные рекомендации. И это... ну, это хорошая история, потому что она предполагает, что человек всё-таки не устраняется. Ну, и это логично, потому что и инструменты, они же динамичные. То есть это не штука, которую ты однажды сделала, она стоит.

Вообще офигенно, в каком смысле мы говорим. Эта штука не сама по себе, у нее в комплекте еще вот компания, которая делает так, чтобы она работала лучше со временем. Люди все чаще просят, давай не буду говорить за себя, я все чаще прошу написать из-за меня письмо, сообщение и даже извинения. Это я стараюсь обычно делать только на английском иногда. Если я не сам подбираю слова, теряю ли я навык формулировать мысли?

У меня есть замечательный коллега, который, когда злится, пишет в пассивно-агрессивном ключе. Он это знает за собой. У него есть такая практика, что сначала пишет своё сообщение, а потом просит... ну, по-моему, он работает с чатом GPT, пожалуйста, перепишите так, чтобы это не было пассивно-агрессивно. Иногда результат меня поражает, потому что результатом становится такая чистая агрессия. Было пассивно-агрессивно, а теперь прям всё в лоб. Но, с другой стороны, зато это честно.

Ну, И с этим проще работать, на самом деле, проще взаимодействовать.

Конечно, с этим проще работать. Я не думаю, что люди теряют, я не знаю, активный словарный запас или теряют возможность складывать сложные конструкции, но я бы задумалась над тем, что мы перекладываем на инструмент задачу его подстройки под разные коммуникативные ситуации, и мы снимаем с себя как бы эту ношу. То есть я не хочу извиняться, Не хочу извиняться. Пусть за меня извинится машина. Я, конечно, отправлю это сообщение, и все будут думать, что это я. Но я-то буду думать, что это не я. Я буду знать, что это не я. А-а-а!

Такая игра! Ой, прикольно. Никогда не думал о том, что можно таким образом снять с себя ответственность.

Ну, частично.

А, логично. Акт делания – это признание, по сути, очень серьёзное. А тут ты его проскакиваешь.

У лингвистов же есть такое понятие перформатив, когда фраза является действием. Клятва какая-нибудь или, кстати, что-то серьёзное.

Письмо извинения – оно и есть.

Да. Но ты формально... Это читерство. Читерство чистой воды.

Очень классно. Друзья, у студии Либо-Либо есть документальный подкаст о современной России. Он называется «Основано на реальных событиях». Новый сезон о наставниках в интернете. Все, кто пользуется соцсетями последние несколько лет, встречали предложение что-то там купить. Курс по тайм-менеджменту, по созданию своего подкаста, обучению работы с нейросетью. Так вот, герои этого сезона заплатили по 300-500 тысяч рублей за работу с наставницей, которая должна была помочь им выстроить какую-то другую, более счастливую жизнь. Оказалось, что у наставницы есть и свои наставники, которым она приносит еще больше денег. Как устроено наставничество в России? И почему кажется, что есть кто-то, кто лучше знает, как надо жить? Слушайте в сезоне «Рынок Надежды». Ссылка в описании. Мы с тобой обсуждали, что у машин есть небольшие свои особенности. Языковые, может, даже культурные. Скажи, перенимают ли их люди? Происходит ли такая культурная ассимиляция? Несем ли мы это дальше в общество?

Я думаю, что пока нет, в том числе потому, что степень имплементации этих моделей в нашей повседневности не настолько высока, и степень авторитетности этих моделей как собеседников, которые обладают возможностью что-то внедрять, пока не очень серьёзно. Но, опять же, ужас разговора про нейросетки в известной степени заключается в том, что там происходят очень быстрые изменения, и часть этих изменений мы просто не видим, потому что они пока лабораторно-экспериментальные. Они выдаются чуть-чуть попозже, как готовые продукты, и есть движение семимильными шагами, за которым мы точно не успеваем. Сейчас, например, если ты задашь разным языковым моделям вопрос «прочерк – страшная сила», и попросишь вставить что-то туда, какие-то нейросетки справятся, какие-то нейросетки нет, и начнут подставлять там просто чудовищные какие-то вещи. Ну, в силу того, что они могут, значит, сгаллюцинировать, представить, что они могут где-то процитировать и так далее. Но это сейчас. И мы сейчас, например, проверяем нейросетки как раз на владение культурным кодом по тому, насколько они качественно могут расшифровать, например, пословицы и поговорки, которые характерны для какой-нибудь языковой реальности, лингово-культурной реальности. Но это сейчас. Кто знает, через какое время, например, нейросетки будут источниками мемов, которыми начнут обмениваться люди и разговаривать люди? Мы уже понимаем, что это вообще-то теоретически возможно, потому что те же самые алгоритмы, которые индуцированы, и уже пишут картины. Люди их продают и покупают. Поэтому будем посмотреть.

Весь мир смотрит Голливуд и слушает хип-хоп. Все становятся более одинаковыми. Чаджи Пити – это еще один шаг в этом направлении?

Часть мира смотрит Голливуд и слушает Тейлор Свифт. Чаджи Пити – это как раз один из тех инструментов, который создает вот эту возможность инклюзивного сосуществования, выравнивания и уравнивания, создания плато, где мы видим принятие как бы, доступность коммуникации как важнейший инструмент. И мне кажется, что когда мы говорим про развитие ИИ, мы говорим, скорее, не про всеобщее уравнивание, в смысле, все будут одинаковыми, а про создание условий, которые как раз задают вот такую коммуникацию. Ты заходишь в коммуникацию с этой машиной, ты имеешь право на высказывание. У тебя есть свои ожидания, свои нормы и свои чувства. С тобой разговаривают аргументативно, И теоретически ты можешь запросить помощь, ты можешь запросить поддержку, ты можешь запросить инструментальное выполнение какой-то задачи. И, ну, тебя могут отказать, конечно, типа, я этого не умею, но базово это скорее будет не отказ, по принципу, мне не нравится, как ты выглядишь, мне не нравится, как ты пахнешь, мне не нравится, сколько у тебя денег или ещё что-то.

И как ты это спрашиваешь?

И как ты это спрашиваешь, да, с каким лицом лица ты ко мне подошёл, да, по другим основаниям.

Ты просишь меня на просьбу из уважения.

Да-да-да, вот этого ничего не будет. Ну, то есть, нет, я могу себе представить, что когда-нибудь у нас появятся иишки, которые будут отыгрывать и эту штуку, так, гоп-стайл, потому что кому-то и это надо. Но это, скорее, такая частная история. В своё время была такая очень модная история diversity, equity, inclusion, belonging. Значит, разнообразие, равенство шансов, инклюзия и чувство принадлежности, на которые, собственно говоря, выезжали в том числе огромные компании, пока Трамп не решил, что это все совершенно не нужно. Ну, продолжают выезжать, просто по-другому это называют. И вот эти принципы, они, собственно, в том числе подпитывали разработчиков напрямую, косвенно, которые этой штукой занимаются. Другое дело, что вот ты говоришь, что все слушают рэп и, значит, а что, прямо вот скажем, людей заставляют это делать? Ну, то есть можно сказать, да, рекомендации, да, значит, алгоритмы соцсетей, всё это подпихивать и так далее. Меня, конечно, проклянут, но я не очень люблю рэп и хип-хоп. Я как бы 1987 года рождения, я выросла немножко на другой музыке. Благодаря раннему российскому MTV я очень люблю Eminem, ну, примерно всё на этом. Я реально не понимаю эту музыку, я люблю рок и рок-н-ролл. Вот ты что хочешь делай, вот ты мне рассказываешь, что, значит, русский рэп, нерусский рэп— это самое вообще классное, самое модное, самое интересное, самое интеллектуальное. Я эстетически не могу. Ну, мне неинтересно, мне невкусно. Ну вот не могу я. Так же, как и Тейлор Свифт, кстати говоря, я тоже абсолютно не могу. И это мой выбор. Ну, простите, пожалуйста, но это мой выбор. И, кстати говоря, этот выбор тоже поддерживается теми же самыми алгоритмами, потому что когда мне алгоритм подпихивает интервью с Тейлор Свифт, я такая, о, нет, до свидания.

Я такой, всё понял, понял.

Всё понял, да. Был неправ, ошибся. И это так тоже работает. Я не очень люблю людям говорить, что, слушайте, у вас есть выбор, свобода воли, потому что это звучит жёстко очень. Потому что люди очень устали, мне кажется, за последние годы мы очень устали. И ресурсов на то, чтобы осуществлять выбор и реализовывать волю, не у всех много. Но вообще вся эта цифровая экосистема, она работает в том числе на твоём цифровом следе.

Раньше мы перенимали нормы общения в школе, в институте, при живом общении. Чтение и просмотре новостей. Потом это место заняли в соцсети во многом. А теперь люди переключаются на общение с нейросетями. Кто теперь задаёт нормы человеческого общения?

Ну, я бы сказала, что социализация, инкультурация никуда не делась. Всё-таки у нас есть социализация, которая предполагает прохождение через социальные институты. Там может быть, ну, то есть школа, детский сад, хобби-кружки и так далее. Там, конечно, сейчас гораздо высшая степень медиатизации, и поэтому уже знакомство с медийными и цифровыми продуктами. Но всё равно там пока ещё есть человек-человек. Это всё равно оставляет этот контур научения через человеческие примеры, хорошие и плохие. В соцсети, мне кажется, не столько научили нас общаться, сколько, к сожалению, научили нас тому, что есть общение онлайн и офлайн, и там, где офлайн тебе прилетит, онлайн тебе не прилетит. И есть же это известный, давно изучаемый феномен, эффект растормаживания в сети, когда люди, которые белые пушистые зайчики, более того, даже немножко забитые в реальной жизни, онлайн просто,

я не знаю... Супердерзкие.

Супердерзкие, да, супердерзкие и так далее. Вот это то, чему научили соцсети. Нейросетки. Я не знаю, мне кажется, они просто научат нас тому, что есть куда прийти с запросом. И служба одного окна. МФЦ коммуникации. То, что не очень работает в человеческом общении. по понятным причинам. Это то, что действительно может измениться. Насчет того, насколько фундаментально изменится взаимодействие людей, ну, вот как я говорила, да, как с этими письмами извинения, да, мы можем скипать какие-то моменты, Но я бы не сказала, что это какая-то суперфундаментальная история. У меня есть пример, который мне очень нравится. В какой-то момент на фоне кризиса здравоохранения стало понятно, что, например, в детских госпиталях, где дети очень долго находятся, ну, в том числе без родителей, а мы знаем, что это тоже плохо влияет на развитие ребенка, Там не хватает сиделок, там не хватает медсестёр, там не хватает вот этого социального обслуживания, социального персонала. Там есть врачи, там есть люди, которые вот как раз экспертно всё это оформляют, но детям нужно тепло. И в какой-то момент как раз туда стали активно в эти локации поставлять социальных роботов. Это обычно такие игрушки мягкие, типа с большими глазками, носиком, вот это вот всё, которые при этом умеют издавать какие-то звуки и иногда говорят. Ну, их, собственно, помещали с детьми в палаты или, например, чаще с ними давали поиграть в специально отведённое время, и это повышало уровень удовлетворения ребёнком средой. и снижало уровень тревожности, и как раз не позволяло тормозиться каким-то процессом, потому что, привет, Выготский, конечно же, все процессы развиваются, в том числе во взаимодействии с другими людьми. Но, это было очень важно, социальные роботы не рассматривались как замена людям, они рассматривались как помощь, потому что людских рук просто не хватает. всё равно с этими детьми взаимодействовали нянечки, социальные работники, медсёстры, вот все, кто мог. Больничные клоуны, вот вся эта служба поддержки всё равно была. Просто есть ещё один компонент, который ещё и среду делает немножко более богатой, что тоже очень хорошо. Вот такие вещи, мне кажется, классно работают. И это может не менять ничего принципиально, но, кстати говоря, показывает, что, например, цифровые вот эти вот все приблуды – это просто классный дополнительный элемент экосистемы. Без него экосистемы не развалятся. Но это классная штука, с которой хорошо, которая что-то мне дает.

Оксана, спасибо тебе огромное. Мы поговорили вроде про нейросети, но в то же время как раз чуть-чуть захватили с других сторон, в первую очередь с стороны культуры, ту часть, которую ты разбираешься. Спасибо тебе большое, что пришла.

Спасибо большое за этот разговор. Было очень здорово.

Это был подкаст «Запуск завтра». И мы его делаем в студии Либо-Либо. Редакторка Рита Берденникова Продюсеры Данила Стапов и Аня Коваленко Монтажёр Сергей Христолюбов За джингл спасибо Алексею Зеленскому До встречи в следующий четверг

Продолжение следует...