Суперфоркастинг. Как делать точные прогнозы на будущее

либо-либо. Привет, меня зовут Самат Галимов, и это подкаст «Запуск завтра». Здесь я пытаюсь разобраться, как устроены технологии, которые меняют нашу жизнь. А помогают мне в этом профессионалы, с которыми можно поговорить простым человеческим языком. Сегодняшний эпизод о предсказаниях и предсказателях. Это звучит немного магически, но говорить мы будем не о картах Таро, а о большом рынке прогнозов на события из реального мира. Один из людей, кто предсказывает лучше всех на свете, сегодня у нас в гостях. Это математик Михаил Ягудин, сооснователь самой точной группы прогнозистов Самоцвета. Миша, например, один из немногих, кто предсказал победу Дональда Трампа. Мы обсудим, как раз за разом успешно предсказывать исходы главных политических и экономических событий. Партнер этого сезона— Яндекс.360. С Яндекс.360 вы получаете виртуальный офис, оснащенный искусственным интеллектом и всеми необходимыми рабочими инструментами— почтой, календарем, телемостом, трекером, мессенджером и диском. С общим рабочим пространством команды могут согласованно работать онлайн, не тратя время на синхронизацию разных сервисов между собой и быстро решая организационные задачи. Например, запустить видеовстречу в телемосте можно в один клик прямо из календаря. Если вы хотите попробовать Яндекс.360 для совместной работы вашей команды, переходите по ссылке в описании эпизода и выбирайте удобный тариф. А чтобы переход в новый онлайн-офис прошел быстро и комфортно, поддержка будет всегда на связи и оперативно ответить на все вопросы.

Привет, меня зовут Миша. Я занимаюсь разными исследованиями в своем консультическом бюро ARP. Сейчас в последнее время у нас, конечно, больше таблицки связаны с искусственным интеллектом, поэтому у нас довольно много фокуса на машинном обучении и AI policy и других штуках. Но иногда мы думаем про случайные вещи. И до этого, и сейчас я иногда занимаюсь разными предсказаниями геополитических событий или технологий. Это называется самоцвета. Как вы начали заниматься предсказаниями? Наверное, это возможность сказать небольшую историю. Я занимался математикой, мне очень нравилось. В какой-то момент я узнал, что, оказывается, есть проблемы другие, кроме математических. Есть разные потенциально большие риски, которые, не знаю, нам могут как-то угрожать. От менее вероятных в качестве астероидов, которые могут упасть и будет, не знаю, плохо, динозаврам, к более вероятным могут быть пандемии. Мы с одной недавно встретились. Они могут быть намного хуже, бывают другие похожие проблемки. И в какой-то момент я стал думать про такие риски. Когда-то давно я прочитал Филипа Тетлока, которая называлась «Суперфоркастеры». Это казалось таким легким рецептом, как можно про такие менее формальные, где у тебя нет такой понятной логической системы, где ты не можешь всю модель в свою голову вложить, как ты не можешь вложить, не знаю, как сто миллионов людей проголосуют на выборах. Как-то более аккуратно и стройно думать. И, конечно, там разные, не знаю, математические штучки типа байесовское мышление с такой статистики могут помочь, поэтому казалось интересным фронтом. Я её прочитал и ничего не сделал. А потом, через полтора года, мы Нуньо (Nuño Sempere) вместе стажировались в Future of Humanity Institute. Это был центр в Оксфорде, в котором думали про такие большие риски. И начался COVID как раз. И было немножко скучно, и мы надеялись, что мы будем с людьми общаться на кофе-поинте, рассказать интересные вещи, а этого не было. И мы решили начать делать предсказания на разных открытых платформах, как такой способ потренировать свой навык. Когда ты учишься математике или вообще чему-то, ты делаешь разные упражнения. Обычно упражнение это очень полезно. Также здесь, если ты хочешь лучше думать структурно и иметь какие-то модели мира, то, наверное, лучше поделать какие-то упражнения. Можно решать задачки по физике, потому что оказывается, что если ты благополучно забыл большую часть физики, то думать, так сказать, из первых принципов доставляет тебе некоторые сюрпризы и удовольствия. А также можно думать про геополитические события. И вот мы начали собираться раз в неделю давным-давно, и до сих пор, сейчас чуть реже, но собираемся и регулярно обсуждаем вещи.

Ты сказал, что у тебя есть опыт предсказания политических событий на открытых площадках. Чем это отличается, например, от ставок на футбол? Вообще есть ли там отличия?

В каком-то смысле ты можешь предсказывать всё, что угодно. Не все предсказания имеют одинаковую социальную ценность. Наверное, знать, сколько голов забьёт Месси, раз уж я в Аргентине, и будет ли ничья и что-нибудь ещё, наверное, менее социально полезно. Здесь есть небольшая разница в механике этих площадок. К сожалению, в каком-то смысле много площадок с геополитическими предсказаниями притянули к себе много спортивных предсказаний, потому что это прибыльный бизнес, который можно немножко осудить. Плохо для общества, и вообще казино— это не самое хорошее место. Но да, обычно механистически в ставках на спорт у тебя есть букмекер, у которого есть линия, и ты можешь купить с одной стороны или с другой стороны. А рынки предсказания больше похожи на финансовые рынки, где у тебя есть стакан, в котором есть люди, которые хотят снизу купить, сверху купить, ну и дальше программа рынка предсказания выступает как аукционер, заматчить (match) и сделать трейд.

То есть цена определяется не букмекером, а рынком, тем, что другие люди считают.

В каком-то смысле, часть открытых платформ, на которых мы участвовали, она вначале не... ну, она не... не подробизовывала никакие денежные ставки, и там ты просто мог сказать, я думаю, что такое-то событие придется такой-то вероятностью. И дальше, ну, мы знаем, что толпа в среднем думала в какой-то момент. Это может означать, что ты точнее или менее точен, чем толпа.

Где можно делать такие ставки? Можешь назвать какие-то самые известные места?

Давай мы начнём в таком слегка историческом порядке. Давным-давно были, по-моему, называлась Ayova Presidential Action Markets, и это был исследовательский проект, где люди просто смотрели на то, вообще-то работает или нет. А в недавнем прошлом DARPA когда-то исследовала то, как хороши их аналитики в делании предсказаний, что вообще может помочь делать такого рода предсказания, и это привело к работе Филиппа Тетлока, чью книжку я вначале прочитал, порекомендовал. И из этого выросла Good Judgment Open. Дальше другая большая платформа с большим-большим количеством вопросов на разные-разные темы. Metaculus. Но это все предсказательные платформы, где нет никаких ставок, это просто все происходит на интернет-коины, так сказать, на интернет-репутацию. Другая платформа, которая такая хорошая и веселая, которую делают мои друзья, называется MoneyFold. И там уже рынки предсказаний, то есть ты можешь соревноваться с другими людьми в формате трейдинга. И там тоже можно легко залогинить свой вопрос. И если ты хочешь что-то с друзьями понять, то это может быть интересно.

В формате трейдинга это значит делать ставки уже на это.

Да-да-да, у тебя есть, ну, рыночная цена, и твои покупки как-то на нее влияют в зависимости от того, как много ликвидности на рынке. Дальше есть две крупные платформы сейчас. Одна регулируемая в Америке, Kalshi, а другая в интернете через криптовалюту, называется Полимаркет. Это уже, ну, платформы, где можно делать ставки на настоящие деньги и, ну вот, со всем вытекающим.

Я когда готовился к этому эпизоду, зашел на крупную площадку, Polymarket, и давай прямо в настоящем времени я типа вижу плиточки возможных событий, их вероятности, типа случится-не случится или когда случится, и объем торгов. Например, кто станет следующим мэром Нью-Йорка. Это уже, к сожалению, прошло, но вот когда я готовил эпизод, еще было непонятно. Потом там есть, например, такая карточка, когда Америка нападет на Венесуэлу. 7 ноября 19 процентов. Или там человек номер один по поискам в гугле за год, пока лидирует Папа Римский. Или когда продадут TikTok, ну и так далее. Как ты выбираешь, на что из этого стоит делать предсказание?

Да, я буду таким ответственным взрослым человеком, и я скажу, что я делал предсказания на рынках с деньгами очень редко, когда мне казалось, что у нас очень большой эдж, и события были аккуратные. К сожалению, в моей практике, если ты этим занимаешься, это начинает вызывать много нервозности, связанных с изменениями чего-то, и в целом съедает много внимания.

Ого! То есть ты, как человек, который профессионально это делает, говоришь, что лучше на деньги там не играть.

Ну, мне кажется, что в целом нужно быть очень аккуратным с тем, что adjacent (близко) к гемблингу, к азартным играм. Когда мы делали ставки на разных платформах, мы обычно выбирали вопросы, где нам казалось, что толпа неправа, где у нас была какая-то возможная дополнительная экспертиза или свой интерес, просто лучше понять какой-то фрагмент мира.

То есть для тебя это не про деньги.

Да, для меня это никак не связано с моим источником дохода. Частично потому, что такие рынки часто недостаточно ликвидны, чтобы с них могло, не знаю, жить какое-то большое число людей. Хотя это потихоньку меняется. Ну да, для меня в первую очередь, когда я про всё это узнал и что меня в этом, может быть, в какие-то моменты вдохновляло, это создание новых институций для собирания, анализирования информации. которые могут нам, не знаю, помочь жить, не знаю, более хорошей жизнью, как цивилизация. Сейчас, увы, рынки предсказаний скорее в текущий момент своего развития не оправдывают этот идеал. Не знаю, забьёт ли Месси три гола, как мы выяснили. Не очень много социальной полезности, но, к сожалению, объёмы рынка очень большой.

Но всё-таки как выбрать то, на что можно делать ставки? Типа можно ли как-то рационально здесь себя повести вообще? Или это казино, и надо просто забыть и получать удовольствие?

Я думаю, что для большинства людей это, скорее, второе, и я буду, опять, очень аккуратно не рекомендовать людям заниматься азартными играми в любой форме. С другой стороны, если вы хотите, возможно, развить свои предсказательные способности и думать о такого рода моделях более аккуратно, то да, можно зайти на одну из платформ, и, наверное, тогда выбор вопроса, скорее, нужен так, чтобы он был вам интересен и релевантен, чтобы вам захотелось про него подумать. разобраться в какая там механика и что-то может произойти, какие есть, не знаю, альтернативы за и против. И да, тогда у вас может быть какой-то внутриголовый анализ того, что произошло. Наверное, до этого хорошо было бы потренироваться и, ну как сказать, натренировать свой нюх в вероятностях, так что ваше субъективное ощущение 20% действительно было близко и 20%, а не было 80%. Для этого есть разные инструменты. Я еще соосновал нон-профит, который называется Sage Futures, и один из подпроектов Sage Futures был в том, чтобы сделать разные инструменты для того, чтобы помочь людям иметь более хорошую эпистемику, в том числе калибрационные задачки. У нас там есть раз в месяц 10 разных упражнений, которые мы отправляем, и у нас есть платформа, где можно в формате квиза потренироваться, отвечать вероятностно и, возможно, узнать, что, о, может быть, я очень overconfident, а может быть, нет. И мне кажется, это такой первый шаг, который может тогда стеречь, ну или да.

Офигеть! А там в этом тесте будущие события реальные?

Нет, там у нас есть бэк-тест на просто предыдущих событиях, которые, возможно, ты знаешь или не знаешь. У нас есть несколько просто факторов о мире. Например, если я спрошу, не знаю, какой ВВП Америки ты можешь сказать мне в этом году или в прошлом году. Ты можешь дать мне число, но ты в нём не уверен. И ты можешь быть в нём больше или меньше не уверен. Или ты можешь быть очень неправ.

Но сильно уверен.

Да. Да-да-да. Это то, где можно немножко чему-то такому научиться. А для ежемесячных штук, да, мы, кажется, просто выбираем разные задачи Ферми, которые можно порешать. Кажется, так должно быть.

ты сказал, что выбираешь задачу, про которую ты можешь подумать. Я подозреваю, что есть некий фреймворк того, как ты об этом думаешь. Можешь немножко про это рассказать?

Да, я думаю, что этот фреймворк разнится от человека к человеку. Я думаю, что базовый шаг— это понять, в чем вопрос, и понять, когда он резолвится (resolve) в одну сторону или в другую сторону, а какие критерии для «да» и какие критерии для «нет». Можно перепутать и ошибиться, это тоже такое бывает. После этого, возможно, можно себя спросить, хорошо, как я чувствую вероятность сейчас? И она может быть типа, я ничего не знаю о выборах в Нью-Йорке, я не знаю, какая она. И это очень валидный ответ. После этого, если тебе интересно разобраться в выборах в Нью-Йорке, можно понять, поллинги (опросы, polling), какие были другие источники и так далее. Собрать информацию, которая тебе кажется полезной. Мой способ объяснять, что я в этот момент делаю, примерно следующий. Я могу сказать себе, я очень сильно уверен в том, что произойдет, и знаю, что вероятность будет, не знаю, 30%, и потом я чувствую себя не очень хорошо. потому что, возможно, я не очень о них очень хорошо знаю, или не уверен в этой вероятности. И из этого чувства «нехорошо» я могу вычленить, что я не знаю. И обычно она мне подсказывает. А в каком-то смысле, если я долго-долго посидел, подумал, и я такой «ну да, вероятность, не знаю, от такой-то до такой-то», я в целом не суперуверен в некоторых местах, но она достаточно окей, у меня нет каких-то очевидных огрехов. Или у меня есть просто ограничение по времени для… ну, просто потому что у нас везде мы можем думать бесконечно долго, но в какой-то момент нужно заканчивать. То это может суть таким, с точкой для паузы.

То есть ты, по сути, пользуешься своими чувствами, своими эмоциями. Они тебе подсказывают, типа, где ещё может быть потребность в рациональном мышлении дополнительном.

Ну да. В целом, эмоции часто бывают для этого и нужны иногда. Например, если нам почему-то страшно, что что-то плохое может произойти, это нам подсказывает, что что-то плохое может произойти. А достаточно естественно использовать это чувство, не знаю, около тревожности. Я их называю эпистемические эмоции. И это может быть, я не знаю, если мне мой коллега, ну, не говорит какую-нибудь глупость, я могу сказать, Я не понимаю, почему ты так думаешь. Это тоже в этом есть какой-то мыслительный процесс, который что-то извлекает из моей интуиции или так далее. Я сказал много про эмоции, но все-таки у нас есть какие-то разные механические шаги, которые можно делать. В каком-то смысле можно просто посчитать, сколько раз похожие события происходили и сколько раз они не происходили, и это будет твоим бейсрейтом, так сказать. Если это событие на них очень похоже, значит, примерно так оно должно происходить. Если монетка, мы кидали монетку, и она два раза падала орлом, 5 раз решка, наверное, она продолжит в среднем падать 2 раза орлом, 5 раз решка, потому что она какая-то неправильная монетка.

То, что называется nothing happens, типа все, что было раньше, будет продолжаться в будущем.

Иногда да, иногда да. К сожалению, продлевать прямые линии на графиках бывает полезным упражнением. Опять же, нужно знать, что эта прямая линия на графике, она длилась 30 лет, а значит, в следующем году можно подумать, что с вероятностью 1,3 она уже не продлится, потому что у нее такая дюрация. Ну да, это такой способ про это думать. И опять же, в случае с монеткой, если мы кинем монетку, она выпадет два раза орлом, пять раз решкой, и это обычный, не знаю, рубль, то ты не будешь мне верить, что она выпадает с вероятностью типа 30% орлом, да? Это недостаточно много, 28%. Просто потому что у нас есть какие-то другие убеждения о мире, которые, ну, мы знаем, что обычно монетки достаточно честные, а мы их кидали в прошлом. Также в случае с разными другими такого рода событиями у нас может быть какая-то интуиция, у нас может быть какая-то история про них. Иногда бывает опрометчиво слишком сильно верить в свою историю и знать, что, не знаю, там где-то сидят какие-то плохие, нехорошие люди, они всё делают так, чтобы нам было хуже. Это иногда валидная интуиция. Мы знаем, что есть разные случайные конфликты. У меня есть некомфортный анекдот. Я помню, я сидел в 10 или в 11 классе на уроке ОБЖ, и мне рассказывали, что есть боевые дельфины. И мне было очень смешно, потому что, ну, боевые дельфины звучит как такая conspiracy theory. Но несколько лет назад я читал, по-моему, War on the Rocks, журнал такой, американский, с разными штуками. И да, у них есть программа по военизации дельфинов, которая там обсуждалась с фотографиями и прочим. Так что некоторые вещи, которые нам кажутся странными, иногда реалити бывает еще более странной.

Отслеживаешь ли ты свои личные предпочтения и предубеждения в этой работе? Вообще имеют ли они значение? Бывает ли вообще такое, что тебе задают вопрос, и ты понимаешь, что это типа too close to home?

Наверное, раньше такого было меньше, сейчас, может быть, такого стало больше, я просто стал меньше заниматься непосредственно предсказаниями. Но обычно они too close to home. Я точно отслеживаю свои убеждения, откуда они могут идти. У нас у всех есть какой-то такой историцизм, мир, в котором мы выросли, вещи, на которые мы реагируем, и которые нас в той или иной форме сформировали. Одно из полезных упражнений— можно просто взять какое-то своё убеждение и понять, откуда оно у тебя пришло. Может быть, ты прочитал его в книжке, и в книжке оно, возможно, пришло из какой-то научной статьи, или, может быть, оно пришло потому, что автор был очень обижен на кого-то и что-то другое. И это тоже такое интересное упражнение для мышления. Некоторые вещи, ну, опять же, тут, наверное, очень ясно, какие. Про них просто, не знаю, как иногда бывает, что советские газеты до завтрака, так и про них тоже не хочется думать просто потому, что у тебя есть костыни только во времени, когда ты про это думаешь. Ну и, не знаю, пассивные.

Как ты выносишь за скобки вот эти свои эмоциональные штуки, чтобы они не мешали тебе работать? Есть ли какой-то прием до этого?

Слушай, мне просто интересно, какие они. Обычно, не знаю, если за тобой бежит лев, то тебе может быть достаточно сложно интересоваться, быть curious про этого льва. Поэтому если за тобой бежит какой-то метафизический эмоциональный лев, то если ты тоже про него заинтересуешься, наверное, тебе будет чуть менее страшно про него думать. Вот, это, наверное, может быть таким советом. Я не могу сказать, что я суперчасто им эксплицитно пользуюсь, но в целом просто общий интерес к своему сознанию, мышлению. Это какая-то заметный компонент того, что разделяет людей, которые более хороши в форкастинге. и тех, кто пока в форкастинге или в форкастинге.

Блин, так интересно. Это очень похоже на работу психотерапевта. Я просто учусь на психотерапевта, и это прямо один в один, типа, если что-то такое происходит, то ты типа, если внимание туда направляешь, то оно обычно уходит, растворяется по лучам взгляда. Друзья, я хочу порекомендовать вам другой подкаст студии Либо-Либо. Он называется «Конкуренты». В каждом выпуске— реальные истории бизнес-соперничества. Например, в новом эпизоде ведущие расскажут о противостоянии двух главных компаний в области нейросетей— Anthropic. Это борьба не только за деньги и пользователей, но и столкновение двух разных философий. Если вам интересно, кем и как сегодня решается судьба искусственного интеллекта, переходите послушайте эпизод по ссылке в описании. ты работаешь не один, а в команде самоцветы. Во-первых, респект за название. the best. Можешь немножко описать, как устроена работа суперфаркастера в команде? Каждый работает самостоятельно, и вы просто усредняете ваши предсказания или как-то вы делите работу. Как это устроено?

Взять предсказания от пяти людей и их усреднить— это хороший способ улучшить точность, если иллюзии сами по себе хорошие. Он используется в машинном обучении, по-моему, bagging (бэггинг), если я правильно помню терминологию. В целом, да, когда ты работаешь в команде, у тебя есть возможность понять, как другие люди думают о чём-то, и они могут тебе возразить или рассказать твою интуицию, возможно, кажущимися странными или идут из какого-то преубеждения, которое у тебя может быть. Поэтому просто такой открытый процесс дискуссии в целом является очень полезным. Для более сложных форкастинговых проектов, возможно, нужно просто написать большой 10-страничный Google-документ, и дальше люди комментируют, что им кажется не тем и так далее. И потом вы опять можете сравнить вероятность. Это такой способ чуть-чуть изменить глубину работы, где один человек делает много аналитической работы, потому что она такая повторяющаяся. Но при этом другие люди могут подсказать свои интуиции или сказать, что они где-то более uncertain, или наоборот, им кажется, что что-то неверно или так далее.

А если говорить о вещах, которые ты делаешь исследования, как ты выбираешь, что исследовать?

Да, это часто... Ты вроде тоже работаешь в таком консалтинговом бизнесе, ты знаешь, что это немножко диктуется еще твоими клиентами тем, что они могут захотеть. Но в целом наши клиенты очень хорошие, и у них часто есть такие социально-майндед вопросы. Несколько лет назад, когда мы только начинали, у нас был забавный проект, где мы смотрели на то, насколько хороши разные научные фантасты в своей публицистике, а не в своем фикшене, с точки зрения предсказаний, которые они сделали на далекий горизонт. Мысль под этим проектом была следующая. Разные люди волнуются про то, как искусственный интеллект пойдет. Вот, видишь, мои коллеги пишут репорт о том, как все может случиться драматично быстро. Мы не очень знаем, как проверять такие утверждения, кому верить. У нас есть люди, у которых есть, не знаю, краткосрочный трек-рекорд в форкастинге. У нас есть просто люди, которые, кажется, аккуратно и хорошо думают о сложных вопросах. Получалось ли предсказать недалекое, но на большие горизонты событий. И здесь проект был с такой мотивацией. И оказалось, что да, Айзек Азимов был довольно хорош, Кларк и Хайнлайн были, ну, заметно похуже. Какие-то проекты могут быть просто мотивированы тем, что доступ к каким-то рискам может стать более легким. Например, иногда понятно, как у нас изменится доступ к созданию новых молекул, насколько проще это будет делать. У нас есть возможность делать новые молекулы, эти молекулы будут очень хорошими, а некоторые молекулы могут быть плохими. Там, возможно, нужно что-то делать так, чтобы плохих молекул не оказалось близко к нам или недалеко от нас. Это пример другого проекта, который был связан с генеративной биологией. С точки зрения других биопроектов, мы как человечество выучили некоторые уроки из прошедшей пандемии, но, возможно, не все. И, возможно, если бы на рынках предсказаний вероятность пандемии и её материальный ущерб, будучи большим, как-то менялся от тех полисей, которые принимаются правительствами, и обсуждался на ТВ, как люди обсуждают после какого-то президентского указа пошел ли рынок вверх или вниз, то, возможно, мы жили бы в мире, где у нас были бы запасы масок так, чтобы они могли быть доставлены до критических работников достаточно быстро. У нас есть такого рода проекты, которые смотрят на do-it-yourself-security с точки зрения каких-то биологических проблем и на дистрибьюцию тоже. Мы делаем иногда policy research или такой странный research, чтобы понять, что происходит с биоштуками, с policy про искусственный интеллект. У нас довольно много проектов по машинному обучению. Но в целом у нас есть очень умные ребята, которые либо философы, которые стали машинлернерами, или машинлернеры математики, которые стали более философами или экономистами. И мы можем просто отвечать на очень странные, сложные вопросы, на которые сложно по-другому ответить.

Ты сказал, что обычно вам делают заказ. Можешь рассказать немножко, что это за клиенты обычно, откуда они берутся?

У клиентов могут быть какие-то свои цели. Например, они могут быть, не знаю, и лабораторией, и может быть интересно понять что-то про landscape разработки искусственного интеллекта в будущем. Это может быть один проект. Это может быть, не знаю, какой-нибудь технологический ambitious стартап, которого можно понять, где у них в технической roadmap-е большие зазоры. Это тоже где-то, где мы можем помочь. Это не всегда форкастинговые навыки, но они могут быть тоже полезны. Во время ковида мы помогали друзьям, которые делали вакцину, им нужно было протестировать свою вакцину как можно скорее, потому что, понятно, чем раньше вакцина выйдет на рынок, тем, во-первых, больше денег, во-вторых, ты большему числу людей поможешь или раньше поможешь. Им нужно было знать, где будет следующая волна коронавируса, потому что там будет проще набрать статистику. И такого рода может быть что-то. Это может быть скорее такие обычно mission-driven некоммерческие организации или коммерческие организации, которым что-то важно понять. Я знаю, что ребята работали с хедж-фондами, потому что им тоже бывает интересно что-то такое. Тут немножко разные навыки, но в той мере, в которой более хорошие вероятности разных геополитических штук могут быть интересны, это может быть полезно.

Ты рассказал примеры задач, которые вам ставят. А как выглядят обычно ответы?

Это легко посмотреть. Мой друг Нунни, с которым мы начали самоцветы, последние пару лет делает Sentinel. Один из их продуктов— это newsletter (ньюслеттер), где они ставят вероятности на разные геополитические события, риски и прочее. Они хотят быть, так сказать, emergency response командой в случае чего-то плохого, если оно произойдет. Например, ну да, форкастеры узнали про возможность пандемии чуть раньше. Там был интересный пример, когда кто-то такой А, кажется, что-то плохое происходит в Ухане. Вероятность того, что земная популяция будет увеличиваться из года в год в следующие 10 лет, стала чуть поменьше. С 99% максимальной вероятности, которой можно было вести на Телефору, она, типа, уменьшилась до, не знаю, 95 или 7 на какое-то время. Вот. Это такой, типа, early сигнал того, что что-то происходит. Ну, не парься, тут очень много новостей. У него есть, ну, частично наши, еще пара людей не из самоцветов, которые очень хорошо думают в реальных терминах, и в этом всем хорошо. Да, и можно посмотреть на его ньюслоттер недавний.

Супер, ссылка на него будет в описании к этому эпизоду. Он бесплатный, да?

Да, да.

Очень круто. Вот ты рассказал про то, что вам делают заказы, и вы как группа Самоцветы какие-то делаете предсказания для компаний разных. А на публичных площадках ты делаешь предсказания? Вообще вы как группа и ты лично?

Да, наверное, сейчас на публичных площадках стало меньше времени этим всем заниматься. Мы три года подряд активно участвовали на площадке, которая тогда INFER, сейчас RAND Forecasting Initiative, и были там первые с достаточно большим отрывом во все три года. Из последних таких более публичных мест, где нас можно было сравнить с другими людьми, Скотт Александер, который ведет Astral Codex Ten, по-моему, раз в год спрашивает людей с логентик предсказания, И мы, к сожалению, не собрались все вместе это предсказать, но Джонатан сделал предсказания, потом с нами немножко поговорил, их немножко откорректировал и тоже заметил, и оказался достаточно высоко в соло плюс режиме, нежели в командном.

Я сравниваю это с какими-нибудь соревнованиями для программистов, там тоже есть всякие соревнования, и обычно тех, кто высоко в этих соревнованиях рэнкается, их потом на работу берут. А в вашем случае у вас немножко другая модель, вы остаетесь независимыми такими экспертами, которым дают заказы. С чем это связано, и есть ли вообще такая должность внутреннего предсказателя в крупных компаниях, в государствах?

В государствах, конечно, есть. И это, не знаю, люди, которые чем-то связаны с разведкой, наверное. Наверное, иногда нужно знать, что произойдет в каком-то регионе. К сожалению, они все еще не очень хорошо откалиброваны, несмотря на последние 10-15-20 лет исследований. Буквально в этом месяце или в прошлом вышла статья, где, по-моему, в Техас Law Review или Техас что-то, Military Review, где оценивали вероятность, и там такой очень невеселый график.

что приватные предсказатели очень плохие?

Ну да, что аналитики в агентствах, в тех предсказаниях, которых исследователям был доступ, были скорее не очень хороши. Да, у приватных компаний несколько раз были внутренние рынки предсказаний, в Гугле был один и так далее. У них есть сложность тем, чтобы вовлекать эти рынки предсказаний в принятие решений. Один из таких early promises мог быть в том, что Для компании что важно? Важен запуск какой-то проекта, его коммерческий успех, например. И тогда, если любой человек из любого этапа разработки и так далее может сказать, что нет, там что-то не так, и высказать это с помощью вероятности или какой-то своей неуверенности, то информация может дойти до, не знаю, руководства чуть раньше, они могут принять какие-то корректирующие решения или заметить какую-то ошибку. К сожалению, это обычно не то, как люди любят себя организовывать для работы или то, как они привыкли себя организовывать для работы. Поэтому, да, такие эксперименты были, но, кажется, они скорее все заканчивались, и я не слышал, чтобы какой-то огромный успех был к ним, к их чести. Да, в случае с наймом людей, да, есть некоторая разница в том, чтобы хорошо делать геополитические предсказания для того, чтобы знать, как это влияет на финансовый рынок. Из этого есть интересная история, кажется, есть финансовая компания, хедж-фонд Jane Street, очень-очень успешный. И, по-моему, на первых выборах Трампа они думали, что... Да, они... Понятное дело, это большое событие, которое достаточно сильно двигает американский финансовый рынок. И мы знаем, что разные финансовые конторы пытаются собрать информацию как можно раньше. Они могут заказать свои частные опросы, они могут, не знаю, бегать и пытаться узнать информацию раньше, чем СМИ и другие люди в рамках легального и дозволенного законодательства. И они в какой-то момент, ну, поняли, что, да, скорее всего, Трамп побеждает. И, если я правильно помню, они зашортили S&P 500 на довольно много миллионов долларов. И оказалось, что, когда Трамп выиграл, S&P 500 вырос. И здесь у тебя есть, ну, типа, вы сделали хорошее предсказание, но... Но неправильный вывод. Но неправильный вывод, да. Поэтому, ну, типа, навыки не транслируются один к одному. Но какое число людей, да, я знаю, что, кажется, они уходили работать в хедж-фонды. Для большого числа людей люди занимаются чем-то, что для них, так сказать, очень mission-driven или они passionate about. Например, Илай пишет, пытается понять, как будет строен искусственный интеллект, а я занимаюсь своим консалтингом. У Нунья своя некоммерческая организация, другой человек тоже занимается нишевым консалтингом, связанным с биологией. Кто-то работает в очень большой фирме на очень хорошей должности и все устраивает. Так что, ну, как бы, иногда бывает сложно, так сказать, выбирать людей, забирать их.

Ты рассказывал про корпорации и про научные институты, которые заказывают ваши услуги. У меня в голове такая первое, что приходит в голову, что правительство напрямую заказывают ли они ваши услуги. Про это интересно.

Нет, у нас такого не было. Ну и здесь часто возникают разные проблемы с тем, чтобы получить нужный уровень доступа, потенциально могут возникнуть. Вот. И мы очень разношерстная группа со всего мира, поэтому, может быть, у кого-то в индивидуальном порядке, да, но не знаю, чтобы на всех.

А насколько вообще рынок предсказаний— это большой рынок? Много ли кто этим занимается?

Да, есть пара команд, которые чем-то таким занимаются. Я думаю, что в целом непосредственно предсказательная работа— это небольшая часть нашей общей консалтинговой работы, и поэтому она такая заметно меньше.

То есть это всего несколько команд по всему миру?

Мне кажется, что у Good Judgment есть свои суперфоркастеры, которых они каждый год выбирают. Есть Самоцветы, есть Swift— тоже команда хорошая. Ну и как-то из людей, которые такие более поближе доступны, кажется, что это всё, да.

Офигеть, так мало. Ты вот упомянул несколько команд, которые этим занимаются, такие же независимые, как ты, или внутри каких-то крупных площадок для этого. А есть ли какие-то центры силы? Ну, такие классические примеры, типа университеты, лаборатории, институты какие-то.

Я думаю, что у нас есть несколько онлайн-площадок, где в целом всегда можно с людьми хорошо поговорить. Наверное, одна из них будет Метаколус. Наверное, Good Judgment, как так сказать, самая устоявшаяся Reputable из них тоже подходит. Раз в год проходит конференция, которая называется Манифест. Она проходит в Беркли, а там встречаются разные люди, которые занимаются такой... такого рода журналистикой, либо занимаются предсказаниями, либо просто интересуются тем, как лучше думать про будущее. Наверное, в Bay Area такое комьюнити людей, которое, говорят, вовлечено, оно чуть более... чуть более такое. Это часто связано с тем, что, наверное, навыки, ну, думания про будущее и предсказания часто сходятся с... ну, или онлайн сошлись с думанием про искусственный интеллект, рисками и апсайдом от этого. Поэтому, да, оно всё так кластеризируется вокруг Сан-Франциско. В Оксфорде была лаборатория, но, к сожалению, она сейчас закрылась, и потихоньку, я думаю, что люди пытаются в Лондоне воссоздать похожий интеллектуальный энвайрамент.

Я тебя спросил про события, которые все ждали и про которые у людей много вопросов. Например, ковид там начался, и вот закроются аэропорты, не закроют, и миллион вопросов. Как быть с событиями, которых ты не ожидаешь? То есть вот можно ли как-то понять, что что-то начинает происходить? Есть какое-то количество событий, которые как-то повлияют на мою жизнь материально. Как сделать так, чтобы узнать о них пораньше?

Да, наверное, мой лучший текущий ответ— это подписаться на ньюслейтер моего друга, где он рассказывает про разные большие события, которые произойдут. У него огромная архитектура связана с сбором информации, их переводом и аранжированием. А он, по-моему, парсит, я не знаю, сколько, может быть, миллионы статей в неделю. Ну, короче, какое-то огромное число. Сотни тысяч, я не уверен. Как можно узнать? Не знаю. Кажется, что в этом и промис такого рода площадок. А если будет что-то большое, то появится вопрос на них, и дальше люди с трек-рекордом, с какой-нибудь компетенцией смогут дать разумную вероятность какому-то событию. И тогда ты сможешь, если ты просто регулярно проверяешь эти площадки, или если они будут освещаться в будущем в СМИ, то тогда мы будем чуть-чуть раньше, чуть более хорошо информированы о том, что может случиться.

Какие площадки главные? Потому что вот я знаю про полимаркет, но это типа бейтинговая платформа. А какая вот ты считаешь, что на ней самая качественная и самая такая свежая?

Наверное, с точки зрения количества предсказаний и качества предсказаний, наверное, на Метаколесе все еще очень-очень много людей делают предсказания, и там просто очень большой набор тем, потому что юзеры могут засубмитить вероятностные вопросы, и они достаточно качественные из-за премодерации и прочего. Да, это звучит как хорошая платформа. Там как раз мы узнали про, ну, в декабре кто-то посвятил вероятность пандемии. Да, это такой способ. Разные люди пытались сделать разные новостные сайты, которые будут показывать только изменения графиков. Ну, не только изменения графиков, но много изменения графиков. Это может быть альтернативой.

А, типа какая-то тема начинает набирать популярность. Ты это имеешь ввиду?

Ну да, да, да. Просто можно смотреть на все вопросы, можно смотреть, какие из них изменились. И дальше можно принимать такое editorial решение, что если там что-то изменилось, может быть, там что-то интересное происходит, и смотреть на них. А может, просто всем пришли нотификации, что нужно обновить предсказание, и люди просто обновили предсказание на более свежее. И тогда не так интересно.

Ты много говорил про искусственный интеллект. Насколько качественный искусственный интеллект делает такие предсказания?

Как раз на Метакулесе есть турнир, который сравнивает хороших предсказателей на Метакулесе и средних предсказателей на Метакулесе с разными интересными системами, которые люди сделали на основе языковых моделей. Я думаю, что уже сейчас, по крайней мере, точно с точки зрения объёма числа предсказаний, которые они могут сделать, системы впереди медианного пользователя. Мне кажется, что они всё ещё позади, не знаю, лучших предсказателей, и это, опять же, и в том всё ещё есть какая-то разная вариабельность в том, ну понятно, вот есть дисперсия, которая есть в оценке того, насколько те и другие хороши. Ну да, они пока всё ещё позади, возможно, скоро станут такими же хорошими. Это может быть область, в которой, не знаю, получится пойти сильно дальше у лескового уровня, если можно будет агрегировать много-много информации. А может быть будет область, где на самом деле люди уже достаточно хороши, и просто у нас есть, так сказать, неуменьшаемая неопределенность стокастическая, связанная с миром, которую сложно оценить. Ну да, наверное, траектория, что нас в какой-то момент обгонят.

Но пока лучший предсказатель лучше машин, средний предсказатель уже хуже машин. То есть, если я в этом вообще не шарю, то, скорее всего, можно спросить машину, и она ответит достаточно хорошо.

Да, но нужно иметь в виду, что машины хороши, когда ты даешь им хороший промпт, может быть, репромтишь их пару раз, чтобы они лучше подумали и так далее. Я думаю, что если ты просто спросишь машину, она, я не знаю, рефьюзит она или нет, наверное, уже не рефьюзит, но да, она даст тебе какую-то вероятность. Если ты попроще подумать по шагам, понять, какая информация полезна, да, пойти собрать бейсрейты с похожих событий, которые происходили на основании этой ассоциаций, то да, ты на машину даст, но результат получше.

А-а-а, ну это то, ты уже знаешь, на самом деле, механизм, как это надо делать самому. Если бы я это делал, я бы сделал вот так, типа, сделал бы там 3-4 вещи.

Да, но в какой-то момент появится, наверное, доступ к предсказаниям по подписке, если это будет востребовано, то тогда люди смогут получать быстрые ответы на большое число вопросов.

И очень интересно, нет ли промта. Знаешь, у тебя GPT есть GPT Store, где просто промты, и вот мне очень интересно, если ты возьмешь, напишешь промт, скорее всего, твой промт для того, чтобы машина сделала предсказание, будет на порядок лучше, чем мой, потому что ты знаешь, как это делать.

Да-да. Мне кажется, что на Метакулесе, может быть, даже боты должны быть за опенсорсены или какой-то процесс должен быть как-то своим открытым. Так что, можно посмотреть в ту сторону. Я пока не до конца знаю.

Спасибо большое. Вообще, это слово Метакулес, я уже так понимаю, это какой-то типа Stack Overflow, только не для программистов, а для предсказателей.

Ну да-да, можно так про это думать, да, хорошая метафора.

Про личный выбор. Используешь ли ты там свои инструменты? Я уже понял, что у тебя есть остро наточенный нож, и ты можешь, типа, разные делать. Ну вот, например, такие глобальные вещи, которые, мне кажется, очень важные для каждого человека— это выбор места жительства, выбор партнера, заводить ли детей и когда. Используешь ли ты какие-то свои навыки суперфоркастера и как?

Да, сейчас, ну, это так немножко совпало, обычно так не бывает. Да, я сейчас в Патагонии, и после Патагонии мы летим в Тайпэй, и в Тайпэй есть, ну, не нулевой риск того, что там что-то плохое может произойти.

Китай может начать его захватывать.

И, да, знать, что он достаточно комфортен для меня в том горизонте, в котором я еду, это достаточно хорошо. А поскольку я сейчас опять чуть больше есть возможности покататься по миру, Я в какой-то момент думаю, не заехали мне в Венесуэлу и в Каракас посмотреть, как люди живут там. И тоже я могу знать, что есть какая-то ненулевая вероятность того, что там что-то плохое произойдёт.

Сейчас даже контекст нужно дать. Вот прямо сейчас новости, что Америка посылает свой самый большой авианосец к берегам Венесуэлы и планирует разные варианты того, что делают в этой стране военно. Так?

И я могу спросить своего друга Нуни, который ещё больше он топов всех ньюс, чем я, «Нуни, стоит ли наехать в Каракас?» И Нуни мне скажет, не знаю, там типа «Лол, нет». Вот, это, ну я не знаю, насколько это пример, который будет релевантен для других людей. Ну да, ну скорее… Мне кажется, что в целом такого рода навыки можно, не знаю, принимать в своей жизни к своим целям. Можно думать, как вероятно, что моя какая-то цель на год исполнится, и если она немножко низко, слишком, то думать, почему и как это подправить, и как сделать её повыше. Это такой очень локальный, лёгкий пример. Я не могу сказать, что я на все цели ставлю вероятность, когда они получатся. Обычно там такое более субъективное ощущение моего довольства всем, что происходит. Но если оно да, если типа оно как-то недовольство возникает, то да, я стараюсь то-то сделать тем, чтобы быть довольным. Конечно, очень естественно для людей. Ну да, иногда к каким-то целям можно так подходить, если нужно, чтобы что-то обязательно хорошо получилось. Если бы я искал стартап, в котором работает на начальной стадии и получить большой equity, и таким бы способом пытался получить денежные богатства, то тогда тоже можно себя спрашивать, насколько этот стартап хорош. И если, скажем, с точки зрения инвесторов, хороший стартап бывает часто oversubscribed, и в них сложно проинвестировать, то с точки зрения хорошего сотрудника, который приходит на ранней стадии, у тебя есть больше шансов сделать хороший выбор, ну и это достаточно Такой большой выброс, ты решаешь, сколько, несколько лет ты будешь своей жизнью тратить на что-то. Да, какие-то такие вещи обычно приходят в голову, как понятные применения.

Мне понравился очень твой пример. Я думаю, некоторые слушатели точно такие задумались. Блин, а ведь я вот когда устраиваюсь на работу, очевидно, никто не пойдет работать в компании, которая, очевидно, закроется. Ну, если они очень хорошо платят, там, и коротко, и вот это все. Но обычно, типа, ты все-таки тоже внутри себя думаешь, будут они успешными или нет. Сколько стоят ваши услуги? Можно ли их заказать просто частному лицу? Типа, я выбираю там между двумя компаниями, типа, хочу устроиться на работу. Вот если бы, если бы, сколько бы это стоило?

Да, мне кажется, у NUNIA есть веб-сайт Squarecaster, где он периодически отвечает на вопросы. Но, опять же, нужно понимать, что про какие-то большие сложные решения, ну, ты про них человек извне даже очень компетентный и умный, может подумать несколько часов, но это не всегда материально сильно тебе поможет уменьшить неопределённость. Ну и как ты раньше заметил про пересечение с навыками терапии, здесь можно зайти немножко с другой стороны. Иногда люди хотят больше точности, чтобы иметь больше субъективного контроля над миром, а не для того, чтобы иметь больше точности. Тебе часто не так важно, не знаю... Реальная вероятность. Что ты придёшь в вероятность 50% или 55%. Да. Если у тебя не какой-то огромный экспозер к чему-то.

Насколько ты самооцениваешь реалистичность создания сильного искусственного интеллекта? То, что называется AGI.

Да, очень, кажется, очень реалистичный.

Да?

Ну да.

В каком промежутке, как ты думаешь? Скорее всего, это какая-то вероятностная штука, но условно, когда это наиболее вероятно произойдёт, как ты думаешь, в течение ближайших пяти лет, десяти, пятидесяти?

Я не думал про это эксплицитно достаточно давно, просто потому что немножко отвлекает от жизни иногда.

Потому что всю жизнь придется перестраивать.

Ну, немножко. Немножко. Я подумал, что если что, можно будет просто устроить хоспис для людей, чтобы они прощались с прошлой жизнью и шли в новую. Все-таки у меня есть большой трек-рекорд «Волноваться» про искусственный интеллект и радикальные изменения. Вот, ну да, кажется, что действительно, если текущей модели или надстройка над ними достаточна для того, чтобы получить интересные, более человеческие способности, и если у нас получится, ну, корпорации, которые этим занимаются, получится войти в цикл, где машины очень сильно помогают им делать ресерч, и это ускорит прочие вещи, то это будет хорошо. С другой стороны, у нас есть большие ограничения. Несмотря на то, что у нас есть scaling laws, и они очень прямые и работают на большом числе масштабов, они очень дорогие. Каждый следующий момент скейлинга стоит, ну, типа, в 10 раз дороже, условно, это линейный закон. То да, то вполне себе может оказаться, что мы потихоньку дойдем. И искусственный интеллект меня удивлял в прошлом о том, как быстро прогресс в некоторых областях происходил, несмотря на то, что я был уже достаточно предиспост, быть оптимистом, ну, про прогресс, так сказать. Да, так что да, мне кажется, что у нас есть какие-то разумные шансы, что это случится. Когда последний раз я говорил с Lime, он мне говорил, что они зааджастили модель и добавили пару тут параметров, и они ожидают, ну вот то, что они ее описывают как 27-й год, они ожидают ближе к 30-31 году, то есть такого кодера, который лучше, чем люди во всех своих областях. Я думаю, что можно быть чуть менее, так сказать, bullish, чем они, о его рекурсе в self-improvement, о том, что модели будут помогать себя дизайнить, и, в целом, о разных constraints, но, ну да, это кажется, что, по крайней мере, одна мода распределения, она ложится куда-то туда. Так, конечно, может произойти, что мы потратим много денег на видеокарты, у нас просто будет избыток видеокарт, как у нас когда-то был избыток кабеля или железной дороги, и мы будем жить в мире, где у нас есть интересные ассистенты, которые интересно хороши, но не везде, но у нас не будет такого трансформирующих эффектов. Ну да, кажется, что они вполне себе могут быть. Некоторые процессы, они, конечно, сильно ограничены тем, что нужно делать ручками или в мире атомов, а не в мире битов. Мы иногда умеем эти процессы переносить в мир атомов, как, например, раньше нам нужно было собирать самолёты и ставить их в эти трубки для измерения... Турбины. Турбины, да-да-да, для измерения их взаимодействия с воздухом. Сейчас мы можем такие процессы симулировать на большом-большом компьютере, потому что мы умеем обсчитывать Navistox'а как-то, но не идеально, по крайней мере, пока проблему Клея не решили. Ну да, какие-то вещи так могут взаимодействовать, может быть, достаточно странный и интересный мир. У этого есть негативные части, где всё может очень странно для нас закончиться, либо из-за концентрации власти, потому что искусственный интеллект может быть, не знаю, таким очень мощным advantage для одной группы, одного государства или кого-то, кто его сделает, либо может странно закончиться, потому что, ну я не знаю, мы создаём какую-то сущность, которая умнее нас и, возможно, может иметь какую-то часть своей воли в принятии решений, если у нас всё так окажется. Языковые модели, конечно, имеют меньше воли, но когда мы добавляем больше обучения с подкреплением, мы как будто можем добавлять свои воли. Да, сейчас есть разные эмпирические результаты, которые нас как-то немножко проливают света на этот вопрос. Но пока, конечно, недостаточно. Ну, конечно, хотелось бы, чтобы всегда было больше.

Интересно про искусственный интеллект еще чуть-чуть тебя расспросить. Но перед этим я хочу спросить тебя про модель. Ты сказала, и добавил туда еще пару параметров. Это, в конечном счете, прямо реальная эксельская табличка, в которую вписываются вероятности? Или как это обычно происходит с такими большими сложными предсказаниями?

Да, к сожалению, у нас нет какой-то единой методологии, как делать лучшие предсказания в мире, иначе был бы другой мир. Поэтому все такие штуки, они достаточно, не знаю... Это ad-hoc? Да, они ad-hoc. У нас нет метода универсального для всего этого. Я не помню, Excel-табличка у них или у них просто написана вероятность на модели, ну, типа, в каком-нибудь языке программирования вероятностном.

Ну да.

Вот есть разные параметры того, когда модельки будут достигать разных уровней. Ты можешь их немножко оценивать субъективно, просто потому что ты, не знаю, игрался много с моделями, и ты понимаешь темп просто. Сейчас у нас есть условные ассистенты для программирования, какой-нибудь код-код или что-то такое. Здесь у нас появятся ассистенты для исследований по машинному учению, здесь у нас потом появятся электронные коллеги, которые работают не 8 или больше часов в день, а работают... 24. 24 часа 7 дней в неделю, и их количество можно варьировать.

Их не 10, а 1000, и они нормально коммуницируют друг с другом.

Да, и если процесс в каком-то смысле ограничен инсайтами и новыми идеями, а не просто перебором параметров в большом пространстве, что иногда так, иногда по-другому, то да, тогда можно ожидать, что у нас будет не тысяча людей работать над тем, чтобы сделать модель более хорошей, то есть очень умных людей и замечательных, а, не знаю, 10 тысяч людей. Ну и тогда обычно, если опять же хорошо, грамотно организовать этот исследовательский процесс, то все может пойти немножко быстрее. А если их 100 тысяч и так далее, это такой concern pro, то как это может измениться? Опять же, можно не думать, что они будут настолько полезны, можно ожидать, что они застолбятся на каком-то уровне, не знаю, лучших людей или чего-то такого и не пойдут дальше, потому что, не знаю, сложно получить для этого данные. Ну да, такого рода вещи про них, да, можно как-то... можно пытаться аккуратно думать, можно пытаться моделировать разные ограничения, например, количество чипов, которые Nvidia и другие игроки могут произвести, доступность, не знаю, ресурсов, доступность финансирования и прочего. Любая модель будет, понятное дело, игнорировать большое число кусков реальности.

Параметры, то есть равно ты их можешь очень много добавить и таким образом чуть больше границы допустимого обозначить. Типа ты физически не можешь произвести больше такого-то количества чипов, условно, в год. Да,

ты можешь просто подумать про большее число вещей. Параметры добавлять обычно в модели, но, опять же, маленькие модели, а не большие-большие модели, как казалось, не всегда полезно. Но просто подумать про большее число вещей и как-то аккуратнее что-то помоделировать может быть полезно. Опять же, они релизят свою модель, там можно поиграть со своими параметрами, можно вести. В рамках их взгляда на то, как про это думать, можно вставить свои чиселки и посмотреть, как, если ты не веришь, что будет суперумный кодер, который программирует так же хорошо, как твои сотрудники, или как Джун, которого ты нанимаешь, то можно заджастить.

Слушай. Очень интересно про ресерч. Тебе же много ресерча надо делать. Помогает ли тебе уже сейчас искусственный интеллект в этом или скорее мешает?

Когда как. Мой коллега, мой кофаундер Гевин, он пишет блог последние 10 плюс лет, и у него огромный-огромный сайт. В какой-то момент он просил Клод прокомментировать все статьи и предложить улучшения, и из тысячи предложенных улучшений он заправил два из них. Это такой А, возможно, Гевин замечательно и хорошо пишет.

Или, возможно, Гевин не любит ничьи прав, кроме своих.

Или так, да-да-да. Ну, некоторые правки были, как всегда, абсурдные, там, что-то на ссылке происходит, а ссылки нету. Да, ну, конечно, чтобы иногда быстро разобраться в какой-то области, это очень полезно, можно позадавать разные вопросы и лучше что-то посмотреть. Это всё полезно. Мне всё ещё кажется, что, ну да, может быть, из-за какого-то моего личного консерватизма, может, чего-то, я всё ещё люблю много читать самому и много в чём так самостоятельно пытаться про это подумать, разобраться. Всё-таки что-то ты можешь делегировать другим людям, а что-то сложнее делегировать из своего мыслительного процесса в другой мыслительный процесс. И эти мыслительные процессы, они не как попросить Нуни что-то сделать, а как попросить кого-то, кто иногда бывает очень ненадёжен, что-то сделать. И это тоже влияет на то, как всё бывает.

Вообще, конечно, интересно, где ты видишь вот эту разницу, переход в философию, и вообще, кого из философов ты считаешь важным, ну типа вот про нейросети, например, и про будущее, которое нас ждет с нейросетями, кого ты считаешь хорошим автором, актуальным автором.

С точки зрения того, как искусственный телек может сложиться, опять, мне кажется, что репорт ИА-2027, который, возможно, ИА-2031, он достаточно интересен, и если вы с ним не знакомы, и вам кажется перспектива быстрых улучшений безумной, то с ним можно ознакомиться. Мои друзья написали gradual disempowerment как концерн о том, как часть нашей, по-русски, по-моему говоря, субъективности может отходить от системы, которая принимает за нас решения, и мы можем потерять ее, когда ИА иконами сильно-сильно разрастется. Это же интересные вопросы. Такого рода исследованиями раньше занимался FHI, и Бостер написал известную книжку «Superintelligence» до языковых моделей, поэтому она как-то стала менее актуальной. Этим продолжают заниматься ребята в Farfetch Foundation, и у них есть разные статьи о том, как штуки могут произойти, и они смотрят на разные сценарии. которые кажутся особенно рискованными и актуальными. Есть много хороших аналитических данных у друзей, которые делают Epoch AI. Они собирают много данных про модели, про стоимость обучения, других эстимейтов и пытаются делать хороший такой несубъективный, так сказать, взгляд на то, куда все ведет. Наверное, это будут какие-то основные источники, с которых можно начать знакомиться с более спекулятивными рисками и вопросами, такими, если мы хотим. И можно смотреть на доступность электроэнергии, стоимость компании, то, как быстро у них появляются юзеры, и то, как реалистично или нереалистично быстро они ожидают, что у них будет расти revenue в следующие 3-4 года. Вот это тоже, да, на разные ребята.

Класс. На кого подписаться? Еще вот я понял, ты говорил про рассылку твоего друга, ссылка на нее будет обязательно в описании. На кого еще стоит подписаться, чтобы знать, что там происходит интересного, либо в самом суперфоркастинге, либо в мире благодаря суперфоркастерам?

Да, я думаю, что с 5TH CENTER у них тоже, они периодически выпускают свои материалы. Не так регулярно, как NUNYA, но они тоже такие суперфоркастеры, которые рассказывают про мир. Мне всегда нравится читать твиттер моего кофаундера, Гевина, gleech underscore, по-моему. Он должен в какой-то момент запостить свой ежегодный трет с лучшими достижениями человечества за последний год, который, не знаю, аудитории может быть интересно, с ним согласиться или не согласиться.

Да, как-то так. Миша, спасибо тебе огромное. Дико интересный разговор.

Класс, спасибо тебе. Спасибо, что пригласил и был очень хорошим хостом.

Пока-пока. Это подкаст Студии Либо-Либо. Над эпизодом работали редакторки Рита Берденникова и Маша Агличева, продюсеры Данила Остапов и Аня Коваленко, звукорежиссер Юрий Шустицкий. За джингл спасибо Алексею Зеленскому. До встречи в следующий четверг. Редактор субтитров А.Синецкая Корректор А.Егорова