Как нейросети помогают ученым искать новые лекарства и делать открытия

Либо-либо.

Привет! Меня зовут Самат Галимов, и это подкаст «Запуск завтра». Здесь я пытаюсь разобраться, как устроены технологии, которые меняют нашу жизнь. А помогают мне в этом профессионалы, с которыми можно поговорить простым человеческим языком.

Может

ли искусственный интеллект создать новые лекарства? а сделать научное открытие, я позвал Илью Колмановского, чтобы узнать, как искусственный интеллект приходит в науку, и какие новые решения и новые сложности приходят вместе с ним. Друзья, если вы нас слушаете постоянно, то вы знаете, что вообще-то у нас только что закончился сезон, и мы на каникулах. Тем не менее, мы решили сделать подарок себе и вам, и записать этот вот дополнительный эпизод между сезонами. Привет! Как тебя зовут и чем ты занимаешься?

Привет, я Илья Колмановский, научный обозреватель и автор подкаста «Голый землекоп. Студии либо-либо» о научных открытиях и людях, которые их делают.

Я точно хочу с тобой обсудить такой креативный потенциал нейросетей, то, как они находят там совершенно неожиданные решения, но начать хочу с самого простого такого перебора множества вариантов, которые понятно, как перебирать, понятно, что перебирать, но человеку это делает скучно, а вот машина, пожалуйста, замечательно делает.

Понятно, да, что вот этот поиск иголки в стоге сена Это первое и главное. Ну и, наверное, главное, про что тут идёт речь, это скрининг каких-нибудь лекарств. Если есть понимание, что нужно, то можно попросить машинное обучение на библиотеке из двух миллионов уже существующих молекул, которые безопасны для людей, или, может быть, какие-то меньшие поднаборы, подмножества. Искать что-то, что будет похоже по каким-то структурным или химическим свойствам. Простите, если я уже сто раз рассказывал, это слушатели подкаста «Голый землекоп» или участникам наших каких-нибудь встреч, но примеры выглядят так, что, например, самый ядовитый гриб на свете и убивает больше всех людей. И есть понимание из нормальной лабораторной биологии, что в момент, когда яд попадает в организм мыши или человека, Он на самом деле приводит к тому, что некий фермент в клетках, в тканях, в органах делается суперактивным. И на самом деле нас убивает наш фермент в этот момент. Фермент – это такая трёхмерная молекула, которая как раз в силу своей формы может выполнять какую-то работу. Или чересчур сильнее выполнять и убивать. И в нем есть такая штука, называется активный центр. Это собственно вот то место, в котором происходят главные события. По сути, фермент вообще это катализатор. Это кто-то, кто умеет ускорять какие-то реакции, которые так, может быть, заняли бы миллионы лет, а так занимают доли секунды. И это ускорение связано с тем, что есть некое место в ферменте, где очень специальная форма, трехмерная форма этого кармана. Поэтому, когда там встретятся две молекулы, они взаимодействуют гораздо быстрее, они встанут в нужное положение, в нужной конформации. Поэтому есть задача найти, если мы ищем противоядие, найти что-то, что попадет точно в это место по форме, в этот карман. А форма может быть очень сложной. И всё это можно объяснить машинному обучению, и оно будет перебирать и перебирать миллионы наших молекул, которые мы можем использовать, которые безопасны для людей. И я себе представляю, что это машинное обучение своим заскорузлым пальцем указывает на такую полочку, Говорит, смотрите, вот там у вас стоит такая зеленая флуоресцентная краситель, которым вы обычно прокрашиваете органы во время хирургической операции людям, чтобы не отрезать лишнего. Есть такие картинки в интернете, где так печень флуоресцентно сияет из недр пациента во время операции. И это может быть полной ерундой. Для биологов всегда, когда иголка в стоге сена найдена, Все заканчивается мокрым экспериментом. Берется 100 мышей, бледной поганкой, половине дают эту зеленку, она выживает, половина погибает, потому что у этой зеленки оказалась подходящая форма. И это какой-то очень частный пример. Но все может быть значительно сложнее. Может быть, например, попытка поиска новых веществ с антимикробными свойствами. Антибиотики изобретаются слишком медленно, бактерии приспосабливаются быстрее, чем мы изобретаем новые. Можно объяснить машинному обучению, что такое антимикробные свойства, какие у нас есть вещества с антимикробными свойствами. Точнее говоря, дальше в этот момент нейросеть сама для себя решает, что она считает антимикробными свойствами в сравнении с другими веществами, у которых нет антимикробных свойств. А дальше майнинг может выглядеть так. Можно искать не среди существующих молекул. Ну вот мы где их вообще нашли? Мы нашли их у грибов, у плесени. Вот 100 лет назад Флеминг поскреб заплесневевший хлеб, и так появился пенициллин. Но по идее, если это будут какие-то белковые молекулы или куски белковых молекул с антимикробными свойствами, то это же значит, что они записаны где-то в ДНК. Потому что белок синтезируется на основе последовательности букв ДНК. Последовательность кирпичиков в белке, последовательность аминокислот в белке, которые потом сворачиваются в сложную трёхмерную конформацию в силу того, как они выстроены в исходной цепочке. Они дальше слепаются очень специфическим образом. Эта последовательность линейно записана в виде кода в ДНК. И майнинг может быть в ДНК, и уже не обязательно грибов, а всех организмов на свете, и не обязательно существующих, а может быть и вымерших. И вот у нас был выпуск подкаста, где мы отправляемся в Пенсильванский университет, и наши собеседники майнили геномы вымерших людей в поисках коротких антимикробных последовательностей, которые, может быть, давали тем людям защиту от бактерий. У млекопитающих есть свои антимикробные молекулы. А может быть и нет. Никто этого не знает, что реально плавало в крови неандертальца. Мы только знаем, что они воскресили эти последовательности на основе того, что подсказал искусственный интеллект и обнаружило, что у них сильнейшие антимикробные свойства. И у них есть мощные плюсы, потому что потенциально, если это было в организме неандертальца, я почему говорю потенциально, потому что вообще кодирующих участков в геноме человека что-то процента 2. Остальное всё это не кодирующие последовательности. И искусственный интеллект вполне мог найти эти кусочки. Это короткие кусочки по 40 аминокислот. То есть, это всего там 120 букв ДНК из 3 миллиардов целого генома. Но чёрт его знает, где он их нашёл. Никто это не проверяет, никто этим не интересуется. Просто есть такая философия, что если он нашёл это, то, может быть, это не токсично для млекопитающих, раз это и для человека. Неандертальцы – наши близкие родственники. А второе, большой плюс этого оружия в том, что теоретически сегодняшние супербактерии не видели этих молекул, потому что неандертальцы уже вымерли. Это их главный плюс. И так они майнят какие-то более сложные вещи.

Слушай, Илья, это какие-то промежуточные? Типа вот нейросети нам указали, и классно, надо дальше исследовать. Или это уже реальные лекарства? Короче, насколько это уже реально? Насколько это решённая задача или просто многообещающее открытие?

Смотря с кем ты разговариваешь, если ты разговариваешь с постдоком из этой лаборатории, который взял 100 мышей, нанёс им на спину царапины, занёс туда супербактерий, то есть, устойчиво к современным антибиотикам, и половину из них посыпал вот этим, я держал в руках эту пробирку, такой белый дуст какой-то, заказанный в сторонней фирме на основе вот этой, значит, искусственный интеллект подсказал, так должен выглядеть этот пептид. Вот, посыпал этим дустом, и они выжили, а остальные умерли быстро. То если спросишь его, он скажет, вот оно. Мы нашли это, и это было бесплатно. Это же очень недофинансированная область. если ты спросишь завлаба, то он скажет, что тут всё сложно, потому что у нас теперь сейчас в университете будет семинар с юристами и биоэтиками, которые будут обсуждать разные вещи. Во-первых, это нельзя запатентовать, потому что это изобрела природа. И уже есть проблемы с такими исследованиями, где очень было много вложено денег в открытие какого-то человеческого гена, скажем, предсказывающего высокий риск рака груди. Но дальше можно ли запатентовать тест на этот ген, это обсуждалось, дошло до Верховного суда, и там есть проблема, что это Господь Бог вообще-то владеет патентом. А еще если мы это все воскресим и будем использовать, это будет страшно эффективно, то это может быть очень полезно какому-то поколению, которое сейчас родилось и в течение ближайших 30-40 лет будет это использовать. Но если бактерии приспособятся к этим пептидам, то будет хуже, чем когда они приспособились к пенициллину, потому что потенциально это значит, что они будут обходить наши природные защиты. И мы останемся без этой первой линии защиты. Если ты будешь говорить с руководством факультета, то они скажут, что их все это мало заботит, а их заботит, что непонятно, где взять деньги на первые стадии клинических испытаний, очень дорогие. А им все порезали, все федеральное финансирование. новая администрация. Так что это сложный вопрос. Я привык слышать, как научный обозреватель, что вот это всё будет через 2 года. Но поскольку я занимаюсь этим уже 20 лет, то я теперь примерно представляю себе, во что превращаются эти 2 года.

Они всегда через 2 года.

Да, иногда они асимптотически убывают, иногда немножечко увеличиваются. Какие-то вещи таки наступили из того, что мне обещали через 2 года. При этом я вижу из моих разговоров с учёными, что на нас движется просто цунами новых лекарств, найденных таким способом, новых материалов, новых технологий. Одно из важных препятствий, кстати, если представить себе, что мы решили вышеперечисленные, кажется, 4 проблемы. У нас есть деньги, есть категория людей, которая всё нам испортит. Она почему-то делается всё более многочисленной. Это люди, на которых очень хорошо действует плацебо. потому что ты должен доказать, что твоё лекарство действует лучше, чем плацебо. Ну не в случае с ядом бледной поганки, а разных других лекарств. Там есть такая проблема, что в последние десятилетия плацебо работает всё сильнее и сильнее. Ещё раз простите, если вы уже от меня это все слышали, но я не могу не поделиться с Саматом тем, что мне рассказал один мой друг, который крупный стартапер в области искусственного интеллекта. Он рассказал, что он работает с крупной фармкомпанией, которая поручила ему решить эту проблему при помощи искусственного интеллекта. Искусственный интеллект очень в стоге сена, еще он очень хорошо профилирует. То есть, он может на основе большого количества данных развалить молекулы, мышей, людей, покерные руки на несколько категорий. Дальше мы делаем так, мы собираем с человека побольше данных. берем 100 людей, всем наносим несильный ожог за деньги и мажем детским кремом. Это хорошая идея, потому что вот такая боль на коже – это одна из самых сильно подверженных плацебо вещей. Если еще поговорить с человеком, то он вообще все будет в порядке, подержать за руку. В данном случае мы просто намажем детским кремом и посмотрим на 10% из них, которым полегчало больше всего. Они нас будут интересовать.

И не будем брать в научные исследования лекарства.

Не их самих, а мы не будем брать больше никого похожего на них.

Офигенно. То есть, мы посмотрим людей, которые по другим признакам похожи на этих, и их тоже исключим.

Да, и я совсем не вижу сходу этических причин этого не делать. И на самом деле эти люди, может быть, если мы получим такую выборку, может быть, они расскажут нам что-то очень важное о том, как работает плацебо. Исследование их организмов расскажет нам о том, откуда берутся эти невероятные суперспособности организмы, получив круглую таблетку с мелом. Дальше иногда довольно волшебным образом излечиваться от разных болезней.

Может быть, сможем других людей сделать более похожими на них?

Именно. И, может быть, мне можно дать такую таблетку, чтобы я был больше похож на них, и тогда меня можно будет лечить мелом.

Друзья, пока запуск завтра на каникулах, слушайте наши бонусные эпизоды. В бонусах мы пробуем разные форматы. Например, у нас есть целая серия эпизодов про языки программирования. А еще мы делаем выпуски про важные технологические новости, разбираемся в частых пользовательских проблемах и выкладываем не вошедшие в основные эпизоды фрагменты разговоров. Все эти эксклюзивные выпуски запуска вы найдете в подписке либо-либо плюс. Либо-либо плюс— это место, где мы болтаем свободнее, позволяем себе больше, отвечаем на ваши вопросы. Кроме запуска, по подписке доступны дополнительные эпизоды и других подкастов студии. «Голого землекопа»— гости этого эпизода. В июле оформить подписку особенно приятно. В честь семилетия студии мы дарим подарки. До конца месяца годовая подписка стоит в два раза дешевле— 2495 рублей вместо 5000. Подписывайтесь или переходите на годовой тариф и слушайте нас полгода бесплатно. Ссылки вы найдете в описании. Расскажи ещё про кейсы того, когда мы с помощью нейросетей смогли иголки в стогах сена, которые раньше не находили.

эякулят, в котором должно быть 100 миллионов сперматозоидов. Тогда у них в сумме неплохие шансы. Это вообще впечатляет, конечно, насколько яйцеклетка и в целом женский организм защищены. от зачатия. Они всерьез устраивают отбор лучших и всерьез устраивают ценз самых живучих. Про это у нас есть прекрасный выпуск подкаста «Голый землекоп». Зачем нужна менструация? который рассказывает, что матка – это, возможно, самое негостеприимное место для эмбриона. И ученые успешно вживляли эмбрионы в глаза мышам и в мошонки самцам мышам. А в матку это не просто сделать там очень серьезный барьер и порог. А если их сильно меньше, то вероятность зачатия понижается. Это один из источников бесплодия. И врачи могут столько эякулята, и искать под микроскопом, и попробовать создать концентрат. Попробовать сделать так, чтобы получилась такая капля, в которой будет искусственно повышенная концентрация. Ну можно под микроскопом, руками, есть какие-то автоматизированные методы. Но там еще не очень долгое время, не очень долгое окно возможности, пока все это живо и бьет хвостиками, готово куда-то плыть. Пример, который мне понравился в прошлом году, выглядел так, что есть человек, у которого в эякуляте, что армия трудолюбивых аспирантов ручную не находит там ни одного. Но систему, которую они построили и которая основана на искусственном интеллекте, которую они одолжили у людей, которые ищут новые звезды на небе.

Ничего себе.

Им надо анализировать какие-то тысячи снимков в день. Новые для науки, я думаю, если я правильно понимаю. И у них дальше там были эякулят. И нейросеть сама для себя выработала критерии, кого они считают живучими, у кого достаточно мобильности. И когда пробегает живучий, она открывает некий люк, и он выпадает в специальный отстойник. И можно верить нейросетям, можно не верить нейросетям, но факт, что ребенок родился от искусственного интеллекта.

С помощью.

С помощью. Я должен был сказать эту фразу. Ну, кстати сказать, я сейчас говорил про всякие вычисления инсилика, но вообще-то роботы могут проводить просто тысячи мокрых экспериментов и искать там что-то своими видеокамерами, капать в лунки, такие планшеты, где тысячи лунок, и, соответственно, роботизированная рука просто капает пипеткой. 24 часа в сутки, 7 дней в неделю, проводя очень много экспериментов и через видеокамеру выискивая лунку номер 2399, на которую человеку стоит посмотреть, повторить этот эксперимент руками и сделать открытие. Таких много еще примеров, когда перебором что-то такое ищется. Мы, может быть, вернемся еще к иголкам стоговых сена. Они наверняка вспомнятся по ходу дела. Но давай дальше посмотрим на это вот как. Представим себе, что ты сейчас махнул рукой. Я вообще очень люблю, когда ты жестикулируешь на наших встречах. И я хочу залезть к тебе в голову и представить себе, что это движение зародилось у тебя в коре головного мозга. И мы, в общем, можем найти у тебя конкретно это место, которое, когда ты был маленьким ребёнком и смахивал вещи со стола, учился их брать, в итоге оказалось прошито под твою руку. Это часть двигательной коры, где зарождается это движение. И дальше, на самом деле, на этом надо было бы остановиться, потому что подробнее мы не очень хорошо знаем, как миллионы нейронов в координации между собой, используя, на самом деле, несколько ярусов разных нейросетей, в итоге делают себя таким толковым жестикулятором и таким компетентным. И мы знаем, что у них там синапсы, мы знаем, что у них там есть связи, но дальше этого человеческий разум и наши вот резоны и способность объяснить это словами пока не зашли. И как выглядит твой жест радостный или твой жест отмахивающийся от меня, как от назойливой мухи? Да даже просто, если ты сейчас возьмешь чашку, и как выглядит схватить чашку и отпустить чашку, да, стакан. И мы не можем заглянуть тебе в голову и в точности это понять или описать. Но это больше не нужно. Если сделать себе трепанацию черепа и уложить на это место массив электродов, ну скажем, 100 на 100, 10 тысяч электродов, сейчас, может быть, 5 тысяч используется, и проткнуть твою кору на 1,5 мм. Можно получить такой шлейф и дальше расположить у тебя на голове разъем, закрыть его крышечкой, которую нельзя мочить, когда тебя будут мыть, потому что ты это, скорее всего, парализованный человек, который вошел добровольцем в этот эксперимент. То мы можем делать следующее. На нейросети может появиться доступ к этому потоку данных из твоих нейронов. И ты можешь приезжать в лабораторию 3 раза в неделю по 4 часа за зарплату. и думать о том, как ты хотел бы взять чашку. Ну то есть, просто, может быть, ты уже не можешь её взять, если ты парализован. Но ты пробуешь её взять, пробуешь её взять, пробуешь её взять. И так набираются данные о том, как выглядит в твоём мозге вот эта констелляция, это созвездие сигналов, которые означают «схватить». И если мы попросили бы нейросеть объяснить нам, чем отличается твоя идея схватить чашку от твоей идеи отпустить чашку, то она не смогла бы объяснить нам это на языке человеческих резонов. Она должна была бы открыть рот и начать шипеть, как модем, описывая 10 тысяч признаков. То, что биологи называют сигнатурой, signature, или как отпечаток пальца. Что-то, что характерно для схватывания. Может быть, 10 тысяч важных параметров, по которым происходят сдвиги. И вот такие сдвиги означают схватить, а вот такие – отпустить. И степень координации, которую достигают такие люди, управляя дальше через нейросеть, ну например, черной роботизированной рукой, которой они приезжают в гости в лабораторию. Причем более того, у этой руки могут быть датчики чувствительности. То есть, они могут чувствовать то, что чувствует эта рука, потому что нейросеть может, получая с датчиков чувствительности роботизированной руки, приготовлять такой коктейль сигналов. Отправляй их уже в твою чувствительную кору, которая сейчас чувствует гладкий стеклянный стакан определенного веса, полный или пустой, маленький или большой. То, что делает твой захват таким компетентным на самом деле. Ты не мог бы иначе, особенно не глядя на стакан, хорошо его донести до рта. Ты получаешь тысячи сигналов от своей руки о том, как она захватила стакан, и как он путешествует дальше ко рту, и как развиваются взаимодействия между этой жидкостью и твоим ртом. И это делает тебя таким компетентным глотателем воды из стакана. И дальше представь, что нейросеть научилась, пользуясь информацией с этой руки, изготовлять такой сигнал и отправлять его дальше в чувствительную кору, где другой массив разъемов стоит у этого человека. Нейтан Копленд (Nathan Copeland), у нас есть с ним выпуск подкаста, называется «Рука на удаленке». такой коктейль импульсов, что он воспринимает это субъективно как очень помогающую ему информацию. Я его спрашиваю, где ты чувствуешь эти ощущения? В своей настоящей руке, которая лежит на подлокотнике уже 20 лет и не может двигаться? Или вот в той черной руке вот там? Он говорит, в моей настоящей руке. У него возникает иллюзия, что он взял что-то маленькое или большое, тяжелое или легкое, гладкое или шершавое. И нейросеть умеет изготовить такой набор сигналов, который он интерпретирует как достоверный. Ему этого достаточно, чтобы вдвое-втрое быстрее совершать, выполнять задание. И это случай, когда нейросеть получила вот такую задачу, она ее решила. Но дальше может выясниться, что нейросеть чувствует еще больше и знает еще больше, чем ты про тебя или про твои мозги. Я приведу пример из очень раннего выпуска первого сезона, «Киборг, которого перепрошили». Тоже парализованный человек, тоже вот этот разъём в голове, при помощи которого он передаёт сигналы, усилия мысли на свою существующую руку, которая просто его не слушается. Но электроды, и они заставляют через кожу просто сокращаться мышцы. И он довольно далеко продвинулся. Там в выпуске можно послушать, как он играет на гитаре, используя приставку Guitar Hero.

Ничего себе!

Но дальше случилась такая вещь. И они поняли, что там есть сигнал, который непонятно что значит в данных из его двигательной коры. Оказалось, что в действительности у его руки сохранилась чувствительность. Просто процентов 10 чувствительности. Так часто бывает при этих травмах шеи. И этого сигнала недостаточно, чтобы сознание построило из этого сигнала субъективный опыт. Я сейчас что-то взял. Я что-то трогаю. слишком мало данных для нашей нейросети, выяснилось, что этот сигнал протекает из чувствительной коры в моторную. Это так бывает довольно часто. Выяснилось, что их разъём слышит этот сигнал. И более того, он в нём может различать вещь тяжёлую, он взял в руки, или лёгкую, более сильное нажатие или более слабое. Но раз это слышит нейросеть, то, значит, она лучше знает, чем этот человек, что происходит с его рукой. И она научилась превращать этот сигнал в очень сильное нажатие такой специальной манжетки на его плече. Если у него в руке что-то тяжелое, то манжетка посильнее нажимает, а если что-то легкое, то послабее. А дальше мозгу совершенно достаточно, чтобы из этого очень странного пожатия... Понять, что это тяжело. не просто понять, а обрести ловкость. Опираясь вот на эту подсказку, превратить это в то, что помогало ему в 2-4 года учиться брать вещи. И хотя сигнал в плече, он понимает, ему мозг научился пересчитывать это, что это в кисти. Но выясняется, что нейросеть знает лучше, чем ты, чувствует лучше, чем ты. Ровно как в этом анекдоте, что типа, Яша, что, мама, я хочу пить. Нет, ты хочешь писать. Да? Нейросеть знает лучше, что ты чувствуешь.

У студии либо-либо, которая выпускает этот подкаст, есть курсы по подкастингу. Совсем скоро, 28 июля, стартует курс по нарративным подкастам. Там сотрудники студии научат вас находить сюжет, писать истории, проверять информацию и многому другому, что поможет вам создать свой подкаст. Для слушателей запуска завтра работает скидка 10% по промокоду ZAPUSK на этот или любой другой курс. Переходите по ссылке в описании, чтобы посмотреть программу и отзывы наших выпускников. Еще одна штука, про которую, я думаю, все, кто пользуется нейросетями, знают, это то, что нейросети умеют распознавать речь. Уже, мне кажется, никого не удивляет, когда ты говоришь с компьютером, он тебя понимает. Я слышал, что есть попытки также начать понимать животных. Расскажи, пожалуйста, насколько это успешно.

Да, это бурно развивающаяся тема. Она, конечно, первым делом возрождает старую дискуссию о том, что такое язык. И там сразу есть два лагеря. Есть скептики, которые говорят, что у кашалотов в человеческом понимании, а крупный мозг им нужен, чтобы греть голову. Потому что они в холодной воде ловят кальмаров, а мозг излучает много тепла. И вот недавно было открытие, что как раз при помощи искусственного интеллекта у них нашли Дополнительные кодирующие свойства их сигналов, на которых потенциально можно было бы построить очень сложную систему коммуникации. И те, кто открыли эти кодирующие штуки, говорят, что у них есть речь. Я сейчас тогда лучше быстро расскажу, в чем там суть. Она стоит в том, что они открыли что-то вроде гласных. И мы не слышим, когда кашалот стучит свои строчки этого кода, оказывается, у этих щелчков может быть разный тембр. А это... все обращали внимание только на ритм, который хорошо слышен человеческим ухом. И человеческое ухо не слышало разницы в тембре. И они увидели, что эти изменения тембра очень интересно путешествуют по фразе сложным образом. Предположили, что это могут быть гласные. А скептики говорят, нет, это просто такой вокальный груминг. У них нет рук, чтобы друг друга вычесывать блох, как это делают, да, шимпанзе. И они в таких вокальных трелях, они... это такое общение, где они вот играют этим тембром в течение своих щелчков, но типа не ищите здесь никакой коммуникации. А романтикам отвечают, это у вас слишком антропоцентрическое определение языка. А когда мы при помощи нейросетей увидим там язык, то мы что-то поймем очень важное про язык, о том, что может быть каким-то совершенно другим. И способы передавать смыслы могут быть какие-то совершенно другие. И тогда будем готовы к поиску сигналов внеземных цивилизаций, потому что, может быть, мы их неправильно ищем, потому что мы не знаем, что такое язык. И немножко с конца надо сначала отвечать как бы про философию. Если говорить про более какой-то базовый уровень ресерча, то понятно, что для начала просто нейросети могут помочь, если есть много данных, есть много записанных звуков, просто найти что-то, что человеческое ухо не очень хорошо слышит. Ну, например, какие-то новые диалекты у тех же китов. Вот в этом году была новая публикация просто про целый новый диалект, который, кажется, открыли полностью при помощи машинного обучения. Дальше понятно, что есть более романтическая, опять же, погоня за тем, чтобы понять, о чем они разговаривают, если там есть что ловить. И для этого надо собрать очень много данных. Вот, например, из Месопотамии, вообще на них записывали человеческую историю на протяжении 75% времени существования человеческой истории. И только последнюю четверть появились другие культуры, которые тоже умеют писать на чем-то. Поэтому там очень много данных. И те, кто с этим работают, говорят, что мы сейчас будем расшифровывать язык за языком, потому что очень много данных. Если есть очень много данных, то Розеттский камень, не нужно три параллельных текста. Сейчас я видел, что прочитали новые письма, причем там был еще прикол в том, что они были запечатаны. в глиняные конверты из соображений конфиденциальности. Но это не страшно, потому что их можно сканировать в томографе, просчитать. И дальше понятно, почему все так конфиденциально, потому что это какие-то дикие тысячи лет назад жена жалуется мужу, что его должник в грош ее не ставит и не возвращает деньги. Говорит, пока муж не вернется, ничего не отдам.

Так классно.

Да.

Очень круто. Ты сказал про запечатанные таблички. Я сразу везувианский проект / проект Vesuvius.

Да, я слышал твой выпуск про это прекрасный.

Визувийский проект, о котором я говорю, Vesuvius Challenge. Международный конкурс, участники которого расшифровывают с помощью искусственного интеллекта и компьютерной томографии. Совершенно космический проект. С одним из участников мы записывали эпизод. Ссылка в описании. Я увидел то, что наконец-то прочитали целый манускрипт.

Да, целый свиток. И у них там на очереди еще сотни или какие-то тысячи.

Большая надежда в том, что у нас сейчас сохранился какой-то очень маленький объем этих текстов. Если у нас получится прочитать хотя бы половину того, что там запеклось и сгорело 2000 лет назад, то у нас количество древних текстов удвоится, утроится, или там даже в 10 раз больше у нас будет этих... древнегреческих и древнеримских текстов.

Дико интересно, конечно, да, что выясняется, что одна из самых непредсказуемых вещей – это история. В этом смысле, конечно, очень впечатляет возможность смывать откуда-нибудь из грязи, из пещер или из мирового океана, или ловить из воздуха огромное количество ДНК. и дальше что-нибудь майнить в этих огромных данных. Я правда сейчас сходу не знаю точно, насколько к этому сейчас подключается машинное обучение, но невозможно себе представить, чтобы нет, потому что это очень большие данные. Понятно, что вот сейчас не нужно больше в пещере находить кости, достаточно смыть просто оттуда грязь. И у тебя появляется такая подробная хроника жизни неандертальских семей там, и их личной жизни, и близкородственных скрещиваний или дальнородственных скрещиваний, как будто вы повесили камеру видеонаблюдения туда. Таких примеров много разных, из разных эпох. Например, воздушные фильтры, которые поставили где-то в зоопарке. Поймали туда ДНК всех, кто живет в зоопарке, включая рыбок из бассейна в закрытом павильоне экзотических животных на другом конце зоопарка. У них чешуйки, они чешуйки сшелушиваются, куда-то попадают, и каким-то образом в воздухе оказываются фрагменты ДНК. И дальше есть возможность очень значительно усиливать этот сигнал. Это не связано с машинным обучением, а связано с ПЦР. С тем, что если есть кусочек ДНК, его автоматически можно превратить в миллион таких кусочков и дальше все-таки прочитать, что там. Это дальше начинает проникать во всякую человеческую жизнь, потому что в большом городе можно поставить фильтр и поймать в него ДНК всех, кто там живет. В частности, несчастной пожилой женщины, которая 50 лет назад совершила ошибку и закопала своего младенца где-то в лесу. Это был cold case, который снова теперь расследовали. Нашли ее.

Офигеть. То есть, нашли ДНК, то есть, по ребенку, по телу ребенка нашли ДНК и

смогли... Искать его родственников. Они стали искать среди ДНК пойманной в воздухе, искать родственников.

Если вернуться к тому, как ученые используют искусственный интеллект, скажи, пожалуйста, вот те примеры, которые ты привел, и вообще в целом использование искусственного интеллекта учеными – это инициатива отдельных ученых или это уже такой глобальный тренд?

Это совершенно глобальный тренд. Ну, понятно, что они просто используют LLM, чтобы писать, читать, рецензировать. Ресерчить, на самом деле, и ресерчить научную литературу. Это может очень масштабный быть проект, когда ты ищешь много каких-то очень сложных данных. Но вместе с тем понятно, что все стараются завести какие-то свои нейросети, которые делают что-нибудь для них. Ищут иголки в стоге сена.

И тут я вот опять же опираюсь на свой личный опыт. Раньше написать красивую статью и оформить ее там графиками это была такая сложная самостоятельная работа. Я помню там 10 лет назад я такой типа вот я сделал, смотрите как классно. Теперь нейросеть может генерировать такие тексты абсолютно бесконечно и проблема скорее становится определить несет ли этот текст какой-то смысл.

Ну для этого слава богу бог придумал нейросеть.

Это, кстати, очень тонкий вопрос, потому что насколько хорошо нейросеть как раз может определить. Ну ладно. Как это устроено в науке?

То есть началось все буквально в декабре 23 года, когда вот в те недели, когда весь мир начал пользоваться, бурно начал пользоваться чатом. Сразу же возникла новость, что кто-то получил от рецензентов назад свою рукопись с замечаниями, скормил это чату, и чат молниеносно придумал несуществующие ссылки на несуществующие работы, причем очень качественные. Так что ты должен либо хорошо знать это, либо руками все-таки проверять. Ну то есть вот с моей сестрой, которая профессор в Коламбии, с ней случилось так, что студенты сдали ей работу, в которой были фейковые ссылки. Но так случилось, что на её подругу. по какому-то совпадению. А поскольку она знает работы своей подруги, то она быстро поняла, что тут дело нечисто. Но по идее ты должен руками все как следует проверять, сказал я, как бы глядя на это из декабря 23-го года. Но нет, да, потому что это война брони и снаряда. Понятно, что ты можешь быстрее всего искать это при помощи нейросетей и найти здесь фейковые ссылки. И ты сказал, насколько они хорошо понимают, ну уж точно мы вместе очень хорошо понимаем. когда мне надо прочитать длинную научную статью по новой для меня теме. Я понимаю, что я там ищу, я понимаю, в чем мне надо разобраться, но, например, большую долю содержания составляют такие коллажи из 17 фотографий. И там фотография 1, 1А, 1Б, 1С и каждой дюжины подписи мелким шрифтом. нейросеть молниеносно находит мне нужную как бы мышь с нужной легендой и помогает мне очень быстро понять, что там происходит. В этом смысле это твой выбор, и он может идти в две стороны, делаться ленивее. То есть ленивее в обоих случаях. Но в одном случае как бы идти по пути полного оппортунизма, когда вы пишете эти статьи при помощи чата, читаете при помощи чата, их будут читать при помощи чата, и ну там будет выхолощиваться смысл из всего этого. Или, наоборот, толковие, да, и попытаться быть лучшей версией себя и сделать в 10 раз больше работы, и в 10 раз более содержательную работу, и в 10 раз больше прочитать и понять чего-то сложного.

дороги, по которым мы можем пойти. А в реальности насколько больше сейчас стало в науке слопа? Заметно ли это? Поменялось ли то, как мы печатаем и читаем, рецензируем статьи за эти годы?

Это очень интересный вопрос, и я бы предпочел, чтобы мы с тобой вместе задали его одной из многочисленных сейчас групп такого гражданского контроля. такого дозора. Это довольно распространенное явление в мире науки. В частности, потому что всякие первичные данные все более и более доступны. Люди, которые сделали работу, они выкладывают в репозитории свой код, свои первичные данные, и все больше есть возможности все это взять и попробовать самим перепроверить. Ведь понимаешь, про мир этой рецензируемой науки Есть такой романтический образ, он очень важный, состоящий в том, что у нас вообще работают лекарства и колоссится урожай, и работают наши роботы, потому что на протяжении последних столетий, особенно десятилетий, чем больше дело всякой науки, чем она более дорогая, чем больше она зависит от денег и усилий сразу больших коллективов людей, тем большую роль в них играет независимая слепая экспертиза недоброжелательных рецензентов. Это один из самых важных и действенных инструментов демократии. И когда вопрос о том, будут ли у вас деньги на продолжение этой работы, определяется судом независимых слепых рецензентов, которые не знают, что вы являетесь автором этой работы. И идея этих публикаций как института, как какой-то основы работы и лаборатории, и университетов, и государственного финансирования, и не только государственного, Вся эта идея опирается на эту слепую экспертизу и, в частности, на идею воспроизводимости, на идею того, что потенциально эти рецензенты – это люди, которые потенциально могли бы по вашей статье повторить ваш эксперимент. Что в реальности, конечно же, очень редко случается в силу, опять же, сложности и драговизна этих экспериментов. Хорошая новость в том, что в сегодняшней ситуации очень многие вещи происходят не инвитро, не в стекле, а инсилика в кремнии. И вот эти вещи пробовать повторить, воспроизвести, поискать там ошибки, поискать более простые объяснения уязвимости в том, что делают авторы, делается проще. И в этом смысле это хорошая новость для для науки. Я думаю, что огульно можно сказать, что первая реакция человечества на такие инструменты – это нахалтурить, а вторая реакция – подтянуться и подсобраться, да, и использовать их для скепсиса. Я думаю, там есть и то, и другое.

Все, что мы сейчас с тобой обсуждали, это ситуации, когда искусственный интеллект становится помощником ученых. Способен ли он работать самостоятельно? Способен ли искусственный интеллект сделать самостоятельное открытие?

Я думаю, что это будет все больше и больше происходить в будущем, несмотря на то, что называть открытием. Чем больше в нем агентности, тем больший кусок какой-то может прийти на его часть, пока он не позовет человека прийти посмотреть своими глазами. Я слышу про это от математиков, которые ищут какие-то интересные числа или интересные области. Мы начали говорить про иголку в стоге сена, но, может быть, для начала он должен понять, для себя придумать критерии, что он считает иголкой. что он считает найти, если на него переходит всё больше и больше этих вещей, и мы говорим про всё более и более сложные понятия, всё более сложные материи, так можно говорить о том, что всё больше доли открытия приходится на его долю, на его роль. Там есть в этом смысле, кажется, большая какая-то вещь, про которую я слушаю от моих собеседников, Это их ожидание, что на нейросети поймут что-то очень важное про устройства мира и устройства, какие-то проблемы, с которыми они работают. Но поймут на своем уровне. на котором это нельзя объяснить человеческим языком. И мы окажемся в роли ребенка, который говорит со взрослым. Впрочем, я процитирую Джеффри Хинтона, который отец нейросетей, один из создателей самой концепции нейросетей, который сказал, что у нас в истории нет примеров, когда более простая нейросеть управляет более сложной, кроме двухлетнего ребенка. который железной рукой рулит своей обучающей нейросети. Это может свестись к вопросу о том, что значит понимать, что мы вкладываем в это слово, и что значит человек что-то понял. Потому что надо сказать, что тот же Хинтон сказал, что people are not reasoning machines, people are analogy machines.

Мы живем аналогиями, а не размышлениями.

А не резонами.

Не логикой.

Не логикой. Нам кажется, что мы живем логикой, но на самом деле мы сводим одно непонятное к другому чуть менее непонятному. И довольны этим, потому что точно так же делают другие люди, которым мы доверяем. И мы чувствуем себя, что мы сейчас похожи на этих людей, которым мы доверяем в достаточной мере, чтобы считать себя достаточно толковыми.

Есть такая шутка, что теория Эйнштейна стала общепринятой в научных кругах, когда ушло поколение ученых, которые считали ее бредом. И выросло новое поколение, открытое к этим новым теориям. Не станет ли искусственный интеллект таким бессмертным хранителем статуса кво, который обучен на старых знаниях, и не будет ли он мешать прогрессу?

Вряд ли он будет в этом смысле сильно хуже, чем вот эти старики.

Ну старики умирают, искусственный интеллект бессмертен.

Да, это минус. Но это не помешает Эйнштейну выкинуть его в помойку. Я думаю, что это останется на роль человека. Мне кажется, вот я разговариваю с людьми, которые изучают, дрессируют свои нейросети, выращивают их, и которые общаются со специалистами по человеческому мышлению. И сравнивают эти две вещи. В частности, мышление маленького ребенка, который обладает какой-то невероятной суперспособностью к обучению и все-таки формированию general intelligence в итоге. Будем себя льстить, будем себя, да? по сравнению с машинами, у которых вроде пока нет General Intelligence. Они говорят, что, может быть, самая главная суперспособность человека – это скучать. И говорят, что это уже все старье, и нам надо что-то следующее, что-то следующее. Так что, может быть, просто придет Эйнштейн, скажет, что эта догма неверна. убедить в этом какого-то количества единомышленников. У них будут свои нейросети, которые они воспитают по-своему. Ну, дальше просто, если у них что-то будет лучше получаться, то будет выбор. Ну, можно запретить этих новой нейросети, пользоваться старыми по старинке. Это же люди будут принимать решение. Или, может, искусственный интеллект будет принимать решение. Но опыт показывает, что зубную пасту нельзя затолкать обратно в тюбик. Я пробовал.

Там есть некоторые методы, можно по бокам немножко сдавить, оно немножко всосется. Чуть-чуть.

Не вся.

Не вся.

I learned it the hard way.

Некоторые заболевания настолько редки, что на их исследовании не выделяется достаточно денег. Кажется, что искусственный интеллект может помочь в таких ситуациях. Есть ли уже такие примеры?

Ну да, мы же начали говорить про это на примере поиска новых антимикробных препаратов. Давай скажем в общем виде. В каком-то смысле основную часть вот этой бесплатной по сути работы произвела конкретная нейросеть на десятилетия вперёд для всего человечества в одни конкретные сутки. Это было когда-то года три назад, когда Google DeepMind, которые разработали нейросеть, умеющая решать самую сложную задачу в биологии. кое-что обсчитали и выложили для всего мира для того, чтобы все пользовались этой базой. Это потенциально имеет огромное значение для лечения болезней. Сейчас попробую это распаковать. Правда, это будет немножко технический разговор. Мы говорили сейчас уже, что белки – это такие сложные трехмерные машины, которые сами собой сворачиваются из линейной цепочки бусин. где десятки тысяч или, может быть, сотни тысяч бусин никогда не сходят с такого рибосома. Они сами собой сворачиваются в очень сложную трехмерную форму, которая определяет их возможность сделать любую работу. И работа любых клеток, любых тканей, любых органов опирается Сочетаясь с другими белками. Сочетаясь с другими белками, во времени еще, при развитии какого-то органа или в ходе развития какого-то действия, реакции на инфекцию или переваривание еды, или мысль, которая возникает в голове, все это обслуживают вот эти сложные трехмерные машины, которые, в свою очередь, записаны в ДНК. В ДНК есть линейная цепочка букв, которая соответствует линейной молекуле белка, которая потом должна свернуться. И в момент, когда все это было обнаружено несколько десятилетий назад, Возникло понимание, что, судя по всему, то, в каком порядке записаны буквы в ДНК, программируют в итоге то, в какую трехмерную форму свернется белок. Что тут есть однозначное соответствие, и это то, как работает жизнь, то, как работает генетический код на планете Земля у всех организмов, от лишайников до жирафов. А раз так, то потенциально мы должны бы быть в состоянии прочитать цепочку букв ДНК, и это довольно давно уже людям доступно, а в последние годы доступно в очень-очень массовом виде, когда читаются тысячи полных геномов людей и разных других животных. Потенциально мы должны быть в состоянии прочитать ген, прочитать вот этот кусочек кода ДНК. И, прочитав его, получить у себя в компьютере вот эту сложную трёхмерную форму белка, так, чтобы могли бы увеличить любое место и посмотреть, как оно устроено.

И подумать, как оно будет сочетаться с другими белками.

Или другими маленькими молекулами, которые могут прилипать к каким-то местам, к лекарствам. И также подумать над тем, как они ломаются. В случае, если где-то в ДНК неправильные буквы, есть мутация, есть ошибка. Можно подумать потенциально было бы над тем, как нарушена эта форма, и как это может влиять на функцию, и почему в этой семье регулярно рождаются дети, у которых внезапно рано останавливается сердце, или почему с годами в этой семье у всех высокий риск холестерина и инфаркта. Но это в теории, а в реальности вычислительная – это невероятно сложная задача. И разные инструменты, которые были придуманы для того, чтобы это делать в компьютерах, могли и могут решать эту задачу для некоторого количества белков с очень большими сложностями, и это долго и сложно. А дальше AlphaFold, наравне с существующими инструментами или гораздо лучше, но очень быстро, и в какой-то конкретный день человечество проснулось и обнаружило, что онлайн выложена база данных всех человеческих белков, несколько десятков тысяч белков. А потом вообще всех известных белков, а потом всех потенциально могущих иметь значение поломок. Нейросеть предсказывает, поломки в каких местах потенциально могут влиять на функцию. Называется missense, бессмыслица. База данных, которая посвящена бессмыслицу, посвящена утрате смысла. И это значит, что теперь в любой лаборатории, которая заинтересовалась какой-то болезнью и понимает, что им надо сфокусироваться на каких-то белках, Если раньше они могли бы думать о том, чтобы написать какой-то грант и какую-то выступить коллаборацию и найти каких-то людей, имеющих доступ к очень сложным оборудованию, к очень сложным экспериментам или к очень мощным компьютерам, и, может быть, на протяжении десятилетий они что-то узнают про какой-то из их белков, а потом что-то про какие-то поломки в каком-то из этих белков, А какая-то лаборатория не могла бы об этом подумать, потому что у нее нет ни таких связей, ни таких денег. Теперь это заранее доступно всем, кто хочет заниматься этой проблемой. И в этом смысле за эти годы был пройден такой очень важный кусок, и у человечества появился этот ресурс.

Очень прикольно. Это не просто нейросеть, которая научилась решать эту задачу, а это, в каком-то смысле, вот была такая большая часть работы, которой нам каждый раз приходилось каждому что-то делать, а тут такой Поехали дальше. Эта задача решена?

Здесь правильная черта. Эта задача решена для очень большого количества проблем, которые могли бы интересовать людей заранее.

Я хочу немножечко вообще с другой стороны на все это посмотреть. Мы с тобой в начале эпизода обсуждали, что нейросети помогают найти иголку в стоге сена, например, молекулу, которая помогает при болезни или противоядии. Что мешает использовать те же самые алгоритмы для создания супервируса или суперяда? Ведутся ли такие разработки, и что вообще про это думают ученые?

Потенциально это большая опасность. Надо сказать, что такое упрощение и гаджетизация работы с какими-то опасными вещами наступила еще до такого продвижения с нейросетями. Просто возможность такой гаражной биологии привела к тому, что все такие легальные биохакеры должны работать под надзором ФБР, быть сотрудничать с ФБР для того, чтобы мы знали, что они не делают ничего плохого. И потенциальные возможности для злоумышленников уже, наверное, лет 10 значительно возросли. Например, 10 лет назад была большая дискуссия о том, можно ли и нужно ли вводить цензуру в научных журналах, потому что когда люди выкапывают вирус испанки, извечной мерзлоты, и восстанавливают его в лаборатории для того, чтобы поизучать его и посмотреть, будет ли против него работать томифлу, Они делают это для того, чтобы опередить злоумышленников потенциально. Но дальше Nature Science отказывается публиковать эти последовательности, и мы впервые сталкиваемся с цензурой в научных журналах. И возникают международные бойкоты, международные движения, требующие отменить цензуру со словами, что нам нужна прозрачность науки, потому что лучше мы все будем это изучать, и все будем вооружены быстрее, чем это случится со злоумышленниками. И открытость в этом смысле безопаснее, чем закрытость. Это сложная дискуссия в действительности. Все это до наступления нейросетей. Нейросети потенциально умножают все на тысячи возможностей тех и той другой стороны. В целом мои собеседники говорят мне, что они опасаются скорее каких-то техногенных просто повреждений со стороны злоумышленников, просто возможности отключить электричество в большом городе, чем что-то настолько сложное. Ну, потому что в целом представить себе биологическое оружие, которое не выстрелит тебе в ногу, невозможно, которое по какой-то причине пощадит тебя. Другое дело, что отбитые фанатики, то тогда это может быть неважно. Это одна из опасностей, которая здесь приходит, как с любым продвижением цивилизации. Любой такой инструмент, он потенциально обоюдоострый.

Очень интересно, что этот версус закрытость, он есть и в программировании. Хотим ли мы открытые исходные коды? И для некоторых программ хотим, а для некоторых мы такие, типа, нет, пускай будет посложнее. И в этом плане нейросети, кстати, очень сильно упрощают жизнь и атакующим, и исследователям, потому что то, что было закрытым, внезапно становится квазиоткрытым. Илья, спасибо тебе огромное, что пришел. Очень классный разговор.

Очень взаимно, спасибо.

Это подкаст Студии Либо-Либо. Над эпизодом работали редакторка Маша Агличева, продюсеры Данил Остапов и Аня Коваленко, монтажер Сергей Христолюбов. За джингл спасибо Алексею Зеленскому. До встречи!

Редактор субтитров А.Синецкая Корректор А.Егорова