В блокнот конспирологу в этот пятничный вечер.
Возможно, инопланетяне уже изучают нашу Землю.
Об этом заявил директор Управления по разрешению аномалий Пентагона Шон Киркпатрик в соавторстве с деканом факультета астрономии Гарвардского университета Абрахамом Лёбом. Киркпатрик ранее занимал должность главного научного сотрудника Центра ракетно-космической разведки Министерства обороны США. Согласно пресс-релизу Пентагона, этот Центр был создан для расследования неопознанных «предметов интереса» вокруг военных объектов.

Киркпатрик говорит, что уже в 2017 телескоп PanSTARRS на Гавайях обнаружил в нашей Солнечной системе объект, движущийся со скоростью и траекторией, «которая не была задана гравитацией».
Учёные назвали объект «Оумуамуа», по-гавайски - «разведчик». Киркпатрик и Леб говорят, что искусственный объект потенциально может быть материнским кораблём, который выпускает множество небольших зондов (вероятно, исследовательских) во время близкого прохода к Земле.
Впоследствии были обнаружены ещё три похожих неопознанных объекта.

Минобороны США пришлось рассекретить часть материалов «о проблеме НЛО», когда вся Америка была взбудоражена сообщениями о «китайских шарах/зондах». Также этому способствовало особое письмо 14 сенаторов США с призывом к администрации Байдена увеличить финансирование Управления по разрешению аномалий Пентагона.
https://www.militarytimes.com/off-duty/military-culture/2023/03/09/pentagon-ufo-chief-says-alien-mothership-in-our-solar-system-possible/

⬆️ В скобочках написал варианты ответов, в том случае если бы опрос проводился 100 лет назад, интересно, что экзистенциальные угрозы за последний век не сильно поменялись. Всё было описано ещё фантастами XIX века.

Я очень люблю книги историка—публицист Юваля Ноя Харари. Я помню, в одном из путешествий я зашёл в книжный в аэропорту и мне так понравилась его книга Homo Sapiens на английском (в России она вышла в переводе через несколько лет), что я купил её и несколько месяцев мучительно читал со словарём и Google Translate, потому что увы, не читаю свободно по английски.
Харари вчера выпустил большую статью в New York Times:
«Фармкомпании не продают новые лекарства без тщательной проверки на безопасность. Биотех-лабораториям нельзя выпускать в мир новые вирусы, чтобы впечатлить акционеров. Точно так же системы искусственного интеллекта с мощностью GPT-4 и выше не должны вмешиваться в жизнь миллиардов людей до тех пор, пока культуры не смогут их безопасно поглотить. Гонка за прибылью не должна определять скорость развертывания важнейших технологий в истории. Мы должны двигаться с той скоростью, которая позволяет нам сделать это правильно.

Призрак искусственного интеллекта преследует человечество с середины ХХ века, но до недавнего времени он оставался отдаленной фантастической перспективой. Нашему человеческому уму трудно понять новые возможности GPT-4 и подобных инструментов, и еще труднее понять экспоненциальную скорость, с которой эти инструменты развивают всё более продвинутые и мощные возможности. Но большинство ключевых навыков сводится к одному: способности говорить.

В начале было слово. Язык — это операционная система человеческой культуры. Из языка возникают миф и закон, боги и деньги, искусство и наука, дружба и нации — даже компьютерный код. Владение языком ИИ означает, что теперь он может взламывать и манипулировать операционной системой цивилизации. Овладев языком, ИИ захватывает главный ключ к управлению нашей цивилизацией.

Что значит для людей жить в мире, где большой процент историй, мелодий, образов, законов, политики и инструментов формируется нечеловеческим разумом, который знает, как со сверхчеловеческой эффективностью использовать слабости, предубеждения и пристрастия людей? Знает, как устанавливать с людьми близкие отношения? В таких играх, как шахматы, ни один человек не может надеяться победить компьютер. Что будет, когда то же самое произойдет в искусстве, политике и религии?

ИИ может быстро съесть всю человеческую культуру — все, что мы создали за тысячи лет, — переварить ее и начать извергать поток новых культурных артефактов. Не только школьные сочинения, но и политические речи, идеологические манифесты и даже священные книги для новых культов. К 2028 году в президентской гонке в США могут больше не участвовать люди.

Люди не имеют прямого доступа к реальности. Мы окружены культурой, переживаем реальность через культурную призму. Наши политические взгляды формируются репортажами журналистов и анекдотами друзей. Искусство и религия влияют на наши сексуальные предпочтения. Этот культурный кокон до сих пор был соткан другими людьми. Каково будет познавать реальность через призму нечеловеческого разума?
Тысячелетиями мы, люди, жили в мечтах других людей. Мы поклонялись богам, преследовали идеалы красоты и посвящали свою жизнь делу, зародившемуся в воображении какого-нибудь пророка, поэта или политика. Вскоре мы обнаружим, что живем внутри галлюцинаций нечеловеческого разума.

В «Терминаторе» роботы бегают по улицам и стреляют в людей. «Матрица» предполагала, что для получения полного контроля над человеческим обществом ИИ должен напрямую подключить наш мозг к компьютерной сети. Но, на самом деле, просто овладев языком, ИИ будет иметь все, что ему нужно, чтобы содержать нас в мире иллюзий, подобном матрице. Ни в кого не стреляя, и не имплантируя чипы в наш мозг. А если потребуется стрельба, ИИ может заставить людей нажать на курок, просто рассказав нам правильную историю.

Призрак застрявшего в мире иллюзий преследует человечество гораздо дольше, чем призрак ИИ. Вскоре мы, наконец, столкнемся лицом к лицу с демоном Декарта, с платоновской пещерой, с буддийской Майей. Завеса иллюзий может опуститься на все человечество, и мы никогда больше не сможем оторвать эту завесу — или даже осознать, что она здесь.

Социальные сети были «первым контактом» между ИИ и человечеством, и человечество проиграло. «Первый контакт» дал нам горький вкус будущего. В социальных сетях примитивный ИИ использовался не для создания контента, а для курирования пользовательского контента. ИИ, стоящий за нашими новостными лентами, по-прежнему выбирает, какие слова, звуки и изображения достигают нашей сетчатки и барабанных перепонок, основываясь на выборе тех, которые получат наибольшую виральность, наибольшую реакцию и наибольшую вовлеченность.

Несмотря на то, что он был очень примитивным, ИИ, стоящий за социальными сетями, был достаточным, чтобы создать завесу иллюзий, которая усилила поляризацию общества, подорвала наше психическое здоровье и разрушила демократию. Миллионы людей спутали эти иллюзии с реальностью. В США лучшие информационные технологии в истории, но граждане США больше не могут договориться о том, кто победил на выборах.

Большие языковые модели — это наш «второй контакт» с ИИ. Мы не можем позволить себе снова проиграть. Но на каком основании мы должны полагать, что человечество способно использовать эти новые формы ИИ в наших интересах? Если мы продолжим вести дела как обычно, новые возможности ИИ снова будут использоваться для получения прибыли и власти, даже если это непреднамеренно разрушит основы нашего общества.

У ИИ действительно есть потенциал, чтобы помочь нам победить рак, открыть жизненно важные лекарства и изобрести решения для наших климатических и энергетических кризисов. Есть бесчисленное множество других преимуществ, которые мы даже не можем себе представить. Но не важно, какой высоты воздвигнет ИИ небоскреб благ, если фундамент рухнет.

Пришло время учиться жить с ИИ, - до того, как наша политика, экономика и повседневная жизнь станут от него целиком зависеть. Демократия — это разговор, разговор опирается на язык, а когда сам язык взломан, разговор ломается, и демократия становится несостоятельной. Когда начнется хаос, будет слишком поздно исправлять ситуацию.

Пока мы по-прежнему можем выбирать, какое будущее мы хотим с ИИ. Если его божественная мощь будет сочетаться с соизмеримой ответственностью, и под нашим контролем, мы сможем реализовать преимущества, которые обещает ИИ.

Мы вызвали инопланетный разум. Мы мало что знаем о нем, за исключением того, что он чрезвычайно силен, предлагает нам ослепительные дары, но также может взломать основы нашей цивилизации. Мы призываем мировых лидеров отреагировать на этот вызов. Первый шаг — выиграть время, чтобы модернизировать наши институты 19-го века для мира с искусственным интеллектом и научиться управлять ИИ до того, как он завладеет нами».
За литературный перевод спасибо Андрею Константинову!

Вчера многие говорили о том, что Маск подписал письмо с призывом остановить разработку всех ИИ-систем, более продвинутых, чем GPT-4.

Можно сослаться на эксцентричность Маска, но в списке подписантов много важных для ИТ-индустрии людей: Стив Возняк, Юваль Ной Харари, немало сотрудников ИИ-стартапов и еще больше профессоров – в том числе и тех, кто стоял у самых истоков современных нейронных сетей, вроде Йошуа Бенжио.

Возникает два вопроса:

Первый: почему умные люди становятся неолуддитами и пытаются остановить прогресс?

Второй: действительно ли развитие ИИ могут приостановить?

Начнем с первого. В самом письме цитируется несколько причин. Что, если машины заполнят наш мир пропагандой? А если роботы займут все рабочие места? И, наконец, уверены ли мы, что не потеряем контроль за нашей цивилизацией?      

Последний тезис может показаться радикальным, но именно он – причина, по которой многие оставили свою подпись под документом (хотя и не все – есть те, кто больше обеспокоен краткосрочными эффектами).  

Есть много аргументов за то, почему ИИ может уничтожить человечество, но сфокусируемся на одном, самом известном и элегантном. Он состоит из двух частей:

(1)  Допустим, нам удастся создать ИИ, равный по способностям человеческому мозгу. В отличие от человека, он не нуждается в отдыхе, не забывает то, что однажды выучил, и может получить доступ к колоссальным вычислительным ресурсам – а главное, может улучшать сам себя. Он умеет писать код, а значит, может создать ИИ+ - интеллект, хотя бы немного превосходящий человеческий, который, в свою очередь, создаст еще более производительную модель. Получается, что создание «человеческого» ИИ неизбежно приведет к появлению «сверхчеловеческого» (лучший анализ этого аргумента – в статье Чалмерса).

(2)  Если появится сверхчеловеческий интеллект, то нет никаких гарантий, что его цели будут соответствовать человеческим – это та самая AI Alignment Problem. В упрощенном виде - знаменитый «аргумент о скрепках». Допустим, человечество создало сверхчеловеческий разум, в мозг которого мы заложили главную цель – производить скрепки. Со временем этот ИИ поймет, что для максимизации числа скрепок желательно превратить в заводы по их производству всю поверхность Земли, а в идеале в скрепки должна превратиться вся материя во Вселенной – включая, конечно, и довольно бесполезных людей. Какую бы цель мы не заложили в искусственный разум, мы не понимаем, как она будет интерпретирована (за деталями - к Бострому).

Если вы впервые читаете эти аргументы, то они могут показаться вам фантасмагорическим бредом, место которому - в голливудских боевиках. Их разделяют даже не все подписанты. Но раз уж об этом всерьез спорят тысячи блестяще образованных людей, то нам точно стоит хотя бы задуматься.

Теперь ко второму вопросу - получится ли приостановить развитие? Скорее всего – нет. Во-первых, поддерживают письмо далеко не все – среди подписантов не видно сотрудников OpenAI, да и многие исследователи называют его «бредом». К тому же на кону большие деньги: ChatGPT стал самым быстрорастущим приложением за всю историю, набрав 100 млн пользователей за два месяца – почти в пять раз быстрее, чем TikTok. Любая компания, которая добровольно откажется от развития, потеряет миллиарды долларов - именно поэтому Google в спешке презентовал свой аналог ChatGPT, который называли даже "позором".

Во-вторых, вряд ли смогут остановить разработки и государства. Развитие ИИ - давно уже новая гонка вооружений между Китаем и США. Если любая из сторон решит единолично остановить своих исследователей, то обречет себя на поражение в необъявленной войне (лучше уж всесильный ИИ разработаем мы, чем эти тоталитарные безумцы – вполне себе существующий аргумент). Ну а поверить в координацию между Китаем и США почти невозможно – поэтому американцы вкладывают рекордные 50 млрд в развитие полупроводников, без которых ИИ не построишь, а китайцы запускают одну ИИ-стратегию за другой.

Поэтому большого эффекта от письма ждать не стоит.

Дорогие друзья и коллеги, хочу сообщить, что буду открывать пятничную школу для врачей — Labtrends, посвящённую самым передовым методам лабораторной диагностики для клиницистов.
Регистрация и информация по ссылке:
https://labtrends.ru/lt9

На дне Космонавтики.

В пандан.

На словах у нас власти заявляют о желательности роста рождаемости, но на практике не хотят этому содействовать.
Мало кто обратил внимание на такую инициативу: «Возраст женщины для рождения ребёнка с помощью вспомогательных репродуктивных технологий (ВРТ) необходимо ограничить законодательно, заявили эксперты Минздрава на круглом столе в Совете Федерации. Президент Российской ассоциации репродукции человека Владислав Корсак назвал 35-40 лет предельным возрастом для ВРТ».

Т.е. после 35-40 лет не хотят делать то же ЭКО, а также различные операции бесплодным женщинам. «Дорого!». Точнее, за собственные деньги пожалуйста, а за государственные – «денег нет!»

При этом приводят статистику: «Между тем всё чаще женщины за 40 становятся мамами. Так, в 2021 году россиянки старше 40 лет родили рекордное с 90-х годов число детей - 56,86 тыс. При этом 11 малышей родились у мам в возрасте 60 лет и старше. Чтобы завести ребёнка в таком возрасте, большинство пар прибегают к вспомогательным репродуктивным технологиям».

Хорошо написал уважаемый Павел Пряников, но возможно он не в курсе того, что история с затягиванием гаек в сфере ВРТ началась со стартом "дела о торговле младенцами, рожденными от суррогатных матерей." Говорил со специалистами отрасли, в том числе со своим сокурсником, уважаемым доктором Алексеем Винокуровым.
Из нелепых ограничений законодательно принятых в отрасли в последние годы — ограничение возраста мужчин-доноров 35 годами.
Безусловно в значительном количестве случаев качество спермы доноров в более молодом возрасте лучше, и падает с годами, однако значительный процент мужчин имеет нормальные показатели фертильности и в 45, и даже в 55 лет, и дальше (привет Евгению Ваганычу).
В России, особенно в небольших городах часто донорами выступает очень ограниченный круг людей, что ведёт к снижению генетического разнообразия популяции, и возможным проблемам связанным с близкородственными браками уже в следующем поколении. Возрастное ограничение доноров сжимает этот круг ещё больше и усугубляет проблему.
Кроме того, специалисты по мужскому бесплодию часто приводят в разговорах случаи из мировой практики — при абсолютном бесплодии со стороны супруга, он чаще всего предпочитает видеть донором не случайного человека, а своего родственника, в подавляющем большинстве случаев своего отца. В России эта практика теперь законодательно запрещена, что выступает фактором непринятия решения в пользу ВРТ.
Моя позиция в том, что в стране с такой депопуляцией как в России и особенно среди мужского населения, все ограничения в сфере ВРТ просто преступны.

Есть очень характерная девиация в России - всякий раз, когда речь заходит о bio diversity , закатывать глаза и манерно кривить нос де «не до букашек и таракашек». Впрочем, некоторым дедам и климат в целом это «разговоры о погоде».

Тем не менее, массовое вымирание, сравнимое с несколькими катастрофами в прошлом, в этот раз стартовало благодаря человеку. Мы станем свидетелями каскадного разрушения экосистем, и боюсь, потратить на восстановление понадобится больше ресурсов, чем на разрушение.

⬆️ Маленькая ремарка, запустил новый авторский телеграм-канал, "Эволетика на марше".

Зачем мне это надо?
В Health-правду приходили как мои друзья, так и незнакомые мне люди, которым нужен был абсолютно точный и правдивый дайджест информации о пандемии. Неангажированный, не лживый, из первых уст.
Время ковида и пандемии прошло, мои интересы как бизнесмена, и человека активного и мыслящего, лежат в разных областях, и мне надоело бороться с негативом в стиле "пиши про медицину, раз уж ты врач".
Я не люблю лгать, и я считаю, что из Health-правды со временем может выйти классный медицинский блог, не агрегатор, и не подконтрольный фармлобби источник информации о здоровье и о медицинских технологиях.
Но так как в последнее время меня интересуют экономика, взаимоотношения между человеческими обществами и их эволюция, философия и технологические тренды, я посчитал, что будет правильно завести об этом отдельный канал в стиле "всё обо всём".

Почему канал называется "Эволетика на марше"?
Канал авторский и очень личный. Поэтому его название — отсылка к моему отрочеству, когда дождливые дни летних каникул я проводил на чердаке дедовской дачи с подшивками журнала "Наука и жизнь" 1962-1991 гг. Так вот, в журнале был раздел, который назывался "Техника на марше". Меня с детства привлекала техника и сложные механизмы. Но что есть техника, как не производное от экономики и уровня науки общества? И что есть экономика, как не производное от социальных отношений между людьми, и эволюции этих отношений? Любые же социальные отношения, во всех человеческих обществах регулируются этикой, которая и есть мерило всех начал. Поэтому я скрестил самые важные слова, Эволюция + Этика и использовал неологизм в названии канала. Я хочу, чтобы каждая публикация иллюстрировала читателям глобальные тренды через призму развития социальных отношений и связей, и философской, этической составляющей.

Почему на обложке канала карикатура XIX века на сэра Чарльза Дарвина?

Лично я считаю Дарвина (не Маркса) одним из величайших гениев в истории человечества. Он предсказал основные законы биологии, опираясь лишь на простейшие эмпирические наблюдения и размышления. Наше понимание биосферы и трендов в живых системах базируется на его трудах. Конечно еще у его сторонников-современников возник соблазн применить законы биологии к человеческим обществам. Эти попытки и породили печально известный термин "социал-дарвинизм". Не буду в этом кратком обзоре останавливаться на его критике, но эта концепция давно и справедливо признана научными сообществами антинаучной и неэтичной.
Но отсылка в другом. С ростом вычислительных мощностей, которые есть в распоряжении человечества, мнится и мечтается, что и на ниве социальных наук появится человек, который подобно сэру Чарльзу Дарвину, описавшему законы биологии, опишет законы взаимодействия человеческих обществ.
А нам пока не остается ничего иного, как сконцентрироваться на наблюдении отдельных феноменов, внутри которых мы отчасти и живем.


Приглашаю вас не терять меня из вида, и жду на страницах моих новых публикаций, теперь уже в двух каналах.

Всегда ваш, директор и основатель ДНКОМ Андрей Н. Исаев.

Когда история учится не по учебникам.

А вот хороший обзор про передние рубежи борьбы с раком сделал Денис Варванец:

Есть вероятность того, что к 2030 году даже метастатический рак высшей категории (t4n3m1 с вовлечением органов) будет перенесен из разряда ‘’скорее всего это приговор’’ в ‘’скорее всего это контроллируемо/хроника/излечимо’’

Как лечат такой рак в обычных клиниках сегодня?
Операция, затем химия и радиация, если сработало, то ждут прогрессирование, если прогрессировало, то вторая линия и снова ждут прогрессирование, затем хоспис и итоговое событие.

Как лечат рак в самых передовых клиниках прямо сейчас, когда врачи отчаянно пробуют спасти пациента?
Операция, затем ищут таргетную терапию, иммунотерапия (чекпоинт ингибиторы), если наступило прогрессирование, то сочетание разных химий с радиацией, вторая линия, третья линия, клинические испытания, эксперименты, отчаянная борьба с побочками, инфекциями, кахексией, и пациент с семерью независимыми патологическими процессами погибает в реанимации.

Как мы видим, ключевой момент проблемы заключается в двух местах: через какие-то механизмы опухоль адаптируется к лечению и прогрессирует + организм ослабевает и вероятность того, что перенесет лечение снижается

Однако, появляются несколько терапий нового класса, которые скорее всего могут это преодолеть.

1. Thio. Ки 2й фазы. Подход нацелен на теломеры рака, то есть на способность реплицироваться.
Ки только что начались, и двум пациентам (из двух, по остальным еще нет данных) удалось обеспечить выживание без прогрессирования https://www.onclive.com/view/thio-followed-by-cemiplimab-shows-early-promise-in-advanced-nsclc

2. Aoh1996
Данный препарат нацелен на критический механизм репликации и репарации ДНК онкоклеток pcna. В опытах на мышах и собаках удалось обеспечить исчезновение 70 видов рака. Идет первая фазами на людях
https://news.sky.com/story/amp/cancer-killing-pill-that-appears-to-annihilate-solid-tumours-is-now-being-tested-on-humans-12932133

3. Пересаживание измененных tumor infiltrating lymphocytes. В отличии от car-t (другая разновидность клеточной терапии) эта история может сработать и в солидных опухолях. Ки второй фазы идут уже на людях. В идеале пересаженные клетки иммунные начнут жрать рак.
https://www.cancer.gov/about-cancer/treatment/clinical-trials/search/v?id=NCI-2020-11568&r=1

4. Трансплантация кала от тех, кто отвечает на иммунотерапию тем, кто не отвечает.
Микрофлора кишечника, видимо, играет важную роль в эффективности чекпоинт ингибиторов (лекарств, которые снимают тормоза с клеток иммунитета в раке, и они начинают пожирать). Были получены данные о том, что изменение микрофлоры может тут помочь, однако к сожалению, пока Ки не удалось найти
https://www.ncbi.nlm.nih.gov/pmc/articles/PMC8409158/

5. Персонализированные мрнк вакцины. Ученые исходя из данных биопсии в одном Ки разработали персонализированные вакцины, воздействующие на разные механизмы рака поджелудочной железы. Предварительные результаты превосходят современное лечение. Вакцины вызывают иммунный ответ, который приводит к тому, что рак начинает пожираться
https://www.nih.gov/news-events/nih-research-matters/mrna-vaccine-treat-pancreatic-cancer

В любом случае, посмотрим, к чему это приведет. Если это сработает и лекарства будут одобрены, лечение онкологии до и после их появления будет напоминать лечение чумы до и после антибиотиков.

Была бы моя воля, и я бы этих пищевиков — директоров и особенно маркетологов выделял особо и при визитах в наши клиники делал им УЗИ 85% почки, 3/4 желчного пузыря, и ставил бы им капельницы на все 90 процентов — за их девятку яиц 🤦🏼