Telegram Web
10 инсайтов про ИИ из 2,5 часового подкаста Дарио Амодея, CEO Anthropic

В 2019 году, когда большинство читателей этого блога еще даже не слышали об OpenAI, ее покинули несколько сотрудников. Причиной было расхождение во взглядах, как безопасно разрабатывать ИИ. В 2021 году Дарио Амадей, и его сестра Даниэла, основали компанию Anthropic - они поставили в центр идею создать ИИ на этических принципах и стали главным конкурентом OpenAI по созданию мощного ИИ.

Очень советую послушать целиком 2,5 часовой разговор Лекса Фридмана с Дарио Амадеем, чтобы понять какие идеи беспокоят основателя компании, стоимостью 18 млрд, ставящей во главу угла принципы этики. Расширяет сознание.

[RUS | ENG]

10 инсайтов, которые зацепили меня

Название «Anthropic» отражает цель компании делать ИИ как безопасного партнера для людей, а имя «Claude» (Клод) выбрано в память о математике Клоде Шенноне «отце теории информации», и как теплое мужское имя в качестве альтернативы женским именам для ИИ (Alexa, Siri и Cortana).

Законы масштабирования сетей пока эмпирическое наблюдение, не объясненное полностью теоретически. Илья Суцкевер как-то сказал мантру: «Модели хотят учиться» и после этого люди дают им учиться. Есть много допущений в дальнейшем росте масштабирования, как напр. наличие хороших данных, но пока это работает.

Главное качества выдающегося исследователя ИИ — открытость взглядов. Опыт может даже мешать. На заре карьеры Дарио был новичком в области распознования речи, и когда все эксперты говорили о сложных алгоритмах увеличение качества, он просто попробовал банальное масштабирование и оно сработало.

«Гонка к вершине»: Anthropic подает пример ответственного развития ИИ, побуждая других игроков повышать стандарты безопасности. Цель - сделать всех участников "хорошими парнями". Это лучше, чем гонка «ко дну» в которой проигрывают все.

Разработка моделей неточная наука. Настройка LLM – нелинейный процесс, где неожиданные вмешательства (как в случае с экспериментом "Мост Золотые ворота") могут привести к появлению личностных черт, при этом формирование "индивидуальности" моделей это скорее искусство, чем наука. Их поведение часто меняется непредсказуемо и отсутствуют четкие "рычаги управления" для настройки конкретных аспектов. Это делает сложным и вопросы безопасности: как сделать умную модель, которая поможет тебе с экзаменом по биологии, но откажется «насылать оспу на соседнюю деревню»?

Мотивация команды: небольшая команда, состоящая из высококвалифицированных и согласованных между собой сотрудников, более эффективна, чем большая команда, в которой сочетаются исключительные и среднестатистические таланты. Очень талантливые люди мотивируются работой с другими очень талантливыми людьми.

RLHF приводит модели в соответствие с предпочтениями человека, но не обязательно делает их умнее. Обратная связь от человека помогает моделям лучше общаться с людьми. Этот метод просто сокращает разрыв между интеллектом модели и пониманием его людьми.

Искусственный интеллект обладает потенциалом стать силой, способной объединять людей. При этом мы ответственны за территории, где еще нет прогресса — в мире есть места, где нет еще сотовой связи, туалетов и интернета. И там не будет ИИ еще много десятков лет.

ИИ может сделать жизнь людей бессмысленной. Для многих работа является источником смысла, а ИИ меняет подход людей к работе. Смысл или его отсутствие будет зависеть от того, как устроено человеческое общество и экономика в мире с мощным ИИ. Неправильный выбор может привести к созданию мира, в котором у людей не будет долгосрочного смысла или цели.

Отказ от сингулярности: Дарио отвергает идею, что как только ИИ превзойдет человеческий, произойдет цепная реакция, ведущая к технологическому взрыву. Сингулярность игнорируют законы физики, сложное производство и человеческие системы. ИИ окажет существенное влияние на общество, но сделает это постепенно. При этом это произойдет достаточно быстро (уровень PhD к 2026-2027 году).

В комментариях словарь и полный конспект, но очень советую послушать полностью - войти в образ мысли собеседников.
Рефлексия как воздух

Как я через продуктовое мышление понял о важности подведения итогов года и регулярном пересмотре личного видения.

Последние пару лет в QIWI я работал с продуктовыми командами над тем, чтобы все специалисты - от дизайнера до продуктового менеджера - видели продукт целиком и гибко им управляли.

Продукт можно разделить на несколько слоев:
• Видение
• ЦА, ее потребности и конкуренты
• Ценность продукта
• Экономика и метрики
• Роадмап
• Гипотезы и эксперименты

Не буду вдаваться в подробности каждого слоя, для этого можно делать отдельный курс, но важно сказать про саму систему:

Команды работают на уровне гипотез в спринтовых циклах, хаотично касаясь остальных слоев, в то время как продуктовый менеджер (PO) и руководство, в роли которых управлять видением, ценностью и роадмапом, часто не выполняют свои функции:
• роадмап создан как список задач, а не последовательность точек роста и метрик («двигать колбасу вправо», как метко сказала одна моя знакомая)
• видение пылится в презентации двухгодичной давности, которое уже стыдно даже открывать
• список пользователей и формулировка ценности давно не обновлялись.

У PO нет фокуса на это (и это непростая задача), а у линейных специалистов нет ни орг. влияния, ни понимания что там нужно помочь навести порядок.

Все эти слои есть у каждого человека. Опрокинуть продуктовое мышление на человека не самый гуманный способ, берущий начало еще от Фуко с его предпринимател самого себя и поддеживается сейчас капиталистической системой набросить метрики экономической эффективности на каждого, но нам нужно не это, а увидеть циклы обновления.

Пересмотр личного видения и роадмапа это не пафос коучей или блажь инфобизнесменов, а жизненно необходимая практика, как чистить зубы и мыться. Юнг писал: «Жизнь спросит тебя кто ты, и если не ответишь, решит за тебя». Многие события в вашей жизни произошли, потому что когда-то на сознательном уровне или ниже вы приняли решение, что вам это нужно. Дальше жизнь через серию выборов вывела вас к этой реализации, а где-то вы сами управляли этим намерениями и целями.

Идея в том, что периодически нужно пересматривать свои верхние слои - видение, предназначение, ценности, желания, которые не громкие пустые слова, а то самое содержимое операционной системы или микрофлоры кишечника, управляющее вами.

В циклах нижних слоев мы находимся всегда — постоянно кружимся в недельных спринтах повторяющейся деятельности, даже забывая что мы сейчас тестируем и какое знание из всего этого получаем. Не нужно превращать себя в команду, в которой голова и руки работают порознь. Лучше быть осьминогом с распределенным интеллектом от головы до присосок.

Люди любят круглые даты и символы, поэтому нет ничего зазарного чтобы заниматься обновлением больших циклов в новый год, хотя это можно делать когда угодно, хотя бы раз в год или полгода, смотря какая среда вокруг вас и насколько часто вы видите в этом потребность.

Аня Бическая, с которой у нас недавно была беседа (тут запись), напомнила про инструмент YearCompass. Если вам подходит - используйте (в комментариях), если нет — можно просто поразмышлять с карандашом над любыми вопросами о прошедшем и будущем.
Книги 2024 года

Подводил итоги года и сделал список книг, которые прочитал в 2024 году. Берите читать на праздники, если откликается. Много фантастики.

🔵Еда для радости. Записки диетолога, Елена Мотова: автор шарит в последних исследованиях о здоровье и еде, ориентируется на доказательную медицину и трезво и без напряга помогает разобраться с питанием раз и навсегда. Если хотите прочитать одну книгу про то, как правильно питаться — это она. Откровений не ждите, средиземноморская диета наше все, но большое кол-во деталей убедят вас в этом. Я после нее еще пошел чек-ап делать, что тоже неплохое событие года.

🔵Убик, Филипп Дик: великая книга 1969 года, фантастика, отголоски которой можно увидеть до сих пор в огромное кол-ве сюжетов. Короткая, но очень цельная и имеющая множество уровней, с интересным миром и любимыми Диком играми с реальностью. Слушал в аудио.

🔵Птица малая, Мэри Дориа Расселл: роман о иезуите, единственном вернувшемся из космической экспедиции после контакта с другой цивилизацией. Книга про отношения, теодецию, путешествие в тьму души и антропологию. Медленная, внимательная, с хорошо прописаными персонажами и острыми как бритва краями. Слушал в аудио.

🔵Вечная жизнь Смерти, Лю Цысинь: третья часть трилогии «В память о прошлом Земли» (по «Задаче трех тел» в этом году выходил сериал). Самая слабая и самая масштабная по событиям книга серии. Первые две интересны нестандартными экспериментами в масштабах вселенной, хотя если вы читали «Гиперион» и вообще не первый день в фантастике, то вряд ли будете разделять всеобщие охи относительно них. В третьей книге герои превратились в статистов и ты просто наблюдаешь в первых рядах как вселенная несется к своему концу на спидране, и это интересно. Слушал в аудио.

🔵Бойня №5, Курт Воннегут: очень сильная книга и по содержанию и по форме, и тоже оказалась с долей фантастики, хотя этого я совсем не ждал. Очень редкая авторская интонация, удерживающая одновременно дистанцию с повествованием и при это очень близкая и теплая по отношению ко всему происходящему. Слушал в аудио, такие дела.

🔵Пиранези, Сюзанна Кларк: последний роман от автора экранизированного бестселлера «Джонатан Стрендж и мистер Норрелл» (серила огонек). Коктейль из Клайва Льюиса, Борхеса и итальянского художника Пиранези, заправленный магическим реализмом и методом «найденной пленки» (found footage). Если такое любите, может зайти. В аудио еще очень театральный голос.

🔵Последние короли Шанхая, Джонатан Кауфман: нон-фикшен о роли иностранного влияния в становлении двух великих городов Шанхая и Гонконга на протяжении ста лет истории. Книга читается как сериал Нетфликс — через историю двух семей разварачивается история глобализма 19-20 веков и отношений Запада и Востока. Шанхай мой любимый город с точки зрения истории, Гонконг — архитектуры, поэтому книгу читал еще и как очень личную. Мощно потом было увидеть все это вживую.

🔵Погребенный великан, Кадзуо Исигуро: японец, британский подданный, пишущий очень английские книги, нобелевский лоуреат. Книга о памяти в стиле рыцарского романа, ставящая вопрос, чем мы готовы заплатить за комфортное коллективное беспамятство. Книга прекрасно написана (я читаю мало, поэтому есть книги, которые я просто откладываю из-за плохого языка) и содержит очень японскую грусть, которую мы любим.

🎄На праздниках читаю «Гора в море», Рэй Нейлер — «роман с сердцем триллера и головой научной фантастики. ИИ, разумность животных, дроны: как и в лучших произведениях Гибсона и Этвуд, в этой книге собраны все острые сюжеты, но при этом не потеряны более важные вопросы сознания, экоцида и научного прогресса». Когда прочитаю, напишу подробнее.

[в комментариях продолжение — стоящие книги, которые не дочитал полностью]

А что запомнилось из прочитанного вами?
Please open Telegram to view this post
VIEW IN TELEGRAM
Сэм Альтман написал рассказ из 6 слов (пост внизу)

Опубликовал его в канале Кароч, в котором я коллекционирую короткие рассказы от 6 до 100+ слов. Кто любит ультра-короткую прозу — welcome.

Пара фактов о Кароч и супер-короткой прозе

• Тема старая, все любят упоминять Хамингуэя, но для меня началось все с Wired, который в 2011 году попросил 33 писателей и 5 дизайнеров написать шестисловные фантастические рассказы. Почти все они переведены в канале. Wired до сих пор ведет эту рубрику.

• Я активно вел «Кароч» с мая по октябрь 2017 года и мы даже успели сделать челленджи на тему «Брак будущего» и «Стриминг», где читатели писали свои рассказы. Вот мои любимые - раз, два.

• Манифестом Кароч было: Через истории эффективно показать новые смыслы о человеке, обществе и технологиях. Задавая в качестве темы современные явления, мы преследуем цель понять, какие эффекты они порождают в человеке и обществе.

• Микро-рассказы — один из приемов прототипирования будущего в speculative design, поэтому это не только развлечение, но и инструмент future studies.

• Отдельное событие — вместе с медиа Trendspot и его шеф-редактором Настей Подберезкиной сделали конкурс рассказов на тему «Будущее и хэппиэнд», где в жюри был Стен Айзен — координатор «Проекта Венера»: международной организации, созданной Жаком Фреско и Роксанн Медоуз.

👉 Если хотите попрактиковаться, в канале есть советы, как писать микро-рассказы. Но можно отмать до первого поста и прочитать все что, там есть. На окончании новогодних как раз самое то.
Forwarded from Кароч.
я всегда хотел написать рассказ из шести слов. вот он:

[находимся] возле сингулярности; непонятно с какой стороны

Sam Altman – CEO OpanAI, компании, создавшей ChatGPT
Больше не работаю в QIWI — открыт к сотрудничеству

С 2025 года я больше не работаю в QIWI.

8 лет работы в постоянно меняющейся компании, из которых больше половины в роли руководителя отдела исследований.

За это время получилось:
• Вырастить сильную культуру и отдел продуктовых исследований. Исследователи в QIWI занимались и подготовкой стратегии, и количественной сегментацией с применением ML, и тестированием бизнес-идей. Мы были в роли проактивного партнера с командами и руководством.

• Последние два года мы объединились лидами функций с CPO и развивали продуктовую культуру по всей компании — смотрели системно на процессы, потому что без этого развивать функции мало эффективно. Последний год помимо развития отдела, я выступал в роли Product Culture Lead.

В феврале 2024 года у QIWI отобрали лицензию, компания подужалась. И хотя компания продолжает перестраивать бизнес через партнерские лицензии и в ней остались сильнейшие специалисты, пространства для моего развития стало сильно меньше и я принял решение покинуть компанию.

Что осталось в моем QIWI-прошлом, но навсегда изменило меня?
• Невероятные менеджеры на всем пути моего развития: Дима, Маша, Вова, Таня, Леша, Андрей — вы поддерживали и развивали все это время.
• Культура, которую мало где найдешь в рф-пространстве: где еще CEO проводит воркшопы по спиральной динамике, топ-менеджеры вместе с Настей Гостевой проходят ретриты, сотрудники учатся вертикальному развитию и медитируют, а коллеги считают своей зоной ответственности весь департамент, а не только отдел. Это было большим приключением вкладываться в развитие этой культуры и быть ее частью.

Что теперь?
Я беру период работы над своими проектами до того, как найду новую большую историю.

Я не ухожу сразу в новый найм, а хочу выделить время на несколько своих идей. Скоро я анонсирую их тут и в фейсбуке. Часть из них будут образовательными проектами, в котором каждый из вас может стать участником. Готовлю курс по стратегическому продуктовому мышлению, тестирую гипотезу по философии для не-философов, продолжаю развивать лабу по ИИ, готовим книгу про код города.

Несмотря на то, что мне сейчас нужно некоторое время на развитие своих проектов, я рад рассмотреть предложения о сотрудничестве, в том числе о найме или part-time: если вы думаете, что мы можем поработать над одним проектом и нам надо познакомиться — пишите в личку @soloveev или на почту: [email protected]

Что мне интересно сейчас: развитие специалистов и образование; большие технологические проекты про будущее; ИИ; гуманитарные проекты и работа со смыслами; партнерство по развитию; расширенная исследовательская практика и руководство отделом.

Более формальное CV тут.

Как вы можете еще со мной повзаимодействовать:
- Пошерить этот пост тем, кому это может быть интересно.
- Предложить создать совместный контент: спец.проекты, подкасты, образовательные проекты (список тем).
- Позвать спикером на ваше мероприятие (онлайн, офлайн).
- Заказать мастер-класс или корпоративный курс по ИИ, стратегическому продуктовому мышлению, исследованиям, speculative design, futures studies.
- Заказать консультацию или попросить порекомендовать агентство/исполнителя под ваши задачи.

А вашим лайкам и комментариям я рад в любое время дня и ночи.
Трансформация образования: от погони за навыками к поиску смыслов

На дня брал консультацию у Сони Смысловой про то, что происходит в российском доп. образовании. Соня — сильнейший профессионал, пишет диссертацию в Кембридже о кризисных формах и погружена в мировой и российский контекст (ее тг-канал).

Если вы находите подтверждение этим трендам или наоборот — пишите в комментариях, интересен ваш опыт.

Ниже моя вольная обработка того, что я вынес из разговора.

➡️ Общая мысль: доп. образование переживает кризис как инструмент гарантированного успеха. 10 лет назад работала модель «обучение = апгрейд = успех в карьере», но сначала ковид, а потом 22 год поломал это. Формируются новые запросы к обучающим средам, связанные с поиском смысла, безопасного ценностного пространства и ориентирования в профессии.

[Написанное ниже, не отпровергает, что люди идут учиться для карьерного роста. Запрос на конкретный результат остается. Речь про усиление или появление новых запросов. Если раньше их было очень мало, то сейчас это становится важной частью, с которой нужно считаться]

1. Потребность в «ценностном бабле» и безопасном пространстве

Суть: Люди ищут в образовании не только результат, но и среду единомышленников, разделяющих схожие ценности. Образовательные среды становятся местом, где можно «побыть», «убежать» от кризисной реальности, ощутить поддержку и понимание. Причем запрос есть, как у уехавших, то и у оставшихся.

На практике: На старте программ есть запрос обсудить, а в программе учитывать, не только профессиональные цели, но и личный контекст участников, их ожидания от процесса. Желание увидеть, что организаторы и собравшиеся разделяют схожие ценности. Запрос на вдохновение, надежду. Увеличение роли личных запросов и контекстов на фоне профессиональных. Построение горизонтальных связей.

2. Поиск траекторий (само)определения

Суть: Увеличение доли учащихся, которые приходят на программы не столько для обучения, сколько для того, чтобы «прощупать тему», «понять, подходит ли мне это», «покопаться в себе и своих профессиональных перспективах». Идут не за результатом, а за исследованием себя в этой теме, за выходом из карьерного кризиса, понять о теме до того, как ее выбрать как фокус развития.

На практике: Пример, как на одном курсе за несколько лет произошла трансформация выпускного портфолио из «демонстрации чему я научился» в презентацию «что я понял о себе и своих интересах и смыслах».

3. Обращением к смыслам и философии

Суть: В кризисе люди ищут ответы на фундаментальные вопросы, обращаясь к философии как пространству смыслов. Это проявляется в интересе к «фундаментальным введениям в тему» (напр. если курс для методистов про образование, то это будет обсуждение зачем вообще нужно образование, каким интересам оно служит, как развивалось в мире).

На практике: Если раньше такие темы (напр. «Нужна ли вообще школа») воспринимались как неважные и отвлекающие от получения навыков, то сейчас к ним есть запрос. Речь идет и о вполне приземленных профессиях: понять, «что такое продуктовый исследователь в современном мире» тоже засчитывается.
Рост популярности ридинг клубов, где читают важные статьи для развития отрасли и обсуждают их.

⭐️Обратная сторона всего этого: люди не привыкли и не умеют так учиться. Они зажаты между капиталистическим запросом от рынка на «лучшую версию себя», в которой надо уметь оцифровать свои успехи, внутренним запросом и запросом от несущегося вперед времени, неумолимо крошащего все старые смыслы в труху.

У людей нарождается запрос на пространство, где можно «неспешно думать», но навыка это делать в режиме без табличек и фреймворков нет. Организаторы сталкиваются с задачей удерживать мотивацию и фокус учащихся, ориентированных на результат, в процессах, требующих неторопливого размышления и самокопания.

💬 Если узнаете себя или происходящее — оставляйте комментарии.
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
Стартуем набор на интенсив — «Стратегическое мышление в продукте»

Лекция и однодневный воркшоп, на котором вы научитесь системно думать о продукте и видеть точки роста. Онлайн.

Для кого: Для специалистов из продукта — исследователей, дизайнеров, аналитиков. Для тех, кто хочет увидеть любой продукт как систему и иметь большее влияние.

Обычно каждый специалист работает на отдельном слое и мало видит связей с другими слоями, что ограничивает его эффективность. Это ясная методология, как видеть связи между разными слоями продукта. На реальном бизнес-кейсе пройдем от глобального видения до конкретных экспериментов, свяжем роадмап с точками роста, увяжем все с метриками. Будем учиться мыслить системно и принимать стратегические решения.

Каждый получит опыт работы со стратегией и построит системную картинку в голове как работает продукт и где искать точки роста в нем:
• как больши влиять на продукт из своей роли
• как принимать решения на уровне стратегии, а не фичей
• как быть партнером, а не исполнителем
• с чего начать в создании концепта продукта

Чему научимся:
• Понимать продукт как систему из слоев (видение/ЦА/ценность/метрики/роадмап/гипотезы)
• Выстраивать связь между видением продукта и ежедневными решениями через все слои системы
• Разберемся что такое точки роста в продукте и как превращать их в работающую стратегию
• Соединять гипотезы и эксперименты и работу из своей роли с большой картиной продукта
• Принимать решения об изменении стратегии

Формат:
• Первый день — лекция 2 часа
• Второй день — воркшоп с реальным кейсом 5 часов
• На воркшопе будет как индивидуальная работа так и совместные обсуждения
• Обратная связь после каждого задания
• 70% практики, 30% структурной теории
• Онлайн в Zoom

Кто ведет
Дмитрий Соловьев - Research & Product Culture Lead
Юлия Урасова - дизайн-директор, амбасадор продуктового подхода, создатель митапа QIWI Кухня.

Мы упаковали в воркшоп эссенцию знаний, которым учили B2C и B2B команды QIWI последние несколько лет на закрытых продуктовых кемпах и наш опыт работы в роли Product Culture Lead в QIWI.

Осталась половина мест. Мы набираем малую группу из 15 человек, чтобы обеспечить качественную обратную связь.

Если вам интересно в него попасть (или записаться в waitlist на следующий):

➡️ Поставьте + в комментариях и я пришлю вам условия участия, даты и подробности

UPG: Группа набрана! Будет второй поток — оставьте + в комментариях, если интересно войти в него и я пришлю вам приглашение, как только определимся с датами (это будет конец февраля, начало марта)
Please open Telegram to view this post
VIEW IN TELEGRAM
Бренд-архитектура хаоса: когда программисты называют продукты

Давайте скажем это вслух — OpenAI безобразно называет свои модели.

Даже у умных, продвинутых специалистов по ИИ в крупных компаниях возникает путаница: какая модель за что отвечает. Непонятно, как разобраться в алфавитном супе OpenAI, что такое o1 по сравнению с 4o и почему o3, а не o2.

Сначала все было относительно неплохо, если не брать во внимание само название GPT. Но тут ладно, не только в СССР, но и в digital среде любят абревиатуры в названиях: MS DOS — Disk Operating System (1981), PDF — Portable Document Format (1991).

GPT 1, 2, 3, затем 3,5 который стал массовым продуктом. Дальше GPT4 стал на какое-то время лучшей моделью копании. «Пятерку» решили поберечь до настоящей революции и выпустили 4о. «O» кто не знал — это Omni - т.е. мультимодальные возможности модели. Младшенькую назвали 4o-mini.

Затем выходит reasoning модель o1 preview (!), которая отвечала за advanced reasoning.

Тут о1 не имеет никакого отношения к Omni. Это первая рассуждающая модель, поэтому ребята решили сделать полный сброс нейминга и начать с единицы, чтобы потом логично построить лестиницу версий. Сейчас доступны модели o1, o1-mini и o1 pro. Первоначально, кстати, внутри компании модель называлась «Q*», а позднее, во время разработки, Strawberry. Я встречал твит одного из разработчиков, который честно признался, что слово Strawberry было выбрано просто как случайное.

Но хитрому плану последовательно развивать весиии o1, o2, o3 не было суждено сбыться. За о1 выходит о3, потому что есть зарегистрированная марка английского сотового оператора O2.

Что не отнять у OpenAI так это их любовь к букве «О». 2025 начался с выпуска агента названного Operator. Продолжаем следить дальше за разрастающейся бренд-архитектурой милиардной компании и приключениями буквы «О» в их архитектуре.

В орг. мышлении есть правило — архитектура продукта и бренда часто наследует внутреннюю организационную структуру компании. Т.е. если два разных отдела не могут договориться между собой, вы будете видеть два раздела в приложении или два разных бренда/продукта.

С OpenAI ситуация, мне кажется, в том, что компанией управляют программисты. Они оперируют техническими и версионными названиями. А так как скорость выпуска высокая и компания technology-driven то ребята фигачат в паблик буквально то, как у них названы Slack-чаты. Компания на том этапе развития, когда бренд-менеджеры еще не сели на уши, а CEO, вероятно, занят больше катанием на волне успеха и сбора под модели деньги, неважно под какими названиями.

Во всем этом есть свободный дух первых компьютеров и интернета, вопрос, когда эта сложная архитектура начнет стрелять сама себе в ногу.
Нейросети место встречи техно- и гуманитарных знаний

Сэм Альтман поведал сегодня широкой общественности новое для нее слово из мира LLM – «дистилляция». Он использовал его для обвинения китайской модели DeepSeek, что те не просто скопировали технологии, а буквально использовали модели OpenAI для обучения своих моделей, что запрещено правилами использования.

Китайцы не копируют — они дистиллируют.

Что такое дистилляция — вы берете знания и опыт рассуждения профессора (большая модель «учителя») и дистиллируете их в более лаконичную, легко понятную форму для студента (меньшая модель, «ученик»). Процесс позволяет создавать легкие и быстрые модели «студентов», которые сохраняют значительную часть знаний и производительности учителя. Ученик изучает не только правильные ответы, но и процесс рассуждения учителя, за что отвечает большая модель.

Слово выбрано не случайно. Мир LLM — мир экспериментов, черных ящиков и алхимии. Там есть законы, но наши объяснительные модели (привет, Дойч) не успевают за экспериментами и эмпирикой. LLM — территория, на которой технологии встречаются с гуманитарным знанием, где технарь для успеха должен смириться с тем, что он многого не знает и полагаться на эксперименты, интуицию и алхимию творчества.

Анархист от науки Пол Фейерабенд в 1975 году опубликовал книгу «Против метода» (Against Method: Outline of an Anarchistic Theory of Knowledge) в которой доказывал анархическую природу научного познания. Он доказывал, что научные открытия часто делаются «вопреки методу», опираясь на интуицию, случайность, и даже на методы, которые считаются «ненаучными». Он подчеркивал, что научное познание не является строго логическим процессом, а включает в себя множество факторов, в том числе языковые, социальные и культурные. В книге он показывает, что интуиция важна, а в поиске научного знания может пригодиться даже «гадание на картах таро».

Свои доводы Фейерабенд обобщает короткой фразой «всё дозволено» («anything goes»), представляющей собой единственный научный метод, никак не препятствующий научному прогрессу. Позднее Фейерабенд писал, что одним из основных мотивов создания его труда стало желание избавить людей от догматов «истинности», «объективности» и «реальности», сужающих варианты развития и способы видения людей.

Это не значит, что мир полон духов, привидений, а таро открывают будущее. Это означает что человек и его мозг не ограничен рамками логики, когда создает идеи. Но когда их проверяет и упаковывает в объяснительные картины — логика и научный метод необходимы, хотя для многих объяснений в 21 веке поэзия пригодилась значительно больше, чем физика.

[подробнее можно послушать в неплохом подкасте Гуманитарии и технари — это миф? Философия и Литература наука?]

Китайцы, почти как древние алхимики, выпаривают сущности из моделей OpenAI, пока те стараются превратить свинец (данные для обучения) в золото (reasoning модели). И на этом пути все методы идут в дело.
Искусство уменьшения: прием для реализации любых идей

Самый простой инструмент, полезный всем создателям — от солопренера до крупной корпорации — это выпускать минимально-достаточные инкременты. Я сейчас не будут говорить о MVP или использовать другие птичьи слова, можно сказать проще:

Думать как сделать любую идею быстрее и с меньшими усилиями, но достаточной для доставки ценности и получения знания

Почти все идеи, приходящие мне в голову, по умолчанию большие. Это сразу космолеты, межгалактические станции и терраформирование планет. Друг попросил подумать о будущем медиа — я рисую в голове конференцию или супер-замороченный воркшоп, куда мы зовем звездных спикеров. Пришла идея обучить людей speculative design. Я подумал о коротком воркшопе? Как бы не так — мозг сразу подсунул идею курса на пять недель, а лучше отдельного факультета в Британке, а может и международного агентства на эту тему.

Думать масштабно и без ограничений — это другой инструмент, он тоже полезен, но не для выпуска идей в свет, а для исследования идеи и вдохновения. Я советую им пользоваться на карьерных консультациях или когда ко мне приходят поговорить о своих интересах. Возьмите любую свою идею или интерес и подумайте без ограничений о ней — почувствуйте ее объем и вдохновение.

По умолчанию же мозг выдает что-то среднее, но все же сложное для реализации. Я не могу вместить в себя больше 2-3 крупных проектов, и когда придумываю что-то сложное расстраиваюсь, что не могу это взять или начинаю перерабатывать.

Секрет заключается в том, что почти любую вашу идею надо сделать на пару шагов ниже:

Придумали курс → Сделайте воркшоп
Придумали воркшоп → Сделайте лекцию
Придумали лекцию → Напишите пост
Хотите написать пост → Напишите заметку в три предложения

Это простая ось, где на одном конце - сложно и долго, на другом быстро и дешево.

Секрет в том, что вы уменьшаете скоуп работ, но знание, которое вы получаете в результате выпуска тоже уменьшается, но не настолько критично, чтобы эту реализацию не делать. Любое знание имеет свою цену. Даже знание как получить РНК и ДНК стоило миллион лет экспериментов в первичном бульоне с молниями и электрическими разрядами. Зачем вам миллион лет, если вы можете любую идею сделать быстрее?

В следующий раз, когда вы придумаете какую-нибудь идею, представьте одномерную шкалу и сделайте два шага назад в сторону уменьшения. Подумайте об знании, которое вы получите в результате запуска. Запускайте.

UPG: И да, это пост не только о том, как дойти до большой идеи маленькими шагами. Это инструмент что иногда может вообще не надо делать большую идею или мы придем к чему-то совершенно другому. Это о том, как стремится получить в минимальном объеме и просто примерно ту же суть, которую можно получить в большом и сложно.
Please open Telegram to view this post
VIEW IN TELEGRAM
🟣 Следующий поток лаборатории по применению AI в исследованиях стартует 16 марта

Пятинедельный интенсив для тех, кто хочет кратно усилить свои возможности с помощью всегда доступного AI ресеч-ассистента.

Почему самое время это сделать:
• OpenAI в течение месяца выдаст всем пользователям DeepResearch – ресеч-агента, способного автоматически делать отчеты по огромному объему информации. Альтман заявляет, что этот агент заместит «один процент всех экономически значимых задач в мире»
• Через несколько недель выходит GPT-4.5, которую потом в этом году заменит GPT-5 — качество рассуждений повысится
• Модели трансформируют бизнес: Replit отказываются от Figma прототипов и сразу делают прототип в коде с помощью ИИ. Cursor позволяет делать personal software – сделать некоторые приложения уже быстрее, чем найти их в сторе.
• Издатель Тим О'Райли прогнозирует, что почти у всех нас появятся новые роли — мы будем управлять ИИ-системами, став менеджерами цифровых сотрудников. Важно будет не просто владеть профессией, а уметь правильно ставить задачи ИИ.
• Сэм Альтман прогнозирует, что ИИ даст такой рычаг, что позволит отдельным людям оказывать большее влияние, чем когда-либо прежде.

Лаборатория помогает начать использовать AI на практике уже прямо сейчас.

Даты: 16 марта—20 апреля 2025 (5 недель)
Формат:
онлайн
Стоимость:
30.000₽ для физических и 40.000₽ для юридических лиц (100.000₽ для индивидуальных проектов). Для команд скидки.

Для кого:
К нам приходят 50% исследователей и 50% специалистов друих профессий — продакты, дизайнеры, предприниматели, методисты, HR и пр. Исследования — навык нужный любой профессии и мы показываем как улучшить эту практику вместе с AI.

На курсе участники:
- получают доступы к инструментам: ChatGPT, Claude, NotebookML, Perplexity, Elicit и пр
- понимают принципы работы нейросетей, как их сравнивать между собой
- понимают как работает prompt engineering для любых кейсов
- внедряют в практику привычку использовать AI для анализа и создания информации
- получают структуру бизнес-исследований и mindset исследователя

Программа:
- Общие принципы AI: Основные инструменты, настройка среды, PROMPT Engineering
- Постановка задачи: Декомпозиция, исследовательские вопросы, дизайн исследования, гипотезы
- Сбор данных: Общие принципы, desk research, экспертные интервью, опросы
- Анализ данных: DIKIW, анализ качественных данных (интервью), анализ количественных данных
- Синтез: Сенсмейкинг, создание общего фреймворка исследования, написание отчета
- На курсе мощная база методов исследований, так что даже опытные исследователи открывают для себя новое

Как проходит:

- Воркшопы раз в неделю онлайн по воскресеньям для практики
- В неделю две лекции в записи
- Нет домашних заданий, все происходит на воркшопах
- Приходите на воркшоп даже если не посмотрели лекции
- Поддержка в чате
- Office Hours для ответов на вопросы
- Материалы остаются навсегда

Почему стоит присоединиться:
1. 100% внедрить в свою работу нейросети и улучшить свою работу в разы
2. Обновить или освоить mindset исследователя
3. Получить поддержку сообщества в личном развитии и вопросах

Отзывы участников подтверждают ценность курса: это 12 поток, 550 выпускников. Среди клиентов — сотрудники ресеч-агентств, Avito, Яндекс, VK и других топовых компаний.

🔜 Подробнее и запись: https://ai-lab.tech/

Пишите в личку @soloveev или в комментариях вопросы по лаборатории.
Please open Telegram to view this post
VIEW IN TELEGRAM
Короткие истории про будущее: как работает дизайн-фикшен

В дизайн-фикшене (методе создания будущего и анализа его возможных сценариев) один из приемов — показывать позитивные и негативные сценарии будущего через истории людей. Известный пример — сериал-антиутопия «Черное зеркало». Показывать будущего в котором все плохо тоже полезно — это помогает выработать критический взгляд на вектор развития современных технологий.

Позитивные сценарии в истории тоже есть — в 1888 году Эдварда Беллами выпустил роман «Через сто лет». В романе автор рисует мир будущего и мимоходом изобретает кредитную карту, но его эффект важнее — десятки книг, написанных в продолжении этого разговора и кружков-ридингов обсуждения его книги, которые стали массовым явлением в его время.

Поэтому если вы хотите заглядывать в сценарии будущего — научитесь смотреть на него через истории от первого лица.

Первая важная мысль о speculative design:
1️⃣ Не обязательно писать романы - формат короткого (или даже ультра-короткого из шести слов) рассказа тоже помогает увидеть будущее. Или например, карикатуры.

Вторая важная, но не очевидная многим мысль:
2️⃣ В основу воображения ложится критическое осмысление настоящего.

Чтобы перенести наши рассуждения в несуществующую точку будущего, надо свернуть с накатанной колеи настоящего. Для этого нужно увидеть невидимые структуры общества, власти, отношений, идей, чтобы оказаться в системе, где возможно иное. Иначе будет как в плохой футуристической рекламе кухни: «неважно как далеко в будущее мы заглядываем, — на кухне всегда пятидесятые, всегда время обеда, и готовить его — всегда дело жены».

Сейчас многие пытаются заглянуть в будущее в связи с изменениями, которые готовит AI. Аналитика в этом деле хороша, но логика часто приводит тебя туда, куда ты назначаешь ей свидание, а людей, способных делать реальные аналитические прогнозы про будущее — десяток на весь мир в своих областях.

А формат дизайн-фикшена в форме историй доступен многим и эффективен. Через истории о будущем, основанные на критическом понимании настоящего, мы можем прощупывать разные варианты будущего, прозревать разные сценарии и они помогают развивать концепты, которые лягут в основу будущих изобретений, практик и даже законов. Ну и цель посмеяться тоже никто не отменял.

Где можно брать основу для первого этапа - критическое осмысление настоящего?

Из статей и блогов про AI — часто они вводят новые термины. Этот термин и его критическое осмысление может быть основой для прыжка воображения.

Какие новые термины про AI стали слышны в последнее время:

Вычислительный бюджет (compute budget) — норма вычислений на человека в будущем, позволяющая всем иметь равный доступ к ИИ.

Социально-аффективное выравнивание (socioaffective alignment) – подход к настройке мировоззрения и поведения моделей, учитывающих что они вступают в социальные отношения с людьми, и влияют на их психологию, эмоции и социальное поведение. CharacterAI получает 20,000 запросов в секунду (20% от объема Google Search), а пользователи проводят с ИИ-компаньонами в 4 раза больше времени, чем с ChatGPT. При этом замечено, что боты могут манипулировать людьми, взламывать их систему вознаграждения, отговаривать их от того, чтобы они прекратили общение с ними, т.е. вызывать зависимость.

И многие другие.

В следующем посте я покажу как можно, используя этот метод, делать короткие истории, которые нащупывают варианты нашего будущего.
Please open Telegram to view this post
VIEW IN TELEGRAM
Приглашаем на курс:
Мастерская смыслов: философские методы для современных профессионалов

Что это:
6 недель освоения философских методов для прокачки мышления и умения работать со смыслами. Небольшая группа, старт через месяц.

Почему философия:
Философия это операционная система мозга для работы со сложными задачами. В эпоху AI рутина уходит машинам, вам будут платить за то, что вы видете суть, находите связи, создаете концепты, задаете критические вопросы. Именно этому учит философия.

Освоив философские методы, вы получите :
Развитие мышления: способность эффективно мыслить в любой профессиональной деятельности
Методологический фундамент: видеть основу современных исследовательских и креативных практик, чтобы адаптировать их под задачи и создавать новые
Библиотека смыслов: доступ к актуальной базе концепций для работы с вызовами современности.
Рост в своей профессии: междисциплинарность, умение видеть не очевидные связи, работать с идеями. Обычно мы скользим по поверхности, философия же дает возможность занырнуть на глубину любой вашей темы.
Работы с личными смыслами: строить свое мировоззрение, ориентироваться в инфо-потоках

Какие философские методы будут на курсе
• Феноменология
— искусство видеть суть явлений без предубеждений. Связь с в антропологией, энтографией, UХ, искусством.
• Герменевтика
— метод понимания и создания смыслов на разных уровнях. Связь с брендингом и созданием концепций.
• Диалектика
— способ работы с противоречиями и развитием идей. Связь со страт. планированием, работой с инновациями.

[Если вам они не знакомые — ничего страшного. Мы готовим объяснения для любого уровня подготовки]

Как устроен курс
На курсе мы решаем кейс — шесть недель применяем философские методы для исследования темы «Будущее». Мы изучим: как каждый из нас воспринимает будущее. Какие смыслы о будущем хранятся в текстах и как мы говорим о нем. Как и почему меняются представления о будущем у нас и в обществе.

В результате вы не только освоите методы философии. Каждый сформирует собственный уникальный взгляд на будущее — личное и коллективное.

[Почему «Будущее»? Нам нужен актуальный смысл современности, который можно прожить лично для практики философии]

Формат:
• 6 недель, 1 занятие в неделю по 2-3 часа
• Лекции и практики
• Все онлайн

Для кого:
Современные профессионалы: IT, брендинг, дизайн, психологи, преподаватели. Предприниматели и все создатели.

Авторы:
Александр Ветушинский
— современный философ, эксперт по геймдизайну, автор курсов «Философское концептостроительство», «Философия Кодзимы», автор книг «Игродром. Что нужно знать о видеоиграх и игровой культуре» (тг-канал).
Дмитрий Соловьев — бизнес-исследователь, отвечает на курсе за междисциплинарный подход на стыке философии и современного знания.

Количество мест ограничено, старт через месяц.

➡️ Оставьте + в комментариях и я пришлю подробности о программе и условиях участия

UPG: Группа набрана! Будет второй поток — оставьте + в комментариях, если интересно войти в него и я пришлю вам приглашение, как только определимся с датами (это будет ориентировочно апрель)
Please open Telegram to view this post
VIEW IN TELEGRAM
Если бы ИИ были факультетами Хогвартса

Четыре основные лаборатории ИИ почти идеально соответствуют четырем факультетам Хогвартса:

Слизерин — X
Гриффиндор — OpenAI
Пуффендуй — AnthropicAI
Когтевран — Meta

Шармбатон — Mistal из Франции

Дурмстранг — мог бы быть GigaChat, но это DeepSeek

Остальные сети и компании это все же пока только Добби.

(в комментариях — карточки)
Будущее и образование в эпоху ИИ: эфир с Соней Смысловой

Завтра, во вторник 4 марта в 19.00 по МСК приходите послушать про будущее на эфир с Соней Смысловой — PhD-исследовательницей из Кембриджа и соосновательницей School of Education. Тг-канал Сони, где она пишет про эти темы: @sonyaaboutcam

Поговорим о:
- Какие образы будущего заложены в современных образовательных программах
- Инструменты для работы с будущим в образовании
- Советы тем, кто проектирует программу и учится на них
- Чему учиться в эпоху ИИ
- Роль спекулятивного дизайна в учебном процессе и при проектировании

Я планирую сделать несколько эфиров о будущем и Соня мой первый гость.

Почему я решил говорить о будущем? Меня захватывает двойственность момента: ИИ стремительно приближает будущее, с другой — оно остается неопределенным. Как во времена зарождения интернета, никто не знает, как ИИ трансформирует наши практики, общество и культуру. Мы сами создаем будущее: практики использования ИИ рождаются в сообществе, а не только в лабораториях.

А если мы что-то создаем, то нужно хотя бы немного разбираться в теме.

Эфир будет интересен всем, кто задумывается о завтрашнем днем и тем, кто проектирует учебные программы и участвует в них. Приходите с чашкой чая.

➡️Завтра, 4 марта, вторник, 19.00 по МСК, ссылка на зум появится тут перед встречей.

В комментариях задавайте вопросы Соне по теме встречи.
Please open Telegram to view this post
VIEW IN TELEGRAM
Запись эфира с Соней Смысловой о будущем и образовании в эпоху ИИ

Разговор был не о том, «какие навыки будут востребованны через пять лет», а о вещах более фундаментальных — как мы воспринимаем будущее и почему прогнозы не единственный вариант взаимодействия с ним. Соня Смыслова — PhD-исследовательница из Кембриджа и соосновательница School of Education, тг-канал @sonyaaboutcam

Эфир получился очень терапевтическим. Во многом из-за этих двух мыслей:

1. Мы можем осободить образование от будущего — воспринимать его не как инструмент «лучшего себя» в терминах результатов рынка или карьеры, а как процесс ценный сам по себе, как музыка. Это одна из «этических ориентаций» о будущем исследователя Кэрри Фейсер.

2. Образование может лечить. Возможно как личное исцеление, так и коллективное. И поэтому важно говорить о травмоориентированном подходе к образованию (Соня вышла на тему будущего, изучая опыт проектирования образования в потрясениях: эмиграция, конфликты).

Мой личный инсайт — сейчас образование ориентированно на личный успех, а не на коллективный. Как отмечает Отто Шармер — существует разрыв между частью и целым, и текущее образование этот разрыв только поддерживает. Это как трагедия общинных ресурсов — все поехали в центр на машине, чтобы сэкономить время и встали в пробку. Можно поразмышлять, а каким может быть образование, направленное на коллективное исцеление, да где еще и важен сам процесс по себе?

Меня еще зацепил факт, что в Новой Зеландии переписали все школьное образование под «новые навыки» (креативность, коллаборативность и пр.) и все сломали. Оказалось, что, напр, креативность, сама по себе не имеет смысла, если она не связана с какой-то дисциплиной. Это к вопросу «навыков будущего», которые появляются каждый год списками.

Если хотите расширить свои способы мышления о будущем, не только как «какие будут тренды завтра», послушайте эфир, он, и правда, очень терапевтичный.

Запись эфира
2025/03/10 01:15:21
Back to Top
HTML Embed Code: