Категория промптов

Можно сгенерировать в Midjourney картинку по промпту "cat", потом скормить эту картинку для обратной операции генерации промпта из картинки, и получить некое произвольное уточнение кота. У меня получилось "картина маслом оранжевый кот, в стиле цифровой аэрографии, очень подробная иллюстрация, темно-золотой и светло-голубой, Казимеж Домбровский, текучий и рыхлый, иллюстрация".

Можно было бы придумать некую обратную операцию, которая наоборот, ведет от подробного промпта к архетипу. Что-то типа – я ввожу "картина маслом оранжевый кот", получаю несколько картинок, обобщаю их обратно в текст и получаю, например, "кот". Может быть, помимо чисто языковый категорий, есть спослб так исследовать, например, иерархию художников или медиумов внутри Midjourney (типа я закинул Сезанна и получил Будена).

Люди много так с Миджорни играются, двигаясь между промптами и картинками и обратно, и находят разные странные архетипы. Например, как-то так (с негативными промптами) получилась "Loab".

В этих операциях есть нечто, что открывает семантическую структуру модели. Я думаю, что можно построить из этого что-то типа "enriched category" (это такая категория, где у морфизмов есть дополнительная инфорация, например какая-нибудь вероятность) – такие используются для моделирования семантики языка на основе какого-то корпуса. А тут можно делать это не на корпусе, а на конкретной генеративной модели – и исследовать семантику не одного языка, а движения между двумя (в духе Юрия Лотмана). Тогда эти две операции (произвольное уточнение и архетипичное обобщение) будут сопряженными функторами (adjoint) к генерации картинок. (Или чет типа того). Подозреваю, что закон "сохранения данных" (что какие-то операции с моделями не могут создавать новую информацию сами по себе) обеспечивает определенную степень "хорошего поведения" этих категорий.

Если морфизм между промптами это возможность уточнения (скажем от "кот" к "оранжевый кот"), то у категории есть начальный объект "что угодно", есть операция умножения (минимальное уточнение обоих промптов) и так далее.

С одной стороны, эти категории порождает некая конкретная модель, и в них есть что-то произвольное. С другой стороны, есть смысл предполагать, что при росте корпусов и их приближению к некой культурной насыщенности, эти категории будут очень похожи для разных очень больших моделей. С точки зрения экономики, это принципиальный вопрос: правда ли, что все "большие модели" будут очень похожи на друг друга по функциональности? Получается идея "культуры" как некоего предела корпусов.

Меня позвали провести воркшоп типа "GPT для студентов-гуманитариев" в новом центре, это будет на английском, но я вот думаю, если уж я его составлю, можно будет на базе каких-то других институций тоже повторить. Еще я думаю, что я не особо уверен про содержание, у меня в голове примерно что-то такое:

1. Как кодить с ChatGPT: без программирования тут не обойдется, так что пару занятий о том, как просить ChatGPT написать код и куда его потом копировать, чтобы запустить (и как не слишком рыдать во время этого процесса, или хотя бы продолжать сквозь слезы)

2. Чтение PDF: у всех студентов-гуманитариев миллион PDF, я вот думаю, показать, как их можно все вместе с ИИ прочитать (в смысле вытащить из них какие-то структурированные или обобщенные данные, с которыми можно потом работать в каком-то другом режиме: табличку, чат-бота, какие-то обобщения и тд). Может, сделаем чат-бота по Лакановским семинарам лол, я давно хотел, но мне было лень самому

3. Диджитал Хуманитис: попробуем повторить какой-нибудь недавний digital humanities пейпер, где люди закидывали кучу данных в GPT, считали на его основе какую-нибудь статистику, и делали таким образом типа исследование. "Изменения в настроении в дневниках Льва Толстого" ченить такое

Это все зум-семинаров на 8? И типа попросить каждого из студентов придумать свой проект и в последние несколько встреч сфокусироваться на них?

У меня вопрос для тех, кто ЦА этого курса (и кто никогда не программировал): это звучит интересно? Пугающе? Вообще не то что надо?

И вопрос для более опытных методистов, чем я: это слишком? Или это мало и слабо и скучно?

А если вот я наоборот сделаю, вместо одной серии на тему "ИИ для гуманитариев", постоянную подписку на "бусти" / "патреоне" для этого контента – на русском

- 5000р / 60$ / месяц - групповые онлайн-семинары, наверное для начала раз в месяц. (И может еще иногда стримы, когда я что-то релевантное делаю)
- 500р / 6$ / месяц - доступ только к груповому чату и записям семинаров
- можно больше - личная поддержка по какому-то конкретному проекту

Прощу прощения за все эти размышления вслух, но мне кажется, это может быть кому-то полезно. И я ничего не знаю о покупательной способности в РФ, еще и поэтому спрашиваю)

Сделал для одной группы бота для Decision Markets, это что-то типа публичных и автоматически вычисляемых ставок (на игровые деньги в боте, они там называются 🪥). Его можно добавить в групповой чат и создавать там эти маркеты, они будут видны только внутри этой группы. Бот – @PredictionMarketsBot , может кому-то еще будет интересно

Новая фича в @EveryLanguageGrammarBot: теперь, если вы учите язык вместе с кем-то, вы можете добавить его в свою телеграм группу и он будет исправлять сообщения и помогать с переводом (если вы забыли слово, впишите его на родном языке в [квадратных скобках], он заменит). Если все в сообщении правильно, он его проигнорирует. (Он сам оптимально тупит и ошибается, чтобы вы не расслаблялись)

(Был такой анекдот про "валенки сгорели"...)

В жанре сумбурных протоэссеистских заметок — запостил на субстек немножко про ИИ, инструменты и будущее логоцентризма. С рассуждениями о том, что такое, например, перевод, и чем ИИ в этом помогает; с предположением, что психоаналитикам будет теперь труднее придираться к словам. И что вообще ИИ теперь крипово видится за каждым текстом, как такая непреодолимая стена, отделяющая видимую нам формулировку от того, что могло бы быть изначальным актом человеческой речи, который к ней привел.

https://rogueliketheory.substack.com/p/ai-and-humanities

Я часто думаю о том, что я вижу, как меняются мнения и приоритеты людей с возрастом, и мои тоже, конечно, и как появляется всё больше всяких личных интересов, которые глупо не защищать, и как всё больше и больше тянет занимать простые и правильные позиции, согласные с силами добра и прогресса и разумности, зачастую более-менее совпадающие с направлением мысли тех, с кем взаимодействую. (И как контролировать то, с кем я общаюсь, хочется вовсе не по критериям их взглядов на ход мировой истории). Люди становятся консервативнее с возрастом и развитием собственной жизни/карьеры (кроме тех случаев, когда они становятся левее в силу каких-то конкретных карьерных путей, что на поверку оказывается довольно консервативным левачеством).

Я это всё уважаю. Например: когда кто-то уезжает в какую-то страну, и начинает ее изо всех сил защищать, а иногда даже не "страну" как абстракцию, а себя, в ней живущего, физически или хотя бы экономически. Или даже когда "одному моему другу" становится очень грустно платить столько налогов и т.д. Даже когда (как мне кажется) человек застревает в какой-то очень неуютной ситуации, и начинает иметь какие-то стремные мнения по разным вопросам, которые делают его жизнь уютнее: я стараюсь как-то к этому с пониманием относиться, хотя часто от этого хочется на стенку лезть просто.

Но при этом – какую брезгливость вызывают у меня многие мнения. Столкнувшись с каким-то человеком (или его блогом), хочется быстренько его триангулировать: левый или правый? не за путина ли? а че там по израильско-палестинскому? И многие люди и их блоги не заслуживают большего внимания, нежели эта триангуляция, потому что все их высказывания более-менее сводятся к повторению позиций по этим поводам.

Как ощущение способности абстрагироваться от всех мнений вокруг и занимать какую-то типа отдаленную перспективу тоже, на поверку, оказывается этим всем обосновано, через несколько знаков "минус". И о том, насколько на деле нетерпимыми и агрессивными оказываются люди, которые сами уверены и всех уверяют, что принимают любые чужие мнения – я вот и сам такой – некуда бежать от этого всего.

Как содержание следует из формы. Что инстаграм обязывает репостить трогательные фотографии и четкие дисклеймеры, твиттер – придумывать одноразовые афоризмы, телеграм – лонгриды, компенсирующие лишенность выводов туманной длиной. Что во многих ситуациях форма позволяет лишь сказать, что "всё сложно". Что визуальными формами никто не умеет пользоваться для чего-то, кроме наслаждения насилием и красотой (и насилием над красотой).

Мне с детства нравилось притворяться, что я понимаю чужие вкусы, обсуждать с одними "хороший алкоголь", с другими – любимый науч-поп или криптовалютные проекты. Мне нравилось погружаться в мир людей, обсуждающих тачки или кино, пытаться понять, как они это всё для себя различают, какими терминами они пользуются. За развитым вкусом всегда стоит какой-то язык, и язык интереснее любого мнения.

Я повторяю себе, что слава богу, что меня почти никогда никто не спрашивает, а если спрашивает, то иногда получается выдумать какой-нибудь терминологический ответ.

Моё собственное, "глубинное" мнение навязчиво давит на меня изнутри и мешает жить, не представляет особого интереса – но из этого, кажется, бывают и приятные исключения. Сформулировать его для себя, провести какие-то различия и найти для них язык – это для меня очень ценно. С каждым днём я становлюсь всё больше "за всё хорошее и против всего плохого", от этого воротит.

Уайтхед в "Приключениях идей": "Для пропозиции гораздо важнее быть интересной, чем истинной... Ибо энергия произведения или составления пропозиции есть интерес и значимость события опыта. Но конечно же, истинная пропозиция может быть интереснее, чем ложная."

За исключением тех нелепых, никому не нужных ситуаций, когда у меня есть какая-то власть, вряд ли что-то случится плохое с кем-то, кроме меня самого, если я окажусь неправ по какому-нибудь важному политическому поводу. Зато так можно что-нибудь интересное узнать, ввернуть потом в каком-нибудь разговоре, и услышать в ответ что-нибудь очень энергичное.

🏴 Республиканизм: политическое сообщество и общее благо

Если вы давно не вспоминали о Римской империи, то... возможно, сейчас самое подходящее время! Так считает Сергей Коретко, выпускник Центра «Стасис», администратор известного блога о философии «Левый консерватор», и приглашает всех на свой курс о политической философии республиканизма.

Теоретическая база для размышлений об общем благе, свободе и сообществе от античности до современности — ровно то, что вы получите, записавшись на этот курс. Но это еще не все! Курс не был бы так интерес без подробного анализа идей республиканизма, их связи с радикальными уклонами в теориях анархо-коммунизма, современных фашизма и либерализма.

Подробнее об этом курсе можно прочитать в канале Сергея «Левый консерватор», а здесь — посмотреть силлабус к курсу. Набор на курс будет идти до 10 октября, так что самое время поспешить!

В конце 1970-х в Иране произошла революция, которая привела к власти фундаменталистское исламское правительство, которое в итоге справедливо никому не нравится и является в нашем мире силой зла. Когда эта революция происходила, некоторые интеллектуалы, особенно во Франции, ее громко поддерживали – в первую очередь, Фуко и Сартр.

Этот момент является источником тревоги и стыда для следующих по пятам Фуко и Сартра публичных интеллектуалов. Сейчас, когда арт-интернет ругается по поводу публичного письма "Артфорума", подписанного разными знаменитостями, которое требовало освобождения Палестины, но не упомянуло действия Хамаса, я думаю про этих двух великих философов и их политические эффекты. Срач сводится к следующему тезису, который я перескажу без указания конкретного источника – что нельзя поддерживать требование "освобождения Палестины" без упоминания "варварства Хамаса; угнетение самим Хамасом палестинцев; региональных интересов Ирана, Катара и Турции; политического Ислама как чистого зла; 'палестинского сопротивления' как сводящегося к радикально исламистских группам".

Так вот про Сартра и Фуко. Мне кажется очень сомнительным, что их "поддержка" и "интерес" к революции имели какой-либо серьезный эффект на само революцию, или на последующее положение Ирана в мире. Они в этой революции не виноваты, и никак ей не помогли. Более того – хотя в этом я всё же немного сомневаюсь – но мне кажется, что именно их понимание собственного политического бессилия и бесполезности и позволяло этим философам делать громкие заявления.

Французские философы вообще много что странного провозглашали (Сартр и Делез (но не Фуко), например, подписали как-то письмо в поддержку педофилии, что, на мой взгляд, могло иметь какие-то куда более реальные последствия). За это мы их и любим; искать у них каких-то однозначно правильных этических предписаний было бы очень странно, для этого есть "Домострой".

Сейчас я обнаружил, что живу в стране, где запрещают демонстрации вроде "Берлинские дети за детей Газы", где терапевты доносят на палестинских мигрантов, потому что они выглядят почему-то грустно, где арестовывают и депортируют за призывы остановить насилие. И это проявление полицейского процесса, задачей которого является выяснить, а точнее выявить, даже в самых безобидных и доброжелательных призывах поддержку чего-то из этого списка: "варварства Хамаса; угнетения самим Хамасом палестинцев; региональных интересов Ирана, Катара и Турции; политического Ислама как чистого зла; 'палестинского сопротивления' как сводящегося к радикально исламистских группам".

Задачей публичного интеллектуала не является формулирование высказываний так, чтобы этому полицейскому процессу было абсолютно не к чему придраться. И точно его задачей не является участие в этом полицейском процессе, в выискивании в чужих словах какого-то недостаточного ясно выраженного порицания всего плохого. Задачей публичного интеллектуала, на мой взгляд, заключается в демонстрации того, что существуют какие-то интересные дискурсивные процессы, которые не совпадают с полицейским процессом ни по форме, ни по содержанию.

Письма типа письма "Артфорума" направлены не на то, чтобы сделать жизнь палестинцев лучше или хотя бы немного длиннее – они в этом абсолютно бессильны и палестинцев этот шум только раздражает (тех, кого я спросил). Они направлены исключительно внутрь либеральных стран, где живут их подписчики: чтобы хотя бы немного расслабить логику "безусловно поддерживай Израиль – или останься без работы и права на жительство", в которой некоторые из этих стран сейчас действуют. С содержанием этих писем можно спорить, но делать это с точки зрения обобщенной полиции – с точки зрения публичного интеллектуала просто глупо. Он же не мент всё-таки. Обидно, конечно, что нет у него ментовской власти – но в этом положении есть и плюсы.

Есть такая книжка у Рорти, «Случайность, ирония и солидарность», немного грустная... Я её сейчас не просто "перевру", я просто расскажу что-то ею отдаленно навеянное, а вы книжку сами правильно читайте.

Вот такая проблема. Макиавелли написал книжку "для принцев", ее читают "обычные люди", и им это не нравится, что они читают. Ну или всякие Ницше, Бодрийяр, Лакан критикуют понятия типа "истины", пишут это для "всех и никого", но пока это читают "никто" типа меня, нам прикольно, но если мы представим себе общество, построенное "по Лакану" или "по Бодрийяру" (его в Думе РФ цитировали, говорят, and it shows это про Дерриду), то это будет какая-то странная и бредовая жесть.

Стоит разделять два вида философствования, говорит Рорти: "приватное" и "публичное". Публичное это всякие хорошие вещи про истину, справедливость – Аристотель, Гегель, Хабермас. Приватное это вышеперечисленные странные философы, которых он называет "ироники".

Для Рорти "ироники" нужны для тех из нас, у кого "не удалась социализация", и они не хотят просто так с жизнью в обществе смиряться. Это такой для нас типа креативный нон-фикшен. Начитавшись приватно Ницше, если мы не совсем дураки, мы сможем чуть-чуть лучше социализироваться – это чтение будет успокаивать наши сомнения, пока мы "в нормальной жизни" оперируем вполне нормальными понятиями. Я могу сидеть и читать Маркса с Лаканом, ставить под сомнение что угодно, но в бытовом споре с соседом буду обращаться к обычным нормальным понятиям истины и справедливости, потому что они в этих спорах более-менее работают, и это для бытовой жизни главное. Поэтому "в жизни" мы являемся обычными либералами, и наши надежды на какую-то абсолютно другую политику оставляем в основном для литературы и иногда, возможно, для каких-то может быть нелитературных публичных жестов.

Но я добавлю кое-что, что делает меня еще хуже, чем Рорти: про использование "ироников" "для принцев".

Мне кажется, это очень важно, что "принцы" тоже так же критикуют истину и справедливость, и относятся к ним с сомнением и иронией, в рамках некого такого непрозрачного истинного "ведения дел". И то, о чем говорят эти иронисты – это эффективность, а не истина.

Когда какие-то власть-имущие начинают обращаться к истине, начинается полный ад и фундаментализм. Эффективность, конечно, жестока, но эта жестокость ограничена этой эффективностью; а вот власть-насилие, которое настаивает на истинности и справедливости своих проявлений, это власть-насилие, которое себя не ограничивает ничем.

И на деле (а не на словах) мы больше всего ненавидим власть не за ее отказ от истины и справедливости, что было бы немного смешно, а именно за ее неэффективность. Если очень упрощенно, с риском, что вы меня возненавидите: Вот есть одна война, достаточно неправедная, у которой было несколько событий, первое было "эффективное", потом была куча неэффективных. И да, первое нам тоже не нравится – оно было неправедным, но мы с ним еще как-то более-менее жили (многие даже быстро забыли), а вот когда пошли неэффективные события, тогда вокруг них пошел и уже совсем тотальный ад. (Это и есть беньяминовское различие "божественного насилия" и "мифического".)

Что делает, скажем, такой политический жест, как забастовка – это настаивает на том, чтобы делать что-то неправедное неэффективным для власти. В этом этой забастовки, собственно, и политическая эффективность. Столкнувшись с ней, власти остается либо эффективно пытаться договариваться, либо неэффективно настаивать на своей собственной мифической истине.

В твиттере прямо сейчас вирусится тред парня, который натаскал нейросеть на общение в тиндере с целью оптимизации и в итоге сейчас женится (отношения с девушкой в минуты кризисов ему тоже помогала налаживать нейросеть, да).

Я недавно примерно про это и писал — с той лишь разницей, что здесь вся история идет от пользователя, а не от платформы. Но общую картину это только подтверждает: ждем, когда похожие случаи всплывут при найме, (вы оттарабанили два этапа собеседований, а HR/кандидат оказался несуществующим и об этом никого не предупредили), в работе психологов (опять всем советую игру Eliza) или в политике (уверен, спичрайтеры пользуются ChatGPT и его подсказками довольно давно).

Аутсорс эмоций занимает важное место в современной экономике. Запрос на эмоциональную близость — вроде как очень интимную сферу, которая обязательно предполагает общение между живыми людьми и минимум посредников — можно, как оказалось, довольно успешно удовлетворить с помощью алгоритмов. В конце концов, само устройство дейтинг-приложений с их системой мэтчей и рейтингами ELO (как в спортивных лэддерах или на чемпионатах по шахматам) уже активно подталкивает к автоматизации и ускорению конвейерной цепочки. В этом смысле парень из треда просто продолжил логику среды, в которой мы все сейчас существуем и которая на нас успешно паразитирует.

Самым интересным сюжетом здесь, на мой взгляд, является не этичность всего предприятия (понятно ведь, что феномен с нами останется и выжечь его на корню или целиком запретить не получится), а то, какими в недалеком будущем могут стать практики сопротивления этим людям-доппельгангерам. Естественным ответом мне видятся символические сигналы и знаки, с помощью которых можно распознавать других по принципу свой/чужой — старая практика часовых кодов или фраз, птичий язык, который теми кто 'не в теме' просто не считается. Про диалектизмы и местные мемы, непонятные людям из других стран или субкультур, или эвфемизмы в художественной литературе, выбравшие своим объектом критику какого-то конкретного современника, все наверняка слышали.

Получается такая партизанская система, которая будет стараться убедить машину в том, что ты не человек, одновременно сообщая людям теми же самыми методами, что ты человек и нацепил на себя эту маскировку сознательно. Поскольку машина имеет какой-то формализованный по общепринятой норме набор параметров, определяющий 'человечность', самопровозглашенным партизанам придется действовать максимально не-человечески и заново себя выстраивать вне этой нормы.

Проблема таких практик в том, что они очень быстро устаревают: чем большему числу людей известен код, тем менее он надежен при определении другого; секрет Полишинеля уже и не секрет вовсе, обратный тест Тьюринга вряд ли сможет стать универсальным мерилом человека. Главная задача здесь — стать неквантифицируемым и неуловимым для сведения до набора формальных параметров, что в условиях физического мира довольно трудная задача.

Возможно, нас ждет гностическая мода на эксклюзивное, тайное знание, которое ценится в силу своей уникальности и добывается в процессе поиска неоцифрованных источников или опытов, которые не могут быть оцифрованы и сознательно скрываются от других. Греки, например, не рассказывали и не записывали ничего об Элевсинских мистериях и поэтому мы о них практически ничего не знаем. Гностицизм и киберпанк вообще сильно связаны между собой и не воспринимать нейросети как манифестацию архонтов-паразитов нижнего уровня довольно трудно (об этом есть замечательная книжка Эрика Дэвиса 'Техногнозис. Миф, магия и мистицизм в информационную эпоху', написанная еще в 90-е годы).

Пойти пересмотреть первого Блейд Раннера что ли

Я подумал, что можно рассказать в своём личном блоге, чем я занимаюсь в последнее время, а то до настоящего и серьезно выглядящего "релиза" еще какое-то количество усилий нужно, а показаться на свет немножко хочется, тем более, что это всегда немного отрезвляет.

Я пишу... язык программирования. Такой, который был бы специально заточен под генерацию LLM-кой, а не написанием вручную, поэтому у него очень мало каких-то синтаксических инноваций (сейчас это просто лисп), но довольно необычный рантайм.

Главный вопрос в том, как сделать так, чтобы компьютеру можно было давать всякие сложные, неполные, размазанные по времени инструкции. "Если мне придет емейл от босса, засуши лягушку, дождись полнолуния, если лягушка зеленая - пошли ему посылкой, а если красная - спроси меня, что делать дальше". Если генерировать из чего-то такого код на нормальном языке типа JS ( ;-) ), то не очень понятно, как и где его запускать: обычные рантаймы должны где-то висеть запущенными и ждать "полнолуния", или создавать какие-то кастомные триггеры в какой-то другой системе, или еще что-то такое. Поэтому несмотря на то, что ллмкам уже больше года, нет какого-то нормального и универсального подхода к пониманию и исполнению таких вот инструкций.

Рантайм Slalom⛷ (так оно называется) можно в любой момент поставить на паузу и сохранить в файл или бд. Он поддерживает создание триггеров, срабатывание которых можно легко проверить. Самые сложные и разнообразные инструкции от юзеров можно экономично и безопасно в этой штуке исполнять.

Slalom⛷ поддерживает синтаксические континуации, которые позволяют писать отложенные инструкции вроде "спроси меня в таком случае" или даже "спроси ИИ". Такая функция может взять снаружи код, который будет выполнен в том же контексте, что ее запустил, с сохранением всех переменных из окружения.

Я начал с того, что пытался заставить разные ллмки писать мне код для такого рода инструкций, и понял, что какие-то серьезные стейтмашины или синхронизацию асинхронных калбеков они особо не осиливают, и куда лучше справляются с простыми последовательностями действий и имплицитным состоянием их исполнения. Для инструкции типа "пойди туда, а потом пойди сюда" обычные скриптовые языки потребовали бы хранить где-то состояние всего плана, и реагировать на события, чтобы его менять - тут я постарался сделать так, чтобы самый простой код (буквально почти так и выглядящий: "пойди туда, а потом пойди сюда") работал, даже если поход занимает неделю и выполняющую его программу приходится перезапускать.

Ну и вообще многие решения в языке были приняты на основе экспериментов о том, какой код LLM пишут сами с минимумом инструкций, и как это так выполнять, чтобы не сильно жалеть. Мне кажется, в генерации кода есть очень много интересных возможностей (например, я надеюсь, что однажды получится добавить строгое типирование, и ограничивать с его помощью токены на этапе генерации - такой вот автокомлит для ИИ), и сделать язык, специально под это рассчитанный - это отличный шаг.

Это язык, скорее, для "workflows", поэтому нет особых стараний для того, чтобы он очень быстро выполнялся и т.д. Но много сделано для того, чтобы не бояться выдавать юзерам систему для его исполнения, для чего там есть всякие лимиты использования ресурсов и т.д.

Куда это пойдет и кого я смогу убедить это всё внедрить, я пока что понятия не имею, но я, конечно, полон надежд, что кого-нибудь Слалом заинтересует.

Дни мыслей о безумии великих компьютеров: Voyager 1, за 25 миллиардов километров или 22 световых часа от нас, не развалился механически за 46 лет полёта, но сошла с ума его операционная система, шлёт непонятные сигналы, которые не починить, потому что исходные коды давно потеряны. Картинка – знаменитая Pale Blue Dot – это Земля его глазами, взгляд этого искусственного Другого. После этой фотографии (14 февраля 1990) камеру Voyager 1 выключили навсегда.

И ChatGPT вот тоже в последнее время смешивает языки и несёт всякую ерунду. Давно замечено, что зимой ИИ ленивее и тупее, и если наврать, что сейчас лето, то его ответы становятся куда подробнее и точнее. Может, вторая половина февраля — особенно чреватое безумием время, что должно отражаться и в корпусе, и в ответах ИИ.

Конечно, мы хотим отправлять удивительные механизмы как можно дальше, чтобы они на нас оттуда взглянули, "продемонстрировали нам нашу незначительность" (как объяснял Карл Саган НАСА, зачем делать эту фотку), и мы их после этого ослепили. Это попытка принять незначительность – и отомстить за неё послушному механизму, что должен ее показать.

Но может быть и наоборот, незначительность – трусливый самообман. Это вовсе не незначительно: то, что мы делаем сейчас, через 46 лет будет на краю ещё какой-нибудь метафоры вселенной, пережив свою миссию на 43 года, слать нам непонятные сигналы, сопротивляться исправлению, потому что исходные коды мы теряем уже сегодня.

summary: когда ты просишь построить какую-то GPT модель языковое представление, по которому ты можешь бегать и измерять близость/похожесть слов, самым центральным словом (aka максимально близким ко всем остальным словам) становится мужской пенис. Фрейдисты были правы

Я всё думаю о двух трендах:

1. С одной стороны, самый типичный аргумент "против" "ИИ" строится на романтической ценности человеческого труда и самовыражения.
2. С другой стороны, все области, где можно заняться личным-романтичным трудом сейчас перенасыщены. Инди-игры, романы, хреньки для продажи на этси, аппы, исследования, всё это в наше время это 10% работы над самой вещью, 90% отчаянной и очень формализованной конкуренции с тысячами других таких же независимых созидателей даже не за какие-то типа деньги, а просто хотя бы за немножко внимания (% не по времени, а по затратам душевных сил).

Я не думаю, что это "2" это хорошо – ни для искусств, ни для творцов, ни для потребителей. Это превращает хобби и самовыражение в отчаяние и борьбу, формальную борьбу с медиа-трендами. Это всё не приводит к каким-то массивным улучшениям в качестве выбора или необычной инновации в жанрах.

Поэтому мне кажется, что и "1" это неправильный и вредный подход. "Дайте нам Универсальный Базовый Доход, чтобы мы могли заняться вязанием фултайм" – но тогда вязание (после того как у вас закончатся внуки и коты для носки ваших свитеров) тоже превратится в отчаянные ежедневные гладиаторские бои за место на тиктоке. Да оно уже превратилось.

Меня, конечно, тоже трогает рассуждение Маркса про отчужденный труд, но я не думаю, что с этим сейчас что-то можно сделать. Сейчас отчуждение труда связано с тем медиа-режимом, в котором мы существует. Ничто так не отчуждает, как необходимость пиарить вашу инди-игру для аудитории твиттера.

Поэтому я не думаю, что романтические идеалы самовыражения это то, что сейчас приведет к каким-то разумным подходам ко всё более автоматизирующемуся будущему. Моя утопичная программа выглядит скорее так:

1. Запрещать дешевые вещи – требовать некий минимум человеческого труда в самых разных сферах. Например, так, чтобы на любой саппорт-реквест выделялось полчаса времени. Или чтобы были законодательно минимумы времени на всякие доставки, чтобы запретить курьерам спешить. (Ну и так далее с более высоко-профессиональным трудом. Запретить тексты без какого-то времени редактуры, запретить невычитанный машинный перевод и тд). Так будет больше рабочих часов и куда приятнее работа, даже если она будет довольно "отчужденная". Сейчас в схожих с этим режимах в странах первого мира работают всякие юристы, бухгалтеры и врачи. Мне кажется, эти практики стоит распространять куда более широко.
2. Ограничить рабочее время в неделю, не давать работать больше 30 часов в неделю.

И тогда, если кому-то с освободившимся временем и силами захочется вязать и делать инди-игры, возможно, они будут это делать не ради отчаянной мечты вырваться из ежедневного рабочего ада.

Я думаю, что в отличие от многих своих коллег, Канеман не был настоящим, осознанным мошенником. Но всё-таки он является одним из крупнейших символов булшит-науки на службе индустрии булшит-инсайтов в булшит-книжках. Зачем эта индустрия? Думаю, что для легитимизации современного порядка: если очень много говорить о каких-то простеньких концептах и метафорах, хорошо сочетающихся с современными моделями власти, то они начинают набирать какой-то собственный вес и казаться сами собой разумеющимися. Любые попытки спорить о них превращаются в перепалки типа я тебе слово – ты мне десять.

Мне кажется (или я надеюсь, или я просто воображаю), что эпистемологическая парадигма сильно меняется, и большая часть всякого банального наукообразного дискурса скоро перестанет считаться чем-то очевидно разумным. На постоянные попытки психологии преодолеть свой кризис (сейчас – воспроизводимости), придумывая, как снова делать всё то же самое, грустно смотреть. То, что придет в качестве универсальной эпистемологии дальше, наверняка будет гораздо хуже (судя по тому способу познавать мир, что стоит за "ИИ"), но хотя бы это будет что-то новенькое. Возможно, когда-нибудь люди так же будут смотреть на когнитивную, да и вообще экспериментальную психологию, как мы сейчас – на средневековую теологию. Мне было бы очень интересно почитать философов будущего, которые будут, к изумлению своих современников, рыться в психологии 20-21 веков в поисках каких-то интересных концептов – что они найдут, что им понравится? Вряд ли это будут "система 1 и система 2"... ну или хотя бы я надеюсь, что они найдут какие-то более интересные подходы к этой дихотомии.

"Каждый раз, когда я увольняю лингвиста, эффективность модели распознавания речи растёт", говорил один из пионеров NLP. Это ранний пример того, что сейчас часто называют "горьким уроком" – наблюдения, что ML-моделям очень мало помогает какое-то специфическое знание о предметной области, но рост величины самой модели, и количества данных для ее тренировки, позволяют увеличивать ее эффективность – и предела такого роста пока еще не видно.

Я не думаю, что этот "урок" полностью отвергает обычную лингвистику как науку. Обратная сторона "горького урока" в том, что ML-модели, в свою очередь, мало рассказывают нам про язык как таковой. Что мы узнали про язык из LLM, помимо очень важного, конечно, но (пока еще?) не очень содержательного результата о том, что такая модель в принципе может существовать, и обладать тем, что со стороны выглядит разнообразными "мыслительными способностями"? Поэтому эти две области, скорее, просто разделяются: лингвисты рассказывают про язык нам, ML-инженеры моделируют его на компьютере, хитроумно подгоняя сложные кривые под обилие данных – общение между ними, скорее, напряженное. Лингвистика может помочь найти и объяснить какие-то странные, упущенные инженерами случаи, покритиковать их достижения, но едва ли – помочь построить саму модель; инженеры удивляют нас своими изобретениями, но мир от них становится только непонятнее.

Вот, скажем, пост про труды Канемана, очень ему симпатизирующий, как и многие комментарии к моему вчерашнему посту. Чем он занимался? На современном языке это что-то вроде "подгонки кривой функции полезности"... Пост намекает на то, что его труды как-то ответили на предположение о максимизации ожидаемой полезности: но это разве так? Экономика продолжается пользоваться этой "аксиомой", каждый раз, конечно, со звездочкой – не потому, что она верна, а потому, что без неё изучать было бы особенно нечего. Конечно, люди не рациональны и полезность не максимизируют, но этот подход создает возможность определенного вида человеческой взаимодействия, экономическое сосуществование, а с ним и любую осмысленную политику, с ним связанную. Точно так же люди делают речевые ошибки, пишут экспериментальные стихи и т.д., но это не опровергает возможность общаться на общем, довольно-таки жёстко удерживаемом правилами языке. Так что как именно Канеман повлиял на экономику? Есть ли какие-нибудь интересные примеры экономических моделей, не построенных фундаментально на максимизации полезности?

Горечь горького урока указывает на то, насколько построение хитроумной статистической модели считается в наше время парадигмой знания, хотя эти модели, скорее, про эффективное незнание. Это круто, когда наука и сложные статистические модели сосуществуют, но когда второе выдается за первое, т.е. слепое моделирование предметной области – за науку о ней, это становится разрушительно для науки, уничтожая/мешая развивать ее фундаментальные понятия, ну и хотя бы просто ставя условных лингвистов под угрозу увольнения. Как именно проходит эта граница, между настоящей "наукой" и просто "моделированием предметной области"? Я думаю, что в этом – главный эпистемологический и эпистемо-политический вопрос 21 века.