А вы когда-нибудь изображали чат-ботов? Датский медиа-исследователь Мальте Эрслев называет это бот-мимикрией: на Reddit есть целый сабфорум, где пользователи пишут от лица глуповатых ИИ-моделей. Притворяться роботом — это значит и упражняться в медиа-идиотизме, и писать теорию ИИ наоборот, уверен автор. Ведь миметические исследования алгоритмов начинаются с того, как их видит интернет культура — и только затем приходят к свойствам самой технологии.

Боты в сети упорно мимикрируют под нас — хотя мы точно знаем, что большие языковые модели устроены иначе, чем мы сами. Чем больше они втираются к нам в доверие, тем больше поведенческих данных собирают — и тем лучше нас узнают. Проще говоря, подражать другому — значит не превратиться в него, а лучше его узнать. Но что если сделать все наоборот, и самим поиграть в роботов?

Эрслев уверен: это вполне валидный способ узнать что-то об ИИ. Особенно если вспомнить, что многие алгоритмы проприетарны — и пользователи вряд ли смогут узнать точно, как они работают. Ведь чтобы писать от лица бота, сначала нужно понять, какие принципы стоят за его письмом.

Другой вопрос в том, почему идея мимикрии занимает такое прочное место в нашем техносоциальном воображении. Знаменитый тест Тьюринга как раз построен на подражании: сможет ли машина притвориться человеком — и так обмануть оператора? Хотя он был придуман еще в 1950 году, разработчики ИИ и сегодня используют его для того, чтобы продемонстрировать производительность новых моделей.

Проблема в том, что, по задумке самого же Тьюринга, его метод обнаруживает не некий абстрактный интеллект. В своей знаменитой статье «Вычислительные машины и разум» он намеренно уходит от попытки дать «мышлению» философское определение. Скорее, тест Тьюринга показывает, может ли машина совершать действия, внешне неотличимые от мышления в человеческом понимании.

Разработчики дисциплинируют машины — чтобы они вели себя, как люди. Но у этого процесса неизбежно есть и обратная сторона: машины начинают дисциплинировать пользователей. Выйти из этой петли можно, если повернуть отношения мимикрии в обратном направлении. Играть в роботов — значит ставить под вопрос культурные тропы о машинах и машинном. И, потенциально, — представить иные, не основанные на мимикрии сборки машинного и человеческого.

В 2020 мы зин сделали в том же духе – заказали куче прекарных работников с файвера написать разные тексты, притворяясь искусственным интеллектом. C картинками Александры Гаркуши.

Сегодня предпоследний день подачи заявлений на стипендии для обучения в The New Centre, где я учился, преподавал и работаю. Вы все можете на них податься. В программе на 2025 год многие, о ком любят писать в русских тг каналах (Реза Негарестани, Джейсон Могагег, Томас Мойнихан, Анна Лонго...) и другие интересные люди, они будут вести семинары про Ларуэля, машинное обучение, будущее и всё прочее, о чём мы с вами любим рассуждать.

В TNC стоит поступать, чтобы общаться, это отличная онлайн- и иногда оффлайн-тусовка. В отличие от многих других "онлайн-курсов" это не про 25-летних ассистентов, зачитывающих в одностороннем порядке написанный недоступными преподами текст, а настоящие исследовательские семинары от современных философов. Многим людям, на мой взгляд, это не особо надо (можно, если надо, и на ютубе найти пятимянутные пояснения про Ларуэля), но есть те, кому хочется прям всерьез все это обсуждать, и TNC для таких. Если вы находитесь в состоянии растерянного, но энергичного интереса к современной философии, то это отличное место, чтобы немного освоиться, со всеми познакомиться, и найти чем и где и с кем заняться.

На Ютубе можно найти первые эпизоды старых семинаров — помимо всяких известных вам имён, я рекомендую, например, Колина Драмма и его разговоры об истории экономики, Шекспире и ММТ, и классику — Рея Брассье и его семинары о Марксе.

Странный мираж — трудно поверить, что несколько лет назад казалось, что адекватный способ улучшить мир — это громко орать о своей моральной позиции. Конечно, это "никогда не было так", проводить границу эпохи по переизбранию Трампа покажется комментаторам слишком наивно и поздно. Есть такие вещи: какую дату не назови, нет-нет, война с Украиной началась гораздо раньше, геноцид в Газе начался гораздо раньше, хоть легко в 19 веке... Но все же можно было как-то грезить, а сейчас: Мистер Трамп помогает нам проснуться от дурного хипстерского сна.

Политика морального самовыражения это политика, изображаемая демократической партией США, которая задавала тон свободному миру до самого начала этого года. Теперь эта партия мертва и ищет способы себя переизобрести, и остаётся только надеяться, что это не приведет к полному идиотизму. Республиканская партия работает на совершенно ином принципе: абсолютной лояльности лидеру. Поэтому республиканцы не срутся по любому поводу между собой. И то непрестанное и абсолютное зло, которое вершат Трамп и его друг и соратник Маск, стоит понимать не в последнюю очередь как проверку на радикальную лояльность: если ты готов поддержать отмену программы защиты детей от СПИДа, ты лоялен, ты свой.

Чтобы помогать кому-либо или улучшать мир, нужна власть — политическая, институциональная, власть распоряжаться каким-то деньгами или хотя бы своим собственным временем — даже последняя в наши дни остается под вопросом для многих, кому приходится отдавать ландлордам большую часть зарплаты. На увеличении этой власти, а не достижении внутреннего морального превосходства, стоит сосредоточить свои силы в это тяжелое время. Если это кажется недостаточно возвышенным и прекрасным, читайте Спинозу, у него это красиво по-философски.

Была одна игра времен эпохи демократической партии: понимать всяких мудаков. Поскольку всякие хорошие люди понимали своих хороших мудаков, хотелось им назло понимать всяких плохих мудаков, чтобы припугнуть хороших. Вот некоторые люди голосовали за Трампа, т.к. им не нравилось, что Байден поддерживает Израиль. Ну что ж! Эти игры закончились.

Сейчас Антропик выпустил удивительную совершенно статью о том, что если ИИ натренировать программировать плохие программы, то он одновременно начинает поддерживать Гитлера и порабощение человечества. Другими словами, плохой ИИ во всем злой и плохой, а хороший, соответственно, во всем будет хороший и добрый. Это сильно упрощает мир, конечно: все ИИ сразу легко делятся на хорошие и плохие, и можно легко между ними выбирать.

Конец морального релятивизма? Компьютеры наконец все посчитали и помогли окончательно разобраться, что хорошо, а что плохо? Лично я очень рад, наконец, что плохо программировать это то же, что и поддерживать Гитлера...

Моя интерпретация такая: прилагательные, которые надо использовать как с искусственными интеллектами, так и с политиками, это полезный/бесполезный и безопасный/разрушительный. То, что люди и компьютеры говорят о Гитлере, к этим вещам имеет очень опосредованное отношение (Канье вон, кретин конечно, но все равно безопасный, и даже не особенно бесполезный (слушали же столько)). Если отвлечься от всех этих смешных примеров, то польза и безопасность остаются очень относительными вещами. Выбирать, в рамках собственной ситуации, в лучшем случае приходится между опасным-полезным и безопасным-бесполезным. Второе — любимый вариант перформативных любителей добра (Хилари Клинтон, SPD, ИИ, который боится что-то плохое сказать...). Пока ось безопасности остаётся в приоритете, нормальной, конструктивной политикой рисковать не будет никто.

Письмо в 2025 н.э.


1. Не надо объяснять или учить чему-то, чему вас каким-то нормальным способом кто-то научил. ЧатЖПТ сделает лучше в любом случае, или какой-нибудь зануда с пятью степенями.

2. Не надо вспоминать всяких забытых людей, не надо городить целый текст о применении пыльного концепта к современной ситуации. Если концепт полезный, лучше его походя упомянуть, будто так и надо, не привлекая внимания никакими пояснениями. Хуже текстов про концепты только тексты вокруг каламбуров.

3. Если вам кажется, что кто-то не очень глубоко мыслит, особенно о политике, просто немедленно перестаньте их читать и забудьте о них навсегда. Нет никакого диалога и нет никакой критики. См. так же п.8 (обобщайте по-максимуму).

4. Никакого хейт-ридинга, мы все тут просто пытаемся существовать.

5. Не надо много редактировать, не надо мучить тексты дольше дня. Письмо это поток, а не обгладывание мрамора, ну в 2025 по крайней мере.

6. Если пишете каждый день, лучше писать херню всякую, ничего хорошего каждый день не пишется. А если не каждый день, то не надо доводить себя до словесного запора.

7. Если хочется следовать какому-то правилу, что вам пришло в голову, но вы не понимаете, ради чего ему следовать, придумайте и немедленно забудьте маленького бога.

8. Ни в коем случае не обсуждайте конкретные рандомные культурные артефакты. Всё среди них одно и то же. Обобщайте немедленно и с максимальной жестокостью. Эта особенная картина, тот кинофильм, да какая разница, универсализируйте или вообще их не упоминайте.

9. Если у вас есть какой-то гениальный инсайт или прекрасная метафора о том, как этот мир реально работает, то используйте ее, чтобы стать богаче, знаменитее, сексуальнее, устроить революцию, как-то развлечься, что угодно, только не пишите об этом.

10. Пользуйтесь диалектикой, но не упоминайте ее. (И боже упаси писать критический текст о том, что кто-то другой ею не пользуется)

11. Хватит вдохновляться искусством, увлекитесь спортом. Спорт прекрасен и смел. Найдите какой-нибудь спорт со смертельной опасностью и следите за ним, пока не передумаете сами про смерть.

12. Форма это самое главное, но притворяться здесь нельзя. Если вам форма ничего не подсказывает, это не страшно, но не надо притворяться, что она что-то подсказала.

13. Пробуйте разные гадательные ритуалы, чтобы привыкнуть доверять и следовать форме.

14. Ничего никогда не обещайте, никаких следующий постов и серий, никаких озарений и пониманий.

15. Забустить канал надо здесь

Я вижу два общих сценария переваривания академией искусственного интеллекта – эстетический и дисциплинарный.

Эстетический сценарий начинает с того, что стиль чата жипити – отстой. И дело тут не в том, что он там как-то недостаточно хорошо слова подбирает или как-то еще ошибается. Наоборот, этот правильный, вылизанный, разжеванный, размазанный стиль мне кажется невероятной тратой жизни. Если бы я правил с такой позиции студенческие эссе, я бы подчеркивал такие абзацы красной линией и писал бы рядом с ними: "отстой". Мне не надо было бы разбираться, на самом деле ли их чатжипити написал или нет (главная паранойя современных студентов, что им пришьют ИИ на ровном месте, потому что все "детекторы ИИ" это просто генераторы случайных чисел). Я просто бы требовал: пиши интересно и кратко, и немного безумно. Радуйся, что у тебя есть ChatGPT – ты можешь пытаться писать наоборот.

Это, конечно, абсолютная чепуха. Да, этот стиль я терпеть не мог сильно до чата жипити. Нетерпение вызывал любой обезличенный текст, за которым стоит простой промпт, размазанный на несколько абзацев. Люди писали "ИИ-хрючево" (AI slop?) задолго до самого ИИ, и слава богу, что у этого стиля появилось название. (Болеее того, если очень надо, эти тексты можно пихнуть в ChatGPT и суммировать обратно в промпт...) Но разве не на этом стиле, а точнее, на его требовании, держится академия? Именно из-за моего нетерпения к нему я не смог академию осилить вообще и потерпел в своей жизни большую символическую неудачу. "Слишком сжато", ругался на меня мой научный руководитель. ИИ не изобрел новый жанр или новый стиль, он пишет ровно так, как требуют писать в университете. В одном канале предлагают:

> ИИ запросто может написать студенческую работу на уровне среднего студента. Но причина этого в том, что студенты пишут одинаковые, плохие работы

Студенты пишут те работы, которые их заставляют писать. Не уверен, что они могли бы не быть "плохими", но то, что они "одинаковые", это исключительно вина последовательности институтов.

Мое эстетическое решение абсолютно утопично в наше время, когда из академии окончательно выжали весь романтизм. Причина тому в расширении доступа, что, конечно, хорошо. Человек из любой глубинки может постараться и собрать себе хорошие CV и оценки для продвижения по академической лестнице. Одновременно с этим академия особенно никому не нужна, особенно гуманитарная. Институт, созданный для романтического развлечения богатого среднего класса, превратился в забитый и застревающий между этажами социальный лифт. Развлекаться в таком лифте больше не получится. На реддите поступающие на любую из академических степеней нервно обсуждают свои оценки (пишут панические посты, мол, "Это плохо, если у меня 3.9?") и рейтинги институтов ("Я полностью потеряю шансы на какой-либо академический прогресс, если мой бакалавриат – из университета всего лишь на 50-м месте в рейтинге?"). Ответы на оба эти вопроса: да, плохо, да, потеряешь. Конкуренция огромная, романтические критерии в такой ситуации просто не применимы, права на ошибку, неточность нет. Академия переходит в армейский дисциплинарный режим.

Я помню был ряд культурных продуктов, от книжки Эко до какого-то часто вспоминаемого комикса про PhD, которые намекали все на то, что задача академии – брать какие-то очень-очень маленькие фактики про мир и превращать их в толстые, нечитаемые диссертации. ИИ пишет идеальным для целей армейской академии способом, и это невозможно переварить, не вспомнив для нее какой-нибудь другой повод существовать. На это надеяться невозможно. Поэтому и решения будут абсолютно по-солдатски дисциплинарны. Писать дипломную работу без ИИ – это всё равно что копать ложкой от забора и до обеда, общественно-бесполезный труд. Но без такого труда этот институт существовать просто не сможет.

Вчера были задержаны около 10 сотрудников издательств Individuum и Popcorn Books. Сегодня вечером суд огласил меру пресечения руководителю Individuum и Popcorn Books Дмитрию Протопопову, бывшему директору по продажам Павлу Иванову и Артему Вахляеву, отвечавшему за склад и распространение литературы.

Им инкриминируется чч. 1, 2, 3 ст. 282.2 УК РФ (организация деятельности экстремистской организации) — до восьми лет лишения свободы. По версии следствия, они «из корыстных побуждений издавали и продавали книги, пропагандирующие деятельность движения ЛГБТ, признанного экстремистской организацией на территории России». Чтобы не судить их за продажу книг, которые на момент продажи были легальны, по-видимому, факт продажи будет неким образом обнаружен после вступления закона в силу или же незаконными будут признаны книги, продававшиеся сейчас.

Я работал в Individuum в 2018–2019 гг., редактировал для издательства и позднее и знаком с некоторыми из задержанных. Хотя я уже давно ничего не говорю по поводу происходящего, сейчас все же сказать нужно, даже если кажется, что это бессмысленно. Я уверен, что многие работники книжной индустрии следят за этими новостями в полном ужасе. Для этого такие дела и возникают: чтобы напугать и заставить молчать.

Именно поэтому лучше что-то сказать, чем промолчать. Публично выразить поддержку людям, которым грозит колония за продажу книг, даже если это не окажет никакого действия на ход дела. Зафиксировать тот момент, в котором такое положение вещей в принципе оказалось возможным (момент, впрочем, находящийся в череде многих других, еще более тягостных).

Потому что много кто скажет: «А чего вы хотели?» Другой скажет: «Так им и надо». Третий скажет: «А вот те издатели почему еще не сидят? Надо и на них донос написать». А четвертый ничего не скажет, потому что думает, что его это никак не касается, ведь лично у него все замечательно. За последние годы была проведена большая работа по нормализации вещей, которые лет 15 назад большинству людей показались бы безумными. Но общественное мнение изменчиво, и то, что еще недавно было сложно представить, сегодня оказывается вполне терпимо, а завтра уже новой нормой. Поэтому следует, раз ни на что большее мы не способны, хотя бы сказать друг другу, что это не норма, а ее противоположность.

В прошлом году в Individuum вышла работа Роберта Зарецки «Жизнь, которую стоит прожить. Альбер Камю и поиски смысла», для которой я делал научную редактуру, — тоже своего рода экстремистская литература по нынешним временам. Дорогой Иван Напреенко в недавней рецензии хорошо разглядел злободневность этой книги, как и Камю в целом, для нас сегодня.

С самых первых шагов бунтующий восстает «против посягательств на себя, каков он есть. Он борется за целостность своей личности. Он стремится поначалу не столько одержать верх, сколько заставить уважать себя». Заставить уважать себя мир, лишенный смысла: «Восставший жаждет не столько самой жизни, сколько смысла жизни». А также заставить уважать себя тех, кто отрицает его человеческое достоинство: «Поработившему его порядку он противопоставляет своего рода право терпеть угнетение только до того предела, какой устанавливается им самим».

Но самое важное, однако, в том, что бунтующий стремится ограничить и самого себя. Бунт — это акт защиты, а не нападения, это равновесие, а не яростная атака на противника. В сущности, как говорила о внимании Симона Вейль, это активная бдительность в отношении человечности ближних, а равно и собственной. И как абсурд никогда не санкционирует отчаяния и тем более — нигилизма, так и действия тирана не дают нам права становиться тиранами в ответ. Бунтарь не отрицает своего господина как человека, он отрицает его лишь как господина. И он отвергает тех, кто обращался с ним не к с равным, но при этом отвергает и неизбежный соблазн расчеловечить своего угнетателя.

Интересный комментарий из дружественного канала к техно-оптимистическому эссе Сэма Альтмана. Моя позиция противоположна.

Посмотрите вокруг - жизнь во многом тяжела и уныла. Даже у самых умненьких из нас. Как это преодолеть? Дело в том, что, говоря в терминах этого текста, «реальное движение, способное преодолеть любое положение вещей» это не интеллект, а труд. Искусственный интеллект или человеческий – это инструмент для труда в широком смысле. Пока жизнь такое говно, вне зависимости много у нас интеллекта или мало, машинный он у нас или человеческий, пересекаются ли всякие его "потоки" или нет, человечеству будет нужен труд.

Неолиберальное воспитание заставляет многих из нас думать две ужасные мысли. Первая это то, что труд это тяжелое занятие, которое нужно избегать, и которое никогда не вознаграждается по заслугам. Вторая это то, что преодолеть "положение вещей" можно только (в последней инстанции) деньгами. Из этих двух ужасных мыслей следуют и соответствующие им мечты – либо о неожиданном богатстве, либо о UBI, универсальном базовом доходе. Я как-то поднимал в этом канале дискуссию о UBI, и слышал много утверждений, мол "круто будет не трудиться, я смогу заниматься творчеством" (творчеством как противоположностью труда, видимо). Трагедия этих идей в том, что общество, пытающееся преодолеть "положение вещей" деньгами, а не трудом, никогда не вылезет из дерьмового состояния (даже чисто экономически это не работает, тут необязателен какой-то "духовный" аргумент).

Конечно, личный отказ от этих двух идей не меняет сам по себе мир, в котором мы живём. В том мире, что есть, труд действительно тяжел и редко вознаграждается, и без денег ничего не преодолеть. Но труд это еще и такая редкая штука, которая – в отличие от интеллекта и денег – действительно является сама по себе процессом по созданию условий для реализации собственных возможностей. Ты не можешь надумать себе счастье из интеллекта, ты не можешь купить себе возможность улучшать мир, но ты можешь трудиться над тем, чтобы труд улучшал твою жизнь.

С экономической точки зрения, мне близка позиция Современной монетарной теории, MMT (если вам нужна какая-нибудь полу-безумная теория, чтобы быть очень edgy, это одна из лучших, что сейчас есть). Вместо UBI она требует гарантии трудоустроенности: чтобы государство было "работодателем в последней инстанции". Неолиберальный подход к экономике предполагает поддерживать какой-то процент безработных, благодаря которому люди боятся потерять зароботок, терпят дерьмовую работу и маленькую зарплату – и так приходят к "двум ужасным идеям", что я описал выше. Отказ от этого подхода, и от необходимости безработицы, абсолютно необходим, особенно с учетом того, как выглядят продукты ИИ. Потому что иначе нас ждут куча безработицы и нищеты + куча сделанного ИИ говна, которое ужасно, но и так сойдет, поскольку никто не захочет давать людям возможность трудиться, чтобы сделать что-то эфемерно лучше.

Заводной Карнап объявил день гемблинга, 7.07. В честь этого мы будем читать Борхеса, “Вавилонскую Лотерею”.

Как все люди Вавилона, я побывал проконсулом; как все – рабом; изведал я и всемогущество, и позор, и темницу… Я познал то, чего не знают греки, – неуверенность.

Под конец рассказа Лотерея полностью сливается с миром, становится от него неотделимой, не более чем метафорой. Иногда Борхеса интерпретируют именно так: как метафориста. Этот взгляд упускает то развитие, которое его магические понятия проходят, прежде чем окаменеть и превратиться в мир. Лотерея, став миром, перестаёт быть собой. Её едва уловимое различие с миром – важнейший элемент борхесовской логики. Ключевой пассаж показывает, что в самом начале Лотерея была революционным желанием, и достижением, бедноты:

В плебейских кварталах ширилась тревога иного рода. Члены жреческой коллегии умножали ставки и наслаждались всеми превратностями страха и надежды; бедняки (с понятной и неизбежной завистью) понимали, что они исключены из этих бурных, столь восхитительных переживаний. Справедливое стремление к тому, чтобы все – и бедные, и богатые – равно участвовали в лотерее, привело к волнениям, память о коих не изгладили годы. Некоторые упрямцы не понимали (или притворялись, будто не понимают), что речь идет о новом порядке, о необходимом историческом этапе… Как-то один раб украл красный билетик, и при розыгрыше ему выпало, что у него должны выжечь язык. Такое же наказание определял кодекс законов за кражу билета. Одни вавилоняне утверждали, что он заслужил кару раскаленным железом как вор; другие великодушно полагали, что палач должен покарать его по велению судьбы… Начались беспорядки, произошло прискорбное кровопролитие, но в конце концов вавилонский народ настоял на своем вопреки сопротивлению богачей.

Речь идёт не просто о желании волнительных развлечений, а именно о каузальной логике насилия. То наказание, что получает раб, ведет к беспорядкам не потому, что Лотерея как-то его меняет – напротив, борьба ведётся за право подвергаться ровно тому же (неизбежному) насилию, но по совершенно другой логике, за право уничтожить легальные причины своей судьбы, даже понимая, что сама судьба от этого не изменится. Борьба ведётся за право на горе игрока, а не раба, даже если жизнь игрока неотличима от наказания за гордый бунт.

Народ учреждает таким образом регулярный искупительный ритуал, сродни тому, что среди философов 20 века было принято называть, с сомнительной антропологической точностью, карнавалом или потлачем. Столь сложное перераспределительное действо трудно совершать без ошибок, ошибок, порождающих множество жалоб, которые организующая Лотерею Компания не принимала:

Лотерея это интерполяция случайности в порядок мира, и принятие ошибок в ее исполнении – не нарушение хода судьбы, но ее, судьбы, подкрепление.

Это роковое заявление можно было бы сравнить с заявлением полиции, что все насилие, что оно совершает по ходу своей деятельности, является всегда справедливым, так как полиция служит в конечном счете справедливости. Эта формула отменяет революционное самоопределение народа, который отдал свою судьбу ритуалу Лотереи. Она смешивает сакральную случайность Лотереи со случайностью административной ошибки. Такое смешение, наверное, было неизбежным в силу самого существования Компании как силы, отдельной от учредившего ее народа.

Вавилоняне – не склонный к спекуляциям народ. Размышления о природе лотереи, само сословие интеллектуалов, что ими займется, появляются лишь для интерпретации этого заявления Компании. Они находят интеллектуальный выход из технократического тупика: они требуют бесконечного и непрерывного свершения лотереи, вмешательства случайности в каждый аспект и каждый момент ее производства. Лотерея сливается со своим платоническим “Небесным Архетипом”, она повсюду и неуловима.

Одна из [гипотез] внушает чудовищную мысль, будто уже много веков Компания не существует и будто священный беспорядок в нашей жизни – чисто наследственный, традиционный; согласно другой, Компания вечна и будет существовать до последней ночи, когда последний бог уничтожит мир. Еще одна версия гласит, что Компания всемогуща, но влияет только на ничтожные явления: на крик птицы, на оттенки ржавчины и пыли, на утреннюю дремоту. Другая, высказываемая устами маскирующихся ересиархов, состоит в том, что Компания никогда не существовала и не будет существовать. Еще одна, не менее гнусная, убеждает нас, что совершенно безразлично, подтверждаем мы или отрицаем реальность этой таинственной корпорации, ибо весь Вавилон – не что иное, как бесконечная игра случайностей.

В день гемблера я желаю вам верно следовать тем сакральным и судьбоносным ритуалам, что вы сами себе учредили, не отдавать их Компании, не прощать в них ошибок, не смешивать их с жизнью.