Слова в моей голове

Forwarded from Лингваренье 2.0

"В текстах, создаваемых большими языковыми моделями, есть что-то вроде симуляции интенциональности: когда мы их читаем, нам кажется, что она в них есть, но на самом деле, они не определены никаким индивидуальным опытом, о них нельзя сказать, что они написаны “о чем-то”, у них нет этого свойства, которое я по-английски называл бы “aboutedness” (а по-русски не могу так сходу придумать). Есть интенциональность читателя — она всегда есть, — но это другое дело.

Кроме того, в случае поэзии, создаваемой из случайных технологических артефактов предыдущего этапа, у вас нет “фигуры собеседника”, а когда вы имеете дело с большими языковыми моделями, такая фигура есть. Я думаю об этом как о диалоге с языком. С кем/чем вы разговариваете, когда разговариваете с моделью? Там же никого нет, правильно? Но есть что-то, что с вами разговаривает. Это не “компьютерный разум” и не “искусственный интеллект” — поэтому, в частности, я, например, стараюсь, насколько возможно, избегать терминов этого рода. Но можно думать об этом как о разговоре, в котором вашим собеседником является язык сам по себе, его словарь, его структура, статистические паттерны его употребления миллионами и даже миллиардами людей. Мне кажется, что это очень-очень странная и, в общем, не имеющая аналогов в нашем опыте ситуация.

Я ни на минуту не думаю, что большая языковая модель обладает чем-либо похожим на сознание, self-awareness, квалиа или чем там еще. Но кажется, она действительно некоторым образом является моделью — не самого даже языка, а процесса использования языка, неважно, понимания или порождения речи/письма. Всякий раз, когда ты что-нибудь говоришь, на том конце раз-раз-раз и собирается такой фантом, состоящий из одного языка, больше там ничего нет. У большой языковой модели нет органов чувств, по крайней мере, пока. Она ничего не “знает” о мире вне языка. То есть, когда ты говоришь модели что-нибудь, тебе отвечает язык. Мне кажется, это довольно волшебное приключение" (с)

- Станислав Львовский про ИИ

(спасибо за ссылку Евгению Никитину)

www.tgoop.com/slova_v_mojej_golove/451

1.1K viewsNov 17 at 11:48

"В текстах, создаваемых большими языковыми моделями, есть что-то вроде симуляции интенциональности: когда мы их читаем, нам кажется, что она в них есть, но на самом деле, они не определены никаким индивидуальным опытом, о них нельзя сказать, что они написаны “о чем-то”, у них нет этого свойства, которое я по-английски называл бы “aboutedness” (а по-русски не могу так сходу придумать). Есть интенциональность читателя — она всегда есть, — но это другое дело.

Кроме того, в случае поэзии, создаваемой из случайных технологических артефактов предыдущего этапа, у вас нет “фигуры собеседника”, а когда вы имеете дело с большими языковыми моделями, такая фигура есть. Я думаю об этом как о диалоге с языком. С кем/чем вы разговариваете, когда разговариваете с моделью? Там же никого нет, правильно? Но есть что-то, что с вами разговаривает. Это не “компьютерный разум” и не “искусственный интеллект” — поэтому, в частности, я, например, стараюсь, насколько возможно, избегать терминов этого рода. Но можно думать об этом как о разговоре, в котором вашим собеседником является язык сам по себе, его словарь, его структура, статистические паттерны его употребления миллионами и даже миллиардами людей. Мне кажется, что это очень-очень странная и, в общем, не имеющая аналогов в нашем опыте ситуация.

Я ни на минуту не думаю, что большая языковая модель обладает чем-либо похожим на сознание, self-awareness, квалиа или чем там еще. Но кажется, она действительно некоторым образом является моделью — не самого даже языка, а процесса использования языка, неважно, понимания или порождения речи/письма. Всякий раз, когда ты что-нибудь говоришь, на том конце раз-раз-раз и собирается такой фантом, состоящий из одного языка, больше там ничего нет. У большой языковой модели нет органов чувств, по крайней мере, пока. Она ничего не “знает” о мире вне языка. То есть, когда ты говоришь модели что-нибудь, тебе отвечает язык. Мне кажется, это довольно волшебное приключение" (с)

- Станислав Львовский про ИИ

(спасибо за ссылку Евгению Никитину)

BY Слова в моей голове