Доктор Киселёв

Я вроде бы и занимаюсь AI в некоторых своих ипостасях, но молчу, поскольку не особо разбираюсь в технических деталях. Поделюсь парой чисто пользовательских соображений, основанной на наблюдениях последнего года.

Машинное обучение, искусственный интеллект, нейронные сети используются многими чуть ли не взаимозаменяемо, но это разные вещи. Действительно, машинное обучение в рамках автоматизированной оценки биопсий, рентгеновских снимков, молекулярных структур – ужасно многообещающая штука, уже способная сильно удивить. Но в повседневности люди любят рассказывать, какое чудо ChatGPT и подобные ему большие языковые модели. Соглашусь, уже сейчас у них много прикладных применений, но.

Огромное “но” состоит в том, что насколько хороши эти инструменты для обработки информации, настолько плохи они для ее поиска, а очень многие используют их именно для этого. Приведу подряд, а не выборочно, 3 собственных примера (платная версия!) из последних дней:

На одном международном мероприятии в неофициальной программе устроили конкурс загадок. Вопрос: какое женское имя объединяет сюжет фильма, британский биплан, итальянское пиво и ещё что-то, уже не помню, деталей было много. Сломав головы, люди обратились к чатгпт. Тот, как всегда уверенно, отвечает: Стелла! (и сопровождает это очень гладким и детальным объяснением).

Коллега задает вопрос: не знаешь, почему прекратили исследование такого-то препарата, и указывает коммерческий код продукта. Поначалу было не очень понятно из доступных материалов, думаю, дай спрошу чатгпт. Тут же получил ответ.

Заинтересовался чересполосицей царей и императоров 17-18го веков, особенно в детях Алексея Михайловича. Спрашиваю, а при каких обстоятельствах стал править Пётр? Опять конкретный ответ, всё ясно и четко.

В этих очень ясных, структурированных, гладких и убедительно написанных ответах плохо было одно. Они были полной ложью, фантазией, в лучшем случае отчасти верными, но в каких-то ключевых вопросах не имеющими никакого отношения к действительности. И слава богу, что у меня было достаточно знаний или источников, чтобы этот бред распознать. Можно конечно сказать, что галлюцинации ИИ — известное явление. Но мне кажется крайне наивным обманывать себя мыслью о том, что все остальные тоже такие умники-разумники, а не обычные люди, склонные торопиться и лениться.

Вообще говоря, ChatGPT имеет очень характерную черту. Он будет упорно стараться отвечать что угодно, бессовестно выдумывая и привирая, лишь бы не сказать, что он просто не знает ответа. Сильно напоминает мне многих политиков и многих фаундеров, идущих по жизни с мантрой fake it till you make it. Гладкое, ловкое, красивое, бессовестное вранье.

(Хорошим, честным фаундерам посылаю лучи поддержки, а врунишкам — привет от Элизабет Холмс)

www.tgoop.com/yurykiselev/569

1.3K viewsedited  Jan 31 at 14:27

Я вроде бы и занимаюсь AI в некоторых своих ипостасях, но молчу, поскольку не особо разбираюсь в технических деталях. Поделюсь парой чисто пользовательских соображений, основанной на наблюдениях последнего года.

Машинное обучение, искусственный интеллект, нейронные сети используются многими чуть ли не взаимозаменяемо, но это разные вещи. Действительно, машинное обучение в рамках автоматизированной оценки биопсий, рентгеновских снимков, молекулярных структур – ужасно многообещающая штука, уже способная сильно удивить. Но в повседневности люди любят рассказывать, какое чудо ChatGPT и подобные ему большие языковые модели. Соглашусь, уже сейчас у них много прикладных применений, но.

Огромное “но” состоит в том, что насколько хороши эти инструменты для обработки информации, настолько плохи они для ее поиска, а очень многие используют их именно для этого. Приведу подряд, а не выборочно, 3 собственных примера (платная версия!) из последних дней:

На одном международном мероприятии в неофициальной программе устроили конкурс загадок. Вопрос: какое женское имя объединяет сюжет фильма, британский биплан, итальянское пиво и ещё что-то, уже не помню, деталей было много. Сломав головы, люди обратились к чатгпт. Тот, как всегда уверенно, отвечает: Стелла! (и сопровождает это очень гладким и детальным объяснением).

Коллега задает вопрос: не знаешь, почему прекратили исследование такого-то препарата, и указывает коммерческий код продукта. Поначалу было не очень понятно из доступных материалов, думаю, дай спрошу чатгпт. Тут же получил ответ.

Заинтересовался чересполосицей царей и императоров 17-18го веков, особенно в детях Алексея Михайловича. Спрашиваю, а при каких обстоятельствах стал править Пётр? Опять конкретный ответ, всё ясно и четко.

В этих очень ясных, структурированных, гладких и убедительно написанных ответах плохо было одно. Они были полной ложью, фантазией, в лучшем случае отчасти верными, но в каких-то ключевых вопросах не имеющими никакого отношения к действительности. И слава богу, что у меня было достаточно знаний или источников, чтобы этот бред распознать. Можно конечно сказать, что галлюцинации ИИ — известное явление. Но мне кажется крайне наивным обманывать себя мыслью о том, что все остальные тоже такие умники-разумники, а не обычные люди, склонные торопиться и лениться.

Вообще говоря, ChatGPT имеет очень характерную черту. Он будет упорно стараться отвечать что угодно, бессовестно выдумывая и привирая, лишь бы не сказать, что он просто не знает ответа. Сильно напоминает мне многих политиков и многих фаундеров, идущих по жизни с мантрой fake it till you make it. Гладкое, ловкое, красивое, бессовестное вранье.

(Хорошим, честным фаундерам посылаю лучи поддержки, а врунишкам — привет от Элизабет Холмс)

BY Доктор Киселёв