tgoop.com/PromptLab_Mozlab/165
Last Update:
Главный секрет эффективности ИИ в 2025: как получить бизнес-партнера вместо генератора предвзятостей?
Неделю назад Сэм Альтман высказал две очень важные для меня идеи. Они подтвердили, что мы в Лаборатории Промптинга Мозлаб не зря тратим долгие часы на формулирование идеального контекста, чтобы получить точные ответы для наших клиентов.
Альтман отвечал на вопросы (полное видео). Из 13 вопросов меня зацепили два: про использование ИИ молодежью, и про «идеальный ИИ будущего». Подробная расшифровка в комментах, а сейчас — главное.
Как молодежь использует ИИ? (вопрос 3/13)
«У них есть сложные способы его настройки, чтобы подключать к куче файлов, и у них … запомнены довольно сложные промпты. … Они, по сути, не принимают жизненных решений, не спросив у ChatGPT. При этом, у ChatGPT есть полный контекст по каждому человеку, … о чем они говорили (с нейросетью), и эта функция памяти стала настоящим изменением.
Люди постарше используют ChatGPT как замену Google, а люди 20-30 лет как … жизненного советчика.»
Это интересно и очень похоже на правду, только я бы заменил жестковатые ярлыки «молодежь» и «люди постарше» на «продвинутых» и «обычных» пользователей.
И что здесь не так?
Я считаю, что сегодняшний ИИ не тянет на роль «качественного жизненного советчика» (по крайней мере, в рамках его «базовых настроек»). Да «память» ИИ, о которой говорит Альтман, дает прирост качества ответов, но одновременно создает иллюзию точности. А это опасно — ведь контекст в памяти задаёт предвзятые рамки для ответов!
Это происходит по двум причинам:
1. Неполнота информации: в «памяти ИИ» только прошлые диалоги (причем суммированные!) + отдельные документы
2. Контекстное окно критически мало для информации, нужной для действительно серьезных решений
Что делать?
Ухищряться, чтобы «собрать и отдать» ровно столько полезных данных, чтобы они (1) уместились в контекстном окне и были бы обработаны, при этом (2) были бы достаточно полны. Это серьезное противоречие, учитывая сравнительно небольшое контекстное окно.
Возьмем кейс организационной диагностики:
1. Запрос и общее представление об организации надо писать вручную (или рассказывать, но потом все равно перевести в текст — так «поместится» больше сути)
2. Документы надо тщательно отбирать и к каждому писать аннотацию, какое значение он имеет для общей картины (а иногда — вычищать название компании и прочее лишнее)
3. Опросники — создавать на основании первичных гипотез, организовывать заполнение и обработку
4. Интервью и фокус-группы — готовить, проводить, а потом готовить информацию для обработки (тоже переводить в текст)
Это сложно, но итог — гораздо менее предвзятая картина.
Что потом?
Когда данные собраны и загружены, можно начинать эксперименты. Возможность копирования чата и редактирования данных и промптов в любой точке цепочки (как в Гемини!), дает возможность на основе единожды собранной информации проверить десятки гипотез, промптов и концепций орг развития.
Сложно? Пока да. Либо приходится мириться с предвзятостью. Но, думаю, этот вопрос будет решен через некоторое время. А почему — читайте следующий ответ!
«Как выглядит «идеальный ИИ» в будущем?» (вопрос 5/13)
«Идеальное состояние — это очень маленькая модель для рассуждений с триллионом токенов контекста, в которую вы помещаете всю свою жизнь. Эта штука рассуждает на основе всего вашего контекста и делает это эффективно. И каждый разговор, который у вас когда-либо был в жизни, каждое электронное письмо …, всё, на что вы когда-либо смотрели, находится там, плюс подключено ко всем вашим данным из других источников. … и ваша компания делает то же самое для всех данных вашей компании. Мы не можем достичь этого сегодня, но я думаю о чем-либо другом как о компромиссе с этим платоническим идеалом»
Вот тогда и заживем… если не разучимся думать к тому времени.
Подробнее о принятии серьезных решений с помощью ИИ в бизнесе — на вебинаре в пнд 26.05 в 18:00. Регистрация.
PS: Заказать выступление о применении ИИ или стратсессию с ИИ для вашей компании: @olgagudimenko
BY Лаборатория Промптинга Замышляева
Share with your friend now:
tgoop.com/PromptLab_Mozlab/165