Reasonin tokens или плата за мыслительный процесс модели.
Когда вы будете использовать o1 модели через API, кроме input/output токенов (их цены я показал тут), еще есть понятие reasoning tokens и вы будете оплачивать их тоже (по цене output tokens).
Вот что пишет OpenAI:
А как мы помни, мыслительный процесс штука неуправляемая. Модель может думать несколько секунд, а может и минуту, а в будущем часы/дни/недели (в зависимости от того какой глубины размышления вам нужны).
И вот как понять, сколько будет стоить ваш запрос в итоге, как будто пока сложно прогнозируемая штука.
При этом еще нужно помнить о контекстном окне в 128к токенов и итоговый ответ легко может выйти за рамки из-за ризонинга.
В итоге: с вас 15 центов за запрос, 5 баксов за мыслительный процесс (мне пришлось хорошенько поразмыслить) и 20% чаевых🎩 . Модели становятся всё больше похоже на людей 😁
ИИволюция
Когда вы будете использовать o1 модели через API, кроме input/output токенов (их цены я показал тут), еще есть понятие reasoning tokens и вы будете оплачивать их тоже (по цене output tokens).
Вот что пишет OpenAI:
While reasoning tokens are not visible via the API, they still occupy space in the model's context window and are billed as output tokens.
А как мы помни, мыслительный процесс штука неуправляемая. Модель может думать несколько секунд, а может и минуту, а в будущем часы/дни/недели (в зависимости от того какой глубины размышления вам нужны).
И вот как понять, сколько будет стоить ваш запрос в итоге, как будто пока сложно прогнозируемая штука.
При этом еще нужно помнить о контекстном окне в 128к токенов и итоговый ответ легко может выйти за рамки из-за ризонинга.
В итоге: с вас 15 центов за запрос, 5 баксов за мыслительный процесс (мне пришлось хорошенько поразмыслить) и 20% чаевых
ИИволюция
Please open Telegram to view this post
VIEW IN TELEGRAM
🤣22❤3🔥2😢2
К посту про токены размышления, вот как нужно сжигать свои лимиты и сливать деньги на размышления 😅
ИИволюция
ИИволюция
Please open Telegram to view this post
VIEW IN TELEGRAM
🤣28🗿2
OpenAI сжалились над нами и обнулили недельные лимиты, так как много людей уже сожгли все свои запросы, а хороших, достойных новой модели, вопросов спросили мало ☔️
Что вы уже успели спросить, с чем o1-preview справилась, с чем 4o не справлялась?
ИИволюция
Что вы уже успели спросить, с чем o1-preview справилась, с чем 4o не справлялась?
ИИволюция
Please open Telegram to view this post
VIEW IN TELEGRAM
👍7🔥5
Пользователи, которые пытаются разузнать у модельки o1 о том, как она размышляет и выудить её системный промпт, сталкиваются со страйками за нарушение политики использования и получают письма «счастья» от OpenAI. И это очень странно, учитывая, что Anthropic сами выкладывают системные промпты своих моделей. OpenAI есть что скрывать?
Но что интересно в этом письме, так это то, что свою модель o1 OpenAI называет как GPT-4o with Reasoning.
Это что получается, совсем не новая модель, а расширение над 4o? Какие-то загадки☔️
ИИволюция
Но что интересно в этом письме, так это то, что свою модель o1 OpenAI называет как GPT-4o with Reasoning.
Это что получается, совсем не новая модель, а расширение над 4o? Какие-то загадки
ИИволюция
Please open Telegram to view this post
VIEW IN TELEGRAM
👍13🔥2❤1
Обычный такой дэйлик с утра понедельника. Grok отстранён за токсичность по отношению к ChatGPT 😁
ИИволюция
Чатик пел,
Клод молчал,
Коля код свой дописал.
Делать было нечего,
Демо будет вечером!
ИИволюция
Please open Telegram to view this post
VIEW IN TELEGRAM
🤣23
OpenAI сжалился над нами и увеличил лимиты на новые модельки или им просто нужен больший объем данных, чтобы “дообучить” основную модель o1
Новые лимиты:
- 50 запросов в день для o1-mini (было 50 запросов в неделю)
- 50 запросов в неделю для o1-preview (было 30 запросов в неделю).
И как сказал бы Джейсон Стэтхэм:
ИИволюция
Новые лимиты:
- 50 запросов в день для o1-mini (было 50 запросов в неделю)
- 50 запросов в неделю для o1-preview (было 30 запросов в неделю).
И как сказал бы Джейсон Стэтхэм:
Они расширили лимиты? Интересно, хватит ли запросов, чтобы ИИ объяснил, куда всегда пропадают мои носки из стиралки?
ИИволюция
👍11🔥5
This media is not supported in your browser
VIEW IN TELEGRAM
У меня вчера наконец-то добрались руки до теста Cursor. Я пока не покупал подписку ($20 в месяц), а по подписке там и лимиты выше и Code Composer есть для работы с проектом, а не с одним файлом (я просто потестил возможности).
За час сделал удобный под себя туду-лист, который висит в статус баре в MacOS и можно очень быстро добавлять новые задачки. Всегда перед глазами в шапке экрана! Сидишь на мите и нужно быстро добавить напоминалки, тудушки, незабывашки. Обычно я либо в Day Flow бегу, либо в календарь, или даже в Заметки. Много еще чего можно докрутить, прикрутить, буду по мере наличия времени улучшать под себя.
И вот какие выводы:
- Cursor мега крутой инструмент для разработки с помощью нейросетей. Он уже даже o1-mini и o1-preview поддерживает.
- Подписка ($20/мес) точно стоит своих денег, так как сильно расширяет возможности Cursor.
- Сделать удобную утилитку под себя за пару вечером прям супер реальная тема в наши дни.
- Cursor идеальный инстурмент для продактов, чтобы самим быстро запилить прототип или мвп и потрогать его, не затрачивая большие ресурсы компании.
Если вы уже пользуетесь курсором, расскажите что интересного с помощью него уже написали или пишите?
ИИволюция
За час сделал удобный под себя туду-лист, который висит в статус баре в MacOS и можно очень быстро добавлять новые задачки. Всегда перед глазами в шапке экрана! Сидишь на мите и нужно быстро добавить напоминалки, тудушки, незабывашки. Обычно я либо в Day Flow бегу, либо в календарь, или даже в Заметки. Много еще чего можно докрутить, прикрутить, буду по мере наличия времени улучшать под себя.
И вот какие выводы:
- Cursor мега крутой инструмент для разработки с помощью нейросетей. Он уже даже o1-mini и o1-preview поддерживает.
- Подписка ($20/мес) точно стоит своих денег, так как сильно расширяет возможности Cursor.
- Сделать удобную утилитку под себя за пару вечером прям супер реальная тема в наши дни.
- Cursor идеальный инстурмент для продактов, чтобы самим быстро запилить прототип или мвп и потрогать его, не затрачивая большие ресурсы компании.
Если вы уже пользуетесь курсором, расскажите что интересного с помощью него уже написали или пишите?
ИИволюция
🔥28❤1
Вчера я писал, как сделал простое приложение планировщик дел для MacOS с помощью Cursor.
Но что в этой истории дико неудобно, так это постоянное переключение контекста. Приложения для iPhone и Mac OS нужно собирать и запускать через XCode. И получается ты пишешь код в Cursor, накатываешь изменения, сохраняешь, переключаешься на XCode, там запускаешь проект, смотришь результат, снова переключаешься на Cursor и так постоянно. Это выматывает и на это уходит время.
В идеале я хотел бы, чтобы среда разработки после внесения изменений, сама собирала проект, запускала и показывала изменения. Но кажется, что с XCode эта история пока сложновата. Или нет?
Вчера, в комментариях прислали статью, как можно упростить этот флоу. Я пока не попробовал, но с вами поделюсь, так как выглядит схема рабочей.
Если кто-то из вас создает приложения для iPhone и Mac и использует для разработки Cursor, вот статья с описанием упрощения схемы Cursor + Xcode.
Напишите в комменты, если кто-то уже так и делает и есть ли минусы/ограничения/подводные камни?
ИИволюция
Но что в этой истории дико неудобно, так это постоянное переключение контекста. Приложения для iPhone и Mac OS нужно собирать и запускать через XCode. И получается ты пишешь код в Cursor, накатываешь изменения, сохраняешь, переключаешься на XCode, там запускаешь проект, смотришь результат, снова переключаешься на Cursor и так постоянно. Это выматывает и на это уходит время.
В идеале я хотел бы, чтобы среда разработки после внесения изменений, сама собирала проект, запускала и показывала изменения. Но кажется, что с XCode эта история пока сложновата. Или нет?
Вчера, в комментариях прислали статью, как можно упростить этот флоу. Я пока не попробовал, но с вами поделюсь, так как выглядит схема рабочей.
Если кто-то из вас создает приложения для iPhone и Mac и использует для разработки Cursor, вот статья с описанием упрощения схемы Cursor + Xcode.
Напишите в комменты, если кто-то уже так и делает и есть ли минусы/ограничения/подводные камни?
ИИволюция
2👍9🔥4👏2❤1
Forwarded from e/acc
Как преуспеть в пост-AI экономике? Если ИИ автоматизирует все работы, то что люди будут делать?
Из того, что я вижу сейчас — ни у кого толком нет хорошего ответа на таймлайн этой великой автоматизации и как именно к ней готовиться. При этом, очевидно, что масштаб будет огромный, и он приведет как к позитивным, так и негативным последствиям.
В прикрепленном сообщении из одного нашего закрытого чатика от экс-фаундера Stability AI, он говорит важную мысль: трудовая денежная система перестаёт иметь смысл. Это не произойдёт одномоментно и повсеместно, но это точно будет в сотни раз быстрее, чем прошлые переходы, как например индустриальный.
Капитализм работает за счет решения проблем. Неэффективности рынков. Но в ситуации, когда ты можешь автоматизировать поиск неэффективностей, такие возможности будут исчезать еще до того, как человек об этом подумает. Все эти микро- и мини-бизнесы типа студий дизайна, инстаграм-магазинов, консалтинга, рекламных и обучающих компаний, локальных юристов, бухгалтеров не смогут конкурировать с машинным интеллектом, который делает все то же самое, но в сотню раз быстрее и дешевле.
Вот возьмём какой-нибудь купи-продай онлайн бизнес. ИИ умеет анализировать любые метрики с амазона и гугла, тестировать сотни гипотез, мгновенно писать софт или отбирать из тысяч китайских поставщиков и заключать контракты с лучшим. Любая возможность на рынке моментально эксплуатируется до того, как предприниматель, который может её решить вообще задумается об этом.
Для GPU-rich ситуация немного лучше. Маск построил ИИ-датацентр на $3 млрд, Мета делает что-то похожее. Потому что для технологической компании скорость роста и выживание зависит от того насколько быстро она сможет "отъесть" рынок за счет автоматизации, будь то роботы на заводе или работа журналиста, аналитика, маркетолога.
Ответ на вопрос в начале поста не очевиден. UBI и всякий там социализм может звучать как хорошая идея, но это не проработанные идеи, у которых нет реального опыта внедрения. Я думаю, эта тема совершенно недостаточно изучена и хочется продолжать сюда копать в следующих постах.
Самым глупым в данном контексте мне кажется отрицание эффекта только из-за того, что люди смотрят на конкретный датапоинт вместо тренда. Типа, мол, "у меня gpt не смог ответить на вопрос Х, поэтому он не сможет никогда". Это типичная fallacy. Потому что в ML важны законы масштабирования, а не текущая производительность. GPT открыл и проехался на 3-4 порядка перформанса на одном таком законе, с о1 теперь начинается новая горка, и явно не последняя. Вот, например, вчерашний пейпер из Стенфорда, который говорит: “Мы математически доказали, что трансформеры могут решать любую задачу, если им разрешено генерировать столько промежуточных токенов рассуждения, сколько потребуется. Удивительно, но постоянная глубина достаточна.”
Я думаю, что глупо и безответственно как отрицать, что произойдет фундаментальный сдвиг структуры рынка труда в течении 3-4 лет, так и считать что из-за этого сдвига "все пропало, надо рыть бункер". Как будто, и первое и второе это побег от реальности. Но вот подумать об оптимальной стратегии и правильных шагах очень хочется.
Из того, что я вижу сейчас — ни у кого толком нет хорошего ответа на таймлайн этой великой автоматизации и как именно к ней готовиться. При этом, очевидно, что масштаб будет огромный, и он приведет как к позитивным, так и негативным последствиям.
В прикрепленном сообщении из одного нашего закрытого чатика от экс-фаундера Stability AI, он говорит важную мысль: трудовая денежная система перестаёт иметь смысл. Это не произойдёт одномоментно и повсеместно, но это точно будет в сотни раз быстрее, чем прошлые переходы, как например индустриальный.
Капитализм работает за счет решения проблем. Неэффективности рынков. Но в ситуации, когда ты можешь автоматизировать поиск неэффективностей, такие возможности будут исчезать еще до того, как человек об этом подумает. Все эти микро- и мини-бизнесы типа студий дизайна, инстаграм-магазинов, консалтинга, рекламных и обучающих компаний, локальных юристов, бухгалтеров не смогут конкурировать с машинным интеллектом, который делает все то же самое, но в сотню раз быстрее и дешевле.
Вот возьмём какой-нибудь купи-продай онлайн бизнес. ИИ умеет анализировать любые метрики с амазона и гугла, тестировать сотни гипотез, мгновенно писать софт или отбирать из тысяч китайских поставщиков и заключать контракты с лучшим. Любая возможность на рынке моментально эксплуатируется до того, как предприниматель, который может её решить вообще задумается об этом.
Для GPU-rich ситуация немного лучше. Маск построил ИИ-датацентр на $3 млрд, Мета делает что-то похожее. Потому что для технологической компании скорость роста и выживание зависит от того насколько быстро она сможет "отъесть" рынок за счет автоматизации, будь то роботы на заводе или работа журналиста, аналитика, маркетолога.
Ответ на вопрос в начале поста не очевиден. UBI и всякий там социализм может звучать как хорошая идея, но это не проработанные идеи, у которых нет реального опыта внедрения. Я думаю, эта тема совершенно недостаточно изучена и хочется продолжать сюда копать в следующих постах.
Самым глупым в данном контексте мне кажется отрицание эффекта только из-за того, что люди смотрят на конкретный датапоинт вместо тренда. Типа, мол, "у меня gpt не смог ответить на вопрос Х, поэтому он не сможет никогда". Это типичная fallacy. Потому что в ML важны законы масштабирования, а не текущая производительность. GPT открыл и проехался на 3-4 порядка перформанса на одном таком законе, с о1 теперь начинается новая горка, и явно не последняя. Вот, например, вчерашний пейпер из Стенфорда, который говорит: “Мы математически доказали, что трансформеры могут решать любую задачу, если им разрешено генерировать столько промежуточных токенов рассуждения, сколько потребуется. Удивительно, но постоянная глубина достаточна.”
Я думаю, что глупо и безответственно как отрицать, что произойдет фундаментальный сдвиг структуры рынка труда в течении 3-4 лет, так и считать что из-за этого сдвига "все пропало, надо рыть бункер". Как будто, и первое и второе это побег от реальности. Но вот подумать об оптимальной стратегии и правильных шагах очень хочется.
👍30🔥4👏2❤1
This media is not supported in your browser
VIEW IN TELEGRAM
Сэм Альман рассказал сколько стадий развития AI он видит:
- 1 уровень чат-боты: основная задача – вести простые текстовые диалоги, отвечая на запросы пользователей.
- 2 уровень AI с рассуждением: способеность анализировать и делать выводы на основе сложных данных. Этот уровень достигнут в настоящее время (модель o1).
== Мы находимся здесь! ==
- 3 уровень агенты: AI может принимать активные действия, работая автономно для достижения целей, поставленных пользователем.
- 4 уровень инноваторы: AI способен генерировать новые научные открытия и находить решения для ранее неизвестных проблем.
- 5 уровень полноценные организации: AI управляет целыми организациями и принимает решения на уровне структуры.
Переход от второго к третьему уровню ожидается в ближайшее время, что значительно ускорит дальнейшее развитие технологий ИИ.
Но кажется, что большинство людей на планете не освоили даже 1 уровень.
Само видео доступно тут (Сэм начинает говорить с 51 минуты)
ИИволюция
- 1 уровень чат-боты: основная задача – вести простые текстовые диалоги, отвечая на запросы пользователей.
- 2 уровень AI с рассуждением: способеность анализировать и делать выводы на основе сложных данных. Этот уровень достигнут в настоящее время (модель o1).
== Мы находимся здесь! ==
- 3 уровень агенты: AI может принимать активные действия, работая автономно для достижения целей, поставленных пользователем.
- 4 уровень инноваторы: AI способен генерировать новые научные открытия и находить решения для ранее неизвестных проблем.
- 5 уровень полноценные организации: AI управляет целыми организациями и принимает решения на уровне структуры.
Переход от второго к третьему уровню ожидается в ближайшее время, что значительно ускорит дальнейшее развитие технологий ИИ.
Но кажется, что большинство людей на планете не освоили даже 1 уровень.
Само видео доступно тут (Сэм начинает говорить с 51 минуты)
ИИволюция
👍22🔥16❤1
This media is not supported in your browser
VIEW IN TELEGRAM
Как часто вы используете Perplexity?
Переключались ли вы на Perplexity как на поисковик по умолчанию? Как вам такой опыт: зашел или нет?
Всё чаще вижу сообщения, что люди полностью уходят от гугла в пользу перплексити. Даже Дженсен Хуанг говорит в интервью, что регулярно использует Перплексити для любых вопросов, даже если знает ответ на свой вопрос😀
Напишите о своём опыте в комменты, очень интересно какой он у вас был/есть и как вам смещение парадигмы гуглового поиска в сторону поисковиков вроде Перплексити?
ИИволюция
Переключались ли вы на Perplexity как на поисковик по умолчанию? Как вам такой опыт: зашел или нет?
Всё чаще вижу сообщения, что люди полностью уходят от гугла в пользу перплексити. Даже Дженсен Хуанг говорит в интервью, что регулярно использует Перплексити для любых вопросов, даже если знает ответ на свой вопрос
Напишите о своём опыте в комменты, очень интересно какой он у вас был/есть и как вам смещение парадигмы гуглового поиска в сторону поисковиков вроде Перплексити?
ИИволюция
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥21❤1
Please open Telegram to view this post
VIEW IN TELEGRAM
5🔥43🗿5
Нашел занимательную инфографику с компаниями, в которые инвестировал Сэм Альтман с 2019 года
Какими продуктами компаний из этого списка вы пользовались или пользуетесь регулярно?
ИИволюция
Какими продуктами компаний из этого списка вы пользовались или пользуетесь регулярно?
ИИволюция
🔥9❤2
Представим, что мы уже в ситуации, когда AI полностью разрабатывает весь код ПО, а человеку остаётся только составить качественный промпт.
Кто будет новой рок-звездой в таком IT?
1. Любой, кто может писать промпты.
2. Бывшие разработчики будут так же на коне.
3. Специалисты без опыта разработки теперь новые короли.
А ну, малыш, давай! Попробуй отгадай! Кто же, кто же… Пишите свои мысли в комменты, давайте обсуждать какие знания и опыт будут нужны условно через 5-10 лет?Давайте без голосования, просто в комментах срач! 👀
ИИволюция
Кто будет новой рок-звездой в таком IT?
1. Любой, кто может писать промпты.
2. Бывшие разработчики будут так же на коне.
3. Специалисты без опыта разработки теперь новые короли.
А ну, малыш, давай! Попробуй отгадай! Кто же, кто же… Пишите свои мысли в комменты, давайте обсуждать какие знания и опыт будут нужны условно через 5-10 лет?
ИИволюция
Please open Telegram to view this post
VIEW IN TELEGRAM
🤣17🔥5🗿2❤1
Вчера Сэм Альтман опубликовал своё эссе “Эпоха Интеллекта”, в которую мы плавно входим (или вошли?)
Вот ключевое:
– В ближайшие десятилетия мы будем делать то, что наши предки посчитали бы магией, благодаря стремительному развитию технологий.
– Прогресс ускорится, а AI даст людям инструменты для решения сложных задач, продолжая наш путь человеческих достижений.
– AI поможет каждому иметь виртуальных экспертов и наставников в разных сферах, улучшая образование, медицину и многое другое.
– В будущем уровень жизни может стать таким, что нынешние проблемы покажутся ничтожными, и каждый будет жить лучше, чем сейчас.
– История человечества – это путь научных открытий, который привёл нас к созданию AI буквально из песка и энергии.
– Мы можем достичь сверхинтеллекта уже через несколько тысяч дней (5 лет?), и это, возможно, станет главным событием в истории человечества.
– Глубокое обучение стало ключом к успеху AI: оно развивается с увеличением ресурсов и помогает решать сложнейшие задачи.
– AI продолжит улучшаться с ростом мощностей, и это приведет к заметным изменениям в жизни людей по всему миру.
– AI будет выполнять задачи за нас, помогать в медицине и создавать новые технологии, ускоряя научные открытия.
– Переход к Эпохе интеллекта требует доступных вычислительных мощностей и энергии, иначе AI станет ограниченным ресурсом, за который будут бороться.
– Нам нужно действовать взвешенно, но решительно, чтобы преодолеть сложные вызовы и максимально использовать возможности AI.
– Будущее будет настолько процветающим, что нынешние достижения покажутся нам мелочью, как наши технологии – для людей прошлого.
Полное эссе можно прочитать тут.
ИИволюция
Вот ключевое:
– В ближайшие десятилетия мы будем делать то, что наши предки посчитали бы магией, благодаря стремительному развитию технологий.
– Прогресс ускорится, а AI даст людям инструменты для решения сложных задач, продолжая наш путь человеческих достижений.
– AI поможет каждому иметь виртуальных экспертов и наставников в разных сферах, улучшая образование, медицину и многое другое.
– В будущем уровень жизни может стать таким, что нынешние проблемы покажутся ничтожными, и каждый будет жить лучше, чем сейчас.
– История человечества – это путь научных открытий, который привёл нас к созданию AI буквально из песка и энергии.
– Мы можем достичь сверхинтеллекта уже через несколько тысяч дней (5 лет?), и это, возможно, станет главным событием в истории человечества.
– Глубокое обучение стало ключом к успеху AI: оно развивается с увеличением ресурсов и помогает решать сложнейшие задачи.
– AI продолжит улучшаться с ростом мощностей, и это приведет к заметным изменениям в жизни людей по всему миру.
– AI будет выполнять задачи за нас, помогать в медицине и создавать новые технологии, ускоряя научные открытия.
– Переход к Эпохе интеллекта требует доступных вычислительных мощностей и энергии, иначе AI станет ограниченным ресурсом, за который будут бороться.
– Нам нужно действовать взвешенно, но решительно, чтобы преодолеть сложные вызовы и максимально использовать возможности AI.
– Будущее будет настолько процветающим, что нынешние достижения покажутся нам мелочью, как наши технологии – для людей прошлого.
Полное эссе можно прочитать тут.
ИИволюция
🔥25👍11❤5🤣2