Технологическая сингулярность

Развитие ИИ и в частности LLM моделей вновь и вновь напоминает мне про концепцию технологической сингулярности — термин далеко не новый, и довольно популярный. Не знать о нём в наше время.. Скажем так, довольно скучно не знать о нём.

Технологическая сингулярность — это гипотетический момент в будущем, когда технологическое развитие станет настолько быстрым и сложным (возможно, благодаря появлению сверхразумного ИИ), что окажется недоступным для понимания обычного человека, кардинально и необратимо меняя саму природу цивилизации.

В чём суть:

Развитие науки и технологий постоянно ускоряется с очень большой скоростью — раньше между важными открытиями и технологическими рывками, которые радикально меняют жизнь людей, могли проходить тысячи и даже сотни тысяч лет, например:

- Освоение огня примерно 1.5 – 0.5 миллиона лет назад фундаментально изменило диету, безопасность и социальную структуру древних людей. Однако следующий сопоставимый по значимости технологический скачок — неолитическая революция (переход к земледелию и оседлости) — произошел лишь спустя сотни тысяч лет, в течение которых базовые технологии выживания менялись крайне медленно.

- От земледелия к письменности и городам: Привычная нам цивилизация — первые города, и письменность и др., начала появляться через 6-7 тысяч лет. В течение этих тысячелетий жизнь людей, всё ещё менялась крайне медленно.

Что значит "медленно"? Если мы возьмём отдельного человека тех времён, то увидим, что все его предки до сотого колена пользовались схожими сельскохозяйственными инструментами (мотыга, простой плуг), строили дома по схожим технологиям, занимались схожим трудом.

Затем развитие ускорялось — периоды между технологическими скачками сокращались до сотен лет:

- От книгопечатания до научной революции: Изобретение книгопечатания стало мощнейшим катализатором. Научная революция, с такими именами как Коперник, Галилей, Кеплер, Ньютон, развернулась в XVI-XVII веках. Между этими событиями около 100-200 лет.
- От паровой машины до электричества: Первая успешно работающая паровая машина дала старт Промышленной революции. А уже к концу XIX века мир увидел широкое внедрение электричества (электродвигатели, освещение), телефона, двигателя внутреннего сгорания. Здесь интервал сократился примерно до 100 лет.

Затем периоды сократились до десятков лет:

- От первого транзистора до ПК и интернета: Изобретение транзистора в 1947 г. заложило основу всей современной электроники. То есть, от фундаментального открытия до технологий, изменивших повседневность, прошло 30-50 лет.

И вот мы здесь. Мир ваших бабушек отличается от вашего так сильно, будто вы на разных планетах жили. Да что там бабушек, моё детство даже близко не похоже на мою сегодняшнюю жизнь — интернет тогда только зарождался (или был медленным и дорогим по dial-up), смартфонов не было, и даже кнопочным примитивным телефонам я когда-то удивлялся, персональные компьютеры были у единиц, а что сейчас творится?

Почему так происходит?

Всё довольно просто и логично — чем более развито общество, тем ему проще развиваться дальше. Банально, такие штуки как книгопечатание, вычислительная техника, интернет и др. ускоряют развитие на порядки. Какому-нибудь Ньютону было намного сложнее заниматься наукой, чем Ландау, а нынешним учёным ещё проще.

Что дальше?

А вот тут уже полный полёт фантазии, все рассуждают кто во что горазд. Давать точные прогнозы тут крайне сложно — мы курс валюты то не можем предсказать, что уж говорить про времена, когда технологические рывки будут происходить каждую секунду, а потом каждую наносекунду. Но рассуждения от этого не становятся менее интересными.

————

В следующих постах я продолжу эту тему — обсудим детальнее развитие LLM и порассуждем о том, что нас ждёт.

А ещё я комментах написал, что можно почитать по этой теме

#технологическая_сингулярность

Помните я нахваливал GenAI как прекрасный способ погрузиться в практику и сразу начать разбираться в теме, попутно ее изучая?

Наконец-то обстоятельно изучили то, как влияет ChatGPT на студентов в процессе обучения и мои выводы частично подтвердили:

— Ресечеры проанализировали 51 исследование за период 2022 — 2025 год, где студенты использовали ChatGPT и нашли, что апп значительно повышает оценки, в умеренной степени улучшает отношение к учёбе и развивает навыки сложного мышления (например, умение находить оригинальные решения)

— Особенно полезен ChatGPT на курсах, где важны практические умения или решение реальных проблем (например, STEM-направления: естественные науки, технология, инженерия и математика), причём наибольший скачок в показателях происходит при «проблемно-ориентированном» подходе, когда студентам предлагают задачи из реальной жизни

— Также выяснили, что наиболее ощутимый эффект наблюдается, если студенты пользуются ChatGPT примерно 4-8 недель подряд – в короткие сроки они не успевают освоить правильный промптинг, а при слишком длинном периоде использования, могут перестать думать самостоятельно (сюрприз)

— Когда ChatGPT применяют не просто как обычный инструмент (типа «быстрый помощник»), а как «виртуальный наставник» (с персональными подсказками и обратной связью), это даёт больший толчок к развитию критического и творческого мышления

Если совсем коротко: ChatGPT + другие методы обучения + научить студентов проверять ответы от LLM = повысятся не только знания, но бонусом и любознательность и уверенность в учёбе

ChatGPT <3

Это к слову о недавней дискуссии в комментариях на тему «от ИИ тупеют»

Я бегло прошелся по статье, и в целом автор этого поста все правильно подытожил.

Если что, публикация сделана не в самом Nature. Humanities and Social Sciences Communications — это отдельный, более специализированный и открытый (open access) журнал, также издаваемый Nature Portfolio. Но он тоже достаточно авторитетный.

Уже доступно, кстати

UPD: тут можно почитать о всех обновлениях

Моё мнение по новым моделям Claude

Итак, вчера я весь день просидел с Claude Code, возился со своим Telegram-ботом, используя модель Opus 4. Также много общался с этой моделью в чате. Этого мало, чтобы написать полноценный обзор, поэтому пока коротенечко.

Sonnet 4 я пока не пробовал вообще, поэтому по ней ничего не могу сказать.

Честно, чудес и прорывов я тут не наблюдаю. Да, Opus 4 работает заметно лучше, чем Sonnet 3.7. Но это просто уверенный шаг вперёд, не более. Я изначально ожидал серьезный прорыв (как, наверное, и многие из вас), поэтому слегка разочаровался.

В любом случае, я очень доволен!
Opus 4 всё делает лучше: более чётко следует инструкциям, пишет более качественный код, делает меньше косяков. Но до идеала пока далеко, косяки всё ещё есть, и от инструкций она не редко отклоняется.

Надо признать, что в сложных задачах GPT-o3 всё ещё выглядит заметно лучше.

По поводу лимитов:
В комментариях люди писали, что на тарифе Max за $100 Opus 4 у них стал довольно быстро выедать токены, и они начали упираться в лимиты, хотя при Sonnet 3.7 у них такого не случалось ни разу.

У меня план Max за $200, и я так ни разу и не исчерпал свой лимит, хотя пользовался довольно активно. Кроме того, только в этом тарифе можно выбрать Opus 4 напрямую (за $100 можно выбрать либо Sonnet 4, либо дефолт, который сам по каким-то критериям выбирает между моделями).

Напомню, что Max за $100 даёт х5 лимиты от базового тарифа, а за $200 — х20

————

А как вам новые модели? Успели попробовать?

#llm #claude