Чорт ногу сломит

​Как не проиграть в ИИ-революции?

«Развитие сильного ИИ обещает нам сногсшибательный экономический рост, и уже можно представить мир, в котором мы вылечили все болезни, получили возможность больше времени проводить со своими семьями и в полной мере реализовать свой творческий потенциал», — пишет в эссе «Три наблюдения» руководитель OpenAI Сэм Альтман.

Альтман — один из главных двигателей разворачивающейся ИИ-революции, благодаря которому на свет появился ChatGPT и теперь появляются ИИ-агенты. Управление самой передовой и дорогой ИИ-компанией OpenAI обязывает Альтмана быть технооптимистом и акцентировать внимание на позитивных сторонах ИИ, что бы он на самом деле ни думал об этой технологии.

ИИ-оптимизм помог Альтману организовать представленный президентом Трампом Проект Stargate, в рамках которого США и их партнеры инвестируют $500 млрд в ИИ-инфраструктуру для OpenAI. Этот же оптимизм помог ему убедить президента Франции Макрона ослабить регуляции в сфере ИИ и запустить аналог Stargate в Европе.

И все же Альтман, пускай довольно робко, но все же вполне отчетливо говорит об опасностях, которые очевидно возникают в связи с наступлением ИИ-революции. «Технологический прогресс не гарантирует, что мы увеличим равенство людей, и решение этой проблемы требует от нас новых идей, — пишет он, — в частности, ИИ легко может нарушить баланс власти между капиталом и трудом, и нам придется вмешиваться в этот процесс на ранних этапах».

«Нарушение баланса власти между капиталом и трудом» — дипломатичный способ сказать, что неравенство между теми, кто владеет ИИ, и всеми остальными быстро станет невообразимо большим. Хотя эта проблема на слуху уже какое-то время, ее масштабы сложно было представить до появления технологии ИИ-агентов, которые по сути являются полноценными виртуальными работниками.

Владельцы ИИ-капитала не просто смогут заменить труд одного человека аналогичным трудом одного ИИ-агента — на месте живого работника скоро появится сотня равных ему виртуальных. Это, условно, позволит капиталу стать в сто раз продуктивнее, и одновременно снизит стоимость труда человека в сто раз. На деле разрыв между ростом производительности капитала и обесцениванием труда людей окажется куда более драматичным.

Другая опасность ИИ-революции тоже связана с нарушением баланса власти, но уже не экономической, а политической и даже физической. «Один из вероятных путей развития событий — пишет Альтман, — заключается в том, что авторитарные правительства смогут использовать ИИ для контроля населения через массовую слежку и лишения людей автономии».

Угроза ИИ-авторитаризма также связана с резким увеличением производительности капитала: если ИИ-системой владеет автократическое правительство, оно может заменить труд одного живого следователя трудом тысячи виртуальных следователей, одного надзирателя — тысячей виртуальных и т.д. А соблазн контролировать личную жизнь людей быстро превратит любой ИИ-авторитаризм в ИИ-тоталитаризм.

Для заблаговременного решения этих проблем нам нужны реально новые идеи. Я думаю, что самое перспективное направление мысли — радикальное увеличение личной агентности человека с помощью ИИ, чтобы эта технология не заменяла, а усиливала нас. А увеличить агентность человека не получится без капитальной проработки его психологии и создания новой философии, соответствующей духу нового времени.

www.tgoop.com/nejdanov/505

1.1K viewsFeb 12 at 14:09

​Как не проиграть в ИИ-революции?

«Развитие сильного ИИ обещает нам сногсшибательный экономический рост, и уже можно представить мир, в котором мы вылечили все болезни, получили возможность больше времени проводить со своими семьями и в полной мере реализовать свой творческий потенциал», — пишет в эссе «Три наблюдения» руководитель OpenAI Сэм Альтман.

Альтман — один из главных двигателей разворачивающейся ИИ-революции, благодаря которому на свет появился ChatGPT и теперь появляются ИИ-агенты. Управление самой передовой и дорогой ИИ-компанией OpenAI обязывает Альтмана быть технооптимистом и акцентировать внимание на позитивных сторонах ИИ, что бы он на самом деле ни думал об этой технологии.

ИИ-оптимизм помог Альтману организовать представленный президентом Трампом Проект Stargate, в рамках которого США и их партнеры инвестируют $500 млрд в ИИ-инфраструктуру для OpenAI. Этот же оптимизм помог ему убедить президента Франции Макрона ослабить регуляции в сфере ИИ и запустить аналог Stargate в Европе.

И все же Альтман, пускай довольно робко, но все же вполне отчетливо говорит об опасностях, которые очевидно возникают в связи с наступлением ИИ-революции. «Технологический прогресс не гарантирует, что мы увеличим равенство людей, и решение этой проблемы требует от нас новых идей, — пишет он, — в частности, ИИ легко может нарушить баланс власти между капиталом и трудом, и нам придется вмешиваться в этот процесс на ранних этапах».

«Нарушение баланса власти между капиталом и трудом» — дипломатичный способ сказать, что неравенство между теми, кто владеет ИИ, и всеми остальными быстро станет невообразимо большим. Хотя эта проблема на слуху уже какое-то время, ее масштабы сложно было представить до появления технологии ИИ-агентов, которые по сути являются полноценными виртуальными работниками.

Владельцы ИИ-капитала не просто смогут заменить труд одного человека аналогичным трудом одного ИИ-агента — на месте живого работника скоро появится сотня равных ему виртуальных. Это, условно, позволит капиталу стать в сто раз продуктивнее, и одновременно снизит стоимость труда человека в сто раз. На деле разрыв между ростом производительности капитала и обесцениванием труда людей окажется куда более драматичным.

Другая опасность ИИ-революции тоже связана с нарушением баланса власти, но уже не экономической, а политической и даже физической. «Один из вероятных путей развития событий — пишет Альтман, — заключается в том, что авторитарные правительства смогут использовать ИИ для контроля населения через массовую слежку и лишения людей автономии».

Угроза ИИ-авторитаризма также связана с резким увеличением производительности капитала: если ИИ-системой владеет автократическое правительство, оно может заменить труд одного живого следователя трудом тысячи виртуальных следователей, одного надзирателя — тысячей виртуальных и т.д. А соблазн контролировать личную жизнь людей быстро превратит любой ИИ-авторитаризм в ИИ-тоталитаризм.

Для заблаговременного решения этих проблем нам нужны реально новые идеи. Я думаю, что самое перспективное направление мысли — радикальное увеличение личной агентности человека с помощью ИИ, чтобы эта технология не заменяла, а усиливала нас. А увеличить агентность человека не получится без капитальной проработки его психологии и создания новой философии, соответствующей духу нового времени.

BY Чорт ногу сломит