Геймдев, который мы заслужили

Искусственный интеллект не приведет нас в светлое будущее, а сделает ближе к киберпанку, и вот почему

После выхода GPT-4 у многих возникли вопросы по поводу ее безопасности: в техническом отчете не было раскрыто ничего о внутренней работе новой языковой модели. На каких данных ее обучали, как выглядел процесс обучения, какие специалисты участвовали в процессе принятия решений? Все это компания с названием OpenAI в очередной раз решила скрыть. Иронично, что никаким Open там и не пахнет, и компания занимается чистым бизнесом.

Очень важной становится тема цензуры — сейчас GPT-4 «на 82% меньше отвечает на запросы о запрещенном контенте». Что это за запрещенный контент, что он из себя представляет, на какие темы GPT-4 не будет говорить и почему? Как мотивируется цензура каких-то тем, юрисдикция каких государств регулирует цензуру, и как мы можем на это повлиять?

И здесь мы должны осознать очень важный и переломный момент во всей этой «картине прекрасного будущего», которой так одержимы все представители IT и других технических специальностей, ошибочно считающих себя теми, кто изменит мир к лучшему.

Технологии не отвечают на вопросы о том, как сделать мир лучше. Они предоставляют инструменты, чтобы менять этот мир — в лучшую или худшую сторону.

Уже вторую сотню лет наш мир стремительно развивается по всем направлениям, но особое внимание и любовь человечества прикована к науке и технике, и так происходит не случайно. Точные и естественные науки и техника — это одни из главных драйверов развития экономики, и так как именно экономическая система определяет, в каких специалистов она вкладывается, инвестиции идут именно в эти направления

Многие гуманитарные и социальные науки просто-напросто не поощряются капитализмом: они не производят ничего, что можно продать. Все мемы про «дипломированных философов, стоящих на кассе Макдоналдс» — это отражающийся эхом крик о том, что современный мир не может обеспечивать работой и средствами к существованию представителей целых научных дисциплин, высмеивая их бесполезность.

Но в то же время эти дисциплины пытаются давать ответы на важнейшие вопросы: как устроено современное общество и экономика, как устроена власть и идеология, какую роль занимает развитие технологий, из чего состоит культура, как все это влияет на жизнь человека и что с этим можно сделать? Они исследуют институты власти и структуру общества, подмечая внутренние противоречия и подсказывая нам, что может пойти не так.

С одной стороны мы имеем компьютеры, которые из огромных коробок превратились в смартфоны, умещающиеся в карман и умеющие заменять 10 разных устройств. А с другой стороны мы имеем все те же самые проблемы с правами человека, эксплуатацией, шовинизмом и набирающим обороты фашизмом даже в самых «демократичных государствах».

Искусственный интеллект — это самое настоящее продолжение политики, которую многие игнорировали, убегая в интернет. Государства, как и бизнес, прекрасно осознают потенциал этого инструмента: Китай, преуспевая в жанре киберпанк, лишь задает тренд.

High Tech Low Life — это торжество капитализма и технократии, торжество общества, поверившего в безоговорочную силу научно-технического и экономического прогресса, который самостоятельно приблизит человека к утопии.

Важно отметить, что проблема никогда не была в технологиях. Те же самые нейросети не обладают позитивными или негативными характеристиками в вакууме, они получают их, будучи помещенными в политический контекст. Распознавание лиц может помогать ловить преступников, а может использоваться для политических репрессий и слежки. Автоматизация труда может освободить нас от монотонной работы, чтобы мы больше отдыхали и наслаждались жизнью, а может лишить нас средств к существованию, увеличив разрыв между бедными и сверхбогатыми.

Пока не изменятся существующие институты, пока общество не начнет уделять должное внимание дисциплинам, которые эти самые институты критикуют, нас ждет еще не одна сотня людей-Оппенгеймеров, которые «хотели сделать мир лучше, но открыли сосуд Пандоры».

Telegraph

Искусственный интеллект не приведет нас в светлое будущее, а сделает ближе к киберпанку, и вот почему

После выхода GPT-4 у многих возникли вопросы по поводу ее безопасности: в техническом отчете не было раскрыто ничего о внутренней работе новой языковой модели. На каких данных ее обучали, как выглядел процесс обучения, какие специалисты участвовали в процессе…

www.tgoop.com/korovany/1317

13.8K viewsMar 18, 2023 at 15:29

Искусственный интеллект не приведет нас в светлое будущее, а сделает ближе к киберпанку, и вот почему

После выхода GPT-4 у многих возникли вопросы по поводу ее безопасности: в техническом отчете не было раскрыто ничего о внутренней работе новой языковой модели. На каких данных ее обучали, как выглядел процесс обучения, какие специалисты участвовали в процессе принятия решений? Все это компания с названием OpenAI в очередной раз решила скрыть. Иронично, что никаким Open там и не пахнет, и компания занимается чистым бизнесом.

Очень важной становится тема цензуры — сейчас GPT-4 «на 82% меньше отвечает на запросы о запрещенном контенте». Что это за запрещенный контент, что он из себя представляет, на какие темы GPT-4 не будет говорить и почему? Как мотивируется цензура каких-то тем, юрисдикция каких государств регулирует цензуру, и как мы можем на это повлиять?

И здесь мы должны осознать очень важный и переломный момент во всей этой «картине прекрасного будущего», которой так одержимы все представители IT и других технических специальностей, ошибочно считающих себя теми, кто изменит мир к лучшему.

Технологии не отвечают на вопросы о том, как сделать мир лучше. Они предоставляют инструменты, чтобы менять этот мир — в лучшую или худшую сторону.

Уже вторую сотню лет наш мир стремительно развивается по всем направлениям, но особое внимание и любовь человечества прикована к науке и технике, и так происходит не случайно. Точные и естественные науки и техника — это одни из главных драйверов развития экономики, и так как именно экономическая система определяет, в каких специалистов она вкладывается, инвестиции идут именно в эти направления

Многие гуманитарные и социальные науки просто-напросто не поощряются капитализмом: они не производят ничего, что можно продать. Все мемы про «дипломированных философов, стоящих на кассе Макдоналдс» — это отражающийся эхом крик о том, что современный мир не может обеспечивать работой и средствами к существованию представителей целых научных дисциплин, высмеивая их бесполезность.

Но в то же время эти дисциплины пытаются давать ответы на важнейшие вопросы: как устроено современное общество и экономика, как устроена власть и идеология, какую роль занимает развитие технологий, из чего состоит культура, как все это влияет на жизнь человека и что с этим можно сделать? Они исследуют институты власти и структуру общества, подмечая внутренние противоречия и подсказывая нам, что может пойти не так.

С одной стороны мы имеем компьютеры, которые из огромных коробок превратились в смартфоны, умещающиеся в карман и умеющие заменять 10 разных устройств. А с другой стороны мы имеем все те же самые проблемы с правами человека, эксплуатацией, шовинизмом и набирающим обороты фашизмом даже в самых «демократичных государствах».

Искусственный интеллект — это самое настоящее продолжение политики, которую многие игнорировали, убегая в интернет. Государства, как и бизнес, прекрасно осознают потенциал этого инструмента: Китай, преуспевая в жанре киберпанк, лишь задает тренд.

High Tech Low Life — это торжество капитализма и технократии, торжество общества, поверившего в безоговорочную силу научно-технического и экономического прогресса, который самостоятельно приблизит человека к утопии.

Важно отметить, что проблема никогда не была в технологиях. Те же самые нейросети не обладают позитивными или негативными характеристиками в вакууме, они получают их, будучи помещенными в политический контекст. Распознавание лиц может помогать ловить преступников, а может использоваться для политических репрессий и слежки. Автоматизация труда может освободить нас от монотонной работы, чтобы мы больше отдыхали и наслаждались жизнью, а может лишить нас средств к существованию, увеличив разрыв между бедными и сверхбогатыми.

Пока не изменятся существующие институты, пока общество не начнет уделять должное внимание дисциплинам, которые эти самые институты критикуют, нас ждет еще не одна сотня людей-Оппенгеймеров, которые «хотели сделать мир лучше, но открыли сосуд Пандоры».

BY Геймдев, который мы заслужили