tgoop.com/PromptLab_Mozlab/99
Last Update:
Этическая декларация при использовании ИИ: как мы преодолевали страхи
Все больше приходится слышать про всяческие регуляции, связанные с ИИ. Возможно, вам покажется это странным… но мы тоже такое сделали.
Когда весной мы аккуратно начали использовать нейросети при подготовке к стратегическим сессиям (либо просто на сессиях по решению конкретных задач), мы столкнулись с разными вызовами, часть из которых была обусловлена некоторым «страхом ИИ» (а точнее, рисками, связанными с его применением), а часть с необходимостью четко понимать рамки его применения.
В апреле появилась первая версия (так что эта декларация — ровесница Лаборатории промптинга), которая потом постоянно дополнялась. В этом посте хочу привести самую свежую версию и объяснить, зачем нужен каждый пункт.
Итак,
Этическая декларация при использовании нейросетей в работе с живой группой (требования к ведущему/организатору):
Это позволит отличить полезные идеи от галлюцинаций. Необходимо либо разбираясь самому, либо привлекать эксперта.
Это создаёт атмосферу доверия и включает осознанность по поводу того, что сейчас к работе подключается ИИ.
Поскольку нейросети могут генерировать правдоподобную, но ложную информацию (и эта способность день ото дня только совершенствуется), мы настоятельно рекомендуем И предупреждать об этом, И перепроверять наиболее критичные факты вручную. В не слишком ответственных ситуациях достаточно одного из этих действий.
Очень важно, чтобы группа критически оценивала и развивала идеи ИИ, а не пассивно принимала их «как есть». Для этого…
Мы реализуем это через галочку «взять идею ИИ». Тот, кто ее нажал — подтверждает, что он видит в этой идее толк.
Очень важное условие. Людей раздражает режим «чёрного ящика». Косвенно в этом можно убедиться по количеству рекомендаций, «как взломать сервис на основе ИИ, где промпт скрыт».
Что дальше?
Вот такие шесть пунктов используем мы. На сегодняшний день этого вполне достаточно, что подтверждается почти каждый день.
Что добавите? Что используете вы? Или, наоборот, что-то считаете излишним?
PS: Поставьте реакцию, если присоединяетесь!
в каталог промптов и кейсов применения нейросетей