Digital Energy

⚡️ Человеческий фактор и искусственный интеллект. Эксперт Ассоциации «Цифровая энергетика» рассказал о рисках внедрения ИИ в электроэнергетике

Ведущий эксперт Ассоциации «Цифровая энергетика» Александр Шавкун выступил с установочным докладом на сессии «Решения на базе искусственного интеллекта для электроэнергетики», состоявшейся в рамках Молодёжного дня Российской энергетической недели. Он рассказал об основных принципах применения ИИ в отрасли, перспективах рынка и возможностях оптимизации работы энергозатратных решений.

Докладчик отдельно остановился на проблеме рисков, связанных с использованием технологий искусственного интеллекта. Помимо очевидных аспектов, таких как надёжность данных, вопросы регуляторики и кибербезопасности, серьёзным риском может стать человеческий фактор — ошибки при взаимодействии оператора с алгоритмами принятия решений ИИ, что требует отдельного формирования правил.

Человеку свойственно преувеличивать точность работы автоматизированных систем, и операторы, слишком полагающиеся на технологии искусственного интеллекта, могут вести мониторинг недостаточно внимательно и игнорировать очевидные предупреждающие сигналы. Кроме того, предупредил эксперт, пользователи могут недооценивать ограничения ИИ и не вполне осознавать, в каких ситуациях он может принять неправильное решение.

Ещё одна не самая очевидная проблема — это сбои коммуникации. Неэффективное взаимодействие и распределение ролей между операторами и системой искусственного интеллекта может привести к путанице и неверным действиям в критических ситуациях.

Как указал Шавкун, для снижения этих рисков важно проводить регулярное обучение персонала, а также внедрять системы двойной проверки и при разработке акцентировать внимание на понятности интерфейса и прозрачности работы систем ИИ.

www.tgoop.com/digital1energy/5195

125 viewsSep 28 at 13:44

⚡️ Человеческий фактор и искусственный интеллект. Эксперт Ассоциации «Цифровая энергетика» рассказал о рисках внедрения ИИ в электроэнергетике

Ведущий эксперт Ассоциации «Цифровая энергетика» Александр Шавкун выступил с установочным докладом на сессии «Решения на базе искусственного интеллекта для электроэнергетики», состоявшейся в рамках Молодёжного дня Российской энергетической недели. Он рассказал об основных принципах применения ИИ в отрасли, перспективах рынка и возможностях оптимизации работы энергозатратных решений.

Докладчик отдельно остановился на проблеме рисков, связанных с использованием технологий искусственного интеллекта. Помимо очевидных аспектов, таких как надёжность данных, вопросы регуляторики и кибербезопасности, серьёзным риском может стать человеческий фактор — ошибки при взаимодействии оператора с алгоритмами принятия решений ИИ, что требует отдельного формирования правил.

Человеку свойственно преувеличивать точность работы автоматизированных систем, и операторы, слишком полагающиеся на технологии искусственного интеллекта, могут вести мониторинг недостаточно внимательно и игнорировать очевидные предупреждающие сигналы. Кроме того, предупредил эксперт, пользователи могут недооценивать ограничения ИИ и не вполне осознавать, в каких ситуациях он может принять неправильное решение.

Ещё одна не самая очевидная проблема — это сбои коммуникации. Неэффективное взаимодействие и распределение ролей между операторами и системой искусственного интеллекта может привести к путанице и неверным действиям в критических ситуациях.

Как указал Шавкун, для снижения этих рисков важно проводить регулярное обучение персонала, а также внедрять системы двойной проверки и при разработке акцентировать внимание на понятности интерфейса и прозрачности работы систем ИИ.

BY Digital Energy