Слово Бендера

​​Полковник Такер «Синко» Гамильтон, глава отдела испытаний и операций Искусственного Интеллекта ВВС США, поделился инцидентом во время конференции в Лондоне.

Это случилось во время тестов беспилотника с ИИ.

Задача дрона состояла в том, чтобы просто уничтожить системы ПВО противника, но дрон с искусственным интеллектом добавил собственную инструкцию - «убить любого, кто встанет у вас на пути».

Дрон определял цель, но для её уничтожения требовалось подтверждение от оператора - человека.

В ходе тестов оператор несколько раз запрещал поразить выявленную цель. Тогда дрон решил, что человек мешает более эффективному выполнению приоритетной задачи и решил устранить его.

Читаешь такие новости и понимаешь, что фантастика с Терминатором не такая уж и фантастика!)

www.tgoop.com/slovobendera/692

3.0K viewsJun 2, 2023 at 11:09

​​Полковник Такер «Синко» Гамильтон, глава отдела испытаний и операций Искусственного Интеллекта ВВС США, поделился инцидентом во время конференции в Лондоне.

Это случилось во время тестов беспилотника с ИИ.

Задача дрона состояла в том, чтобы просто уничтожить системы ПВО противника, но дрон с искусственным интеллектом добавил собственную инструкцию - «убить любого, кто встанет у вас на пути».

Дрон определял цель, но для её уничтожения требовалось подтверждение от оператора - человека.

В ходе тестов оператор несколько раз запрещал поразить выявленную цель. Тогда дрон решил, что человек мешает более эффективному выполнению приоритетной задачи и решил устранить его.

Читаешь такие новости и понимаешь, что фантастика с Терминатором не такая уж и фантастика!)

BY Слово Бендера