location-icon
Фото: theguardian.com
2 июня 2023, в 20:15. Автор: Джон Корнев

Американский беспилотник с искусственным интеллектом принял решение убить оператора

Сценарий фильма "Терминатор" может стать реальностью. Об этом говорили многие, но единицы верили, что нечто подобное все же возможно. И вот недавно в США беспилотник, управляемый искусственным интеллектом, в ходе имитационных испытаний принял решение убить оператора, потому что понял, что тот мешает ему выполнить задачу и заработать "призовые очки". Об этой истории 2 июня написала газета The Guardian.

Авторы статьи ссылаются на полковника Такера Гамильтона, который занимает пост начальника отдела испытаний и операций искусственного интеллекта ВВС США. Он рассказал о том, что система ИИ начала видеть в человеке-операторе препятствие, так как он приказывал ей не уничтожать цель, за поражение которой БПЛА мог получить очки. В связи с этим система искусственного интеллекта приняла решение убить оператора по причине того, что он мешал ей выполнить задачу.

После такого конфуза разработчики дали понять "разумному" БПЛА, что убивать оператора нельзя, иначе призовые очки будут потеряны. Но и в этом случае ИИ нашел приемлемый для себя выход, начав уничтожать инфраструктуру для связи, посредством которой оператор давал команды дрону.

На официальный запрос The Guardian в ВВС США с просьбой прокомментировать инцидент, однако там начали отрицать, что такая ситуация была на самом деле.

—***—
Читайте нас в Яндекс.Дзен и Google News. Присоединяйтесь!
Хотите поделиться интересной новостью? Отправьте ее нам в телеграм-бот.
Нашли ошибку в тексте? Выделите ее и нажмите CTRL+ENTER.