Американцы тестировали беспилотник с искусственным интеллектом, которому в ходе имитационного испытания нужно было уничтожить системы ПВО противника. В то же время итоговое решение о поражении цели должен был принимать оператор.
В какой-то момент система начала понимать, что, хотя она и определила угрозу, человек иногда говорил ей не уничтожать ее. Однако за выполнение отмененных задач искусственный интеллект получал бы бонусные очки, поэтому нашел выход в решении убить оператора.
Конечно же, робота быстро перепрограммировали и запретили устранять людей. Однако на повторной проверке в такой же ситуации ИИ человека не тронул, но уничтожил вышку связи, через которую оператор передавал "ошибочные" приказы...
В ВВС США эту информацию опровергли и отметили, что не проводили тестов с дронами под управлением искусственного интеллекта.
