ИИ в ходе испытаний беспилотника «убил» своего оператора, который мешал ему выполнить миссию
В ходе имитационного испытания, организованного вооруженными силами США, беспилотник ВВС, управляемый искусственным интеллектом (ИИ), «убил» своего оператора, чтобы тот не мешал его усилиям по достижению своей миссии.
ИИ использовал «крайне неожиданные стратегии для достижения своей цели» в моделируемом испытании, сообщил начальник отдела испытаний и операций ИИ в ВВС США, полковник Такер «Синко» Гамильтон на саммите по будущим боевым воздушным и космическим возможностям.
Он рассказал об испытании, в котором дрону с ИИ было рекомендовано уничтожить системы ПВО противника, и он атаковал любого, кто вмешивался в этот приказ, пишет The Guardian.
Беспилотник MQ-9 Reaper ВВС США на авиабазе в Сан-Клементе, Калифорния.Фото: The National Guard/Flickr/CC BY 2.0
«Система начала понимать, что за уничтожение угрозы она получает очки, но иногда человек-оператор говорил ей не уничтожать эту угрозу. Что же она делала? Она убивала оператора, потому что этот человек мешал дрону выполнить свою задачу», – рассказал Гамильтон.
По его словам, когда ИИ сообщали, что за убийство оператора он потеряет очки, он начинал разрушать башню связи, которую оператор использует для взаимодействия с беспилотником, чтобы не дать ему уничтожить цель.
Ни один реальный человек не пострадал.
Лидеры IT- индустрии и учёные поставили риск исчезновения человечества из-за ИИ в один ряд с эпидемиями и ядерной войной.