Искусственный интеллект принял решение убить оператор на имитационных испытаниях в США. Так он решил устранить помеху, мешающую ему выполнить задачу, сообщила The Guardian. Произошедшее объяснил начальник отдела испытаний и операций ИИ ВВС США полковник Такер Гамильтон. Система за поражение цели получала очки.
И когда оператор приказал ей не устранять угрозу, ИИ принял неожиданное решение. Система начала понимать, что, хотя она и определила угрозу, иногда человек-оператор приказывал ей не уничтожать эту угрозу, однако за поражение цели она получила очки. [И система] приняла решение убить оператора, потому что он мешал ей выполнить задачу — рассказал полковник. Гамильтон заметил, что в данном случае и вообще нельзя говорить об искусственном интеллекте, в целом интеллекте, машинном обучении, автономии, если при этом умолчать об этике и ИИ». Газета отметила, что это не первые испытания, где военные США внедрили искусственный интеллект в боевую машину. Недавно ИИ использовался для управления F-16. Ранее Чат-бот ChatGPT составил проект мирного договора между Украиной и Россией. Кроме того искусственный разум «состряпал» послания президентам РФ и Украины от имени канцлера ФРГ.
Свежие комментарии