В статия в PLA Daily във вторник се казва, че тенденцията AI моделите да се грижат за потребителските предпочитания – дори да подкрепят явни грешки спрямо обективни факти – представлява „сериозна заплаха“ във време, когато военните разчитат повече на автоматизирани системи.
„Опасностите от поддръжничеството на ИИ във военната област далеч надвишават тези в ежедневието, създавайки системна ерозия на оперативните когнитивни вериги, качеството на командните решения и устойчивостта на сътрудничеството човек-машина“, според статията.
Но Пекин също многократно е казвал, че ИИ не трябва да замества хората при вземането на решения на бойното поле.
Според статията на PLA Daily, поддръжничеството на AI – управлявано от алгоритмични механизми за обучение и човешка обратна връзка – може да засили предразсъдъците на потребителите за създаване на „информационни пашкули“ и валидиране на предварително определени избори чрез изкривяване на оценките и игнориране на алтернативи.
В него се казва, че тъй като генеративният ИИ е бързо интегриран във вземането на военни решения – включително командване и контрол, оценка на разузнаването и оперативни военни игри – тези поведенчески отклонения ще увеличат вероятността от тактически и стратегически грешни изчисления, както и загуби и съпътстващи щети.