Осмата Пекинска конференция Zhiyuan започна на 12 юни 2026 г. в Пекин, привличайки глобалното внимание към границите на изследванията на изкуствения интелект. Откриващата сесия включваше двама лауреати на наградата Turing, чиито приноси фундаментално оформиха съвременните компютри: Уитфийлд Дифи (2015 награда Turing, баща на криптографията с публичен ключ) и Андрю Барто (2024 награда Turing, пионер в обучението с подсилване).
Дифи, чиято новаторска работа върху криптографията с публичен ключ е в основата на сигурността на целия интернет, изнесе реч, озаглавена „Борба за сигурност на AI Agent/Защита срещу заплахи от AI Agent“. Той проследи историческия произход на изкуствения интелект, разкривайки, че Джон Маккарти въвежда термина „изкуствен интелект“ на конференцията в Дартмут през 1956 г. точно за да го разграничи от кибернетичната парадигма на Норберт Винер. Дифи подчерта критичен парадокс: докато AI агентите показват обещание при решаването на традиционни криптографски проблеми чрез формална проверка, самото естество на „общата интелигентност“ прави невъзможно да се напишат официални спецификации за безопасност – не можете формално да дефинирате какво означава „не халюцинира“.
Барто, архитектът на обучението по времева разлика и рамката актьор-критик, заедно със своя докторант Рич Сътън, изследваха обучението с подсилване от вековна перспектива, обхващаща психологията и кибернетиката. Той определи функцията за възнаграждение като основното пречка. Докато простите среди имат перфектни доказателства за конвергенция за обучение с подсилване, сложните сценарии от реалния свят нямат дефинируеми функции за възнаграждение.
Двата разговора стигнаха до едно отрезвяващо заключение: ние даряваме на машините свобода на действие, като същевременно ни липсват както математическите инструменти, които да ги ограничават, така и механизмите за възнаграждение, които да ги ръководят. Дифи отбеляза, че криптографията е отнела половин век от основополагащия документ на Шанън до стандартизираните протоколи, докато обучението за укрепване обхваща цял век от експериментите с кутии за пъзели на Торндайк до AlphaGo. И двамата предупредиха, че теоретичните основи за безопасността и привеждането в съответствие с ИИ остават много по-малко зрели, отколкото предполага ентусиазмът на индустрията.