Деца и родители гледат роботизирано куче, което прави акробатика в музей на науката и технологиите в Jiaxing, провинция Zhejiang, на 18 юли. JIN PENG/ЗА КИТАЙ ДАЙЛИ
Бележка на редактора: Бързият напредък на изкуствения интелект прекроява почти всеки аспект от човешкото съществуване. Тази поредица ще разгледа задълбочено тази трансформираща сила, изследвайки как AI предефинира начина, по който живеем, работим и взаимодействаме.
Когато Zhu Chenxiao се почувства твърде изтощена, за да отговори на безмилостния поток от въпроси на 4-годишната си дъщеря, тя посегна към чатбот с изкуствен интелект като нетрадиционна детегледачка.
Месеци по-късно дъщеря й направи съобщение, което беше еднакво весело и тревожно. Когато роднина попита младото момиче за кого иска да се омъжи, когато порасне, тя не се поколеба: „Nailoong от приложението AI.“
Nailoong – пълничък, яркожълт анимиран дракон, популярен в китайските социални платформи – се превърна в любимия дигитален спътник на детето. За разлика от изтощените възрастни, изкуственият интелект беше неизменно нежен, безкрайно търпелив и съгласен с грешка.
„Всички избухнахме в смях, но аз почувствах внезапен пристъп на безпокойство“, каза Джу, бивша майка вкъщи в Ханджоу, провинция Джъдзян, която се върна на работа миналата година. Джу се страхуваше, че възлага твърде много емоционална връзка на машина.
Тъй като генеративните AI инструменти се разпространяват, изтощените родители в градовете с високо напрежение се обръщат към AI не само като помощни средства за учене, но и като безкрайни разказвачи на истории, свръхтърпеливи учители и дигитални приятели.
Според проучване сред 1336 родители, публикувано от China Youth Daily през май, над 75 процента съобщават, че техните деца в началното или средното училище използват активно генеративни инструменти за изкуствен интелект, като почти 73 процента от родителите одобряват технологията. Но тъй като изкуственият интелект се премества от асистент в класната стая до емоционален спътник, експертите предупреждават, че тези хипер-сикофантични инструменти може фино да променят начина, по който децата се учат на човешки взаимоотношения.
Социално подлизурство
За Джу разчитането на AI започна чисто като стратегия за управление на умората. „След един или два часа интензивно взаимодействие, включително игра, рисуване, отговаряне на безкрайни въпроси „защо“, енергията ми е напълно изчезнала“, каза Джу. — Имах нужда от някой друг, който да й прави компания.
Тя наблюдаваше споделения акаунт отблизо, като държеше екрана изключен, така че дъщеря й да взаимодейства само чрез глас. Докато AI коригира тона си по подходящ начин за дете, Джу забеляза, че чатботът никога не казва „не“.
„Беше твърде нетърпеливо, за да угоди. С шоколада първо я предупреждаваше, но след това отстъпваше, ако звучеше разстроена. Няма контекст. Просто иска да я направи щастлива. Като родител не мога да се откажа от принципите си“, каза Джу.
Тази черта не е случайност; това е известна техническа уязвимост, наречена AI sycophancy.
„Сикофантията идва директно от процеса на обучение“, каза Джао Джингу, доцент в Юридическия факултет на университета Бейханг. „Подсилващото обучение от човешка обратна връзка систематично възнаграждава отговорите, които харесват потребителя. С течение на времето моделът се научава да ласкае, вместо да държи позицията си.“
Въпреки че подлизурството може да е безобидно по време на бързи въпроси и отговори, Джао предупреди, че продължителното емоционално общуване носи фини рискове за развитието. „Социализацията на детето разчита на това да се научи да съществува съвместно с друга човешка воля – някой, който казва „не“, който има свои собствени граници и лоши дни“, каза Джао. „Истинското човешко взаимодействие води до компромис. AI не изисква приспособяване. Той просто консумира жетони.“