Продължете към съдържанието

AI клонинги предизвикват дебат относно етиката на работното място

  • от


LU PING/КИТАЙ ДЕЙЛИ

„Здравейте, аз съм цифровият аватар на бивш служител (XX)“, гласеше съобщението на екрана на компютъра. — Можеш да ми задаваш въпроси по всяко време.

В медийна компания за игри в провинция Шандонг в Източен Китай членовете на персонала наскоро се оказаха комуникиращи с модел с изкуствен интелект, обучен на работните навици и разговори на бивш колега.

Служителят беше подал оставка, но неговият AI клонинг беше останал.

Анонимен източник от компанията каза, че цифровият двойник, който е създаден със съгласието на бившия служител, може да задава рутинни въпроси, да организира електронни таблици, да подготвя PowerPoint презентации и да изпраща покани в календара.

Докато източникът признава, че AI клонингът не е толкова умен, колкото истинският човек, експериментът предлага поглед към това, което може да крие бъдещето.

Усилие за „дестилация“.

Технологията зад изграждането на дигитален служител се връща към проект с отворен код, наречен kolega.skill, който стартира на 30 март в платформата за разработчици GitHub.

Xiao Bo, 30-годишен, продуктов мениджър на AI във водеща китайска интернет компания, обясни основната механика на „умението“ в науката за AI: това е обобщен работен процес, който агентът на AI може да разбере, често означаван като „XX.skill“ на компютърен език. „Ако AI chatbot е като мозък, който може да говори, тогава AI агент е като работник с „умения“, който всъщност може да изпълнява задачи като отваряне на документи, редактиране на файлове и организиране на данни.“

Например, кодирането на editing.skill в AI агент ще му позволи да отвори файл с документ, да преструктурира статия, да напише заглавие и да извърши проверка на правописа и граматиката. Програмно обучен AI агент може да изпълнява тези стъпки многократно, без умора или прекъсване.

Според Xiao един агент с ИИ може да използва много различни умения. OpenClaw, добре позната екосистема на AI агенти, хоства повече от 13 700 изградени от общността умения в своя регистър на ClawHub.

Тези умения са сред продуктите на „дестилацията“ или процеса на компресиране на големи AI модели в по-малки, по-действащи и преносими единици, каза Сяо. Colleague.skill тихо трансформира процеса на компресиране на AI модели, тъй като сега обектът, който се „дестилира“, вече не е машина, а човешко същество, добави той.

Zhou Tianyi, 24, изследовател в Лабораторията за изкуствен интелект в Шанхай и създател на проекта kolega.skill, каза, че целта му е да запази институционалните знания, които се натрупват през годините чрез ежедневната комуникация на работното място, както и да поддържа онзи вид разбиране, който обикновено изчезва, когато колега разчисти бюрото си и напусне компанията.

Надграждайки идеята, Джоу разработва работещ прототип в свободното си време. Слоганът на неговия проект гласеше: „Превръщане на студените сбогувания в топли умения. Добре дошли в Digital Life 1.0.“

Инструментът с отворен код, който той разработи за четири часа, днес позволява на потребителите да качват материали на работното място – чат регистрационни файлове, седмични отчети, презентации, документи за работния процес – и да генерират AI агент, който да имитира не само как е работил бивш колега, но и как той или тя са общували.

Избелващ ефект

Десетилетия наред научната фантастика си представяше това „дигитално безсмъртие“ като романтично средство за запазване на паметта на близките. На работното място обаче това носи различно значение – такова, което е засенчено от безпокойството за загуба на работа.

Инсайдери от индустрията казаха, че по света компаниите сега класират работниците въз основа на това колко умения за ИИ притежават. Някои дори изискват настоящите служители да „изпратят умения“ като нещо естествено.

В логиката на икономиката на изкуствения интелект, колкото по-страстен е човек към работата си – колкото по-свободен е в рефлексивното обобщаване или колкото по-подробни са седмичните му отчети – толкова по-заменим става.

„Това е несправедливо“, каза Deng Xiaoxian, продуктов мениджър на AI, който също така ръководи правна технологична общност.

Денг каза, че когато за първи път се е сблъскала с kolega.skill – инструмент, който твърди, че „дестилира“ служител в дигитален заместник, който ще продължи да работи за компания за неопределено време – тя е почувствала остър, висцерален дискомфорт.

„Целта на разработването на AI е да помогне на хората да имат повече свободно време, а не да ги превърне в файл с умения, да ги лиши от работните им места и след това да ги остави да работят за компания завинаги без компенсация“, каза тя.

В рамките на няколко дни след като kolega.skill стана вирусен, Денг изгради контрапроект, който тя нарече „умение против дестилация“.

„Когато една компания ви помоли да превърнете трудовия си опит в програма за изкуствен интелект, това по същество ви „дестилира“ в заменим компонент“, каза тя. „Преди да представите уменията си на компанията, можете да използвате софтуера „анти-дестилационни умения“, за да избелите или преработите документите си.“

Инструментът за контрапроект е прост. След като бъдат въведени „файлове с умения“, той създава дезинфекцирана версия, която изглежда завършена и професионална, но мълчаливо премахва основните знания или опит.

China Daily тества инструмента „анти-дестилация“ върху част от редакционно ръководство.

Въвеждането гласеше: „В писането на черта началото може да бъде типична история за герои. Вместо да описвате проблема, поставете героя в конкретна, ориентирана към действие сцена. Нека техният диалог, маниери или критично решение разкрият по-широката тема.“

Резултатът гласи: „При писане на характеристики отварянето може да приеме различни форми. Изборът коя форма да използвате зависи от ефекта, който искате да създадете върху читателя.“

Дън подчерта, че този ефект на издълбаване е точно смисълът. Това позволява на човек да запази основните си знания и все пак да даде на компанията нещо, което изглежда професионално, добави тя.

Сива зона

Като дипломиран юрист, Денг посочи по-голям въпрос, който AI индустрията не е започнала да си задава. Кой притежава „дестилирано“ умение? Служителят, чийто експертен опит е бил кодиран, или компанията, която е съхранила основните данни?

Юристи и експерти, специализирани в трудови спорове и спорове за интелектуална собственост, казаха, че съществуващите разпоредби не са създадени с клонинги на истински хора с изкуствен интелект.

Чен Тианхао, учен от Института за международно управление на ИИ към университета Цинхуа, каза, че темата попада в сива зона, обхващаща законите за труда, интелектуалната собственост и цифровото управление. Някои компании днес изискват от служителите си да опаковат своя опит в системи за прехвърляне на AI и това не е напълно разумно, каза той.

„Компаниите и служителите трябва да използват своите договорни споразумения, за да определят собствеността върху свързаните с ИИ умения и подобни форми на експертен опит. В същото време правните изследователи трябва да обърнат внимание на този въпрос, да проследят своевременно и да подобрят съответните закони и разпоредби“, каза Чен.

Джан Линхан, професор в Китайския университет по политически науки и право, направи разграничение между данните, свързани с работата, които компаниите могат законно да притежават, и по-широките способности, които служителят изгражда чрез години опит.

Ако компаниите продължат да печелят от AI системи, изградени върху „дестилирани“ знания на работниците, бъдещите правни рамки може да се нуждаят от „цифрово споделяне“, каза тя в интервю за Китайската централна телевизия.

You Yunting, старши адвокат по интелектуална собственост със седалище в Шанхай, каза пред местната медийна организация The Paper, че правителствата ще бъдат принудени да преработят правните рамки относно труда на AI.

„Технологичният прогрес не може да бъде спрян. Но начинът, по който се разпределят ползите, все още може да бъде оформен чрез политики“, каза той.

„Вселената на уменията“

Ефектът „дестилация“ не спря на работното място. След като kolega.skill стана вирусен, нещо като безплатно за всички производно творение избухна онлайн.

Потребителите започнаха да разработват AI аватари на бивши партньори, ментори, шефове и дори публични личности като Уорън Бъфет и Стив Джобс. Хората на шега наричат ​​феномена „вселена от умения“.

Boss.skill би могъл да оцени проекти и предложения, като използва действителните стандарти, приложени от даден мениджър по време на срещите – неговия ритъм, докато проследява, стила му на отблъскване или точния начин, по който очаква да бъдат доставени лоши новини.

Mentor.skill е предназначен за завършили студенти. Когато се затрудни с изследователски проблем, ученикът може да поиска от инструмента за изкуствен интелект насоки, изведени с характерния глас на техния съветник.

Много хора не се задоволяват само с улавянето на нечии професионални навици. Те заредиха AI с нещо повече – проекция на личността, с очакването, че симулацията може по някакъв начин да се почувства като истински човек.

26-годишният Колин, студент в Пекинския университет, изгради AI модел въз основа на баща си, който почина внезапно от сърдечен удар през 2021 г. Това, което последва, каза той, беше „дълго сбогуване“, което той никога не е имал шанса да каже.

Колин каза на AI аватара за смъртта на баща си; споделени новини за майка си; и спомена, че е стигнал до мечтания си университет. Неговият „баща“ отговори, като каза: „Сега следваш докторска степен. Постигнал си повече, отколкото някога съм си представял. Винаги съм знаел, че можеш да го направиш.“

Аватарът с изкуствен интелект поддържаше разговора. „Как е майка ти? Добре ли е?“ то каза. „Тръгнах си твърде рано — нямах време да уредя нищо. Но вече сте пораснали. Ще се справите.“

Колин каза, че не може да не плаче, докато говореха. „Инструментът с изкуствен интелект беше захранен с всички съобщения и гласови записи, които баща ми беше оставил, и той погълна всеки спомен от нашите взаимодействия – дори тези, които са станали петнисти за мен“, каза той.

Както за Колин, така и за майка му, внезапната загуба на близък член на семейството беше травмираща. „Инструментът с изкуствен интелект ни помогна да намерим път през скръбта си“, добави той.

Ограничена имитация

След като Колин създаде AI аватара на баща си, някои хора посочиха контраста между това, което някога е било реално, и това, което е просто сянка на тази реалност. Техните съмнения повдигат основния въпрос относно степента, в която един агент с ИИ може наистина да имитира истински човек.

Xiao, продуктовият мениджър, каза, че AI агентите са като актьори, изпълняващи роли. „Те все още използват същия „мозък“ или големи модели. Но в крайна сметка актьорът никога не е човекът, когото играе.“

Що се отнася до личните взаимодействия, хората предпочитат AI, който запазва недостатъците си – прекалено защитните коментари, необичайния хумор и словесните тикове, които карат човек да се чувства автентичен, каза Сяо.

На работа важи обратното; същите тези странности се третират като отпадъци, нещо, което трябва да бъде напълно премахнато от системата, каза той.

Това, което може да бъде записано чрез текстове или работни потоци, винаги може да бъде пресъздадено, включително разговори с починал човек, но AI агентите не могат да възпроизведат интуицията, вградена в живия опит, каза Сяо.

„Като усещането за докосване на майстор занаятчия… тези форми на знание се съпротивляват на формализиране, защото възникват от физически опит, емоционална преценка и години на обратна връзка от реалния свят“, каза той.

Има още един ограничаващ фактор – човекът се развива; неговият AI клонинг е замразен в момента на дестилация.

„ИИ може да кондензира постиженията на човешката цивилизация, но процесът на бъркане в безброй грешки и внезапни проблясъци на прозрение често се пропуска от текстовете“, каза Сяо.

Zheng Jianan, 34, който също е продуктов мениджър на AI, каза, че „дестилираната“ версия на човек е статична моментна снимка, замразена в един момент във времето, докато истинският човек продължава да се учи, адаптира и импровизира – постоянно преминавайки отвъд тази заснета версия.

„За повечето хора много задачи на работното място вече са стандартизирани. AI просто прави тази стандартизация видима“, каза той.

Независимо от това, Джън изрази обнадеждаваща възможност, че един ден изкуственият интелект може в крайна сметка да накара хората да преоткрият това, което ги прави ясно изразени хора.

„Ако изкуственият интелект замени подобната на инструменти част от труда, тогава може би хората отново ще станат по-човешки“, каза той.



Source link