Машина на Макиавели повдига етични въпроси относно изкуствения интелект

Писателят е научен коментатор

Спомням си първата лъжа на дъщеря ми. Тя стоеше с гръб към стената на хола, с пастел в ръка, опитвайки се да скрие широка драсканица. Обяснението й беше също толкова креативно, колкото и нейната работа: „Баща ми го прави“.

Измамата е крайъгълен камък в когнитивното развитие, защото изисква разбиране за това как другите мислят и действат. Тази способност се появява до известна степен в Cicero, система с изкуствен интелект, предназначена да играе дипломация, военновременна стратегическа игра, в която играчите преговарят, създават съюзи, мамят, задържат информация и понякога подвеждат. Cicero, разработен от Meta и кръстен на известния римски оратор, изправи своя AI срещу човешки играчи онлайн – и надигра повечето от тях.

Пристигането на AI, който може да играе играта толкова ефективно, колкото и хората, разкри миналата седмица в списание Science, отваря вратата за по-сложни взаимодействия между човека и AI, като по-добри чатботове и оптимално решаване на проблеми, когато е необходим компромис. Но като се има предвид, че Цицерон показва, че AI може, ако е необходимо, да използва тайни тактики за постигане на определени цели, създаването на машина на Макиавели също повдига въпроса колко свобода на действие трябва да имаме в алгоритмите – и дали подобна технология трябва да се използва някога. Истинската световна дипломация.

Миналата година Европейският съюз поръча проучване за използването на изкуствения интелект в дипломацията и потенциалното му въздействие върху геополитиката. „Ние, хората, не винаги сме добри в разрешаването на конфликти“, казва Хума Шах, етик по изкуствен интелект в университета в Ковънтри във Великобритания. „Ако изкуственият интелект може да допълни човешките преговори и да спре случващото се в Украйна, защо не?

Подобно на шаха, дипломацията може да се играе на дъска или онлайн. До седем играча се състезават за контрол над различни европейски региони. В първия кръг на действителната дипломация, играчите могат да сключват съюзи или пактове, за да задържат своите позиции или да преместват сили, включително да атакуват или защитават съюзник.

Играта е страхотно AI предизвикателство, защото освен стратегия, играчите трябва да могат да разбират мотивите на другите хора. Има сътрудничество и конкуренция, с риск от предателство.

Това означава, че за разлика от шах или го, комуникацията с другите играчи е важна. Следователно Cicero съчетава стратегическото мислене на традиционните игри с обработката на естествен език. По време на играта AI работи, за да определи как другите играчи могат да действат в преговорите. След това, чрез създаване на подходящо формулирани послания, той убеждава, придумва или принуждава други играчи към партньорства или отстъпки, за да изпълнят своя план за игра. Метаучените обучиха Цицерон, използвайки онлайн данни от близо 40 000 игри, включително 13 милиона съобщения в играта.

След като 82 души изиграха 40 игри в анонимна онлайн лига, Cicero се класира в първите 10 процента от участниците, които са играли повече от една игра. Имаше грешки: понякога разпространяваше противоречиви съобщения за плановете за нахлуване, обърквайки участниците. Въпреки това, само един опонент подозираше, че Цицерон може да е бот (всичко това беше разкрито).

Професор Дейвид Лесли, специалист по изкуствен интелект в университета Queen Mary и института Alan Turing, и двамата в Лондон, описва Цицерон като „един много технически гениален Франкенщайн“: впечатляваща комбинация от множество технологии, но също и прозорец към обезпокоително бъдеще. Доклад на парламентарната комисия на Обединеното кралство от 2018 г. съветва, че ИИ никога не трябва да получава „независима власт да наранява, унищожава или мами човешки същества“.

Първата му грижа е антропоморфната измама: когато някой погрешно вярва, както прави антагонистът, че има друго човешко същество зад екрана. Това може да проправи пътя хората да бъдат манипулирани чрез технологиите.

Втората му грижа е ИИ, който е снабден с хитрост, но му липсва чувство за основни морални концепции, като честност, дълг, права и задължения. „На системата е дадена властта да мами, но тя не работи в моралния живот на нашето общество“, казва Лесли. „За да заявя очевидното, една AI система е на основно ниво неетична.“ Той вярва, че интелигентността, подобна на Цицерон, се прилага най-добре към трудни научни проблеми като анализ на времето, а не към чувствителни геополитически въпроси.

Интересното е, че създателите на Cicero твърдят, че неговите послания, филтрирани за токсичен език, в крайна сметка се оказват „искрени и изключително полезни“ за други играчи и спекулират, че успехът може да произтича от предлагането и обяснението на взаимноизгодни стъпки. Може би, вместо да се чудим колко добре Цицерон играе дипломация срещу хората, трябва да се отчайваме от това колко зле хората играят дипломация в реалния живот.