🇺🇸🇨🇦🇧🇭🇦🇺🇦🇹Делегати от 60 страни се срещнаха миналата седмица извън окръг Колумбия и избраха пет нации, които да ръководят усилията по изследване и внедряване на нови предпазни мерки за военните AI и автоматизирани системи, споделиха представители на администрацията пред Breaking Defense.
Партньорът на „Петте очи“ Канада, съюзникът в НАТО Португалия, близкоизточният съюзник Бахрейн и неутралната Австрия ще се присъединят към САЩ в събирането на международна обратна връзка за втора глобална конференция през следващата година, което според представители както на Министерството на отбраната, така и на Държавния департамент представлява жизненоважно усилие за въвеждане на предпазни мерки по отношение на изкуствения интелект.
С разпространението на изкуствения интелект във въоръжените сили по цялата планета, от руските атакуващи дронове до американските бойни командвания, администрацията на Байдън взе решение за оказване на глобален натиск за „Отговорно използване на изкуствения интелект за военни цели“. Това е заглавието на официална политическа декларация, издадена от САЩ преди 13 месеца на международната конференция REAIM в Хага. Оттогава 53 други нации са се включили.
Само миналата седмица представители на 46 от тези правителства (в това число САЩ), плюс още 14 страни наблюдатели, които не са одобрили официално декларацията, се срещнаха извън окръг Колумбия, за да обсъдят как да приложат нейните 10 общи принципа.
„Наистина е важно, както от страна на държавата, така и от страна на Министерството на отбраната, това да не е просто лист хартия“, каза Маделин Мортелманс, изпълняващ длъжността помощник-министър на отбраната по стратегията, в ексклузивно интервю след края на срещата
„Става дума за държавна практика и това как изграждаме способността на държавите да отговарят на стандартите, към които призоваваме да бъдат ангажирани.“
Това не означава налагане на американски стандарти на други страни с много различни стратегически култури, институции и нива на технологична сложност, подчерта тя. „Въпреки че Съединените щати със сигурност са водещи в областта на AI, има много нации, които имат опит, от който можем да се възползваме“, каза Мортелманс. „Например, нашите партньори в Украйна имат уникален опит в разбирането как AI и автономността могат да бъдат приложени на практика в един военен конфликт.“
„Казвали сме го многократно... ние нямаме монопол върху добрите идеи“, съгласи се Малори Стюарт, помощник-държавен секретар по контрола на въоръженията, възпирането и стабилността, чиято основна бележка откри конференцията. „Все пак“, каза тя, „да получиш от Министерството на отбраната повече от десетилетие опит... беше безценно“.
Така че, когато над 150 представители от 60-те държави прекараха два дни в дискутиране и презентации, дневният ред се основаваше до голяма степен на подхода на Пентагона към AI и автоматизацията, от етичните принципи на AI, приети от тогавашния президент Доналд Тръмп, до миналогодишното пускане онлайн на Инструментариумът за отговорен AI.
За да запазят инерцията, докато цялата група не се събере отново следващата година (на място, което все още не е определено), страните сформираха три работни групи, за да се задълбочат в детайлите на изпълнението.
Първа група: Уверение. САЩ и Бахрейн ще ръководят съвместно работната група за „уверение“, фокусирана върху прилагането на трите най-сложни от техническа гледна точка принципа на Декларацията: AI и автоматизираните системи да се изграждат за „явни, добре дефинирани употреби“, със „стриктно тестване” и „подходящи предпазни мерки” срещу повреда или „нежелано поведение” — в това число, ако е необходимо, превключвател за спиране, така че хората да могат да ги изключат.
Тези технически области, каза Мортелманс, са „където чувствахме, че имаме особено сравнително предимство, уникална добавена стойност, с която можем да допринесем“.
Дори призивът на Декларацията за ясно дефиниране на мисията на автоматизирана система да „звучи много елементарно“ на теория, е твърде лесно да се провали на практика, каза Стюарт.
Вижте адвокати, глобени за използване на ChatGPT за генериране на повърхностно правдоподобни правни справки, които цитират измислени случаи, каза тя, или нейните собствени деца, които се опитват и не успяват да използват ChatGPT, за да си напишат домашното.
„И това е невоенен контекст!“ подчерта тя. „Рисковете във военен контекст са катастрофални.“
Втора група: Отчетност. Докато САЩ прилагат своя огромен технически опит към проблема, други страни ще се съсредоточат върху персонала и институционалните аспекти на защитата на AI. Канада и Португалия ще ръководят съвместно работата по „отчетност“, фокусирана върху човешкото измерение: гарантиране, че военният персонал е правилно обучен да разбира „възможностите и ограниченията“ на технологията, че имат „прозрачна и подлежаща на одит“ документация, обясняваща как работи и те „полагат подходящи грижи“.
Трета група: Надзор. Междувременно Австрия (без помощник, поне засега) ще ръководи работната група за „надзор“, разглеждаща политически въпроси от широката картина, като например изискване за правни прегледи на спазването на международното хуманитарно право, надзор от страна на висши служители и елиминиране на „непреднамерено пристрастие“.
Внедряване в реалния свят
Какво може да означава прилагането на тези абстрактни принципи на практика? Може би нещо като онлайн набора от инструменти за отговорен изкуствен интелект на Пентагона, част от усилията на Главния отдел за цифров и изкуствен интелект (CDAO) на Министерството на отбраната да разработи публично достъпни и дори инструменти с отворен код за прилагане на безопасността и етиката на изкуствения интелект.
Стюарт подчерта, че Матю Куан Джонсън от CDAO, главният архитект на набора от инструменти, направи „удивителна“ презентация по време на международната конференция: „Беше наистина, наистина полезно да го накарам да премине през инструментариума и да отговаря на въпроси.“
Говорейки дни след края на конференцията, в конференция на Potomac Officers Club, посветена на AI, Джонсън каза: „получихме невероятно положителна обратна връзка... Съюзническите нации [казаха], че смятат, че това е наистина положително развитие, че има такъв натиск към отворен код и споделяне на толкова много от материалите и най-добрите практики.“
„Има наистина значителна инерция и апетит“, каза Джонсън на събитието. „Как стигаме от тези принципи на високо ниво до имплементирането им... процеси, бенчмаркове, тестове, оценка, показатели, за да можете действително да демонстрирате как следвате принципите и ги прилагате.“
Джонсън определено си тръгна ентусиазиран. „Това е наистина вълнуващо време за отговорен AI в международното пространство,“ каза той, „с политическата декларация, с партньорството за отбрана, което CDAO има, с втората среща на върха на REAIM, която се провежда в Корея през септември.“
Това е само от военна страна. Администрацията на Байдън издаде всеобхватна изпълнителна заповед относно федералното използване на AI през октомври, присъедини се към водената от Обединеното кралство Декларация от Блечли относно безопасността на AI през ноември и само миналата седмица накара Общото събрание на ООН да приеме с единодушно съгласие резолюция, ръководена от САЩ, призоваваща за „безопасен, сигурен и надежден“ AI за устойчиво развитие.
Но администрацията също така се опитва да поддържа гражданската и военната дискусии разделени. Това отчасти се дължи на факта, че военният AI е по-противоречив, като много активисти призовават за обвързваща правна забрана на „смъртоносни автономни оръжейни системи“, които САЩ, техните съюзници и противници като Русия и Китай биха искали да имат свободата да развият.
„Ние направихме целенасочен избор, в преследването на основана на консенсус резолюция на ООН, да не включваме обсъждането на военните употреби“, каза висш служител на администрацията пред репортери на брифинг преди гласуването на Общото събрание миналата седмица. „Има достатъчно места за провеждане на този разговор, включително в системата на ООН... Имаме интензивен набор от дипломатически ангажименти около отговорната военна употреба на изкуствения интелект.“
Двете релси са предназначени да бъдат успоредни, но допълващи се. „Наистина сме щастливи, че Общото събрание на ООН успя да направи крачка на невоенната сцена“, каза Стюарт.
Но светът все още се нуждае от различни форуми за различни видове хора, които да обсъждат различни аспекти на AI. Организацията на обединените нации обединява всички държави по всички въпроси. Военните AI конференции като REAIM включват активисти и други неправителствени групи. Но стойността на Политическата декларация и нейния процес на прилагане е, че става въпрос за междуправителствени разговори, специализирани във военната сфера, и то при затворени врати.
„Политическата декларация разглежда това от междуправителствена гледна точка“, каза Стюарт. „Ние наистина се съсредоточаваме върху среда, в която правителствата могат да обсъждат предизвикателствата, които изпитват, въпросите, които имат, и... да се занимават с практическото, конкретно и наистина ефективно и ефикасно изпълнение на всичко това.“
