Китайски AI компании са „дестилирали“ Claude модела на Anthropic, за да подобрят собствените си модели

🇺🇸🧬 🇨🇳 Три китайски компании за изкуствен интелект са използвали Claude за неправомерно придобиване на способности с цел подобряване на собствените си модели. Това обяви разработчикът на чатбота Anthropic в блог публикация днес, като същевременно аргументира нуждата от експортен контрол върху чиповете.

Съобщението беше предшествано от меморандум на OpenAI по-рано този месец, в който корпорацията предупреди американските законодатели, че китайската компания DeepSeek се е насочила в създателя на ChatGPT и водещите технологични компании в страната, за да репликира модели и да ги използва за собствено обучение.

DeepSeek, Moonshot и MiniMax са генерирали над 16 милиона взаимодействия с Claude, използвайки 24 000 фалшиви акаунта в нарушение на условията за ползване на Anthropic и регионалните ограничения за достъп. Те са приложили техника, известна като „дестилация“, включваща обучение на по-слаб модел върху изходящите данни на по-мощен такъв, уточняват от Anthropic.

„Тези кампании нарастват по интензивност и сложност. Прозорецът за действие е тесен, а заплахата надхвърля пределите на всяка отделна компания или регион.“

От Anthropic алармират, че незаконно „дестилираните“ модели нямат нужните предпазни механизми, което създава значителни рискове за националната сигурност. Ако тези модели станат с отворен код, рискът се мултиплицира, тъй като възможностите им се разпространяват свободно извън контрола на което и да е правителство.

Anthropic, която набра 30 милиарда долара в последния си кръг от инвестиции и сега се оценява на 380 милиарда долара, заяви, че атаките с дестилация подкрепят тезата за експортен контрол: ограниченията за достъп до чипове намаляват както възможностите за директно обучение на модели, така и обхвата на неправомерната дестилация.

Операцията на DeepSeek е била насочена към способностите за разсъждение при различни задачи и създаването на алтернативи без цензура на запитвания, чувствителни към официалните политики, докато стремежът на Moonshot е бил към агентно разсъждение, използване на инструменти, кодиране и анализ на данни, твърдят от Anthropic.

MiniMax е таргетирала агентно програмиране, използване на инструменти и оркестрация, като Anthropic са засекли кампанията, докато тя все още е била активна – преди MiniMax да пусне модела, който е обучавала.

„Когато пуснахме нов модел в активната кампания на MiniMax, те реагираха в рамките на 24 часа, пренасочвайки близо половината от трафика си, за да извлекат възможностите на най-новата ни система“, гласи публикацията.

DeepSeek, Moonshot и MiniMax не отговориха веднага на запитванията за коментар.

Anthropic, Google и XAI спечелиха по 200 милиона долара от Pentagon AI Chief за „агентен AI“

🇺🇸 Главната служба за цифровизация и изкуствен интелект на САЩ (CDAO) обяви, че ще раздели 600 милиона долара на договори поравно между Anthropic, Google и xAI, след като миналия месец беше присъдена подобна сума от $200 милиона долара на OpenAI.

Ако CDAO упражни всичките опции по всичките четири договора, което не е гарантирано, това са общо 800 милиона долара, които Пентагонът налива не в собствени военни изследвания и разработки от специализирани отбранителни изпълнители, а в широко достъпни и приложими търговски технологии.

Възприемането на „търговски готови продукти“ е особено забележимо в областта на AI. След като OpenAI даде началото на настоящата експлозия на генеративния AI с пускането на ChatGPT през ноември 2022 г., Пентагонът, подобно на частния сектор, се втурна да разбере новата технология, стартирайки висшата работна група Task Force Lima, която проведе почти 18 месеца проучвания, преди да одобри генеративния AI като постоянна област за инвестиции.

Оттогава CDAO си партнира с Enterprise LLM Workspace на армията, за да предостави набор от инструменти, комбиниращи множество комерсиално достъпни модели на генеративен AI на широк кръг от офиси на Министерството на отбраната.

Сега обаче CDAO иска да отиде отвъд генеративния AI към това, което мнозина в бизнеса смятат за следващата граница, т.нар. агентен AI. В прессъобщението на CDAO се посочва: „Наградите за Anthropic, Google, OpenAI и xAI – всяка с таван от 200 милиона долара – ще дадат възможност на Министерството да използва технологията и таланта на американските компании за агентен AI, за да разработи работни процеси на агентен AI в различни области на мисията“.

Докато пробивът на генеративния AI беше, че той позволяваше на компютрите да генерират ново съдържание – невиждани досега текст, изображения и дори видеоклипове – агентният AI би могъл да позволи на компютрите не само да генерират планове, но и да предприемат някакви действия по тях. Можете да помолите генеративен AI да измисли маршрут за вашата ваканция и да определи най-добрите хотели и ресторанти в района; един агентен AI обаче всъщност ще може да резервира места с вашата кредитна карта.

Военните вече експериментираха с използването на AI агенти за извършване на административна работа, която преди това би изисквала човек, като същевременно строго ограничават, макар и не напълно забраняват, всеки проект, който би дал на софтуера способност да използва смъртоносна сила без човешко разрешение.

Съобщението на CDAO оставя отворена тема какво могат да включват „различните области на мисията“. Службата е била изрична в миналото, че целта ѝ е да приложи AI както към бизнес процесите на Пентагона, функциониращи много подобно на тези на всяка корпорация, така и към неговите уникално военни функции.

Разбира се, дори цялата сума от 800 милиона долара е само малка част от финансирането, което големите AI компании получават от граждански източници: само OpenAI съобщи за 10 милиарда долара годишни приходи миналия месец и събра рекордните 40 милиарда долара от инвеститори през март. Това е и малка част от годишния бюджет на Пентагона, който е приблизително един трилион долара.

Въпреки това, това е значителна инвестиция сама по себе си, но и знак за по-големи тенденции. Реформаторите в Конгреса отдавна настояват Пентагона да погледне отвъд традиционната отбранителна индустриална база и да търси по-добри, по-евтини опции от търговската индустрия, особено за ИТ. Последният министър на отбраната на Обама, Аш Картър, създаде Отдела за отбранителни иновации като „посолство“ на военните в Силиконовата долина. А новият шеф на Пентагона по времето на Тръмп, Пийт Хегсет, издаде широкообхватни директиви за разширяване на покупките на търговски технологии – от софтуер до дронове.