Платформа на Cisco за разпределени AI работни натоварвания

Информатек Дигитал » Ресурси » Платформа на Cisco за разпределени AI работни натоварвания

Експлозията на изкуствения интелект и агентите с изкуствен интелект , както и възходът на изкуствените невронни мрежи , преобръщат начина, по който проектираме мрежи, центрове за данни и компютърни платформи. Много организации вече са се сблъскали с тази реалност: пилотни проекти работят в лабораторията, но когато става въпрос за мащабиране, инфраструктурата е недостатъчна, навсякъде се появяват пречки, а латентността прави вземането на решения в реално време невъзможно.

В този контекст Cisco изгражда цялостна екосистема от платформи за разпределени работни натоварвания , както традиционни, така и базирани на изкуствен интелект, вариращи от мрежовия ръб до взаимосвързването между големи центрове за данни за масивни клъстери. В рамките на този подход се открояват три стълба: новата интегрирана платформа Cisco Unified Edge за разпределен изкуствен интелект, хибридни платформи за управление като Cisco Intersight и Nexus Dashboard , и новият Cisco 8223 със Silicon One P200 , проектиран за опорни мрежи, които пренасят масивен трафик с изкуствен интелект между центрове за данни.

Защо настоящата инфраструктура е недостатъчна за изкуствен интелект

Един от ключовите моменти, които Cisco заявява директно, е, че повече от половината пилотни проекти за изкуствен интелект са спрени поради инфраструктурни ограничения. Не става въпрос за липса на идеи или модели, а по-скоро за липса на реален капацитет за надеждно, сигурно и мащабно изпълнение на тези натоварвания.

Проблемът произтича от факта, че натоварванията на ИИ са се изместили от централизирано обучение към разпределено извеждане в реално време . Моделите, и особено ИИ агентите, вече не се намират единствено в голям клъстер в центъра за данни: те започват да се местят там, където се генерират данни и се вземат решения, като магазини, фабрики, болници, стадиони или банкови клонове.

Тази промяна напълно трансформира мрежовия трафик . Вместо повече или по-малко предвидими пикове, се генерират непрекъснати, високоинтензивни потоци. Cisco уточнява, че заявките към AI агенти могат да генерират до 25 пъти повече мрежов трафик от традиционния чатбот , умножавайки натиска върху мрежите, гръбначните мрежи и компютърните платформи.

В същото време компанията отбелязва, че 75% от корпоративните данни вече се създават и обработват извън традиционния център за данни , на периферията. Очакването цялата тази информация да пътува напред-назад до централния център за данни е нереалистично: латентността се увеличава драстично, връзките се насищат и разходите за честотна лента се покачват драстично.

Както обобщава Джиту Пател, президент и главен продуктов директор на Cisco , настоящата инфраструктура просто не е готова да захранва изкуствения интелект в голям мащаб . Според него, изчисленията трябва да се използват там, където се взаимодейства с клиентите и се вземат решения: в клона, магазина, производствения завод, стадиона или всяко друго периферно местоположение.

Cisco Unified Edge: Интегрираната платформа за разпределени AI работни натоварвания

Cisco представи Unified Edge като интегрирана изчислителна платформа, специално проектирана да изпълнява разпределени, базирани на агенти AI задачи възможно най-близо до източника на данни. По същество това е конвергирана архитектура, която комбинира изчисления, мрежи, съхранение и сигурност в единна edge-ориентирана система.

Компанията го позиционира като междусекторно решение за сектори, толкова разнообразни, като търговия на дребно, здравеопазване, производство и финансови услуги . Целта е то да бъде еднакво полезно за верига магазини, производствен завод или болница, които се нуждаят от милисекундни отговори, без винаги да се разчита на облака или централен център за данни.

Според Cisco, Unified Edge действа като обща основа за поддръжка както на традиционни натоварвания, така и на усъвършенствани случаи на употреба на изкуствен интелект . Това включва всичко - от приложения в реално време, които могат да работят на процесори, до натоварвания, изискващи интензивно използване на графични процесори, свързани със сложни изводи, генеративни модели или автономни агенти.

Ключова характеристика е, че платформата е проектирана да расте, без да е необходима пълна подмяна . Вместо да се изхвърля хардуер на всеки няколко години, модулната архитектура позволява разширяване на процесора, графичния процесор, мрежата или капацитета за съхранение, когато нуждите на изкуствения интелект нарастват, защитавайки първоначалната инвестиция.

За да подсили практичния си подход, Cisco съвместно разработи Unified Edge с клиенти в областта на търговията на дребно, производството, банковото дело и здравеопазването . Приносът от тези сектори е повлиял както на техническата архитектура, така и на начина, по който платформата е внедрена, защитена и управлявана в голям мащаб, с реални сценарии, не само в лаборатория.

Конвергирана архитектура и модулно шаси: процесор, графичен процесор, мрежа и съхранение

В основата на Unified Edge е конвергирана архитектура, която обединява изчисления, мрежи и съхранение в рамките на една физическа платформа. Не става въпрос за добавяне на отделни части, а за интегриране на всички градивни елементи в общ дизайн, оптимизиран за периферията.

Системата е базирана на модулно шаси, което поддържа множество конфигурации на процесори и графични процесори , което позволява адаптиране на процесорната мощност към всеки сценарий. Малък цех може да започне с по-лека конфигурация, докато промишлено предприятие, използващо компютърно зрение, или болница с медицински анализ на изображения може да избере повече графични процесори от първия ден.

Освен това, Unified Edge включва високопроизводителни SD-WAN мрежи , проектирани за ефикасно и сигурно свързване на крайни сайтове към корпоративното мрежово ядро ​​или облака. Тази свързаност е от съществено значение за преместване на модели, данни и телеметрия, без да се създават пречки.

Платформата включва и резервирани системи за захранване и охлаждане , проектирани да осигурят непрекъснатост на обслужването в среди, където прекъсване на захранването или термична повреда не са възможни. Предварително валидираните проекти на Cisco спомагат за осигуряване на последователна и повтаряема интеграция на всички тези елементи (изчисления, съхранение, мрежи, захранване и охлаждане).

Тази модулност, съчетана с конвергенцията на ресурсите, позволява на организациите да внедряват периферни изчисления по мащабируем начин , без да е необходимо да препроектират изцяло инфраструктурата си всеки път, когато се появят нови натоварвания с изкуствен интелект или се наложи разширяване на инсталирания капацитет.

Изводи в реално време и натоварвания, базирани на агенти

Едно от основните послания на Cisco е, че Unified Edge е оптимизиран за изводи с изкуствен интелект в реално време и интелигентни агентно-базирани натоварвания . Вместо просто да изпълнява модели централизирано, платформата позволява те да бъдат разположени близо до мястото, където се вземат критични решения.

Това е от решаващо значение, например, във фабрики, които трябва да откриват аномалии в реално време , в магазини, които искат да персонализират клиентското изживяване мигновено, или в здравни заведения, където всяка милисекунда е от значение при анализа на клинични данни. Във всички тези случаи непрекъснатото изпращане на данни към отдалечен облак не е осъществимо както поради латентност, така и поради цена.

Unified Edge е проектиран да позволява на работните натоварвания да се развиват с течение на времето . Днес може да изпълнява „класически“ приложения, които са предимно управлявани от процесор, а утре може да служи като основа за сложни модели, които използват графични процесори. Този хибриден дизайн помага на бизнеса да управлява настоящите реалности, докато се подготвя за много по-интензивно използване на изкуствен интелект бъдеще.

Архитектурата обхваща целия път, от ръба до ядрото на мрежата , така че агентите и моделите могат да работят локално, но също така да се координират с централни ресурси, когато е необходима повече мощност или агрегиране на данни.

Този подход намалява риска организациите да се „заключат“ в един-единствен вид натоварване, като същевременно насърчава появата на нови, все още неосъзнати случаи на употреба , подкрепени от една и съща технологична база.

Централизирано управление с Cisco Intersight и автоматизирани операции

Разгръщането на стотици или хиляди крайни възли без стабилна контролна равнина би било неуправляемо. Ето защо Cisco интегрира централизирано управление в Unified Edge чрез Cisco Intersight , своята хибридна платформа за управление на облака, която вече се използва от много клиенти за центрове за данни и частни облачни среди.

Целта е ИТ екипите да могат да наблюдават, конфигурират, автоматизират и актуализират периферната инфраструктура, без да се налага физически да пътуват до всяко място. Това включва всичко - от първоначалното осигуряване (с практически „безконтролно“ внедряване) до актуализации на фърмуера, управление на политики и разрешаване на инциденти.

Intersight се допълва от разширени възможности като Intersight Kubernetes Service , която опростява управлението на жизнения цикъл на Kubernetes клъстери и контейнеризирани приложения, независимо от тяхното местоположение: в центъра за данни, публичния облак или на периферията. Това е в перфектно съответствие с тенденцията за пакетиране на AI приложения и микросървиси в контейнери.

Платформата интегрира и Intersight Workload Optimizer , инструмент, който осигурява видимост в реално време върху използването на ресурси и помага за балансиране на производителността и разходите. Благодарение на тази функция, ИТ екипите могат автоматично да регулират използването на процесора, паметта или паметта за всяко приложение, предотвратявайки прекомерно предоставяне или претоварване на системата.

И накрая, интеграцията с AppDynamics позволява съпоставяне на поведението на инфраструктурата с потребителското изживяване на ниво приложение, предвиждайки проблеми, които биха могли да повлияят на производителността на критични услуги. Всичко това допринася за това, че работата на платформата е много по-проактивна, отколкото реактивна.

Наблюдаемост от край до край: Splunk и ThousandEyes

За да работи наистина разпределеното управление, наблюдаемостта е от съществено значение. Cisco е интегрирала конектори със Splunk и ThousandEyes в Unified Edge , два инструмента, които осигуряват подробна видимост за случващото се в мрежата и системите.

С Splunk организациите могат да агрегират показатели, лог файлове и събития от платформата , да ги анализират в реално време и да прилагат откриване на аномалии или разширени корелации. Това се превръща в много по-голяма способност за откриване на инциденти, преди те да се превърнат в сериозен проблем.

ThousandEyes, от своя страна, предлага цялостна видимост върху производителността на мрежата и цифровите услуги , включително частта от интернет, която е извън прекия контрол на клиента. Това е особено полезно, когато натоварванията с изкуствен интелект разчитат на външни облачни услуги, API или междусайтови връзки.

Комбинацията от Intersight, Splunk и ThousandEyes се стреми да „демократизира“ управлението на инфраструктурата , позволявайки на екипите на NetOps, SecOps, DevOps и мениджърите на приложения да споделят общ поглед върху реалността, вместо да работят изолирано.

На практика, тази пълна наблюдаемост улеснява мащабирането на периферията, приоритизирането на инвестициите в мрежата и вземането на решения, основани на данни, за това къде са истинските пречки.

Многослойна сигурност и модел Zero Trust на периферията

С излизането на изчисленията от контролираната среда на центъра за данни, повърхността за атака се разширява значително пред лицето на киберзаплахите . Устройствата, разположени в магазини, фабрики или клонове, са по-изложени на физически рискове и кибератаки.

Cisco е проектирала Unified Edge с многопластова сигурност, базирана на модела Zero Trust , където нищо и никой не се счита за надежден по подразбиране. Това включва постоянно удостоверяване и оторизация, дълбока сегментация и последователни политики за всяка точка за достъп и поток от данни, допълнени от подобрени защитни стени.

Платформата включва функции за защита от несанкциониран достъп на хардуерно ниво , като например откриване на опити за отваряне или промяна на системата, както и подробна телеметрия, която позволява постоянно наблюдение на състоянието на оборудването и откриване на аномално поведение.

Политиките за сигурност се прилагат последователно във всички възли, което намалява вероятността от различни конфигурации или пропуски в сигурността между сайтовете. Одитните логове помагат за поддържане на съответствие с регулаторните изисквания, когато инфраструктурата се мащабира до десетки или стотици локации.

Тази вградена сигурност може да бъде разширена, за да се прилагат принципите на Zero Trust към всяко приложение и всеки модел на изкуствен интелект , защитавайки както данните, така и логиката и изводите на агентите. Тъй като много операции с изкуствен интелект на периферията обработват чувствителни данни (здравни, финансови, лични), този подход е особено важен.

Гъвкави ИТ платформи за мултиоблачни и хиперразпределени среди

Отвъд Unified Edge, Cisco е прекарала години в изграждането на ИТ платформи, предназначени за многооблачен и хиперразпределен свят . По време на Cisco Partner Summit Digital, компанията подчерта, че приложенията стават все по-разпределени, служителите са по-мобилни и изискванията към системите продължават да нарастват.

За да се справи с тази реалност, Cisco разработва решения, които опростяват операциите, предлагат съгласуваност между публични, частни и периферни облаци и свързват екипи, инструменти и инфраструктура. Целта е да се предостави на ИТ екипите обща рамка за управление на цялата им среда, като същевременно се запази фокусът върху производителността на приложенията.

Тези решения включват Cisco Intersight като хибридна платформа за управление , самото табло Nexus Dashboard за работа с мрежи от центрове за данни с множество облаци и системи като Cisco Identity Services Engine (ISE) , които разширяват подхода Zero Trust до достъп до мрежата навсякъде.

Ролята на Intersight, както вече беше споменато, е да се превърне в „най-простата в света“ хибридна облачна платформа , свързваща частни центрове за данни с публични облаци. Способността ѝ да управлява Kubernetes, да оптимизира натоварванията и да съпоставя инфраструктурата с производителността на приложенията е ключова в този нов сценарий.

Всичко това се вписва в цялостната стратегия на Cisco да предлага платформи, а не само изолирани продукти , помагайки на организациите да реагират на прекъсвания, да ускорят внедряването на облачни технологии и да трансформират своите ИТ оперативни модели, за да поддържат изкуствен интелект и съвременни приложения.

Табло за управление на Cisco Nexus и Cisco ISE: Многооблачна мрежа и сигурен достъп

В рамките на тази стратегия, Cisco Nexus Dashboard се откроява като унифициран информационен и автоматизиран интерфейс за мрежи от центрове за данни с множество облаци . Неговата мисия е да оркестрира, наблюдава и защитава мрежи, които се простират от локални съоръжения до виртуални и периферни среди.

Nexus Dashboard консолидира оркестрацията, анализите и услугите за сигурност в една платформа , улеснявайки внедряването на облачни приложения и ускорявайки възвръщаемостта на инвестициите в инфраструктура. Този унифициран изглед е от съществено значение за организациите, които свързват своите AI клъстери и разпределени работни натоварвания в множество облака.

Cisco Identity Services Engine (ISE) действа като централен елемент за опростяване на защитения мрежов достъп във всички домейни . Той интелигентно идентифицира голямо разнообразие от устройства, включително крайни точки на IoT, и налага последователни политики от облака.

С ISE, компаниите могат да разширят концепцията за нулево доверие на работното място до всяко местоположение и тип устройство , което е от решаващо значение, тъй като изчисленията и изкуственият интелект се изместват към периферията, а крайните точки се умножават.

Заедно тези части подсилват визията на Cisco за съгласувана ИТ платформа, където мрежите, сигурността и изчисленията работят координирано, за да поддържат традиционните и изкуствените интелект натоварвания, без да създават ненужни слоеве на сложност.

Cisco 8223 и Silicon One P200: гръбнакът за AI работни натоварвания

С нарастването на популярността на периферните изчисления, големите клъстери с изкуствен интелект продължават да нарастват по размер и консумация на енергия. Тук се намесва новият Cisco 8223 - система за маршрутизиране, оптимизирана за свързване на центрове за данни и поддръжка на масивния трафик, генериран от обучение и масивни натоварвания за извод.

Според самата компания, Cisco 8223 е единственият в индустрията фиксиран Ethernet рутер с 51,2 Tbps, проектиран за AI трафик между центрове за данни . Той се захранва от чипа Cisco Silicon One P200 , който действа като системно ядро ​​и осигурява висока пропускателна способност, енергийна ефективност и програмируемост.

Причината за съществуването на този екип е ясна: изчисленията с изкуствен интелект вече надвишават капацитета на много отделни центрове за данни , което налага хоризонтален мащаб и разпределение на работните натоварвания на множество места. Тази тенденция изисква взаимовръзки между центрове за данни, разположени на стотици километри един от друг, с максимална производителност и надеждност.

Ако точките за свързване между центровете за данни не са оптимизирани, това води до затруднения, проблеми с производителността и неефективно използване на енергия и ресурси . 8223 има за цел да реши именно това, предлагайки голям буферен капацитет, висока плътност на портовете и опции за кохерентна оптика 800G за разстояния до 1.000 км.

Производители като Microsoft, Alibaba и доставчици като Lumen публично подчертаха, че Silicon One и системи като 8223 им позволяват да изграждат по-мащабируеми, програмируеми и ефективни опорни мрежи, които да поддържат новата вълна от натоварвания, свързани с изкуствен интелект и облак.

Енергийна ефективност, мащабируемост и интелигентност в 8223

Една от силните страни на Cisco 8223 е енергийната му ефективност . Той е представен като най-ефективната система за маршрутизиране на пазара за мащабируеми мрежи , с плътност и консумация на енергия, сравними с тези на комутатор, въпреки че включва много голям буферен капацитет.

По отношение на мащабируемостта, системата предлага 64 800G порта и може да обработва повече от 20.000 милиарда пакета в секунда . Cisco посочва, че е способна да мащабира до 3 екзобита в секунда, което я поставя в класацията на големите глобални инфраструктури за взаимосвързване.

8223 е проектиран да абсорбира огромни пикове в трафика, свързани с обучението на AI модели , поддържайки производителността и предотвратявайки забавяния. Благодарение на възможностите за буфериране на P200, той може да обработва импулси, които иначе биха претоварили мрежата.

Силициевият чип P200 е също така лесно програмируем , което позволява на системата 8223 интелигентно да се адаптира към мрежовите условия в реално време и да поддържа нововъзникващи протоколи и стандарти, без да е необходимо да се променя хардуерът.

На оперативно ниво оборудването се интегрира с платформите за наблюдение на Cisco, така че клиентите получават подробна информация за поведението на трафика с изкуствен интелект , което улеснява откриването на проблеми, планирането на капацитета и непрекъснатото подобряване на производителността.

Сигурност и гъвкавост в опорните мрежи за изкуствен интелект

В допълнение към чистата производителност, Cisco 8223 включва множество слоеве на сигурност , които обхващат от хардуер до софтуер и самата мрежа. Той включва функции като криптиране на линейна скорост с квантово-устойчиви алгоритми , вградени мерки за сигурност и инструменти за непрекъснато наблюдение.

Тези възможности са предназначени да защитят трафика на данни с изкуствен интелект между центровете за данни , който често включва както ценни набори за обучение, така и чувствителни резултати. Комбинацията от криптографска защита, усъвършенствана телеметрия и интеграция със системи за наблюдение помага за осигуряването на сигурността на тези критични пътища.

Друга ключова характеристика е гъвкавостта при внедряване . Първоначално 8223 се предлага с поддръжка на дистрибуции с отворен код SONiC, а Cisco вече посочи, че поддръжката за IOS XR ще бъде налична по-късно. Тази отвореност позволява на клиентите да адаптират системата към предпочитаните от тях операционни модели.

Силициевият чип P200 не се ограничава само до 8223: той може да бъде внедрен на модулни и дезагрегирани платформи , предлагайки съгласувана мрежова архитектура както за среди на доставчици на услуги, така и за големи предприятия и хиперскалери.

Cisco също така планира да интегрира P200 в портфолиото на Nexus с NX-OS , с цел да осигури обща основа за високопроизводителни инфраструктури с изкуствен интелект, центрове за данни и WAN, всички поддържани от едно и също семейство ASIC чипове Silicon One.

Екосистема от партньори и клиенти, която стимулира приемането на разпределен изкуствен интелект

Ключов диференциращ фактор в стратегията на Cisco е широката ѝ екосистема от технологични партньори, доставчици на управлявани услуги, независими доставчици на софтуер (ISV) и дистрибутори , които действат като лост за практично пускане на тези платформи на пазара.

В случая с Unified Edge, компанията е работила в тясно сътрудничество с клиенти в областта на търговията на дребно, производството, финансовите услуги и здравеопазването, за да адаптира платформата към реални сценарии: от заводи с множество производствени линии до разпределени банкови клонове или вериги от клиники и болници.

Партньори като Intel, Verizon, Rockwell Automation и World Wide Technology подчертаха, че периферията на технологиите се е превърнала в новата граница за изкуствения интелект и че интегрираните решения като Unified Edge са ключови за пренасянето на усъвършенствани изчислителни и защитни възможности директно там, където се генерират данните.

Например, Intel подчертава как комбинирането на техния силиций с експертизата на Cisco в областта на изчисленията и мрежите позволява пълната мощност на центъра за данни да бъде разширена до периферията , докато Verizon подчертава важността на изграждането на ориентирани към бъдещето периферни платформи с простота, надеждност и последователност.

Анализаторите в индустрията посочват, че истинският потенциал на изкуствения интелект ще бъде разгърнат, когато изводите и анализът могат естествено да се преместят на периферията , точно откъдето произхождат данните, и са съгласни, че подходът на Cisco – интегриране на изчисления, мрежи и сигурност в модулни решения – се движи в тази посока.

Цялото това предложение на Cisco – с Unified Edge за периферията, Intersight и Nexus Dashboard за управление на множество облаци, ISE за сигурен достъп и 8223 със Silicon One P200 за висококапацитетни опорни мрежи – рисува доста изчерпателна картина за това как трябва да изглежда една съвременна платформа за работа с изкуствен интелект : разпределена, модулна, наблюдаема, автоматизирана, сигурна по дизайн и достатъчно гъвкава, за да поддържа бизнеса от настоящите му приложения, базирани на процесори, до най-взискателните сценарии на интелигентни агенти, поддържани от графични процесори и усъвършенствани модели.