Jak hybridní umělá inteligence zlepšuje edge computing a uživatelskou zkušenost

Umělá inteligence (AI) se vyvíjí a nasazuje v celé řadě odvětví. Umožňuje mnoha firmám využívat nové příležitosti, vytvářet obchodní modely a získávat konkurenční výhody. V odvětvích průmyslu, energetiky, obrany, zdravotnictví a financí se umělá inteligence stává hlavním odlišujícím faktorem, pokud jde o schopnost firem účinně konkurovat v příslušných tržních kategoriích. Vezměme si například internet věcí (IoT). Podle odhadů bude do roku 2025 v provozu více než 75 miliard připojených zařízení internetu věcí, což je téměř trojnásobný nárůst oproti roku 2019. Vzhledem k tomu, že tento počet stále exponenciálně roste, bude propojení všech těchto zařízení s inteligentními funkcemi jednou z největších výzev k dosažení plného potenciálu internetu věcí.

S rozvojem technologických možností zařízení a systémů mohou mít téměř všechny předměty ve fyzickém světě zabudovanou nebo dodatečně instalovanou konektivitu a computing. Rostou také očekávání uživatelů. Uživatelé požadují více od způsobu používání a interakcí s místy kontaktu a chtějí, aby se podobaly uživatelsky přívětivému ovládání jejich chytrých telefonů a notebooků. Uživatelská zkušenost se strojovým učením, MLUX (ML + UX), musí být pečlivě navržena a poskytovat pozitivní, působivou, kontextuální a celostní uživatelskou zkušenost s minimálními třecími plochami, aby se dále zvýšilo a podpořilo přijetí těchto technologií.

Systémy edge computingu se vyvíjejí

Okrajové systémy jsou navrženy s různými a často omezenými rozpočty na zpracování dat, úložné a paměťové kapacity, síťové připojení a provozní omezení. Koncepce edge computingu přináší lokální zpracování do míst, kde se data snímají, generují a kde se s nimi pracuje, ačkoli ve vybraných scénářích lze jeho cloudové schopnosti dále rozšířit pomocí okrajových bran, které nabízejí nízkou latenci a vysoké využití šířky pásma.

Hardware může napříč celým spektrem zahrnovat zařízení s velmi nízkou spotřebou a s omezeným množstvím zdrojů, mikrokontroléry RTOS (např. ARM Cortex-M) a aplikační mikroprocesory SoC (např. ARM Cortex-A). Cíle aplikačního profilu licencovaného výrobcem originálního designu / výrobcem originálního zařízení (ODM/OEM) se často nacházejí v chytrých telefonech a tabletech anebo jako aplikační procesory připojené k externím mikrokontrolérům, senzorům a akčním členům nebo procesorům v základním pásmu. V rámci tohoto spektra zařízení byly navrženy pokročilé specializované integrované obvody ASIC pro akceleraci umělé inteligence, které zpracovávají vysoce výkonné instrukce operátorů umělé inteligence a podporují nejmodernější modely. Přestože implementace křemíkových prvků bude pozadu za výzkumem v oblasti umělé inteligence, přináší to výhodu v podobě vyššího výkonu, což se nepřímo promítá do uživatelské zkušenosti.

Před zahájením životního cyklu po nasazení je třeba mnohé z těchto současných modelů AI dále optimalizovat a komprimovat, aniž by došlo ke snížení cílového výkonu. S rozvojem této oblasti se zavádění těchto modelů do zabudovaných cílů posunulo směrem k paradigmatu zabudovaných systémů, kdy je kód pro daný cíl křížově kompilován na hostitelském počítači.

Namísto nasazování menších parametrizovaných odvozených modelů, které obětují cílený výkon v zájmu spouštění na hardwarových backendech, mohou uživatelé tyto modely kompilovat a optimalizovat pro cílový procesor a spouštění na zařízení pomocí meziformátu (MLIR) a běhového prostředí. S tím souvisí i snížení latence a zlepšení uživatelského zážitku.

Během provádění operací musejí mít okrajové systémy na bázi AI určitou úroveň nezávislosti, ale stále musejí i přes svá omezení přijímat vysoce výkonná rozhodnutí, dokud nebudou moci využívat výkonnější zdroje a fond dat a znalostí z připojené cloudové infrastruktury. U připojených zařízení se tento stav nezávislosti nazývá nouzový režim. 

Zlepšování edge computingu pomocí hybridní AI

Využití hybridní umělé inteligence je potenciální cestou k pokroku v oblasti okrajové umělé inteligence, tedy stávajícího stavu. Hybridní umělá inteligence funguje jako doprovodná technologie k metodám strojové inteligence na bázi dat, která doplňuje kognitivní schopnosti symbolické umělé inteligence a překonává limity v oblasti uvažování, sekvenčního plánování, využitelné zpětné vazby a lidsky srozumitelných vysvětlení a interpretací. Hlavní důraz je kladen na spolupráci s uživatelem, kdy funguje jako kontextový poradce pro podporu rozhodování a jako diagnostický systém, zejména v situacích spojených s vysokým rizikem, nejistotou a neznámými faktory.

Příklad: V laboratoři JPL NASA byla vyvinuta hybridní umělá inteligence pro přistání vozítka na Marsu, která doplňuje inteligenci pro zlepšení navigace v neznámých situacích a obtížném terénu, kde měly tradiční techniky potíže.

Použitím hybridní umělé inteligence lze systémy obohatit o pokyny na základě zakódovaných lidských odborných znalostí a omezení, průmyslových pokynů a osvědčených postupů spolu s tradičními podpůrnými historickými informacemi a informacemi ze streamování událostí. Tyto kognitivní nástroje a algoritmy modelují hypotetické cesty a scénáře, aby mohly navrhovat způsoby akce a koncipovat inteligentní rozhodnutí téměř v reálném čase, a to i v podmínkách, které jsou považovány za ne zcela ideální z hlediska provozu, získávání a přístupu ke kvalitním datům.

Příklady použití: Zvažte případy použití pro okrajová zařízení s omezenou nebo nespolehlivou konektivitou, pracující v náročných nebo vzdálených prostředích, s distribucí dat typu „long tail“ a s omezeními jejich sběru a ukládání. Nebo nešťastné situace, kdy zařízení vyvolávají období poruch, mají konfliktní údaje v časových obdobích z důvodu fúze senzorů a pohybují se podmíněnými cestami s vyšším rizikem chyby. To jsou vybrané příklady, pro které se tradiční metody zpracování velkých dat a jemného dolaďování nehodí. Hybridní umělá inteligence může tyto situace usnadnit přímo jako součást doporučeného akčního plánu a smyčky zpětné vazby s uživatelem nebo nepřímo prostřednictvím implementace korekce základního modelu na základě znalostí a omezení.

Využívání hybridní umělé inteligence v internetu věcí a v dalších systémech, které fungují na okraji, otevírá nový potenciál pro konektivitu, uživatelskou zkušenost a nutnost nákladných provozních rozhodnutí. Vize budoucnosti umělé inteligence zahrnuje kognitivní systémy, které mohou plnit úkoly, v nichž tradiční systémy strojového učení zaostávají, na okraji sítě a mimo širší ekosystém a hodnotový řetězec: inteligentní a plynulá interakce s lidskými experty, poskytování srozumitelných vysvětlení a zvyšování důvěry a jistoty uživatelů při rozhodování.

Ari Kamlani, autor článku, pracuje jako hlavní architekt řešení AI a datový vědec ve společnosti Beyond Limits. Upravil Chris Vavra, ředitel pro webový obsah časopisu Control Engineering, CFE Media and Technology, Tato e-mailová adresa je chráněna před spamboty. Pro její zobrazení musíte mít povolen Javascript..ytování využitelné zpětné vazby uživateli.