Obsah:
Umelá inteligencia a stroje, ktoré sa môžu naučiť, sú to, ako sa vylepšia veci, ktoré každý deň používame. Google a Android sú all-in s AI prostredníctvom Google Assistant a strojového učenia, takže je dôležité vedieť, ako funguje back-end, ako sa tam dostali a aké typy zariadení to umožňujú. A je to naozaj super!
Ľudia, ktorí budú budovať túto technológiu budúcnosti, budú na to potrebovať nástroje. V roku 2017 sa NVIDIA plní svoju úlohu a Jetson TX2 je stelesnením tejto myšlienky. Vývojári potrebujú hardvér, ktorý nielenže dokáže robiť prácu s počítačom a myslieť (áno, poviem to), ktoré bude naša múdrejší budúcnosť potrebovať, ale je ľahko použiteľný a nasaditeľný.
AI na okraji.
NVIDIA to označuje ako „poskytovanie AI na okraji“ a je to výstižný popis. TX2 je kompletný superpočítač. Je schopná spracovávať údaje sama o sebe na mieste a čase, v ktorom k nim skutočne dochádza, namiesto tisícov kilometrov ďaleko cez internet. Konektivitu považujeme za samozrejmosť z dôvodu spôsobu, akým ju práve používame, ale existuje veľa prípadov, keď čakanie na spiatočnú cestu z inteligentného kusu strojového zariadenia je príliš dlhé na čakanie. A veľká časť tohto modrého mramoru, v ktorom žijeme, nemá pripojenie na internet a nebude to tak dlho.
Malý počítač, ktorý dokáže robiť takmer čokoľvek a spracúva všetky údaje, ktoré sám zbiera, je spôsob riešenia týchto problémov. Zdá sa, že tu NVIDIA pribitý.
Čo je to?
Toto nie je niečo, čo nájdete v službe Best Buy na použitie pri veciach, ktoré robíte s telefónom. Nie je spustený Android (ale určite by to nebolo ťažké opraviť) a je to niečo, čo väčšina z nás nebude kupovať. Je to však stále veľmi dôležitá súčasť vecí, ktoré milujeme.
Jetson TX2 je vývojový nástroj. Jetson TX2 je tiež modul pripravený na napájanie akéhokoľvek zariadenia založeného na AI. Je to počítač veľkosti kreditnej karty so všetkými vstupmi a výstupmi, ktoré má „bežný“ počítač. Keď zapojíte modul TX2 do jeho špeciálne navrhnutej podpornej dosky (ktorá je súčasťou vývojovej súpravy), väčšinou sa zmení na typický počítač s malým tvarovým faktorom, ktorý obsahuje všetky porty a zástrčky, ktoré má aj vaša pracovná plocha.
Vývojári to môžu použiť na zostavenie zariadení a samotné Jetson na spustenie ukážok a simulácií. Je to schopný malý stroj, ktorý dokáže robiť všetky výpočty, ktoré dokáže oveľa väčšie, keď na to používa nepatrné množstvo energie. Technické špecifikácie sú pôsobivé.
- Séria NVIDIA Parker Tegra X2: 256-jadrový procesor Pascal GPU a dve 64-bitové jadrá Denver CPU spárované so štyrmi procesormi Cortex-A57 v konfigurácii HMP
- 8 GB 128-bitovej pamäte LPDDR4 RAM
- Palubné úložisko eMMC s kapacitou 32 GB 5.1
- 802.11b / g / n / ac 2x2 MIMO Wi-Fi
- Bluetooth 4.1
- USB 3.0 a USB 2.0
- Gigabitový Ethernet
- Slot na SD kartu pre externé úložisko
- SATA 2.0
- Kompletné viackanálové PMIC
- 400-kolíkový vysokorýchlostný a nízkorýchlostný štandardný I / O konektor
Najlepšia technická špecifikácia je, že Jetson TX2 je špendlík na pokles pinu ako náhrada za minuloročný Jetson TX1. Nech sa to trochu ponorí pre vývojárov, ktorí používajú existujúce počítače NVIDIA TX1 na napájanie mozgu za ich vybavením, budú môcť veci vypnúť, stiahnuť starú dosku a vložiť novú. Softvér pre TX1 bude aktualizovaný na rovnaký softvér, ktorý používa TX2, takže bude doslova pokles náhrady. Ak ste niekedy vykonali akýkoľvek typ práce v teréne alebo v továrni na zariadeniach, ktoré stoja veľa peňazí, keď majú nejaké prestoje, chápete, aké je to dôležité. Zatiaľ čo sa vyvíja vybavenie novej generácie, používa hardvér, ktorý so 100% súčasnou generáciou funguje.
Tajomstvo tu je prostredníctvom jadier Pascal GPU od NVIDIA. Rovnaký dôvod, prečo sa jadrá Pascal používajú vo veľmi špičkových grafických kartách určených pre hry VR a 4K 3D, sú dôvodom, prečo sa používajú pre Jetson TX2. Jadrá GPU sú efektívnejším spôsobom, ako získať čísla. Sú rýchlejšie a spotrebujú oveľa menej energie.
Svätý grál výpočtovej techniky je umelá inteligencia (AI): stavba stroja tak inteligentného, že sa môže učiť sama osebe bez výslovného pokynu. Hlboké vzdelávanie je rozhodujúcou zložkou na dosiahnutie moderných AI. Hlboké učenie umožňuje inteligencii inteligencie inteligencie vnímať svet okolo nej; stroj sa učí a nakoniec robí rozhodnutia sám. V súčasnosti sa v rámci akademickej obce a priemyslu všeobecne uznáva, že GPU sú najmodernejšou oblasťou odbornej prípravy hlbokých neurónových sietí (DNN), a to vďaka výhodám rýchlosti a energetickej účinnosti v porovnaní s tradičnejšími platformami založenými na procesoroch.
Počítače NVIDIA GPU už robia úžasné veci. Poháňajú hlboké učenie, ktoré sa používa v autách s vlastným riadením, učia robotov podobné ľudským motorom, ako je chôdza a uchopenie, analyzujú video vysokou rýchlosťou, aby poskytovali textové titulky, a dokonca hrajú hru Go. A bili naozaj dobrých ľudských oponentov.
Jadrá GPU dokážu vykonávať rovnakú prácu s menšou spotrebou energie ako tradičné výpočty CPU.
Skutočný test AI a mozgov, ktoré ho môžu poháňať, je na obzore. Autonómne roboty a bezpilotné lietadlá sa vyvíjajú pre úlohy, ako je priemyselná prehliadka, zúfalo sú potrebné prenosné lekárske prístroje, ktoré môžu pomôcť tí, ktorí to potrebujú, a dokonca aj inteligentné bezpečnostné kamery, ktoré dokážu analyzovať to, čo vidia, a podniknúť príslušné kroky, sa čoskoro objavia. byť realitou. Tieto nápady si vyžadujú výpočty, ktoré dokážu riadiť inteligenciu pomocou algoritmov hĺbkového učenia sa a schopnosť analyzovať zozbierané údaje z neurónovej siete samostatne. Nemôžu byť pripojené ku káblu a použijú sa na miestach, kde ani Verizon nemá pokrytie.
Počítač, ktorý je navrhnutý ako malý a prenosný, musí byť nielen výkonný, ale aj energeticky efektívny. Testovanie ukazuje (súbor PDF), že výpočty založené na procesoroch NVIDIA GPU môžu byť rovnocenné s procesormi Intel Core i7 6700K a využívajú 6 wattov energie v porovnaní so 60. Pre zariadenia, ktoré nie sú pripojené k rozvodnej sieti, je to dôležité.
Vykonali sme niekoľko testov pomocou softvéru AlexNet a googleNet - softvér na klasifikáciu a detekciu kategórií objektov založený na životopise a výsledky boli fantastické. V režime Max-P (vysoko výkonný) bol Jetson TX2 schopný analyzovať v priemere 641 obrázkov za sekundu pomocou siete AlexNet pri spotrebovaní iba 13 wattov. Pri teste na googleNet bolo priemerne 278 obrázkov za sekundu, pričom sa použilo 14 wattov energie. Testy Max-Q (s nízkym príkonom) zaznamenali v priemere 481 obrázkov za sekundu na serveri AlexNet a 191 obrázkov za sekundu na serveriNetNet pri použití iba 7 wattov energie. To je len asi dvojnásobok toho, čo vlaňajší Jetson TX1 mohol priniesť, a bolo to tiež celkom dobré.
Keď môžete spracovať informácie tak rýchlo a presne na mieste, pripojenie k cloudu nie je obmedzujúcim faktorom, aký bol predtým.
V laboratóriu
Jetson TX2 by mal byť v tejto oblasti veľmi schopný. Je to prvá z nasledujúcich generácií strojov, ktoré sa naučia bez pripojenia k cloudu a podstatného vylepšenia z existujúceho zariadenia. Má však aj funkcie, ktoré vývojári budú milovať.
Výpočtový modul s veľkosťou kreditnej karty sa môže pripojiť k kompletnej nosnej doske dostupnej ako súčasť vývojovej súpravy Jetson TX2. Nosná doska používa 400 I / O pinov na module Jetson na zabezpečenie štandardného pripojenia k pracovnej ploche. Vývojár softvéru môže použiť štandardnú klávesnicu a myš USB, štandardný monitor a Jetson TX2 na vytvorenie kompletného vývojového prostredia.
V rámci operačného systému Linux4Tegra založeného na Ubuntu 16.04 sú súčasťou nástroja JetPack spoločnosti NVIDIA všetky nástroje, ktoré budete potrebovať na vývoj a ladenie aplikácií AI s hĺbkovým učením. Vývojári si môžu stiahnuť balík z vývojárskej zóny spoločnosti NVIDIA, ako aj sledovať návody a znalosti komunity, aby zistili, čo môže Jetson urobiť, a potom začali pracovať na svojich vlastných nápadoch. Zahrnutý softvér v JetPack je predkonfigurovaný tak, aby fungoval optimalizovane v systéme spracovania TX2:
- cuDNN - GPU-akcelerovaná knižnica primitívov pre hlboké neurónové siete.
- NVIDIA VisionWorks je softvérový vývojový balík pre počítačové videnie (CV) a spracovanie obrázkov.
- CUDA Toolkit - komplexné vývojové prostredie pre vývojárov C a C ++, ktorí vytvárajú aplikácie urýchlené GPU.
- TensorRT - vysoko výkonný runtime inferenčný modul pre hlboké vzdelávanie na klasifikáciu obrazov, segmentáciu a neurónové siete na detekciu objektov.
- NVIDIA Nsight Eclipse - Plnohodnotné a prispôsobené Eclipse IDE pre vývoj, ladenie a profilovanie aplikácií CUDA-C.
- Tegra System Profiler a Tegra Graphics Debugger - nástroje na profilovanie a vzorkovanie aplikácií pomocou OpenGL.
- Potrebné zabezpečenie a prostriedky na vývoj a navrhovanie hardvéru pomocou NVIDIA Jetson TX2.
Použitie rovnakej platformy na vytváranie a ladenie akejkoľvek aplikácie je nevyhnutnosťou pre všetko zložité a komplikované. Je to jeden zo spôsobov, ako vývojári môžu zjednodušiť tento proces a všetko, čo môže pomôcť pri uľahčovaní vecí, robí šťastnejších vývojárov. Zatiaľ čo Jetson TX2 nemusí byť navrhnutý ako jediný vývojový a zostavovací počítač, ktorý by použila každá skupina, pretože vedel, že je schopný, je prínosom pre inštaláciu a prácu v teréne. Malé úpravy a zmeny je možné vykonať na Edge rovnakým spôsobom ako pri spracovaní bez odoslania údajov späť do inej počítačovej banky na spracovanie a vrátenie.
Zariadenie možno navrhnúť pomocou dostupných hardvérových prostriedkov a výkresov, aby sa nielen znížila zložitosť, ale aby sa umožnilo ľahké rozhranie pomocou ľahko dostupných periférnych zariadení a softvéru. Vyzbrojený prenosným počítačom a káblom USB má inžinier alebo technika v teréne všetko potrebné na prestavbu od základne, ak je to potrebné.
Softvér NVIDIA Jetpack znamená, že vývojári sa môžu sústrediť na svoju prácu, nie na vytvorenie prostredia na zostavenie.
Dokonca aj inštalácia Jetpack spoločnosti NVIDIA je zjednodušená. Recenzenti dostali aktualizovanú verziu na inštaláciu a po niekoľkých jednoduchých pokynoch prostredníctvom dômyselného GUI bolo kompletné prestavanie všetkého softvéru ukončené iba niekoľkými krokmi a šálkou kávy. Opäť vidíme, že NVIDIA uľahčuje veci, aby sa vývojári mohli sústrediť skôr na svoju prácu, ako na udržiavanie samotného prostredia buildu.
Po niekoľkých dňoch nastavenia a testovania všetkého som sa veľmi rozčuľoval tým, čo tu prináša NVIDIA. Prvý Jetson TX1 bol vynikajúci produkt, ktorý naplnil potrebu rýchleho rozvoja pomocou jadier GPU, ktoré dokážu ťažký zdvih pre aplikácie neurónovej siete s hlbokým učením. Vo veľmi krátkom čase NVIDIA zdvihla latku s nástupcom, ktorý môže zlomiť závislosť od cloudu pomocou rovnakých známych vývojových nástrojov a techník.
Technológia budúcnosti nás všetkých nadchne a inšpiruje. Výrobky, ako je Jetson TX2, umožňujú túto budúcnosť. Cena vývojovej súpravy NVIDIA Jetson TX2 je 599 USD za maloobchodné objednávky a 299 USD za študentov.
Pozri portál NVIDIA Embedded Developers
