Spisu treści:
Sztuczna inteligencja i maszyny, które potrafią się uczyć, to sposób, w jaki ulepszane są rzeczy, których używamy na co dzień. Google i Android są zintegrowane ze sztuczną inteligencją za pośrednictwem Asystenta Google i uczenia maszynowego, dlatego ważne jest, aby wiedzieć, jak działa back-end, jak się tam dostał i jakie rodzaje sprzętu to wszystko umożliwiają. I to też jest naprawdę fajne!
Ludzie, którzy zbudują tę technologię przyszłości, będą potrzebować do tego narzędzi. W 2017 roku NVIDIA robi swoją część, a Jetson TX2 jest ucieleśnieniem tego pomysłu. Programiści potrzebują sprzętu, który nie tylko jest w stanie wykonywać obliczenia i myśleć (tak, powiem to), że nasza mądrzejsza przyszłość będzie potrzebować, ale jest również łatwa w użyciu i wdrażaniu.
AI na krawędzi.
NVIDIA nazywa to „dostarczaniem sztucznej inteligencji na krawędzi” i jest to trafny opis. TX2 to kompletny superkomputer. Jest w stanie samodzielnie przetwarzać dane w miejscu i czasie, w którym się dzieje, zamiast w odległości tysięcy mil za pośrednictwem Internetu. Łączność uznajemy za pewnik ze względu na sposób, w jaki korzystamy z niej w tej chwili, ale istnieje wiele przypadków, w których czekanie na transfer danych z inteligentnego urządzenia jest zbyt długie, aby czekać. Duża część tego niebieskiego marmuru, na którym żyjemy, nie ma połączenia z Internetem i nie będzie bardzo długo.
Mały komputer, który może zrobić wszystko i przetworzyć wszystkie gromadzone przez siebie dane, jest sposobem na rozwiązanie tych problemów. Wydaje się, że NVIDIA go tu przybiła.
Co to za rzecz?
To nie jest coś, co można znaleźć w Best Buy, aby użyć do rzeczy, które robisz z telefonem. Nie działa na Androidzie (ale z pewnością nie byłoby to trudne) i jest to coś, czego większość z nas nie kupi. Ale nadal jest to bardzo ważna część rzeczy, które kochamy.
Jetson TX2 to narzędzie programistyczne. Jetson TX2 to także gotowy do użycia moduł do zasilania dowolnego sprzętu opartego na sztucznej inteligencji. Jest to komputer wielkości karty kredytowej ze wszystkimi wejściami i wyjściami, jakie ma „zwykły” komputer. Kiedy podłączysz moduł TX2 do specjalnie zaprojektowanej tablicy (jest to część zestawu programistycznego), przeważnie zamienia się on w typowy mały komputer PC ze wszystkimi portami i wtyczkami, które ma również Twój pulpit.
Deweloperzy mogą to wykorzystać do budowy sprzętu i korzystania z samego Jetsona do uruchamiania demonstracji i symulacji. Jest to niewielka, zdolna maszyna, która może wykonać wszystkie obliczenia, co może zrobić znacznie większa jednostka, wykorzystując do tego niewielką ilość mocy. Dane techniczne są imponujące.
- NVIDIA Parker z serii Tegra X2: 256-rdzeniowy procesor graficzny Pascal i dwa 64-bitowe rdzenie Denver w połączeniu z czterema procesorami Cortex-A57 w konfiguracji HMP
- 8 GB 128-bitowej pamięci RAM LPDDR4
- 32 GB wbudowanej pamięci eMMC 5.1
- 802.11b / g / n / ac 2x2 MIMO Wi-Fi
- Bluetooth 4.1
- USB 3.0 i USB 2.0
- Gigabit Ethernet
- Gniazdo karty SD na pamięć zewnętrzną
- SATA 2.0
- Kompletny wielokanałowy PMIC
- 400-pinowe szybkie i wolne standardowe złącze we / wy
Najlepsza specyfikacja techniczna polega na tym, że Jetson TX2 to szpilka do upuszczenia szpilki w zamian za zeszłoroczny Jetson TX1. Niech to trochę potrwa - programiści, którzy wykorzystują istniejące komputery NVIDIA TX1 do zasilania mózgów swoich urządzeń, będą w stanie wyłączyć rzeczy, wyciągnąć starą płytę i włożyć nową. Oprogramowanie dla TX1 zostanie zaktualizowane do tego samego oprogramowania, którego używa TX2, więc dosłownie będzie to kropla zastępcza. Jeśli kiedykolwiek wykonywałeś jakiekolwiek prace w terenie lub w fabryce na sprzęcie, który kosztuje dużo pieniędzy, gdy ma jakieś przestoje, rozumiesz, jak ważne jest to. Podczas opracowywania sprzętu nowej generacji, wykorzystuje on sprzęt, który działa w 100% z istniejącą generacją.
Tajemnica tkwi w rdzeniach procesorów graficznych Pascal firmy NVIDIA. Z tego samego powodu, dla którego rdzenie Pascal są używane w bardzo wysokiej jakości kartach graficznych przeznaczonych do gier VR i 4K 3D, właśnie dlatego są one wykorzystywane w Jetson TX2. Rdzenie GPU to wydajniejszy sposób na łamanie liczb. Są szybsze i zużywają znacznie mniej energii.
Świętym graalem informatyki jest sztuczna inteligencja (AI): budowanie maszyny tak inteligentnej, że może uczyć się samodzielnie bez wyraźnej instrukcji. Głębokie uczenie się jest kluczowym składnikiem osiągnięcia nowoczesnej sztucznej inteligencji. Głębokie uczenie się pozwala „mózgowi” AI postrzegać otaczający go świat; maszyna uczy się i ostatecznie sama podejmuje decyzje. Obecnie w środowisku akademickim i przemyśle powszechnie uznaje się, że procesory graficzne są najnowocześniejsze w szkoleniu głębokich sieci neuronowych (DNN), ze względu zarówno na szybkość, jak i efektywność energetyczną w porównaniu z bardziej tradycyjnymi platformami opartymi na procesorze.
Komputery z procesorem graficznym NVIDIA już robią niesamowite rzeczy. Prowadzą głęboką naukę wykorzystywaną do samodzielnego prowadzenia samochodów, uczą roboty ludzkich umiejętności motorycznych, takich jak chodzenie i chwytanie, analizują wideo z dużą prędkością, aby zapewnić podpisy tekstowe, a nawet grać w Go. I pokonanie naprawdę dobrych ludzkich przeciwników.
Rdzenie GPU mogą wykonywać tę samą pracę, zużywając mniej energii niż tradycyjne procesory CPU.
Prawdziwy test sztucznej inteligencji i mózgów, które mogą ją prowadzić, jest na horyzoncie. Autonomiczne roboty i drony są opracowywane do zadań takich jak inspekcja przemysłowa, przenośne urządzenia medyczne, które można zabrać w terenie, aby pomóc potrzebującym, są rozpaczliwie potrzebne, a nawet inteligentne kamery bezpieczeństwa, które mogą analizować to, co widzą i podjąć odpowiednie działania wkrótce być rzeczywistością. Te pomysły wymagają obliczeń, które mogą napędzać sztuczną inteligencję za pomocą algorytmów głębokiego uczenia i możliwości samodzielnej analizy danych zebranych w sieci neuronowej. Nie można ich podłączyć do kabla i będą używane w miejscach, w których nawet Verizon nie ma zasięgu.
Oprócz tego, że jest wydajny, komputer zaprojektowany jako mały i przenośny musi być energooszczędny. Testy pokazują (plik.pdf), że obliczenia oparte na GPU NVIDIA mogą być równoważne procesorowi Intel Core i7 6700K i zużywać 6 watów mocy w porównaniu do 60. W przypadku sprzętu, który nie jest podłączony do sieci energetycznej, to ważne.
Przeprowadziliśmy kilka testów porównawczych przy użyciu AlexNet i GoogLeNet - oprogramowania do klasyfikacji i wykrywania kategorii obiektów na podstawie CV, a wyniki były fantastyczne. W trybie Max-P (dużej mocy) Jetson TX2 był w stanie analizować średnio 641 obrazów na sekundę przy użyciu AlexNet Network, zużywając zaledwie 13 watów mocy. Testy GoogLeNet wyniosły średnio 278 obrazów na sekundę przy zużyciu 14 watów mocy. Testy Max-Q (małej mocy) uzyskały średnio 481 obrazów na sekundę w AlexNet i 191 obrazów na sekundę w GoogLeNet przy zużyciu zaledwie 7 watów mocy. To prawie dwa razy więcej niż w ubiegłym roku Jetson TX1, i było w tym całkiem niezłe.
Gdy możesz przetwarzać informacje tak szybko i dokładnie na miejscu, połączenie z chmurą nie jest już takim ograniczającym czynnikiem.
W laboratorium
Jetson TX2 powinien być bardzo zdolny w terenie. Jest to pierwsza z maszyn nowej generacji, która nauczy się tego bez połączenia z chmurą i znacznej aktualizacji z istniejącego sprzętu. Ale ma również funkcje, które pokochają programiści.
Moduł obliczeniowy wielkości karty kredytowej można podłączyć do pełnej płyty nośnej dostępnej jako część zestawu programistycznego Jetson TX2. Płyta główna wykorzystuje 400 styków we / wy w module Jetson, aby zapewnić standardowe połączenia z komputerem stacjonarnym. Deweloper oprogramowania może użyć standardowej klawiatury i myszy USB, standardowego monitora i Jetson TX2, aby stworzyć kompletne środowisko programistyczne.
Działając na systemie operacyjnym Linux4Tegra opartym na Ubuntu 16.04, wszystkie narzędzia, które mogą być potrzebne do opracowania i debugowania aplikacji AI do głębokiego uczenia się, są częścią oprogramowania JetPack firmy NVIDIA. Programiści mogą pobrać pakiet ze Strefy programistów NVIDIA, a także śledzić samouczki i wiedzę społeczności, aby zobaczyć, co potrafi Jetson, a następnie rozpocząć pracę nad własnymi pomysłami. Dołączone oprogramowanie do JetPack jest wstępnie skonfigurowane do działania zoptymalizowanego w systemie przetwarzania TX2:
- cuDNN - akcelerowana przez GPU biblioteka prymitywów dla głębokich sieci neuronowych.
- NVIDIA VisionWorks to pakiet programistyczny do przetwarzania obrazu komputerowego (CV) i przetwarzania obrazu.
- CUDA Toolkit - kompleksowe środowisko programistyczne dla programistów C i C ++ budujących aplikacje z akceleracją GPU.
- TensorRT - wysokiej jakości środowisko uruchomieniowe wnioskowania głębokiego uczenia do klasyfikacji, segmentacji i sieci neuronowych wykrywania obrazów.
- NVIDIA Nsight Eclipse - w pełni funkcjonalne i dostosowane środowisko IDE Eclipse do tworzenia, debugowania i profilowania aplikacji CUDA-C.
- Tegra System Profiler i Tegra Graphics Debugger - narzędzia do profilowania i próbkowania aplikacji przy użyciu OpenGL.
- Niezbędne zabezpieczenia i zasoby do opracowania i zaprojektowania sprzętu za pomocą NVIDIA Jetson TX2.
Korzystanie z tej samej platformy do budowania i debugowania dowolnej aplikacji jest koniecznością dla wszystkiego, co jest skomplikowane i skomplikowane. Jest to jeden ze sposobów, w jaki programiści mogą uprościć proces, a wszystko, co może ułatwić, ułatwia szczęśliwych programistów. Chociaż Jetson TX2 nie może być zaprojektowany jako jedyny komputer programistyczny i kompilacyjny, z którego korzystałaby jakakolwiek grupa, wiedząc, że jest on w stanie zapewnić dobrodziejstwo instalacji i prac w terenie. Dokonywanie drobnych korekt i zmian może być dokonywane na urządzeniu Edge w taki sam sposób, jak przetwarzanie, bez wysyłania danych z powrotem do innego banku komputerów w celu przetworzenia i zwrotu.
Sprzęt można zaprojektować przy użyciu dostępnych zasobów sprzętowych i rysunków, aby nie tylko zmniejszyć złożoność, ale także umożliwić łatwy interfejs przy użyciu łatwo dostępnych urządzeń peryferyjnych i oprogramowania. Uzbrojony w laptopa i kabel USB inżynier lub technik terenowy ma wszystko, czego potrzeba do odbudowy od podstaw, jeśli to konieczne.
Oprogramowanie NVIDIA Jetpack oznacza, że programiści mogą skoncentrować się na swojej pracy, nie konfigurując środowiska kompilacji.
Nawet instalacja Jetpack firmy NVIDIA jest usprawniona. Recenzenci otrzymali zaktualizowaną wersję do zainstalowania, a postępując zgodnie z kilkoma prostymi instrukcjami za pośrednictwem sprytnego interfejsu GUI, dokonano całkowitej przebudowy całego oprogramowania, wykonanej zaledwie kilkoma krokami i filiżanką kawy. Ponownie widzimy, że NVIDIA ułatwia rzeczy, dzięki czemu programiści mogą skupić się na swojej pracy, a nie na samym środowisku kompilacji.
Po kilku dniach konfigurowania i testowania wszystkiego, byłem pod wrażeniem tego, co zapewnia NVIDIA. Pierwszy Jetson TX1 był świetnym produktem, który zaspokoił potrzebę szybkiego rozwoju z wykorzystaniem rdzeni GPU do wykonywania ciężkich zadań w głębokim uczeniu aplikacji sieci neuronowych. W bardzo krótkim czasie NVIDIA podniosła poprzeczkę dzięki następcy, który może przełamać zależność od chmury za pomocą tych samych znanych narzędzi i technik programistycznych.
Technologia przyszłości ekscytuje i inspiruje nas wszystkich. Produkty takie jak Jetson TX2 sprawią, że przyszłość będzie możliwa. Zestaw deweloperski NVIDIA Jetson TX2 kosztuje 599 USD za zamówienia detaliczne i 299 USD za studentów.
Zobacz na portalu NVIDIA Embedded Developers portal
