NVIDIA Jetson Nano

Nedávno som na jednom webe videl článok, ktorý ma zaujal (neviem či to bol PR článok lebo bol plný superlatívov, ale ja autorovo nadšenie chápem). Mňa za tento článok tiež nikto neplatí ani nevlastním akcie NVDA, aj keď verím že po prečítaní článku si to viacerí budete myslieť.

Písalo sa tam o karte NVIDIA Jetson Nano a ako ju využiť napríklad na AI. Hneď ma napadli ďalšie možnosti využitia. Predstavte si že máte malú firmu a tam dajme tomu 20 zamestnancov. Každý potrebuje vlastný počítač. Aké sú teda možnosti?

X86 PC

Prvá možnosť je kúpiť im klasické PC-čka s Windows… bežné kancelárske low-end Core i3 stojí cca 300 € (7731 Kč) - (určite sa dajú nájsť aj lacnejšie kúsky s nejakým Celeronom alebo Pentiom a samozrejme s HDD, ale na tých by chcel pracovať dobrovoľne len masochista). Pripočítajme k tomu IPS monitor 100 € (2577 Kč) + klávesnica 30 € (773 Kč), myš 10 éčiek (258 Kč). Ďalej Windows 10 Pro SK 64-bit (OEM) najlacnejší som našiel za 150 € (3865 Kč) - a dostávame sa na 600 € (15463 Kč) na jedného zamestnanca.

Možno by niekoho napadlo prečo nepoužiť Linux. Lenže X86 hardware má často ovládače len pre Windows a Linux ho podporuje len neoficiálne. Keď si kúpite kus hardwaru, ktorý na X86 nefunguje optimálne, jeho výrobca vás pošle s prepáčením do pi… s tým že on dodáva ovládače len pre Windows; niektorí podporujú aj Linux, ale nebýva to pravidlom a často ovládače pre Linux vychádzajú s oneskorením, niekedy sa treba spoľahnúť na open source ovládače, ktoré si napísal nejaký nadšenec na kolene pomocou reverzného inžinierstva. Ďalej takéto riešenie sa hodí pre domácnosti, v komerčnom prostredí potrebujete aj nejaké záruky a ich vymáhateľnosť ak by sa vám stala škoda spôsobená softwarom. A taktiež support a za ten si už treba priplatiť aj vo svete Linuxu, napr.:

• RHEL stojí jedna licencia $300 (271 €, 6985 Kč)
• Pri Oracle Linuxe stojí ročný support dokonca $1199 (1083 €, 27917 Kč)

Ak si teraz myslíte že som nejaký veľký Windows fanatik, tak vás hneď vyvediem z omylu. Na scénu prichádza Jetson Nano (aj v kancli).

Druhá možnosť je investovať 100 € (2577 Kč) do tejto ARM dosky. Dobre, zaokrúhlime to na 150 € lebo k tomu bude treba aj NVMe (M.2) SSD a možno nejaký adaptér či redukciu, tiež napájací adaptér a nejaký pekný case, a k tomu monitor + myš a klávesnica, takže sa dostaneme na 300 € (7735 Kč). No a teraz to najdôležitejšie: NVIDIA k doske dodáva zadarmo aj upravené Ubuntu, ktoré je špeciálne ušité na mieru práve pre túto dosku (podobne ako macOS pre Apple hardware), takže s HW by malo byť len minimum problémov (samozrejme nič nie je dokonalé). Celková cena je teda 300 € (7735 Kč), čo je polovica z X86 riešenia, takže ste ušetrili 150 € (3867 Kč) na zamestnanca a vynásobte si to 20 zamestnancami (ušetrených 3000 € / 77316 Kč - a to je už celkom pekná sumička). Ale tým to nekončí.

Výhody:

• polovičné obstarávacie náklady
• šetrí náklady na elektrinu - má 2 energetické režimy 5W alebo 10W (ak potrebujete výkon navyše) a porovnajte si to s bežným PC (100W) - jednoducho budete platiť 10 - 20x menej za elektrinu
• z rovnakého dôvodu aj šetrí zdroje a tým aj životné prostredie - toto je pre mňa najdôležitejšia výhoda, ale vrátim sa k nej v závere článku
• zaberá menej miesta, all-in-one, nízka hmotnosť, ľahko sa prenáša z bodu A do bodu B (keď potrebujete urobiť prezentáciu v zasadačke, ale máte to v počítači vo svojom kancli, tak nemusíte nič kopírovať - proste chytím počítač a prenesiem; kto by ale prenášal veľký midi tower case, však?)
• menej hlučné
• silnejší grafický subsystém ako u lacných kancelárskych PC, ktoré používajú len Intel grafiku - toto síce pre bežnú kancelársku prácu nie je až taká veľká výhoda, ale môžete na tom pustiť nejakú grafickú aplikáciu napr. Blender alebo strihať video atď., takže to rozširuje jeho možnosti použitia aj na nenáročnú prácu s grafikou. Zase ale zázraky od toho nečakajte, grafika je o 2 generácie pozadu za dnešnými PC-čkovými kartami NVIDIE. Vraj má aj povypínanú polovicu shaderov (otázka je či sa teda nedajú znovu zapnúť).
• podpora CUDA výpočtov - ak používate aplikácie, ktoré to podporujú alebo si nejakú necháte vytvoriť na zákazku
• menšia (alebo skoro žiadna) náchylnosť na malware - len veľmi málo malwaru je na Linuxe a ešte menej pre ARM

Nevýhody:

• menšia podpora SW - nepustíte na tom napríklad MS Office. Mnoho zástancov Windows používa argument v ich prospech, že na Linuxe nebeží MS Office, ktorý je v podnikovom prostredí de facto štandard. A ostatné kancelárske balíky nie sú s MS Office 100% kompatibilné. Jednoducho keď vám niekto pošle docx súbor, LibreOffice si s ním nemusí vedieť poradiť… poviete si že vám má posielať OpenDocument, ale ten (skoro) nikto nepoužíva, lebo všetci chcú byť kompatibilní s majoritou. Ale dnes keď je k dispozícii webový Office 365, ktorý podporuje všetky formáty rovnako dobre ako desktopový, sa táto nevýhoda podstatne znižuje; webová verzia je síce o niečo málo orezanejšia, ale 80% funkcionality z desktopovej podporuje. Kto neverí nech si to vyskúša. Je tam aj nejaký trial zadarmo.
• nebeží na tom Windows (Windows pre ARM zatiaľ podporuje len Snapdragony) - toto môže byť pre niekoho nevýhoda ak používa SW ktorý beží len na Windows. A k obchodnej politike MS radšej no comment. Majú Windows 10 pre ARMy a ten dokonca dokáže spúšťať (emulovane) X86 binárky. Je to malý technický zázrak. Ale skoro nikto o ňom nevie a nikto sa k nemu nedostane (Windows for ARM sú dostupné len pre veľkých výrobcov). Microsoft si zase necháva utiecť vlak a keď Apple prejde na ARM bude opäť plakať nad rozliatym mliekom. Déjà vu.
• nepodporuje Wi-Fi - nepodpora Wi-Fi u takejto dosky ma prekvapuje, keď aj lacnejšie dosky obsahujú Wi-Fi; na druhej strane ja mám všetky PC prepojené ethernetovým káblom. A vo firme by to mal byť štandard. Ale kto potrebuje Wi-Fi, ten si vie za 10 € (258 Kč) kúpiť USB 300 Mb/s adaptér.

Záver - Životné prostredie

Na záver sa vrátim k hlavnej výhode a tou je IMHO šetrenie zdrojmi. Ľudia uvedomte si, že ak sa k našej planéte nezačneme správať ohľaduplne, tak sa situácia začne dramaticky zhoršovať. Nie som žiadny greenpeaceák, viem že pre mnohých je životné prostredie hlavne biznis a spôsob akým sa dostať k dotáciám, faktom však je, že je nás tu stále viac a keď budeme všetci mrhať zdrojmi tak to začne byť neúnosné. CO₂ v atmosfére narastá podobným tempom ako v Perme (obdobie na konci prvohôr pred 250 miliónmi rokov). Vtedy za globálne otepľovanie mohla sopečná aktivita, dnes za to môže človek. A viete čo sa vtedy stalo? Nastalo najväčšie masové vymieranie v dejinách - vymrelo (podľa niektorých odhadov) až 97% všetkých druhov. To je omnoho viac ako pri náraze meteoritu na konci druhohôr keď vyhynuli dinosaury. Život mal vtedy ešte viac na mále. Kľudne sa mohlo stať že sa naša planéta zmení na rovnako nehostinné miesto ako Venuša, ktorá má skrz vysokej sopečnej aktivity a skleníkového efektu 400 °C na povrchu, a namiesto vody im tam prší kyselina sírová… okrem toho má extrémne hustú atmosféru (človek by sa tam kvôli vysokej atmosférickej hustote rozprskol ako paradajka - ešte predtým ako by sa stihol uškvariť). Pritom Venuša je mnohými charakteristikami Zemi najviac podobná planéta v našom solárnom systéme - má kamenistý povrch, je podobne veľká ako Zem, je v obývateľnej zóne. A vedci v minulosti predpokladali že by na nej mohol byť aj život. A toto z nej urobil len skleníkový efekt.

Ale späť k téme: X86 PC by sa dalo prirovnať k off-roadom, ktoré málokto využije a aj tak sú ich plné cesty (aspoň u nás v Bratislave kde sú relatívne kvalitné cesty a žiadne kopce).

Keď dakto pasie kravy niekde na Orave a musí prekonávať náročný terén, lebo tam nevedie normálna cesta - tam sa mu takýto „traktor“ môže hodiť. Rovnako je to aj s X86 PC-čkami. Tie majú svoje miesto na stoloch gamerov, grafikov, 3D modelárov, architektov, strojných inžinierov, programátorov, módnych návrhárok atď. - proste ľudí, ktorí obsah nielen konzumujú ale aj vytvárajú. Ale načo je preboha taký výkon obyčajnej sekretárke, manažérovi, účtovníkovi, predavačke zelovocu, manažérovi ľudských zdrojov či obchodnému zástupcovi? Veď tí potrebujú maximálne vytvoriť tabuľku, prezentáciu, otvoriť textový dokument, rozbaliť / premenovať súbor, alebo odoslať e-mail; nie je teda PC pre takéto prípady len zbytočný kanón na vrabce? Myslím že ARM by si mal nájsť cestu aj na miesta kde doteraz kraľovali X86. Veď aj v Apple to už pochopili a čoskoro sa dočkáme ARMov aj v ich stolných počítačoch.