Amazon je predstavio TorchNeuron, softverski alat koji bi kompanijama mogao da olakša prelazak na njegove čipove za veštačku inteligenciju. Prema navodima kompanije, postojeći kod razvijen u okruženju PyTorch može da radi na čipovima Trainium uz samo jednu promenu u konfiguraciji, bez ponovnog pisanja programa.
Time Amazon pokušava da oslabi jednu od ključnih prednosti Envidije: povezanost njenih čipova sa softverom koji programeri već koriste. Kako prenosi Rojters, cilj je da isprobavanje alternativnog hardvera zahteva manje koraka i manje dodatnog rada. CNA
Zašto je prelazak na druge čipove skup
Konkurencija na tržištu AI infrastrukture ne zavisi samo od snage i cene procesora. Važan trošak predstavlja i prilagođavanje softvera novom hardveru.
Kompanije koje su već uložile vreme u razvoj i testiranje modela moraju da procene koliko će ih koštati promena infrastrukture. Prema Amazonovom objašnjenju novog alata, takav posao mogao je da zahteva mesece prepravljanja i ponovne provere koda.
TorchNeuron bi trebalo da smanji upravo tu prepreku. Amazon navodi da se alat povezuje sa postojećim mehanizmima okruženja PyTorch, kako bi programeri zadržali poznate postupke za testiranje, otklanjanje grešaka i proširivanje svojih AI sistema. Objavljivanje pod licencom otvorenog koda najavljeno je za 20. oktobar.
Envidijina prednost je i u softveru
Envidija je više od decenije razvijala platformu CUDA, koja omogućava efikasno izvršavanje računarskih zadataka na njenim čipovima. Taj softverski ekosistem doprineo je njenoj snažnoj poziciji na tržištu veštačke inteligencije.
Za konkurente zato nije dovoljno da ponude alternativni procesor. Potrebno je i da programerima olakšaju njegovu upotrebu, uz što manje promena u postojećim aplikacijama.
Amazon ponovo otpušta radnike: Bezos otkrio zašto se kompanija odriče hiljada zaposlenih
Kolิน Brejs, potpredsednik za softver u Amazonovoj jedinici Anapurna labs, rekao je Rojtersu da novi alat treba da pojednostavi isprobavanje Amazonovih čipova. Prema njegovim rečima, softver već koristi više od 30 ranih korisnika, uključujući timove koji rade u robotici i razvoju govornih AI sistema, navodi CNA.
Manje prilagođavanja, veći izbor infrastrukture
Poslovni značaj ovakvog alata mogao bi da bude u smanjenju troškova promene dobavljača. Ako prelazak zahteva manje inženjerskog rada, kompanije lakše mogu da upoređuju različite čipove i biraju infrastrukturu prema potrebama svojih projekata.
To, međutim, samo po sebi ne znači jednaku uštedu za svakog korisnika. Trošak i učinak zavise od konkretnog modela, načina njegovog korišćenja i potrebnih optimizacija.
Amazon navodi da TorchNeuron podržava generacije čipova Trainium2 i Trainium3. Pored osnovnog pokretanja postojećeg koda, predviđeni su i alati za rad na više čipova i dodatno podešavanje performansi.
Lomača veka: Amazon kupuje stare knjige, skenira ih za AI, pa ih zatim uništava
