Ce este AI pe dispozitiv și cum funcționează?

Recomandări cheie

• AI pe dispozitiv se referă la capabilitățile de inteligență artificială care rulează local pe un dispozitiv fără a se conecta la internet, oferind confidențialitate și procesare mai rapidă.
• Cu AI pe dispozitiv, smartphone-urile pot îndeplini sarcini impresionante, cum ar fi generarea rapidă de imagini, furnizarea de asistenți AI personalizați și îmbunătățirea graficii și a calității audio pentru jocuri.
• Companii precum Qualcomm integrează hardware specializat în dispozitivele lor pentru a optimiza AI pe dispozitiv performanță, oferind capabilități avansate, cum ar fi asistenți inteligenți, traducere în timp real și automate editare foto.

De la chatbot la mașini cu conducere autonomă, AI transformă peisajul tehnologic. Un domeniu în care adoptarea AI se accelerează rapid este pe dispozitivele de consum, cum ar fi smartphone-urile. Giganții tehnologiei se întrec pentru a integra capabilitățile AI de pe dispozitiv în cele mai recente hardware și software.

Dar ce este exact AI pe dispozitiv și cum funcționează?

Ce este AI pe dispozitiv și cum funcționează

Astăzi, cea mai mare parte a inteligenței artificiale pentru consumatori este alimentată de seturi uriașe de date stocate în cloud. In orice caz, încărcarea datelor personale pe serverele AI nu este bună pentru confidențialitate. Aici intervine AI pe dispozitiv.

AI pe dispozitiv se referă la capabilitățile de inteligență artificială care rulează local pe un dispozitiv, mai degrabă decât în ​​cloud. Aceasta înseamnă că procesarea AI are loc direct pe telefon, tabletă sau alte dispozitive fără a vă conecta la internet.

Iată cum funcționează sub capotă: modele AI cum ar fi Stable Diffusion, DALLE-E, Midjourney, etc., sunt instruiți în cloud folosind o mulțime de date și putere de calcul. Aceste modele sunt apoi optimizate pentru a rula eficient pe dispozitivele țintă. Modelele optimizate AI sunt încorporate în aplicații și descărcate pe dispozitivul fiecărui utilizator. Datele aplicației rămân izolate într-o enclavă sigură.

Când aplicația trebuie să îndeplinească o sarcină cum ar fi recunoașterea unui sunet sau identificarea unui obiect dintr-o fotografie, rulează modelul AI la nivel local, folosind CPU-ul sau GPU-ul integrat al dispozitivului. Modelul AI procesează datele de intrare și generează o predicție de ieșire sau un rezultat fără a trimite date extern.

Toate acestea se întâmplă în întregime pe dispozitivul dvs., păstrându-vă interacțiunile private.

Cum vă poate avantaja AI pe dispozitiv

AI pe dispozitiv permite capabilități impresionante pe dispozitivul dvs. Aceasta include generarea rapidă de imagini folosind modele precum Stable Diffusion, unde imaginile pot fi create în câteva secunde, ceea ce este fulgerător de rapid. Acest lucru ar putea fi grozav dacă doriți să creați rapid imagini și fundaluri pentru postările dvs. pe rețelele sociale. Și, deoarece este procesat local, solicitările dvs. de imagine rămân private.

Un asistent AI poate fi alimentat și local, oferind o experiență personalizată bazată pe datele și preferințele dvs., cum ar fi activitățile preferate și nivelurile de fitness. Poate înțelege limbajul natural pentru sarcini precum editarea foto și video. De exemplu, puteți spune „eliminați persoana din stânga” pentru a edita o imagine instantaneu.

Pentru fotografie, AI pe dispozitiv poate activa funcții precum extinderea marginilor imaginii (similar cu Funcția de umplere a Photoshop), folosind camere frontale și spate simultane pentru efecte video și editarea diferitelor straturi în mod independent.

Grafica pentru jocuri poate beneficia, de asemenea, de AI pe dispozitiv prin creșterea rezoluției de până la 8K, accelerarea ray tracing pentru o iluminare realistă și dublarea eficientă a ratelor de cadre. În ceea ce privește sunetul, AI pe dispozitiv poate activa sincronizarea audio în timp real, astfel încât sunetul din videoclipuri și jocuri să nu se sincronizeze niciodată. De asemenea, permite apeluri și muzică clare chiar dacă intri într-o altă cameră.

În general, AI pe dispozitiv se aliniază cu ceea ce doresc mulți utilizatori - rezultate rapide și confidențialitate - deoarece menține mai multă procesare locală în loc de cloud.

AI pe dispozitiv oferă experiențe AI mai rapide și mai private

AI pe dispozitiv este destul de îngrijit. Permite telefoanelor noastre și altor gadget-uri să ruleze algoritmi AI avansati la nivel local, fără a fi nevoie să se conecteze la cloud și fără întârziere.

Companii precum Qualcomm își împachetează deja ultimele cipuri cu hardware specializat pentru a rula eficient rețelele neuronale pe dispozitivele noastre. De exemplu, Qualcomm Snapdragon 8 Gen 3 acceptă până la 24 GB (pe un smartphone!), are suport integrat pentru Stable Diffusion și Llama 2 și utilizează AI Stack de la Qualcomm pentru a oferi unele dintre cele mai bune performanțe AI pe dispozitiv la ora actuală timp.

Deci, cu fiecare nouă generație de smartphone-uri, așteptați-vă să vedeți capabilități AI și mai puternice pe dispozitiv pentru lucruri precum asistenți inteligenți, traducere în timp real, editare automată a fotografiilor și imagine AI generativă rapidă generaţie.