Mi az On-Device AI és hogyan működik?

Kulcs elvitelek

• Az eszközön lévő mesterséges intelligencia olyan mesterséges intelligencia képességekre utal, amelyek helyileg futnak az eszközön, internetkapcsolat nélkül, így biztosítva a magánélet védelmét és a gyorsabb feldolgozást.
• Az eszközön található mesterséges intelligencia segítségével az okostelefonok lenyűgöző feladatokat hajthatnak végre, például gyorsan készíthetnek képeket, személyre szabott mesterséges intelligencia asszisztenseket biztosítanak, valamint javíthatják a játék grafikai és hangminőségét.
• Az olyan vállalatok, mint a Qualcomm, speciális hardvert integrálnak eszközeikbe, hogy optimalizálják az eszközön lévő mesterséges intelligenciát teljesítmény, olyan fejlett funkciókat biztosít, mint az intelligens asszisztensek, valós idejű fordítás és automatizált fénykép szerkesztés.

A chatbotoktól az önvezető autókig az AI átalakítja a technológiai környezetet. Az egyik olyan terület, ahol a mesterséges intelligencia elterjedése gyorsan felgyorsul, az olyan fogyasztói eszközökön van, mint az okostelefonok. A technológiai óriások azon versenyeznek, hogy integrálják az eszközön lévő mesterséges intelligencia képességeit legújabb hardverükbe és szoftvereikbe.

De mi is pontosan az eszközön található mesterséges intelligencia, és hogyan működik?

Mi az az eszközön lévő AI és hogyan működik

Ma a legtöbb fogyasztói mesterséges intelligencia a felhőben tárolt hatalmas adatkészletekből áll. Azonban, személyes adatok feltöltése mesterséges intelligencia szerverekre nem tesz jót a magánélet védelmének. Itt jön be az eszközön található mesterséges intelligencia.

Az eszközön lévő mesterséges intelligencia olyan mesterséges intelligencia képességekre utal, amelyek helyben futnak egy eszközön, nem pedig a felhőben. Ez azt jelenti, hogy a mesterséges intelligencia feldolgozás közvetlenül a telefonon, táblagépen vagy más eszközökön történik, anélkül, hogy csatlakozna az internethez.

Így működik a motorháztető alatt: Az AI modellek kedvelik Stabil diffúzió, DALLE-E, Midjourneystb., rengeteg adatot és számítási teljesítményt használva tanítják a felhőben. Ezeket a modelleket ezután úgy optimalizálják, hogy hatékonyan fussanak a céleszközökön. Az optimalizált mesterséges intelligencia modelleket alkalmazásokba ágyazzák, és letöltik az egyes felhasználók eszközeire. Az alkalmazás adatai egy biztonságos enklávéban maradnak elszigetelve.

Amikor az alkalmazásnak olyan feladatot kell végrehajtania, mint például egy hang felismerése vagy egy tárgy azonosítása a fotón, az AI-modellt helyileg futtatja az eszköz beépített CPU-jával vagy GPU-jával. Az AI-modell feldolgozza a bemeneti adatokat, és kimeneti előrejelzést vagy eredményt generál anélkül, hogy külső adatokat küldene.

Mindez teljes mértékben az eszközén történik, így az interakciók privátak maradnak.

Milyen előnyökkel járhat az eszközön működő mesterséges intelligencia

Az eszközön lévő mesterséges intelligencia lenyűgöző képességeket tesz lehetővé az eszközön. Ez magában foglalja a gyors képgenerálást olyan modellekkel, mint a Stable Diffusion, ahol a képeket másodpercek alatt lehet létrehozni, ami nagyon gyors. Ez nagyszerű lehet, ha gyorsan szeretne képeket és háttereket létrehozni közösségi média bejegyzéseihez. És mivel a feldolgozás helyben történik, a képértesítések privátak maradnak.

Az AI-asszisztens helyileg is működtethető, személyre szabott élményt biztosítva az Ön adatai és preferenciái, például kedvenc tevékenységei és fitneszszintjei alapján. Meg tudja érteni a természetes nyelvet olyan feladatokhoz, mint a fotó- és videószerkesztés. Például kimondhatja, hogy „távolítsa el a bal oldalon lévő személyt” a kép azonnali szerkesztéséhez.

Fényképezéshez az eszközön lévő mesterséges intelligencia olyan funkciókat tesz lehetővé, mint a képkeretek kiterjesztése (hasonlóan A Photoshop kitöltési funkciója), egyidejű elülső és hátsó kamerák használatával videoeffektusokhoz, valamint különböző rétegek egymástól függetlenül történő szerkesztéséhez.

A játékgrafika is profitálhat az eszközön található mesterséges intelligencia előnyeiből az akár 8K-ig felskálázott felbontás, a valósághű megvilágítás érdekében felgyorsított sugárkövetés és a képkockasebesség hatékony megduplázása révén. Ami a hangot illeti, az eszközön lévő mesterséges intelligencia lehetővé teszi a valós idejű hangszinkronizálást, így a videók és játékok hangja soha nem megy ki a szinkronból. Kristálytiszta hívásokat és zenét is lehetővé tesz, még akkor is, ha egy másik szobába lép be.

Összességében az eszközön található mesterséges intelligencia igazodik ahhoz, amit sok felhasználó szeretne – gyors eredményeket és adatvédelmet –, mivel a felhő helyett több helyi feldolgozást végez.

Az eszközön lévő mesterséges intelligencia gyorsabb és privátabb AI-élményt biztosít

Az eszközön lévő AI nagyon ügyes. Lehetővé teszi, hogy telefonjaink és egyéb moduljaink fejlett mesterségesintelligencia-algoritmusokat futtassanak helyben anélkül, hogy csatlakozni kellene a felhőhöz és késés nélkül.

Az olyan cégek, mint a Qualcomm, már speciális hardverekkel csomagolják legújabb chipjeit, hogy neurális hálózatokat hatékonyan üzemeltethessenek eszközeinken. Például a Qualcomm Snapdragon 8 Gen 3 akár 24 GB-ot támogat (okostelefonon!), integrált támogatással rendelkezik a stabilhoz Diffusion és Llama 2, és a Qualcomm mesterséges intelligencia veremét használja, hogy a jelenlegi legjobb AI teljesítményt nyújtsa az eszközön idő.

Tehát az okostelefonok minden új generációjával várhatóan még nagyobb teljesítményű eszközön található mesterséges intelligencia-képességekkel, például intelligens asszisztensek, valós idejű fordítás, automatizált képszerkesztés és villámgyors generatív mesterséges intelligencia kép generáció.