- AI di pinggir mengalihkan pemprosesan data dari awan ke peranti akhir untuk menghapuskan kependaman.
- Menjalankan model generatif secara tempatan secara drastik dapat mengurangkan kos operasi dan kebergantungan pada lesen luaran.
- Menggunakan kecerdasan buatan di pinggir memastikan kebolehoperasian luar talian dan mengukuhkan keselamatan data.
Anda mungkin pernah mendengar tentang awan, tetapi kini trendnya adalah sebaliknya: membawa maklumat terus ke tempat sesuatu berlaku. AI di pinggir Ia hanya melaksanakan algoritma canggih dalam peranti di pinggir rangkaian, di mana sambungan kadangkala gagal atau tidak tiba, membolehkan peralatan menjadi autonomi.
Kita sedang bercakap tentang mengintegrasikan otak digital ini ke dalam alatan yang telah kita gunakan setiap hari, daripada yang mudah telefon pintar atau jam tangan pintar daripada sensor perindustrian yang kompleks kepada monitor kesihatan yang boleh dipakai. Ideanya adalah untuk berhenti menghantar semuanya ke pelayan yang jauh supaya respons adalah serta-merta, hampir serta-merta.
Apakah sebenarnya yang diperlukan oleh AI di pinggir?
Pada asasnya, kita sedang mencampurkan pengkomputeran pinggir dengan pembelajaran mesin Ini membolehkan tugas pembelajaran mesin dilakukan secara langsung pada perkakasan yang saling berkaitan. Dengan menyimpan dan memproses maklumat di sisi peranti, kita mencapai maklum balas dalam milisaat, yang penting dalam sektor di mana kelewatan walaupun sesaat boleh menjadi masalah yang serius.
Ini amat penting dalam teknologi seperti kereta autonomi atau robotik canggihdi mana kenderaan mesti memutuskan sama ada untuk membrek serta-merta tanpa menunggu awan memberi kebenaran. Ia juga merupakan asas kepada sistem AI ejentik, yang bertindak dan bertindak balas pada masa itu berdasarkan persekitaran sebenar.
Lompatan kepada AI Generatif tempatan
Sehingga baru-baru ini, jika anda ingin menggunakan model bahasa yang berkuasa, anda perlu melalui OpenAI atau Anthropic. Tetapi sudah tentu, yuran penggunaan dan lesen Mereka telah menjadi gila, dan selalunya angka-angka itu tidak sepadan. Itulah sebabnya kita melihat perubahan besar-besaran ke arah... pelaksanaan model terbuka pada komputer kita sendiri.
Dengan melabur dalam perkakasan yang mampu menyokong inferens ini, perniagaan dan pengguna boleh mendapatkan semula pelaburan dalam beberapa bulanIni kerana mereka mengucapkan selamat tinggal kepada pembayaran token berulang. Ia pada asasnya merupakan peralihan daripada menyewa risikan kepada memiliki enjin yang menjananya.
Kelebihan daya saing dan aplikasi dunia sebenar
Selain menjimatkan beberapa euro, pemprosesan data di titik asal mengoptimumkan aliran kerja dalam persekitaran yang kompleks, seperti pengurusan rantaian bekalan atau kilangDengan mengurangkan trafik rangkaian, latensi menurun dengan mendadak dan kecekapan meningkat.
- Operasi luar talian: Tidak seperti AI tradisional, peranti tepi boleh berfungsi tanpa internet, menjadikannya sesuai untuk kawasan terpencil.
- Keselamatan yang dipertingkatkan: Oleh kerana data tidak sampai ke luar, privasi meningkat dengan ketara.
- Perkembangan ekonomi: Pasaran ini dijangka berkembang secara eksponen, mencapai angka astronomi menjelang 2033 hasil daripada kadar pertumbuhan tahunan yang sangat tinggi.
Satu contoh yang sangat jelas tentang bagaimana AI dibawa masuk ke dalam persekitaran pengguna ialah Copilot, yang disepadukan ke dalam pelayar Edge. Ia bukan sekadar aplikasi sembang; ia boleh menganalisis berbilang tab sekaligusIni menghalang kita daripada perlu melompat dari satu tetingkap ke tetingkap lain untuk membandingkan data. Ia boleh meringkaskan kandungan laman web dalam beberapa saat atau menjana imej menggunakan Designer semasa kita menyemak imbas.
Di samping itu, Microsoft sedang melaksanakan ciri-ciri ingatan dan konteks, donde el asistente recuerda tus preferencias y rasgos de navegación para dar respuestas mucho más personalizadas. Incluso se perfilan las llamadas «Acciones», que permitirán al sistema reservar un hotel basándose en tus tabiat perjalanan dan lokasi semasa secara automatik.
Bagi persekitaran korporat, keselamatan adalah kunci. Apabila akaun kerja digunakan, perlindungan data komersial (perisai hijau yang terkenal), memastikan maklumat sensitif tidak digunakan untuk melatih model AI global, memastikan semuanya berada dalam lingkungan penyewa organisasi.
Konvergensi perkakasan berkuasa dan model yang dioptimumkan membolehkan kecerdasan buatan beralih daripada menjadi perkhidmatan jarak jauh kepada keupayaan intrinsik peranti kami, sekali gus menjamin kelajuan, penjimatan kos dan privasi jauh lebih mantap dengan menghapuskan kebergantungan sepenuhnya pada pelayan pusat.
