- AI tại thiết bị đầu cuối chuyển quá trình xử lý dữ liệu từ đám mây xuống các thiết bị đầu cuối để loại bỏ độ trễ.
- Việc chạy các mô hình tạo sinh cục bộ giúp giảm đáng kể chi phí vận hành và sự phụ thuộc vào giấy phép bên ngoài.
- Việc triển khai trí tuệ nhân tạo ở vùng biên đảm bảo khả năng hoạt động ngoại tuyến và tăng cường bảo mật dữ liệu.
Có lẽ bạn đã từng nghe về điện toán đám mây, nhưng xu hướng hiện nay lại ngược lại: đưa trí tuệ nhân tạo trực tiếp đến nơi mọi thứ diễn ra. Trí tuệ nhân tạo biên (Edge AI) đơn giản là việc triển khai các thuật toán tiên tiến trên các thiết bị ở rìa mạng, nơi mà kết nối đôi khi bị lỗi hoặc đơn giản là không đến được, cho phép thiết bị hoạt động tự động.
Chúng ta đang nói về việc tích hợp bộ não kỹ thuật số này vào các công cụ mà chúng ta đã sử dụng hàng ngày, từ điện thoại thông minh hoặc đồng hồ thông minh đơn giản đến các cảm biến công nghiệp phức tạp hoặc thiết bị theo dõi sức khỏe đeo được. Ý tưởng là ngừng gửi mọi thứ đến máy chủ ở xa để phản hồi được tức thì, gần như ngay lập tức.
Trí tuệ nhân tạo tại biên (AI at the edge) thực chất bao gồm những gì?
Về cơ bản, chúng tôi đang kết hợp điện toán biên với học máy để các tác vụ học máy được thực hiện trực tiếp trên phần cứng được kết nối. Bằng cách lưu trữ và xử lý thông tin ngay cạnh thiết bị, chúng tôi đạt được phản hồi trong vòng mili giây, điều này rất quan trọng trong các lĩnh vực mà ngay cả một giây chậm trễ cũng có thể gây ra vấn đề nghiêm trọng.
Điều này đặc biệt quan trọng trong các công nghệ như ô tô tự lái hoặc robot tiên tiến , nơi phương tiện phải quyết định có nên phanh ngay lập tức hay không mà không cần chờ sự chấp thuận từ đám mây. Đây cũng là nền tảng của các hệ thống trí tuệ nhân tạo tác nhân (agentic AI) , hoạt động và phản ứng trong thời gian thực dựa trên môi trường thực tế.
Bước tiến đột phá hướng tới Trí tuệ nhân tạo tạo sinh cục bộ
Cho đến gần đây, nếu muốn sử dụng một mô hình ngôn ngữ mạnh mẽ, bạn phải thông qua OpenAI hoặc Anthropic. Nhưng tất nhiên, phí sử dụng và giấy phép đã trở nên quá cao, và thường thì lợi ích thu được không còn xứng đáng với chi phí bỏ ra. Đó là lý do tại sao chúng ta đang chứng kiến một sự chuyển dịch lớn sang việc chạy các mô hình mã nguồn mở trên máy tính cá nhân của mình.
Bằng cách đầu tư vào phần cứng có khả năng hỗ trợ các suy luận này, các công ty và người dùng có thể thu hồi vốn đầu tư chỉ trong vài tháng , vì họ loại bỏ được các khoản thanh toán token định kỳ. Về cơ bản, đó là việc chuyển từ thuê trí tuệ nhân tạo sang sở hữu công cụ tạo ra nó.
Lợi thế cạnh tranh và ứng dụng thực tiễn
Ngoài việc tiết kiệm chi phí, xử lý dữ liệu ngay tại nguồn giúp tối ưu hóa quy trình làm việc trong các môi trường phức tạp, chẳng hạn như quản lý chuỗi cung ứng hoặc nhà máy . Bằng cách giảm lưu lượng mạng, độ trễ giảm đáng kể và hiệu quả tăng lên.
- Hoạt động ngoại tuyến: Khác với trí tuệ nhân tạo truyền thống, các thiết bị biên có thể hoạt động mà không cần internet, điều này khiến chúng trở nên lý tưởng cho các khu vực hẻo lánh.
- Bảo mật nâng cao: Vì dữ liệu không được truyền ra bên ngoài, nên quyền riêng tư được tăng cường đáng kể.
- Tăng trưởng kinh tế: Thị trường này dự kiến sẽ tăng trưởng theo cấp số nhân, đạt những con số khổng lồ vào năm 2033 nhờ vào... tốc độ tăng trưởng hàng năm rất cao.
Một ví dụ điển hình về cách trí tuệ nhân tạo (AI) được tích hợp vào trải nghiệm người dùng là Copilot, được tích hợp sẵn trong trình duyệt Edge. Nó không chỉ là một ứng dụng trò chuyện; nó có thể phân tích nhiều tab cùng lúc , loại bỏ nhu cầu chuyển đổi giữa các cửa sổ để so sánh dữ liệu. Nó có thể tóm tắt nội dung trang web trong vài giây hoặc tạo hình ảnh bằng Designer trong khi duyệt web.
Ngoài ra, Microsoft đang triển khai các tính năng ghi nhớ và ngữ cảnh , trong đó trợ lý ảo sẽ ghi nhớ các tùy chọn và thói quen duyệt web của bạn để cung cấp các phản hồi cá nhân hóa hơn nhiều. Họ thậm chí còn đang phát triển "Hành động", cho phép hệ thống tự động đặt khách sạn dựa trên thói quen du lịch và vị trí hiện tại của bạn.
Đối với môi trường doanh nghiệp, bảo mật là yếu tố then chốt. Khi sử dụng tài khoản công việc, tính năng bảo vệ dữ liệu doanh nghiệp (biểu tượng lá chắn xanh quen thuộc) sẽ được kích hoạt, đảm bảo rằng thông tin nhạy cảm không được sử dụng để huấn luyện các mô hình AI toàn cầu, giữ mọi thứ trong phạm vi hệ thống của tổ chức.
Sự kết hợp giữa phần cứng mạnh mẽ và các mô hình được tối ưu hóa đang cho phép trí tuệ nhân tạo chuyển từ một dịch vụ từ xa trở thành một khả năng nội tại của các thiết bị của chúng ta, đảm bảo tốc độ, tiết kiệm chi phí và bảo mật mạnh mẽ hơn nhiều bằng cách loại bỏ sự phụ thuộc hoàn toàn vào các máy chủ trung tâm.
