5 xu hướng đáng chú ý trong thời gian tới về công nghệ AI tại biên (Edge AI)

Công nghệ AI ở biên, hay còn được gọi ngắn gọn là Edge AI vẫn đang tiếp tục phát triển mạnh mẽ. Các ứng dụng của AI tại biên là rất nhiều, có thể kể đến như: xe tự hành, nghệ thuật, chăm sóc sức khỏe, quảng cáo được cá nhân hóa và dịch vụ khách hàng, tất cả các lĩnh vực trên đều có thể ứng dụng Edge AI. Ưu điểm lớn nhất đó là kiến trúc biên mang lại độ trễ thấp do gần với nơi tạo ra dữ liệu hơn.

Astute Analytica dự đoán thị trường Edge AI sẽ tăng từ 1.4 tỉ đô la vào năm 2021 lên 8 tỉ đô la vào năm 2027, tốc độ CAGR là 29,8%. Họ kỳ vọng sự tăng trưởng này phần lớn sẽ đến từ AI cho IoT, thiết bị tiêu dùng có thể đeo được và nhu cầu tính toán nhanh hơn trong mạng 5G, cùng các yếu tố khác. Những điều này mang lại cả cơ hội và thách thức vì dữ liệu thời gian thực của các hệ thống AI biên rất dễ bị tấn công qua mạng internet.

Hãy cùng xem xét năm xu hướng có khả năng định hình lĩnh vực Edge AI trong thời gian tới.

Tách AI khỏi đám mây

Một trong những thay đổi lớn hiện nay là khả năng chạy xử lý AI mà không cần kết nối đám mây. Gần đây, ARM đã phát hành hai thiết kế chip mới có thể mang lại sức mạnh xử lý vượt trội cho các thiết bị IoT, bỏ qua yêu cầu sử dụng máy chủ từ xa hoặc đám mây. Bộ xử lý Cortex-M hiện tại của họ có thể xử lý nhận dạng đối tượng, với các khả năng khác như nhận dạng cử chỉ hoặc giọng nói sẽ phát huy tác dụng khi bổ sung Ethos-U55 của ARM. Google Coral, một bộ công cụ để xây dựng các sản phẩm với AI cục bộ, cũng hứa hẹn khả năng xử lý AI “ngoại tuyến” khổng lồ.

Các ứng dụng học máy

NVIDIA đã dự đoán rằng các phương pháp hay nhất trong hoạt động máy học sẽ chứng minh một quy trình kinh doanh có giá trị cho AI tại biên. Nó cần một vòng đời mới để sản xuất các sản phẩm CNTT, hoặc ít nhất, đó là suy đoán khi MLOps phát triển. MLOps có thể giúp tổ chức và đẩy luồng dữ liệu ra biên. Một chu kỳ cập nhật liên tục có thể tỏ ra hiệu quả khi nhiều tổ chức tìm ra điều gì phù hợp nhất với họ khi nói đến Edge AI.

Các nhà khoa học dữ liệu làm việc về thiết kế thuật toán, chọn kiến trúc mô hình cũng như triển khai và giám sát ML hàng ngày có thể được hưởng lợi từ các phương pháp ML đơn giản hóa.

Điều đó có nghĩa là “các mạng thần kinh có thể thiết kế các mạng thần kinh,” Giám đốc điều hành Google, ông Sundar Pichai cho biết.

Auto ML yêu cầu rất nhiều bộ nhớ và sức mạnh tính toán, do đó, việc triển khai nó ở biên đi đôi với các cân nhắc xử lý đang diễn ra khác.

Các loại chip chuyên dụng.

Để xử lý nhiều hơn ở biên, các công ty cần các con chip tùy chỉnh để cung cấp đủ sức mạnh tính toán. Năm ngoái, công ty khởi nghiệp DeepVision đã gây chú ý với vòng tài trợ sê-ri B trị giá 35 triệu đô la cho sản phẩm chip phân tích video và xử lý ngôn ngữ tự nhiên dành cho thiết bị biên.

Linley Gwennap, nhà phân tích chính của Linley Group giải thích: “Chúng tôi kỳ vọng 1,9 tỷ thiết bị biên sẽ xuất xưởng với các máy gia tốc học sâu vào năm 2025.

Chip tăng tốc AI của DeepVision kết hợp với một bộ phần mềm về cơ bản chuyển đổi các mô hình AI thành đồ thị tính toán. IBM đã phát hành phần cứng máy gia tốc đầu tiên của họ vào năm 2021, nhằm chống lại các hành vi gian lận.

Các trường hợp sử dụng và khả năng mới cho thị giác máy tính

Thị giác máy tính vẫn là một trong những ứng dụng nổi bật của AI biên. Mạng đối tác của NVIDIA cho khung ứng dụng và bộ công cụ dành cho nhà phát triển hiện có hơn 1.000 thành viên.

Một bước phát triển chính trong lĩnh vực này là AI đa phương thức, lấy từ nhiều nguồn dữ liệu để vượt ra ngoài khả năng hiểu ngôn ngữ tự nhiên để phân tích các tư thế và thực hiện kiểm tra cũng như trực quan hóa. Điều này có thể hữu ích cho AI để tương tác liền mạch với mọi người, chẳng hạn như trợ lý mua sắm.

Các thuật toán thị giác máy bậc cao hơn hiện có thể phân loại các đối tượng bằng cách sử dụng các tính năng chi tiết hơn. Thay vì nhận ra một chiếc ô tô, nó có thể đi sâu hơn để xác định kiểu dáng và mẫu mã.

Việc đào tạo một mô hình để nhận ra các tính năng chi tiết nào là duy nhất cho từng đối tượng có thể khó khăn. Tuy nhiên, các cách tiếp cận như biểu diễn tính năng với thông tin chi tiết, phân đoạn để trích xuất các tính năng cụ thể, thuật toán chuẩn hóa tư thế của đối tượng và mạng nơ ron tích chập nhiều lớp đều là những cách hiện tại để kích hoạt tính năng này.

Các trường hợp sử dụng của doanh nghiệp trong giai đoạn sơ khai bao gồm kiểm soát chất lượng, theo dõi chuỗi cung ứng trực tiếp, xác định vị trí bên trong bằng cách sử dụng ảnh chụp nhanh và phát hiện deep-fakes.

Tăng trưởng AI trên nền tảng mạng 5G

5G và hơn thế nữa gần như ở đây. Mạng vệ tinh và 6G đang chờ đợi các nhà cung cấp viễn thông. Đối với phần còn lại của chúng ta, vẫn còn một khoảng thời gian để chuyển đổi giữa các mạng lõi 4G hoạt động với một số dịch vụ 5G trước khi hoàn toàn chuyển sang thế hệ tiếp theo.

Điều này sẽ có tác động gì tới Edge Ai? AI trên 5G có thể mang lại hiệu suất và bảo mật cao hơn cho các ứng dụng AI. Nó có thể cung cấp một số yêu cầu AI có độ trễ thấp, cũng như mở ra các ứng dụng mới như tự động hóa nhà máy, thu phí và đo lường phương tiện từ xa cũng như các dự án chuỗi cung ứng thông minh. Mavenir đã giới thiệu giải pháp AI tiên tiến sử dụng mạng 5G để phân tích video vào cuối năm 2021.

Có nhiều xu hướng mới nổi về AI tại biên hơn chúng ta nghĩ. Đặc biệt, sự gia tăng của nó cũng có thể đòi hỏi một số thay đổi về phía con người. NVIDIA dự đoán quản lý ứng dụng AI tại biên sẽ trở thành một công việc dành cho các chuyên gia CNTT, có khả năng sử dụng Kubernetes. Tóm lại, với tốc độ phát triển rất nhanh của công nghệ Edge Ai, trong tương lai, chúng ta sẽ sớm được thấy nhiều ứng dụng đa dạng hơn nữa, với khả năng áp dụng trong nhiều lĩnh vực khác nhau.

Quý khách vui lòng liên hệ với ADTECH để chúng tôi được phục vụ:

ADTECH – Cung cấp thiết bị-giải pháp công nghệ dành cho doanh nghiệp