Nhà cung cấp của Toyota tìm đường vào thị trường chip AI

AISIN, nhà sản xuất linh kiện ô tô có Toyota là cổ đông lớn, đang phát triển bộ xử lý AI theo một hướng đáng chú ý: đưa cả trọng số mô hình lẫn hệ điều hành vào bộ nhớ tích hợp trên chip. Cách tiếp cận này nhằm giảm sự phụ thuộc vào bộ nhớ bên ngoài, vốn có thể trở thành nút thắt khi trí tuệ nhân tạo phải nhận biết và phản ứng với thế giới thực.

Đích đến không chỉ là ô tô. AISIN nhận thấy công nghệ nhận dạng hình ảnh trên xe có nhiều điểm giao thoa với robot và các ứng dụng “AI vật lý” — những hệ thống sử dụng AI để cảm nhận môi trường và điều khiển hoạt động trong không gian thực.

Vì sao bộ nhớ ngoài có thể làm AI chậm lại?

Để thực hiện tác vụ, bộ xử lý cần truy cập các trọng số mô hình, tức những tham số đã được học trong quá trình huấn luyện. Nếu chúng nằm ở bộ nhớ bên ngoài, dữ liệu phải liên tục di chuyển giữa bộ nhớ và bộ xử lý.

Theo AISIN, lưu lượng trao đổi này làm giảm hiệu quả của nhận dạng hình ảnh và những ứng dụng AI chạy trực tiếp trên thiết bị, thay vì gửi dữ liệu lên đám mây. Công ty cũng xem giá DRAM cao là một bất lợi. DRAM là loại bộ nhớ truy cập ngẫu nhiên phổ biến, cần được cấp điện và làm tươi dữ liệu liên tục để duy trì thông tin.

Đưa mô hình và hệ điều hành lên cùng một chip

Giải pháp của AISIN là một hệ thống trên chip, hay SoC — linh kiện tích hợp nhiều khối chức năng trong cùng một chip. Thiết kế sử dụng quy trình FinFET 16 nm, với các bóng bán dẫn có cấu trúc dạng vây, kết hợp bộ xử lý trung tâm Arm Cortex-A53 hai nhân và bộ xử lý đồ họa Arm Mali-G31.

Điểm nổi bật nằm ở STT-MRAM tích hợp. Đây là bộ nhớ từ tính sử dụng cơ chế chuyển mômen spin để ghi dữ liệu và có khả năng giữ thông tin khi mất điện. Trong thiết kế này, STT-MRAM lưu cả hệ điều hành lẫn trọng số AI, giúp giảm nhu cầu truy cập bộ nhớ ngoài.

Khởi động nhân hệ điều hành trong 65,7 mili giây

AISIN và đối tác nghiên cứu tại Đại học Tohoku cho biết chip chỉ mất 65,7 mili giây từ lúc bật nguồn đến khi bắt đầu khởi chạy nhân hệ điều hành — phần lõi quản lý tài nguyên và hoạt động cơ bản của hệ thống. Theo nhóm nghiên cứu, kết quả này nhanh gấp 38 lần so với phương án dùng bộ nhớ ngoài được đem ra so sánh.

Chip cũng chạy được Tiny YOLOv3, một thuật toán phát hiện vật thể gọn nhẹ, dùng để xác định đối tượng và vị trí của chúng trong hình ảnh. Tuy nhiên, thông tin công bố chưa nêu tốc độ xử lý hình ảnh, nên chưa thể suy rộng mức tăng tốc khởi động thành mức tăng hiệu năng AI tương ứng.

Thu gọn dữ liệu trọng số 53% để vừa bộ nhớ tích hợp

Dung lượng bộ nhớ trên chip có giới hạn, buộc nhóm phát triển phải tìm cách thu gọn mô hình. Theo thông báo của Đại học Tohoku, họ xây dựng kiến trúc phép nhân lai, kết hợp các phép tính 16×16 bit, 16×8 bit và 8×8 bit. Số bit biểu thị độ rộng dữ liệu mà phép tính xử lý.

Nhờ cách kết hợp này, dung lượng dữ liệu trọng số giảm từ 17,7 MB xuống 9,36 MB, tương đương 53%, trong khi vẫn duy trì độ chính xác 16 bit theo công bố của nhóm nghiên cứu.

Tiềm năng lớn, nhưng chưa có lịch sản xuất

AISIN đã có vị thế trong chuỗi cung ứng, bán linh kiện cho Toyota và nhiều hãng xe khác. Tuy vậy, công ty chưa cho biết liệu chip mới có được sản xuất thương mại hay khi nào điều đó có thể xảy ra.

Thiết kế xuất hiện trong lúc Nvidia và Qualcomm đều muốn mở rộng hoạt động cung cấp chip cùng công nghệ AI cho ngành ô tô. Với AISIN, hướng đi tích hợp bộ nhớ cho thấy một lựa chọn cạnh tranh khác: không chỉ tăng sức mạnh tính toán, mà còn giảm quãng đường dữ liệu phải di chuyển để hệ thống phản hồi nhanh hơn.

Danh mục máy quét mã vạch

Máy quét mã vạch - Quét mã Qr - Quét mã vạch sản phẩm.

DÒNG MÁY CÓ DÂY

máy quét mã vạch không dây

DÒNG MÁY KHÔNG DÂY

DÒNG MÁY KIỂM KHO PDA

DÒNG MÁY FITMOUNT