'Con cưng' của Jack Ma tuyên bố đột phá AI: Dùng chip nội địa, giảm 20% chi phí nhưng hiệu suất ngang ngửa Nvidia

Dù vẫn sử dụng chip Nvidia cho phát triển AI, Ant Group hiện chủ yếu dựa vào các lựa chọn thay thế như chip từ Advanced Micro Devices và chip nội địa cho các mô hình mới nhất của mình.

Ant Group, công ty được Jack Ma hậu thuẫn, đã sử dụng chip bán dẫn sản xuất trong nước để phát triển kỹ thuật huấn luyện mô hình AI giúp cắt giảm chi phí tới 20%, theo nguồn tin thân cận.

Công ty này đã sử dụng chip nội địa, bao gồm cả chip từ Alibaba Group Holding và Huawei Technologies, để huấn luyện mô hình bằng phương pháp "Mixture of Experts" (MoE), một kỹ thuật học máy tiên tiến. Theo nguồn tin, kết quả thu được tương đương với chip H800 của Nvidia, vốn bị Mỹ cấm xuất khẩu sang Trung Quốc.

Dù vẫn sử dụng chip Nvidia cho phát triển AI, Ant Group hiện chủ yếu dựa vào các lựa chọn thay thế như chip từ Advanced Micro Devices và chip nội địa cho các mô hình mới nhất của mình.

Bước tiến của Ant Group diễn ra trong bối cảnh cuộc đua AI giữa các công ty Trung Quốc và Mỹ ngày càng nóng lên. DeepSeek gần đây đã chứng minh rằng có thể huấn luyện các mô hình AI với chi phí thấp hơn nhiều so với hàng tỷ USD mà OpenAI hay Google của Alphabet Inc. đầu tư. Điều này cho thấy các công ty Trung Quốc đang tích cực tìm cách thay thế các chip tiên tiến của Nvidia.

Ant Group đã công bố một báo cáo nghiên cứu khẳng định mô hình AI của họ có thể vượt trội hơn Meta Platforms Inc. trong một số bài kiểm tra. Nếu đúng như tuyên bố, công nghệ của Ant có thể giúp giảm đáng kể chi phí suy luận và hỗ trợ các dịch vụ AI.

Các mô hình MoE đang trở thành xu hướng phổ biến nhờ khả năng tối ưu hóa hiệu suất. Google và startup DeepSeek tại Hàng Châu cũng đang ứng dụng kỹ thuật này, cho phép chia nhỏ nhiệm vụ thành các phần nhỏ hơn để xử lý hiệu quả hơn.

Tuy nhiên, việc huấn luyện mô hình MoE thường yêu cầu chip xử lý hiệu suất cao, chẳng hạn như GPU của Nvidia. Do chi phí đắt đỏ, nhiều công ty nhỏ gặp khó khăn trong việc áp dụng công nghệ này. Ant Group đang nghiên cứu phương pháp huấn luyện mô hình ngôn ngữ lớn (LLM) hiệu quả hơn mà không cần đến GPU cao cấp.

Báo cáo của Ant nhấn mạnh mục tiêu "mở rộng mô hình mà không cần GPU cao cấp". Theo đó, công ty cho biết chi phí huấn luyện 1.000 tỷ token bằng phần cứng hiệu suất cao là khoảng 6,35 triệu NDT (880.000 USD), nhưng với phương pháp tối ưu hóa, chi phí này có thể giảm xuống còn 5,1 triệu NDT.

Ant Group đang tận dụng các mô hình AI mới nhất, Ling-Plus và Ling-Lite, để phát triển giải pháp AI trong các lĩnh vực như y tế và tài chính. Đầu năm nay, công ty đã mua lại nền tảng y tế trực tuyến Haodf.com để mở rộng dịch vụ AI trong lĩnh vực chăm sóc sức khỏe.

Công ty đã triển khai "AI Doctor Assistant" để hỗ trợ 290.000 bác sĩ trên Haodf.com trong việc quản lý hồ sơ y tế. Ngoài ra, Ant cũng phát triển các ứng dụng AI như Zhixiaobao (trợ lý cuộc sống) và Maxiaocai (cố vấn tài chính).

Theo báo cáo, Ling-Lite có hiệu suất cao hơn một trong những mô hình Llama của Meta trong bài kiểm tra tiếng Anh. Cả Ling-Lite và Ling-Plus đều vượt trội hơn mô hình của DeepSeek trong các bài kiểm tra tiếng Trung.

Ant đã công khai mã nguồn của mô hình Ling. Ling-Lite có 16,8 tỷ tham số, trong khi Ling-Plus có 290 tỷ tham số. Để so sánh, ChatGPT-4.5 của OpenAI được ước tính có 1,8 nghìn tỷ tham số, còn DeepSeek-R1 có 671 tỷ tham số.

Ant thừa nhận rằng họ đã gặp một số vấn đề trong quá trình huấn luyện mô hình, bao gồm sự ổn định. Ngay cả những thay đổi nhỏ về phần cứng hoặc cấu trúc mô hình cũng có thể gây ra sai số đáng kể.

Hiện tại, Ant đã phát triển mô hình AI dành riêng cho lĩnh vực y tế, được áp dụng tại 7 bệnh viện và cơ sở y tế ở Bắc Kinh, Thượng Hải và các thành phố khác. Mô hình này kết hợp DeepSeek R1, Qwen của Alibaba và LLM riêng của Ant để cung cấp tư vấn y tế.

Ngoài ra, công ty đã triển khai hai trợ lý AI y tế, Angel, hỗ trợ hơn 1.000 cơ sở y tế, và Yibaoer, chuyên hỗ trợ dịch vụ bảo hiểm y tế. Tháng 9 năm ngoái, Ant cũng ra mắt dịch vụ AI Healthcare Manager trên ứng dụng thanh toán Alipay.

Sự phát triển của Ant Group cho thấy nỗ lực của Trung Quốc trong việc xây dựng hệ sinh thái AI độc lập, giảm phụ thuộc vào chip Nvidia và thúc đẩy ứng dụng AI vào các lĩnh vực thực tiễn.

>> Sau hơn 4 năm khủng hoảng, thị trường bất động sản Trung Quốc đang 'hồi sinh'?