Mô hình mới nhất của nền tảng AI của Trung Quốc đã được phát hành! Điểm số toàn diện của Baidu là thứ nhất, tiếng vang thứ hai cạnh tranh khốc liệt và mô hình lớn đẩy nhanh sự phát triển của các nhà cung cấp đám mây
Xu hướng của các mô hình lớn đã mang lại hàng trăm triệu "cú sốc nhỏ" cho mọi thứ liên quan đến nó.
Nền tảng AI/ML là một trong số đó.
Nó liên quan chặt chẽ đến xu hướng của các mô hình lớn và có thể phản ánh trực tiếp mức độ dự trữ R &D công nghệ AI của các nhà cung cấp đám mây lớn, cũng như cái nhìn sâu sắc và khả năng hiểu biết về các xu hướng mới nhất.
Ai mạnh hơn? Nó đang được ngành công nghiệp nói đến.
Dưới những thay đổi mạnh mẽ của làn gió công nghệ, các nền tảng AI/ML cũng có những tiêu chuẩn đánh giá mới.
Báo cáo nền tảng trí tuệ nhân tạo / máy học đầu tiên của Forrester ** do cơ quan quốc tế phát hành cung cấp tài liệu tham khảo kịp thời.
Forrester Research là một công ty nghiên cứu thị trường và công nghệ độc lập xuất bản các báo cáo chuyên đề được đánh giá cao ở Trung Quốc và trên toàn thế giới.
Forrester Wave, được xuất bản hai năm một lần, là loại báo cáo có ảnh hưởng nhất của Forrester.
Báo cáo đã khảo sát 14 nhà cung cấp đám mây chính thống tại thị trường nội địa, bao gồm Baidu Intelligent Cloud, Alibaba Cloud, Huawei Cloud, Tencent Cloud, v.v. và đánh giá họ từ ba khía cạnh: khả năng sản phẩm, hoạch định chiến lược và hiệu suất thị trường.
Dựa trên đánh giá toàn diện về 25 phân khúc, Forrester chia 14 nhà cung cấp hàng đầu thành bốn góc phần tư: Nhà lãnh đạo, Người biểu diễn hàng đầu, Ứng cử viên và Người thách thức.
Chúng ta hãy xem xét những điểm nổi bật cụ thể.
**Xu hướng mới mang lại những tiêu chuẩn mới nào **
Hãy bắt đầu với kết luận cốt lõi của báo cáo.
Trong biểu đồ góc phần tư này, cấp chiến lược là trục ngang, khả năng sản phẩm là trục dọc và nó được chia thành bốn góc phần tư: nhà lãnh đạo, người biểu diễn xuất sắc, đối thủ cạnh tranh và người thách thức, và nó cũng phản ánh hiệu suất thị trường của mỗi công ty.
Sự phân bố của các góc phần tư như sau:
Lãnh đạo (2), Người biểu diễn hàng đầu (5), Đối thủ cạnh tranh (4), Người thách thức (3).
Trong tiếng vang đầu tiên là Baidu Intelligent Cloud và Alibaba Cloud. Trong số đó, Baidu Intelligent Cloud đã thể hiện xuất sắc và giành vị trí đầu tiên về điểm số toàn diện.
Tiếng vang thứ hai là cạnh tranh nhất, với 5 nhà cung cấp ở vị trí rất nhỏ gọn trong góc phần tư.
Kết luận trên là kết quả của 25 đánh giá được thực hiện bởi Forrester.
Ngoài việc sắp xếp bối cảnh cạnh tranh hiện tại của các nền tảng AI / ML tại thị trường Trung Quốc, Forrester đã đề xuất thêm một tài liệu tham khảo tiêu chuẩn mới để đánh giá các nền tảng AI / ML.
Ba điểm sau đây là quan trọng nhất:
Chuỗi công cụ toàn diện
Máy gia tốc dễ sử dụng
Mô hình Ops ở quy mô lớn
Tại sao?
Forrester tin rằng dưới ảnh hưởng của AI tạo ra và xu hướng mô hình lớn, các ứng dụng AI đang trở nên quan trọng hơn để thúc đẩy năng suất và thúc đẩy đổi mới kinh doanh.
Tại thị trường Trung Quốc ngày nay, các công ty đang rất cần một nền tảng AI / ML có thể giải quyết các vấn đề phức tạp trong môi trường kinh doanh của chính họ.
Để đáp ứng nhu cầu thị trường, ba khía cạnh nêu trên là không thể thiếu.
Đầu tiên, phải có một chuỗi công cụ cung cấp khả năng quản lý dữ liệu, đào tạo mô hình và phát triển ứng dụng AI. **
Đây cũng là cốt lõi của nền tảng AI/ML.
Forrester đề xuất rằng phía nền tảng không chỉ nên chú ý đến các công cụ chính trong xây dựng, đào tạo và đánh giá mô hình mà còn chú ý đến các công cụ cần thiết để phát triển ứng dụng AI.
Ví dụ, khung AI và sổ ghi chép cho các chuyên gia; Mã thấp, các công cụ trực quan cho người kinh doanh.
Thêm vào đó, các công cụ quản lý dữ liệu cũng có tác động đáng kể đến việc xây dựng mô hình.
Thứ hai, nó cung cấp một máy gia tốc dễ sử dụng cho ngành. **
Forrester chỉ ra rằng hầu hết các công ty ở thị trường nội địa đều thiếu các kỹ sư hiểu cả thuật toán AI và kiến thức kinh doanh, điều này khiến họ khó điều chỉnh thuật toán theo nhu cầu kinh doanh của mình.
Hiện tại, họ đang nắm lấy "tư thế" của xu hướng mô hình lớn, sử dụng mô hình lớn để tinh chỉnh hoặc thực hiện kỹ thuật nhanh chóng.
Do đó, các công cụ tăng tốc có thể đẩy nhanh quá trình xây dựng mô hình AI và phát triển ứng dụng là rất quan trọng. Các công cụ trực quan hóa, phát triển mã thấp và hơn thế nữa có thể thúc đẩy hơn nữa sự đổi mới.
Thứ ba, đẩy nhanh tiến độ triển khai các mô hình lớn thông qua các hoạt động mô hình quy mô lớn. **
Model Ops bao gồm triển khai mô hình, giám sát, cập nhật và tự động hóa, có thể giải quyết các vấn đề như sai lệch mô hình, suy giảm hiệu suất, bảo trì bảo mật và cập nhật mô hình, đồng thời cung cấp thử nghiệm A / B, điều chỉnh tự động và đào tạo lại mô hình.
Khi doanh nghiệp nắm bắt xu hướng mô hình lớn, các nền tảng AI/ML với hoạt động mô hình quy mô lớn có thể giúp doanh nghiệp phát triển, triển khai và quản lý mô hình AI tốt hơn, thúc đẩy hơn nữa chuyển đổi số doanh nghiệp, giảm chi phí và tăng hiệu quả.
Tóm lại, để một nền tảng AI / ML trở thành người dẫn đầu trong xu hướng mới, nó cần cung cấp các công cụ dễ sử dụng, đáp ứng nhu cầu của ngành và đẩy nhanh việc áp dụng AI của các doanh nghiệp.
Và những khả năng nào cụ thể hơn để sở hữu, chúng ta phải phân tích từ các nhà lãnh đạo hiện tại.
Làm thế nào để bạn lọt vào góc phần tư Lãnh đạo? **
Trong báo cáo Forrester này, hiệu suất của Baidu Intelligent Cloud rất bắt mắt.
Đây là nhà cung cấp đám mây duy nhất lọt vào góc phần tư "Nhà lãnh đạo" và nó cũng giành được vị trí đầu tiên về tổng điểm và vị trí đầu tiên trong 9 điểm phân khu.
Về khả năng sản phẩm, Baidu Intelligent Cloud đứng đầu trong bốn phân khu: dữ liệu, đào tạo, lý luận dự đoán và ứng dụng.
Đồng thời, về quy mô chiến lược và quy mô thị trường, Baidu cũng giành được vị trí đầu tiên trong nhiều dự án này.
Forrester mô tả Baidu Intelligent Cloud là "một trong những người tiên phong của mô hình cơ bản của Trung Quốc":
Baidu Intelligent Cloud nhúng dòng mô hình nền tảng ERNIE vào danh mục đầu tư với lộ trình sản phẩm vững chắc và hệ sinh thái hoạt động của nó xung quanh PaddlePaddle là một cách hiệu quả để thu hút các nhà phát triển AI cùng đổi mới.
Khả năng cụ thể của nó đến từ nền tảng AI của Baidu và các sản phẩm của nó bao gồm BML, EasyDL và nền tảng mô hình lớn Qianfan đám mây thông minh của Baidu.
Lấy nền tảng AI đám mây thông minh của Baidu làm ví dụ, chúng ta có thể phân tích cụ thể hơn những khả năng mà nền tảng AI / ML hiện tại nên có nếu muốn chiếm vị trí hàng đầu trên thị trường.
Theo kích thước của báo cáo Forrester, các khả năng cụ thể có thể được chia thành năm khía cạnh: dữ liệu, đào tạo, lý luận dự đoán, ứng dụng và kiến trúc. Đây cũng là năm yếu tố cốt lõi trong việc phát triển và ứng dụng các mô hình AI.
**Hãy bắt đầu với dữ liệu. **
Trong phần xử lý dữ liệu, nền tảng AI của Baidu có thể xử lý cả dữ liệu có cấu trúc và phi cấu trúc.
Hơn 65 loại trực quan hóa dữ liệu được hỗ trợ, bao gồm biểu đồ tròn, bản đồ nhiệt, biểu đồ phân tán, bản đồ và hơn thế nữa. Nó hỗ trợ ** 10 + loại thành phần bộ lọc ** và người dùng chỉ cần thực hiện cấu hình đơn giản và kéo và thả để đạt được giám sát dữ liệu thời gian thực và ra quyết định phụ trợ.
Đồng thời, nó cũng hỗ trợ 30+ chú thích định dạng dữ liệu, nâng cao hiệu quả của liên kết chú thích với nhân lực tập trung nhất trong quá trình mô hình hóa.
Điều đáng nói là nền tảng Baidu AI cung cấp khả năng chú thích học tập tích cực **, hệ thống có thể phân tích trực tiếp mẫu hình ảnh từ tập dữ liệu, tự động lọc ra các hình ảnh quan trọng nhất và nhắc chú thích giới hạn.
Ví dụ: nếu có 10.000 hình ảnh cần được dán nhãn, hệ thống sẽ đặt các hình ảnh đặc trưng ở phía trước và những hình ảnh lặp đi lặp lại phía sau, để chỉ 3.000 hình ảnh đầu tiên sẽ được đánh dấu và 7.000 hình ảnh cuối cùng có thể được đánh dấu tự động.
Theo báo cáo, phương pháp này có thể tiết kiệm trung bình 70-90% nhân lực cho người dùng doanh nghiệp. Tỷ lệ lao động của con người trong "trí tuệ nhân tạo" đã giảm mạnh.
Ngoài ra, về kỹ thuật tính năng, nền tảng AI của Baidu tích hợp khả năng quản lý cơ sở dữ liệu tính năng cấp độ chuyên nghiệp **, cung cấp các chức năng như bổ sung, xóa, sửa đổi và truy vấn tính năng, sản xuất tính năng, chia sẻ tính năng, quản lý phiên bản tính năng và xác minh dữ liệu.
Các dạng dữ liệu khác nhau theo lô và phát trực tuyến được hỗ trợ cho các dịch vụ dự đoán, có thể đảm bảo rằng các đặc tính của mô hình nhất quán trong quá trình đào tạo và dự đoán cuối cùng, liên quan trực tiếp đến độ chính xác của mô hình.
Các khả năng trên được phản ánh trong các con số cụ thể và báo cáo của Forrester cho nền tảng AI của Baidu số điểm 5 trên 5 (trên một điểm) cho khả năng dữ liệu của nó, vượt xa đáng kể so với các nhà cung cấp khác.
**Thứ hai là đào tạo mô hình. **
Đây là một trong những khía cạnh rõ ràng nhất của xu hướng mới nhất về nhu cầu thị trường, không chỉ nhắm đến các nhà phát triển chuyên nghiệp, mà cả những người kinh doanh không chuyên về thuật toán AI, vì vậy nó đòi hỏi nền tảng AI / ML cung cấp khả năng phải dễ sử dụng và linh hoạt.
Tham khảo thực tiễn nền tảng AI của Baidu.
Một mặt, nó coi trọng "bề rộng" và hỗ trợ mô hình hóa và đào tạo nhiều loại dữ liệu, chẳng hạn như hình ảnh, video, văn bản và lời nói.
Phương pháp mô hình hóa cũng rất linh hoạt, hỗ trợ nhiều phương pháp mô hình hóa như phát triển máy tính xách tay / WebIDE, phát triển hình ảnh kéo và thả, điều chỉnh tham số tập lệnh, công việc tùy chỉnh, v.v., có thể hoàn thành việc phát triển tùy chỉnh các mô hình có độ chính xác cao cho những người có trình độ chuyên môn khác nhau.
Ở phía bên kia là "chiều sâu". Với sự hỗ trợ của nhóm thuật toán mái chèo của riêng mình, nền tảng AI của Baidu đã thực hiện tối ưu hóa chuyên sâu cho một số lượng lớn các nhà khai thác cảnh. Bao gồm phân loại hình ảnh, phát hiện đối tượng, phân loại văn bản, chú thích chuỗi, v.v.
Đơn cử như PP YOLO, được tối ưu hóa sâu dựa trên người vận hành mái chèo, đã vượt qua tiêu chuẩn YOLO V3 trong lĩnh vực phát hiện đối tượng.
Dễ sử dụng cũng là một trọng tâm lớn. Trên nền tảng AI của Baidu, mô hình hóa không mã và mô hình trực quan có thể được thực hiện. Trước đây, người dùng chỉ cần tải dữ liệu lên và chọn một loại để bắt đầu mô hình hóa. Cái sau có thể lắp ráp một quy trình mô hình hóa bằng cách kéo và thả các thành phần và thiết lập các tham số của từng bộ phận.
Ngoài ra, số lượng điện toán AI đang tăng ít nhất 10 lần mỗi năm và khả năng điều chỉnh tài nguyên tác vụ trong đào tạo deep learning đã trở nên đặc biệt quan trọng. Nền tảng AI của Baidu hỗ trợ đào tạo phân tán đa máy và nhiều thẻ, đồng thời cung cấp nhiều loại tài nguyên máy tính khác nhau.
Ngoài ra, bản thân Baidu có nhiều kinh nghiệm trong việc đào tạo các mô hình siêu lớn và có thể tích hợp các khả năng của riêng mình trong các mô hình lớn trực quan, AI tạo ra, v.v. Ví dụ: tìm kiếm siêu tham số tự động, xử lý tự động dữ liệu không cân bằng và đào tạo trước quy mô cực lớn có thể được thực hiện.
Nhờ đó, trên nền tảng Baidu AI, bạn cũng có thể thấy rất nhiều công cụ phát triển để nâng cao hiệu quả lập trình.
Khía cạnh thứ ba của năng lực là lý luận. **
Với sự phát triển của các mô hình lớn, thị trường suy luận sẽ tiếp tục mở rộng và thậm chí phát triển theo cấp số nhân, điều này đặt ra những thách thức lớn cho các nền tảng AI / ML.
Từ quan điểm của nền tảng AI của Baidu, họ chủ yếu tập trung vào hiệu quả phát triển, tối ưu hóa hiệu suất, tính linh hoạt và tính mở rộng.
Mô-đun suy luận của nó, Model Serve, hỗ trợ 16 khung AI, bao gồm Paddle, Tensor Flow và PyTorch phổ biến nhất, cũng như Matlab / R cho tính toán khoa học và tăng cường Xg cho học máy.
Về mặt tối ưu hóa hiệu suất, bộ lập lịch suy luận không đồng bộ được trừu tượng hóa trực tiếp trên lớp lập lịch để đạt được các công nhân suy luận không đồng nhất, cải thiện hiệu suất của toàn bộ việc sử dụng máy chủ và GPU hơn 1 lần.
Đồng thời, nó hỗ trợ xử lý hàng loạt tự động, phân loại các tác vụ có độ dài khác nhau và biên dịch các tác vụ có kích thước tương tự thành cùng một lô để tận dụng tối đa các tài nguyên không đồng nhất, có thể nâng cao hiệu quả 70% trên cơ sở tách rời không đồng bộ.
Lĩnh vực thứ tư cần tập trung vào là ứng dụng. **
Ứng dụng trong báo cáo chủ yếu kiểm tra hiệu quả ứng dụng của từng nền tảng.
Đó là cách sử dụng các tài nguyên hiện có để nhanh chóng biến dữ liệu thành năng suất kinh doanh.
Nền tảng AI của Baidu có thể cung cấp khả năng quản lý vòng đời đầy đủ cho quá trình phát triển AI, từ thu thập và làm sạch dữ liệu, đến phát triển và đào tạo mô hình, quản lý mô hình, đến quản lý dịch vụ suy luận đám mây và ngoại tuyến.
Điều đáng nói là nền tảng AI của Baidu là nền tảng đầu tiên ở Trung Quốc đạt đến cấp độ hàng đầu của tiêu chuẩn MLOps của Học viện Công nghệ Thông tin và Truyền thông.
Hiện tại, khả năng của nền tảng AI của Baidu đã được xuất khẩu sang các ngành công nghiệp như tài chính, năng lượng và giao thông vận tải. Phục vụ Ngân hàng Phát triển Phố Đông Thượng Hải, Ngân hàng Bắc Kinh, cũng như Lưới điện Nhà nước, Lưới điện Nam Trung Quốc, v.v.
Năm 2022, số lượng người dùng trả tiền đám mây công cộng cho nền tảng AI đám mây thông minh của Baidu sẽ tăng 49%, số lượng khách hàng tư nhân hóa sẽ tăng 32% và số lượng nhà phát triển sẽ tăng thêm 1,228 triệu, với tốc độ tăng trưởng khoảng 40%; Tỷ lệ mua lại đã tăng lên hàng năm và tỷ lệ mua lại trong các ngành công nghiệp chủ chốt đã đạt 50%.
Cuối cùng, về mặt kiến trúc, thiết kế kiến trúc của nền tảng AI của Baidu đã nhận được điểm số đầy đủ trong điểm Forrester.
Nếu có thể tóm tắt trong một câu, nền tảng AI của Baidu đã đạt đến cấp độ "lãnh đạo", tức là nó đã làm được điều đó:
Có nhiều thuật toán, công cụ, hoạt động nhanh, kết quả tốt, đồng thời tiết kiệm máy chủ và nhân lực, đồng thời đảm bảo tính bảo mật và dễ sử dụng.
Thông qua phân tích các khả năng tổng thể của nền tảng AI của Baidu, không khó để thấy rằng nhiều công cụ và ý tưởng này phù hợp với nhu cầu mới của xu hướng mô hình lớn hiện nay.
Trên thực tế, trong bối cảnh thay đổi mạnh mẽ theo hướng công nghệ, không chỉ là xu hướng điều chỉnh kiến trúc hiện có để thích ứng với những thay đổi về nhu cầu, mà còn đề xuất những cách thức mới để đối phó với nó.
** Trong kỷ nguyên của các mô hình lớn, mô hình cạnh tranh mới của AI trên đám mây đã được xác định sơ bộ **
Vậy, với tác động của làn sóng các mô hình lớn, nhu cầu thị trường đối với các nền tảng AI/ML đã có những thay đổi mới nào?
Trước đây, nhiều mô hình CV và NLP được gọi là SOTA, nhưng chúng vẫn thường được sử dụng trong các doanh nghiệp không cốt lõi trong ngành. Giờ đây, với khả năng tuyệt vời để phá vỡ quy trình làm việc truyền thống, các mô hình lớn đang bắt đầu được công nhận ngày càng nhiều và được coi là chìa khóa để phá vỡ nút cổ chai của trí thông minh trong các ngành công nghiệp khác nhau.
Tuy nhiên, đối với các nhà cung cấp đám mây, điều này không có nghĩa là kỷ nguyên của các mô hình lớn là "bắt đầu lại từ đầu" trong kỷ nguyên của các mô hình nhỏ.
Trên thực tế, với việc áp dụng sâu hơn các mô hình lớn, các lĩnh vực kỹ thuật như đại lý ngày càng thu hút nhiều sự quan tâm. Cốt lõi nằm ở chỗ mô hình lớn dựa trên khả năng của chính nó và kết nối mô hình nhỏ với lập kế hoạch trưởng thành để giải quyết vấn đề trong các ứng dụng thực tế, được coi là nhanh hơn và có giá trị hơn trong kịch bản sản xuất.
Do đó, trong "kỷ nguyên mới" mở ra bởi các mô hình lớn, đối với các "nhà lãnh đạo" của các nền tảng AI/ML, sự tích lũy kỹ thuật trong kỷ nguyên của các mô hình nhỏ và sự đổi mới công nghệ trong kỷ nguyên của các mô hình lớn là bổ sung và không thể thiếu.
Nền tảng AI của Baidu trong "kỷ nguyên mới" đã bàn giao phiếu trả lời - ** Baidu Intelligent Cloud Qianfan Large Model Platform ** là một ví dụ.
Là một nền tảng mô hình lớn cấp doanh nghiệp một cửa, Nền tảng Qianfan đám mây thông minh Baidu về cơ bản là sản phẩm của sự tích lũy sâu của Baidu trong lớp chip, lớp khung, lớp mô hình và lớp ứng dụng.
Nó được thể hiện trong năm khía cạnh:
Đầu tiên, ở cấp độ sức mạnh tính toán, nền tảng Qianfan đám mây thông minh của Baidu có thể cung cấp các dịch vụ tính toán không đồng nhất hiệu quả và tiết kiệm chi phí.
Trong quá trình đào tạo mô hình lớn, thông qua chiến lược đào tạo song song phân tán và khả năng kết nối cấp microsecond, tỷ lệ tăng tốc của đào tạo cụm quy mô 10.000 thẻ trên nền tảng Baidu Qianfan có thể đạt tới 95%. Đồng thời, thời gian đào tạo hiệu quả của cụm Vanka có thể đạt tới 96%, giúp giảm đáng kể chi phí về sức mạnh tính toán và thời gian.
Thứ hai, ở cấp độ ** mô hình **, nền tảng Baidu Qianfan đã quản lý 44 mô hình lớn chính thống trong và ngoài nước, bao gồm mô hình lớn Wenxin, dòng Llama, ChatGLM, v.v. và hỗ trợ người dùng nhanh chóng gọi API và trực tiếp có được khả năng mô hình lớn.
Đối với các mô hình lớn của bên thứ ba, nền tảng Baidu Qianfan cũng đã được tối ưu hóa theo cách nhắm mục tiêu, bao gồm tăng cường Trung Quốc, nâng cao hiệu suất, tăng cường ngữ cảnh, v.v.
Baidu tiết lộ rằng số lượng các cuộc gọi API mô hình lớn trên nền tảng Qianfan của Baidu đang tiếp tục tăng với tốc độ cao. Hiện tại, nền tảng Baidu Qianfan đã phục vụ hơn 20.000 khách hàng.
Thứ ba, đối với những khách hàng muốn thực hiện phát triển thứ cấp dựa trên các mô hình lớn hiện có, nền tảng Baidu Qianfan cung cấp chuỗi công cụ vòng đời đầy đủ để đào tạo lại, tinh chỉnh, đánh giá và triển khai các mô hình lớn, cũng như 41 bộ dữ liệu chất lượng cao, có thể thực hiện tối ưu hóa mô hình nhanh chóng cho các tình huống kinh doanh cụ thể.
Thứ tư, ở cấp độ ứng dụng, để đáp ứng nhu cầu của các doanh nghiệp để phát triển các ứng dụng gốc AI dựa trên các mô hình lớn, nền tảng Baidu Qianfan cung cấp một loạt các thành phần và khung năng lực.
Ví dụ: có 226 mẫu tích hợp sẵn, để các nhà phát triển có thể nhanh chóng cải thiện chất lượng của các câu trả lời mô hình lớn ngay cả khi họ không quen thuộc với kỹ thuật nhanh chóng.
Tại Hội nghị Thế giới Baidu vào ngày 17 tháng 10, Baidu Intelligent Cloud cũng đã phát hành "Bàn làm việc phát triển ứng dụng gốc Baidu Qianfan AI **". Cụ thể, "bàn làm việc" này bao gồm hai phần: thành phần ứng dụng + khung ứng dụng.
**Các dịch vụ thành phần ứng dụng bao gồm hai thành phần: AI và đám mây cơ bản. **
Trong số đó, thành phần AI, nghĩa là đóng gói dựa trên thành phần của các khả năng mô hình lớn, bao gồm các thành phần mô hình ngôn ngữ lớn như Hỏi & Đáp và Chuỗi suy nghĩ (CoT), cũng như các thành phần đa phương thức như sơ đồ Wensheng và nhận dạng giọng nói.
Các thành phần đám mây cơ bản bao gồm các dịch vụ đám mây truyền thống như cơ sở dữ liệu vector và lưu trữ đối tượng.
**Khung ứng dụng được định hướng đến các tác vụ kịch bản cụ thể **, có thể hiểu là sự kết hợp hiệu quả của các thành phần ứng dụng trên dựa trên khả năng của các mô hình lớn.
Hiện tại, nền tảng Baidu Qianfan cung cấp các khung ứng dụng gốc AI thường được sử dụng như Retrieval Enhanced Generation (RAG) và Agent.
Trong số đó, khung RAG có thể kết hợp kiến thức trong lĩnh vực độc quyền của doanh nghiệp với khả năng Hỏi &Đáp mô hình lớn để đưa ra câu trả lời chính xác hơn cho kiến thức chuyên môn.
Dựa trên khuôn khổ RAG này, Sany Heavy Industry nhanh chóng nhận ra sự phát triển và ra mắt của ứng dụng dịch vụ khách hàng thông minh trên trang web chính thức.
Shen Dou, phó chủ tịch điều hành của Baidu Group và chủ tịch của Baidu Intelligent Cloud Business Group, tiết lộ rằng ngay cả khi bạn cần xử lý hàng nghìn tài liệu dài dòng, chi phí xây dựng một "trợ lý nhỏ" như vậy chỉ vài trăm nhân dân tệ; Sau đó, chi phí cho mỗi thông tin cho người dùng chỉ vài xu.
Dựa trên khung tác nhân, mô hình lớn có thể tự động tháo rời các nhiệm vụ do con người đưa ra, tự động lập kế hoạch và gọi các thành phần khác nhau để hoàn thành các nhiệm vụ một cách hợp tác, đồng thời cung cấp khả năng tự phản hồi theo hiệu ứng hoàn thành nhiệm vụ để cải thiện khả năng của chính nó.
Hiện tại, dựa trên khung đại lý này, Zhongtian Iron and Steel đã xây dựng một "trung tâm lập kế hoạch doanh nghiệp" thông minh để nhận thức tự động, phân tách và thực hiện các hướng dẫn nhiệm vụ.
Ví dụ: khi phát hiện sản lượng thép không đạt tiêu chuẩn, mô hình lớn có thể tự động gọi các tài nguyên và API khác nhau do nền tảng quản lý để tìm hiểu lý do không tuân thủ, điều chỉnh lịch sản xuất kịp thời và gửi email thông báo cho người điều phối.
Cuối cùng, Baidu Qianfan cũng ra mắt "**AI Native App Store **", kết nối phía cung và phía cầu của các ứng dụng gốc AI, đồng thời cung cấp nơi tập hợp các cơ hội kinh doanh mô hình quy mô lớn.
Không khó để thấy rằng, một mặt, sự ra mắt nhanh chóng của nền tảng mô hình lớn Qianfan đám mây thông minh của Baidu được hưởng lợi từ sự phát triển của công nghệ mô hình lớn của riêng Baidu; Mặt khác, khả năng sản phẩm được tích lũy bởi nền tảng AI của Baidu trong những năm qua, cũng như kinh nghiệm thực tế phong phú trong ngành, đã khiến nền tảng Qianfan của Baidu dẫn đầu trong việc đóng vai trò hiệu quả về mặt ứng dụng.
Theo dữ liệu của IDC, thị trường dịch vụ đám mây công cộng AI của Trung Quốc sẽ cho thấy mức tăng trưởng tích cực 80,6% vào năm 2022, với quy mô thị trường tổng thể đạt 7,97 tỷ nhân dân tệ.
Phân tích của IDC tin rằng việc triển khai AI tạo ra và các mô hình lớn hiện đang ở giai đoạn sơ khai và những khả năng này có thể được cập nhật và lặp lại nhanh hơn trên đám mây công cộng, điều này sẽ mang lại lợi ích đáng kể cho các dịch vụ đám mây công cộng AI trong ngắn hạn.
Gartner cũng chỉ ra rằng AI tạo ra được thúc đẩy bởi các mô hình lớn, đưa ra các yêu cầu cho một cơ sở hạ tầng điện toán mạnh mẽ và có khả năng mở rộng cao. "Đám mây cung cấp giải pháp và nền tảng hoàn hảo, và những người chơi chính trong cuộc đua AI tạo ra phải là các nhà cung cấp đám mây hàng đầu."
Kết hợp với báo cáo mới nhất từ Forrester, có thể thấy rằng đối với các nhà cung cấp đám mây, dịch vụ đám mây AI đã trở thành trọng tâm cạnh tranh mới.
Và làm thế nào để đo lường năng lực cạnh tranh, hiện nay các tiêu chí đánh giá đã dần rõ ràng.
Trong phân tích cuối cùng, có hai khía cạnh cốt lõi:
Đầu tiên, từ góc độ của các nhà phát triển và người dùng doanh nghiệp, đó là liệu khả năng của nền tảng dịch vụ đám mây AI có thể thực sự giải quyết hiệu quả chi phí các vấn đề thực tế mà các doanh nghiệp phức tạp phải đối mặt, cũng như sự thiếu hụt tài năng chuyên nghiệp trong quá trình nâng cấp thông minh, đặc biệt là dưới làn sóng các mô hình lớn.
Thứ hai, từ góc độ xu hướng công nghệ, nó được tích hợp chặt chẽ hơn với các mô hình lớn.
Bố cục nền tảng AI của Baidu có thể được coi là một câu trả lời tham khảo được đưa ra bởi các nhà cung cấp đám mây AI hàng đầu trong những thay đổi mới nhất trong bối cảnh cạnh tranh.
Về kết quả? Trong nhiều trường hợp hạ cánh hơn, bạn có thể thấy chương thực.
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
Mô hình mới nhất của nền tảng AI của Trung Quốc đã được phát hành! Điểm số toàn diện của Baidu là thứ nhất, tiếng vang thứ hai cạnh tranh khốc liệt và mô hình lớn đẩy nhanh sự phát triển của các nhà cung cấp đám mây
Nguồn: Qubits
Xu hướng của các mô hình lớn đã mang lại hàng trăm triệu "cú sốc nhỏ" cho mọi thứ liên quan đến nó.
Nền tảng AI/ML là một trong số đó.
Nó liên quan chặt chẽ đến xu hướng của các mô hình lớn và có thể phản ánh trực tiếp mức độ dự trữ R &D công nghệ AI của các nhà cung cấp đám mây lớn, cũng như cái nhìn sâu sắc và khả năng hiểu biết về các xu hướng mới nhất.
Ai mạnh hơn? Nó đang được ngành công nghiệp nói đến.
Báo cáo nền tảng trí tuệ nhân tạo / máy học đầu tiên của Forrester ** do cơ quan quốc tế phát hành cung cấp tài liệu tham khảo kịp thời.
Forrester Research là một công ty nghiên cứu thị trường và công nghệ độc lập xuất bản các báo cáo chuyên đề được đánh giá cao ở Trung Quốc và trên toàn thế giới.
Forrester Wave, được xuất bản hai năm một lần, là loại báo cáo có ảnh hưởng nhất của Forrester.
Dựa trên đánh giá toàn diện về 25 phân khúc, Forrester chia 14 nhà cung cấp hàng đầu thành bốn góc phần tư: Nhà lãnh đạo, Người biểu diễn hàng đầu, Ứng cử viên và Người thách thức.
Chúng ta hãy xem xét những điểm nổi bật cụ thể.
**Xu hướng mới mang lại những tiêu chuẩn mới nào **
Hãy bắt đầu với kết luận cốt lõi của báo cáo.
Trong biểu đồ góc phần tư này, cấp chiến lược là trục ngang, khả năng sản phẩm là trục dọc và nó được chia thành bốn góc phần tư: nhà lãnh đạo, người biểu diễn xuất sắc, đối thủ cạnh tranh và người thách thức, và nó cũng phản ánh hiệu suất thị trường của mỗi công ty.
Lãnh đạo (2), Người biểu diễn hàng đầu (5), Đối thủ cạnh tranh (4), Người thách thức (3).
Trong tiếng vang đầu tiên là Baidu Intelligent Cloud và Alibaba Cloud. Trong số đó, Baidu Intelligent Cloud đã thể hiện xuất sắc và giành vị trí đầu tiên về điểm số toàn diện.
Tiếng vang thứ hai là cạnh tranh nhất, với 5 nhà cung cấp ở vị trí rất nhỏ gọn trong góc phần tư.
Kết luận trên là kết quả của 25 đánh giá được thực hiện bởi Forrester.
Ngoài việc sắp xếp bối cảnh cạnh tranh hiện tại của các nền tảng AI / ML tại thị trường Trung Quốc, Forrester đã đề xuất thêm một tài liệu tham khảo tiêu chuẩn mới để đánh giá các nền tảng AI / ML.
Ba điểm sau đây là quan trọng nhất:
Tại sao?
Forrester tin rằng dưới ảnh hưởng của AI tạo ra và xu hướng mô hình lớn, các ứng dụng AI đang trở nên quan trọng hơn để thúc đẩy năng suất và thúc đẩy đổi mới kinh doanh.
Tại thị trường Trung Quốc ngày nay, các công ty đang rất cần một nền tảng AI / ML có thể giải quyết các vấn đề phức tạp trong môi trường kinh doanh của chính họ.
Để đáp ứng nhu cầu thị trường, ba khía cạnh nêu trên là không thể thiếu.
Đầu tiên, phải có một chuỗi công cụ cung cấp khả năng quản lý dữ liệu, đào tạo mô hình và phát triển ứng dụng AI. **
Đây cũng là cốt lõi của nền tảng AI/ML.
Forrester đề xuất rằng phía nền tảng không chỉ nên chú ý đến các công cụ chính trong xây dựng, đào tạo và đánh giá mô hình mà còn chú ý đến các công cụ cần thiết để phát triển ứng dụng AI.
Ví dụ, khung AI và sổ ghi chép cho các chuyên gia; Mã thấp, các công cụ trực quan cho người kinh doanh.
Thêm vào đó, các công cụ quản lý dữ liệu cũng có tác động đáng kể đến việc xây dựng mô hình.
Forrester chỉ ra rằng hầu hết các công ty ở thị trường nội địa đều thiếu các kỹ sư hiểu cả thuật toán AI và kiến thức kinh doanh, điều này khiến họ khó điều chỉnh thuật toán theo nhu cầu kinh doanh của mình.
Hiện tại, họ đang nắm lấy "tư thế" của xu hướng mô hình lớn, sử dụng mô hình lớn để tinh chỉnh hoặc thực hiện kỹ thuật nhanh chóng.
Do đó, các công cụ tăng tốc có thể đẩy nhanh quá trình xây dựng mô hình AI và phát triển ứng dụng là rất quan trọng. Các công cụ trực quan hóa, phát triển mã thấp và hơn thế nữa có thể thúc đẩy hơn nữa sự đổi mới.
Model Ops bao gồm triển khai mô hình, giám sát, cập nhật và tự động hóa, có thể giải quyết các vấn đề như sai lệch mô hình, suy giảm hiệu suất, bảo trì bảo mật và cập nhật mô hình, đồng thời cung cấp thử nghiệm A / B, điều chỉnh tự động và đào tạo lại mô hình.
Khi doanh nghiệp nắm bắt xu hướng mô hình lớn, các nền tảng AI/ML với hoạt động mô hình quy mô lớn có thể giúp doanh nghiệp phát triển, triển khai và quản lý mô hình AI tốt hơn, thúc đẩy hơn nữa chuyển đổi số doanh nghiệp, giảm chi phí và tăng hiệu quả.
Và những khả năng nào cụ thể hơn để sở hữu, chúng ta phải phân tích từ các nhà lãnh đạo hiện tại.
Làm thế nào để bạn lọt vào góc phần tư Lãnh đạo? **
Trong báo cáo Forrester này, hiệu suất của Baidu Intelligent Cloud rất bắt mắt.
Đây là nhà cung cấp đám mây duy nhất lọt vào góc phần tư "Nhà lãnh đạo" và nó cũng giành được vị trí đầu tiên về tổng điểm và vị trí đầu tiên trong 9 điểm phân khu.
Về khả năng sản phẩm, Baidu Intelligent Cloud đứng đầu trong bốn phân khu: dữ liệu, đào tạo, lý luận dự đoán và ứng dụng.
Đồng thời, về quy mô chiến lược và quy mô thị trường, Baidu cũng giành được vị trí đầu tiên trong nhiều dự án này.
Khả năng cụ thể của nó đến từ nền tảng AI của Baidu và các sản phẩm của nó bao gồm BML, EasyDL và nền tảng mô hình lớn Qianfan đám mây thông minh của Baidu.
Lấy nền tảng AI đám mây thông minh của Baidu làm ví dụ, chúng ta có thể phân tích cụ thể hơn những khả năng mà nền tảng AI / ML hiện tại nên có nếu muốn chiếm vị trí hàng đầu trên thị trường.
Theo kích thước của báo cáo Forrester, các khả năng cụ thể có thể được chia thành năm khía cạnh: dữ liệu, đào tạo, lý luận dự đoán, ứng dụng và kiến trúc. Đây cũng là năm yếu tố cốt lõi trong việc phát triển và ứng dụng các mô hình AI.
**Hãy bắt đầu với dữ liệu. **
Trong phần xử lý dữ liệu, nền tảng AI của Baidu có thể xử lý cả dữ liệu có cấu trúc và phi cấu trúc.
Hơn 65 loại trực quan hóa dữ liệu được hỗ trợ, bao gồm biểu đồ tròn, bản đồ nhiệt, biểu đồ phân tán, bản đồ và hơn thế nữa. Nó hỗ trợ ** 10 + loại thành phần bộ lọc ** và người dùng chỉ cần thực hiện cấu hình đơn giản và kéo và thả để đạt được giám sát dữ liệu thời gian thực và ra quyết định phụ trợ.
Đồng thời, nó cũng hỗ trợ 30+ chú thích định dạng dữ liệu, nâng cao hiệu quả của liên kết chú thích với nhân lực tập trung nhất trong quá trình mô hình hóa.
Ví dụ: nếu có 10.000 hình ảnh cần được dán nhãn, hệ thống sẽ đặt các hình ảnh đặc trưng ở phía trước và những hình ảnh lặp đi lặp lại phía sau, để chỉ 3.000 hình ảnh đầu tiên sẽ được đánh dấu và 7.000 hình ảnh cuối cùng có thể được đánh dấu tự động.
Theo báo cáo, phương pháp này có thể tiết kiệm trung bình 70-90% nhân lực cho người dùng doanh nghiệp. Tỷ lệ lao động của con người trong "trí tuệ nhân tạo" đã giảm mạnh.
Ngoài ra, về kỹ thuật tính năng, nền tảng AI của Baidu tích hợp khả năng quản lý cơ sở dữ liệu tính năng cấp độ chuyên nghiệp **, cung cấp các chức năng như bổ sung, xóa, sửa đổi và truy vấn tính năng, sản xuất tính năng, chia sẻ tính năng, quản lý phiên bản tính năng và xác minh dữ liệu.
Các dạng dữ liệu khác nhau theo lô và phát trực tuyến được hỗ trợ cho các dịch vụ dự đoán, có thể đảm bảo rằng các đặc tính của mô hình nhất quán trong quá trình đào tạo và dự đoán cuối cùng, liên quan trực tiếp đến độ chính xác của mô hình.
Các khả năng trên được phản ánh trong các con số cụ thể và báo cáo của Forrester cho nền tảng AI của Baidu số điểm 5 trên 5 (trên một điểm) cho khả năng dữ liệu của nó, vượt xa đáng kể so với các nhà cung cấp khác.
Đây là một trong những khía cạnh rõ ràng nhất của xu hướng mới nhất về nhu cầu thị trường, không chỉ nhắm đến các nhà phát triển chuyên nghiệp, mà cả những người kinh doanh không chuyên về thuật toán AI, vì vậy nó đòi hỏi nền tảng AI / ML cung cấp khả năng phải dễ sử dụng và linh hoạt.
Tham khảo thực tiễn nền tảng AI của Baidu.
Một mặt, nó coi trọng "bề rộng" và hỗ trợ mô hình hóa và đào tạo nhiều loại dữ liệu, chẳng hạn như hình ảnh, video, văn bản và lời nói.
Phương pháp mô hình hóa cũng rất linh hoạt, hỗ trợ nhiều phương pháp mô hình hóa như phát triển máy tính xách tay / WebIDE, phát triển hình ảnh kéo và thả, điều chỉnh tham số tập lệnh, công việc tùy chỉnh, v.v., có thể hoàn thành việc phát triển tùy chỉnh các mô hình có độ chính xác cao cho những người có trình độ chuyên môn khác nhau.
Ở phía bên kia là "chiều sâu". Với sự hỗ trợ của nhóm thuật toán mái chèo của riêng mình, nền tảng AI của Baidu đã thực hiện tối ưu hóa chuyên sâu cho một số lượng lớn các nhà khai thác cảnh. Bao gồm phân loại hình ảnh, phát hiện đối tượng, phân loại văn bản, chú thích chuỗi, v.v.
Đơn cử như PP YOLO, được tối ưu hóa sâu dựa trên người vận hành mái chèo, đã vượt qua tiêu chuẩn YOLO V3 trong lĩnh vực phát hiện đối tượng.
Ngoài ra, số lượng điện toán AI đang tăng ít nhất 10 lần mỗi năm và khả năng điều chỉnh tài nguyên tác vụ trong đào tạo deep learning đã trở nên đặc biệt quan trọng. Nền tảng AI của Baidu hỗ trợ đào tạo phân tán đa máy và nhiều thẻ, đồng thời cung cấp nhiều loại tài nguyên máy tính khác nhau.
Ngoài ra, bản thân Baidu có nhiều kinh nghiệm trong việc đào tạo các mô hình siêu lớn và có thể tích hợp các khả năng của riêng mình trong các mô hình lớn trực quan, AI tạo ra, v.v. Ví dụ: tìm kiếm siêu tham số tự động, xử lý tự động dữ liệu không cân bằng và đào tạo trước quy mô cực lớn có thể được thực hiện.
Nhờ đó, trên nền tảng Baidu AI, bạn cũng có thể thấy rất nhiều công cụ phát triển để nâng cao hiệu quả lập trình.
Khía cạnh thứ ba của năng lực là lý luận. **
Với sự phát triển của các mô hình lớn, thị trường suy luận sẽ tiếp tục mở rộng và thậm chí phát triển theo cấp số nhân, điều này đặt ra những thách thức lớn cho các nền tảng AI / ML.
Từ quan điểm của nền tảng AI của Baidu, họ chủ yếu tập trung vào hiệu quả phát triển, tối ưu hóa hiệu suất, tính linh hoạt và tính mở rộng.
Mô-đun suy luận của nó, Model Serve, hỗ trợ 16 khung AI, bao gồm Paddle, Tensor Flow và PyTorch phổ biến nhất, cũng như Matlab / R cho tính toán khoa học và tăng cường Xg cho học máy.
Về mặt tối ưu hóa hiệu suất, bộ lập lịch suy luận không đồng bộ được trừu tượng hóa trực tiếp trên lớp lập lịch để đạt được các công nhân suy luận không đồng nhất, cải thiện hiệu suất của toàn bộ việc sử dụng máy chủ và GPU hơn 1 lần.
Đồng thời, nó hỗ trợ xử lý hàng loạt tự động, phân loại các tác vụ có độ dài khác nhau và biên dịch các tác vụ có kích thước tương tự thành cùng một lô để tận dụng tối đa các tài nguyên không đồng nhất, có thể nâng cao hiệu quả 70% trên cơ sở tách rời không đồng bộ.
Ứng dụng trong báo cáo chủ yếu kiểm tra hiệu quả ứng dụng của từng nền tảng.
Đó là cách sử dụng các tài nguyên hiện có để nhanh chóng biến dữ liệu thành năng suất kinh doanh.
Nền tảng AI của Baidu có thể cung cấp khả năng quản lý vòng đời đầy đủ cho quá trình phát triển AI, từ thu thập và làm sạch dữ liệu, đến phát triển và đào tạo mô hình, quản lý mô hình, đến quản lý dịch vụ suy luận đám mây và ngoại tuyến.
Hiện tại, khả năng của nền tảng AI của Baidu đã được xuất khẩu sang các ngành công nghiệp như tài chính, năng lượng và giao thông vận tải. Phục vụ Ngân hàng Phát triển Phố Đông Thượng Hải, Ngân hàng Bắc Kinh, cũng như Lưới điện Nhà nước, Lưới điện Nam Trung Quốc, v.v.
Năm 2022, số lượng người dùng trả tiền đám mây công cộng cho nền tảng AI đám mây thông minh của Baidu sẽ tăng 49%, số lượng khách hàng tư nhân hóa sẽ tăng 32% và số lượng nhà phát triển sẽ tăng thêm 1,228 triệu, với tốc độ tăng trưởng khoảng 40%; Tỷ lệ mua lại đã tăng lên hàng năm và tỷ lệ mua lại trong các ngành công nghiệp chủ chốt đã đạt 50%.
Cuối cùng, về mặt kiến trúc, thiết kế kiến trúc của nền tảng AI của Baidu đã nhận được điểm số đầy đủ trong điểm Forrester.
Thông qua phân tích các khả năng tổng thể của nền tảng AI của Baidu, không khó để thấy rằng nhiều công cụ và ý tưởng này phù hợp với nhu cầu mới của xu hướng mô hình lớn hiện nay.
Trên thực tế, trong bối cảnh thay đổi mạnh mẽ theo hướng công nghệ, không chỉ là xu hướng điều chỉnh kiến trúc hiện có để thích ứng với những thay đổi về nhu cầu, mà còn đề xuất những cách thức mới để đối phó với nó.
** Trong kỷ nguyên của các mô hình lớn, mô hình cạnh tranh mới của AI trên đám mây đã được xác định sơ bộ **
Vậy, với tác động của làn sóng các mô hình lớn, nhu cầu thị trường đối với các nền tảng AI/ML đã có những thay đổi mới nào?
Trước đây, nhiều mô hình CV và NLP được gọi là SOTA, nhưng chúng vẫn thường được sử dụng trong các doanh nghiệp không cốt lõi trong ngành. Giờ đây, với khả năng tuyệt vời để phá vỡ quy trình làm việc truyền thống, các mô hình lớn đang bắt đầu được công nhận ngày càng nhiều và được coi là chìa khóa để phá vỡ nút cổ chai của trí thông minh trong các ngành công nghiệp khác nhau.
Tuy nhiên, đối với các nhà cung cấp đám mây, điều này không có nghĩa là kỷ nguyên của các mô hình lớn là "bắt đầu lại từ đầu" trong kỷ nguyên của các mô hình nhỏ.
Trên thực tế, với việc áp dụng sâu hơn các mô hình lớn, các lĩnh vực kỹ thuật như đại lý ngày càng thu hút nhiều sự quan tâm. Cốt lõi nằm ở chỗ mô hình lớn dựa trên khả năng của chính nó và kết nối mô hình nhỏ với lập kế hoạch trưởng thành để giải quyết vấn đề trong các ứng dụng thực tế, được coi là nhanh hơn và có giá trị hơn trong kịch bản sản xuất.
Do đó, trong "kỷ nguyên mới" mở ra bởi các mô hình lớn, đối với các "nhà lãnh đạo" của các nền tảng AI/ML, sự tích lũy kỹ thuật trong kỷ nguyên của các mô hình nhỏ và sự đổi mới công nghệ trong kỷ nguyên của các mô hình lớn là bổ sung và không thể thiếu.
Là một nền tảng mô hình lớn cấp doanh nghiệp một cửa, Nền tảng Qianfan đám mây thông minh Baidu về cơ bản là sản phẩm của sự tích lũy sâu của Baidu trong lớp chip, lớp khung, lớp mô hình và lớp ứng dụng.
Nó được thể hiện trong năm khía cạnh:
Đầu tiên, ở cấp độ sức mạnh tính toán, nền tảng Qianfan đám mây thông minh của Baidu có thể cung cấp các dịch vụ tính toán không đồng nhất hiệu quả và tiết kiệm chi phí.
Trong quá trình đào tạo mô hình lớn, thông qua chiến lược đào tạo song song phân tán và khả năng kết nối cấp microsecond, tỷ lệ tăng tốc của đào tạo cụm quy mô 10.000 thẻ trên nền tảng Baidu Qianfan có thể đạt tới 95%. Đồng thời, thời gian đào tạo hiệu quả của cụm Vanka có thể đạt tới 96%, giúp giảm đáng kể chi phí về sức mạnh tính toán và thời gian.
Đối với các mô hình lớn của bên thứ ba, nền tảng Baidu Qianfan cũng đã được tối ưu hóa theo cách nhắm mục tiêu, bao gồm tăng cường Trung Quốc, nâng cao hiệu suất, tăng cường ngữ cảnh, v.v.
Baidu tiết lộ rằng số lượng các cuộc gọi API mô hình lớn trên nền tảng Qianfan của Baidu đang tiếp tục tăng với tốc độ cao. Hiện tại, nền tảng Baidu Qianfan đã phục vụ hơn 20.000 khách hàng.
Thứ ba, đối với những khách hàng muốn thực hiện phát triển thứ cấp dựa trên các mô hình lớn hiện có, nền tảng Baidu Qianfan cung cấp chuỗi công cụ vòng đời đầy đủ để đào tạo lại, tinh chỉnh, đánh giá và triển khai các mô hình lớn, cũng như 41 bộ dữ liệu chất lượng cao, có thể thực hiện tối ưu hóa mô hình nhanh chóng cho các tình huống kinh doanh cụ thể.
Thứ tư, ở cấp độ ứng dụng, để đáp ứng nhu cầu của các doanh nghiệp để phát triển các ứng dụng gốc AI dựa trên các mô hình lớn, nền tảng Baidu Qianfan cung cấp một loạt các thành phần và khung năng lực.
Ví dụ: có 226 mẫu tích hợp sẵn, để các nhà phát triển có thể nhanh chóng cải thiện chất lượng của các câu trả lời mô hình lớn ngay cả khi họ không quen thuộc với kỹ thuật nhanh chóng.
Tại Hội nghị Thế giới Baidu vào ngày 17 tháng 10, Baidu Intelligent Cloud cũng đã phát hành "Bàn làm việc phát triển ứng dụng gốc Baidu Qianfan AI **". Cụ thể, "bàn làm việc" này bao gồm hai phần: thành phần ứng dụng + khung ứng dụng.
Trong số đó, thành phần AI, nghĩa là đóng gói dựa trên thành phần của các khả năng mô hình lớn, bao gồm các thành phần mô hình ngôn ngữ lớn như Hỏi & Đáp và Chuỗi suy nghĩ (CoT), cũng như các thành phần đa phương thức như sơ đồ Wensheng và nhận dạng giọng nói.
Các thành phần đám mây cơ bản bao gồm các dịch vụ đám mây truyền thống như cơ sở dữ liệu vector và lưu trữ đối tượng.
**Khung ứng dụng được định hướng đến các tác vụ kịch bản cụ thể **, có thể hiểu là sự kết hợp hiệu quả của các thành phần ứng dụng trên dựa trên khả năng của các mô hình lớn.
Hiện tại, nền tảng Baidu Qianfan cung cấp các khung ứng dụng gốc AI thường được sử dụng như Retrieval Enhanced Generation (RAG) và Agent.
Trong số đó, khung RAG có thể kết hợp kiến thức trong lĩnh vực độc quyền của doanh nghiệp với khả năng Hỏi &Đáp mô hình lớn để đưa ra câu trả lời chính xác hơn cho kiến thức chuyên môn.
Dựa trên khuôn khổ RAG này, Sany Heavy Industry nhanh chóng nhận ra sự phát triển và ra mắt của ứng dụng dịch vụ khách hàng thông minh trên trang web chính thức.
Dựa trên khung tác nhân, mô hình lớn có thể tự động tháo rời các nhiệm vụ do con người đưa ra, tự động lập kế hoạch và gọi các thành phần khác nhau để hoàn thành các nhiệm vụ một cách hợp tác, đồng thời cung cấp khả năng tự phản hồi theo hiệu ứng hoàn thành nhiệm vụ để cải thiện khả năng của chính nó.
Hiện tại, dựa trên khung đại lý này, Zhongtian Iron and Steel đã xây dựng một "trung tâm lập kế hoạch doanh nghiệp" thông minh để nhận thức tự động, phân tách và thực hiện các hướng dẫn nhiệm vụ.
Ví dụ: khi phát hiện sản lượng thép không đạt tiêu chuẩn, mô hình lớn có thể tự động gọi các tài nguyên và API khác nhau do nền tảng quản lý để tìm hiểu lý do không tuân thủ, điều chỉnh lịch sản xuất kịp thời và gửi email thông báo cho người điều phối.
Phân tích của IDC tin rằng việc triển khai AI tạo ra và các mô hình lớn hiện đang ở giai đoạn sơ khai và những khả năng này có thể được cập nhật và lặp lại nhanh hơn trên đám mây công cộng, điều này sẽ mang lại lợi ích đáng kể cho các dịch vụ đám mây công cộng AI trong ngắn hạn.
Gartner cũng chỉ ra rằng AI tạo ra được thúc đẩy bởi các mô hình lớn, đưa ra các yêu cầu cho một cơ sở hạ tầng điện toán mạnh mẽ và có khả năng mở rộng cao. "Đám mây cung cấp giải pháp và nền tảng hoàn hảo, và những người chơi chính trong cuộc đua AI tạo ra phải là các nhà cung cấp đám mây hàng đầu."
Kết hợp với báo cáo mới nhất từ Forrester, có thể thấy rằng đối với các nhà cung cấp đám mây, dịch vụ đám mây AI đã trở thành trọng tâm cạnh tranh mới.
Và làm thế nào để đo lường năng lực cạnh tranh, hiện nay các tiêu chí đánh giá đã dần rõ ràng.
Trong phân tích cuối cùng, có hai khía cạnh cốt lõi:
Đầu tiên, từ góc độ của các nhà phát triển và người dùng doanh nghiệp, đó là liệu khả năng của nền tảng dịch vụ đám mây AI có thể thực sự giải quyết hiệu quả chi phí các vấn đề thực tế mà các doanh nghiệp phức tạp phải đối mặt, cũng như sự thiếu hụt tài năng chuyên nghiệp trong quá trình nâng cấp thông minh, đặc biệt là dưới làn sóng các mô hình lớn.
Thứ hai, từ góc độ xu hướng công nghệ, nó được tích hợp chặt chẽ hơn với các mô hình lớn.
Bố cục nền tảng AI của Baidu có thể được coi là một câu trả lời tham khảo được đưa ra bởi các nhà cung cấp đám mây AI hàng đầu trong những thay đổi mới nhất trong bối cảnh cạnh tranh.
Về kết quả? Trong nhiều trường hợp hạ cánh hơn, bạn có thể thấy chương thực.