Đối thoại với Ji Xinhua, CEO của Youkede: Các mô hình lớn cạnh tranh không chỉ nằm xuống và giành chiến thắng nếu họ có thẻ

Tác giả| Hạ Tư Tư

Chỉnh sửa | Trương Tấn

Nguồn hình ảnh: Được tạo bởi Unbounded AI

"Ở một mức độ nhất định, việc cấm sức mạnh tính toán ở Hoa Kỳ sẽ hạn chế sự phát triển của các mô hình quy mô lớn trong nước, bởi vì không có cách nào để đào tạo các mô hình mà không có sức mạnh tính toán cốt lõi." Ji Xinhua, Chủ tịch và Giám đốc điều hành của UKED Nói như vậy.

Kể từ khi mô hình lớn trở nên phổ biến ở Trung Quốc vào tháng 2 năm nay, sức mạnh tính toán đã ngay lập tức trở thành chủ đề được quan tâm nhất trong ngành và nó cũng trở thành rào cản khó vượt qua trong đào tạo mô hình lớn trong nước. Trên thực tế, từ một góc độ khác, sự phát triển bùng nổ của sức mạnh điện toán cũng đã mang đến những cơ hội phát triển chưa từng có cho các nhà cung cấp điện toán đám mây trong nước.

Về vấn đề này, Ji Xinhua cũng đồng ý. Ông cho rằng việc vô hiệu hóa sức mạnh tính toán là điều xấu và điều tốt, một mặt, nếu muốn giải quyết vấn đề thắt cổ chai trong vòng một hoặc hai năm, thì cần phải đẩy nhanh quá trình nghiên cứu và phát triển chip trong nước, điều mà không phải là một nhiệm vụ dễ dàng, mặt khác, các doanh nghiệp đang ngày càng quan tâm nhiều hơn đến Sức mạnh tính toán, điều này sẽ thúc đẩy sự phát triển của chip trong nước.

Là một nhà sản xuất điện toán đám mây trung lập, Youkede từ lâu đã cảm thấy rằng đằng sau sự cạnh tranh của các mô hình lớn, thị trường điện toán sẽ mở ra những thay đổi lớn.

"Tôi tiếp xúc với Stable Diffusion lần đầu tiên vào tháng 11 năm ngoái. Vào thời điểm đó, tôi nghĩ rằng hiệu quả của nó thật tuyệt vời nên tôi bắt đầu chú ý đến mô hình lớn." chú ý đến mô hình lớn, đồng thời ông cũng tiết lộ rằng vì vào thời điểm đó, các công ty Trung Quốc chưa bắt đầu chú ý đến các mô hình quy mô lớn và họ không biết nó có thể tạo ra bao nhiêu giá trị, vì vậy họ vào thời điểm đó họ không quyết định kinh doanh quy mô lớn liên quan đến người mẫu.

Việc áp dụng thực sự các mô hình quy mô lớn và dịch vụ của các doanh nghiệp mô hình quy mô lớn của Vương quốc Anh sẽ bắt đầu vào tháng 2 năm nay, đây cũng là thời điểm các mô hình quy mô lớn ra khỏi vòng tròn ở Trung Quốc.

Leifeng.com được biết rằng UKED lần đầu tiên phát triển bốn sản phẩm AI để sử dụng nội bộ dựa trên mô hình quy mô lớn, nền tảng hỏi đáp kiến thức "Shiwen", nền tảng trợ lý mã UCoder, nền tảng trợ lý vẽ tranh AI và nền tảng quản lý bảo mật mô hình quy mô lớn. Đối với một trung tâm dữ liệu tự xây dựng có chi phí thấp, giá trị gia tăng cao, UKED đã tạo ra một cơ sở năng lượng tính toán AIGC, cung cấp linh hoạt nhiều nguồn tài nguyên năng lượng tính toán GPU để đào tạo, lý luận mô hình lớn , và xử lý dữ liệu.

Ngay sau đó, UKED đã tung ra một máy đa năng mô hình quy mô lớn được tư nhân hóa, tích hợp sẵn nền tảng đám mây riêng đầy đủ ngăn xếp UCloudStack do UKED phát triển độc lập, cung cấp các giải pháp tư nhân hóa cho các mô hình ảo hóa, lưu trữ, mạng và MaaS, kết hợp với các mô hình quy mô lớn theo chiều dọc của ngành.Các doanh nghiệp có thể triển khai các ứng dụng mô hình lớn chỉ bằng một cú nhấp chuột.

Về định vị của UKED trong thời đại của các mô hình lớn, Ji Xinhua một lần nữa nhấn mạnh nguyên tắc "trung lập". Ông giải thích rằng tính trung lập có nghĩa là Vương quốc Anh không những không có sự cạnh tranh về khách hàng mà còn giúp các công ty người mẫu lớn tìm kiếm khách hàng. Về vấn đề này, Ji Xinhua cũng công khai trêu chọc rằng trong thời đại của những người mẫu lớn, những gì Youke phải làm là "bà mối".

Từ câu trả lời của Ji Xinhua, chúng ta cũng có thể gián tiếp biết được lý do UKED nội bộ R&D và ứng dụng các sản phẩm mô hình quy mô lớn, một là để nhân viên của công ty hiểu được các mô hình quy mô lớn và học cách sử dụng các mô hình quy mô lớn. họ có thể hiểu sâu về các mô hình quy mô lớn, điểm khó khăn là gì và có thể triển khai trong các tình huống nào để phục vụ khách hàng tốt hơn.

Khi nói về tương lai của các mô hình lớn, Ji Xinhua cho rằng có quá nhiều điều không chắc chắn trong tương lai, nhưng dù thế nào đi chăng nữa, ngành công nghiệp Internet hay trí tuệ nhân tạo đều cần sức mạnh tính toán. sẽ tập trung xây dựng cơ sở sức mạnh điện toán quy mô lớn.

Sau đây là cuộc trò chuyện giữa Leifeng.com và Ji Xinhua:

Các mô hình lớn cạnh tranh không chỉ nằm xuống và giành chiến thắng nếu họ có thẻ.

**Leifeng.com:**Nhiều người nói rằng cuối cùng chỉ có một số nhà cung cấp đám mây mới có thể tham gia vào cuộc cạnh tranh mô hình quy mô lớn. Không phải tất cả họ đều có mạng tốc độ cao. Bạn nghĩ rào cản đối với cạnh tranh là gì?

Ji Xinhua: Đúng vậy, các công nghệ như mạng tốc độ cao không phải là ngưỡng chính để các mô hình lớn cạnh tranh. Kể cả Youkede và hầu hết các nhà cung cấp điện toán đám mây đều có khả năng làm việc đó. Giờ đây, mạng có hai cấu trúc: cấu trúc đầu tiên là mạng RoCE, UKED đã có khả năng này vào năm 2019.

Thứ hai là giải pháp mạng IB do Nvidia đề xuất, giải pháp này tương đối đơn giản chỉ cần triển khai và bảo trì. Do đó, đối với các nhà cung cấp đám mây hoặc các công ty đặc biệt lớn, công nghệ không phải là ngưỡng chính.

**Leifeng.com:**Thật ra nghe nói nhiều doanh nghiệp quy mô lớn đã bắt đầu tích trữ thẻ?

Ji Xinhua: Vâng, đặc biệt là một số nhà sản xuất lớn đang tích trữ thẻ, bao gồm A800, H800, v.v. Một mặt, doanh nghiệp AI của chính họ cần sử dụng thẻ và với vốn đầu tư nhiều hơn, họ sẽ mua một số lượng lớn thẻ trước đó; mặt khác, sự chú ý quy mô lớn trong nước đối với các mô hình lớn đã bắt đầu vào tháng Hai năm nay và các nhà sản xuất khác nhau Vì tầm quan trọng, nó cũng sẽ đẩy nhanh tốc độ tích trữ thẻ.

Leifeng.com: Có nghĩa là bạn càng có nhiều thẻ thì bạn càng thắng? Làm thế nào để các nhà cung cấp đám mây khác cạnh tranh với những người chơi lớn?

Ji Xinhua: Tôi không nằm xuống và chiến thắng. Nhiều công ty mô hình quy mô lớn về AI hiện đang sử dụng thẻ của chúng tôi. Hiện tượng này rất phổ biến.

Có một số lý do: thứ nhất, chỉ sử dụng một thẻ là không đủ, thứ hai, tại sao công ty người mẫu lớn lại sẵn sàng hợp tác với Youkede? Đó là bởi vì họ cảm thấy rằng các nhà máy lớn có sức mạnh tính toán, thuật toán, dữ liệu và kịch bản, và họ lo lắng về sự cạnh tranh kinh doanh cuối cùng khi họ hợp tác với các nhà máy lớn. Là nhà cung cấp đám mây trung lập và an toàn, Ukerd không có sự cạnh tranh với các doanh nghiệp quy mô lớn. Đồng thời, UKDE có thể phát triển các nền tảng điện toán, thư viện mô hình, v.v. từ trung tâm dữ liệu và kiến trúc cơ bản, với sự tích lũy kỹ thuật chuyên sâu và khả năng dịch vụ kỹ thuật hệ thống một cửa.

Làm thật tốt mảng dịch vụ sức mạnh tính toán, làm tốt vai trò “bà mối” người mẫu lớn

**Leifeng.com: **Youkede bắt đầu chú ý đến các mô hình lớn từ khi nào?

**Ji Xinhua: **Lần tiếp xúc sớm nhất là vào dịp Quốc khánh năm ngoái. Thứ đầu tiên tôi nhìn thấy là Khuếch tán Ổn định. Lúc đó, tôi nghĩ rằng hiệu quả của nó thật tuyệt vời, vì vậy tôi bắt đầu chú ý đến mô hình lớn, vì vậy chúng tôi đã theo dõi trên ChatGPT trước đó.

Leifeng.com: Vậy là bạn đã quyết định làm điều này vào dịp Quốc khánh năm ngoái?

Ji Xinhua: Sau Quốc khánh năm ngoái, UKED đã đặt AIGC làm mục tiêu cho năm nay và đã phát hành hình ảnh nền tảng vẽ AI vào tháng 11 năm ngoái. Vào tháng 2 năm nay, sau khi liên lạc với các công ty mô hình quy mô lớn hàng đầu ở Trung Quốc, tôi nhận thấy rằng thị trường điện máy tính trong nước sẽ có sự phát triển bùng nổ nên tôi quyết định thực hiện việc này vào cuối tháng 3.

Leifeng.com: Có bao nhiêu khách hàng tiềm năng trong các doanh nghiệp mô hình quy mô lớn này?

Ji Xinhua: Chúng tôi kết luận rằng có 130 công ty mô hình quy mô lớn ở Trung Quốc, 78 công ty đa năng và 52 công ty ngành dọc. Và nó vẫn đang tăng lên, hơn 30 người trong số họ đã là khách hàng của chúng tôi.

Leifeng.com: Dịch vụ sẽ được xuất khẩu dưới hình thức nào?

Ji Xinhua: Một là sức mạnh tính toán của chúng tôi, hai là dịch vụ phòng máy tính, bởi vì một số công ty mua thiết bị của riêng họ và đặt nó trong phòng máy tính của chúng tôi.

Leifeng.com: Bạn hiểu thế nào là dịch vụ phòng máy? Có phải vì bản thân khách hàng không có khả năng hoạt động?

Ji Xinhua: Bản thân doanh nghiệp dù ở đâu cũng cần có phòng máy tính, phòng máy tính theo mô hình lớn yêu cầu có hai đặc điểm: một là tiêu hao nhiều điện năng, hai là tiêu thụ điện năng của máy H100 vượt quá 10kW, phòng máy tính không thể đáp ứng nhu cầu này và trung tâm dữ liệu Ulanqab của Youkede đặc biệt phù hợp. Ngoài ra, hiện nay nhiều công ty gặp vấn đề có máy chủ nhưng không sử dụng được, Ukerde có thể giúp họ xây dựng nền tảng sức mạnh tính toán và thực hiện các công việc bảo trì tiếp theo.

Leifeng.com: Ngoài việc cung cấp sức mạnh tính toán, Youkede còn phát hành "Shiwen" cách đây một thời gian?

Ji Xinhua: UKED đã xây dựng bốn nền tảng nội bộ: nền tảng hỏi đáp kiến thức "Shiwen", nền tảng trợ lý mã UCoder, nền tảng trợ lý vẽ AI và nền tảng quản lý bảo mật mô hình lớn. Trên thực tế, trước khi có "kiến thức", điều đầu tiên chúng tôi làm là hệ thống quản lý ứng dụng mô hình quy mô lớn, đây là sản phẩm đầu tiên của chúng tôi và chúng tôi hy vọng rằng mọi người có thể sử dụng mô hình quy mô lớn trong tương lai;

Thứ hai, để giải quyết các vấn đề bảo mật thương mại, chúng tôi đã đưa ra một số hạn chế, bao gồm các câu hỏi và tệp đã tải lên của bạn, chúng tôi sẽ ghi lại và lọc chúng để ngăn thông tin bí mật của công ty bị rò rỉ trên Internet;

Thứ ba, đối với các vấn đề của người dùng, bao gồm các vấn đề của nhân viên nội bộ và thông tin phản hồi và phản hồi bên ngoài, hệ thống sẽ tự động ghi lại để công ty có thể tiếp tục thực hiện đào tạo theo mô hình của riêng mình trong giai đoạn sau.

Leifeng.com: Tại sao bạn tạo ra bốn sản phẩm này? Nó có thể ra ngoài không?

Ji Xinhua: Đầu tiên, để nhân viên của công ty hiểu và sử dụng các mô hình quy mô lớn, trên cơ sở đó, họ có thể hiểu sâu sắc những điểm khó khăn của các công ty mô hình quy mô lớn là gì và họ gặp phải tình huống nào. sẽ được thực hiện, để phục vụ khách hàng tốt hơn.

Bốn sản phẩm này hiện tại công ty đang sử dụng nội bộ, tuy nhiên nếu khách hàng có nhu cầu chúng tôi cũng có thể trao đổi thêm.

Leifeng.com: Những nền tảng này dựa trên mô hình nào?

**Ji Xinhua: **Trước tiên hãy đào tạo với GPT 4, tiến hành xác minh mô hình, sau đó dần dần sử dụng các mô hình lớn trong nước hoặc mô hình lớn nguồn mở để tối ưu hóa. Về vấn đề này, tôi cũng đã đề cập đến một khái niệm gọi là "mài súng ở nước ngoài và chiến đấu ở nhà".

Leifeng.com: Bạn lạc quan về kịch bản nào khác trong tương lai?

Ji Xinhua: Nếu phân biệt theo khả năng chịu đựng tính chất không chính xác của nội dung đầu ra của ChatGPT, chúng tôi đã chia ra 10 tình huống.

Thứ nhất là dịch thuật và lồng tiếng, khả năng trong lĩnh vực này đã rất cao và có thể thay thế hoàn toàn con người, thứ hai là NPC của trò chơi, thứ ba là tương tác xã hội, thứ tư là đầu ra nội dung của thương mại điện tử, thứ năm là thiết kế trò chơi; thứ sáu là dịch vụ khách hàng; thứ bảy là hỗ trợ tài liệu và lập trình; thứ tám là quản lý tri thức trong doanh nghiệp; thứ chín là các tình huống giáo dục và bảo hiểm; và cuối cùng là hỗ trợ luật sư và bác sĩ.

Leifeng.com: 10 cảnh này có được thực hiện cùng lúc không? Hay từng bước một?

Ji Xinhua: Ucar không sản xuất những mẫu xe lớn, chúng tôi chỉ kết nối khách hàng và đối tác, có thể hiểu như vai trò "bà mối". Ví dụ: kết nối khách hàng trò chơi với MiniMax và kết nối khách hàng trong ngành thương mại điện tử và giáo dục với Zhipu Huazhang.

Mô hình quy mô lớn trong nước khó bắt kịp GPT4, nhiều cơ hội hơn cho startup

Leifeng.com: Bạn nghĩ các công ty mô hình lớn trong nước có thể chia thành bao nhiêu loại? Ai là khách hàng chính của Youkede?

Ji Xinhua: Chúng tôi được chia thành năm loại. Loại đầu tiên là những người khổng lồ, bao gồm Ali, Baidu, Toutiao, Huawei, JD.com, v.v. Hạng mục thứ hai được bắt đầu bởi các nhà khoa học, chẳng hạn như Zhipu Huazhang; hạng mục thứ ba là công ty AI ban đầu, AI Four Tigers, Daguan, Yunzhisheng, 4Paradigm, v.v.; hạng mục thứ tư là các công ty khởi nghiệp, chẳng hạn như MiniMax; hạng mục thứ năm là rằng các công ty niêm yết ban đầu đã chuyển sang mô hình quy mô lớn, chẳng hạn như Kunlun, 360, và cũng bao gồm các nhà lãnh đạo doanh nghiệp như Wang Xiaochuan và Li Kaifu.

Loại đầu tiên là các nhà sản xuất lớn không phải là khách hàng mục tiêu của Youkede và loại sau là khách hàng chính của chúng tôi.

Leifeng.com: Nói cách khác, các nhà máy lớn có khả năng tự xây dựng, nhưng các công ty khác không có khả năng tự xây dựng?

Ji Xinhua: Bởi vì nó liên quan đến lĩnh vực trí tuệ nhân tạo, nó không chỉ là vấn đề về mạng mà còn liên quan đến một loạt vấn đề như kho chứa và phòng máy tính, ví dụ như các công ty mới thành lập cũng có thể xây dựng máy tính của riêng mình sức mạnh, nhưng chu kỳ sẽ rất dài Chờ anh ấy tự chế tạo Sau đó, cuộc thi kết thúc. Sự cạnh tranh của các mô hình lớn là về tốc độ và ai có tốc độ nhanh nhất có thể chiếm vị trí cao nhất.

Leifeng.com: Đối với một nhà máy lớn, có bao nhiêu giai đoạn và nút cho một mô hình lớn?

Ji Xinhua: Đầu tiên là ra mắt mô hình lớn và thứ hai là xác minh hiệu ứng sau khi ra mắt. Hiện tại, được biết các công ty như MiniMax, Zhipu, Baidu, Ali, HKUST Xunfei, v.v.

**Leifeng.com:**Cái nào tốt hơn, nó chủ yếu phụ thuộc vào mức độ sử dụng năng lượng tính toán của nó?

Ji Xinhua: Tôi không nghĩ vậy. Nhiều sức mạnh tính toán hơn để đào tạo có thể không nhất thiết tạo ra một mô hình tốt, nhưng nếu liên kết suy luận được sử dụng nhiều hơn, điều đó có nghĩa là có nhiều người dùng hơn và nhiều phản hồi hơn sẽ thu được Nó có lợi cho việc đào tạo một mô hình tốt.

**Leifeng.com:**Bất kể đào tạo hay lý luận, để xây dựng một mô hình lớn, trước tiên bạn phải có năng lực tính toán?

Ji Xinhua: Vâng, điều đầu tiên là phải có thẻ, nếu bạn không có thẻ, bạn chắc chắn sẽ bị tụt lại phía sau, khoảng 40-50%. Nếu giải quyết được 2 vấn đề trên thì đó là vấn đề bảo mật, và vấn đề lưu lượng cũng rất quan trọng.

Leifeng.com: Đẳng cấp của người mẫu trong nước là gì? Nhiều người nói rằng nó sẽ bắt kịp GPT4 vào cuối năm nay.

Ji Xinhua: Hiện tại, không có kiểu máy nào vượt qua được GPT3.5 ở Trung Quốc, tất nhiên, thực tế là rất dễ dàng để vượt qua GPT3.5 ở một khía cạnh nào đó. Khó mà vượt qua GPT4, mấu chốt là các giấy tờ trước GPT3.5 đã public nhưng GPT4 vẫn chưa public nên mọi người không biết phải làm sao.

Leifeng.com: Những nhà sản xuất lớn trong nước này không có cơ hội bắt kịp sao?

Ji Xinhua: Tôi nghĩ hiệu quả của các công ty lớn không tốt bằng các công ty mới thành lập. Bởi vì một số công ty mới thành lập có niềm tin và lý tưởng đã bắt đầu làm điều đó và Dachang thực sự đã bắt đầu sau khi thấy sự phổ biến của ChatGPT.

Leifeng.com: Việc các nhà sản xuất lớn đã tích lũy công nghệ là hợp lý, vì vậy họ không có nhiều cơ hội hơn sao?

Ji Xinhua: AI có nhiều hướng đi, trước đây hầu hết các công ty đều cho rằng mô hình quy mô lớn theo chiều dọc có cơ hội, nhưng không nghĩ rằng mô hình quy mô lớn đa năng cũng có cơ hội. Trong vài năm, đó là một số nhóm doanh nhân có niềm tin và nhóm nghiên cứu khoa học, chẳng hạn như Zhipu Huazhang, MiniMax, Học viện Khoa học Trung Quốc, v.v.

Đối với các nhà sản xuất lớn, việc nước ngoài học theo sau làm điều này càng dễ thấy hơn, và nó không nằm trong chiến lược của công ty nên họ không có nhiều tích lũy đối với các mẫu xe phổ thông cỡ lớn.

Leifeng.com: Vấn đề sức mạnh tính toán sớm muộn gì cũng sẽ được giải quyết, vậy lợi thế của UKEDe đối với các mô hình lớn là gì?

Ji Xinhua: Có thể tóm tắt trong ba điểm: Thứ nhất, duy trì tính trung lập và không có mối quan hệ cạnh tranh với người dùng. Thứ hai, nó có khả năng xây dựng một bộ giải pháp AIGC hoàn chỉnh cho trung tâm dữ liệu, mạng và lưu trữ dữ liệu, có thể giúp các công ty vừa và nhỏ nhanh chóng xây dựng nền tảng và giải quyết vấn đề hiệu quả khi sử dụng các mô hình lớn; thứ ba, nó có thể giúp các công ty mô hình lớn mở rộng khách hàng tốt hơn.