Tiền đề của việc nắm bắt sức mạnh tính toán là sức mạnh tính toán đang trở thành một mô hình kinh doanh mới. Sự bùng nổ của mô hình quy mô lớn "giả kim thuật" sẽ qua đi, và các nhà cung cấp dịch vụ điện toán nên đề phòng và quay lại kịp thời.
Nguồn hình ảnh: Được tạo bởi Unbounded AI
Sử dụng dữ liệu thời tiết toàn cầu 40 năm, đào tạo trước với 200 thẻ GPU và trong khoảng 2 tháng, một mô hình khí tượng Pangea lớn với hàng trăm triệu thông số đã được đào tạo.
Đây là câu chuyện của Bi Khai Phong, tốt nghiệp Đại học Thanh Hoa 3 năm, và đào tạo một người mẫu lớn.
Tuy nhiên, từ quan điểm chi phí, trong trường hợp bình thường, GPU là 7,8 nhân dân tệ / giờ và chi phí đào tạo của mô hình khí tượng Bikaifeng Pangu có thể vượt quá 2 triệu. Đây vẫn là một mô hình lớn theo chiều dọc trong lĩnh vực khí tượng, và nếu nó được đào tạo trên một mô hình lớn nói chung, chi phí có thể gấp trăm lần.
Theo thống kê, có hơn 100 mẫu xe lớn với 1 tỷ thông số tại Trung Quốc. Tuy nhiên, mô hình lớn đổ xô của ngành công nghiệp "Alchemy" phải đối mặt với vấn đề GPU cao cấp rất khó tìm. Chi phí sức mạnh tính toán cao, và việc thiếu sức mạnh tính toán và kinh phí đã trở thành vấn đề trực quan nhất trước ngành công nghiệp.
**GPU cao cấp, thiếu bao nhiêu? **
"Không, đương nhiên là thiếu, nhưng chúng ta có thể làm gì." Một giám đốc điều hành cấp cao của một nhà máy lớn đã buột miệng khi được hỏi liệu ông có thiếu sức mạnh tính toán hay không.
Điều này dường như đã trở thành một vấn đề chưa được giải quyết được ngành công nghiệp công nhận, giá của một chiếc NVIDIA A100 ở thời kỳ đỉnh cao đã được đồn đoán là 200.000 nhân dân tệ, và giá thuê hàng tháng của một máy chủ A100 cũng đã tăng vọt lên 50.000-70.000 / tháng. Nhưng ngay cả như vậy, mức giá cao vẫn có thể không có được chip, và một số nhà cung cấp sức mạnh tính toán cũng đã gặp phải những trải nghiệm kỳ lạ khó gặp trước đây, chẳng hạn như bỏ qua vé của nhà cung cấp.
Zhou Lijun, một giám đốc điều hành ngành công nghiệp điện toán đám mây, cho biết tương tự: "Có sự thiếu hụt sức mạnh tính toán. Chúng tôi có nhiều khách hàng muốn có tài nguyên GPU cao cấp, nhưng họ không thể đáp ứng đầy đủ nhu cầu của thị trường rộng lớn trong thời điểm hiện tại. "
Cụm điện toán hiệu năng cao của nhà cung cấp dịch vụ đám mây với A100 đã được bán hết giao diện
Hóa ra tình trạng thiếu hụt GPU cao cấp vẫn chưa được giải quyết trong ngành trong ngắn hạn. Với sự bùng nổ của các mô hình lớn, nhu cầu về sức mạnh tính toán của thị trường đã tăng lên nhanh chóng, nhưng tốc độ tăng trưởng nguồn cung vẫn chưa theo kịp. Mặc dù việc cung cấp sức mạnh tính toán chắc chắn sẽ thâm nhập vào thị trường của người mua từ thị trường của người bán trong thời gian dài, nhưng không biết thời gian này sẽ mất bao lâu.
Mỗi công ty đang tính toán xem họ có bao nhiêu "hàng hóa" (GPU NVIDIA) và thậm chí sử dụng điều này để đánh giá thị phần. Ví dụ: nếu bạn có gần 10.000 thẻ trong tay và thị trường là tổng cộng 100.000 thẻ, thị phần là 10%. "Đến cuối năm, sẽ có khoảng 40.000, và nếu thị trường là 200.000, nó có thể sẽ chiếm 20% thị trường." Những người quen thuộc với vấn đề này đã đưa ra ví dụ.
Một mặt, bạn không thể mua thẻ, mặt khác, ngưỡng đào tạo người mẫu lớn không dễ "bắt đầu" như ngành công nghiệp nướng. Như đã đề cập ở trên, chi phí đào tạo của mô hình khí tượng Bikaifeng Pangea có thể vượt quá 2 triệu. Tuy nhiên, cần lưu ý rằng mô hình khí tượng Bikaifeng Pangu là một mô hình lớn theo chiều dọc được đào tạo trên cơ sở mô hình lớn chung Pangu, và các thông số của nó là hàng trăm triệu. Nếu bạn muốn đào tạo một mô hình lớn đa năng với các thông số quy mô hàng tỷ hoặc lớn hơn, chi phí có thể cao hơn mười lần hoặc hàng trăm lần.
"Hiện nay, quy mô đầu tư lớn nhất là đào tạo, nếu không đầu tư hàng tỷ đồng thì khó có thể tiếp tục làm mô hình lớn". Qiu Yuepeng, Phó Chủ tịch Tập đoàn Tencent, COO của Nhóm Kinh doanh Công nghiệp Thông minh và Đám mây, đồng thời là Chủ tịch của Tencent Cloud, tiết lộ.
"Chạy nhanh, ít nhất là cho đến khi tiền cháy hết để có được vòng 'tài chính' tiếp theo." Một doanh nhân mô tả mô hình lớn hiện nay là "tình hình chiến tranh": "Con đường này là một ngõ cụtNếu bạn không có hàng chục tỷ đô la phía sau, thật khó để đi. "
Trong tình hình này, quan điểm chung trong ngành là với sự cạnh tranh trên thị trường mô hình lớn, thị trường cũng sẽ thay đổi từ cuồng tín sang hợp lý, và doanh nghiệp cũng sẽ kiểm soát chi phí và điều chỉnh chiến lược với những thay đổi dự kiến.
**Phản hồi tích cực không thể giải quyết **
Nếu không có điều kiện, cần phải tạo điều kiện - đây dường như là tâm lý đa số trong số những người tham gia mô hình lớn. Và làm thế nào để tạo điều kiện để xử lý các vấn đề thực tế, mỗi công ty cũng có nhiều phương pháp.
Do sự thiếu hụt chip GPU cao cấp, và GPU có sẵn tại thị trường Trung Quốc không phải là thế hệ mới nhất, hiệu năng thường thấp hơn, vì vậy các doanh nghiệp cần nhiều thời gian hơn để đào tạo các mô hình lớn. Các công ty này cũng đang tìm kiếm những cách sáng tạo để bù đắp cho sự thiếu hụt sức mạnh tính toán.
Một cách để làm điều này là sử dụng dữ liệu chất lượng cao hơn để đào tạo, giúp đào tạo hiệu quả hơn.
Mới đây, Học viện Công nghệ Thông tin và Truyền thông (CAICT) đã đi đầu trong việc phát hành "Báo cáo nghiên cứu về hệ thống tiêu chuẩn mô hình lớn công nghiệp và kiến trúc năng lực", trong đó đề cập đến việc đánh giá lớp dữ liệu của các mô hình lớn. Báo cáo cho thấy rằng về chất lượng dữ liệu, vì nó sẽ có tác động lớn đến hiệu quả của mô hình, nên giới thiệu ghi nhãn và xác nhận thủ công, đồng thời chọn ít nhất một tỷ lệ nhất định của dữ liệu gốc để ghi nhãn, để xây dựng và nghiêm túc các bộ dữ liệu chất lượng cao.
Ngoài việc giảm chi phí của các mô hình lớn thông qua dữ liệu chất lượng cao, cho ngành, cải thiện khả năng cơ sở hạ tầng và đạt được hoạt động ổn định hơn 100000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000
"Là một nhà cung cấp dịch vụ đám mây, chúng tôi giúp khách hàng xây dựng một cơ sở hạ tầng ổn định và đáng tin cậy. Bởi vì độ ổn định của card máy chủ GPU sẽ kém, bất kỳ lỗi nào cũng sẽ làm gián đoạn quá trình đào tạo, dẫn đến tăng thời gian đào tạo tổng thể. Các cụm máy tính hiệu năng cao có thể cung cấp cho khách hàng các dịch vụ ổn định hơn, giảm thời gian đào tạo và giải quyết một số vấn đề về sức mạnh tính toán. Chu Lệ Quân nói.
Đồng thời, việc lập lịch tài nguyên của thẻ sức mạnh tính toán cũng kiểm tra khả năng kỹ thuật của nhà cung cấp dịch vụ. Xu Wei, người đứng đầu Giải pháp Internet Đông Trung Quốc của Volcano Engine, nói với Titanium Media rằng có tài nguyên thẻ điện toán chỉ là một khía cạnh, và làm thế nào để lên lịch tài nguyên thẻ và thực sự đưa chúng vào sử dụng là một khả năng cốt lõi và khả năng kỹ thuật được kiểm tra nhiều hơn. "Chia một thẻ thành nhiều thẻ nhỏ và cố gắng đạt được lịch trình phân tán và tinh chỉnh có thể giảm thêm chi phí sức mạnh tính toán." Từ Vĩ nói.
Mạng cũng ảnh hưởng đến tốc độ và hiệu quả của đào tạo mô hình lớn. Đào tạo mô hình lớn thường là hàng nghìn thẻ, kết nối hàng trăm máy chủ GPU yêu cầu tốc độ mạng cực kỳ cao, nếu mạng hơi tắc nghẽn thì tốc độ đào tạo sẽ rất chậm, hiệu quả bị ảnh hưởng rất nhiều. "Miễn là một máy chủ quá nóng và ngừng hoạt động, toàn bộ cụm có thể phải dừng lại và các tác vụ đào tạo sẽ phải khởi động lại. Điều này đòi hỏi yêu cầu rất cao về khả năng O&M của dịch vụ đám mây và khả năng khắc phục sự cố. Qiu Yuepeng nói.
Một số nhà cung cấp đã tìm ra một cách khác và việc chuyển đổi từ kiến trúc điện toán đám mây sang kiến trúc siêu máy tính cũng đã trở thành một cách để giảm chi phí, đó là, trong trường hợp đáp ứng nhu cầu của người dùng, các tác vụ điện toán thông lượng không cao và các kịch bản tác vụ song song, đám mây siêu máy tính có giá bằng một nửa siêu máy tính đám mây, và sau đó thông qua tối ưu hóa hiệu suất, việc sử dụng tài nguyên có thể tăng từ 30% lên 60%.
Ngoài ra, một số nhà sản xuất chọn sử dụng các nền tảng trong nước để đào tạo và lý luận các mô hình lớn để thay thế NVIDIA, rất khó tìm thấy bằng thẻ. "Chúng tôi đã cùng phát hành máy tất cả trong một iFLYTEK Spark với Huawei, điều này rất đáng chú ý khi có thể đào tạo và lý luận trên nền tảng trong nước. Tôi đặc biệt vui mừng nói với bạn rằng khả năng GPU của Huawei hiện giống như NVIDIA và Ren Zhengfei rất coi trọng nó, và ba giám đốc của Huawei đã làm việc trong lớp iFLYTEK đặc biệt và hiện đã làm cho nó có thể so sánh với A100 của NVIDIA. Liu Qingfeng, người sáng lập và chủ tịch của iFLYTEK, từng nói.
Mỗi phương pháp trên là một dự án tương đối lớn nên các doanh nghiệp nói chung khó có thể đáp ứng thông qua các trung tâm dữ liệu tự xây dựng, và nhiều nhóm thuật toán lựa chọn các nhà sản xuất sức mạnh tính toán chuyên nghiệp nhất để hỗ trợ. Trong số đó, lưu trữ song song cũng là một chi phí lớn, cũng như khả năng kỹ thuật, đảm bảo tỷ lệ lỗi tương ứng, vv cũng là một phần của chi phí phần cứng. Tất nhiên, thậm chí xem xét chi phí điện khu vực sẵn có của IDC, chi phí vận hành như phần mềm, nền tảng và chi phí nhân sự.
Chỉ có cụm GPU ở cấp kilocard mới có hiệu ứng quy mô và việc chọn nhà cung cấp dịch vụ điện toán tương đương với việc nói rằng chi phí cận biên bằng không.
Sun Ninghui, học giả của Học viện Kỹ thuật Trung Quốc và nhà nghiên cứu của Viện Công nghệ Máy tính thuộc Viện Hàn lâm Khoa học Trung Quốc, cũng đề xuất trong bài phát biểu của mình rằng AIGC đã mang lại sự bùng nổ của ngành công nghiệp trí tuệ nhân tạo và ứng dụng quy mô lớn của công nghệ thông minh có một vấn đề đuôi dài điển hình, đó là các bộ phận mạnh với khả năng AI mạnh mẽ (an ninh mạng, chín viện của học viện thứ chín và cục khí tượng, v.v.), các tổ chức nghiên cứu khoa học và các doanh nghiệp lớn và vừa chỉ chiếm khoảng 20% nhu cầu điện toán chính và 80% còn lại là các doanh nghiệp vừa và nhỏ. Hoặc bị giới hạn bởi giá cao của sức mạnh tính toán, rất khó để có được cổ tức phát triển trong làn sóng của kỷ nguyên AI.
Do đó, để hiện thực hóa ứng dụng quy mô lớn của công nghệ thông minh, ngành công nghiệp trí tuệ nhân tạo vừa được "hoan nghênh" vừa "hoan nghênh", đồng thời cần một lượng lớn sức mạnh tính toán thông minh giá rẻ và dễ sử dụng, để các doanh nghiệp nhỏ, vừa và siêu nhỏ cũng có thể sử dụng sức mạnh tính toán một cách thuận tiện và rẻ tiền.
Cho dù đó là nhu cầu cấp thiết về sức mạnh tính toán của các mô hình lớn hay các vấn đề khác nhau cần được giải quyết trong quá trình ứng dụng sức mạnh tính toán, một thay đổi mới cần được chú ý là sức mạnh tính toán đã trở thành một mô hình dịch vụ mới trong quá trình nhu cầu thị trường và lặp lại công nghệ.
Khám phá mô hình dịch vụ sức mạnh điện toán mới
Sức mạnh tính toán của mô hình lớn mà chúng ta đang nắm bắt là gì? Để trả lời câu hỏi này, chúng ta cần bắt đầu với dịch vụ sức mạnh tính toán.
Về chủng loại, sức mạnh tính toán được chia thành sức mạnh tính toán chung, sức mạnh tính toán thông minh và sức mạnh siêu máy tính, và sức mạnh tính toán này đã trở thành một dịch vụ, là kết quả của động lực kép của thị trường và công nghệ.
Định nghĩa về dịch vụ năng lượng điện toán trong "Sách trắng dịch vụ điện toán năm 2023" (sau đây gọi là "Sách trắng") là một lĩnh vực mới của ngành công nghiệp điện toán dựa trên sức mạnh tính toán đa dạng, được liên kết bởi mạng lưới sức mạnh tính toán và nhằm cung cấp sức mạnh tính toán hiệu quả.
Bản chất của dịch vụ sức mạnh tính toán là đạt được đầu ra thống nhất của sức mạnh tính toán không đồng nhất thông qua công nghệ điện toán mới và tích hợp chéo với đám mây, dữ liệu lớn, AI và các công nghệ khác. Không chỉ có sức mạnh tính toán trong dịch vụ sức mạnh tính toán, nó là một gói thống nhất của sức mạnh tính toán, lưu trữ, mạng và các tài nguyên khác, và việc cung cấp sức mạnh tính toán được hoàn thành dưới dạng dịch vụ (chẳng hạn như API).
Hiểu được điều này, bạn sẽ thấy rằng khi lấy chip NVIDIA, một phần lớn trong số đó là các nhà cung cấp dịch vụ điện toán, tức là các nhà sản xuất điện toán. Người dùng trong ngành thực sự gọi API sức mạnh tính toán trên giao diện người dùng chỉ cần đưa ra các yêu cầu về sức mạnh tính toán tương ứng.
Theo Titanium Media App, từ góc độ phần mềm, tất cả các mô hình lớn được sử dụng bởi tương tác phần mềm được chia thành ba loại, cuộc gọi API mô hình lớn đầu tiên, mỗi gia đình có một báo giá, theo quyết toán giá; Thứ hai là sở hữu một mô hình nhỏ, tự mua sức mạnh tính toán, hoặc thậm chí tự triển khai nó; Thứ ba, các nhà cung cấp mô hình lớn hợp tác với các nhà cung cấp đám mây, nghĩa là các đám mây chuyên dụng và trả tiền hàng tháng. "Nói chung, đây là ba, Kingsoft Office hiện chủ yếu sử dụng các lệnh gọi API và mô hình nhỏ nội bộ đã tạo ra nền tảng lập lịch sức mạnh tính toán của riêng mình." Yao Dong, phó chủ tịch của Kingsoft Office, nói với Titanium Media App.
Sơ đồ cấu trúc chuỗi ngành Hashrate, nguồn: Học viện Công nghệ Thông tin và Truyền thông Trung Quốc
Nói cách khác, trong chuỗi ngành cấu trúc điện toán, các doanh nghiệp thượng nguồn chủ yếu hoàn thành việc cung cấp các nguồn lực hỗ trợ cho các dịch vụ năng lượng tính toán như sức mạnh tính toán chung, sức mạnh tính toán thông minh, sức mạnh siêu máy tính, lưu trữ và mạng. Ví dụ, trong cuộc chiến giành sức mạnh tính toán mô hình lớn, NVIDIA thuộc về sức mạnh tính toán thượng nguồn cung cấp tài nguyên cơ bản cho ngành để cung cấp chip và sự gia tăng cổ phiếu của các nhà sản xuất máy chủ như Inspur Information cũng bị ảnh hưởng bởi nhu cầu thị trường.
Các doanh nghiệp trung nguồn chủ yếu là các nhà cung cấp dịch vụ đám mây và các nhà cung cấp dịch vụ điện toán mới, và vai trò của họ chủ yếu là thực hiện sản xuất sức mạnh tính toán thông qua điều phối sức mạnh tính toán, lập lịch trình sức mạnh tính toán và công nghệ giao dịch sức mạnh tính toán và hoàn thành việc cung cấp sức mạnh tính toán thông qua API. Các nhà cung cấp dịch vụ điện toán nói trên, Tencent Cloud và Volcano Engine đều nằm trong liên kết này. Khả năng định hướng dịch vụ của sức mạnh tính toán để phục vụ các doanh nghiệp trung nguồn càng mạnh, ngưỡng cho phía ứng dụng càng thấp và càng có lợi cho sự phát triển toàn diện và phổ biến của sức mạnh tính toán.
Các doanh nghiệp hạ nguồn dựa vào sức mạnh tính toán được cung cấp bởi các dịch vụ năng lượng điện toán để tạo ra và sản xuất các dịch vụ giá trị gia tăng, chẳng hạn như người dùng trong ngành. Phần này của người dùng chỉ cần đưa ra nhu cầu và nhà sản xuất sức mạnh tính toán cấu hình sức mạnh tính toán tương ứng theo nhu cầu để hoàn thành "tác vụ sức mạnh tính toán" do người dùng ban hành.
Điều này có nhiều lợi thế về chi phí và kỹ thuật hơn so với việc mua máy chủ ban đầu để xây dựng một môi trường sức mạnh tính toán mô hình lớn. Việc đào tạo Mô hình lớn Khí tượng Bàn Cổ của Bi Khai nên trực tiếp gọi lớp cơ bản của Mô hình Bàn Cổ, tức là dịch vụ tính toán hiệu suất cao của HUAWEI CLOUD, vậy quy trình của các doanh nghiệp mô hình lớn khác sử dụng sức mạnh tính toán hay trả tiền cho sức mạnh tính toán sẽ khác?
** Lặp lại mô hình kinh doanh sức mạnh tính toán **
ChatGLM là lô mô hình lớn nói chung đầu tiên được ra mắt, lấy việc sử dụng sức mạnh tính toán ChatGLM của Zhipu AI làm ví dụ, theo thông tin đã được tiết lộ công khai, ChatGLM AI sử dụng một số nhà cung cấp dịch vụ điện toán AI chính thống ở Trung Quốc. "Về lý thuyết, mọi thứ nên hữu ích." Những người quen thuộc với vấn đề này nói rằng điều này cũng có thể bao gồm các nhà cung cấp dịch vụ điện toán chính thống trong nước / nhà cung cấp dịch vụ đám mây.
Thanh toán theo mức sử dụng và thanh toán hàng tháng là các chế độ chính của dịch vụ sức mạnh tính toán hiện tại và có khoảng hai loại yêu cầu sử dụng, một là chọn phiên bản dịch vụ sức mạnh tính toán tương ứng và trên giao diện trang web chính thức của nhà cung cấp dịch vụ đám mây, nó có thể cung cấp các máy chủ GPU hiệu suất cao được trang bị ba card đồ họa chính thống NVIDIA A800, A100, V100.
* Các loại card đồ họa GPU điện toán hiệu suất cao do nhà cung cấp dịch vụ máy tính cung cấp*
Hai là chọn nền tảng dịch vụ MaaS tương ứng và tinh chỉnh mô hình lớn trong nền tảng MaaS. Lấy giá xuất bản nền tảng Tencent Cloud TI-ONE trả theo mức sử dụng làm ví dụ, cấu hình của 8C40G V100 \ * 1 là 20,32 nhân dân tệ mỗi giờ, có thể được sử dụng cho thị giác học tập tự động, mô hình dựa trên nhiệm vụ, sổ ghi chép và mô hình trực quan.
Hiện tại, ngành công nghiệp cũng đang thúc đẩy "tích hợp máy tính và mạng" của các dịch vụ năng lượng điện toán và thông qua đánh giá toàn diện về các nhiệm vụ tính toán, trạng thái tài nguyên mạng máy tính và các thông tin khác, một sơ đồ điều phối mạng máy tính có thể hỗ trợ lập lịch trình nhà cung cấp dịch vụ chéo, xuyên khu vực và liên dịch vụ được hình thành và triển khai tài nguyên liên quan được hoàn thành. Ví dụ: miễn là bạn tiết kiệm một khoản tiền và gửi nó vào mạng sức mạnh tính toán, các phân vùng trong mạng sức mạnh tính toán có thể được gọi theo ý muốnTheo đặc điểm của ứng dụng, chọn phân vùng phù hợp nhất, phân vùng nhanh nhất và phân vùng tiết kiệm chi phí nhất, sau đó tính phí theo thời lượng và khấu trừ phí từ số tiền gửi trước.
Điều này cũng đúng với các nhà cung cấp dịch vụ đám mây, như một sản phẩm độc đáo của dịch vụ đám mây, cho phép họ nhanh chóng tham gia vào chuỗi ngành công nghiệp điện toán.
Theo dữ liệu từ Bộ Công nghiệp và Công nghệ thông tin, tổng quy mô sức mạnh tính toán của Trung Quốc sẽ đạt 180% vào năm 2022, đứng thứ hai trên thế giới. Tính đến năm 2022, quy mô ngành công nghiệp điện toán của Trung Quốc đã đạt 1,8 nghìn tỷ đồng. Sức mạnh tính toán mô hình lớn đã thúc đẩy đáng kể sự phát triển của ngành công nghiệp điện toán.
Một câu nói là dịch vụ năng lượng tính toán hiện tại thực sự là một loại mô hình "bán điện" mới. Tuy nhiên, theo sự phân công lao động khác nhau, một số nhà cung cấp dịch vụ máy tính có thể cần giúp người dùng thực hiện nhiều hơn việc gỡ lỗi hiệu suất hệ thống, cài đặt phần mềm, nhiệm vụ vận hành công việc quy mô lớn và phân tích đặc điểm hoạt động, nghĩa là một phần của công việc vận hành và bảo trì chặng cuối.
Với việc bình thường hóa nhu cầu điện toán hiệu suất cao mô hình lớn, các dịch vụ điện toán, được sinh ra từ các dịch vụ đám mây, đã nhanh chóng đi vào tầm nhìn của công chúng, tạo thành một chuỗi công nghiệp và mô hình kinh doanh độc đáo. Chỉ là vào thời điểm bắt đầu bùng nổ của ngành công nghiệp điện toán do các mô hình lớn, sự thiếu hụt GPU cao cấp, chi phí sức mạnh tính toán cao và việc nắm lấy "lõi" đã tạo thành một cảnh quan độc đáo thuộc về thời đại này.
"Ở giai đoạn này, khối lượng là ai có thể nhận được thẻ trong chuỗi cung ứng, NVIDIA là vua của toàn bộ ngành công nghiệp hiện tại và tất cả các thị trường đều được kiểm soát bởi nó, đó là hiện trạng." Những người quen thuộc với vấn đề này bình luận. Như thể bất cứ ai nhận được thẻ đều có thể cung cấp doanh nghiệp khi nhu cầu vượt xa cung.
Nhưng không phải ai cũng nắm lấy "thẻ", bởi vì sự thiếu hụt chỉ là tạm thời, và vấn đề sẽ luôn được giải quyết. "Người nghiên cứu dài hạn không thực sự nắm lấy nó, chỉ cần chờ đợi vì anh ta sẽ không chếtHiện tại, chỉ có một nhóm các công ty khởi nghiệp đang lấy thẻ và họ muốn đảm bảo rằng họ có thể tồn tại cho đến năm sau. Người nói.
Trong nhiều điều không chắc chắn, đó là một xu hướng nhất định để sức mạnh tính toán trở thành một dịch vụ và những gì các nhà cung cấp dịch vụ điện toán nên làm là sẵn sàng đề phòng khi mô hình lớn trở lại tính hợp lý và gió thị trường thay đổi nhanh chóng.
Lưu ý: Theo yêu cầu của người được phỏng vấn, Chu Lệ Quân là bút danh.
** (Bài viết này lần đầu tiên xuất bản Titanium Media APP) **
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
Đào tạo mô hình lớn là bao nhiêu tập? Làm sáng tỏ bí ẩn về sức mạnh tính toán mô hình lớn
Nguồn bài viết: Titanium Media
Tác giả|Qin Conghui
Biên tập viên|Gai Hongda
Sử dụng dữ liệu thời tiết toàn cầu 40 năm, đào tạo trước với 200 thẻ GPU và trong khoảng 2 tháng, một mô hình khí tượng Pangea lớn với hàng trăm triệu thông số đã được đào tạo.
Đây là câu chuyện của Bi Khai Phong, tốt nghiệp Đại học Thanh Hoa 3 năm, và đào tạo một người mẫu lớn.
Tuy nhiên, từ quan điểm chi phí, trong trường hợp bình thường, GPU là 7,8 nhân dân tệ / giờ và chi phí đào tạo của mô hình khí tượng Bikaifeng Pangu có thể vượt quá 2 triệu. Đây vẫn là một mô hình lớn theo chiều dọc trong lĩnh vực khí tượng, và nếu nó được đào tạo trên một mô hình lớn nói chung, chi phí có thể gấp trăm lần.
Theo thống kê, có hơn 100 mẫu xe lớn với 1 tỷ thông số tại Trung Quốc. Tuy nhiên, mô hình lớn đổ xô của ngành công nghiệp "Alchemy" phải đối mặt với vấn đề GPU cao cấp rất khó tìm. Chi phí sức mạnh tính toán cao, và việc thiếu sức mạnh tính toán và kinh phí đã trở thành vấn đề trực quan nhất trước ngành công nghiệp.
**GPU cao cấp, thiếu bao nhiêu? **
"Không, đương nhiên là thiếu, nhưng chúng ta có thể làm gì." Một giám đốc điều hành cấp cao của một nhà máy lớn đã buột miệng khi được hỏi liệu ông có thiếu sức mạnh tính toán hay không.
Điều này dường như đã trở thành một vấn đề chưa được giải quyết được ngành công nghiệp công nhận, giá của một chiếc NVIDIA A100 ở thời kỳ đỉnh cao đã được đồn đoán là 200.000 nhân dân tệ, và giá thuê hàng tháng của một máy chủ A100 cũng đã tăng vọt lên 50.000-70.000 / tháng. Nhưng ngay cả như vậy, mức giá cao vẫn có thể không có được chip, và một số nhà cung cấp sức mạnh tính toán cũng đã gặp phải những trải nghiệm kỳ lạ khó gặp trước đây, chẳng hạn như bỏ qua vé của nhà cung cấp.
Zhou Lijun, một giám đốc điều hành ngành công nghiệp điện toán đám mây, cho biết tương tự: "Có sự thiếu hụt sức mạnh tính toán. Chúng tôi có nhiều khách hàng muốn có tài nguyên GPU cao cấp, nhưng họ không thể đáp ứng đầy đủ nhu cầu của thị trường rộng lớn trong thời điểm hiện tại. "
Hóa ra tình trạng thiếu hụt GPU cao cấp vẫn chưa được giải quyết trong ngành trong ngắn hạn. Với sự bùng nổ của các mô hình lớn, nhu cầu về sức mạnh tính toán của thị trường đã tăng lên nhanh chóng, nhưng tốc độ tăng trưởng nguồn cung vẫn chưa theo kịp. Mặc dù việc cung cấp sức mạnh tính toán chắc chắn sẽ thâm nhập vào thị trường của người mua từ thị trường của người bán trong thời gian dài, nhưng không biết thời gian này sẽ mất bao lâu.
Mỗi công ty đang tính toán xem họ có bao nhiêu "hàng hóa" (GPU NVIDIA) và thậm chí sử dụng điều này để đánh giá thị phần. Ví dụ: nếu bạn có gần 10.000 thẻ trong tay và thị trường là tổng cộng 100.000 thẻ, thị phần là 10%. "Đến cuối năm, sẽ có khoảng 40.000, và nếu thị trường là 200.000, nó có thể sẽ chiếm 20% thị trường." Những người quen thuộc với vấn đề này đã đưa ra ví dụ.
Một mặt, bạn không thể mua thẻ, mặt khác, ngưỡng đào tạo người mẫu lớn không dễ "bắt đầu" như ngành công nghiệp nướng. Như đã đề cập ở trên, chi phí đào tạo của mô hình khí tượng Bikaifeng Pangea có thể vượt quá 2 triệu. Tuy nhiên, cần lưu ý rằng mô hình khí tượng Bikaifeng Pangu là một mô hình lớn theo chiều dọc được đào tạo trên cơ sở mô hình lớn chung Pangu, và các thông số của nó là hàng trăm triệu. Nếu bạn muốn đào tạo một mô hình lớn đa năng với các thông số quy mô hàng tỷ hoặc lớn hơn, chi phí có thể cao hơn mười lần hoặc hàng trăm lần.
"Hiện nay, quy mô đầu tư lớn nhất là đào tạo, nếu không đầu tư hàng tỷ đồng thì khó có thể tiếp tục làm mô hình lớn". Qiu Yuepeng, Phó Chủ tịch Tập đoàn Tencent, COO của Nhóm Kinh doanh Công nghiệp Thông minh và Đám mây, đồng thời là Chủ tịch của Tencent Cloud, tiết lộ.
"Chạy nhanh, ít nhất là cho đến khi tiền cháy hết để có được vòng 'tài chính' tiếp theo." Một doanh nhân mô tả mô hình lớn hiện nay là "tình hình chiến tranh": "Con đường này là một ngõ cụtNếu bạn không có hàng chục tỷ đô la phía sau, thật khó để đi. "
Trong tình hình này, quan điểm chung trong ngành là với sự cạnh tranh trên thị trường mô hình lớn, thị trường cũng sẽ thay đổi từ cuồng tín sang hợp lý, và doanh nghiệp cũng sẽ kiểm soát chi phí và điều chỉnh chiến lược với những thay đổi dự kiến.
**Phản hồi tích cực không thể giải quyết **
Nếu không có điều kiện, cần phải tạo điều kiện - đây dường như là tâm lý đa số trong số những người tham gia mô hình lớn. Và làm thế nào để tạo điều kiện để xử lý các vấn đề thực tế, mỗi công ty cũng có nhiều phương pháp.
Do sự thiếu hụt chip GPU cao cấp, và GPU có sẵn tại thị trường Trung Quốc không phải là thế hệ mới nhất, hiệu năng thường thấp hơn, vì vậy các doanh nghiệp cần nhiều thời gian hơn để đào tạo các mô hình lớn. Các công ty này cũng đang tìm kiếm những cách sáng tạo để bù đắp cho sự thiếu hụt sức mạnh tính toán.
Một cách để làm điều này là sử dụng dữ liệu chất lượng cao hơn để đào tạo, giúp đào tạo hiệu quả hơn.
Mới đây, Học viện Công nghệ Thông tin và Truyền thông (CAICT) đã đi đầu trong việc phát hành "Báo cáo nghiên cứu về hệ thống tiêu chuẩn mô hình lớn công nghiệp và kiến trúc năng lực", trong đó đề cập đến việc đánh giá lớp dữ liệu của các mô hình lớn. Báo cáo cho thấy rằng về chất lượng dữ liệu, vì nó sẽ có tác động lớn đến hiệu quả của mô hình, nên giới thiệu ghi nhãn và xác nhận thủ công, đồng thời chọn ít nhất một tỷ lệ nhất định của dữ liệu gốc để ghi nhãn, để xây dựng và nghiêm túc các bộ dữ liệu chất lượng cao.
Ngoài việc giảm chi phí của các mô hình lớn thông qua dữ liệu chất lượng cao, cho ngành, cải thiện khả năng cơ sở hạ tầng và đạt được hoạt động ổn định hơn 100000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000
"Là một nhà cung cấp dịch vụ đám mây, chúng tôi giúp khách hàng xây dựng một cơ sở hạ tầng ổn định và đáng tin cậy. Bởi vì độ ổn định của card máy chủ GPU sẽ kém, bất kỳ lỗi nào cũng sẽ làm gián đoạn quá trình đào tạo, dẫn đến tăng thời gian đào tạo tổng thể. Các cụm máy tính hiệu năng cao có thể cung cấp cho khách hàng các dịch vụ ổn định hơn, giảm thời gian đào tạo và giải quyết một số vấn đề về sức mạnh tính toán. Chu Lệ Quân nói.
Đồng thời, việc lập lịch tài nguyên của thẻ sức mạnh tính toán cũng kiểm tra khả năng kỹ thuật của nhà cung cấp dịch vụ. Xu Wei, người đứng đầu Giải pháp Internet Đông Trung Quốc của Volcano Engine, nói với Titanium Media rằng có tài nguyên thẻ điện toán chỉ là một khía cạnh, và làm thế nào để lên lịch tài nguyên thẻ và thực sự đưa chúng vào sử dụng là một khả năng cốt lõi và khả năng kỹ thuật được kiểm tra nhiều hơn. "Chia một thẻ thành nhiều thẻ nhỏ và cố gắng đạt được lịch trình phân tán và tinh chỉnh có thể giảm thêm chi phí sức mạnh tính toán." Từ Vĩ nói.
Mạng cũng ảnh hưởng đến tốc độ và hiệu quả của đào tạo mô hình lớn. Đào tạo mô hình lớn thường là hàng nghìn thẻ, kết nối hàng trăm máy chủ GPU yêu cầu tốc độ mạng cực kỳ cao, nếu mạng hơi tắc nghẽn thì tốc độ đào tạo sẽ rất chậm, hiệu quả bị ảnh hưởng rất nhiều. "Miễn là một máy chủ quá nóng và ngừng hoạt động, toàn bộ cụm có thể phải dừng lại và các tác vụ đào tạo sẽ phải khởi động lại. Điều này đòi hỏi yêu cầu rất cao về khả năng O&M của dịch vụ đám mây và khả năng khắc phục sự cố. Qiu Yuepeng nói.
Một số nhà cung cấp đã tìm ra một cách khác và việc chuyển đổi từ kiến trúc điện toán đám mây sang kiến trúc siêu máy tính cũng đã trở thành một cách để giảm chi phí, đó là, trong trường hợp đáp ứng nhu cầu của người dùng, các tác vụ điện toán thông lượng không cao và các kịch bản tác vụ song song, đám mây siêu máy tính có giá bằng một nửa siêu máy tính đám mây, và sau đó thông qua tối ưu hóa hiệu suất, việc sử dụng tài nguyên có thể tăng từ 30% lên 60%.
Ngoài ra, một số nhà sản xuất chọn sử dụng các nền tảng trong nước để đào tạo và lý luận các mô hình lớn để thay thế NVIDIA, rất khó tìm thấy bằng thẻ. "Chúng tôi đã cùng phát hành máy tất cả trong một iFLYTEK Spark với Huawei, điều này rất đáng chú ý khi có thể đào tạo và lý luận trên nền tảng trong nước. Tôi đặc biệt vui mừng nói với bạn rằng khả năng GPU của Huawei hiện giống như NVIDIA và Ren Zhengfei rất coi trọng nó, và ba giám đốc của Huawei đã làm việc trong lớp iFLYTEK đặc biệt và hiện đã làm cho nó có thể so sánh với A100 của NVIDIA. Liu Qingfeng, người sáng lập và chủ tịch của iFLYTEK, từng nói.
Mỗi phương pháp trên là một dự án tương đối lớn nên các doanh nghiệp nói chung khó có thể đáp ứng thông qua các trung tâm dữ liệu tự xây dựng, và nhiều nhóm thuật toán lựa chọn các nhà sản xuất sức mạnh tính toán chuyên nghiệp nhất để hỗ trợ. Trong số đó, lưu trữ song song cũng là một chi phí lớn, cũng như khả năng kỹ thuật, đảm bảo tỷ lệ lỗi tương ứng, vv cũng là một phần của chi phí phần cứng. Tất nhiên, thậm chí xem xét chi phí điện khu vực sẵn có của IDC, chi phí vận hành như phần mềm, nền tảng và chi phí nhân sự.
Chỉ có cụm GPU ở cấp kilocard mới có hiệu ứng quy mô và việc chọn nhà cung cấp dịch vụ điện toán tương đương với việc nói rằng chi phí cận biên bằng không.
Sun Ninghui, học giả của Học viện Kỹ thuật Trung Quốc và nhà nghiên cứu của Viện Công nghệ Máy tính thuộc Viện Hàn lâm Khoa học Trung Quốc, cũng đề xuất trong bài phát biểu của mình rằng AIGC đã mang lại sự bùng nổ của ngành công nghiệp trí tuệ nhân tạo và ứng dụng quy mô lớn của công nghệ thông minh có một vấn đề đuôi dài điển hình, đó là các bộ phận mạnh với khả năng AI mạnh mẽ (an ninh mạng, chín viện của học viện thứ chín và cục khí tượng, v.v.), các tổ chức nghiên cứu khoa học và các doanh nghiệp lớn và vừa chỉ chiếm khoảng 20% nhu cầu điện toán chính và 80% còn lại là các doanh nghiệp vừa và nhỏ. Hoặc bị giới hạn bởi giá cao của sức mạnh tính toán, rất khó để có được cổ tức phát triển trong làn sóng của kỷ nguyên AI.
Do đó, để hiện thực hóa ứng dụng quy mô lớn của công nghệ thông minh, ngành công nghiệp trí tuệ nhân tạo vừa được "hoan nghênh" vừa "hoan nghênh", đồng thời cần một lượng lớn sức mạnh tính toán thông minh giá rẻ và dễ sử dụng, để các doanh nghiệp nhỏ, vừa và siêu nhỏ cũng có thể sử dụng sức mạnh tính toán một cách thuận tiện và rẻ tiền.
Cho dù đó là nhu cầu cấp thiết về sức mạnh tính toán của các mô hình lớn hay các vấn đề khác nhau cần được giải quyết trong quá trình ứng dụng sức mạnh tính toán, một thay đổi mới cần được chú ý là sức mạnh tính toán đã trở thành một mô hình dịch vụ mới trong quá trình nhu cầu thị trường và lặp lại công nghệ.
Khám phá mô hình dịch vụ sức mạnh điện toán mới
Sức mạnh tính toán của mô hình lớn mà chúng ta đang nắm bắt là gì? Để trả lời câu hỏi này, chúng ta cần bắt đầu với dịch vụ sức mạnh tính toán.
Về chủng loại, sức mạnh tính toán được chia thành sức mạnh tính toán chung, sức mạnh tính toán thông minh và sức mạnh siêu máy tính, và sức mạnh tính toán này đã trở thành một dịch vụ, là kết quả của động lực kép của thị trường và công nghệ.
Định nghĩa về dịch vụ năng lượng điện toán trong "Sách trắng dịch vụ điện toán năm 2023" (sau đây gọi là "Sách trắng") là một lĩnh vực mới của ngành công nghiệp điện toán dựa trên sức mạnh tính toán đa dạng, được liên kết bởi mạng lưới sức mạnh tính toán và nhằm cung cấp sức mạnh tính toán hiệu quả.
Bản chất của dịch vụ sức mạnh tính toán là đạt được đầu ra thống nhất của sức mạnh tính toán không đồng nhất thông qua công nghệ điện toán mới và tích hợp chéo với đám mây, dữ liệu lớn, AI và các công nghệ khác. Không chỉ có sức mạnh tính toán trong dịch vụ sức mạnh tính toán, nó là một gói thống nhất của sức mạnh tính toán, lưu trữ, mạng và các tài nguyên khác, và việc cung cấp sức mạnh tính toán được hoàn thành dưới dạng dịch vụ (chẳng hạn như API).
Hiểu được điều này, bạn sẽ thấy rằng khi lấy chip NVIDIA, một phần lớn trong số đó là các nhà cung cấp dịch vụ điện toán, tức là các nhà sản xuất điện toán. Người dùng trong ngành thực sự gọi API sức mạnh tính toán trên giao diện người dùng chỉ cần đưa ra các yêu cầu về sức mạnh tính toán tương ứng.
Theo Titanium Media App, từ góc độ phần mềm, tất cả các mô hình lớn được sử dụng bởi tương tác phần mềm được chia thành ba loại, cuộc gọi API mô hình lớn đầu tiên, mỗi gia đình có một báo giá, theo quyết toán giá; Thứ hai là sở hữu một mô hình nhỏ, tự mua sức mạnh tính toán, hoặc thậm chí tự triển khai nó; Thứ ba, các nhà cung cấp mô hình lớn hợp tác với các nhà cung cấp đám mây, nghĩa là các đám mây chuyên dụng và trả tiền hàng tháng. "Nói chung, đây là ba, Kingsoft Office hiện chủ yếu sử dụng các lệnh gọi API và mô hình nhỏ nội bộ đã tạo ra nền tảng lập lịch sức mạnh tính toán của riêng mình." Yao Dong, phó chủ tịch của Kingsoft Office, nói với Titanium Media App.
Nói cách khác, trong chuỗi ngành cấu trúc điện toán, các doanh nghiệp thượng nguồn chủ yếu hoàn thành việc cung cấp các nguồn lực hỗ trợ cho các dịch vụ năng lượng tính toán như sức mạnh tính toán chung, sức mạnh tính toán thông minh, sức mạnh siêu máy tính, lưu trữ và mạng. Ví dụ, trong cuộc chiến giành sức mạnh tính toán mô hình lớn, NVIDIA thuộc về sức mạnh tính toán thượng nguồn cung cấp tài nguyên cơ bản cho ngành để cung cấp chip và sự gia tăng cổ phiếu của các nhà sản xuất máy chủ như Inspur Information cũng bị ảnh hưởng bởi nhu cầu thị trường.
Các doanh nghiệp trung nguồn chủ yếu là các nhà cung cấp dịch vụ đám mây và các nhà cung cấp dịch vụ điện toán mới, và vai trò của họ chủ yếu là thực hiện sản xuất sức mạnh tính toán thông qua điều phối sức mạnh tính toán, lập lịch trình sức mạnh tính toán và công nghệ giao dịch sức mạnh tính toán và hoàn thành việc cung cấp sức mạnh tính toán thông qua API. Các nhà cung cấp dịch vụ điện toán nói trên, Tencent Cloud và Volcano Engine đều nằm trong liên kết này. Khả năng định hướng dịch vụ của sức mạnh tính toán để phục vụ các doanh nghiệp trung nguồn càng mạnh, ngưỡng cho phía ứng dụng càng thấp và càng có lợi cho sự phát triển toàn diện và phổ biến của sức mạnh tính toán.
Các doanh nghiệp hạ nguồn dựa vào sức mạnh tính toán được cung cấp bởi các dịch vụ năng lượng điện toán để tạo ra và sản xuất các dịch vụ giá trị gia tăng, chẳng hạn như người dùng trong ngành. Phần này của người dùng chỉ cần đưa ra nhu cầu và nhà sản xuất sức mạnh tính toán cấu hình sức mạnh tính toán tương ứng theo nhu cầu để hoàn thành "tác vụ sức mạnh tính toán" do người dùng ban hành.
Điều này có nhiều lợi thế về chi phí và kỹ thuật hơn so với việc mua máy chủ ban đầu để xây dựng một môi trường sức mạnh tính toán mô hình lớn. Việc đào tạo Mô hình lớn Khí tượng Bàn Cổ của Bi Khai nên trực tiếp gọi lớp cơ bản của Mô hình Bàn Cổ, tức là dịch vụ tính toán hiệu suất cao của HUAWEI CLOUD, vậy quy trình của các doanh nghiệp mô hình lớn khác sử dụng sức mạnh tính toán hay trả tiền cho sức mạnh tính toán sẽ khác?
** Lặp lại mô hình kinh doanh sức mạnh tính toán **
ChatGLM là lô mô hình lớn nói chung đầu tiên được ra mắt, lấy việc sử dụng sức mạnh tính toán ChatGLM của Zhipu AI làm ví dụ, theo thông tin đã được tiết lộ công khai, ChatGLM AI sử dụng một số nhà cung cấp dịch vụ điện toán AI chính thống ở Trung Quốc. "Về lý thuyết, mọi thứ nên hữu ích." Những người quen thuộc với vấn đề này nói rằng điều này cũng có thể bao gồm các nhà cung cấp dịch vụ điện toán chính thống trong nước / nhà cung cấp dịch vụ đám mây.
Thanh toán theo mức sử dụng và thanh toán hàng tháng là các chế độ chính của dịch vụ sức mạnh tính toán hiện tại và có khoảng hai loại yêu cầu sử dụng, một là chọn phiên bản dịch vụ sức mạnh tính toán tương ứng và trên giao diện trang web chính thức của nhà cung cấp dịch vụ đám mây, nó có thể cung cấp các máy chủ GPU hiệu suất cao được trang bị ba card đồ họa chính thống NVIDIA A800, A100, V100.
Hai là chọn nền tảng dịch vụ MaaS tương ứng và tinh chỉnh mô hình lớn trong nền tảng MaaS. Lấy giá xuất bản nền tảng Tencent Cloud TI-ONE trả theo mức sử dụng làm ví dụ, cấu hình của 8C40G V100 \ * 1 là 20,32 nhân dân tệ mỗi giờ, có thể được sử dụng cho thị giác học tập tự động, mô hình dựa trên nhiệm vụ, sổ ghi chép và mô hình trực quan.
Hiện tại, ngành công nghiệp cũng đang thúc đẩy "tích hợp máy tính và mạng" của các dịch vụ năng lượng điện toán và thông qua đánh giá toàn diện về các nhiệm vụ tính toán, trạng thái tài nguyên mạng máy tính và các thông tin khác, một sơ đồ điều phối mạng máy tính có thể hỗ trợ lập lịch trình nhà cung cấp dịch vụ chéo, xuyên khu vực và liên dịch vụ được hình thành và triển khai tài nguyên liên quan được hoàn thành. Ví dụ: miễn là bạn tiết kiệm một khoản tiền và gửi nó vào mạng sức mạnh tính toán, các phân vùng trong mạng sức mạnh tính toán có thể được gọi theo ý muốnTheo đặc điểm của ứng dụng, chọn phân vùng phù hợp nhất, phân vùng nhanh nhất và phân vùng tiết kiệm chi phí nhất, sau đó tính phí theo thời lượng và khấu trừ phí từ số tiền gửi trước.
Điều này cũng đúng với các nhà cung cấp dịch vụ đám mây, như một sản phẩm độc đáo của dịch vụ đám mây, cho phép họ nhanh chóng tham gia vào chuỗi ngành công nghiệp điện toán.
Theo dữ liệu từ Bộ Công nghiệp và Công nghệ thông tin, tổng quy mô sức mạnh tính toán của Trung Quốc sẽ đạt 180% vào năm 2022, đứng thứ hai trên thế giới. Tính đến năm 2022, quy mô ngành công nghiệp điện toán của Trung Quốc đã đạt 1,8 nghìn tỷ đồng. Sức mạnh tính toán mô hình lớn đã thúc đẩy đáng kể sự phát triển của ngành công nghiệp điện toán.
Một câu nói là dịch vụ năng lượng tính toán hiện tại thực sự là một loại mô hình "bán điện" mới. Tuy nhiên, theo sự phân công lao động khác nhau, một số nhà cung cấp dịch vụ máy tính có thể cần giúp người dùng thực hiện nhiều hơn việc gỡ lỗi hiệu suất hệ thống, cài đặt phần mềm, nhiệm vụ vận hành công việc quy mô lớn và phân tích đặc điểm hoạt động, nghĩa là một phần của công việc vận hành và bảo trì chặng cuối.
Với việc bình thường hóa nhu cầu điện toán hiệu suất cao mô hình lớn, các dịch vụ điện toán, được sinh ra từ các dịch vụ đám mây, đã nhanh chóng đi vào tầm nhìn của công chúng, tạo thành một chuỗi công nghiệp và mô hình kinh doanh độc đáo. Chỉ là vào thời điểm bắt đầu bùng nổ của ngành công nghiệp điện toán do các mô hình lớn, sự thiếu hụt GPU cao cấp, chi phí sức mạnh tính toán cao và việc nắm lấy "lõi" đã tạo thành một cảnh quan độc đáo thuộc về thời đại này.
"Ở giai đoạn này, khối lượng là ai có thể nhận được thẻ trong chuỗi cung ứng, NVIDIA là vua của toàn bộ ngành công nghiệp hiện tại và tất cả các thị trường đều được kiểm soát bởi nó, đó là hiện trạng." Những người quen thuộc với vấn đề này bình luận. Như thể bất cứ ai nhận được thẻ đều có thể cung cấp doanh nghiệp khi nhu cầu vượt xa cung.
Nhưng không phải ai cũng nắm lấy "thẻ", bởi vì sự thiếu hụt chỉ là tạm thời, và vấn đề sẽ luôn được giải quyết. "Người nghiên cứu dài hạn không thực sự nắm lấy nó, chỉ cần chờ đợi vì anh ta sẽ không chếtHiện tại, chỉ có một nhóm các công ty khởi nghiệp đang lấy thẻ và họ muốn đảm bảo rằng họ có thể tồn tại cho đến năm sau. Người nói.
Trong nhiều điều không chắc chắn, đó là một xu hướng nhất định để sức mạnh tính toán trở thành một dịch vụ và những gì các nhà cung cấp dịch vụ điện toán nên làm là sẵn sàng đề phòng khi mô hình lớn trở lại tính hợp lý và gió thị trường thay đổi nhanh chóng.
Lưu ý: Theo yêu cầu của người được phỏng vấn, Chu Lệ Quân là bút danh.
** (Bài viết này lần đầu tiên xuất bản Titanium Media APP) **