- Chủ đề
20k Phổ biến
53k Phổ biến
4k Phổ biến
16k Phổ biến
30k Phổ biến
988 Phổ biến
93k Phổ biến
26k Phổ biến
26k Phổ biến
7k Phổ biến
- Ghim
20k Phổ biến
53k Phổ biến
4k Phổ biến
16k Phổ biến
30k Phổ biến
988 Phổ biến
93k Phổ biến
26k Phổ biến
26k Phổ biến
7k Phổ biến
Năm 2023, các công ty chip AI được hỏi ba lần liên tiếp
Nguồn: Thông tin chi tiết của Si Rui, tác giả | Renee, biên tập viên | Sun Yue
Vào năm 2023, các tổ chức đầu tư và cổ đông đang hỏi các công ty niêm yết trong lĩnh vực chip AI ba câu hỏi chết người:
Bạn đã tạo ra một chip tích hợp lưu trữ và tính toán chưa?
Tiến độ của chip tích hợp bộ nhớ-máy tính như thế nào?
Triển vọng của chip lưu trữ và điện toán tích hợp là gì?
Loạt câu hỏi trên có nghĩa là việc tích hợp lưu trữ và tính toán không còn “ở lại” trong giới học thuật và công nghiệp, và nó dường như đã trở nên phổ biến trên thị trường thứ cấp: các cổ đông và tổ chức môi giới đang làm việc thêm giờ để bù đắp cho sự tích hợp của lưu trữ và tính toán, vì vậy các nhà sản xuất chip truyền thống từ đầu năm 2023, bố cục tích hợp lưu trữ và tính toán đã bị "tra tấn".
**Một câu hỏi tự nhiên là tại sao việc tích hợp tiền gửi và tính toán lại đột nhiên trở nên phổ biến như vậy? **
Huawei, hãng đã phát hành sản phẩm lưu trữ mới OceanStor A310 vào ngày 14.7, đã đưa ra câu trả lời của riêng mình. Zhou Yuefeng, chủ tịch dòng sản phẩm lưu trữ dữ liệu của Huawei, cho biết có nhiều vấn đề về dữ liệu trong quá trình đào tạo và lập luận của các mô hình lớn cho mục đích chung và các mô hình lớn trong ngành: thu thập dữ liệu lớn trên nhiều miền chậm, hiệu quả tương tác dữ liệu thấp trong quá trình tiền xử lý và đào tạo và bảo mật luồng dữ liệu khó khăn.
Mô hình AI lớn mang đến những thách thức mới cho việc lưu trữ. Ví dụ, độ ổn định kém hơn so với AI truyền thống. Đồng thời, có một lượng lớn công việc chuẩn bị và xử lý trước dữ liệu. Cần sử dụng điện toán gần bộ nhớ ( một loại lưu trữ và tích hợp máy tính) để giải quyết vấn đề.Giải quyết vấn đề này một cách có hệ thống. **
Vậy “số lượng lớn dữ liệu” ở đây là bao nhiêu? Theo tính toán của Cirui Insight, ChatGPT hiện có 100 triệu người dùng hàng ngày, nếu 5% số người đặt câu hỏi mỗi giây vào cùng một thời điểm mỗi ngày, nó sẽ tiêu thụ lượng điện phát ra của đập Tam Hiệp trong gần một năm. **
Nói cách khác, các mô hình lớn đang điên cuồng đòi hỏi sức mạnh tính toán và các giải pháp mới nổi được thể hiện bằng việc tích hợp lưu trữ và điện toán có thể giải quyết nhiều thách thức do các mô hình lớn mang lại. Trên thực tế, bên cạnh việc đặt ra những yêu cầu khắt khe về khả năng tính toán, mô hình cỡ lớn cũng mang đến cho các nhà sản xuất chip AI "rất nhiều đường ăn".
Bài viết này cố gắng khám phá, dưới nền tảng của mô hình lớn, những lợi ích nào được mang lại cho các nhà sản xuất chip AI? Các nhà sản xuất tích hợp lưu trữ và tính toán đã bị ChatGPT "khai hỏa" sẽ ra sao trong tương lai?
Các nhà sản xuất chip AI "May mắn và rủi ro phụ thuộc vào nhau"
**Gió mô hình vẫn đang thổi và các cuộc thảo luận về mô hình vẫn đang diễn ra sôi nổi. **
Vào đầu tháng 8, tại diễn đàn phụ của Hội nghị trí tuệ nhân tạo của Liên đoàn máy tính Trung Quốc (CCF) - "Nhìn thấy Kunlun trong Frontiers AI Mô hình quy mô lớn Computing Power Frontier", các chuyên gia và học giả đã đồng ý rằng trong thời đại của các mô hình quy mô lớn , sức mạnh tính toán thông minh tối tân đã trở nên “khan hiếm”. Tài sản”, làm thế nào để tận dụng hiệu quả tài nguyên sức mạnh tính toán và tối đa hóa lợi ích của chúng đã trở thành thách thức mà mọi người tham gia phải đối mặt.
Riêng về lượng sức mạnh tính toán mà GPT-3 yêu cầu, trong những hoàn cảnh dè dặt, Đập Tam Hiệp cần phải “làm việc” thâu đêm để đáp ứng:
Điều khiến các nhà sản xuất chip AI lo lắng hơn nữa là đây mới chỉ là mức tiêu thụ điện năng của một mẫu ChatGPT lớn đang trong giai đoạn suy luận.
**Kết quả là hàng loạt giải pháp mới nổi đã được các nhà sản xuất khai phá: **Lưu trữ và tính toán tích hợp, chiplet, HBM, v.v. Trong số đó, do sự tích hợp giữa lưu trữ và điện toán đã lật đổ bức tường lưu trữ theo kiến trúc von Neumann truyền thống, nó đã thực sự đạt được mục tiêu giảm chi phí và nâng cao hiệu quả, trở thành "Ziweixing" của năm nay.
**Bên cạnh sự xuất hiện của các giải pháp mới nổi đã mang lại hơi thở cho các nhà sản xuất chip AI, mô hình lớn cũng mang đến một tin vui cho các nhà sản xuất chip, đặc biệt là các nhà sản xuất chip mới thành lập: tầm quan trọng của hệ sinh thái phần mềm đang giảm dần. **
Khi công nghệ chưa đủ trưởng thành trong những ngày đầu, các nhà nghiên cứu chỉ có thể bắt đầu bằng cách giải quyết một vấn đề cụ thể và các mô hình nhỏ với ít hơn một triệu tham số đã ra đời. Ví dụ: DeepMind, một công ty AI thuộc sở hữu của Google, cho phép AlphaGO tiến hành "học" đặc biệt các bước chơi cờ của hàng triệu kỳ thủ chuyên nghiệp là con người.
Sau khi có nhiều mô hình nhỏ hơn, vấn đề phần cứng như thích ứng chip sắp xảy ra. Do đó, khi Nvidia tung ra CUDA sinh thái thống nhất, GPU+CUDA đã nhanh chóng nhận được sự công nhận của cộng đồng khoa học máy tính và trở thành cấu hình tiêu chuẩn để phát triển trí tuệ nhân tạo.
Các mô hình lớn đang xuất hiện nối tiếp nhau ngày nay có khả năng đa phương thức, có thể xử lý văn bản, hình ảnh, lập trình và các vấn đề khác, đồng thời cũng có thể bao gồm nhiều lĩnh vực dọc như văn phòng, giáo dục và chăm sóc y tế. Điều này cũng có nghĩa là thích ứng với hệ sinh thái chính thống không phải là lựa chọn duy nhất: khi nhu cầu về chip cho các mẫu lớn tăng vọt, các nhà sản xuất chip có thể chỉ thích ứng với 1-2 mẫu lớn và có thể hoàn thành việc phát triển nhiều mẫu nhỏ. trong quá khứ.Đặt hàng. **
Nói cách khác, sự xuất hiện của ChatGPT mang đến cho các nhà sản xuất chip mới thành lập cơ hội vượt lên dẫn trước. Điều này có nghĩa là cấu trúc của thị trường chip AI sẽ trải qua những thay đổi to lớn: chip AI không còn là màn trình diễn của một người của các nhà sản xuất riêng lẻ, mà là một cuộc chơi nhóm của nhiều nhà đổi mới. **
**Khi sức mạnh điện toán trở thành một mặt hàng khan hiếm và việc thích ứng với hệ sinh thái chính thống không còn là điều bắt buộc, thì việc tích hợp lưu trữ và điện toán khó có thể che giấu ánh sáng của nó. **Tại thời điểm này, có nên đầu tư hay không và đầu tư bao nhiêu đã trở thành vấn đề thứ hai mà các nhà sản xuất chip AI phải đối mặt. **
Về vấn đề này, Câu trả lời được gã khổng lồ chip NVIDIA đưa ra trong nhiều năm là hãy mạnh dạn đổi mới và đầu tư thật nhiều tiền:
Mọi nhà sản xuất R&D của một công nghệ mới nổi chắc chắn sẽ phải đối mặt với các vấn đề ở nhiều cấp độ khác nhau như trở ngại thăm dò kỹ thuật và sự bất đồng của các nhà sản xuất hạ nguồn. Trong giai đoạn đầu, ai dự đoán trước xu hướng phát triển trong tương lai, dũng cảm thực hiện các bước thăm dò và dành các nguồn lực hợp lý để thử sẽ nắm bắt cơ hội.
Khi làn sóng trung tâm dữ liệu chưa tràn ngập và đào tạo trí tuệ nhân tạo vẫn là một lĩnh vực ngách, Nvidia đã đầu tư rất nhiều vào việc phát triển GPU điện toán đa năng và phần mềm lập trình hợp nhất CUDA, và đó là một công việc tốt cho Nvidia- các nền tảng điện toán.
Vào thời điểm đó, việc làm cho GPU có thể lập trình được là một lựa chọn "vô bổ và thua lỗ": Tôi không biết liệu hiệu suất của nó có thể tăng gấp đôi hay không, nhưng khả năng phát triển sản phẩm sẽ tăng gấp đôi. Vì lý do này, không có khách hàng nào sẵn sàng trả tiền cho nó. Tuy nhiên, Nvidia, người đã dự đoán rằng bộ xử lý đồ họa đơn năng không phải là giải pháp lâu dài, đã quyết định áp dụng CUDA cho tất cả các dòng sản phẩm.
Trong một cuộc phỏng vấn giữa Xindongxi và Tiến sĩ Lai Junjie, Giám đốc cấp cao về Kỹ thuật và Giải pháp của Nvidia Trung Quốc, Lai Junjie cho biết: "Để có tầm nhìn về nền tảng điện toán, Huang Renxun đã nhanh chóng huy động rất nhiều nguồn lực từ Nvidia ngay từ đầu. ngày."
Tầm nhìn xa + đầu tư lớn, năm 2012, Nvidia đã giành được phần thưởng của nhà đổi mới: Năm 2012, hiệu suất tính toán của thuật toán học sâu đã gây chấn động trong giới học thuật. Là một công cụ năng suất cao, linh hoạt hơn và dễ sử dụng, GPU+CUDA nhanh chóng trở nên phổ biến Cộng đồng khoa học máy tính đã trở thành "cấu hình chuẩn" cho sự phát triển của trí tuệ nhân tạo.
Trên hành trình của chip AI với sức mạnh tính toán lớn, chip tất cả trong một để lưu trữ và điện toán đã mở ra "thời kỳ hoàng kim" của riêng mình. **
Phi kỹ thuật, giàu tài chính đừng vào
Nhìn thấy những lợi ích khác nhau của việc tích hợp lưu trữ và điện toán, ở giai đoạn này, nhóm người chơi tích hợp chip lưu trữ và điện toán đang phát triển.
Theo thống kê chưa đầy đủ của CIRUI Insight, kể từ năm 2019, hầu hết các nhà sản xuất chip AI mới đều tích hợp lưu trữ và tính toán: có 20 nhà sản xuất chip AI mới trong giai đoạn 2019-2021 và 10 trong số đó chọn lộ trình tích hợp tiền gửi và tính toán.
Tất cả điều này cho thấy rằng việc tích hợp lưu trữ và điện toán sẽ trở thành một ngôi sao đang lên sau GPGPU, ASIC và các kiến trúc khác. ** Và ngôi sao mới này, không phải ai cũng hái được. **
Trong bối cảnh giới học thuật, giới công nghiệp và tư bản nhất trí lạc quan về việc tích hợp lưu trữ và điện toán, sức mạnh kỹ thuật mạnh mẽ của đất nước, nguồn nhân tài vững chắc và khả năng kiểm soát chính xác đối với việc chấp nhận chi phí di chuyển là chìa khóa cho các công ty mới thành lập để duy trì khả năng cạnh tranh của họ trong ngành.Ba rào cản đứng trước những người chơi mới. **
** Sức mạnh kỹ thuật mạnh mẽ luôn là ngọn núi cao nhất trong lĩnh vực chip. **
Đầu tiên là tích hợp lưu trữ và điện toán, bao gồm toàn bộ quá trình sản xuất chip: từ thiết bị thấp nhất, đến thiết kế mạch, thiết kế kiến trúc, chuỗi công cụ, sau đó đến nghiên cứu và phát triển lớp phần mềm; Toàn thân”: Trong khi thực hiện các thay đổi tương ứng trong mỗi lớp, mức độ thích ứng giữa mỗi lớp cũng cần được xem xét.
**Chúng ta hãy xem xét từng lớp một, loại vấn đề kỹ thuật nào xảy ra khi chip tích hợp máy tính bộ nhớ được sản xuất. **
Trước hết, về mặt lựa chọn thiết bị, các nhà sản xuất đang "đi trên băng mỏng": thiết kế bộ nhớ quyết định tốc độ sản xuất của chip và một khi sai hướng, chip có thể không được sản xuất hàng loạt.
Thứ hai là mức độ thiết kế mạch. Sau khi thiết bị có sẵn ở cấp độ mạch, nó cần được sử dụng cho thiết kế mạch của mảng lưu trữ. Hiện tại, trong thiết kế mạch, không có hướng dẫn công cụ EDA để tính toán trong bộ nhớ và nó cần được thực hiện thủ công, điều này chắc chắn làm tăng đáng kể độ khó khi vận hành.
Ngay sau đó, sau khi có các mạch ở tầng kiến trúc, cần thiết kế tầng kiến trúc. Mỗi mạch là một mô-đun máy tính cơ bản và toàn bộ kiến trúc bao gồm các mô-đun khác nhau. Thiết kế của mô-đun tích hợp máy tính-bộ nhớ xác định tỷ lệ hiệu suất năng lượng của chip. Các mạch analog sẽ bị nhiễu bởi nhiễu và các chip sẽ gặp nhiều vấn đề khi chúng bị ảnh hưởng bởi nhiễu.
Trong trường hợp này, các kiến trúc sư chip được yêu cầu phải hiểu đầy đủ các đặc điểm quy trình của điện toán tương tự trong bộ nhớ, đồng thời thiết kế kiến trúc theo các đặc điểm này.Trên cơ sở đó, khả năng thích ứng giữa kiến trúc và phát triển phần mềm cũng phải được xem xét . Sau khi hoàn thành thiết kế kiến trúc cấp phần mềm, chuỗi công cụ tương ứng cần được phát triển.
Do mô hình tích hợp máy tính lưu trữ ban đầu khác với mô hình theo kiến trúc truyền thống nên trình biên dịch cần thích ứng với kiến trúc tích hợp máy tính lưu trữ hoàn toàn khác để đảm bảo rằng tất cả các đơn vị máy tính có thể được ánh xạ tới phần cứng và chạy trơn tru.
**Một chuỗi kỹ thuật hoàn chỉnh sẽ kiểm tra khả năng của từng liên kết của thiết bị, thiết kế mạch, thiết kế kiến trúc, chuỗi công cụ và phát triển lớp phần mềm, đồng thời điều phối khả năng thích ứng của từng liên kết, đây là một trận chiến kéo dài tiêu tốn thời gian, công sức và tiền bạc. **
** Đồng thời, theo quy trình hoạt động của các liên kết trên, có thể thấy rằng chip tích hợp bộ nhớ-máy tính cần gấp các nhà thiết kế mạch và kiến trúc sư chip có kinh nghiệm. **
Xét về tính đặc thù của việc tích hợp lưu trữ và tính toán, các công ty có thể tích hợp lưu trữ và tính toán cần phải có hai đặc điểm sau về dự trữ nhân sự:
Người lãnh đạo cần có đủ dũng khí. Phải có một ý tưởng rõ ràng trong việc lựa chọn thiết bị (RRAM, SRAM, v.v.) và chế độ tính toán (von Neumann truyền thống, lưu trữ và tính toán tích hợp, v.v.). Điều này là do, với tư cách là một công nghệ đột phá và đổi mới, việc tích hợp lưu trữ và tính toán không có ai dẫn dắt, và chi phí thử và sai là cực kỳ cao. Những người sáng lập công ty có thể đạt được thương mại hóa thường có kinh nghiệm phong phú trong ngành, nhà sản xuất lớn và nền tảng học thuật, đồng thời có thể dẫn dắt nhóm nhanh chóng hoàn thành các lần lặp lại sản phẩm.
Trong đội ngũ nòng cốt, cần trang bị những tài năng có kinh nghiệm ở mọi cấp độ công nghệ. Ví dụ, kiến trúc sư, là cốt lõi của nhóm. Kiến trúc sư cần có hiểu biết sâu sắc và kiến thức về các công cụ phần cứng và phần mềm cơ bản, đồng thời có thể hiện thực hóa kiến trúc lưu trữ và điện toán trong khái niệm thông qua công nghệ, và cuối cùng là đạt được sản phẩm;
Ngoài ra, theo báo cáo của qubit, Trung Quốc đang thiếu những tài năng cao cấp về thiết kế mạch, đặc biệt là trong lĩnh vực mạch lai. Điện toán trong bộ nhớ liên quan đến một số lượng lớn các thiết kế mạch tương tự.So với thiết kế mạch kỹ thuật số nhấn mạnh tinh thần đồng đội, thiết kế mạch tương tự yêu cầu các nhà thiết kế cá nhân cực kỳ quen thuộc với quy trình, thiết kế, bố cục, pdk mô hình và đóng gói.
Và loạt tài năng và công nghệ này phải lấy hiệu quả hạ cánh làm mục tiêu cuối cùng - sản xuất hạng nhất là lực lượng sản xuất chính. **Trong quá trình giao hàng, điều khách hàng xem xét không chỉ là công nghệ tích hợp điện toán lưu trữ mà còn là liệu các chỉ số hiệu suất của SoC tích hợp điện toán lưu trữ, chẳng hạn như tỷ lệ hiệu quả năng lượng, tỷ lệ hiệu quả diện tích và mức độ dễ sử dụng, có đủ so với các sản phẩm trước Sự cải tiến và quan trọng hơn là liệu chi phí di chuyển có nằm trong phạm vi chấp nhận được hay không.
Nếu việc chọn một con chip mới để cải thiện hiệu suất của thuật toán đòi hỏi phải học lại hệ thống lập trình và chi phí nhân công cho việc di chuyển mô hình cao hơn chi phí mua GPU mới, thì rất có thể khách hàng sẽ không chọn sử dụng chip mới.
** Vì vậy, việc tích hợp đặt cọc và tính toán có giảm thiểu chi phí di chuyển trong quá trình xuống đất hay không là yếu tố khách hàng quan tâm hàng đầu khi lựa chọn sản phẩm. **
Trong bối cảnh của các mô hình quy mô lớn, chip tích hợp bộ nhớ-máy tính đang trở thành ngôi sao đang lên trong đường đua chip nhờ mức tiêu thụ điện năng thấp nhưng tỷ lệ hiệu quả năng lượng cao. Ngày nay, thị trường tích hợp tiền gửi và tính toán vẫn đang trong giai đoạn "Xiaohe mới nổi".
** Tuy nhiên, chúng ta không thể phủ nhận rằng những người chơi tính toán và lưu trữ tích hợp đã xây dựng ba bức tường cao, và những người có kỹ thuật mạnh mẽ và dự trữ tài năng vững chắc không nên vào. **