Một bức ảnh cho thấy sức mạnh tính toán AI đã phát triển 670 triệu lần trong hơn 70 năm, trong tương lai AI sẽ vượt qua con người về mọi mặt năng lực. Điều thực sự thú vị là ngành công nghiệp AI mới bước vào giai đoạn phôi thai giai đoạn trước khi bùng phát.
Máy tính điện tử ra đời vào những năm 1940, và trong vòng 10 năm kể từ khi máy tính xuất hiện, ứng dụng AI đầu tiên trong lịch sử loài người đã xuất hiện.
Hơn 70 năm sau, các mô hình AI giờ đây không chỉ có thể viết thơ mà còn tạo ra hình ảnh dựa trên lời nhắc bằng văn bản và thậm chí giúp con người khám phá các cấu trúc protein chưa biết.
Vậy điều gì đã thúc đẩy sự tăng trưởng theo cấp số nhân của công nghệ AI trong một khoảng thời gian ngắn như vậy?
Một biểu đồ dài từ "Thế giới dữ liệu của chúng ta" theo dõi lịch sử phát triển AI thông qua những thay đổi về sức mạnh tính toán được sử dụng để đào tạo các mô hình AI theo thang đo.
Hình ảnh độ nét cao lớn:
Nguồn dữ liệu trong hình đến từ một bài báo được xuất bản bởi các nhà nghiên cứu từ MIT và các trường đại học khác.
Địa chỉ giấy:
Ngoài bài báo, còn có nhóm nghiên cứu đã lập bảng trực quan dựa trên dữ liệu của bài báo này, các biểu tượng có thể phóng to thu nhỏ để có được số liệu chi tiết.
Địa chỉ mẫu:
Tác giả biểu đồ chủ yếu ước tính lượng tính toán huấn luyện từng mô hình bằng cách tính toán số thao tác và thời gian GPU, còn việc chọn mô hình nào làm đại diện cho một mô hình quan trọng, tác giả chủ yếu xác định thông qua ba thuộc tính:
Tầm quan trọng đáng kể: Một hệ thống có tác động lịch sử đáng kể, cải thiện đáng kể SOTA hoặc đã được trích dẫn hơn 1.000 lần.
Mức độ liên quan: Tác giả chỉ bao gồm các bài viết chứa kết quả thử nghiệm và các thành phần học máy chính và mục tiêu của bài viết là thúc đẩy sự phát triển của SOTA hiện có.
Tính duy nhất: Nếu một bài viết khác mô tả cùng một hệ thống có ảnh hưởng lớn hơn thì bài viết đó sẽ bị loại khỏi tập dữ liệu của tác giả.
Ba kỷ nguyên phát triển AI
Vào những năm 1950, nhà toán học người Mỹ Claude Shannon đã huấn luyện một con chuột robot tên là Theseus để định hướng trong mê cung và ghi nhớ đường đi của nó—ví dụ đầu tiên về học tập nhân tạo.
Theseus được xây dựng trên 40 phép toán dấu phẩy động (FLOP). FLOP thường được sử dụng làm thước đo hiệu năng tính toán của phần cứng máy tính. Số lượng FLOP càng cao thì khả năng tính toán càng lớn và hệ thống càng mạnh.
Sức mạnh tính toán, dữ liệu đào tạo có sẵn và thuật toán là ba yếu tố chính của sự phát triển AI. Trong những thập kỷ đầu phát triển AI, sức mạnh tính toán cần thiết đã tăng lên theo Định luật Moore - sức mạnh tính toán tăng gấp đôi sau khoảng 20 tháng.
Tuy nhiên, vào thời điểm năm 2012 đánh dấu sự khởi đầu của kỷ nguyên học sâu với AlexNet, một AI nhận dạng hình ảnh, thời gian nhân đôi đó đã rút ngắn đáng kể xuống còn sáu tháng khi các nhà nghiên cứu đầu tư nhiều hơn vào máy tính và bộ xử lý.
Với sự xuất hiện của AlphaGo vào năm 2015 – một chương trình máy tính đánh bại những kỳ thủ cờ vây chuyên nghiệp là con người – các nhà nghiên cứu đã khám phá ra kỷ nguyên thứ ba: kỷ nguyên của các mô hình AI quy mô lớn với nhu cầu tính toán lớn hơn tất cả các hệ thống AI lớn trước đây.
Tiến bộ trong tương lai của công nghệ AI
Nhìn lại thập kỷ qua, sức mạnh tính toán đã phát triển nhanh đến mức gần như không thể tin được.
Ví dụ: sức mạnh tính toán được sử dụng để đào tạo Minerva, một AI có thể giải quyết các vấn đề toán học phức tạp, gấp gần 6 triệu lần so với năng lực đào tạo AlexNet cách đây một thập kỷ.
Sự phát triển về điện toán này, cùng với số lượng lớn các bộ dữ liệu có sẵn và các thuật toán tốt hơn, đã cho phép AI đạt được nhiều tiến bộ trong một khoảng thời gian cực kỳ ngắn. Ngày nay, AI không chỉ có thể đạt tới mức hiệu suất của con người mà thậm chí còn vượt qua con người trong nhiều lĩnh vực.
Khả năng của AI sẽ tiếp tục vượt trội hơn con người về mọi mặt
Như có thể thấy rõ từ biểu đồ trên, AI đã vượt qua hiệu suất của con người trong nhiều lĩnh vực và sẽ sớm vượt qua hiệu suất của con người trong các lĩnh vực khác.
Hình dưới đây cho thấy năm nào AI đã đạt hoặc vượt trình độ của con người về các khả năng phổ biến được sử dụng trong công việc và cuộc sống hàng ngày.
### Tiềm năng phát triển công nghệ AI là đủ
Thật khó để nói liệu tốc độ tăng trưởng của ngành điện toán có duy trì được tốc độ như cũ hay không. Các mô hình quy mô lớn đòi hỏi ngày càng nhiều sức mạnh tính toán để đào tạo, nếu nguồn cung sức mạnh tính toán không thể tiếp tục tăng, nó có thể làm chậm tiến độ phát triển công nghệ AI.
Tương tự, việc sử dụng hết dữ liệu hiện có để đào tạo các mô hình AI cũng có thể cản trở việc phát triển và triển khai các mô hình mới.
Tuy nhiên, vào năm 2023, một lượng vốn lớn sẽ đổ vào ngành AI, đặc biệt là AI tạo sinh được thể hiện bằng các mô hình ngôn ngữ lớn. Có lẽ nhiều đột phá sắp xuất hiện, có vẻ như 3 yếu tố trên thúc đẩy sự phát triển của công nghệ AI sẽ được tối ưu và phát triển hơn nữa trong tương lai.
Trong nửa đầu năm 2023, quy mô tài trợ của các công ty khởi nghiệp trong ngành AI đạt 14 tỷ USD, thậm chí còn cao hơn tổng nguồn tài trợ nhận được trong 4 năm qua.
Một số lượng lớn (78%) các công ty khởi nghiệp AI mang tính sáng tạo vẫn đang trong giai đoạn phát triển ban đầu và thậm chí 27% các công ty khởi nghiệp về AI mang tính sáng tạo vẫn chưa huy động được vốn.
Có hơn 360 công ty trí tuệ nhân tạo sáng tạo, 27% trong số đó chưa huy động được vốn. Hơn một nửa là các dự án ở giai đoạn đầu hoặc sớm hơn, cho thấy toàn bộ ngành công nghiệp AI tổng quát vẫn đang ở giai đoạn rất sớm.
Do tính chất cần nhiều vốn của việc phát triển các mô hình ngôn ngữ lớn, hạng mục cơ sở hạ tầng AI tổng quát đã nhận được hơn 70% tài trợ kể từ quý 3 năm 2022, chỉ chiếm 10% tổng khối lượng giao dịch AI tổng quát. Phần lớn nguồn tài trợ đến từ sự quan tâm của nhà đầu tư đối với cơ sở hạ tầng mới nổi như các mô hình và API cơ bản, MLOps (hoạt động học máy) và công nghệ cơ sở dữ liệu vectơ.
Người giới thiệu:
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
Sức mạnh tính toán AI đã tăng 680 triệu lần trong 70 năm, ba giai đoạn lịch sử chứng kiến sự bùng nổ cấp số nhân của công nghệ AI
**Nguồn:**Xinzhiyuan
Máy tính điện tử ra đời vào những năm 1940, và trong vòng 10 năm kể từ khi máy tính xuất hiện, ứng dụng AI đầu tiên trong lịch sử loài người đã xuất hiện.
Hơn 70 năm sau, các mô hình AI giờ đây không chỉ có thể viết thơ mà còn tạo ra hình ảnh dựa trên lời nhắc bằng văn bản và thậm chí giúp con người khám phá các cấu trúc protein chưa biết.
Vậy điều gì đã thúc đẩy sự tăng trưởng theo cấp số nhân của công nghệ AI trong một khoảng thời gian ngắn như vậy?
Một biểu đồ dài từ "Thế giới dữ liệu của chúng ta" theo dõi lịch sử phát triển AI thông qua những thay đổi về sức mạnh tính toán được sử dụng để đào tạo các mô hình AI theo thang đo.
Nguồn dữ liệu trong hình đến từ một bài báo được xuất bản bởi các nhà nghiên cứu từ MIT và các trường đại học khác.
Ngoài bài báo, còn có nhóm nghiên cứu đã lập bảng trực quan dựa trên dữ liệu của bài báo này, các biểu tượng có thể phóng to thu nhỏ để có được số liệu chi tiết.
Tác giả biểu đồ chủ yếu ước tính lượng tính toán huấn luyện từng mô hình bằng cách tính toán số thao tác và thời gian GPU, còn việc chọn mô hình nào làm đại diện cho một mô hình quan trọng, tác giả chủ yếu xác định thông qua ba thuộc tính:
Tầm quan trọng đáng kể: Một hệ thống có tác động lịch sử đáng kể, cải thiện đáng kể SOTA hoặc đã được trích dẫn hơn 1.000 lần.
Mức độ liên quan: Tác giả chỉ bao gồm các bài viết chứa kết quả thử nghiệm và các thành phần học máy chính và mục tiêu của bài viết là thúc đẩy sự phát triển của SOTA hiện có.
Tính duy nhất: Nếu một bài viết khác mô tả cùng một hệ thống có ảnh hưởng lớn hơn thì bài viết đó sẽ bị loại khỏi tập dữ liệu của tác giả.
Ba kỷ nguyên phát triển AI
Vào những năm 1950, nhà toán học người Mỹ Claude Shannon đã huấn luyện một con chuột robot tên là Theseus để định hướng trong mê cung và ghi nhớ đường đi của nó—ví dụ đầu tiên về học tập nhân tạo.
Theseus được xây dựng trên 40 phép toán dấu phẩy động (FLOP). FLOP thường được sử dụng làm thước đo hiệu năng tính toán của phần cứng máy tính. Số lượng FLOP càng cao thì khả năng tính toán càng lớn và hệ thống càng mạnh.
Sức mạnh tính toán, dữ liệu đào tạo có sẵn và thuật toán là ba yếu tố chính của sự phát triển AI. Trong những thập kỷ đầu phát triển AI, sức mạnh tính toán cần thiết đã tăng lên theo Định luật Moore - sức mạnh tính toán tăng gấp đôi sau khoảng 20 tháng.
Với sự xuất hiện của AlphaGo vào năm 2015 – một chương trình máy tính đánh bại những kỳ thủ cờ vây chuyên nghiệp là con người – các nhà nghiên cứu đã khám phá ra kỷ nguyên thứ ba: kỷ nguyên của các mô hình AI quy mô lớn với nhu cầu tính toán lớn hơn tất cả các hệ thống AI lớn trước đây.
Tiến bộ trong tương lai của công nghệ AI
Nhìn lại thập kỷ qua, sức mạnh tính toán đã phát triển nhanh đến mức gần như không thể tin được.
Ví dụ: sức mạnh tính toán được sử dụng để đào tạo Minerva, một AI có thể giải quyết các vấn đề toán học phức tạp, gấp gần 6 triệu lần so với năng lực đào tạo AlexNet cách đây một thập kỷ.
Khả năng của AI sẽ tiếp tục vượt trội hơn con người về mọi mặt
Hình dưới đây cho thấy năm nào AI đã đạt hoặc vượt trình độ của con người về các khả năng phổ biến được sử dụng trong công việc và cuộc sống hàng ngày.
Thật khó để nói liệu tốc độ tăng trưởng của ngành điện toán có duy trì được tốc độ như cũ hay không. Các mô hình quy mô lớn đòi hỏi ngày càng nhiều sức mạnh tính toán để đào tạo, nếu nguồn cung sức mạnh tính toán không thể tiếp tục tăng, nó có thể làm chậm tiến độ phát triển công nghệ AI.
Tương tự, việc sử dụng hết dữ liệu hiện có để đào tạo các mô hình AI cũng có thể cản trở việc phát triển và triển khai các mô hình mới.
Tuy nhiên, vào năm 2023, một lượng vốn lớn sẽ đổ vào ngành AI, đặc biệt là AI tạo sinh được thể hiện bằng các mô hình ngôn ngữ lớn. Có lẽ nhiều đột phá sắp xuất hiện, có vẻ như 3 yếu tố trên thúc đẩy sự phát triển của công nghệ AI sẽ được tối ưu và phát triển hơn nữa trong tương lai.
Trong nửa đầu năm 2023, quy mô tài trợ của các công ty khởi nghiệp trong ngành AI đạt 14 tỷ USD, thậm chí còn cao hơn tổng nguồn tài trợ nhận được trong 4 năm qua.
Người giới thiệu: