Sau khi OpenAI phát hành ChatGPT vào cuối năm 2022, sự hiểu biết của giới đầu tư về lĩnh vực trí tuệ nhân tạo tiếp tục sâu sắc hơn. Chuỗi ngành trí tuệ nhân tạo có thể được chia đại khái thành các nhà cung cấp công nghệ cốt lõi, hệ thống trí tuệ nhân tạo và người sử dụng trí tuệ nhân tạo. Đánh giá từ nhận thức chung của các nhà đầu tư toàn cầu, giờ đây ai cũng nhận thấy trí tuệ nhân tạo có thể sẽ trở thành con đường đầu tư lâu dài trong tương lai, tương tự như máy tính 30 năm trước, hay Internet 20 năm trước. Và trong tương lai, các ứng dụng đã trở thành hiện thực.
Để hiểu rõ về đầu tư vào các lĩnh vực được chia ra, chúng ta luôn cần phải học hỏi từ các nhà đầu tư trong ngành. Nhà đầu tư mạo hiểm nổi tiếng A16Z tiếp tục đặt cược lớn vào lĩnh vực trí tuệ nhân tạo. Gần đây họ đã có cuộc trò chuyện với CTO của OpenAI, Mira Murati. Cô chia sẻ câu chuyện đằng sau ChatGPT và tương lai của trí tuệ nhân tạo và tương tác giữa con người với máy tính.
Bản tóm tắt
ChatGPT bắt nguồn từ việc suy nghĩ về cách tạo ra một hệ thống trí tuệ nhân tạo an toàn sử dụng phản hồi của con người để tăng cường học tập.
OpenAI đang xác định lại cách mọi người tương tác với thông tin kỹ thuật số, trở thành trợ lý giống như đối tác và liên tục nâng cao tính nhất quán và bảo mật của hệ thống trí tuệ nhân tạo. Thông qua tình hình sản xuất, việc nhận phản hồi từ người dùng trong thế giới thực không chỉ đơn thuần là ngồi trong phòng thí nghiệm.
ChatGPT đang thêm hình ảnh, video và những thứ khác dựa trên văn bản. Điều này cho phép các mô hình cung cấp một bức tranh hoàn chỉnh hơn về thế giới xung quanh chúng ta, tương tự như cách chúng ta hiểu và quan sát thế giới.
Mặc dù sẽ không có một mô hình duy nhất nào thống trị thế giới trong tương lai, bởi vì cuối cùng mọi người sẽ tìm kiếm công cụ phù hợp nhất với nhu cầu của mình.
#Mira Murati Nền
Mira sinh ra ở Albania, ngay sau khi chủ nghĩa cộng sản kết thúc. Albania thời đó rất giống Triều Tiên ngày nay. Trong thời đại thay đổi liên tục và không chắc chắn, giáo dục nắm giữ chìa khóa cho mọi thứ. Hơn nữa, thời đó ngoài sách vở ra, có rất ít trò giải trí. Lúc đó, Mira đang tìm kiếm câu trả lời trong sách. Mira thích những sự thật khoa học ổn định và có thể nghiên cứu chuyên sâu. Và nguồn gốc của các môn nhân văn như lịch sử, xã hội học đều đáng nghi ngờ vì lịch sử không ngừng thay đổi. Vì vậy, Mira được nuôi dưỡng với thiên hướng trực quan và tự nhiên về khoa học và toán học. Về cơ bản, Mira vẫn tham gia vào lĩnh vực toán học tại Open AI.
Nhờ thành tích học tập xuất sắc, Mira đã nhận được học bổng và hoàn thành hai năm cuối trung học ở Canada.
Ở trường đại học, Mira học ngành cơ khí vì cô tin rằng đó là cách tốt nhất để áp dụng kiến thức vào các vấn đề trong thế giới thực. Vào thời điểm đó, Mira rất quan tâm đến việc mang lại phương tiện giao thông bền vững và năng lượng bền vững cho thế giới. Đồ án tốt nghiệp của cô lúc đó là chế tạo một chiếc xe đua hybrid sử dụng siêu tụ điện.
Ngay sau đó, Mira gia nhập Tesla và tham gia nghiên cứu động cơ kép Model S. Cô đã làm việc với Model X từ những ngày đầu thiết kế ban đầu và cuối cùng dẫn dắt toàn bộ quá trình khởi động dự án.
Cũng chính việc làm việc tại Tesla đã khiến Mira rất hứng thú với việc ứng dụng trí tuệ nhân tạo, đặc biệt là xe tự lái. Bởi vì nó có thể sử dụng AI và thị giác máy tính để cách mạng hóa ngành du lịch. Cô bắt đầu suy nghĩ nhiều hơn về các ứng dụng khác nhau của trí tuệ nhân tạo. Vì vậy, Mira ngày càng quan tâm đến AI và những thay đổi mà nó có thể tạo ra trên thế giới.
Cụ thể, cô rất tò mò về cách AI ảnh hưởng đến sự tương tác giữa con người và máy tính cũng như cách con người tương tác với thông tin nói chung và rất quan tâm đến điện toán không gian. Sau đó, cô gia nhập Leap Motion, một công ty công nghệ của người da đen, với vai trò phó chủ tịch sản phẩm và kỹ thuật. Chính trải nghiệm này đã củng cố thêm khả năng sản xuất của cô.
(Nhân tiện, người sáng lập Leap Motion, David Holz, đã thành lập một ứng dụng trí tuệ nhân tạo phổ biến khác Midjourney sau khi bán Leap Motion).
Năm 2018, Mira tham gia OpenAI. Đó là lúc cô bắt đầu suy nghĩ nhiều hơn về điều gì sẽ xảy ra nếu cô chỉ tập trung vào tính linh hoạt.
Ngoài ra, từ cuộc thảo luận của Mira về phương pháp nghiên cứu, chúng ta có thể thấy tinh thần khám phá đổi mới công nghệ của cô ấy trong một môi trường không chắc chắn:
Đôi khi bạn chợp mắt và thức dậy với những ý tưởng mới. Trong vài ngày hoặc vài tuần, bạn sẽ tìm ra giải pháp cuối cùng của mình. Đó không phải là sự trở lại nhanh chóng và đôi khi cũng không lặp đi lặp lại.
Nó gần giống như một cách suy nghĩ khác, bạn đang xây dựng trực giác nhưng cũng phải có kỷ luật để tiếp cận vấn đề và tin tưởng vào bản thân để giải quyết chúng. Theo thời gian, bạn sẽ phát triển trực giác về những vấn đề thực sự cần được giải quyết.
#Tóm tắt cuộc trò chuyện
Nhà đầu tư mạo hiểm nổi tiếng A16Z đã đặt cược lớn vào lĩnh vực trí tuệ nhân tạo. Đoạn trích sau đây là đoạn trích từ cuộc trò chuyện giữa Martin, người quản lý quỹ của A16Z và Mira. Mira đã chia sẻ câu chuyện đằng sau ChatGPT và tương lai của trí tuệ nhân tạo và tương tác giữa con người với máy tính. Chúng ta cũng có thể thấy Mira, người có xuất thân là giám đốc sản phẩm, cực kỳ quan tâm đến khả năng ứng dụng của sản phẩm.
MARTIN: Bạn có nghĩ hiện tại vấn đề nằm ở vấn đề hệ thống hay vấn đề kỹ thuật không?
Mira: Cả hai. Các vấn đề về hệ thống và kỹ thuật là rất lớn và chúng tôi đang triển khai những công nghệ này, cố gắng mở rộng quy mô, làm cho chúng hiệu quả hơn và giúp chúng có thể truy cập được. Điều này có nghĩa là bạn không cần phải biết sự phức tạp của ML để sử dụng chúng.
Trên thực tế, chúng ta có thể thấy sự tương phản giữa việc cung cấp các mô hình này thông qua API và việc cung cấp công nghệ thông qua ChatGPT. Về cơ bản, nó là cùng một công nghệ, với một ngoại lệ có thể xảy ra: ChatGPT có khả năng học tập tăng cường và phản hồi của con người. Điều này có nghĩa là phản ứng và khả năng nắm bắt trí tưởng tượng của mọi người và cho phép họ sử dụng công nghệ này hàng ngày là hoàn toàn khác nhau.
giao diện ngôn ngữ tự nhiên
Martin: Tôi cũng nghĩ API ChatGPT là một điều rất thú vị. Bất cứ khi nào tôi sử dụng những mô hình này trong các chương trình của mình, tôi luôn có cảm giác như đang bọc một siêu máy tính vào một chiếc bàn tính. Đôi khi tôi sẽ nói, "Tôi sẽ đưa cho mô hình một bàn phím và chuột và để nó lập trình." API bằng tiếng Anh và tôi sẽ cho nó biết phải làm gì và nó sẽ thực hiện tất cả việc lập trình. Tôi tò mò, khi bạn thiết kế thứ gì đó như ChatGPT, bạn có nghĩ rằng theo thời gian giao diện thực tế sẽ là ngôn ngữ tự nhiên hay bạn nghĩ các chương trình vẫn có vai trò lớn?
Mira: Việc lập trình trở nên ít trừu tượng hơn trong ChatGPT và chúng ta có thể nói chuyện với máy tính bằng ngôn ngữ tự nhiên ở băng thông cao. Nhưng có lẽ một nguyên nhân khác là công nghệ này đang giúp chúng ta hiểu cách thực sự làm việc với nó hơn là lập trình nó. Lớp lập trình ngày càng dễ dàng và dễ tiếp cận hơn vì bạn có thể lập trình bằng ngôn ngữ tự nhiên. Nhưng mặt khác mà chúng tôi thấy với ChatGPT là bạn thực sự có thể làm việc với mô hình như một đối tác hoặc đồng nghiệp.
MARTIN: Sẽ rất thú vị khi xem điều gì sẽ xảy ra theo thời gian. Bạn đã quyết định có API trong ChatGTP, nhưng với tư cách là đồng nghiệp, bạn không có API. Bạn đang nói chuyện với một đồng nghiệp. Theo thời gian, những điều này có thể phát triển thành việc nói ngôn ngữ tự nhiên. Hay bạn cho rằng luôn cần phải có một thành phần trong hệ thống đó là máy trạng thái hữu hạn, hay máy tính truyền thống?
Mira: Hiện tại có một điểm bùng phát khi chúng tôi đang xác định lại cách chúng ta tương tác với thông tin kỹ thuật số và chúng tôi đang thực hiện điều đó dưới dạng các hệ thống trí tuệ nhân tạo này. Có thể chúng ta có một số hệ thống AI, có thể chúng đều có những khả năng khác nhau. Có thể chúng ta có một hệ thống phổ quát theo chúng ta khắp mọi nơi, biết lý lịch của tôi, những gì tôi đã làm hôm nay, mục tiêu của tôi trong cuộc sống và công việc, giúp tôi vượt qua những thời điểm khó khăn, hướng dẫn tôi, v.v. Như bạn có thể tưởng tượng, điều này là siêu mạnh mẽ.
Bây giờ, chúng ta đang ở thời điểm bước ngoặt trong việc xác định lại nó. Chúng tôi không biết tương lai sẽ như thế nào và chúng tôi đang nỗ lực cung cấp những công cụ và kỹ thuật này cho nhiều người khác để họ có thể thử nghiệm và chúng tôi có thể xem điều gì sẽ xảy ra. Đây là chiến lược chúng tôi đã sử dụng ngay từ đầu.
Trong ChatGPT tuần trước, chúng tôi lo lắng rằng nó chưa đủ tốt. Tất cả chúng tôi đều thấy điều gì đã xảy ra. Chúng tôi đã công bố nó và mọi người nói với chúng tôi rằng nó đã làm rất tốt việc tìm kiếm các trường hợp mới. Đó là điều sẽ xảy ra khi bạn làm cho những thứ này trở nên dễ tiếp cận và dễ sử dụng, đồng thời bạn giúp mọi người dễ dàng sử dụng nó.
Lộ trình phát triển OpenAI
MARTIN: Khi nói đến trí tuệ nhân tạo, mọi người chưa biết cách suy nghĩ. Phải có một số hướng dẫn, bạn phải đưa ra một số lựa chọn. Bạn đang ở OpenAI và bạn phải quyết định phải làm gì tiếp theo. Nếu bạn có thể trải qua quá trình ra quyết định này: Bạn quyết định phải làm gì, tập trung vào điều gì, giải phóng điều gì hoặc định vị bản thân như thế nào?
Mira: Nếu bạn nghĩ về cách ChatGPT ra đời thì đó không phải là sản phẩm mà chúng tôi muốn ra mắt. Trên thực tế, nguồn gốc thực sự của nó đã có từ hơn 5 năm trước, khi chúng tôi đang nghĩ về cách tạo ra một hệ thống trí tuệ nhân tạo an toàn. Bạn không nhất thiết muốn con người thực sự viết hàm mục tiêu, bởi vì bạn không muốn người thay thế làm việc đó cho một hàm mục tiêu phức tạp hoặc bạn không muốn mắc lỗi vì điều đó có thể rất nguy hiểm.
Đây là lúc việc học tăng cường sử dụng phản hồi của con người xuất hiện. Điều chúng tôi thực sự cố gắng đạt được là điều chỉnh hệ thống AI phù hợp với các giá trị của con người và cho phép nó chấp nhận phản hồi của con người. Dựa trên phản hồi của con người, nó có nhiều khả năng làm điều đúng đắn và ít có khả năng làm điều gì đó mà bạn không muốn làm. Sau đó, sau khi chúng tôi phát triển GPT-3 và phát hành nó trên API, đây là lần đầu tiên chúng tôi thực sự áp dụng nghiên cứu bảo mật của mình vào thế giới thực. Điều này đạt được thông qua mô hình làm theo hướng dẫn.
Chúng tôi sử dụng phương pháp này để lấy tín hiệu từ khách hàng sử dụng API và sau đó chúng tôi yêu cầu các nhà thầu tạo phản hồi để mô hình học hỏi. Chúng tôi đã tinh chỉnh mô hình dựa trên dữ liệu này và xây dựng mô hình theo hướng dẫn. Họ có nhiều khả năng làm theo ý định của người dùng và làm những gì bạn thực sự muốn họ làm. Điều này rất có tác dụng vì an toàn AI không chỉ là một khái niệm lý thuyết mà bạn ngồi đó và nói đến. Nó thực sự trở thành: Chúng ta hiện đang bước vào thời đại hệ thống an ninh trí tuệ nhân tạo, làm cách nào để tích hợp nó vào thế giới thực?
Rõ ràng, trong các mô hình ngôn ngữ lớn, chúng ta thấy những cách thể hiện tuyệt vời về các khái niệm và ý tưởng trong thế giới thực. Nhưng về đầu ra thì còn nhiều vấn đề. Một trong những vấn đề lớn nhất rõ ràng là ảo giác. Chúng tôi đang nghiên cứu các vấn đề về ảo tưởng và tính xác thực. Làm thế nào để bạn có được những mô hình này để thể hiện sự không chắc chắn?
Tiền thân của ChatGPT thực ra là một dự án khác mà chúng tôi gọi là WebGPT, dự án này sử dụng khả năng truy xuất để lấy thông tin và trích dẫn nguồn. Dự án này cuối cùng đã trở thành ChatGPT vì chúng tôi nghĩ rằng các cuộc trò chuyện rất đặc biệt. Nó cho phép bạn đặt câu hỏi, sửa lỗi cho người khác và thể hiện sự không chắc chắn.
MARTIN: Các lỗi liên tục được phát hiện bởi vì bạn đang tương tác...
Mira: Vâng, với kiểu tương tác này, bạn có thể hiểu được sự thật sâu sắc hơn. Chúng tôi đã bắt đầu đi theo hướng này và vào thời điểm đó chúng tôi đang thực hiện điều này với GPT-3 và GPT-3.5. Từ góc độ bảo mật, chúng tôi rất vui mừng về điều này. Nhưng có một điều mọi người quên là vào thời điểm này, chúng tôi đã đào tạo GPT-4. Trong OpenAI, chúng tôi rất vui mừng về GPT-4 và có ChatGPT trong gương chiếu hậu. Sau đó, chúng tôi nhận ra: "Chúng tôi sẽ dành sáu tháng để tập trung vào sự liên kết và an toàn của GPT-4" và chúng tôi bắt đầu suy nghĩ về những gì mình có thể làm. Một trong những điều quan trọng nhất là đưa ChatGPT đến tay các nhà nghiên cứu và họ có thể cung cấp cho chúng tôi phản hồi khi chúng tôi có mô hình trò chuyện này. Mục đích ban đầu là nhận phản hồi từ các nhà nghiên cứu và sử dụng phản hồi đó để làm cho GPT-4 trở nên nhất quán, an toàn, mạnh mẽ và đáng tin cậy hơn.
MARTIN: Khi bạn nói tính nhất quán và bảo mật, bạn có đúng khi đưa điều đó vào, rằng nó làm bất cứ điều gì nó muốn không? Hay bạn muốn nói đến sự an toàn, thực sự là bảo vệ bản thân khỏi một loại tổn hại nào đó?
Mira: Bằng sự nhất quán, ý tôi thường là nó phù hợp với mục đích của người dùng, do đó nó thực hiện chính xác những gì bạn muốn. Nhưng bảo mật cũng bao gồm những thứ khác, chẳng hạn như lạm dụng, trong đó người dùng cố tình sử dụng một mô hình để tạo ra kết quả có hại. Với ChatGPT, chúng tôi thực sự đang cố gắng làm cho mô hình có nhiều khả năng thực hiện những gì bạn muốn, làm cho mô hình trở nên nhất quán hơn. Chúng tôi cũng muốn tìm ra vấn đề ảo giác, đây rõ ràng là một vấn đề cực kỳ khó khăn.
Tôi nghĩ cách tiếp cận sử dụng phản hồi của con người để học tập củng cố, nếu chúng ta cố gắng làm điều đó, có lẽ đó là điều chúng ta cần.
MARTIN: Vậy là không có kế hoạch lớn à? Chúng ta cần làm gì để đạt được AGI? Đó chỉ là vấn đề thực hiện từng bước một.
Mira: Vâng. Và tất cả những quyết định nhỏ bạn đưa ra trên đường đi. Có lẽ điều đó có nhiều khả năng xảy ra hơn vì chúng tôi đã đưa ra quyết định chiến lược vài năm trước là theo đuổi sản phẩm này. Chúng tôi làm điều này vì chúng tôi tin rằng không thể chỉ ngồi trong phòng thí nghiệm và phát triển những thứ này trong chân không mà không có phản hồi từ người dùng trong thế giới thực. Đó là giả định. Tôi nghĩ điều đó giúp chúng tôi đưa ra một số quyết định và xây dựng cơ sở hạ tầng cơ bản để cuối cùng chúng tôi có thể triển khai thứ gì đó như ChatGPT.
Luật tỷ lệ
MARTIN: Bạn có thể lặp lại luật tỷ lệ. Tôi nghĩ đây là một vấn đề lớn mà mọi người đều gặp phải. Tốc độ tiến bộ thật đáng kinh ngạc. Nhưng lịch sử của trí tuệ nhân tạo dường như cho thấy rằng đến một lúc nào đó bạn đạt được lợi nhuận giảm dần và đó không phải là tham số. Nó loại giảm dần. Từ quan điểm của bạn (có lẽ là quan điểm khôn ngoan nhất trong toàn bộ ngành), bạn có nghĩ quy luật mở rộng quy mô sẽ được giữ vững và chúng ta sẽ tiếp tục thấy sự tiến bộ hay bạn nghĩ chúng ta đang hướng tới lợi nhuận giảm dần?
Mira: Không có bằng chứng nào cho thấy khi chúng tôi tiếp tục mở rộng mô hình trên các trục dữ liệu và tính toán, chúng tôi sẽ không có được các mô hình tốt hơn, mạnh mẽ hơn. Liệu nó có tiến tới AGI (Trí tuệ tổng hợp nhân tạo) hay không lại là một câu hỏi khác. Trong quá trình này, có thể cần đến một số đột phá và tiến bộ khác. Để thực sự thu được nhiều lợi ích từ những mô hình lớn hơn này, quy luật mở rộng quy mô vẫn còn một chặng đường dài.
MARTIN: Bạn định nghĩa AGI như thế nào?
Mira: Trong điều lệ OpenAI của chúng tôi. Chúng tôi định nghĩa nó là một hệ thống máy tính có thể tự động hoàn thành hầu hết các công việc trí tuệ.
Martin: Tôi đang ăn trưa và Robert Nishihara từ Anyscale đã ở đó. Anh ấy hỏi cái mà tôi gọi là câu hỏi Robert Nishihara. Tôi nghĩ đó thực sự là một đặc tính khá tốt. Ông nói, "Có một sự liên tục giữa máy tính và Einstein. Bạn đi từ máy tính đến mèo, từ mèo đến người bình thường, và từ người bình thường đến Einstein." Sau đó, ông đặt câu hỏi, "Chúng ta đang ở trên một địa điểm liên tục."? Những vấn đề gì sẽ được giải quyết?”
Mọi người đều đồng ý rằng chúng ta biết cách biến một con mèo thành một con người. Chúng ta không biết làm thế nào để biến một chiếc máy tính thành một con mèo bởi vì đó là một vấn đề phổ biến về nhận thức. Chúng ta đã đến gần, nhưng vẫn chưa hoàn toàn đến đó, và chúng ta thực sự không biết cách làm Einstein, và đó là lý do đã đặt ra.
Mira: Bạn có thể nhận được rất nhiều điều nhờ tinh chỉnh, nhưng nhìn chung, tôi nghĩ, trong hầu hết các nhiệm vụ, hiện tại chúng tôi đang ở cấp độ thực tập sinh. Vấn đề là độ tin cậy. Bạn không thể hoàn toàn dựa vào hệ thống để làm những gì bạn muốn nó làm mọi lúc. Trong nhiều nhiệm vụ nó không thể làm được. Làm thế nào để bạn cải thiện độ tin cậy theo thời gian và sau đó mở rộng các khả năng mới mà các mô hình này có thể thực hiện?
Tôi nghĩ điều quan trọng là phải chú ý đến những khả năng mới nổi này, ngay cả khi chúng rất không đáng tin cậy. Đặc biệt đối với những người đang xây dựng một công ty ngày nay, bạn thực sự muốn nghĩ đến "Điều gì có thể xảy ra ngày hôm nay? Bạn nhìn thấy gì hôm nay?" Những mô hình này nhanh chóng trở nên đáng tin cậy.
**Một người mẫu có thể chinh phục cả thế giới? **
MARTIN: Tôi sẽ hỏi ngay, dự đoán tương lai sẽ như thế nào. Nhưng trước khi tôi hỏi một cách ích kỷ, bạn nghĩ tính kinh tế của việc này sẽ diễn ra như thế nào. Tôi kể cho bạn nghe nó làm tôi nhớ đến điều gì. Điều này làm tôi nhớ đến ngành công nghiệp silicon. Tôi nhớ vào những năm 90, khi bạn mua một chiếc máy tính, có rất nhiều bộ xử lý viết kỳ lạ. "Đây là khớp chuỗi, đây là dấu phẩy động, đây là mã hóa", tất cả đều ngốn CPU.
Hóa ra tính linh hoạt mạnh mẽ đến mức nó tạo ra một kiểu nền kinh tế nhất định trong đó cả Intel và AMD đều là người chơi. Tất nhiên, để làm ra những con chip này sẽ tốn rất nhiều tiền.
Vì vậy, bạn có thể tưởng tượng hai tương lai. Trong tương lai, tính linh hoạt mạnh mẽ đến mức các mô hình lớn về cơ bản sẽ hấp thụ tất cả chức năng theo thời gian. Và sau đó là một tương lai khác, nơi có rất nhiều mô hình khác nhau, đủ loại chi tiết, điểm khác nhau trong không gian thiết kế. Bạn có cảm giác này không: OpenAI có độc đáo không, hay nó có nhiều mô hình?
Mira: Còn tùy vào việc cậu muốn làm gì. Rõ ràng, quỹ đạo hiện nay là các hệ thống trí tuệ nhân tạo này sẽ ngày càng làm được nhiều việc hơn mà chúng ta đang làm. Họ sẽ có thể hoạt động tự chủ, nhưng chúng tôi sẽ cần đưa ra chỉ đạo, hướng dẫn và giám sát. Nhưng tôi không muốn làm nhiều công việc lặp đi lặp lại mà tôi phải làm hàng ngày. Tôi muốn tập trung vào những thứ khác. Có lẽ chúng ta không phải làm việc 10, 12 tiếng mỗi ngày, có thể chúng ta có thể làm việc ít hơn và làm việc hiệu quả hơn. Đó là điều tôi hy vọng. Về cách thức hoạt động của nền tảng, thậm chí ngày nay bạn có thể thấy rằng chúng tôi có sẵn nhiều mô hình thông qua API, từ các mô hình rất nhỏ đến các mô hình tiên tiến của chúng tôi.
Không phải lúc nào người ta cũng cần sử dụng mô hình mạnh mẽ và có khả năng nhất. Đôi khi họ chỉ cần một mô hình thực sự phù hợp với trường hợp sử dụng cụ thể của họ và tiết kiệm hơn nhiều. Tôi nghĩ sẽ có một phạm vi. Nhưng xét về cách chúng tôi tưởng tượng về trò chơi nền tảng, chúng tôi chắc chắn muốn mọi người xây dựng dựa trên mô hình của chúng tôi và chúng tôi muốn cung cấp cho họ các công cụ để giúp việc này trở nên dễ dàng cũng như cấp cho họ ngày càng nhiều quyền truy cập và kiểm soát hơn. Bạn có thể mang theo dữ liệu của mình, bạn có thể tùy chỉnh các mô hình này. Bạn thực sự có thể tập trung vào các lớp bên ngoài mô hình và xác định sản phẩm, điều này thực sự rất rất khó khăn. Hiện nay người ta tập trung nhiều vào việc xây dựng nhiều mô hình hơn, nhưng rất khó để tạo ra những sản phẩm tốt dựa trên những mô hình này.
5-10 năm tới
MARTIN: Tôi muốn bạn dự đoán xem điều này sẽ diễn ra ở đâu trong 3, 5 hoặc 10 năm nữa.
Mira: Tôi nghĩ mô hình nền tảng ngày nay có sự thể hiện tuyệt vời về thế giới trong văn bản. Chúng tôi đang thêm các mô hình khác như hình ảnh, video và tất cả những thứ khác để những mô hình này có thể cung cấp bức tranh hoàn chỉnh hơn về thế giới xung quanh chúng ta, tương tự như cách chúng ta hiểu và quan sát thế giới. Thế giới tồn tại không chỉ bằng lời nói mà còn bằng hình ảnh. Chúng tôi chắc chắn đang đi theo hướng đó và chúng tôi sẽ có những mô hình lớn hơn sử dụng tất cả các mô hình này trong công việc đào tạo trước. Chúng tôi thực sự muốn những mô hình được đào tạo trước này hiểu thế giới như chúng tôi.
Trong phần đầu ra của mô hình, chúng tôi giới thiệu học tập tăng cường với phản hồi của con người. Chúng tôi muốn mô hình thực sự làm những gì chúng tôi yêu cầu và chúng tôi muốn điều đó đáng tin cậy. Điều này đòi hỏi rất nhiều công sức và có lẽ phải giới thiệu tính năng duyệt web để có thể lấy được thông tin mới, tham khảo và giải quyết ảo giác. Tôi không nghĩ điều đó là có thể. Tôi nghĩ điều này có thể đạt được.
Về mặt sản phẩm, chúng tôi muốn kết hợp tất cả những thứ này lại thành một bộ sưu tập các sản phẩm mà mọi người làm việc cùng và cung cấp một nền tảng mà mọi người có thể xây dựng trên đó. Nếu bạn thực sự hướng ngoại, những mô hình này rất, rất mạnh mẽ. Rõ ràng, cùng với đó là nỗi sợ hãi rằng những mô hình rất mạnh mẽ này không phù hợp với ý định của chúng tôi. Một thách thức lớn là Super Alignment, đây là một thử thách kỹ thuật khó. Chúng tôi có cả một nhóm tại OpenAI tập trung vào vấn đề này.
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
a16z trò chuyện với OpenAI CTO: Công nghệ AI sẽ thúc đẩy sự đổi mới trong tương lai như thế nào?
Viết bởi Thánh Phaolô
Sau khi OpenAI phát hành ChatGPT vào cuối năm 2022, sự hiểu biết của giới đầu tư về lĩnh vực trí tuệ nhân tạo tiếp tục sâu sắc hơn. Chuỗi ngành trí tuệ nhân tạo có thể được chia đại khái thành các nhà cung cấp công nghệ cốt lõi, hệ thống trí tuệ nhân tạo và người sử dụng trí tuệ nhân tạo. Đánh giá từ nhận thức chung của các nhà đầu tư toàn cầu, giờ đây ai cũng nhận thấy trí tuệ nhân tạo có thể sẽ trở thành con đường đầu tư lâu dài trong tương lai, tương tự như máy tính 30 năm trước, hay Internet 20 năm trước. Và trong tương lai, các ứng dụng đã trở thành hiện thực.
Để hiểu rõ về đầu tư vào các lĩnh vực được chia ra, chúng ta luôn cần phải học hỏi từ các nhà đầu tư trong ngành. Nhà đầu tư mạo hiểm nổi tiếng A16Z tiếp tục đặt cược lớn vào lĩnh vực trí tuệ nhân tạo. Gần đây họ đã có cuộc trò chuyện với CTO của OpenAI, Mira Murati. Cô chia sẻ câu chuyện đằng sau ChatGPT và tương lai của trí tuệ nhân tạo và tương tác giữa con người với máy tính.
Bản tóm tắt
#Mira Murati Nền
Mira sinh ra ở Albania, ngay sau khi chủ nghĩa cộng sản kết thúc. Albania thời đó rất giống Triều Tiên ngày nay. Trong thời đại thay đổi liên tục và không chắc chắn, giáo dục nắm giữ chìa khóa cho mọi thứ. Hơn nữa, thời đó ngoài sách vở ra, có rất ít trò giải trí. Lúc đó, Mira đang tìm kiếm câu trả lời trong sách. Mira thích những sự thật khoa học ổn định và có thể nghiên cứu chuyên sâu. Và nguồn gốc của các môn nhân văn như lịch sử, xã hội học đều đáng nghi ngờ vì lịch sử không ngừng thay đổi. Vì vậy, Mira được nuôi dưỡng với thiên hướng trực quan và tự nhiên về khoa học và toán học. Về cơ bản, Mira vẫn tham gia vào lĩnh vực toán học tại Open AI.
Nhờ thành tích học tập xuất sắc, Mira đã nhận được học bổng và hoàn thành hai năm cuối trung học ở Canada.
Ở trường đại học, Mira học ngành cơ khí vì cô tin rằng đó là cách tốt nhất để áp dụng kiến thức vào các vấn đề trong thế giới thực. Vào thời điểm đó, Mira rất quan tâm đến việc mang lại phương tiện giao thông bền vững và năng lượng bền vững cho thế giới. Đồ án tốt nghiệp của cô lúc đó là chế tạo một chiếc xe đua hybrid sử dụng siêu tụ điện.
Ngay sau đó, Mira gia nhập Tesla và tham gia nghiên cứu động cơ kép Model S. Cô đã làm việc với Model X từ những ngày đầu thiết kế ban đầu và cuối cùng dẫn dắt toàn bộ quá trình khởi động dự án.
Cũng chính việc làm việc tại Tesla đã khiến Mira rất hứng thú với việc ứng dụng trí tuệ nhân tạo, đặc biệt là xe tự lái. Bởi vì nó có thể sử dụng AI và thị giác máy tính để cách mạng hóa ngành du lịch. Cô bắt đầu suy nghĩ nhiều hơn về các ứng dụng khác nhau của trí tuệ nhân tạo. Vì vậy, Mira ngày càng quan tâm đến AI và những thay đổi mà nó có thể tạo ra trên thế giới.
Cụ thể, cô rất tò mò về cách AI ảnh hưởng đến sự tương tác giữa con người và máy tính cũng như cách con người tương tác với thông tin nói chung và rất quan tâm đến điện toán không gian. Sau đó, cô gia nhập Leap Motion, một công ty công nghệ của người da đen, với vai trò phó chủ tịch sản phẩm và kỹ thuật. Chính trải nghiệm này đã củng cố thêm khả năng sản xuất của cô.
(Nhân tiện, người sáng lập Leap Motion, David Holz, đã thành lập một ứng dụng trí tuệ nhân tạo phổ biến khác Midjourney sau khi bán Leap Motion).
Năm 2018, Mira tham gia OpenAI. Đó là lúc cô bắt đầu suy nghĩ nhiều hơn về điều gì sẽ xảy ra nếu cô chỉ tập trung vào tính linh hoạt.
Ngoài ra, từ cuộc thảo luận của Mira về phương pháp nghiên cứu, chúng ta có thể thấy tinh thần khám phá đổi mới công nghệ của cô ấy trong một môi trường không chắc chắn:
#Tóm tắt cuộc trò chuyện
Nhà đầu tư mạo hiểm nổi tiếng A16Z đã đặt cược lớn vào lĩnh vực trí tuệ nhân tạo. Đoạn trích sau đây là đoạn trích từ cuộc trò chuyện giữa Martin, người quản lý quỹ của A16Z và Mira. Mira đã chia sẻ câu chuyện đằng sau ChatGPT và tương lai của trí tuệ nhân tạo và tương tác giữa con người với máy tính. Chúng ta cũng có thể thấy Mira, người có xuất thân là giám đốc sản phẩm, cực kỳ quan tâm đến khả năng ứng dụng của sản phẩm.
MARTIN: Bạn có nghĩ hiện tại vấn đề nằm ở vấn đề hệ thống hay vấn đề kỹ thuật không?
Mira: Cả hai. Các vấn đề về hệ thống và kỹ thuật là rất lớn và chúng tôi đang triển khai những công nghệ này, cố gắng mở rộng quy mô, làm cho chúng hiệu quả hơn và giúp chúng có thể truy cập được. Điều này có nghĩa là bạn không cần phải biết sự phức tạp của ML để sử dụng chúng.
Trên thực tế, chúng ta có thể thấy sự tương phản giữa việc cung cấp các mô hình này thông qua API và việc cung cấp công nghệ thông qua ChatGPT. Về cơ bản, nó là cùng một công nghệ, với một ngoại lệ có thể xảy ra: ChatGPT có khả năng học tập tăng cường và phản hồi của con người. Điều này có nghĩa là phản ứng và khả năng nắm bắt trí tưởng tượng của mọi người và cho phép họ sử dụng công nghệ này hàng ngày là hoàn toàn khác nhau.
giao diện ngôn ngữ tự nhiên
Martin: Tôi cũng nghĩ API ChatGPT là một điều rất thú vị. Bất cứ khi nào tôi sử dụng những mô hình này trong các chương trình của mình, tôi luôn có cảm giác như đang bọc một siêu máy tính vào một chiếc bàn tính. Đôi khi tôi sẽ nói, "Tôi sẽ đưa cho mô hình một bàn phím và chuột và để nó lập trình." API bằng tiếng Anh và tôi sẽ cho nó biết phải làm gì và nó sẽ thực hiện tất cả việc lập trình. Tôi tò mò, khi bạn thiết kế thứ gì đó như ChatGPT, bạn có nghĩ rằng theo thời gian giao diện thực tế sẽ là ngôn ngữ tự nhiên hay bạn nghĩ các chương trình vẫn có vai trò lớn?
Mira: Việc lập trình trở nên ít trừu tượng hơn trong ChatGPT và chúng ta có thể nói chuyện với máy tính bằng ngôn ngữ tự nhiên ở băng thông cao. Nhưng có lẽ một nguyên nhân khác là công nghệ này đang giúp chúng ta hiểu cách thực sự làm việc với nó hơn là lập trình nó. Lớp lập trình ngày càng dễ dàng và dễ tiếp cận hơn vì bạn có thể lập trình bằng ngôn ngữ tự nhiên. Nhưng mặt khác mà chúng tôi thấy với ChatGPT là bạn thực sự có thể làm việc với mô hình như một đối tác hoặc đồng nghiệp.
MARTIN: Sẽ rất thú vị khi xem điều gì sẽ xảy ra theo thời gian. Bạn đã quyết định có API trong ChatGTP, nhưng với tư cách là đồng nghiệp, bạn không có API. Bạn đang nói chuyện với một đồng nghiệp. Theo thời gian, những điều này có thể phát triển thành việc nói ngôn ngữ tự nhiên. Hay bạn cho rằng luôn cần phải có một thành phần trong hệ thống đó là máy trạng thái hữu hạn, hay máy tính truyền thống?
Mira: Hiện tại có một điểm bùng phát khi chúng tôi đang xác định lại cách chúng ta tương tác với thông tin kỹ thuật số và chúng tôi đang thực hiện điều đó dưới dạng các hệ thống trí tuệ nhân tạo này. Có thể chúng ta có một số hệ thống AI, có thể chúng đều có những khả năng khác nhau. Có thể chúng ta có một hệ thống phổ quát theo chúng ta khắp mọi nơi, biết lý lịch của tôi, những gì tôi đã làm hôm nay, mục tiêu của tôi trong cuộc sống và công việc, giúp tôi vượt qua những thời điểm khó khăn, hướng dẫn tôi, v.v. Như bạn có thể tưởng tượng, điều này là siêu mạnh mẽ.
Bây giờ, chúng ta đang ở thời điểm bước ngoặt trong việc xác định lại nó. Chúng tôi không biết tương lai sẽ như thế nào và chúng tôi đang nỗ lực cung cấp những công cụ và kỹ thuật này cho nhiều người khác để họ có thể thử nghiệm và chúng tôi có thể xem điều gì sẽ xảy ra. Đây là chiến lược chúng tôi đã sử dụng ngay từ đầu.
Trong ChatGPT tuần trước, chúng tôi lo lắng rằng nó chưa đủ tốt. Tất cả chúng tôi đều thấy điều gì đã xảy ra. Chúng tôi đã công bố nó và mọi người nói với chúng tôi rằng nó đã làm rất tốt việc tìm kiếm các trường hợp mới. Đó là điều sẽ xảy ra khi bạn làm cho những thứ này trở nên dễ tiếp cận và dễ sử dụng, đồng thời bạn giúp mọi người dễ dàng sử dụng nó.
Lộ trình phát triển OpenAI
MARTIN: Khi nói đến trí tuệ nhân tạo, mọi người chưa biết cách suy nghĩ. Phải có một số hướng dẫn, bạn phải đưa ra một số lựa chọn. Bạn đang ở OpenAI và bạn phải quyết định phải làm gì tiếp theo. Nếu bạn có thể trải qua quá trình ra quyết định này: Bạn quyết định phải làm gì, tập trung vào điều gì, giải phóng điều gì hoặc định vị bản thân như thế nào?
Mira: Nếu bạn nghĩ về cách ChatGPT ra đời thì đó không phải là sản phẩm mà chúng tôi muốn ra mắt. Trên thực tế, nguồn gốc thực sự của nó đã có từ hơn 5 năm trước, khi chúng tôi đang nghĩ về cách tạo ra một hệ thống trí tuệ nhân tạo an toàn. Bạn không nhất thiết muốn con người thực sự viết hàm mục tiêu, bởi vì bạn không muốn người thay thế làm việc đó cho một hàm mục tiêu phức tạp hoặc bạn không muốn mắc lỗi vì điều đó có thể rất nguy hiểm.
Đây là lúc việc học tăng cường sử dụng phản hồi của con người xuất hiện. Điều chúng tôi thực sự cố gắng đạt được là điều chỉnh hệ thống AI phù hợp với các giá trị của con người và cho phép nó chấp nhận phản hồi của con người. Dựa trên phản hồi của con người, nó có nhiều khả năng làm điều đúng đắn và ít có khả năng làm điều gì đó mà bạn không muốn làm. Sau đó, sau khi chúng tôi phát triển GPT-3 và phát hành nó trên API, đây là lần đầu tiên chúng tôi thực sự áp dụng nghiên cứu bảo mật của mình vào thế giới thực. Điều này đạt được thông qua mô hình làm theo hướng dẫn.
Chúng tôi sử dụng phương pháp này để lấy tín hiệu từ khách hàng sử dụng API và sau đó chúng tôi yêu cầu các nhà thầu tạo phản hồi để mô hình học hỏi. Chúng tôi đã tinh chỉnh mô hình dựa trên dữ liệu này và xây dựng mô hình theo hướng dẫn. Họ có nhiều khả năng làm theo ý định của người dùng và làm những gì bạn thực sự muốn họ làm. Điều này rất có tác dụng vì an toàn AI không chỉ là một khái niệm lý thuyết mà bạn ngồi đó và nói đến. Nó thực sự trở thành: Chúng ta hiện đang bước vào thời đại hệ thống an ninh trí tuệ nhân tạo, làm cách nào để tích hợp nó vào thế giới thực?
Rõ ràng, trong các mô hình ngôn ngữ lớn, chúng ta thấy những cách thể hiện tuyệt vời về các khái niệm và ý tưởng trong thế giới thực. Nhưng về đầu ra thì còn nhiều vấn đề. Một trong những vấn đề lớn nhất rõ ràng là ảo giác. Chúng tôi đang nghiên cứu các vấn đề về ảo tưởng và tính xác thực. Làm thế nào để bạn có được những mô hình này để thể hiện sự không chắc chắn?
Tiền thân của ChatGPT thực ra là một dự án khác mà chúng tôi gọi là WebGPT, dự án này sử dụng khả năng truy xuất để lấy thông tin và trích dẫn nguồn. Dự án này cuối cùng đã trở thành ChatGPT vì chúng tôi nghĩ rằng các cuộc trò chuyện rất đặc biệt. Nó cho phép bạn đặt câu hỏi, sửa lỗi cho người khác và thể hiện sự không chắc chắn.
MARTIN: Các lỗi liên tục được phát hiện bởi vì bạn đang tương tác...
Mira: Vâng, với kiểu tương tác này, bạn có thể hiểu được sự thật sâu sắc hơn. Chúng tôi đã bắt đầu đi theo hướng này và vào thời điểm đó chúng tôi đang thực hiện điều này với GPT-3 và GPT-3.5. Từ góc độ bảo mật, chúng tôi rất vui mừng về điều này. Nhưng có một điều mọi người quên là vào thời điểm này, chúng tôi đã đào tạo GPT-4. Trong OpenAI, chúng tôi rất vui mừng về GPT-4 và có ChatGPT trong gương chiếu hậu. Sau đó, chúng tôi nhận ra: "Chúng tôi sẽ dành sáu tháng để tập trung vào sự liên kết và an toàn của GPT-4" và chúng tôi bắt đầu suy nghĩ về những gì mình có thể làm. Một trong những điều quan trọng nhất là đưa ChatGPT đến tay các nhà nghiên cứu và họ có thể cung cấp cho chúng tôi phản hồi khi chúng tôi có mô hình trò chuyện này. Mục đích ban đầu là nhận phản hồi từ các nhà nghiên cứu và sử dụng phản hồi đó để làm cho GPT-4 trở nên nhất quán, an toàn, mạnh mẽ và đáng tin cậy hơn.
MARTIN: Khi bạn nói tính nhất quán và bảo mật, bạn có đúng khi đưa điều đó vào, rằng nó làm bất cứ điều gì nó muốn không? Hay bạn muốn nói đến sự an toàn, thực sự là bảo vệ bản thân khỏi một loại tổn hại nào đó?
Mira: Bằng sự nhất quán, ý tôi thường là nó phù hợp với mục đích của người dùng, do đó nó thực hiện chính xác những gì bạn muốn. Nhưng bảo mật cũng bao gồm những thứ khác, chẳng hạn như lạm dụng, trong đó người dùng cố tình sử dụng một mô hình để tạo ra kết quả có hại. Với ChatGPT, chúng tôi thực sự đang cố gắng làm cho mô hình có nhiều khả năng thực hiện những gì bạn muốn, làm cho mô hình trở nên nhất quán hơn. Chúng tôi cũng muốn tìm ra vấn đề ảo giác, đây rõ ràng là một vấn đề cực kỳ khó khăn.
Tôi nghĩ cách tiếp cận sử dụng phản hồi của con người để học tập củng cố, nếu chúng ta cố gắng làm điều đó, có lẽ đó là điều chúng ta cần.
MARTIN: Vậy là không có kế hoạch lớn à? Chúng ta cần làm gì để đạt được AGI? Đó chỉ là vấn đề thực hiện từng bước một.
Mira: Vâng. Và tất cả những quyết định nhỏ bạn đưa ra trên đường đi. Có lẽ điều đó có nhiều khả năng xảy ra hơn vì chúng tôi đã đưa ra quyết định chiến lược vài năm trước là theo đuổi sản phẩm này. Chúng tôi làm điều này vì chúng tôi tin rằng không thể chỉ ngồi trong phòng thí nghiệm và phát triển những thứ này trong chân không mà không có phản hồi từ người dùng trong thế giới thực. Đó là giả định. Tôi nghĩ điều đó giúp chúng tôi đưa ra một số quyết định và xây dựng cơ sở hạ tầng cơ bản để cuối cùng chúng tôi có thể triển khai thứ gì đó như ChatGPT.
Luật tỷ lệ
MARTIN: Bạn có thể lặp lại luật tỷ lệ. Tôi nghĩ đây là một vấn đề lớn mà mọi người đều gặp phải. Tốc độ tiến bộ thật đáng kinh ngạc. Nhưng lịch sử của trí tuệ nhân tạo dường như cho thấy rằng đến một lúc nào đó bạn đạt được lợi nhuận giảm dần và đó không phải là tham số. Nó loại giảm dần. Từ quan điểm của bạn (có lẽ là quan điểm khôn ngoan nhất trong toàn bộ ngành), bạn có nghĩ quy luật mở rộng quy mô sẽ được giữ vững và chúng ta sẽ tiếp tục thấy sự tiến bộ hay bạn nghĩ chúng ta đang hướng tới lợi nhuận giảm dần?
Mira: Không có bằng chứng nào cho thấy khi chúng tôi tiếp tục mở rộng mô hình trên các trục dữ liệu và tính toán, chúng tôi sẽ không có được các mô hình tốt hơn, mạnh mẽ hơn. Liệu nó có tiến tới AGI (Trí tuệ tổng hợp nhân tạo) hay không lại là một câu hỏi khác. Trong quá trình này, có thể cần đến một số đột phá và tiến bộ khác. Để thực sự thu được nhiều lợi ích từ những mô hình lớn hơn này, quy luật mở rộng quy mô vẫn còn một chặng đường dài.
MARTIN: Bạn định nghĩa AGI như thế nào?
Mira: Trong điều lệ OpenAI của chúng tôi. Chúng tôi định nghĩa nó là một hệ thống máy tính có thể tự động hoàn thành hầu hết các công việc trí tuệ.
Martin: Tôi đang ăn trưa và Robert Nishihara từ Anyscale đã ở đó. Anh ấy hỏi cái mà tôi gọi là câu hỏi Robert Nishihara. Tôi nghĩ đó thực sự là một đặc tính khá tốt. Ông nói, "Có một sự liên tục giữa máy tính và Einstein. Bạn đi từ máy tính đến mèo, từ mèo đến người bình thường, và từ người bình thường đến Einstein." Sau đó, ông đặt câu hỏi, "Chúng ta đang ở trên một địa điểm liên tục."? Những vấn đề gì sẽ được giải quyết?”
Mọi người đều đồng ý rằng chúng ta biết cách biến một con mèo thành một con người. Chúng ta không biết làm thế nào để biến một chiếc máy tính thành một con mèo bởi vì đó là một vấn đề phổ biến về nhận thức. Chúng ta đã đến gần, nhưng vẫn chưa hoàn toàn đến đó, và chúng ta thực sự không biết cách làm Einstein, và đó là lý do đã đặt ra.
Mira: Bạn có thể nhận được rất nhiều điều nhờ tinh chỉnh, nhưng nhìn chung, tôi nghĩ, trong hầu hết các nhiệm vụ, hiện tại chúng tôi đang ở cấp độ thực tập sinh. Vấn đề là độ tin cậy. Bạn không thể hoàn toàn dựa vào hệ thống để làm những gì bạn muốn nó làm mọi lúc. Trong nhiều nhiệm vụ nó không thể làm được. Làm thế nào để bạn cải thiện độ tin cậy theo thời gian và sau đó mở rộng các khả năng mới mà các mô hình này có thể thực hiện?
Tôi nghĩ điều quan trọng là phải chú ý đến những khả năng mới nổi này, ngay cả khi chúng rất không đáng tin cậy. Đặc biệt đối với những người đang xây dựng một công ty ngày nay, bạn thực sự muốn nghĩ đến "Điều gì có thể xảy ra ngày hôm nay? Bạn nhìn thấy gì hôm nay?" Những mô hình này nhanh chóng trở nên đáng tin cậy.
**Một người mẫu có thể chinh phục cả thế giới? **
MARTIN: Tôi sẽ hỏi ngay, dự đoán tương lai sẽ như thế nào. Nhưng trước khi tôi hỏi một cách ích kỷ, bạn nghĩ tính kinh tế của việc này sẽ diễn ra như thế nào. Tôi kể cho bạn nghe nó làm tôi nhớ đến điều gì. Điều này làm tôi nhớ đến ngành công nghiệp silicon. Tôi nhớ vào những năm 90, khi bạn mua một chiếc máy tính, có rất nhiều bộ xử lý viết kỳ lạ. "Đây là khớp chuỗi, đây là dấu phẩy động, đây là mã hóa", tất cả đều ngốn CPU.
Hóa ra tính linh hoạt mạnh mẽ đến mức nó tạo ra một kiểu nền kinh tế nhất định trong đó cả Intel và AMD đều là người chơi. Tất nhiên, để làm ra những con chip này sẽ tốn rất nhiều tiền.
Vì vậy, bạn có thể tưởng tượng hai tương lai. Trong tương lai, tính linh hoạt mạnh mẽ đến mức các mô hình lớn về cơ bản sẽ hấp thụ tất cả chức năng theo thời gian. Và sau đó là một tương lai khác, nơi có rất nhiều mô hình khác nhau, đủ loại chi tiết, điểm khác nhau trong không gian thiết kế. Bạn có cảm giác này không: OpenAI có độc đáo không, hay nó có nhiều mô hình?
Mira: Còn tùy vào việc cậu muốn làm gì. Rõ ràng, quỹ đạo hiện nay là các hệ thống trí tuệ nhân tạo này sẽ ngày càng làm được nhiều việc hơn mà chúng ta đang làm. Họ sẽ có thể hoạt động tự chủ, nhưng chúng tôi sẽ cần đưa ra chỉ đạo, hướng dẫn và giám sát. Nhưng tôi không muốn làm nhiều công việc lặp đi lặp lại mà tôi phải làm hàng ngày. Tôi muốn tập trung vào những thứ khác. Có lẽ chúng ta không phải làm việc 10, 12 tiếng mỗi ngày, có thể chúng ta có thể làm việc ít hơn và làm việc hiệu quả hơn. Đó là điều tôi hy vọng. Về cách thức hoạt động của nền tảng, thậm chí ngày nay bạn có thể thấy rằng chúng tôi có sẵn nhiều mô hình thông qua API, từ các mô hình rất nhỏ đến các mô hình tiên tiến của chúng tôi.
Không phải lúc nào người ta cũng cần sử dụng mô hình mạnh mẽ và có khả năng nhất. Đôi khi họ chỉ cần một mô hình thực sự phù hợp với trường hợp sử dụng cụ thể của họ và tiết kiệm hơn nhiều. Tôi nghĩ sẽ có một phạm vi. Nhưng xét về cách chúng tôi tưởng tượng về trò chơi nền tảng, chúng tôi chắc chắn muốn mọi người xây dựng dựa trên mô hình của chúng tôi và chúng tôi muốn cung cấp cho họ các công cụ để giúp việc này trở nên dễ dàng cũng như cấp cho họ ngày càng nhiều quyền truy cập và kiểm soát hơn. Bạn có thể mang theo dữ liệu của mình, bạn có thể tùy chỉnh các mô hình này. Bạn thực sự có thể tập trung vào các lớp bên ngoài mô hình và xác định sản phẩm, điều này thực sự rất rất khó khăn. Hiện nay người ta tập trung nhiều vào việc xây dựng nhiều mô hình hơn, nhưng rất khó để tạo ra những sản phẩm tốt dựa trên những mô hình này.
5-10 năm tới
MARTIN: Tôi muốn bạn dự đoán xem điều này sẽ diễn ra ở đâu trong 3, 5 hoặc 10 năm nữa.
Mira: Tôi nghĩ mô hình nền tảng ngày nay có sự thể hiện tuyệt vời về thế giới trong văn bản. Chúng tôi đang thêm các mô hình khác như hình ảnh, video và tất cả những thứ khác để những mô hình này có thể cung cấp bức tranh hoàn chỉnh hơn về thế giới xung quanh chúng ta, tương tự như cách chúng ta hiểu và quan sát thế giới. Thế giới tồn tại không chỉ bằng lời nói mà còn bằng hình ảnh. Chúng tôi chắc chắn đang đi theo hướng đó và chúng tôi sẽ có những mô hình lớn hơn sử dụng tất cả các mô hình này trong công việc đào tạo trước. Chúng tôi thực sự muốn những mô hình được đào tạo trước này hiểu thế giới như chúng tôi.
Trong phần đầu ra của mô hình, chúng tôi giới thiệu học tập tăng cường với phản hồi của con người. Chúng tôi muốn mô hình thực sự làm những gì chúng tôi yêu cầu và chúng tôi muốn điều đó đáng tin cậy. Điều này đòi hỏi rất nhiều công sức và có lẽ phải giới thiệu tính năng duyệt web để có thể lấy được thông tin mới, tham khảo và giải quyết ảo giác. Tôi không nghĩ điều đó là có thể. Tôi nghĩ điều này có thể đạt được.
Về mặt sản phẩm, chúng tôi muốn kết hợp tất cả những thứ này lại thành một bộ sưu tập các sản phẩm mà mọi người làm việc cùng và cung cấp một nền tảng mà mọi người có thể xây dựng trên đó. Nếu bạn thực sự hướng ngoại, những mô hình này rất, rất mạnh mẽ. Rõ ràng, cùng với đó là nỗi sợ hãi rằng những mô hình rất mạnh mẽ này không phù hợp với ý định của chúng tôi. Một thách thức lớn là Super Alignment, đây là một thử thách kỹ thuật khó. Chúng tôi có cả một nhóm tại OpenAI tập trung vào vấn đề này.