Tác giả: Chris Dixon, người sáng lập a16z crypto; Elizabeth Harkavy, đối tác a16z crypto; Dịch: Jinse Finance xiaozou
Hệ thống trí tuệ nhân tạo hiện đại không chỉ phụ thuộc vào sức mạnh tính toán và thuật toán, mà còn không thể thiếu phản hồi từ con người. Các doanh nghiệp áp dụng các kỹ thuật tối ưu hóa sau đào tạo như học tăng cường với phản hồi của con người (RLHF) và tối ưu hóa sở thích trực tiếp (DPO) để cải thiện mô hình. Những kỹ thuật này có thể giảm thiên lệch, giúp mô hình phản hồi với từ khóa một cách chất lượng và mạch lạc hơn - điều này rất quan trọng để thúc đẩy sự phát triển của AI. Đánh giá mô hình cũng rất quan trọng, nhưng chỉ khi định nghĩa được "tốt hơn" là gì, mới có thể thực hiện tối ưu hóa mô hình.
Thách thức phát sinh từ đây: Các doanh nghiệp không muốn chia sẻ - họ coi dữ liệu và quy trình đào tạo là bí mật. Điều này dẫn đến việc đánh giá mô hình AI chỉ có thể dựa vào thông tin hạn chế từ các hệ thống khép kín, hoặc các bài kiểm tra chuẩn tĩnh không liên quan đến ứng dụng thực tế, nghiêm trọng hạn chế không gian cải tiến của mô hình. Người dùng cũng rơi vào vùng mù thông tin, không rõ phản hồi của họ ảnh hưởng như thế nào đến mô hình, thậm chí còn không thể xác nhận liệu phản hồi có được áp dụng hay không. Một số bảng xếp hạng mô hình và nền tảng crowdsourcing cố gắng cải thiện tính minh bạch, nhưng thường không hỗ trợ người dùng truy ngược lại đóng góp của chính mình, cũng như không cung cấp phần thưởng tham gia thực sự. Những nền tảng tuyên bố công bằng và minh bạch thường phụ thuộc vào sự trung thực chứ không phải tiêu chuẩn có thể thực thi.
Chúng tôi tin rằng công nghệ mã hóa có thể mang lại tính minh bạch và quyền sở hữu cho vùng xám AI này. Blockchain không chỉ giúp người đóng góp dễ dàng nhận được phần thưởng mà còn cung cấp cho các nhà phát triển AI một bảo đảm đáng tin cậy về chất lượng và nguồn gốc dữ liệu phản hồi. Người dùng nhận được động lực, các nhà phát triển nhận được dữ liệu đáng tin cậy, và mọi người đều có thể thực hiện kiểm toán hai chiều trong thị trường mở này. Để đạt được điều này, chúng tôi đã dẫn dắt vòng gọi vốn hạt giống 33 triệu đô la cho sản phẩm tiêu dùng Yupp, nền tảng cho phép mọi người khám phá và so sánh miễn phí các mô hình AI mới nhất.
Yupp áp dụng mô hình crowdsourcing để đánh giá mô hình: người dùng nhập từ khóa gợi ý, xem đồng thời nhiều phản hồi do AI tạo ra, sau đó chọn câu trả lời tốt nhất. Lựa chọn của họ sẽ tạo ra dữ liệu "gói" sở thích có chữ ký số, dữ liệu này rất có giá trị cho việc tối ưu hóa và đánh giá sau khi AI được đào tạo. Người dùng không chỉ có thể sử dụng miễn phí mô hình mới nhất mà còn nhận được phần thưởng dựa trên phản hồi đã cung cấp.
Thiết kế của Yupp biến phán đoán của con người thành một nguồn tài nguyên kinh tế tái tạo. Khi dữ liệu tương tác mới được tạo ra, dữ liệu cũ "hết hạn", tạo ra một bánh đà tự nhiên: việc áp dụng nhiều hơn dẫn đến đánh giá mới hơn; Đánh giá mới hơn dẫn đến các mô hình tốt hơn; Các mô hình chất lượng tốt hơn thu hút nhiều người sử dụng hơn. Tất cả những người tham gia – từ người dùng thông thường đến nhà phát triển mô hình AI – đều có thể tham gia và xem các quy tắc minh bạch áp dụng cho tất cả mọi người, đảm bảo rằng thị trường vẫn đáng tin cậy và trung lập. Không ai có thể che giấu điểm số và không ai có thể thao túng phần thưởng hoặc kết quả.
Đội ngũ sáng lập có kinh nghiệm sâu sắc trong lĩnh vực AI và tiền điện tử. Họ đã cùng nhau phát triển các sản phẩm machine learning hướng đến người tiêu dùng trong giai đoạn đầu của Twitter. Pankaj Gupta từng là người đứng đầu kỹ thuật cho người tiêu dùng toàn cầu tại Google Pay và Coinbase, trong khi Gilad Mishne từng là người đứng đầu machine learning tại GoogleX. Đội ngũ khởi nghiệp quy tụ các kỹ sư cấp cao từ Google, Coinbase và các phòng thí nghiệm hàng đầu.
AI cần một hệ thống đánh giá mạnh mẽ và đáng tin cậy dựa trên đầu vào từ con người quy mô lớn, và công nghệ mã hóa chính là chiếc máy tin cậy để đạt được mục tiêu này. Bằng cách cho phép người dùng toàn cầu đóng góp phản hồi để cải thiện mô hình, Yupp cam kết trở thành lớp đánh giá cơ sở cho AI trong tương lai. Chúng tôi rất vinh dự được hỗ trợ Yupp và mong muốn hợp tác với họ để xây dựng vòng phản hồi trên chuỗi, đảm bảo rằng kết quả đổi mới AI được chia sẻ bởi tất cả những người xây dựng.
Nội dung chỉ mang tính chất tham khảo, không phải là lời chào mời hay đề nghị. Không cung cấp tư vấn về đầu tư, thuế hoặc pháp lý. Xem Tuyên bố miễn trừ trách nhiệm để biết thêm thông tin về rủi ro.
a16z: Tại sao chúng tôi đầu tư vào Yupp
Tác giả: Chris Dixon, người sáng lập a16z crypto; Elizabeth Harkavy, đối tác a16z crypto; Dịch: Jinse Finance xiaozou
Hệ thống trí tuệ nhân tạo hiện đại không chỉ phụ thuộc vào sức mạnh tính toán và thuật toán, mà còn không thể thiếu phản hồi từ con người. Các doanh nghiệp áp dụng các kỹ thuật tối ưu hóa sau đào tạo như học tăng cường với phản hồi của con người (RLHF) và tối ưu hóa sở thích trực tiếp (DPO) để cải thiện mô hình. Những kỹ thuật này có thể giảm thiên lệch, giúp mô hình phản hồi với từ khóa một cách chất lượng và mạch lạc hơn - điều này rất quan trọng để thúc đẩy sự phát triển của AI. Đánh giá mô hình cũng rất quan trọng, nhưng chỉ khi định nghĩa được "tốt hơn" là gì, mới có thể thực hiện tối ưu hóa mô hình.
Thách thức phát sinh từ đây: Các doanh nghiệp không muốn chia sẻ - họ coi dữ liệu và quy trình đào tạo là bí mật. Điều này dẫn đến việc đánh giá mô hình AI chỉ có thể dựa vào thông tin hạn chế từ các hệ thống khép kín, hoặc các bài kiểm tra chuẩn tĩnh không liên quan đến ứng dụng thực tế, nghiêm trọng hạn chế không gian cải tiến của mô hình. Người dùng cũng rơi vào vùng mù thông tin, không rõ phản hồi của họ ảnh hưởng như thế nào đến mô hình, thậm chí còn không thể xác nhận liệu phản hồi có được áp dụng hay không. Một số bảng xếp hạng mô hình và nền tảng crowdsourcing cố gắng cải thiện tính minh bạch, nhưng thường không hỗ trợ người dùng truy ngược lại đóng góp của chính mình, cũng như không cung cấp phần thưởng tham gia thực sự. Những nền tảng tuyên bố công bằng và minh bạch thường phụ thuộc vào sự trung thực chứ không phải tiêu chuẩn có thể thực thi.
Chúng tôi tin rằng công nghệ mã hóa có thể mang lại tính minh bạch và quyền sở hữu cho vùng xám AI này. Blockchain không chỉ giúp người đóng góp dễ dàng nhận được phần thưởng mà còn cung cấp cho các nhà phát triển AI một bảo đảm đáng tin cậy về chất lượng và nguồn gốc dữ liệu phản hồi. Người dùng nhận được động lực, các nhà phát triển nhận được dữ liệu đáng tin cậy, và mọi người đều có thể thực hiện kiểm toán hai chiều trong thị trường mở này. Để đạt được điều này, chúng tôi đã dẫn dắt vòng gọi vốn hạt giống 33 triệu đô la cho sản phẩm tiêu dùng Yupp, nền tảng cho phép mọi người khám phá và so sánh miễn phí các mô hình AI mới nhất.
Yupp áp dụng mô hình crowdsourcing để đánh giá mô hình: người dùng nhập từ khóa gợi ý, xem đồng thời nhiều phản hồi do AI tạo ra, sau đó chọn câu trả lời tốt nhất. Lựa chọn của họ sẽ tạo ra dữ liệu "gói" sở thích có chữ ký số, dữ liệu này rất có giá trị cho việc tối ưu hóa và đánh giá sau khi AI được đào tạo. Người dùng không chỉ có thể sử dụng miễn phí mô hình mới nhất mà còn nhận được phần thưởng dựa trên phản hồi đã cung cấp.
Thiết kế của Yupp biến phán đoán của con người thành một nguồn tài nguyên kinh tế tái tạo. Khi dữ liệu tương tác mới được tạo ra, dữ liệu cũ "hết hạn", tạo ra một bánh đà tự nhiên: việc áp dụng nhiều hơn dẫn đến đánh giá mới hơn; Đánh giá mới hơn dẫn đến các mô hình tốt hơn; Các mô hình chất lượng tốt hơn thu hút nhiều người sử dụng hơn. Tất cả những người tham gia – từ người dùng thông thường đến nhà phát triển mô hình AI – đều có thể tham gia và xem các quy tắc minh bạch áp dụng cho tất cả mọi người, đảm bảo rằng thị trường vẫn đáng tin cậy và trung lập. Không ai có thể che giấu điểm số và không ai có thể thao túng phần thưởng hoặc kết quả.
Đội ngũ sáng lập có kinh nghiệm sâu sắc trong lĩnh vực AI và tiền điện tử. Họ đã cùng nhau phát triển các sản phẩm machine learning hướng đến người tiêu dùng trong giai đoạn đầu của Twitter. Pankaj Gupta từng là người đứng đầu kỹ thuật cho người tiêu dùng toàn cầu tại Google Pay và Coinbase, trong khi Gilad Mishne từng là người đứng đầu machine learning tại GoogleX. Đội ngũ khởi nghiệp quy tụ các kỹ sư cấp cao từ Google, Coinbase và các phòng thí nghiệm hàng đầu.
AI cần một hệ thống đánh giá mạnh mẽ và đáng tin cậy dựa trên đầu vào từ con người quy mô lớn, và công nghệ mã hóa chính là chiếc máy tin cậy để đạt được mục tiêu này. Bằng cách cho phép người dùng toàn cầu đóng góp phản hồi để cải thiện mô hình, Yupp cam kết trở thành lớp đánh giá cơ sở cho AI trong tương lai. Chúng tôi rất vinh dự được hỗ trợ Yupp và mong muốn hợp tác với họ để xây dựng vòng phản hồi trên chuỗi, đảm bảo rằng kết quả đổi mới AI được chia sẻ bởi tất cả những người xây dựng.