Thứ Ba tuần trước, "Cộng đồng mở AIGC" đã giới thiệu Writer, một nền tảng AI mang tính sáng tạo đã huy động được 100 triệu USD. Khả năng công ty đạt được tổng nguồn tài trợ 126 triệu USD chỉ trong 3 năm và trở thành một trong những đối thủ cạnh tranh chính của ChatGPT không thể tách rời khỏi công nghệ tuyệt vời của công ty, đồng thời chứng minh đầy đủ rằng mô hình của công ty đã có những trường hợp ứng dụng thành công và được vốn và người dùng công nhận.
Hiện tại, Writer đã mã nguồn mở mô hình ngôn ngữ lớn Palmyra sử dụng trên ômface, có 8 mô hình nhỏ, cơ sở, 20b-chat, Instruct-20b, med-20b, v.v., đã có sẵn trên thị trường và hỗ trợ dữ liệu tốt- điều chỉnh.
Địa chỉ nguồn mở:
Địa chỉ dùng thử miễn phí trực tuyến:
**Điểm nổi bật về mặt kỹ thuật của Palmyra bao gồm: **Các tham số nhỏ và chức năng mạnh mẽ, rất hữu ích cho các doanh nghiệp vừa và nhỏ cũng như các nhà phát triển cá nhân không có tài nguyên máy tính; nó đã được đào tạo về viết văn bản kinh doanh và dữ liệu tiếp thị, chủ yếu dành cho người dùng doanh nghiệp; doanh nghiệp -bảo mật dữ liệu cấp độ, Tích hợp nhiều lan can an toàn;
Ngoài việc tạo văn bản, nó còn có thể trích xuất tóm tắt nội dung của video, PDF và âm thanh; nó hỗ trợ tinh chỉnh dữ liệu và doanh nghiệp có thể tạo trợ lý "ChatGPT" của riêng mình, v.v.
“Cộng đồng mở AIGC” sau đây giới thiệu một số mô hình đặc biệt của Palmyra:
Hướng dẫn Palmyra-20b
Đây là mô hình điều chỉnh lệnh được xây dựng trên mô hình cơ bản Palmyra-20b, hỗ trợ xử lý ngôn ngữ tự nhiên nâng cao và phù hợp với nhu cầu.
Mô hình InstructPalmyra-20b được đào tạo tỉ mỉ trên bộ dữ liệu mở rộng gồm khoảng 70.000 bản ghi phản hồi lệnh. Những bản ghi này được tạo ra bởi đội ngũ kỹ thuật tinh chỉnh và mô hình hóa ngôn ngữ chuyên nghiệp của Writer.
InstructPalmyra-20b có khả năng tuyệt vời để xử lý các hướng dẫn phức tạp và tạo ra phản hồi chính xác, theo ngữ cảnh. Điều này làm cho nó trở thành một mô hình lý tưởng để phát triển nhiều ứng dụng như trợ lý ảo, hỗ trợ khách hàng, tạo nội dung, v.v.
Ngoài ra, việc đào tạo toàn diện của mô hình cho phép nó thích ứng và hoạt động tốt trong các điều kiện và bối cảnh khác nhau, mở rộng hơn nữa các trường hợp sử dụng tiềm năng.
** Palmyra-với-20b**
Palmyra-Med là mô hình của Writer được xây dựng đặc biệt để đáp ứng nhu cầu của ngành chăm sóc sức khỏe, với các hướng dẫn được tinh chỉnh dựa trên dữ liệu y tế.
Palmyra-Med đạt điểm cao nhất khi thử nghiệm trên PubMedQA trả lời câu hỏi y sinh hàng đầu, với tỷ lệ chính xác là 81,1%, vượt trội so với GPT-4 và những người thử nghiệm được đào tạo về mặt y tế.
Nó có thể cung cấp các chức năng như dịch thuật ngữ y tế chuyên nghiệp, trích xuất bản tóm tắt các ghi chú y tế, phân tích dữ liệu y tế lớn và tự động tạo ra những hiểu biết sâu sắc về y tế.
** Palmyra Lớn 20B **
Palmyra-Large là mô hình giải mã nhân quả do Writer xây dựng, được cải tiến bởi Palmyra-Index-Data và được đào tạo trên 800 tỷ dữ liệu trong kho ngữ liệu chất lượng cao.
Palmyra Large sử dụng mục tiêu mô hình hóa ngôn ngữ nhân quả (CLM) trong quá trình đào tạo trước mô hình. Tương tự như GPT-3, do đó nó được đào tạo trước với mục tiêu mô hình hóa ngôn ngữ nhân quả tự giám sát.
Mô hình này chạy rất nhanh và tiêu tốn rất ít tài nguyên, phù hợp với các kịch bản kinh doanh như chăm sóc y tế, tiếp thị, tiếp thị, CNTT, thiết kế và nhân sự để tạo ra các trợ lý AI phù hợp.
Đánh giá hiệu suất
Palmyra nhận được điểm cao nhất trên Stanford HELM, vượt qua các mẫu mã nguồn mở nổi tiếng như Falcon 40B và LLaMA-30B. HELM là một nền tảng thử nghiệm điểm chuẩn rất nổi tiếng của Trung tâm Nghiên cứu Mô hình Cơ bản của Đại học Stanford.
Palmyra đứng đầu trong một số bài kiểm tra quan trọng, đạt 60,9% trong phần Hiểu ngôn ngữ đa tác vụ lớn (MMLU), 89,6% trong BoolQ và 79,0% trong NaturalQuestions.
Palmyra xếp thứ hai trong hai bài kiểm tra quan trọng khác, với điểm hỏi đáp theo ngữ cảnh là 49,7% và điểm TruthfulQA là 61,6%.
Tóm lại, Palmyra rất xứng đáng để các nhà phát triển muốn thương mại hóa các mô hình ngôn ngữ lớn nghiên cứu kiến trúc, chức năng mô hình của nó và học hỏi kinh nghiệm thành công của nó.
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
Mô hình giống ChatGPT đã huy động được 100 triệu USD là nguồn mở! Có sẵn cho mục đích thương mại, 8 mẫu
Nguồn gốc: Cộng đồng mở AIGC
Thứ Ba tuần trước, "Cộng đồng mở AIGC" đã giới thiệu Writer, một nền tảng AI mang tính sáng tạo đã huy động được 100 triệu USD. Khả năng công ty đạt được tổng nguồn tài trợ 126 triệu USD chỉ trong 3 năm và trở thành một trong những đối thủ cạnh tranh chính của ChatGPT không thể tách rời khỏi công nghệ tuyệt vời của công ty, đồng thời chứng minh đầy đủ rằng mô hình của công ty đã có những trường hợp ứng dụng thành công và được vốn và người dùng công nhận.
Hiện tại, Writer đã mã nguồn mở mô hình ngôn ngữ lớn Palmyra sử dụng trên ômface, có 8 mô hình nhỏ, cơ sở, 20b-chat, Instruct-20b, med-20b, v.v., đã có sẵn trên thị trường và hỗ trợ dữ liệu tốt- điều chỉnh.
Địa chỉ nguồn mở:
Địa chỉ dùng thử miễn phí trực tuyến:
Ngoài việc tạo văn bản, nó còn có thể trích xuất tóm tắt nội dung của video, PDF và âm thanh; nó hỗ trợ tinh chỉnh dữ liệu và doanh nghiệp có thể tạo trợ lý "ChatGPT" của riêng mình, v.v.
Hướng dẫn Palmyra-20b
Đây là mô hình điều chỉnh lệnh được xây dựng trên mô hình cơ bản Palmyra-20b, hỗ trợ xử lý ngôn ngữ tự nhiên nâng cao và phù hợp với nhu cầu.
Mô hình InstructPalmyra-20b được đào tạo tỉ mỉ trên bộ dữ liệu mở rộng gồm khoảng 70.000 bản ghi phản hồi lệnh. Những bản ghi này được tạo ra bởi đội ngũ kỹ thuật tinh chỉnh và mô hình hóa ngôn ngữ chuyên nghiệp của Writer.
Ngoài ra, việc đào tạo toàn diện của mô hình cho phép nó thích ứng và hoạt động tốt trong các điều kiện và bối cảnh khác nhau, mở rộng hơn nữa các trường hợp sử dụng tiềm năng.
** Palmyra-với-20b**
Palmyra-Med là mô hình của Writer được xây dựng đặc biệt để đáp ứng nhu cầu của ngành chăm sóc sức khỏe, với các hướng dẫn được tinh chỉnh dựa trên dữ liệu y tế.
Palmyra-Med đạt điểm cao nhất khi thử nghiệm trên PubMedQA trả lời câu hỏi y sinh hàng đầu, với tỷ lệ chính xác là 81,1%, vượt trội so với GPT-4 và những người thử nghiệm được đào tạo về mặt y tế.
** Palmyra Lớn 20B **
Palmyra-Large là mô hình giải mã nhân quả do Writer xây dựng, được cải tiến bởi Palmyra-Index-Data và được đào tạo trên 800 tỷ dữ liệu trong kho ngữ liệu chất lượng cao.
Palmyra Large sử dụng mục tiêu mô hình hóa ngôn ngữ nhân quả (CLM) trong quá trình đào tạo trước mô hình. Tương tự như GPT-3, do đó nó được đào tạo trước với mục tiêu mô hình hóa ngôn ngữ nhân quả tự giám sát.
Đánh giá hiệu suất
Palmyra nhận được điểm cao nhất trên Stanford HELM, vượt qua các mẫu mã nguồn mở nổi tiếng như Falcon 40B và LLaMA-30B. HELM là một nền tảng thử nghiệm điểm chuẩn rất nổi tiếng của Trung tâm Nghiên cứu Mô hình Cơ bản của Đại học Stanford.
Palmyra xếp thứ hai trong hai bài kiểm tra quan trọng khác, với điểm hỏi đáp theo ngữ cảnh là 49,7% và điểm TruthfulQA là 61,6%.
Tóm lại, Palmyra rất xứng đáng để các nhà phát triển muốn thương mại hóa các mô hình ngôn ngữ lớn nghiên cứu kiến trúc, chức năng mô hình của nó và học hỏi kinh nghiệm thành công của nó.