Đứng đầu danh sách nóng GitHub: phiên bản mã nguồn mở của trình thông dịch mã GPT-4, có thể cài đặt bất kỳ thư viện Python nào, chạy trên thiết bị đầu cuối cục bộ

Nguồn gốc: Qubits

Nguồn hình ảnh: Được tạo bởi AI‌ không giới hạn

Trình thông dịch mã của ChatGPT cũng có thể chạy trên máy tính của bạn.

Một bậc thầy vĩ đại vừa phát hành phiên bản địa phương của trình thông dịch mã trên GitHub và sớm lọt vào danh sách hot GitHub với hơn 3 nghìn sao.

Nó không chỉ có tất cả các chức năng mà GPT-4 có ban đầu mà điều quan trọng là nó còn có thể kết nối với Internet.

ChatGPT đã gây náo động sau khi có thông tin cho rằng nó đã bị "ngắt kết nối" và vẫn đóng cửa trong vài tháng.

Tính năng kết nối mạng đã im lặng trong nhiều tháng và hiện đã có giải pháp.

Vì mã chạy cục bộ nên nó giải quyết được nhiều vấn đề khác của phiên bản web ngoài mạng:

  • Chỉ có thể gửi 50 tin nhắn trong 3 giờ
  • Số lượng mô-đun Python được hỗ trợ có giới hạn
  • Có giới hạn về kích thước tệp có thể được xử lý và không thể vượt quá 100 MB.
  • Sau khi đóng cửa sổ phiên, các tệp được tạo trước đó sẽ bị xóa

Nếu không có API, bạn cũng có thể thay đổi mô hình thành Mã nguồn mở LLaMa.

Sau khi ra mắt trình thông dịch mã này, một số cư dân mạng đã sớm bày tỏ sự mong đợi về phiên bản web:

Vì vậy, hãy cùng xem trình thông dịch mã gốc này trông như thế nào!

Tạo "kết nối lại" GPT

Vì API của GPT-4 được gọi nên tất cả các chức năng được GPT-4 hỗ trợ đều có thể được sử dụng một cách tự nhiên và tất nhiên tiếng Trung cũng được hỗ trợ.

Bản thân các chức năng của GPT sẽ không được trình bày chi tiết ở đây.

Tuy nhiên, điều đáng nói là với trình thông dịch mã, trình độ toán học của GPT đã được cải thiện nhiều điểm.

Vì vậy, ở đây chúng tôi sử dụng một bài toán đạo hàm khó để kiểm tra nó, tiêu đề là f(x)=√(x+√(x+√x)).

Emmm... Kết quả này hơi trừu tượng, nhưng có lẽ nó có vấn đề với từ gợi ý. Hãy sửa đổi nó:

Sau đó chúng tôi thấy kết quả này:

Công thức này trông khác với câu trả lời tiêu chuẩn nhưng có phải đó là vấn đề về định dạng không? Chúng tôi đã xác minh nó:

Kết quả là đúng!

Bây giờ đến sự kiện chính, hãy xem liệu chức năng kết nối mạng của trình thông dịch mã này có phải là một mánh lới quảng cáo hay không:

Ví dụ: chúng tôi muốn xem tin tức nào đang diễn ra gần đây.

Trước tiên, chương trình sẽ kiểm tra xem các mô-đun cần thiết đã được cài đặt chưa, nếu chưa, nó sẽ được cài đặt tự động và sau đó bắt đầu kéo trang web.

Phải nói là đọc một lần cả trang web, nếu không chạy cục bộ, nhìn dòng code cuộn trên màn hình, quả thực có chút run rẩy...

Sau đó chương trình sẽ phân tích trường nào tiêu đề tin tức được cư dân mạng lưu trữ và trích xuất nó.

May mắn thay, sau rất nhiều khó khăn, cuối cùng chúng tôi đã đạt được kết quả như mong muốn:

Ngoài việc để nó tự tìm kiếm, bạn còn có thể đưa ra các trang web cụ thể để phân tích:

Sau một lần tải điên cuồng nữa, trình thông dịch mã đã sao chép thành công phần tự giới thiệu của nó.

Sau đó có phiên bản trực tuyến là bản sao của ChatGPT, có chức năng nào cao cấp hơn không?

Tất nhiên rồi! Ví dụ: chúng tôi muốn điều chỉnh cài đặt hệ thống nhưng không biết cách thực hiện.

Nếu sử dụng phiên bản web, rất có thể chúng ta sẽ thấy một danh sách dài các hướng dẫn bằng văn bản, nhưng bây giờ chúng ta có thể giao trực tiếp cho trình thông dịch mã.

Thay vì đưa ra một hướng dẫn dài dòng và khó hiểu, nó sẽ tự động chạy mã và hiểu đúng chỉ trong một bước.

Ngoài việc cho phép GPT-4 tạo mã, một số công cụ trong kho mã cũng có thể được gọi thông qua nó.

Ví dụ: nếu bạn muốn thêm phụ đề vào video, bạn có thể gọi mô-đun nhận dạng giọng nói được tạo sẵn để sao chép.

Vì không có tài liệu làm sẵn nên đây là bản demo do nhà phát triển đưa ra:

Quá trình chạy mã được thực hiện cục bộ nên không cần lo lắng về việc kích thước video vượt quá giới hạn.

Tóm lại, sau khi chạy xong chúng ta có thể thấy phụ đề xuất hiện bên dưới video:

Tương tự, bạn có thể sử dụng tính năng này để tạo và sửa đổi tài liệu hoặc hình ảnh hoặc gọi ControlNet để tạo hoạt ảnh từ ảnh tĩnh...

Về lý thuyết, chỉ cần hiệu năng đủ thì mọi việc Python làm đều có thể thực hiện được.

Vậy làm thế nào chúng ta có thể trải nghiệm trình thông dịch mã gốc này?

phương pháp cài đặt

Tác giả đã đăng ghi chú Colab trên trang dự án GitHub (xem liên kết ở cuối bài viết), những cư dân mạng đủ điều kiện có thể vào và trải nghiệm trực tiếp.

Việc cài đặt cục bộ cũng rất đơn giản (với điều kiện đã cài đặt Python), chỉ cần một dòng mã "pip install open-interpreter" là hoàn tất.

Sau khi cài đặt, nhập "thông dịch viên" trong thiết bị đầu cuối để khởi động trực tiếp.

Đây là API mà chương trình sẽ yêu cầu cho GPT-4. Nếu nó chỉ là 3,5, hãy sử dụng "interpreter --fast" khi bắt đầu.

Nếu không có 3.5, bạn có thể nhấn trực tiếp Enter ở bước này hoặc nhập trực tiếp "interpreter —local" khi khởi động để chuyển sang Code-LLaMA.

Nó bao gồm ba phiên bản 7B, 13B và 34B, tỷ lệ càng nhỏ thì tốc độ càng nhanh và kết quả càng lớn thì càng chính xác.

Nếu Code-LLaMA chưa được cài đặt, nó có thể được cài đặt tự động bằng cách làm theo hướng dẫn của chương trình.

Ngoài ra, theo mặc định, cần phải xác nhận trước khi chạy mã sau khi mã được tạo, nếu không muốn xác nhận mỗi lần, bạn có thể thêm "space-y" sau lệnh khi khởi động.

Tại đây sẽ giới thiệu các lệnh thường dùng, nếu muốn biết cách chơi nâng cao hơn, bạn có thể tham khảo ghi chú Colab của tác giả.

Hãy thử nó nếu bạn thích nó!

Trang dự án GitHub:

Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
  • Phần thưởng
  • Bình luận
  • Chia sẻ
Bình luận
0/400
Không có bình luận
Giao dịch tiền điện tử mọi lúc mọi nơi
qrCode
Quét để tải xuống ứng dụng Gate
Cộng đồng
Tiếng Việt
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)