Fine-tuning là quá trình dài để tùy chỉnh một mô hình trí tuệ nhân tạo sao cho phù hợp với các ứng dụng và nhu cầu cụ thể. Fine-tuning không chỉ giúp mô hình trí tuệ nhân tạo hoàn thành mục tiêu dự định tốt hơn, mà còn có thể giảm chi phí và giảm độ trễ.

Đôi khi, lượng tùy chỉnh cần thiết vượt quá những gì mà fine-tuning có thể cung cấp, chẳng hạn khi các tổ chức có tập dữ liệu sở hữu lớn cực kỳ. Để giải quyết vấn đề này, OpenAI đã công bố chương trình Mô hình Tùy chỉnh vào tháng 11 năm 2023, cho phép các tổ chức "chọn lọc" nhận sự hỗ trợ từ một nhóm các nhà nghiên cứu của OpenAI để huấn luyện một GPT-4 tùy chỉnh cho lĩnh vực cụ thể của họ.

Sau khi họp với hàng chục khách hàng để thu thập phản hồi về cách tối ưu hóa chương trình, OpenAI hiện đang thêm hai tính năng mới: fine-tuning hỗ trợ và mô hình được huấn luyện tùy chỉnh.

OpenAI cho biết tính năng fine-tuning hỗ trợ "tận dụng các kỹ thuật vượt ra ngoài API fine-tuning, như các siêu tham số bổ sung và các phương pháp fine-tuning hiệu quả tham số (PEFT) khác nhau ở quy mô lớn hơn." Fine-tuning hỗ trợ có thể giúp các tổ chức cố gắng tối đa hóa hiệu suất của mô hình của họ thông qua các phương pháp như thiết lập các đường ống dữ liệu huấn luyện hiệu quả và hệ thống đánh giá.

Trong khi đó, các mô hình được huấn luyện tùy chỉnh cho phép các tổ chức "huấn luyện một mô hình được xây dựng mục đích từ đầu," với lợi ích là tạo ra một mô hình có sự hiểu biết sâu sắc về doanh nghiệp hoặc lĩnh vực của họ.

Đối với các nhà phát triển không cần nhiều sự hỗ trợ về việc điều chỉnh tinh chỉnh, OpenAI đã thêm các tính năng vào API tự phục vụ của mình để điều chỉnh tinh chỉnh, cho phép các nhà phát triển điều chỉnh GPT-3.5 cho nhu cầu của riêng họ. Các tính năng mới bao gồm việc tạo checkpoint dựa trên epoch-based, hỗ trợ tích hợp với các nền tảng bên thứ ba, các chỉ số đánh giá toàn diện, cấu hình siêu tham số và cải thiện bảng điều khiển điều chỉnh tinh chỉnh.

OpenAI cho biết hàng ngàn tổ chức đã huấn luyện hàng trăm ngàn mô hình bằng cách sử dụng API kể từ khi nó được ra mắt vào tháng 8 năm 2023. (Nguồn: zdnet)