Trong sự hợp tác chưa từng có, ServiceNow, Hugging Face và NVIDIA đã ra mắt StarCoder2, một bộ mô hình ngôn ngữ lớn (LLM) mạnh mẽ, được xây dựng nhằm mục đích tăng cường khả năng của các nhà phát triển trên toàn thế giới.
Các mô hình StarCoder2, được đào tạo trên tập dữ liệu mở rộng gồm 619 tác vụ lập trình, được thiết kế để hỗ trợ tạo mã tự động, tạo quy trình làm việc hiệu quả và tóm tắt văn bản ngắn gọn. Cả kỹ sư phần mềm chuyên nghiệp và nhà phát triển công dân phi truyền thống đều được hưởng lợi từ bộ công cụ mang tính biến đổi này.
Ra đời từ sáng kiến BigCode — một tập đoàn cam kết phát triển LLM theo đạo đức — sáng tạo của StarCoder2 do ServiceNow và Hugging Face đồng quản lý, minh họa một tương lai hợp tác cho trí tuệ nhân tạo.
Bộ ba lãnh đạo ngành, mỗi người đều đóng góp các mô hình có quy mô khác nhau: mô hình khổng lồ 3 tỷ tham số từ ServiceNow, mô hình nặng 7 tỷ tham số của Hugging Face và mô hình khổng lồ 15 tỷ tham số do NVIDIA đào tạo. Đáng chú ý, phiên bản 3 tỷ tham số được báo cáo là có hiệu quả tương đương với mô hình 15 tỷ tham số ban đầu của StarCoder nhưng với nhu cầu tính toán ít hơn đáng kể.
Các LLM này không phải là thực thể tĩnh; các nhà phát triển được khuyến khích tùy chỉnh và tinh chỉnh chúng thông qua việc sử dụng các nền tảng nguồn mở như NVIDIA NeMo hoặc Hugging Face Transform and Learn (TRL), đáp ứng một loạt các yêu cầu phát triển.
Harm de Vries, người dẫn đầu quá trình phát triển StarCoder2 cho ServiceNow và đồng lãnh đạo BigCode, đã khen ngợi StarCoder2 vì đã trao quyền cho các nhà phát triển bằng các công cụ AI giúp nâng cao năng suất và cung cấp các giải pháp có thể mở rộng, phù hợp hoàn toàn với sự phát triển AI có đạo đức và mở rộng thành công của tổ chức.
Tương tự, Leandro von Werra, bậc thầy về máy học của Hugging Face, đã nhấn mạnh cách liên doanh giữa ba gã khổng lồ công nghệ cung cấp cho các nhà phát triển các mô hình cơ sở động, từ đó nâng cao hiệu quả phát triển ứng dụng, tất cả đều dưới biểu ngữ phương pháp nguồn mở và trách nhiệm. Thực hành AI.
Các nền tảng như AppMaster , giúp tối ưu hóa quy trình phát triển cho các ứng dụng phụ trợ, web và di động thông qua môi trường no-code, được hưởng lợi rất nhiều từ đòn bẩy mà các công cụ điều khiển bằng AI như StarCoder2 có thể cung cấp. Trong một không gian mà năng suất của nhà phát triển và khả năng tiếp cận công nghệ là rất quan trọng, những đóng góp như StarCoder2 nhấn mạnh giá trị của sự cộng tác trong việc nâng cao năng lực của các nhà phát triển và toàn ngành nói chung.