IBM ra mắt Granite 3.0 để cạnh tranh trong cuộc đua Gen AI

Mô hình Granite 3.0 cân bằng giữa hiệu suất và chi phí cho doanh nghiệp

Trong một thông báo gần đây, IBM chính thức giới thiệu các mô hình AI mới nhất thuộc dòng Granite 3.0, với lời hứa về sự cân bằng giữa sức mạnh và chi phí phù hợp cho các doanh nghiệp. Các mô hình này được thiết kế với mục đích tập trung vào các ứng dụng chuyên biệt trong kinh doanh, khác với những mô hình ngôn ngữ đa mục đích hiện chiếm ưu thế trên thị trường.

Song song đó, công ty cũng ra mắt các cải tiến về AI khác, nổi bật là watsonx Code Assistant - một công cụ hỗ trợ mã nguồn, sử dụng các mô hình code Granite và hỗ trợ nhiều ngôn ngữ lập trình phổ biến như C, C++, Go, Java và Python.

ẢNH: IBM

IBM khẳng định dòng mô hình Granite 3.0 mang lại sức mạnh vượt trội khi kết hợp với dữ liệu doanh nghiệp, cho phép thực hiện các nhiệm vụ chuyên biệt với hiệu quả tương đương các mô hình lớn hơn mà không phải chịu gánh nặng chi phí cao. Qua các thử nghiệm, IBM tuyên bố Granite 3.0 có chi phí thấp hơn từ 3 đến 23 lần so với các mô hình ngôn ngữ lớn khác trên thị trường, dù không nêu tên cụ thể.

Trong đó, mô hình Granite 8B Instruct - một trong hai mô hình lớn nhất (gồm 8B và 2B) - đã đạt kết quả tương đương với các mô hình cùng kích thước từ Meta và Mistral trong các bài kiểm tra do bảng xếp hạng OpenLLM của Hugging Face đưa ra.

IBM cũng nhấn mạnh vào tính an toàn khi ra mắt Granite Guardian 3.0, một công cụ giúp các nhà phát triển thiết lập rào chắn bảo vệ khi xử lý các yêu cầu từ người dùng và phản hồi từ mô hình ngôn ngữ. Những tính năng này bao gồm kiểm tra các yếu tố như thành kiến xã hội, nội dung kích động thù hận, bạo lực, ngôn từ thô tục và các hành vi cố tình vượt qua hệ thống kiểm duyệt.

IBM còn cho biết thêm rằng Granite Guardian 3.0 phiên bản 8B đã đạt độ chính xác cao hơn trong việc phát hiện các nội dung gây hại so với ba thế hệ mô hình bảo vệ Llama Guard của Meta.

Hiện tại, các mô hình ngôn ngữ Granite 3.0 đã sẵn sàng để tải xuống trên nền tảng HuggingFace, bao gồm các mô hình ngôn ngữ Granite 8B và 2B, cũng như Granite Guardian 8B và 3B. Đối với các doanh nghiệp, IBM cung cấp các mô hình này dưới dạng dịch vụ thương mại thông qua nền tảng watsonx.