Theo Financial Times, các công ty trí tuệ nhân tạo từng chi hàng tỷ USD để xây dựng mô hình ngôn ngữ lớn, hiện đang chuyển hướng đi mới để tăng doanh thu: phát triển mô hình ngôn ngữ nhỏ (SLM).
Apple, Microsoft, Meta và Google gần đây đều đã phát hành các mô hình AI mới với ít “tham số” hơn - số lượng biến được sử dụng để huấn luyện hệ thống AI và định hình đầu ra của nó. Động thái mới của các công ty công nghệ này được cho là cũng nhằm khuyến khích các doanh nghiệp đang lo ngại về chi phí cũng có thể áp dụng AI để tự động hoá các quy trình.
SLM thường nhỏ hơn LLM từ 5 đến 10 lần. Tuy nhiên, kích thước giảm không hẳn là nhược điểm. SLM vẫn sở hữu những khả năng và trong một số trường hợp nhất định, có thể hoạt động ngang bằng với các LLM lớn hơn.
CÁC VẤN ĐỀ CỦA MÔ HÌNH NGÔN NGỮ LỚN
Mặc dù LLM đã xuất sắc trong việc xử lý, tóm tắt và phân tích khối lượng lớn dữ liệu, đồng thời đưa ra những hiểu biết sâu sắc có giá trị cho việc ra quyết định. Tuy nhiên, LLM cũng tồn tại những bất lợi lớn đối với doanh nghiệp. Một là độ chính xác và chất lượng của kết quả đầu ra mô hình. Điều này không chỉ bao gồm sự thiên vị trong các mô hình mà còn giải quyết vấn đề “ảo giác”. Đây là những trường hợp mà mô hình tạo ra thông tin hợp lý nhưng thực tế không chính xác hoặc vô nghĩa.
Tiếp theo, LLM có thể quá khái quát. Lý do là dữ liệu đào tạo chủ yếu được lấy từ internet công cộng. Việc thiếu khả năng tùy chỉnh có thể dẫn đến lỗ hổng về mức độ hiệu quả mà các mô hình này hiểu và phản hồi với các thuật ngữ, quy trình và sắc thái dữ liệu cụ thể của ngành.
Sau đó, có những lo ngại về bảo mật và quyền riêng tư. Khi doanh nghiệp sử dụng LLM, nó sẽ truyền dữ liệu qua API và điều này có nguy cơ bị lộ thông tin nhạy cảm.
SLM CÓ THỂ GIẢM THIỂU NHỮNG NỖI LO KHI SỬ DỤNG LLM
Điều này đã khiến các công ty công nghệ như Meta và Google đưa ra các mô hình ngôn ngữ nhỏ chỉ với vài tỷ tham số dưới dạng các lựa chọn thay thế rẻ hơn, có thể tùy chỉnh, cần ít năng lượng hơn để đào tạo và chạy và các hệ thống và có thể ngăn chặn dữ liệu nhạy cảm.
SLM cung cấp một tập huấn luyện tập trung hơn. Mô hình này được điều chỉnh phù hợp với các bộ dữ liệu dành riêng cho doanh nghiệp. Chúng có thể bao gồm từ mô tả sản phẩm và phản hồi của khách hàng đến thông tin liên lạc nội bộ như tin nhắn Slack. Trái ngược với nền tảng kiến thức rộng lớn của LLM, SML làm giảm đáng kể khả năng xảy ra sai sót và ảo giác.
Với mô hình nhỏ hơn, việc tạo, triển khai và quản lý sẽ tiết kiệm chi phí hơn. Điều này rất quan trọng do chi phí lớn cho cơ sở hạ tầng như GPU (bộ xử lý đồ họa). Trên thực tế, SLM có thể chạy trên phần cứng thông dụng rẻ tiền—chẳng hạn như CPU—hoặc nó có thể được lưu trữ trên nền tảng đám mây
Theo đó,.Phó chủ tịch công ty AI Azure của Microsoft, Eric Boyd cho biết: “Vẫn có thể thực hiện các lệnh phức tap nhưng với mức chi phí thấp hơn, các mô hình ngôn ngữ nhỏ cho phép khách hàng truy cập mà không cần đầu tư quá nhiều”.
Ưu điểm của SLM vượt xa hiệu quả chi phí. Chúng có khả năng thích ứng cao hơn, cho phép điều chỉnh dễ dàng hơn dựa trên phản hồi của người dùng. Những mô hình này cũng cho thấy độ trễ thấp hơn.
Điều này không có nghĩa là SLM không phải không có nhược điểm. Một lần nữa, công nghệ này còn khá mới và vẫn còn những vấn đề cũng như lĩnh vực cần được sàng lọc và cải tiến.
CÁC CÔNG TY CHẠY ĐUA ĐỂ SẢN XUẤT MÔ HÌNH NGÔN NGỮ NHỎ
Charlotte Marshall, Cộng tác viên quản lý Addleshaw Goddard, một công ty luật chuyên tư vấn cho các ngân hàng, nói rằng “một trong những thách thức mà tôi nghĩ nhiều khách hàng của chúng tôi đã gặp phải” khi áp dụng các sản phẩm AI tạo sinh là tuân thủ các yêu cầu pháp lý về xử lý và truyền dữ liệu.
Bà cho biết các mô hình nhỏ hơn mang lại “cơ hội cho các doanh nghiệp vượt qua” những lo ngại về pháp lý và chi phí. Đồng thời các mô hình này cũng cho phép các tính năng AI chạy trên các thiết bị như điện thoại di động. Chẳng hạn như mô hình “Gemini Nano” của Google đã được nhúng bên trong điện thoại Pixel mới nhất và điện thoại thông minh S24 mới nhất của Samsung.
Apple tiết lộ họ cũng đang phát triển các mô hình AI để chạy trên chiếc iPhone bán chạy nhất của mình. Tháng trước, gã khổng lồ Thung lũng Silicon đã phát hành mô hình OpenELM, một mô hình nhỏ được thiết kế để thực hiện các tác vụ dựa trên văn bản.
Phó chủ tịch công ty AI Azure của Microsoft, Eric Boyd cho biết các mẫu máy nhỏ hơn sẽ mang đến “các ứng dụng thú vị, cho đến điện thoại và máy tính xách tay”.
Google translate