Tại hội nghị Swin BIC 2024 với chuyên đề “An toàn dữ liệu trong kỷ nguyên trí tuệ nhân tạo” vừa qua, ông Ngô Tuấn Anh, Chủ tịch Công ty Cổ phần An ninh mạng Thông minh SCS, cho biết sự phát triển nhanh chóng của AI đã làm cho giá trị của dữ liệu được tăng lên gấp nhiều lần.
AI dựa vào dữ liệu để học hỏi, phân tích và đưa ra các quyết định. Dữ liệu càng đa dạng và phong phú thì mô hình AI càng trở nên thông minh và chính xác. Có thể nói, dữ liệu đã trở thành tài sản vô cùng quý giá.
Với tầm quan trọng như vậy, bảo vệ an toàn dữ liệu là một nhiệm vụ, một thách thức. “Đây không chỉ là vấn đề của Việt Nam mà còn của nhiều quốc gia trên thế giới, trong bối cảnh các vụ vi phạm dữ liệu đang diễn ra ngày càng nhiều và tinh vi hơn”, ông Ngô Tuấn Anh nói.
CHỈ 11% CHUYÊN GIA QUẢN LÝ RỦI RO TỰ TIN ĐỦ NĂNG LỰC TRIỂN KHAI AI AN TOÀN
Trao đổi với diễn giả tại hội nghị Swin BIC 2024, ông Đoàn Hữu Hậu, Giám đốc Dịch vụ Chuyển đổi số và AI, FPT Digital, cho biết do tính chất phức tạp, ngay từ giai đoạn huấn luyện mô hình, hệ thống AI đã có thể bị tấn công thông qua việc tác động vào dữ liệu và thuật toán, gây sai lệch kết quả.
Trong giai đoạn triển khai và sử dụng, các cuộc tấn công có thể nhắm vào mô hình bằng cách sử dụng dữ liệu đối kháng để đánh lừa hoặc làm sai lệch mô hình, cũng như trích xuất dữ liệu nhạy cảm. Ngoài ra, hệ thống AI cũng có thể bị tấn công gây gián đoạn dịch vụ, làm ảnh hưởng đến hiệu suất và độ tin cậy của toàn bộ hệ thống.
Rủi ro “đầu độc dữ liệu” hoàn toàn có thể xảy ra trong quá trình thu thập dữ liệu, bằng cách thêm vào dữ liệu sai lệch, xóa bỏ dữ liệu quan trọng, hoặc thay đổi nhãn dữ liệu, khiến mô hình học từ những thông tin không chính xác. Kẻ tấn công có thể thay đổi thuật toán huấn luyện, thay đổi siêu tham số hoặc cấu trúc mạng thần kinh, dẫn đến kết quả đầu ra không đáng tin cậy.
Hậu quả của các cuộc tấn công vào hệ thống AI có thể rất nghiêm trọng. Trước tiên, mô hình AI có thể đưa ra các quyết định sai lệch, ảnh hưởng tiêu cực đến kết quả hoạt động của doanh nghiệp và cá nhân. Những sai sót cũng dẫn đến mất niềm tin vào AI, làm giảm sự chấp nhận và ứng dụng của công nghệ này trong xã hội.
Tấn công vào mô hình AI có thể gây ra tổn thất kinh tế đáng kể, từ việc phải sửa chữa hệ thống đến thiệt hại do các quyết định sai lầm gây ra. Những hậu quả này nhấn mạnh tầm quan trọng của việc bảo mật và quản lý rủi ro trong quá trình phát triển và triển khai hệ thống AI.
Ông Đoàn Hữu Hậu cho biết theo một khảo sát toàn cầu đối với các chuyên gia quản lý rủi ro, 58% người tham gia khảo sát nói rằng AI tiềm ẩn những nguy cơ lớn và có thể dẫn đến các hậu quả nghiêm trọng, bất ngờ trong vòng 2 năm tới đối với doanh nghiệp, cá nhân, và xã hội.
Các chuyên gia tham gia khảo sát đã đề cập đến việc tăng cường bảo mật hệ thống AI. Tuy nhiên, chỉ 11% trong số họ tự tin có đủ năng lực để triển khai AI một cách an toàn và xử lý được các rủi ro.
“Điều này không có nghĩa là năng lực của những người làm bảo mật chưa đạt yêu cầu, mà nó phản ánh một vấn đề thực tiễn: hệ thống AI đang phải đối diện với các mối đe dọa ngày càng tinh vi xuyên suốt vòng đời”, ông Đoàn Hữu Hậu nói.
5 NGUYÊN TẮC QUAN TRỌNG TRONG VIỆC XÂY DỰNG HỆ THỐNG AI AN TOÀN
Watsonx Assistant là hệ thống AI do IBM phát triển. Đây là ứng dụng AI trong lĩnh vực chăm sóc sức khỏe, hỗ trợ các bác sĩ chẩn đoán bệnh, khám và điều chế thuốc. Watsonx tận dụng công nghệ máy học (ML) và xử lý ngôn ngữ tự nhiên (NLP), đặc biệt, ứng dụng được xây dựng dựa trên các nguyên tắc đảm bảo an toàn và tin cậy.
Theo phân tích, thành công của Watsonx Assistant dựa trên 7 yếu tố an toàn, bao gồm mã hóa end-to-end tiên tiến nhằm bảo vệ cả mẫu dữ liệu tĩnh và đang trung chuyển; kiểm soát chặt chẽ quyền truy cập; tuân thủ các tiêu chuẩn quốc tế (GDPR, HIPAA) .... Đặc biệt, hệ thống được quản lý chặt chẽ bởi con người, nhất là trong các khâu đưa ra quyết định quan trọng cuối cùng.
Như vậy, ngay khi bước đầu ứng dụng AI, doanh nghiệp đã cần tuân thủ các nguyên tắc bảo vệ dữ liệu. Ông Đoàn Hữu Hậu cho biết có 5 nguyên tắc quan trọng trong việc xây dựng một hệ thống AI an toàn.
Đầu tiên là an toàn từ thiết kế. Điều này có nghĩa là các hệ thống AI phải được sáng tạo, thiết kế đảm bảo an toàn thông tin ngay từ đầu, tích hợp tính năng an toàn thông tin, đánh giá rủi ro và luôn đề cao tuân thủ tiêu chuẩn an toàn thông tin quốc tế.
Nguyên tắc thứ hai là tính minh bạch và khả năng giải thích. Đối với hệ thống GenAI, vốn có khả năng tạo ra thông tin mới dựa trên các tri thức đã được huấn luyện, việc đảm bảo tính minh bạch rất quan trọng.
GenAI có thể trả lời các câu hỏi và tạo ra thông tin ngay cả khi không có dữ liệu sẵn có. Vì vậy, việc thiết kế và triển khai hệ thống cần phải đảm bảo rằng quá trình ra quyết định là rõ ràng và có thể được hiểu, kiểm tra, và tương tác với người dùng một cách dễ dàng.
Nguyên tắc thứ ba là khả năng chống lại các cuộc tấn công. Điều này bao gồm việc kiểm tra khả năng phòng chống tấn công, phát hiện các xâm nhập, và phản ứng nhanh chóng khi xảy ra sự cố.
Nguyên tắc thứ tư là bảo vệ dữ liệu, thực hiện mã hóa dữ liệu, quản lý truy cập một cách chặt chẽ, đảm bảo chỉ những người đúng phận sự, quyền hạn mới có thể truy cập vào dữ liệu vào đúng thời điểm theo đúng trách nhiệm . Ngoài ra, cần xóa bỏ các dữ liệu dư thừa vì các dữ liệu không cần thiết sẽ gây nhiễu và ảnh hưởng đến độ chính xác của kết quả.
Nguyên tắc cuối cùng là tính đa dạng và công bằng, nhằm tránh sự thiên vị về nền tri thức của hệ thống AI. Nếu dữ liệu đầu vào bị lệch lạc, hệ thống AI có thể trở nên thiên vị, ảnh hưởng đến kết quả và quyết định.
“Các hệ thống AI tiềm ẩn nhiều rủi ro mất an toàn thông tin từ giai đoạn xây dựng, huấn luyện cho đến khi sử dụng. Hậu quả của việc mất an toàn thông tin rất lớn, ảnh hưởng đến quyền riêng tư dữ liệu, hành vi của người dùng, tài chính, và uy tín của cá nhân, tổ chức. Do đó, phát triển và triển khai hệ thống AI cần được thực hiện một cách an toàn và đáng tin cậy”, ông Đoàn Hữu Hậu nói.
NHỮNG KHUYẾN NGHỊ ĐỂ DOANH NGHIỆP ỨNG DỤNG AI AN TOÀN
Thực tế hiện nay, một số doanh nghiệp Việt đã có những bước đầu tiên trong việc áp dụng AI, nhưng mức độ sẵn sàng để đảm bảo an toàn cho các hệ thống này vẫn chưa đồng đều.
Theo các chuyên gia, về mặt chiến lược, các doanh nghiệp lớn đã nhận thấy tầm quan trọng của AI và đang triển khai kế hoạch dài hạn để tích hợp AI vào quy trình kinh doanh. Tuy nhiên, không phải doanh nghiệp nào cũng có chiến lược rõ ràng, đặc biệt là trong việc đảm bảo an toàn dữ liệu và hệ thống. Các doanh nghiệp nhỏ và vừa, mặc dù có sự quan tâm nhất định đến AI, nhưng đôi khi vẫn chưa chuẩn bị đủ hạ tầng công nghệ cần thiết để xây dựng các hệ thống AI an toàn.
Ông Đoàn Hữu Hậu khuyến nghị, để xây dựng và vận hành các hệ thống AI an toàn, doanh nghiệp cần chú trọng chất lượng dữ liệu lẫn bảo đảm an toàn thông tin dữ liệu. Dữ liệu đầu vào có thể ảnh hưởng trực tiếp đến hiệu quả và độ tin cậy của hệ thống AI.
An toàn thông tin dữ liệu phải là nguyên tắc được duy trì trong quá trình thu thập, xử lý, lưu trữ và chia sẻ dữ liệu. Các biện pháp đảm bảo an toàn thông tin có thể là mã hóa dữ liệu, quy trình truy cập “đúng người, đúng phận sự, đúng thời điểm”, và triển khai các hệ thống giám sát liên tục để phát hiện kịp thời các mối đe dọa.
Ngoài các biện pháp kỹ thuật, yếu tố con người cũng đóng vai trò quan trọng trong việc đảm bảo an toàn cho hệ thống AI. Mỗi nhân viên trong doanh nghiệp cần được đào tạo về tầm quan trọng của bảo đảm an toàn thông tin và các biện pháp cơ bản để đảm bảo an toàn thông tin. Văn hóa an toàn thông tin cần được xây dựng một cách mạnh mẽ, đảm bảo rằng tất cả các nhân viên đều hiểu và tuân thủ các quy định về an ninh thông tin.
Bài học từ các doanh nghiệp tiên phong đã chỉ ra rằng, thành công trong xây dựng hệ thống AI an toàn không chỉ nằm ở công nghệ, mà còn ở chiến lược dài hạn, sự chú trọng đến chất lượng dữ liệu và nâng cao nhận thức về bảo mật trong toàn bộ tổ chức.
Theo Chiến lược quốc gia về nghiên cứu, phát triển và ứng dụng trí tuệ nhân tạo đến năm 2030, AI sẽ trở thành lĩnh vực công nghệ quan trọng của Việt Nam vào năm 2025, đồng thời Việt Nam nằm trong nhóm 5 nước dẫn đầu khu vực ASEAN và nhóm 60 nước dẫn đầu thế giới về nghiên cứu, phát triển và ứng dụng AI. Đến năm 2030, Việt Nam là 1 trong nhóm 4 nước dẫn đầu khu vực ASEAN và nhóm 50 nước dẫn đầu thế giới về AI.
Google translate