Lợi ích ChatGPT có thể mang lại
Sự ra đời của ChatGPT và xu hướng tích hợp vào xe hơi đang gia tăng. Ví dụ, Volkswagen gần đây cho biết các tài xế sẽ có thể thực hiện đối thoại qua lại trên những chiếc xe được trang bị dịch vụ dựa trên ChatGPT của họ.
Việc đưa công nghệ này vào các phương tiện cho phép mở ra nhiều khả năng liên quan đến điều hướng, quản lý hệ thống thông tin giải trí, nhận thông tin cập nhật về thời tiết hoặc giao thông và trả lời các câu hỏi tổng quát hơn.
Tuy nhiên, liệu sự trợ giúp trên tàu này có đi kèm với rủi ro? Vấn đề quan trọng là phải xem xét loại dữ liệu đào tạo được sử dụng để đào tạo công nghệ này. Bên cạnh đó, việc sử dụng chính sách để xác định những phản hồi và loại thông tin nào được phép cũng là chìa khóa để các nhà sản xuất ô tô cân nhắc.
Các mô hình ngôn ngữ lớn (LLM) như ChatGPT có thể hỗ trợ nhiều trường hợp sử dụng khác nhau trong ngành ô tô. Ví dụ: ChatGPT có thể cho phép tích hợp trợ lý giọng nói kỹ thuật số thông minh vào xe cộ. Các trợ lý giọng nói này sử dụng công nghệ Xử lý ngôn ngữ tự nhiên (NLP) và nhận dạng giọng nói để hiểu và phản hồi lệnh thoại của người lái xe hoặc hành khách.
Như vậy, người lái xe có thể sử dụng khẩu lệnh để điều khiển các chức năng khác nhau của xe, bao gồm điều chỉnh điều hòa nhiệt độ, yêu cầu lập kế hoạch lộ trình, điều khiển danh sách phát nhạc, điều chỉnh âm lượng và gọi điện thoại; tất cả đều đạt được mà không cần phải nhấn bất kỳ nút nào. Nó tạo ra trải nghiệm người dùng nâng cao.
Hơn nữa, những trợ lý giọng nói kỹ thuật số này có thể được sử dụng nhiều hơn để giúp khách hàng dễ dàng tìm thấy thông tin liên quan về ô tô của họ mà không cần phải đọc qua hàng trăm trang hướng dẫn sử dụng. Ví dụ, người lái xe có thể hỏi tại sao một đèn cảnh báo nào đó trên bảng điều khiển lại nhấp nháy và trợ lý giọng nói kỹ thuật số sẽ đưa ra câu trả lời.
Ngoài việc được tích hợp vào phương tiện, LLM còn có thể được sử dụng để tối ưu hóa quá trình phát triển tại các tổ chức ô tô. Ví dụ: LLM có thể được sử dụng để đơn giản hóa việc quản lý yêu cầu và quản lý kiểm thử. Điều này có nghĩa là LLM có thể xử lý tài liệu yêu cầu, xác minh cú pháp và sắp xếp các yêu cầu liên quan đến phần cứng, phần mềm, quy trình và phân công chúng cho đúng nhóm. LLM cũng có thể tạo ra các trường hợp thử nghiệm thích hợp cho các yêu cầu được phân tích để cho phép truy xuất nguồn gốc yêu cầu tốt hơn. Các giải pháp AI cũng có thể giúp tối ưu hóa thiết kế các thành phần về hiệu suất, độ an toàn và chi phí, cũng như nâng cao hiệu quả trong quá trình triển khai bằng cách tự động tạo mã.
Rủi ro tiềm ẩn
Có rất nhiều rủi ro cần được xem xét khi sử dụng AI và LLM. Một mối quan tâm lớn khác là quyền riêng tư dữ liệu. Một lượng lớn dữ liệu được hệ thống AI thu thập, lưu trữ và xử lý. Dữ liệu này có thể chứa dữ liệu riêng tư hoặc nhạy cảm. Do đó, kẻ tấn công có thể nhắm mục tiêu dữ liệu này và có thể trích xuất nó. Ví dụ: dữ liệu vị trí phương tiện hoặc dữ liệu khách hàng khác từ đầu ra do hệ thống AI hoặc ứng dụng LLM tạo ra.
Nhiều OEM đang xem xét việc tạo ra các mô hình AI của riêng họ, điều này sau đó có nguy cơ bị đánh cắp mô hình. Ví dụ: nếu mô hình chứa thuật toán độc quyền hoặc IP cụ thể thì mô hình đó có thể bị kẻ tấn công nhắm tới và có khả năng bị sao chép hoặc thiết kế ngược.
Sau đó, kẻ tấn công có thể lạm dụng mô hình bị đánh cắp để phân tích cách hoạt động của một số chức năng nhất định hoặc giành quyền truy cập trái phép vào thông tin nhạy cảm trong mô hình. Ví dụ: mô hình AI dành cho các cửa hàng sửa chữa có thể chứa thông tin độc quyền về cách lập trình lại chìa khóa mới cho xe hoặc cách vào chế độ kỹ thuật trên ECU. Kẻ tấn công nhắm mục tiêu vào mô hình này có thể xây dựng lại mô hình bằng cách đảo ngược kỹ thuật các tính năng hoặc chức năng mà mô hình cung cấp. Do đó, các OEM nên xem xét loại dữ liệu quan trọng hoặc nhạy cảm nào mà mô hình AI nên được đào tạo và xem xét nguy cơ bị đánh cắp mô hình.
Một mối quan tâm khác khi tạo mô hình AI là quản lý dữ liệu mà mô hình được đào tạo. Ví dụ: kẻ tấn công có thể nhắm mục tiêu sửa đổi hành vi của mô hình AI thông qua cái gọi là “cuộc tấn công đầu độc dữ liệu huấn luyện”. Trong trường hợp này, kẻ tấn công sửa đổi hoặc đưa một số loại dữ liệu độc hại hoặc không chính xác vào tập dữ liệu huấn luyện. Do đó, mô hình AI trở nên hư hỏng do được đào tạo về dữ liệu sai này. Kết quả là, hệ thống AI, mặc dù dường như hoạt động “chính xác” theo mô hình dựa trên dữ liệu đào tạo bị nhiễm độc, nhưng thực tế có thể hoạt động sai so với thiết kế hoặc hành vi dự kiến.
Điều đáng chú ý là cuộc tấn công này yêu cầu kẻ tấn công phải có quyền truy cập vào dữ liệu huấn luyện, có thể sửa đổi dữ liệu huấn luyện mà không bị phát hiện và sau đó đảm bảo rằng mô hình AI được huấn luyện bằng cách sử dụng dữ liệu huấn luyện bị nhiễm độc này. Với các cuộc tấn công chuỗi cung ứng ngày càng gia tăng, vectơ tấn công này sẽ là điều mà các OEM nên cân nhắc cẩn thận để ngăn chặn.
Một điểm cần cân nhắc khác là mặc dù hệ thống AI và LLM mang lại lợi ích đáng kể cho nhiều trường hợp sử dụng, nhưng các tổ chức bắt buộc phải nhận ra rằng các nghiên cứu đã chỉ ra rằng hệ thống AI tổng quát có những điểm không chính xác. Họ có thể tạo ra nội dung không chính xác, không an toàn hoặc không an toàn. Khái niệm này được gọi là “ảo giác AI” và có thể xảy ra tới 20% thời gian.
Hơn nữa, vì các hệ thống AI tổng quát thường đưa ra câu trả lời một cách tự tin nên thách thức đối với người dùng là phải hiểu phần nào của kết quả đầu ra có thể đáng tin cậy và phần nào của kết quả đầu ra có thể không chính xác về mặt thực tế và có khả năng gây hại nếu được sử dụng “nguyên trạng”.
Do đó, mặc dù việc sử dụng AI mang lại những lợi ích to lớn nhưng các tổ chức cần xem xét nghiêm túc những vấn đề như ảo giác về AI và những sai sót tiềm ẩn khi dựa vào công nghệ AI.
Công nghệ AI sẽ tiếp tục được triển khai rộng rãi hơn trong ngành công nghiệp ô tô vì chúng mang lại những lợi ích quan trọng. Chúng ta sẽ thấy nhiều giải pháp AI được tích hợp vào xe hơn nhưng cũng sẽ tăng cường sử dụng các giải pháp AI trong các giai đoạn phát triển và vận hành của vòng đời xe. Ví dụ, trong quá trình phát triển, các giải pháp AI sẽ giúp mô phỏng và thử nghiệm nâng cao hơn cũng như tối ưu hóa các quy trình phát triển như đã đề cập ở trên.
Công nghệ AI dự kiến sẽ tiếp tục được triển khai rộng rãi hơn trong ngành công nghiệp ô tô vì chúng mang lại những lợi ích quan trọng.
Trong các giai đoạn vận hành, AI sẽ cải thiện hiệu quả phân tích lượng lớn dữ liệu được thu thập từ các phương tiện để giúp đưa ra quyết định dựa trên dữ liệu. Điều này bao gồm việc phát hiện các điểm bất thường và các cuộc tấn công mạng tiềm ẩn trên phương tiện, do đó có thể được áp dụng để hỗ trợ trường hợp sử dụng giám sát an ninh mạng liên tục.
Google translate