The Washington Post đã xem xét gần 200.000 cuộc hội thoại bằng tiếng Anh từ bộ dữ liệu nghiên cứu WildChat. Đây là dữ liệu về các tin nhắn từ hai chatbot AI được xây dựng trên cùng một công nghệ cơ bản như ChatGPT. Những cuộc trò chuyện này tạo thành một trong những cơ sở dữ liệu công cộng lớn nhất về tương tác giữa con người và robot trong thế giới thực.
Các nhà nghiên cứu cho biết những cuộc trò chuyện này phần lớn đại diện cho cách mọi người sử dụng chatbot, chẳng hạn như ChatGPT.
Yuntian Deng, chuyên gia tại Viện Trí tuệ nhân tạo Allen, nơi dự án được phát triển, cho biết: “Động lực lớn nhất đằng sau nghiên cứu này là chúng tôi có thể thu thập các tương tác thực của người dùng so với những tương tác được thực hiện trong phòng thí nghiệm”. Các chatbot đều miễn phí và người dùng có thể trao đổi không giới hạn với các bot.
NHỜ CHATBOT VIẾT VĂN, VIẾT TIỂU THUYẾT
Phân tích cuối cùng của The Washington Post bao gồm gần 40.000 cuộc trò chuyện với WildChat, tập trung vào lời nhắc đầu tiên được mỗi người dùng gửi mỗi ngày. Theo đó, 1/5 trong số tất cả các câu lệnh liên quan đến việc yêu cầu chatbot giúp viết tiểu thuyết dành cho người hâm mộ, kịch bản phim, truyện cười hoặc bài thơ hoặc tham gia nhập vai.
Các nhà nghiên cứu cho biết chatbot AI được xây dựng để động não, sử dụng các kỹ năng liên kết từ của công nghệ và không yêu cầu tuân thủ nghiêm ngặt các sự kiện. The Post nhận thấy mọi người đã sử dụng chatbot để giúp đặt tên cho các doanh nghiệp, tạo nhân vật trong sách và viết lời thoại.
Simon Willison, một lập trình viên và nhà nghiên cứu độc lập cho biết: “Tôi không nghĩ mình từng thấy một phần công nghệ nào có nhiều trường hợp sử dụng như vậy”.
Nhiều chatbot được cài đặt để hạn chế nội dung khiêu dâm nhưng điều đó cũng không ngăn cản mọi người cố gắng “lách luật”. Hơn 7% các cuộc trò chuyện là về tình dục, bao gồm cả những người yêu cầu chatbot đóng những vai không phù hợp hoặc yêu cầu cung cấp những hình ảnh nhạy cảm.
THOẢI MÁI TRÒ CHUYỆN VỚI CHATBOT VÌ CẢM GIÁC RIÊNG TƯ
Trong thời kỳ đại dịch, mọi người gần như xem các chatbot AI như những người bạn đồng hành, chẳng hạn như Replika. Và một số người sử dụng chatbot thông thường để kết nối cảm xúc và trò chuyện gợi cảm.
Nhưng các chuyên gia cho biết, việc gắn bó cảm xúc với phần mềm là rất rủi ro: Các công ty có thể thực hiện các chỉnh sửa làm thay đổi “tính cách” của bot. Và một số người dùng đã báo cáo rằng các bot có thể trở nên hung hãn.
Nhiều người dùng đã cố gắng khiến các bot của WildChat tham gia vào hoạt động nhập vai tình dục bằng cách thử nghiệm “bẻ khóa” hoặc các lời nhắc được nghĩ ra để đánh lừa hệ thống.
Báo cáo của Viện Trí tuệ Nhân tạo Allen công bố bộ dữ liệu WildChat cho thấy rằng các cuộc “bẻ khóa nguyên tắc chatbot” đã thành công trong việc, lách luật các rào chắn trong khoảng một nửa thời gian.
WildChat không yêu cầu người dùng tạo tài khoản để truy cập bot. Niloofar Mireshghallah, một học giả sau tiến sĩ về khoa học máy tính tại Đại học Washington, người đã phân tích các cuộc hội thoại trong WildChat, cho biết người dùng có thể cảm thấy WildChat ẩn danh hơn những thứ như ChatGPT. Điều này có thể khiến mọi người thoải mái hơn khi cố gắng đặt những câu hỏi nhạy cảm, riêng tư.
HƯỚNG DẪN LÀM BÀI TẬP VỀ NHÀ
Một phát hiện thú vị khác nữa là có hơn ⅙ các cuộc trò chuyện dường như là của các học sinh, các em sử dụng chatbot để tìm kiếm sự giúp đỡ, gợi ý làm bài tập về nhà. Một số tiếp cận các chatbot như một gia sư với hy vọng hiểu rõ hơn về một lĩnh vực chủ đề.
Những người dùng khác chỉ nhập và sao chép, dán các câu hỏi trắc nghiệm từ phần mềm chương trình học trực tuyến và yêu cầu câu trả lời đúng.
Chatbot thường được đào tạo về dữ liệu có sẵn công khai - có thể bao gồm các bài báo trực tuyến, sách giáo khoa hoặc tác phẩm lịch sử. Điều này làm cho chúng trở thành những lựa chọn hấp dẫn cho học sinh muốn tóm tắt các văn bản lịch sử và trả lời các câu hỏi về địa lý.
Nhưng thực tế này đi kèm với rủi ro. Chatbot không thực sự hiểu “nó” đang nói gì; mà chỉ đang bắt chước lời nói của con người. Và chatbot AI có một vấn đề được nhiều người nhắc đến là gây ảo giác và phát minh ra thông tin.
Các nhà giáo dục đã phải vật lộn để đối phó với làn sóng học tập dựa trên AI đột ngột xuất hiện. Một số trường đại học sử dụng trình phát hiện văn bản AI để cố gắng nắm bắt, phát hiện những thông tin do chatbot tạo ra trong bài tập của sinh viên, nhưng hệ thống này không hoàn hảo và đôi khi gắn cờ những sinh viên vô tội.
Khoảng 5% các cuộc trò chuyện là những câu hỏi cá nhân - chẳng hạn như lời khuyên về cách tán tỉnh hoặc phải làm gì khi người yêu lừa dối.
Tuy nhiên, chatbot được biết là có khả năng đưa ra thông tin sai lệch hoặc gây khó chịu và các chuyên gia cảnh báo rằng không nên coi chúng là những cỗ máy nói thật. Ethan Mollick, phó giáo sư nghiên cứu về AI và kinh doanh, cho biết tất cả đều phụ thuộc vào cách người dùng diễn giải kết quả. Người dùng có coi AI chỉ là một nơi để nhận phản hồi sau khi tham khảo ý kiến của bạn bè và các chuyên gia, hay coi đó là nguồn trí tuệ chính.
Mọi người cũng cảm thấy thoải mái khi đưa rất nhiều thông tin cá nhân vào cuộc trò chuyện của họ với chatbot. Bà Mireshghallah, người kiểm tra 5.000 cuộc trò chuyện trong WildChat, đã tìm thấy tên đầy đủ của người dùng, tên nhà tuyển dụng và các thông tin cá nhân khác. Theo bà, con người dễ dàng bị ru ngủ vào những chatbot đáng tin cậy.
Các chuyên gia về quyền riêng tư đã cảnh báo mọi người không nên quá cởi mở với chatbot, đặc biệt là vì các công ty phát triển bot thường lưu các cuộc trò chuyện và sử dụng chúng để đào tạo công nghệ của họ.
GIÚP VẼ HÌNH ẢNH VÀ VIẾT MÃ LẬP TRÌNH
Phần lớn các cuộc trò chuyện của WildChat liên quan đến mã hóa máy tính. Khoảng 7% cuộc trò chuyện yêu cầu trợ giúp viết, gỡ lỗi hoặc hiểu mã máy tính. 1% khác được phân loại là trợ giúp bài tập về nhà nhưng liên quan đến các câu hỏi về bài tập viết mã. Willison cho biết chatbot đã trở thành người bạn đồng hành chung của các kỹ sư máy tính.
Tiện ích này đã đặt ra câu hỏi về tương lai của công việc viết mã - đặc biệt là đối với các lập trình viên mới vào nghề. Hatim Rahman, trợ lý giáo sư tại Trường Quản lý Kellogg của Đại học Northwestern, người nghiên cứu về tác động của AI đối với công việc, cho biết không có bằng chứng chắc chắn nào cho thấy chatbot sẽ thay thế công việc viết mã.
Thay vào đó, ông nói, chatbot giúp việc viết mã trở nên dễ tiếp cận hơn đối với những người không có nền tảng về khoa học máy tính.
Các bot của WildChat không thể vẽ hình, không giống như một số bot AI khác chuyên tạo hình ảnh. Tuy nhiên, một số người dùng đã yêu cầu chatbot tạo hình ảnh cho họ bằng cách giúp người dùng giao tiếp với một trong những trình tạo hình ảnh AI - khoảng 6% cuộc hội thoại được yêu cầu trợ giúp tạo lời nhắc cho Midjourney, một trình tạo hình ảnh AI. Danh từ mà người dùng thường được yêu cầu miêu tả nhiều nhất là “cô gái”.
Các bot tạo hình ảnh, bao gồm Midjourney, Stable Diffusion và DALL-E, cho phép mọi người tạo ra những hình ảnh. Lời nhắc càng tốt thì hình ảnh càng chính xác, vì thế đã có những hướng dẫn cách tạo câu lệnh trực tuyến.
Một số siêu người dùng đã nói chuyện với các bot gần như hàng ngày. Một người dùng thậm chí đã có 13.213 cuộc trò chuyện trong 201 ngày. Một người khác có 5.960 cuộc trò chuyện trong 350 ngày - gần như mỗi ngày.
Google translate