Kailash Nadh là giám đốc công nghệ (CTO) của một startup kỳ lân. Nadh cũng đã hoàn thành bằng Tiến sĩ về trí tuệ nhân tạo (AI) hơn một thập kỷ trước. Gần đây, Nadh đã có một tweet nói về mối đe dọa của trí tuệ nhân tạo đối với việc làm: "AI tự nó sẽ không thức dậy và giết chết tất cả chúng ta (ít nhất là trong một thời gian nữa). Nhưng hệ thống kinh tế sẽ nhanh chóng áp dụng AI, đẩy nhanh sự bất bình đẳng và mất đi quyền tự quyết của con người. Đó là rủi ro trước mắt".
Công ty fintech kỳ lân của Kailash Nadh đã khởi động đề xuất một chính sách AI, hứa hẹn không sa thải bất kỳ nhân viên nào. Trang Moneycontrol đã có cuộc trò chuyện với Nadh về cách AI có thể tác động đến xã hội, đặc biệt là đến công việc công nghệ thông tin.
AI có thể khiến các công việc kỹ thuật phần mềm bị lỗi thời đến mức độ nào?
Điều này thực sự phụ thuộc vào loại công nghệ phần mềm mà chúng ta đang nói đến. Chẳng hạn, nếu đó là một hệ thống phức tạp có quy mô tốt, tôi không nghĩ AI có thể khiến hệ thống bị lỗi thời. Tuy nhiên, nhiều công việc công nghệ cấp thấp có thể bị ảnh hưởng đáng kể.
Cá nhân tôi đã bắt đầu sử dụng ChatGPT để gỡ lỗi phần mềm, trong khi trước đó tôi thường tìm kiếm kết quả trên Google và kiểm tra xem các nhà phát triển khác đã nói gì về nó. Điều này giúp tôi tiết kiệm 30-45 phút cho mỗi lần gỡ lỗi. Bây giờ, tôi nhận được câu trả lời trong 5 giây. Điều đó có nghĩa là một người có thể làm công việc của nhiều người. Và kết quả tự nhiên của việc đó là bạn không thực sự cần nhiều người.
Đó là một xu hướng lịch sử hay một hiện tượng sau 10-15 năm qua?
Các nhóm phần mềm đã từng tinh gọn cách đây 10-15 năm. Các công ty khởi nghiệp không có xu hướng thuê hàng trăm lập trình viên. Tuy nhiên, vốn đầu tư mạo hiểm bùng nổ, mọi người đã tuyển dụng “như điên” vì quy mô đã trở thành một thứ như thước đo tăng trưởng. Nhưng kinh tế khó khăn cùng với sự phát triển của AI có thể sẽ khiến các công ty không cần đến nhiều người như vậy.
Một câu hỏi đang khiến mọi người bận tâm là điều gì sẽ xảy ra với hàng vạn kỹ sư công nghệ thông tin. Ông có nghĩ rằng những công việc đó có nguy cơ sớm bị AI thay thế hơn so với những công việc khác?
Lý do đằng sau việc các công ty dịch vụ CNTT thuê nhiều người không phải là về công nghệ. Đó là về cách cấu trúc kinh doanh của họ. Nếu đặt tất cả các vấn đề khác sang một bên, và chỉ tập trung vào công nghệ, thì những công việc công nghệ thực tế do những người ở cấp thấp hơn thực hiện có thể dễ dàng được thực hiện bằng mã hóa AI tổng quát. Đó là những công việc liên quan rất ít đến sự sáng tạo. Thường đó là các việc bảo trì, vá các hệ thống cũ cho các khách hàng lớn. Và, về mặt logic, đó là những công việc dễ bị thay thế nhất.
Thực tế, tất cả chỉ là vấn đề thời gian. Bởi vì nếu tự động hóa trở nên rẻ và hiệu quả như vậy, áp lực kinh tế sẽ buộc các công ty phải thay đổi. Các cổ đông sẽ bắt đầu đặt câu hỏi tại sao công ty lại trả lương cho 400 người, khi một hệ thống AI có thể làm điều đó với chi phí chỉ bằng 1%.
Mỗi khi có một bước đột phá về công nghệ, các công việc cổ cồn xanh được cho là sẽ bị ảnh hưởng đầu tiên. Lần này công việc cổ trắng dường như đang đối mặt với mối đe dọa đầu tiên. Liệu có một kịch bản kinh tế xã hội nào mà tầng lớp trung lưu mất việc làm và rơi vào cảnh nghèo đói không?
Goldman Sachs đã công bố một báo cáo gần đây nói rằng 300 triệu công việc văn phòng sẽ bị ảnh hưởng. Trong ngắn hạn, đó là một con số khổng lồ. Nếu nhiều loại công việc văn phòng khác nhau có thể bị lỗi thời nhanh chóng, thì liệu có một hệ thống nào trong khuôn khổ kinh tế toàn cầu của chúng ta để tiếp nhận tất cả những người bị mất việc làm không?
Sự tồn tại toàn cầu của chúng ta dựa trên các cấu trúc kinh tế xã hội rất cụ thể – giáo dục, việc làm, hưu trí. Bây giờ, nếu trật tự xã hội đó bị phá vỡ do mất việc làm quy mô lớn, tôi không biết điều đó có nghĩa là gì. Có hàng tỷ người thuộc tầng lớp trung lưu, và như vậy trật tự xã hội sẽ bị đảo lộn. Thật khó để biết điều gì sẽ xảy ra.
Điều này đã được nói đến trong bối cảnh AI trong nhiều cuốn sách khoa học viễn tưởng trong nhiều năm, nhưng đó chỉ là suy đoán thuần túy. Thậm chí có thể nguy hiểm khi suy đoán rộng rãi như vậy.
Nhiều chuyên gia lo lắng về việc AI siêu thông minh hoặc có tri giác sẽ kiểm soát máy móc và chế ngự con người. Nhưng, không phải sự hỗn loạn xã hội do mất việc làm mới là mối đe dọa hợp lý hơn cần được quan tâm vào lúc này sao?
Đúng vậy, trật tự xã hội là điều cần được quan tâm hơn lúc này, so với việc AI thức dậy và giết chết tất cả chúng ta. Ngay cả khi nó không đến mức như vậy, thì sự gián đoạn xã hội do AI gây ra vẫn có khả năng xảy ra cao hơn rất nhiều so với việc AI có tri giác đang cố gắng xóa sổ loài người.
Vài tháng trước, các nhân vật công nghệ nổi tiếng như Elon Musk, Steve Wozniak, Max Tegmark và những người khác đã viết một bức thư chung kêu gọi tạm dừng 6 tháng để tiếp tục phát triển AI. Ông nghĩ gì về điều này?
Câu hỏi lý tưởng nhất là 'con người có nên phát triển AI hay không?' Chúng ta có nên kìm hãm sự tiến bộ của con người, giống như chúng ta kìm hãm việc nhân bản con người, phải không? Việc xác định các vấn đề và đạo đức của nhân bản con người cũng dễ dàng hơn nhiều so với AI. Nó sẽ thúc đẩy loài người tiến lên một cách ồ ạt và đồng thời kéo loài người tụt lùi một cách ồ ạt ở các khía cạnh khác.
Nhưng toàn bộ việc tạm dừng phát triển AI trong sáu tháng là một trò đùa. Nó không có ý nghĩa gì cả. Tại sao sáu tháng? Tại sao không phải bốn tháng? Tại sao không phải là 12 tháng? Hoặc là tạm dừng vô thời hạn, nói rằng một ngày nào đó nhân loại hiểu được tất cả những thứ này, chúng ta sẽ tiếp tục AI. Hoặc không tạm dừng chút nào.
AI đang viết phim, nhạc và tiểu thuyết. Những loại hình nghệ thuật này có liên quan đến yếu tố tình cảm. Như vậy, AI không chỉ làm chủ những thứ thuần túy logic như cờ vua nữa. Theo một cách nào đó, đó có phải là dấu hiệu của một loại tri giác AI nào đó không?
Không thực sự. Đây là một chủ đề cực kỳ gây tranh cãi. Đó là một cuộc thảo luận 2.000 năm tuổi về ý chí tự do, tình cảm, nhận thức, ý nghĩa của việc làm người, v.v. Có một số người cho rằng các mô hình ngôn ngữ lớn đang có dấu hiệu của tình cảm. Nhưng tôi không nghĩ rằng phần lớn mọi người, các nhà triết học, các nhà nghiên cứu AI đang tuyên bố có tri giác ở đây. Ngay cả định nghĩa về tình cảm cũng rất không rõ ràng. Không phải ai cũng đồng ý về một định nghĩa duy nhất về tri giác.
Nếu AI có thể tạo ra nội dung không giới hạn mãi mãi, thì có lẽ dạng nội dung đó sẽ mất giá trị, phải không? Tôi có cảm giác rằng khi ứng dụng AI gia tăng, khi phần lớn nội dung đều do AI tạo ra, thì sẽ xuất hiện một phân khúc thích hợp cho nội dung do con người tạo ra... Sự khan hiếm cũng chiếm một vị trí trong ý tưởng sáng tạo. Khi JK Rowling viết một thứ gì đó, mọi người đánh giá cao nó bởi vì bà ấy đã viết nó, vì lịch sử và khối lượng công việc của bà ấy.
Có cách nào mọi người có thể ngăn dữ liệu của họ bị lấy ra khỏi internet để đào tạo các mô hình AI không?
Không chỉ các mô hình AI, mà các công cụ tìm kiếm như Google đã lấy tất cả thông tin trên internet mà không hỏi bất kỳ ai. Đó chính xác là điều tương tự, phải không? Chỉ là Google hiển thị các đoạn trích về những gì nó đã loại bỏ, trong khi các mô hình AI đang tạo ra những thứ mới từ nó. Đó là sự khác biệt duy nhất. Nhưng trên thực tế, Google đã thu thập nhiều dữ liệu hơn bất kỳ mô hình AI nào trong số này.
Có một số trang web nhất định nói rằng họ không muốn được Google lập chỉ mục. Vì vậy, có một cơ chế kỹ thuật được gọi là không có chỉ mục cho điều đó. Một số tập đoàn lớn có thể đưa ra một biện pháp kỹ thuật như không lập chỉ mục, nhưng biện pháp này chỉ dành cho các tập đoàn tuân thủ luật pháp.
Nếu một cái gì đó có sẵn trên internet, có hoặc không có bản quyền, thì nó có thể được gộp vào một mô hình AI. Không thể ngăn chặn nó.
Google translate