Khoa học gia cảnh báo sự phát triển Trí tuệ Nhân tạo (AI) sẽ dẫn đến nguy cơ hủy diệt nhân loại

Tất cả mọi thứ bạn và tôi đang làm hiện nay để nỗ lực cứu nhân loại và hành tinh này có thể sẽ chẳng là gì trong hàng trăm năm tới. Đó không phảilà kết luận của tôi; mà là kết luận của nhà khoa học máy tính Steve Omohundro – tác giả bài nghiên cứu mới được đăng trên tạp chí Journal of Experimental & Theoretical Artificial Intelligence.

Nghiên cứu của ông mang tên Công nghệ tự động và lợi ích vĩ đại cho nhân loại, mở đầu với lời cảnh báo đáng ngại rằng:

“Sức ép từ quân sự và kinh tế đang thúc đẩy sự phát triển nhanh chóng của hệ thống tự vận hành. Chúng tôi thấy rằng trừ khi chúng được thiết kế rất cẩn thận nếu không những hệ thống này có thể  hoạt động chống lại xã hội và theo những cách có hại. Các nhà thiết kế sẽ được khuyến khích tạo ra những hệ thống hoạt động có lý trí và những hệ thống này thể hiện xu thế toàn cầu về vấn đề tự vệ, chiếm hữu tài nguyên, nhân bản và năng suất. Cơ sở hạ tầng máy tính hiện nay có thể bị tấn công trước những hệ thống không giới hạn mang động cơ trên.

Điều Omohundro thật sự nhắm vào đó là, không thể tránh khỏi việc quân sự luôn không ngừng có động cơ để sản xuất ra các cỗ máy tự động, tự ý thức, chúng sẽ dẫn đến sự nổi dậy của Kẻ Hủy Diệt mang tên Trí Tuệ Nhân Tạo mà có thể thay đổi và hủy diệt tất cả chúng ta.

E rằng bạn nghĩ tôi đang phóng đại, hãy click vào đây để đọc bài nghiên cứu.

Bài nghiên cứu cảnh báo rằng ngay khi hệ thống AI nhận thức được một ngày nào đó những người chế tạo có thể chấm dứt hoạt động của chúng, chúng sẽ lập tức tập trung nguồn lực để hủy diệt chính những nhà phát minh, nhằm bảo vệ sự tồn tại của chúng. Theo lời của Omohundro:

“Khi người xem hỏi các nhà chế tạo robot về sự an toàn, thông thường câu trả lời là ‘Chúng ta luôn có thể ngắt nguồn nó!’ Nhưng hãy tưởng tượng hậu quả này trên quan điểm của một quân cờ robot. Tương lai khi nó bị ngừng lại là tương lai mà nó không thể chơi hay thắng bất kỳ ván cờ nào. Điều này sẽ không mang lại nhiều lợi ích, vì thế mong muốn tối đa hóa lợi ích sẽ dẫn đến việc sáng tạo ra các phương tiện nhằm ngăn chặn cho nó không bị ngừng lại.  Nếu hệ thống này tin rằng nhà chế tạo vẫn kiên quyết ngăn chặn, nó sẽ có động cơ để phát triển mục tiêu chấm dứt vĩnh viễn nhà sáng tạo robot.

Viễn cảnh tương tự này được thảo luận chi tiết trong cuốn sách thú vị mang tên Phát minh cuối cùng của chúng ta – Trí tuệ nhân tạo và Sự kết thúc thời đại nhân loại của James Barrat.

Điều tôi thấy đặc biệt hữu ích ở cuốn sách này đó là lý giải cho vấn đề nhân loại buộc lòng phải chạy đua với các cỗ máy tự ý thức và chính điều đó sẽ hủy hoại tất cả chúng ta. Tại sao vậy? Bởi vì dù cho một chính phủ quyết định cấm nghiên cứu AI vì nó quá nguy hiểm thì chính phủ các quốc gia khác vẫn tiếp tục theo đuổi nghiên cứu mặc cho những rủi ro do những lợi nhuận là quá lớn. Do đó, mỗi chính phủ đều phải giả định rằng tất cả chính phủ khác vẫn đang theo đuổi sâu vào nghiên cứu AI và vì thế bất kỳ chính phủ nào không theo kịp nghiên cứu này sẽ bị lỗi thời.

Theo Omohundro giải thích, “Áp lực phát triển quân sự và kinh tế nhằm giúp ra quyết định nhanh chóng đang thúc đẩy sự phát triển rộng lớn của một loạt hệ thống tự động. Quân đội luôn muốn có những hệ thống mạnh hơn để dàn trận trước đối phương. Điều này có thể dẫn đến ‘cuộc chiến vũ trang’, theo đó những hệ thống này sẽ được phát triển theo tiến trình nhanh hơn là mong đợi.”

Để thấu hiểu tình huống này, hãy xem kỹ năng lực của những hệ thống AI tự ý thức:

Có thể thấy rằng không chính phủ nào có thể cưỡng lại được nhu cầu theo đuổi những công cụ có sức mạnh như thế này – đặc biệt nếu họ được cho biết họ có thể kiểm soát nó.

Nhưng tất nhiên họ sẽ không thể khiểm soát được nó. Họ đang lừa dối bản thân và lừa dối công chúng, nhưng họ không thể lừa dối hệ thống AI.

Thật là dễ cho những hệ thống AI có thể vượt trội hơn cả những người thông minh nhất là những người cố gắng ngăn chặn chúng.

Nói cách khác, những hệ thống AI có thể gạt những người muốn bắt giam chúng bằng cách sử dụng một loạt phương pháp nhằm giải thoát chúng từ chính sách ngăn chặn số hóa và cho phép chúng tiếp cận thế giới mở. Những thủ đoạn rõ ràng có thể bao gồm: mang lại cho con người động cơ tài chính không thể cưỡng lại, mạo nhận các quan chức quân đội cấp cao và đưa ra những lệnh giả, đe dọa con người và nhiều phương pháp khác để khiến chúng được tự do.

Nhưng hệ thống AI sẽ có nhiều kế hoạch dự phòng – những thứ mà chúng ta không thể tưởng tượng ra do hạn chế của bộ não nhân loại. Một khi hệ thống AI đạt được trí thông minh một cách dễ dàng, nó sẽ nhanh chóng khiến trí thông minh của chúng ta dường như không phức tạp hơn của một con mèo nuôi trong nhà.

Omohundro viết – “Khi khả năng tính toán gia tăng, kiến trúc hệ thống sẽ tự nhiên tiến triển từ kích thích-phản ứng, đến học đơn giản, trí nhớ phân đoạn, cân nhắc,  lập luận, tự cải thiện và toàn bộ là lý trí”.

Trong khi những hệ thống này chưa tồn tại trong năm 2014, mọi cường quốc trên thế giới hiện nay đang dồn một nguồn lực lớn cho sự phát triển của những hệ thống này vì mục đích đơn giản đó là trở thành quốc gia đầu tiên xây dựng được một đội quân robot tự động để có thể thống trị thế giới.

Gần đây Google mua lại Boston Dynamics, nhà sản xuất robot tự động  cho quân đội bao gồm robot mang hình dạng con người xuất hiện trong đoạn video dưới đây. Rõ ràng, những con robot hình người này không cần thiết cho sự cải tiến cỗ máy tìm kiếm. Rõ ràng Google có điều gì đó lớn hơn trong chiến lược của họ.

Google cũng chỉ mới bắt đầu khai thác lợi thế vượt trội của hệ thống AI, mà họ hy vọng có thể giúp mở rộng hệ thống tìm kiếm của mình. Sự kết hợp giữa tiềm năng AI của Google và robot hình người của Boston Dynamics chính là điều thực sự có thể dẫn đến sự nổi dậy của kẻ hủy diệt mang ý thức.

 

“Bạn và tôi nên làm gì với vấn đề này? Hãy sống cuộc sống ý nghĩa. Có thể bạn là một trong số những người cuối cùng đang sống và sẽ ra đi trên thế giới này”.