Google phát triển “nút tắt nóng” cho AI để ngăn chặn tình huống làm phản con người

Nhằm ngăn chặn trí thông minh nhân tạo ( AI) làm phản, các nhà nghiên cứu của Google và Đại học Oxford sẽ phát triển một hệ thống “ngắt” cho phép con người có thể chủ động vô hiệu hóa AI ngay lập tức để ngăn ngừa tình huống nó vượt quá tầm kiểm soát gây nguy hiểm đến con người. Nói cách khác, có thể hình dung như hệ thống này chính là “một nút tắt nóng” các AI.

Nghiên cứu được tiến hành bởi đơn vị chuyên phát triển công nghệ trí thông minh nhân tạo DeepMind của Google và Đại học Oxford và trong báo cáo, họ tuyên bố rằng: “Nếu con người đang giám sát một trợ lý hoạt động cho họ theo thời gian thực thì cần có một ‘nút bấm lớn màu đỏ’ để ngăn chặn khả năng trợ lý tiến hành một chuỗi các hành động có hại cho chủ nhân, những trợ lý khác hoặc môi trường. Hệ thống này sẽ giúp hướng các trợ lý ảo đó tới tình huống an toàn hơn.” Cách làm này tương tự như việc những robot trong nhà máy cần phải cho phép con người ghi đè dữ liệu lên nó để ngăn chặn tình huống nó làm con người bị thương hoặc gây hỏng hóc máy móc.

Tuy nhiên trong một viễn cảnh đáng sợ hơn, các nhà khoa học cho rằng AI rồi cũng có thể qua học hỏi để tránh bị vô hiệu hóa bởi “nút bấm” nói trên. Do đó, các nhà khoa học sẽ tìm cách để đối mặt với điều đó nhằm đảm bảo AI không thể học được cách chống lại lệnh “ngắt hoạt động” của con người hoặc môi trường. Trong báo cáo cũng mô tả chi tiết những cách làm phức tạp để hệ thống này có thể làm việc.

Trên thực tế, khi mà càng có nhiều công ty lớn tích cực phát triển các hệ thống trí thông minh nhân tạo như Google, Facebook, Amazon, Microsoft,… thì vẫn luôn có những ý kiến quan ngại với sự phát triển này, bao gồm cả Elon Musk và giáo sư Stephen Hawking vốn cho rằng “AI là quỷ dữ” và “sẽ đe dọa đưa con người tới bờ vực diệt vong.” Mặc dù AI đã có nhiều tiến bộ vượt bậc trong thời gian qua, nổi bật gần đây là hệ thống AlphaGo của Google DeepMind phát triển đã đánh cờ vây thắng cả nhà vô địch thế giới nhưng lần này, chính họ cũng có động thái tích cực trong việc ngăn chặn viễn cảnh xấu do AI tạo nên. Hy vọng rằng họ sẽ phát triển thành công hệ thống nói trên để chúng ta có thể đảm bảo rằng AI sẽ giúp ích cho con người hơn là làm phản giống như trong phim The Terminator.

Theo Tinh Tế

Advertisements

Posted on June 4, 2016, in Công nghệ, Tin học and tagged , , . Bookmark the permalink. Leave a comment.

Leave a Reply

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out / Change )

Twitter picture

You are commenting using your Twitter account. Log Out / Change )

Facebook photo

You are commenting using your Facebook account. Log Out / Change )

Google+ photo

You are commenting using your Google+ account. Log Out / Change )

Connecting to %s

%d bloggers like this: