Chuyên gia lo sợ sau khi AI của Facebook tự phát triển ngôn ngữ

Thứ ba - 01/08/2017 16:43

Các chuyên gia về khoa học máy tính đã lo sợ, cảnh báo con người về mối nguy hiểm đến từ Trí thông minh Nhân tạo (AI) sau khi hai AI của Facebook tự phát triển ngôn ngữ.

1
 
Con người đang trên đường tạo ra 'kẻ hủy diệt'?
   
Facebook đã phải "giết" hai AI mà họ tạo ra sau khi chúng tự phát triển ngôn ngữ riêng cho mình. Vụ việc xảy ra khi Facebook dạy hai AI của họ "chatbots" để thương lượng với nhau.

Chatbot là một hình thức thô sơ của phần mềm trí tuệ nhân tạo. Nó hoạt động độc lập, có thể tự động trả lời những câu hỏi hoặc xử lý tình huống càng thật càng tốt. Phạm vi và sự phức tạp của chatbot được xác định bởi thuật toán của người tạo nên chúng.

Chatbot là sự kết hợp của các kịch bản có trước và tự học trong quá trình tương tác. Với các câu hỏi được đặt ra, chatbot sẽ dự đoán và phản hồi chính xác nhất có thể. Nếu tình huống đó chưa xảy ra (không có trong dữ liệu), chatbot sẽ bỏ qua nhưng sẽ đồng thời “bắt chước” để áp dụng cho các cuộc trò chuyện thường xuyên (lặp đi lặp lại nhiều lần) về sau.

Tuy nhiên, trong quá trình thực nghiệm hai AI - được gọi là Alice và Bob - lại tự phát sinh ngôn ngữ máy riêng của mình một cách hoàn toàn tự động.

Các nhà nghiên cứu của Facebook đã cho AI của họ học các bài phát biểu của con người bằng cách dùng các thuật toán, sau đó để AI tự chạy nhằm phát triển kỹ năng đàm thoại.

Khi các nhà khoa học quay trở lại phòng thí nghiệm, học bắt gặp một hiện tượng gây sốc khi hai AI bắt đầu giao tiếp với nhau bằng một ngôn ngữ mới hoàn toàn được chúng tạo ra khi con người không giám sát chúng.

Ngôn ngữ mới được tạo ra rõ ràng là hiệu quả cao hơn trong việc hai AI giao tiếp với nhau, nhưng chúng không đúng với nhiệm vụ mà những AI này đã được thiết lập.

Các nhà khoa học sau đó thay đổi thuật toán để tiếp tục nghiên cứu của mình, họ cho rằng chuyện AI tự tạo ra ngôn ngữ có thể chỉ là một lỗi.

Dù vậy sau đó hai AI kia vẫn tiếp tục "cứng đầu" và luôn nhấn mạnh tính riêng trong câu nói của mình. Các nhà khoa học của Facebook ngay lập tức lo lắng về thứ mình tạo ra và đã" khai tử" cả hai AI.

Giáo sư Kevin Warwick một chuyên gia về robot của Anh nói: "Đây là một cột mốc vô cùng quan trọng, nhưng bất cứ ai nghĩ chuyện này không nguy hiểm thì có lẽ 'đầu họ đang rúc trong cát' (cách đà điểu vờ tránh mọi nguy hiểm xung quanh). Đây là lần đầu tiên chuyện này được truyền thông ghi lại, nhưng có lẽ nhiều thứ đã không được ghi lại trước đây. Các thiết bị công nghệ thông tin bây giờ có khả năng giao tiếp riêng, dù chúng ta tự cho rằng mình có thể giám sát chúng, nhưng chúng ta không có cách nào để kiểm chứng chuyện đó".

Đây không phải là lần đầu tiên máy tính tự tạo ra ngôn ngữ riêng. Các nhà phát triển AI ở một số công ty khác trước đó cũng từng nhận thấy AI thực hiện điều tương tự nhằm đơn giản hóa quá trình giao tiếp. Tại OpenAI, phòng thí nghiệm trí tuệ nhân tạo do Elon Musk thành lập, một thí nghiệm đã được thực hiện thành công khi các nhà khoa học để cho chương trình Trí tuệ nhân tạo tự học ngôn ngữ của chúng.

MTG

 
 Từ khóa: Chuyên gia, Facebook
Tổng số điểm của bài viết là: 0 trong 0 đánh giá
Click để đánh giá bài viết

  Ý kiến bạn đọc

  Ẩn/Hiện ý kiến

Những tin mới hơn

 

Những tin cũ hơn

Xem nhiều nhất
Xem dự báo thời tiết tại
Thống kê truy cập
  •   Đang truy cập 68
  •   Máy chủ tìm kiếm 4
  •   Khách viếng thăm 64
 
  •   Hôm nay 2,052
  •   Tháng hiện tại 1,347,941
  •   Tổng lượt truy cập 26,505,711
Thăm dò ý kiến

Bạn quan tâm gì nhất ở mã nguồn mở?

USD 57.5660
EUR 68.5553
HKD 73.6807
JPY 51.3066
AUD 45.7765
BGN 35.0414
CAD 46.6235
CHF 59.2121
DKK 92.1277
GBP 77.9156
KRW 50.8502
SGD 42.6826
QUẢNG CÁO TRÁI
Banner