Tập đoàn OpenAI – cha đẻ của ChatGPT vừa qua đã cho biết rằng họ đang có kế hoạch đầu tư vào các nguồn lực quan trọng để thành lập một nhóm nghiên cứu mới. Đội ngũ này sẽ tìm cách đảm bảo trí tuệ nhân tạo (AI) do tập đoàn tạo ra vẫn an toàn cho con người, thậm chí là có thể áp dụng chúng vào công nghệ tự giám sát.
AI có thể gây ra sự tuyệt chủng cho nhân loại
Ilya Sutskever (phải), đồng sáng lập và trưởng bộ phận kỹ thuật của OpenAI (Ảnh: Reuters)
Ông Ilya Sutskever – người đồng sáng lập OpenAI và Jan Leike – trưởng bộ phận kỹ thuật nhận định, “Sức mạnh khủng khiếp của siêu trí tuệ có thể dẫn đến sự suy giảm quyền lực, thậm chí là sự tuyệt chủng của loài người”.
Hai nhà lãnh đạo cho biết hiện tại họ không có giải pháp để điều khiển hoặc kiểm soát AI siêu thông minh và ngăn nó trở nên nguy hiểm, đồng thời cũng dự đoán AI siêu thông minh – hệ thống thông minh hơn con người – có thể xuất hiện trong thập kỷ này.
Do đó, con người cần những kỹ thuật tốt hơn hiện tại, những bước đột phá trong quá trình “nghiên cứu liên kết”, tập trung vào việc đảm bảo AI vẫn mang lại lợi ích cho con người. Trong 4 năm tới, OpenAI sẽ dành 20% sức mạnh của mình để giải quyết vấn đề này.
Trách nhiệm đào tạo hệ thống AI an toàn với con người
Chuyên gia AI ký thư ngỏ tạm dừng phát triển các hệ thống mạnh hơn GPT-4 (Ảnh: The Economic Times)
Hiện tại, OpenAI đang thành lập một nhóm mới có tên Superalignment, hoạt động với nhiệm vụ tạo ra một nhà nghiên cứu căn chỉnh AI “cấp độ con người”, sau đó mở rộng thông qua một lượng lớn sức mạnh tính toán. Điều này có nghĩa là OpenAI sẽ sử dụng phản hồi của con người để đào tạo ra các hệ thống AI hỗ trợ đánh giá con người và thực hiện nghiên cứu căn chỉnh.
Connor Leahy – người sáng lập công ty phát triển công nghệ AI Conjecture – đánh giá kế hoạch này còn nhiều thiếu sót, vì AI ở cấp độ con người ban đầu có thể hoạt động điên cuồng và trở nên mất kiểm soát nếu như không giải quyết các vấn đề về an toàn liên kết.
Những nguy hiểm tiềm tàng của siêu trí tuệ luôn là mối quan tâm hàng đầu của các nhà nghiên cứu và công chúng. Hồi tháng 4, nhóm các nhà lãnh đạo và chuyên gia trong ngành AI đã ký một bức thư ngỏ kêu gọi tạm dừng mọi quá trình phát triển các hệ thống mạnh hơn GPT-4 của OpenAI trong vòng 6 tháng. Cuộc thăm dò hồi tháng 5 của Reuters/Ipsos cho thấy hơn 2/3 người dân Hoa Kỳ lo ngại về những tác động tiêu cực của AI và 61% tin rằng AI có thể đe dọa nền văn minh nhân loại.
Giang Nguyễn (Theo Reuters)
