Hơn 2.600 nhà lãnh đạo và nhà nghiên cứu công nghệ đã ký một bức thư ngỏ kêu gọi tạm dừng phát triển trí tuệ nhân tạo (AI) hơn nữa, vì lo ngại “những rủi ro sâu sắc đối với xã hội và nhân loại”.
Elon Musk và các nhà điều hành công nghệ kêu gọi tạm dừng phát triển AI
Giám đốc điều hành Tesla, Elon Musk, đồng sáng lập Apple Steve Wozniak, và một loạt các CEO, CTO và nhà nghiên cứu AI nằm trong số những người ký tên vào bức thư, được công bố bởi viện nghiên cứu Tương lai của Hoa Kỳ (FOLI) vào ngày 22 tháng 3.
Viện kêu gọi tất cả các công ty AI “ngay lập tức tạm dừng” đào tạo các hệ thống AI mạnh hơn GPT-4 trong ít nhất sáu tháng, chia sẻ mối lo ngại rằng “trí thông minh cạnh tranh của con người có thể gây ra rủi ro sâu sắc cho xã hội và nhân loại”, trong số những thứ khác .
📢 We're calling on AI labs to temporarily pause training powerful models!
“Trí tuệ nhân tạo tiên tiến có thể đại diện cho một sự thay đổi sâu sắc trong lịch sử sự sống trên Trái đất và cần được lên kế hoạch cũng như quản lý với sự quan tâm và nguồn lực tương xứng. Thật không may, mức độ lập kế hoạch và quản lý này không xảy ra,” viện viết.
GPT-4 là phiên bản mới nhất của chatbot hỗ trợ trí tuệ nhân tạo của OpenAI, được phát hành vào ngày 14 tháng 3. Cho đến nay, nó đã vượt qua một số kỳ thi luật và trường trung học nghiêm ngặt nhất của Hoa Kỳ trong phân vị thứ 90 . Nó được hiểu là cải tiến gấp 10 lần so với phiên bản gốc của ChatGPT.
Có một “cuộc chạy đua ngoài tầm kiểm soát” giữa các công ty AI để phát triển AI mạnh mẽ hơn, mà “không ai — kể cả người tạo ra chúng — có thể hiểu, dự đoán hoặc kiểm soát một cách đáng tin cậy,” FOLI tuyên bố.
BREAKING: A petition is circulating to PAUSE all major AI developments.
e.g. No more ChatGPT upgrades & many others.
Signed by Elon Musk, Steve Wozniak, Stability AI CEO & 1000s of other tech leaders.
Một trong những mối quan tâm hàng đầu là liệu máy móc có thể tràn ngập các kênh thông tin hay không, có khả năng là “tuyên truyền sai sự thật” và liệu máy móc có “tự động hóa” mọi cơ hội việc làm hay không.
FOLI đã đưa những lo ngại này tiến thêm một bước, cho thấy rằng những nỗ lực kinh doanh của các công ty AI này có thể dẫn đến một mối đe dọa hiện hữu:
“Chúng ta có nên phát triển những bộ óc phi nhân loại mà cuối cùng có thể đông hơn, thông minh hơn, lỗi thời và thay thế chúng ta không? Chúng ta có nên mạo hiểm mất kiểm soát nền văn minh của mình không?”
“Những quyết định như vậy không được giao cho các nhà lãnh đạo công nghệ không được bầu chọn,” bức thư viết thêm.
Viện cũng đồng ý với một tuyên bố gần đây từ người sáng lập OpenAI Sam Altman rằng cần phải có một đánh giá độc lập trước khi đào tạo các hệ thống AI trong tương lai.
Altman trong bài đăng trên blog ngày 24 tháng 2 của mình đã nhấn mạnh sự cần thiết phải chuẩn bị cho robot trí tuệ tổng quát nhân tạo (AGI) và siêu trí tuệ nhân tạo (ASI).
Tuy nhiên, không phải tất cả các chuyên gia AI đều vội vàng ký tên thỉnh nguyện. Ben Goertzel, Giám đốc điều hành của SingularityNET, đã giải thích trong một phản hồi trên Twitter vào ngày 29 tháng 3 với Gary Marcus, tác giả của Rebooting.AI, rằng các mô hình học ngôn ngữ (LLM) sẽ không trở thành AGI, mà cho đến nay, đã có rất ít sự phát triển của .
Thay vào đó, ông cho biết nên giảm tốc độ nghiên cứu và phát triển đối với những thứ như vũ khí sinh học và hạt nhân:
On the whole, human society will be better off with GPT-5 than GPT-4 — better to have slightly smarter models around. AIs taking human jobs will ultimately a good thing. The hallucinations and banality will decrease and folks will learn to work around them.
Ngoài các mô hình học ngôn ngữ như ChatGPT, công nghệ deep fake được hỗ trợ bởi AI đã được sử dụng để tạo ra những trò lừa bịp bằng hình ảnh, âm thanh và video thuyết phục. Công nghệ này cũng đã được sử dụng để tạo ra các tác phẩm nghệ thuật do AI tạo ra, với một số lo ngại được đặt ra về việc liệu nó có vi phạm luật bản quyền trong một số trường hợp nhất định hay không.
Giám đốc điều hành của Galaxy Digital, Mike Novogratz, gần đây đã nói với các nhà đầu tư rằng ông đã bị sốc về mức độ chú ý của cơ quan quản lý dành cho tiền điện tử, trong khi rất ít sự chú ý dành cho trí tuệ nhân tạo.
“Khi tôi nghĩ về AI, tôi bị sốc khi chúng ta đang nói quá nhiều về quy định tiền điện tử mà không có gì về quy định AI. Ý tôi là, tôi nghĩ chính phủ đã hoàn toàn đảo ngược nó,” anh ấy nói trong một cuộc gọi cổ đông vào ngày 28 tháng 3.
FOLI đã lập luận rằng nếu việc tạm dừng phát triển AI không được ban hành nhanh chóng, các chính phủ nên tham gia vào lệnh cấm.
“Việc tạm dừng này phải được công khai và có thể kiểm chứng, đồng thời bao gồm tất cả các tác nhân chính. Nếu việc tạm dừng như vậy không thể được ban hành nhanh chóng, các chính phủ nên can thiệp và đưa ra lệnh cấm,” nó viết.
Theo dõi và cùng thảo luận với Coin94 qua các kênh social:
.png "Đăng ký tên miền")
