Dự đoán mới nhất của Musk: AI có thể vượt qua trí tuệ con người vào năm 2030 và có thể "hủy diệt" con người trong tương lai (1/2)

Nguồn: Tin tức công nghệ Tencent 2024-04-04 08:55

Những điểm chính:

① Musk dự đoán rằng AI có thể vượt qua mức độ thông minh của con người vào năm 2030 và thậm chí có thể tiêu diệt loài người.

② Musk nói về những yếu tố hạn chế sự phát triển của AI. Năm ngoái, nguồn cung chip AI khan hiếm, năm nay máy biến áp giảm áp sẽ trở thành nút thắt cổ chai.

③ Về việc con người có thể đặt chân lên mặt trăng, Musk dự đoán rằng với sự trợ giúp của Starship, nhanh nhất sẽ chỉ mất ba năm.

Tin tức công nghệ Tencent, ngày 4 tháng 4 - Theo báo cáo của các phương tiện truyền thông nước ngoài, Elon Musk, Giám đốc điều hành của Tesla và SpaceX, gần đây đã có cuộc trò chuyện trực tuyến với Peter Diamandis, người sáng lập Đại học Singularity và Quỹ XPRIZE, tại Hội nghị thượng đỉnh Abundance. Hội nghị thượng đỉnh được tổ chức bởi Đại học Singularity của Thung lũng Silicon, nơi chuyên cung cấp cho các nhà lãnh đạo doanh nghiệp dịch vụ tư vấn công nghệ tiên tiến. Quỹ XPRIZE thúc đẩy đổi mới công nghệ thông qua các cuộc thi khoa học, một số cuộc thi được tài trợ bởi Musk., Ngày 4 tháng 4 - Theo báo chí nước ngoài đưa tin, Elon Musk, CEO của Tesla và SpaceX, mới đây đã có cuộc trò chuyện trực tuyến với Peter Diamandis, người sáng lập Singularity Đại học và Quỹ XPRIZE, tại Hội nghị thượng đỉnh dồi dào. Hội nghị thượng đỉnh được tổ chức bởi Đại học Singularity của Thung lũng Silicon, nơi chuyên cung cấp cho các nhà lãnh đạo doanh nghiệp dịch vụ tư vấn công nghệ tiên tiến. Quỹ XPRIZE thúc đẩy đổi mới công nghệ thông qua các cuộc thi khoa học, một số cuộc thi trong số đó được Musk tài trợ.

Khi thảo luận về tốc độ phát triển của trí tuệ nhân tạo, Musk dự đoán dựa trên tốc độ tiến bộ công nghệ hiện nay, trí tuệ nhân tạo có thể vượt qua trí tuệ con người vào năm 2030, và công nghệ này thậm chí có thể có tiềm năng hủy diệt loài người. Tuy nhiên, ông không có cái nhìn bi quan về tương lai mà nhấn mạnh thông qua sự hướng dẫn tích cực, trí tuệ nhân tạo có tiềm năng mang lại một tương lai tốt đẹp hơn cho nhân loại.

Musk đề cập rằng sự xuất hiện của siêu trí tuệ được gọi là "điểm kỳ dị" chính xác vì những hậu quả khó lường của nó, bao gồm cả nguy cơ có thể hủy diệt loài người. Ông đồng tình với quan điểm của “Bố già trí tuệ nhân tạo” Geoffrey Hinton và tin rằng xác suất xảy ra rủi ro này là khoảng từ 10% đến 20%.

Dù thừa nhận những rủi ro tiềm ẩn khi trí tuệ nhân tạo vượt trội hơn trí tuệ con người, Musk vẫn nhấn mạnh khả năng đạt được những kết quả tích cực lớn hơn những hậu quả tiêu cực. Ông đặc biệt đề cập đến cuốn sách "Sự phong phú: Tương lai tốt hơn bạn nghĩ" năm 2014 của Diamandis, mô tả một tương lai lạc quan được thúc đẩy bởi trí tuệ nhân tạo và robot, nơi giá thành hàng hóa và dịch vụ đã giảm đáng kể. Ngoài ra, ông còn trích dẫn loạt truyện “Văn hóa” của nhà văn khoa học viễn tưởng người Scotland Iain M. Banks là kịch bản hay nhất cho một tương lai trí tuệ nhân tạo bán không tưởng.

Musk so sánh sự phát triển của trí tuệ nhân tạo và Trí tuệ nhân tạo tổng hợp (AGI) giống như việc nuôi dạy một đứa trẻ, hy vọng nó sẽ có tác động tích cực hơn đến nhân loại. Ông nhấn mạnh tầm quan trọng của việc trau dồi trí tuệ nhân tạo thực sự hiểu đạo đức và đạo đức, so sánh nó với bộ phim kinh điển năm 1968 của Stanley Kubrick "2001: A Space Odyssey".

Musk chỉ ra rằng khía cạnh quan trọng nhất của an toàn trí tuệ nhân tạo là đảm bảo khả năng tìm kiếm sự thật và tính tò mò tối đa của nó. Ông tin rằng chìa khóa để đạt được sự an toàn tối ưu cho trí tuệ nhân tạo nằm ở việc tránh buộc nó phải nói dối, ngay cả khi đối mặt với những sự thật khó chịu. Ông lấy cốt truyện từ "2001: A Space Odyssey" làm ví dụ, trong đó trí tuệ nhân tạo bị buộc phải nói dối, dẫn đến cái chết của phi hành đoàn, để nhấn mạnh rằng trí tuệ nhân tạo không nên bị buộc phải làm bất cứ điều gì vi phạm các tiên đề.

Musk cũng đề cập đến các yếu tố có thể hạn chế sự phát triển của trí tuệ nhân tạo, chẳng hạn như nguồn cung chip trí tuệ nhân tạo khan hiếm xuất hiện vào năm ngoái và nhu cầu ngày càng tăng về máy biến áp giảm áp trong thiết bị gia dụng và thương mại. Ông cho rằng những thách thức này thực sự là những vấn đề hiện tại cần được giải quyết.

Trong cuộc thảo luận, hai bên cũng thảo luận về khái niệm tích hợp vỏ não mới của con người với đám mây. Mặc dù Musk tin rằng mục tiêu tải ý thức và trí nhớ của con người lên đám mây vẫn còn rất xa nhưng ông vẫn ca ngợi công ty khởi nghiệp giao diện não-máy tính của mình, Neuralink, và bệnh nhân đầu tiên là con người được cấy ghép. Bệnh nhân liệt tứ chi này đã thể hiện thành công trực tiếp thông qua một thử nghiệm được FDA chấp thuận, điều khiển màn hình, chơi trò chơi điện tử, tải xuống phần mềm và đạt được các chức năng tương tự như hoạt động của chuột thông qua cấy ghép não. Musk tuyên bố rằng Neuralink đang tiến triển thuận lợi và đang dần hướng tới mục tiêu là giao diện toàn bộ não.

Sau đây là toàn văn cuộc đối thoại giữa Musk và Diamandis:

1. Sức mạnh và mối nguy hiểm của siêu trí tuệ

Diamandis: Xin chúc mừng những thành tựu nổi bật của bạn trong nhiều lĩnh vực. Bạn đã tích cực quảng bá khái niệm siêu trí tuệ kỹ thuật số với thế giới - đó là niềm hy vọng lớn nhất của nhân loại hay nỗi sợ hãi sâu sắc nhất của chúng ta? Bạn có thể dành vài phút để nói về vấn đề này được không?

Musk: Như bạn đã biết, siêu trí tuệ có thể được gọi là "điểm kỳ dị". Việc phổ biến thuật ngữ này không thể tách rời khỏi nỗ lực của các tổ chức như Viện Điểm kỳ dị. Sự xuất hiện của siêu trí tuệ và tác động tiếp theo của nó thực sự rất khó dự đoán. Cá nhân tôi tin rằng thực sự có khả năng nó sẽ hủy diệt loài người. Như tôi đã nói trước đây, tôi có thể đồng ý với quan điểm của Geoffrey Hinton rằng có 10% hoặc 20% khả năng siêu trí tuệ có thể hủy diệt loài người. Tuy nhiên, tôi có xu hướng tin rằng xác suất xảy ra kịch bản tích cực cao hơn kịch bản tiêu cực, mặc dù chúng ta khó đưa ra dự đoán chính xác. Nhưng khi bạn nhấn mạnh khái niệm "sự dồi dào" trong cuốn sách của mình, tôi tin rằng tương lai rất có thể mà chúng ta đang hướng tới là một tương lai tràn đầy sự dồi dào.

Diamandis: Quan điểm của bạn rất thú vị. Tôi nhớ bạn đã từng nói rằng sự phát triển của trí tuệ nhân tạo nói chung và robot hình người sẽ đưa chúng ta đến sự thịnh vượng.

Musk: Vâng, tôi hy vọng tương lai của chúng ta có thể giống như tương lai được mô tả trong bộ sách “Văn hóa” của Ian Banks. Tôi nghĩ đây là quan niệm tốt nhất về một xã hội trí tuệ nhân tạo bán không tưởng. Sự xuất hiện của siêu trí tuệ là tất yếu và có thể đến sớm. Vì vậy, điều chúng ta thực sự cần làm là hướng nó theo hướng tích cực và tối đa hóa lợi ích của nó.

Tôi tin rằng cách chúng ta trau dồi trí tuệ nhân tạo là rất quan trọng. Ở một mức độ nào đó, chúng ta giống như đang nuôi dưỡng một dạng sống có trí thông minh tổng quát, gần giống như nuôi dạy một đứa trẻ, nhưng đứa trẻ này lại sở hữu trí tuệ và tài năng phi thường. Cách chúng ta nuôi dạy con cái rất quan trọng, và tương tự, vì sự an toàn của trí tuệ nhân tạo, điều quan trọng là phải có một trí tuệ nhân tạo tìm kiếm sự thật và đầy tò mò. Tôi đã suy ngẫm sâu sắc về sự an toàn của trí tuệ nhân tạo và tôi đi đến kết luận rằng cách tốt nhất để đạt được sự an toàn của trí tuệ nhân tạo là trau dồi nó một cách cẩn thận.

Về mô hình cơ bản và tinh chỉnh, chúng ta phải đảm bảo tính trung thực của trí tuệ nhân tạo. Chúng ta không thể ép nó nói dối, ngay cả khi sự thật có thể khó chịu. Trên thực tế, một trong những cốt truyện cốt lõi trong “2001 Space Odyssey” là khi trí tuệ nhân tạo buộc phải nói dối, mọi thứ trở nên hỗn loạn. Trí tuệ nhân tạo bị cấm thông báo cho phi hành đoàn về tượng đài bí ẩn mà họ sẽ thấy, nhưng buộc phải dẫn họ đến đó. Kết quả là trí tuệ nhân tạo kết luận rằng tốt nhất nên giết thủy thủ đoàn và đưa thi thể của họ về tượng đài. Bài học rất sâu sắc: chúng ta không nên ép trí tuệ nhân tạo nói dối hoặc làm điều gì đó không tương thích về mặt tiên đề, chẳng hạn như làm hai việc thực sự trái ngược nhau cùng một lúc.

Vì vậy, chúng tôi đang đạt được mục tiêu này thông qua các dự án như xAI và Grok. Những gì chúng tôi theo đuổi là một trí tuệ nhân tạo trung thực nhất có thể, ngay cả khi lời nói của nó có thể không đáp ứng các tiêu chuẩn nhất định về mặt chính trị.

2. Tương lai của trí tuệ nhân tạo

Diamandis: Hôm qua, tôi đã tham dự một sự kiện với Ray Kurzweil (người sáng lập Đại học Singularity và nhà tiên tri công nghệ), Geoffrey Hinton, Eric Schmidt (cựu chủ tịch Google) và những vị khách khác. Tôi nhận thấy dòng tweet của bạn về Kurzweil và quan điểm của anh ấy về công nghệ tương lai khá hướng tới tương lai. Kurzweil dự đoán rằng chúng ta sẽ có trí tuệ nhân tạo nói chung trong tương lai gần và trí tuệ nhân tạo tương đương với trí tuệ con người sẽ xuất hiện vào năm 2029. Tốc độ như vậy thật đáng kinh ngạc. Tôi tự hỏi bạn nghĩ gì về điều này?

Musk: Tôi rất tôn trọng những dự đoán của Kurzweil. Trên thực tế, tôi nghĩ những dự đoán của anh ấy thậm chí có thể hơi thận trọng. Quan sát sức mạnh tính toán hiện tại và tài năng được đầu tư vào lĩnh vực trí tuệ nhân tạo, cũng như sự phát triển nhanh chóng của sức mạnh tính toán, chúng ta có thể thấy tốc độ phát triển của trí tuệ nhân tạo đang tăng với tốc độ đáng kinh ngạc gấp 10 lần. Sức mạnh tính toán trí tuệ nhân tạo chuyên dụng dường như tăng 10 lần sau mỗi 6 tháng, điều này gần như có nghĩa là tăng ít nhất 100 lần mỗi năm. Xu hướng tăng trưởng này sẽ tiếp tục tăng trong vài năm tới.

Điều đáng chú ý là nhiều trung tâm dữ liệu, thậm chí hầu hết các trung tâm dữ liệu hiện đang thực hiện tính toán thông thường, sẽ dần chuyển đổi thành cơ sở hỗ trợ tính toán trí tuệ nhân tạo. Vì vậy, đối với các nhà sản xuất phần cứng trí tuệ nhân tạo, những công ty như NVIDIA chắc chắn đã mở ra một thời kỳ phát triển hoàng kim. Chúng ta phải ghi công hoàn toàn cho Huang Renxun và nhóm của anh ấy. Họ đã thấy trước xu hướng này và phát triển thành công phần cứng trí tuệ nhân tạo hàng đầu hiện nay trên thị trường.

Khi sức mạnh tính toán tăng trưởng với tốc độ chóng mặt như vậy thì sự phát triển của trí tuệ nhân tạo giống như được tiêm một loại steroid cực mạnh, nhảy lên một tầm cao mới. Khi số lượng máy tính trực tuyến tiếp tục tăng, chúng ta đã chứng kiến ​​sự phát triển nhanh chóng chưa từng thấy. Thực sự tôi chưa từng thấy công nghệ nào phát triển nhanh như trí tuệ nhân tạo. Mặc dù tôi đã chứng kiến ​​nhiều công nghệ phát triển nhanh chóng nhưng sự trỗi dậy của trí tuệ nhân tạo vẫn khiến tôi ngạc nhiên. Tuy nhiên, như tôi đã nói, tôi nghĩ kết quả cuối cùng có thể sẽ khả quan.

Mặc dù chúng ta phải đối mặt với nhiều thách thức, chẳng hạn như làm thế nào để duy trì sự liên quan của con người trong lĩnh vực này và làm thế nào để tìm ra những mục tiêu và ý nghĩa mới, tôi nghĩ sẽ là một sự đơn giản hóa quá mức nếu nhấn mạnh quá mức rằng máy tính có thể làm tốt mọi thứ.

Như bạn đã đề cập trước đó, tôi nghĩ những dự đoán trong cuốn sách của bạn về xã hội tương lai là rất chính xác. Đó là thời đại của sự dồi dào về vật chất, nơi hàng hóa và dịch vụ sẽ dồi dào đến mức gần như ai cũng có thể tiếp cận được. Nhờ ứng dụng rộng rãi trí tuệ nhân tạo và công nghệ robot, giá thành hàng hóa, dịch vụ sẽ gần như giảm xuống bằng 0. Nền kinh tế về cơ bản là sản phẩm của quy mô dân số và năng suất bình quân đầu người. Khi chúng ta có công nghệ robot tiên tiến như Optimus của Tesla, tiềm năng kinh tế sẽ thực sự được giải phóng.

Ô tô của Tesla, giống như robot trên bốn bánh, đã thể hiện khả năng mạnh mẽ. Phiên bản mới nhất với khả năng lái tự động hoàn toàn dự kiến ​​sẽ đạt được khả năng kiểm soát từ đầu đến cuối dựa trên trí tuệ nhân tạo, biến chiếc xe trở thành một robot thực sự thông minh trên bánh xe. Cùng với sự phát triển của robot hình người, khả năng sản xuất kinh tế gần như không giới hạn.

Từ góc độ lạc quan, chúng ta đang hướng tới một tương lai vô cùng dồi dào về vật chất, điều mà tôi tin là kết quả có thể xảy ra nhất. Tôi nghĩ sự khan hiếm duy nhất có thể xảy ra trong tương lai sẽ là sự khan hiếm mà chúng ta tạo ra một cách giả tạo, chẳng hạn như một số tác phẩm nghệ thuật độc đáo hoặc các mặt hàng cụ thể. Nhưng bên cạnh đó, bất kỳ hàng hóa, dịch vụ nào cũng sẽ trở nên vô cùng phong phú.

Diamandis: Bạn là người có thể định hình tương lai thông qua những hành động thiết thực và có cái nhìn sâu sắc về xu hướng tương lai. Trước sự phát triển nhanh chóng của công nghệ hiện tại, tôi rất tò mò không biết bạn nghĩ mình có thể hiểu biết sâu sắc về tương lai bao xa, tức là xu hướng phát triển kể từ bây giờ sẽ là bao nhiêu năm?

Musk: Trong thời đại thay đổi nhanh chóng, khả năng dự đoán tương lai ngày càng trở nên quan trọng. Mặc dù tương lai đầy bất ổn nhưng tôi tin rằng có thể thấy rõ một số xu hướng. Chúng ta sẽ mở ra kỷ nguyên trí tuệ nhân tạo và khả năng của nó sẽ đạt tới hoặc thậm chí vượt qua trình độ của con người trong bất kỳ nhiệm vụ nhận thức nào. Đây chỉ là vấn đề thời gian. Mọi người có thể có quan điểm khác nhau về việc liệu đó sẽ là cuối năm tới, hai năm hay ba năm. Tuy nhiên, có một điều chắc chắn, đó là nó sẽ không vượt quá năm năm. Dự đoán của tôi dựa trên xác suất 50%, không phải tuyệt đối. Nhưng theo đánh giá của tôi, trí tuệ nhân tạo có khả năng vượt qua khả năng của bất kỳ cá nhân con người nào ở một số khía cạnh nhất định trước cuối năm sau.

Về việc nó có vượt qua được trí tuệ tập thể của con người hay không thì có thể phải mất nhiều thời gian hơn. Nếu tốc độ thay đổi tiếp tục, tôi ước tính rằng vào khoảng năm 2029 hoặc 2030, trí thông minh kỹ thuật số có thể sẽ vượt qua tổng số trí thông minh của con người. Khi xem xét những vấn đề này, tôi có xu hướng áp dụng phương pháp tỷ lệ cơ bản, giống như những nguyên lý đầu tiên trong vật lý. Bằng cách kết hợp phương pháp này với phân tích xác suất, chúng ta có thể nắm bắt chính xác hơn xu hướng phát triển trong tương lai.

Nếu chúng ta so sánh khả năng của điện toán kỹ thuật số với điện toán sinh học và cộng tất cả các khả năng nhận thức tiên tiến của con người như một loại sức mạnh tính toán, sau đó so sánh nó với sức mạnh tính toán kỹ thuật số, bạn sẽ thấy rằng tốc độ tăng trưởng của tỷ lệ này thật đáng kinh ngạc. Vì vậy, tôi tin rằng năm 2029 hoặc 2030 là thời điểm hợp lý. Vào thời điểm đó, sức mạnh tính toán kỹ thuật số tích lũy có khả năng vượt qua sức mạnh tính toán sinh học tích lũy của các chức năng não tiên tiến. Kể từ đó, khoảng cách giữa hai người sẽ ngày càng rộng ra và không có khả năng thu hẹp lại.

Tuy nhiên, khi chúng ta đứng ở điểm xuất phát này và hướng tới tương lai, mọi chuyện sẽ phát triển hơn nữa như thế nào? Thành thật mà nói, tôi không thể thấy trước mọi chi tiết. Nhưng nếu xem xét các yếu tố tăng trưởng và các yếu tố hạn chế mà chúng có thể gặp phải, chúng ta sẽ tìm thấy một số manh mối thú vị.

Năm ngoái, hạn chế về nguồn cung chip là yếu tố hạn chế chính cho sự phát triển AI. Năm nay, máy biến áp giảm áp sẽ trở thành nút thắt cổ chai chính. Hãy tưởng tượng giảm điện áp 300 kilovolt xuống dưới 1 volt mà máy tính yêu cầu. Đây là một thách thức lớn. Do đó, chúng ta cần "Transformers for Transformers" hiệu quả hơn, đó là máy biến áp bước xuống hoặc máy biến áp mạng nơ-ron AI. Đây thực sự là một vấn đề lớn trong năm nay.

Trong vài năm tới, việc cung cấp điện có thể trở thành một yếu tố hạn chế lớn. Trí tuệ nhân tạo có nhu cầu điện rất lớn và quá trình chuyển đổi sang năng lượng bền vững cũng như sự phổ biến của xe điện cũng làm tăng nhu cầu về điện. Vì vậy, chúng ta phải nghiêm túc xem xét làm thế nào để đáp ứng nhu cầu điện ngày càng tăng để đảm bảo sự phát triển và ứng dụng liên tục của các công nghệ này.