Đối thoại: Trương Bằng, Lý Tri Phi
Kế hoạch: Wei Shijie, Li Shiyun
Nguồn hình ảnh: Được tạo bởi Unbounded AI
Ba mươi năm trước, khi Internet mới chỉ ở giai đoạn sơ khai và ngay cả máy tính cá nhân cũng rất hiếm, một nhà văn công nghệ đã bắt đầu khám phá biên giới của riêng mình về mọi tầng lớp xã hội vào thời điểm đó. Nói chuyện với một số bộ óc thông minh nhất thế giới, anh ấy đã thoáng thấy một số tương lai sẽ đạt đến đỉnh cao trong cuốn sách Out of Control (1994). Mãi đến hơn mười năm sau, khi thời đại của Internet di động và điện thoại thông minh đến, người ta mới ngỡ ngàng nhận ra rằng những khái niệm mới nhất “kết nối thông tin toàn cầu, hệ thống phân tán, tiền kỹ thuật số, điện toán đám mây, v.v.” đã được ông tiên đoán từ lâu. sách.
Nhà văn công nghệ là Kevin Kelly, còn được gọi là KK. Ông là người sáng lập tạp chí "Wired", nhà quan sát công nghệ và "nhà tiên tri". Năm 2010, phiên bản tiếng Trung của "Không kiểm soát" được ra mắt và KK cũng bắt đầu một loạt chuyến thăm ở Trung Quốc và dần trở nên quen thuộc với người dân Trung Quốc.
Đứng ở nút hôm nay, trí tuệ nhân tạo nói chung (AGI) đang nảy mầm và một cuộc cách mạng của thời đại sắp bắt đầu, điều này phảng phất lời tiên tri trong cuốn sách "Out of Control". KK đã dự đoán vào thời điểm đó rằng con người cuối cùng sẽ thống nhất với máy móc, "máy móc đang trở thành sinh học và các sinh vật đang được thiết kế." Nói theo cách riêng của anh, "Out of Control" chỉ nói về một điều, đó là cách xây dựng một "hệ thống phức hợp" - robot, trí tuệ nhân tạo (AI), v.v. có thể được coi là những hệ thống phức hợp, và anh tin rằng ý tưởng này ngày nay vẫn còn được áp dụng.
Cách đây không lâu, chúng tôi đã cùng KK trò chuyện với Lý Chí Phi, nhà sáng lập kiêm CEO của công ty khởi nghiệp người mẫu lớn Đi ra ngoài để hỏi.
Phần trước là từ góc độ thực tế của công nghệ và kinh doanh, trong khi phần sau là từ góc độ trừu tượng của con người, lịch sử và thậm chí cả vũ trụ, thảo luận về sự trỗi dậy, tác động và mối đe dọa của trí tuệ nhân tạo. Đây là một cuộc thảo luận khá "khoa học viễn tưởng" và "tưởng tượng", chúng ta thử "tiên đoán" lại tương lai của con người và trí tuệ nhân tạo.
Cả hai đều lập luận rằng, lần đầu tiên trong lịch sử loài người, trí tuệ nhân tạo ngày nay đã có hình dạng giống như sự sống. Li Zhifei cho biết AI hiện tại đã tương đương với chỉ số IQ của một đứa trẻ loài người và có những năng lực trí tuệ chung thực sự như kiến thức, logic, suy luận và lập kế hoạch. Và KK tin rằng với tư cách là một "sự sống dựa trên silicon", AI sẽ có khả năng thích nghi như con người và có thể tự học hỏi và phát triển.
Rất giống nhau, cả hai đều đón nhận sự lạc quan về công nghệ. KK tin rằng AI sẽ không khiến con người thất nghiệp mà chỉ khiến con người làm việc hiệu quả hơn và giải phóng họ khỏi những công việc "ghê tởm". AI dường như nới rộng khoảng cách giàu nghèo, nhưng nhiều khả năng nó sẽ đạt được sự công bằng và công bằng bằng cách làm cho chiếc bánh to hơn và tốt hơn giống như mọi thay đổi công nghệ trong lịch sử loài người. Về mặt tác động đối với kinh doanh, nó sẽ trao quyền cho các cá nhân, công ty vừa và nhỏ cũng như các công ty lớn cùng một lúc.
Như tên cuốn sách "Mất kiểm soát" - Kevin Kelly tin rằng để có thể tiếp thu tốt hơn sức mạnh của AI, con người nên cho phép các bộ phận của AI "mất kiểm soát". Rốt cuộc, ChatGPT đã ra đời trong tình trạng "xuất hiện" ngoài tầm kiểm soát đối với con người. Cả anh và Li Zhifei đều tin rằng trí thông minh hiện tại của AI vẫn còn non nớt và con người nên tiếp tục buông tay, thay vì kiểm soát (giám sát) quá sớm và quá mức. Loại thứ hai có thể bóp nghẹt sự đổi mới trong giai đoạn sơ khai.
Nhìn xa hơn, nếu một ngày nào đó AI thực sự trở thành một dạng siêu sống, con người nên làm thế nào để hòa hợp với nó?
Cả khoa học viễn tưởng và phim đều vẽ nên một tương lai ảm đạm thường kết thúc bằng việc AI thức tỉnh để giết con người. Nhưng Kevin Kelly tin rằng đây là biểu hiện của sự thiếu trí tưởng tượng của con người. Thất bại bao giờ cũng dễ hình dung hơn là thành công, và nó cũng đầy cám dỗ cho những câu chuyện. Về tương lai, không khó để hình dung lợi ích và giá trị của trí tuệ nhân tạo.
Đề xuất của ông là AI có thể được coi là "người ngoài hành tinh nhân tạo" và con người sẽ có thể sử dụng trí tuệ của AI để giải quyết vấn đề của chính họ và đạt được một mức độ "kiểm soát" nhất định. Li Zhifei tin rằng, với tư cách là "ông tổ" của AI, con người cuối cùng sẽ hợp nhất với AI thay vì kiểm soát nó.
Còn về việc liệu lời tiên tri này có thành sự thật hay không, nó phụ thuộc vào thế giới sau 5000 ngày.
Sau đây là toàn văn cuộc đối thoại:
01 Ngay cả khi OpenAI không tạo ra ChatGPT, các công ty khác sẽ sớm tạo ra nó
**Zhang Peng: Bất kể Trung Quốc hay Hoa Kỳ, gần đây mọi người đang thảo luận về các mô hình lớn. Bạn cảm thấy thế nào về làn sóng thay đổi công nghệ này trong các mô hình lớn? Bạn sẽ cảm thấy rất sốc? **
Kevin Kelly: Trí tuệ nhân tạo (AI) đã xuất hiện hàng chục năm nay. Một bước tiến lớn đã xảy ra khi các mô hình AI bắt đầu sử dụng mạng lưới thần kinh và học sâu, đồng thời chúng ngày càng trở nên lớn hơn. Khoảng 4 hoặc 5 năm trước, nó bắt đầu sản xuất các mô hình máy biến áp rất lớn (mô hình học sâu với cơ chế tự chú ý). Trong hai năm qua, nó đã bắt đầu giao tiếp với các mô hình ngôn ngữ lớn.
Trên thực tế, gần đây, sự thay đổi lớn trong AI không phải là khả năng của nó, và hiệu suất của nó trên phương diện này cũng không khá hơn là bao. **Điều đã thực sự thay đổi trong AI gần đây là nó cho phép chúng ta có giao diện người dùng đàm thoại có thể thực sự giao tiếp với AI bằng ngôn ngữ (tự nhiên). Trước đó, con người cần phải học rất nhiều kiến thức lập trình và rất thành thạo mới có thể sử dụng AI. Nhưng bây giờ, đột nhiên mọi người đều sử dụng AI. Đó là phần thực sự thú vị. **
Li Zhifei: Tôi đồng ý với những gì KK đã nói, thay đổi chính trong mô hình ngôn ngữ lớn hiện nay là cải thiện khả năng tương tác ngôn ngữ tự nhiên. Đây thực sự là điều mà nhiều người bình thường có thể cảm nhận được, và chính vì điều này mà ChatGPT ngày nay mới có sức ảnh hưởng xã hội lớn như vậy.
Nhưng tôi nghĩ rằng cũng có rất nhiều biến thể trong khả năng của các mô hình lớn ngày nay, và chính sự biến đổi đó làm cho khả năng tương tác tự nhiên của nó trở nên khả thi. Bởi đằng sau việc hiện thực hóa tương tác tự nhiên, AI cần phải có kiến thức vững chắc, khả năng hiểu biết, khả năng ngôn ngữ, khả năng suy luận và lập kế hoạch, v.v. AI phải có sự đột phá về những khả năng cơ bản này thì mới đạt được khả năng tương tác với ngôn ngữ tự nhiên.
Và tôi nghĩ khả năng của các mô hình lớn trong tương lai sẽ không chỉ là tương tác ngôn ngữ tự nhiên. Những thứ như viết chương trình, quy trình tự động hóa doanh nghiệp và tự động hóa robot không tương tác, nhưng chúng sẽ trở nên khả thi trong tương lai.
**Zhang Peng: Tôi rất đồng ý rằng khả năng giao tiếp tốt hơn với con người của AI sẽ mang lại sự thay đổi mô hình trong công nghệ và kinh doanh. Nếu ChatGPT là đường cong thứ hai của sự phát triển AI, thì sự xuất hiện của nó là tất yếu hay tình cờ? **
**Kevin Kelly:**ChatGPT có khả năng vượt quá mọi mong đợi. **Tôi không nghĩ có ai mong đợi điều này, kể cả những người trong lĩnh vực AI. Trên thực tế, hầu hết các nhà nghiên cứu không biết ChatGPT hoạt động như thế nào và họ cố gắng cải thiện nó, nhưng điều đó rất khó vì họ không biết nó hoạt động như thế nào. Do đó, sự xuất hiện của ChatGPT là một sự tình cờ. **
Mặc dù ChatGPT rất đáng ngạc nhiên, nhưng chúng tôi cũng thấy những hạn chế của nó. **Hạn chế chính của nó là mô hình được đào tạo dựa trên nội dung trung bình do con người tạo ra, do đó, nó có xu hướng tạo ra kết quả trung bình. Và những gì chúng ta thường muốn không phải là mức trung bình, mà là một cái gì đó trên mức trung bình. ** Điều này khó thực hiện.
Thứ hai, các mô hình này được tối ưu hóa cho tính hợp lý chứ không phải độ chính xác. Do đó, làm thế nào để làm cho chúng chính xác hơn là một thách thức lớn mà mọi người hiện đang vật lộn.
Li Zhifei: Tôi nghĩ rằng sự xuất hiện của ChatGPT là ngẫu nhiên trong ngắn hạn, nhưng không thể tránh khỏi trong dài hạn. Có thể nói, việc OpenAI tạo ra ChatGPT vào cuối năm ngoái là một sự tình cờ, nhưng ngay cả khi nó không thành công thì các công ty khác cũng sẽ sớm làm được. **
Điều này đã lặp đi lặp lại vô số lần trong lịch sử công nghệ. Lấy deep learning làm ví dụ, AlexNet là công ty đầu tiên thực hiện chú thích hình ảnh vào năm 2012, nhưng vào thời điểm đó, nhiều nhóm có niềm tin mạnh mẽ và khả năng kỹ thuật cũng đã làm điều đó. Nếu AlexNet không làm được thì những người khác sẽ làm. Ngoài ra, Google đã tạo ra một máy biến áp vào năm 2017 để giải quyết các vấn đề về khả năng mở rộng thấp của các mô hình trình tự như RNN và LSTM. Nếu Google không tạo ra nó, các nhóm khác sẽ tạo ra nó.
**Bối cảnh ra đời của ChatGPT là máy biến áp đã rất trưởng thành, chúng tôi có sức mạnh tính toán mạnh mẽ để đào tạo dữ liệu khổng lồ của Internet, tất cả các yếu tố cần thiết của ChatGPT đều đã có sẵn, và sự ra đời của nó là tất yếu. **Chỉ là OpenAI đã kết hợp nó tốt nhất vào thời điểm đó.
**Zhang Peng: Khi nói về tính tất yếu và ngẫu nhiên, tôi nghĩ đến một từ rất phổ biến gần đây, đó là "xuất hiện". Từ này đã xuất hiện ít nhất 88 lần trong bài "Out of Control" của KK, ngày nay chúng ta nên hiểu nghĩa của từ này như thế nào? **
Kevin Kelly: Theo quan điểm của người Anh, "sự xuất hiện" là một thuật ngữ chỉ hành vi của một hệ thống, một loạt các thứ được kết nối với nhau, chẳng hạn như Internet, rô-bốt, cơ thể, hệ sinh thái hoặc thậm chí là toàn bộ Thế giới, hành vi của nó không chứa trong hành vi của bất kỳ bộ phận đơn lẻ nào. Ví dụ, một tổ ong có thể ghi nhớ những thứ ngoài vòng đời của một con ong, vì vậy bản thân tổ ong có hành vi, khả năng và sức mạnh mà các bộ phận riêng lẻ không có. Chúng tôi gọi đây là "sự xuất hiện".
Tương tự như vậy, phần lớn AI đang được tạo ra cũng đang "xuất hiện". Bởi vì không có một vị trí nào trong mô hình giải thích nó đến từ đâu, nên cần có tất cả các bộ phận phối hợp với nhau để tạo ra khả năng mới này. Giống như không có "suy nghĩ" trong bộ não của chúng ta, "suy nghĩ" "xuất hiện" từ toàn bộ tế bào thần kinh. **Những thứ như suy nghĩ, tiến hóa và học tập đều có thể "xuất hiện" từ hệ thống.
Li Zhifei: Hiểu biết của tôi về "xuất hiện" bắt nguồn từ cuốn sách "Sự phức tạp", cuốn sách nói về "càng nhiều càng khác" và "càng nhiều càng khác". Giống như một câu nói cũ của Trung Quốc, "sự thay đổi về lượng dẫn đến sự thay đổi về chất". Lần đầu tiên mô hình lớn nói về "sự nổi lên" là một bài báo được xuất bản bởi Stanford và Google vào cuối năm ngoái. Thông qua các thí nghiệm, họ phát hiện ra rằng bằng cách tăng kích thước của mô hình lớn, khi đạt đến một điểm tới hạn nhất định, nó sẽ đột ngột "xuất hiện" trong một khả năng nhất định.
Bây giờ tôi cảm thấy rằng từ "xuất hiện" thực sự bị lạm dụng. Bởi vì chúng tôi không thể giải thích khả năng của mô hình lớn đến từ đâu, chúng tôi gọi nó là "sự xuất hiện", từ này không thể được giải thích hoặc vận dụng, và nó không giúp chúng tôi đào tạo và áp dụng mô hình lớn. Giờ đây, mọi người không còn nghiên cứu về "sự xuất hiện" nữa mà nghiên cứu thêm về mối quan hệ định lượng giữa đại lượng tham số của mô hình lớn và hiệu suất cuối cùng, điều này có thể hữu ích hơn cho chúng ta trong việc hiểu và kiểm soát mô hình lớn.
**Zhang Peng: Có thể hiểu “nổi lên” sẽ dẫn đến “mất kiểm soát” không? **
Kevin Kelly: Cách hiểu này không hoàn toàn chính xác. Tất nhiên, nó sẽ có "bộ phận ngoài tầm kiểm soát", nếu bạn muốn có thể sử dụng sức mạnh của hành vi "xuất hiện", bạn có thể cần phải chịu đựng một số điều nằm ngoài tầm kiểm soát của mình. Sự hiểu biết và kiểm soát của chúng tôi về nó có thể không đủ tốt trong AI ngay bây giờ, nhưng nó thực sự cần thiết để có kết quả tối ưu.
Nhưng đồng thời, chúng ta không thể để mọi thứ "vượt khỏi tầm kiểm soát", chúng ta phải thực hiện một mức độ "kiểm soát" nhất định, đó là hướng dẫn và quản lý trí tuệ nhân tạo. Một lần nữa, chúng tôi không muốn hạn chế quá mức, nhưng phải đạt được một mức độ kiểm soát nào đó. Tuy nhiên, chúng ta có thể sẽ không bao giờ có toàn quyền kiểm soát chúng, đặc biệt là với những trí tuệ nhân tạo mạnh mẽ hơn, chúng ta có thể sẽ không bao giờ hiểu đầy đủ cách chúng hoạt động. Đó là sự đánh đổi.
**Zhang Peng: Ông viết cuốn sách "Mất kiểm soát" đã nhiều năm rồi, đến thời điểm hiện nay, kết hợp với làn sóng cách mạng AI này, ông thấy cuốn "Mất kiểm soát" có phần nào đáng giá không? hiệu chuẩn lại? **
Kevin Kelly: Tôi không nghĩ mình đã nói quá nhiều về trí tuệ nhân tạo và sự mất kiểm soát trong cuốn sách "Out of Control", thực ra nó chủ yếu nói về cách biến những thứ đơn giản thành những thứ phức tạp. Có một thứ gọi là kiến trúc hệ thống con của Rodney Brooks, đề cập rằng bạn có thể tạo ra một rô-bốt phức tạp bằng cách nhúng các phần trí thông minh vào trong đó. Quá trình dẫn đến sự phức tạp là bạn đặt mọi thứ lên trên những thứ đã hoạt động. (Lý thuyết kiến trúc của Brooks đề xuất rằng hành vi cấp cao hơn cần chứa hành vi cấp thấp hơn).
** Giống như một con côn trùng, ngay cả khi bạn cắt đầu nó, nó vẫn có thể đi lại, bởi vì chức năng đi bộ đã được hoàn thành một phần. Giống như bộ não của chúng ta có một lõi chịu trách nhiệm về việc thở và các chức năng tự trị khác, chúng ta thêm nhiều lớp phức tạp hơn lên trên nó. Ý tưởng này vẫn còn giá trị cho đến ngày nay khi mọi người đang chế tạo robot và trí tuệ nhân tạo và cố gắng làm cho chúng trở nên phức tạp hơn. ** Đây thực sự là điều duy nhất tôi nói đến trong "Out of Control" và tôi nghĩ vấn đề vẫn còn nguyên giá trị.
**Zhang Peng: Tôi nhớ trước đây ông có một quan điểm thú vị, đó là “giả sử công nghệ là một loại sự sống”, khi nó xuất hiện với trí thông minh gần với con người, nó sẽ muốn gì tiếp theo? Điều này sẽ ảnh hưởng thế nào đến thế giới kinh doanh và xã hội loài người? **
**Kevin Kelly:**Tôi gọi công nghệ là "vương quốc thứ bảy của cuộc sống". Chúng tôi đã đẩy nhanh quá trình tiến hóa của sự sống thành một thế giới "khô" không còn cần môi trường "ẩm ướt" nữa mà có thể tồn tại trong silicon. Chúng ta có thể sử dụng tâm trí của mình để tạo ra các công nghệ giống như cuộc sống khác. Họ có thể thích nghi và có thể học hỏi và phát triển.
Quan điểm của tôi là công nghệ về cơ bản theo đuổi những thứ giống như cuộc sống. Ví dụ, chúng sẽ tăng tính đa dạng khi chúng tiến hóa và chúng cũng sẽ trở nên chuyên biệt và cụ thể hơn. Cơ thể chúng ta có 52 loại tế bào khác nhau, bao gồm tế bào tim, tế bào xương và tế bào xương. Chúng tôi cũng sẽ tạo ra các AI chuyên biệt thực hiện các tác vụ cụ thể như dịch ngôn ngữ, tạo hình ảnh và lái xe tự động. ** Ngoài ra, công nghệ sẽ trở nên phức tạp hơn giống như cuộc sống, đó là điều hiển nhiên.
Cuối cùng, công nghệ cũng sẽ “cùng có lợi và cộng sinh” như cuộc sống. Sự sống phát triển phức tạp đến mức nó chỉ tiếp xúc với sự sống khác, không bao giờ tiếp xúc với vật chất không sống. Giống như vi khuẩn trong ruột của bạn. Chúng chỉ được bao quanh bởi các tế bào sống khác. ** Trong tương lai, cũng sẽ có một số AI không được thiết kế cho con người, mà được thiết kế để phục vụ các AI khác. Ví dụ, sẽ có những AI chuyên duy trì các AI khác, những AI chỉ giao tiếp với các AI khác. **
**Li Zhifei:**Tôi muốn giải thích mối quan hệ giữa AI và cuộc sống từ góc nhìn của một kỹ sư. Vài năm trước, nhiều người luôn hỏi tôi: “Chỉ số IQ của Alphago (chương trình máy tính đầu tiên đánh bại nhà vô địch cờ vây thế giới) bao nhiêu tuổi?” Lúc đó, tôi không thích kiểu câu hỏi này vì tôi không thể. không trả lời nó. Vào thời điểm đó, mặc dù AI có thể chơi cờ vây và có chỉ số IQ cao nhưng nó không thể thực hiện các cuộc trò chuyện bằng ngôn ngữ tự nhiên như một đứa trẻ 3 tuổi. Vào thời điểm đó, cơ chế của nó về cơ bản khác với cơ chế của con người.
Nhưng những ngày này, tôi đặc biệt thích so sánh AI với một đứa trẻ. Tôi nghĩ cốt lõi là vì AI ngày nay đã sở hữu những khả năng trí tuệ chung thực sự mà trẻ em có, chẳng hạn như kiến thức, logic, suy luận, lập kế hoạch, v.v. **Vì vậy, tôi muốn nói rằng AI ngày nay giống một cơ thể sống hơn. Nó có chỉ số IQ của một đứa trẻ 5 tuổi và kiến thức của một giáo sư đại học cũng như của một đứa trẻ sơ sinh, tùy thuộc vào việc nó có xem dữ liệu hay không. **
Dựa trên sự hiểu biết này, tôi nghĩ chúng ta cần suy nghĩ lại về những gì AI thực sự muốn. Đối với trẻ 5 tuổi, đầu tiên trẻ sẽ tự thanh lọc, sau đó là tự tái tạo và hợp tác. Bản thân tôi không có câu trả lời hay cho câu hỏi này.
02 Trong 5000 ngày tới, chúng ta sẽ trải qua giai đoạn chuyển tiếp ngắn và khẩn cấp
**Zhang Peng: Khi khả năng của AI phát triển nhanh chóng, nhiều người bình thường cảm thấy lo lắng và sợ rằng họ sẽ mất khả năng cạnh tranh. KK có bất cứ suy nghĩ và đề nghị về vấn đề này? **
**Kevin Kelly:**Mặc dù công nghệ AI đã phát triển được 20 năm nhưng mọi người vẫn cảm thấy rằng đó là thành công chỉ sau một đêm và lo lắng về tốc độ phát triển cũng như khả năng của nó. **Chúng ta luôn có xu hướng tưởng tượng ra những tình huống xấu nhất hơn là những tình huống tốt nhất. Tôi nghĩ một cách để đối phó với sự lo lắng về thay đổi là nhìn lại quá khứ. Trên thực tế, con người đã từng có kiểu lo lắng này trong quá khứ, nhưng chưa bao giờ trong trường hợp xấu nhất mà chúng ta tưởng tượng. Nó có thể là như vậy thời gian này. **
Cách tốt nhất mà tôi thấy để đối phó với những lo lắng của mình là cố gắng sử dụng chúng. Tôi thấy rằng hầu hết sự lo lắng đến từ những người chưa sử dụng AI và họ duy trì cảm giác xa cách với AI. Trên thực tế, một khi họ bắt đầu thử và sử dụng nó, họ sẽ thấy rằng AI có cả lợi ích, hạn chế và tác hại. Điều này sẽ làm giảm sự lo lắng của họ.
Li Zhifei: Nếu AGI không xảy ra hôm nay, nó sẽ xảy ra vào ngày mai. Vì nó là không thể ngăn cản, bạn nên nắm lấy và hiểu nó. Đối với tôi lúc này, AGI là một đối tác có suy nghĩ. Tôi sẽ nói chuyện với anh ấy về nhiều vấn đề, kiến thức của anh ấy rất toàn diện và anh ấy có thể cho tôi lời khuyên từ một góc nhìn rộng và toàn diện. Tôi nghĩ rằng đây có thể là một hình thức tốt để con người đón nhận AI.
Đồng thời, chúng ta có thể thấy rằng các mô hình lớn ngày nay vẫn còn thiếu một số khả năng quan trọng từ AGI thực. Ví dụ như khả năng suy luận logic và lập kế hoạch công việc phức tạp, nếu bạn muốn AI phân tách các bước và đạt được mục tiêu dựa trên một mục tiêu nhất định thì hiện tại không tốt lắm.
**Zhang Peng: KK cũng là một người sáng tạo nội dung, bạn nghĩ giá trị cuối cùng của người sáng tạo mà AI trong thời đại AI không thể thay thế là gì? **
Kevin Kelly: Tôi đã sử dụng trí tuệ nhân tạo và các công cụ khác trong bài viết của mình. Tôi không nghĩ ai sẽ mất việc vì AI. **Bởi vì tôi không thể tìm thấy một ví dụ nào mà một nghệ sĩ bị mất việc vì AI. Đó là một nỗi sợ tưởng tượng, một vấn đề không tồn tại. Việc làm có lẽ là vấn đề ít nghiêm trọng nhất liên quan đến AI. **
Điều tôi muốn nói là những gì đã mất có thể là bản mô tả công việc của bạn, những gì bạn thực sự làm, có thể thay đổi. ** Một số người đã quan sát thấy rằng 50% công việc của họ có thể được thực hiện bởi AI, trong khi 50% còn lại sẽ được AI tăng cường và khuếch đại. **Vì vậy, trong tương lai, một nửa công việc có thể không cần con người làm nữa và con người có thể làm tốt hơn 50% công việc còn lại. Đây thường là mô hình chúng ta sẽ thấy.
**Tất nhiên, một số loại công việc sẽ biến mất, chẳng hạn như đặt món ăn và đếm tiền với tư cách là nhân viên thu ngân. Chúng tôi không muốn con người làm những công việc này, vì vậy chúng chắc chắn sẽ biến mất, và chúng sẽ biến mất. **
**Zhang Peng: Bạn đánh giá thế nào về khả năng cạnh tranh của người trẻ và người già trong thời đại AI? **
Kevin Kelly: Người lớn tuổi có rất nhiều lợi thế, họ có nhiều thông tin và kinh nghiệm. Tuổi trẻ cũng có rất nhiều lợi thế vì họ không biết điều gì là không thể. Tôi không nghĩ ai cạnh tranh hơn ai.
Tôi muốn nói rằng những người trẻ tuổi ngày nay thường nói về việc trở thành người bản địa kỹ thuật số và có lợi thế hơn công nghệ. Nhưng vì sự phát triển nhanh chóng của trí tuệ nhân tạo và những thứ khác, những người trẻ tuổi có thể là thổ dân ngày hôm qua và giống như "người già" vào ngày mai. Dù già hay trẻ, tất cả mọi người đều là “lính mới” trong thời đại mới và phải tiếp tục học hỏi những điều mới một cách nhanh chóng trong suốt cuộc đời của họ.
**Zhang Peng: Với sự làm chủ khác nhau của công nghệ AI, liệu điều này có mang lại những thay đổi về khoảng cách giàu nghèo? Đó là, những người sẽ sử dụng AI trong tương lai sẽ làm việc hiệu quả hơn và có khả năng cạnh tranh tốt hơn? **
Kevin Kelly: Vâng, khoảng cách giàu nghèo sẽ ngày càng lớn. **Tôi nghĩ rằng theo thời gian, khả năng làm việc với trí tuệ nhân tạo của bạn có thể quan trọng hơn việc bạn có học đại học hay không. Có lẽ mục đích của trường đại học sẽ là dạy bạn cách làm việc với trí tuệ nhân tạo. Đối với những người rất tham vọng, nếu họ học cách sử dụng trí tuệ nhân tạo, mức lương của họ sẽ tạo ra sự khác biệt lớn. **
Tuy nhiên, khi AI lan rộng khắp thế giới, trong tương lai chúng ta sẽ đạt được khả năng tiếp cận AI bình đẳng trên toàn cầu, giống như khả năng tiếp cận bình đẳng với giáo dục. Tôi biết những người bạn điều hành các công ty lớn ở Mỹ và họ thuê nhân viên làm việc từ xa, miễn là họ có khả năng, xuất thân không thành vấn đề. Do đó, nhiều người làm việc ở Nam Mỹ và Châu Phi sẽ được trả lương theo tiêu chuẩn lương của Mỹ. Họ sẽ kiếm được nhiều tiền hơn so với cách khác.
**Zhang Peng: Sự phát triển nhanh chóng của công nghệ có thể mang lại sự bất bình đẳng và bất công trong lĩnh vực xã hội, chúng ta nên làm thế nào để cân bằng giữa phát triển và công bằng và công lý? **
Kevin Kelly: Tôi nghĩ chúng ta có thể đạt được sự cân bằng giữa tiến bộ và công bằng. Trên thực tế, tôi nghĩ rằng một phần quan trọng của sự tiến bộ là phân bổ công bằng.
So với hàng trăm năm trước, thế giới rất bất công. Bạn sinh ra là nô lệ, nông nô hay nông dân, và không có cơ hội nào để vượt qua điều đó. Nhưng nhờ có sự tiến bộ, giờ đây chúng ta có một thế giới bình đẳng và công bằng hơn. Tôi tin rằng sự phát triển của công nghệ có thể làm tăng tính công bằng, mặc dù điều đó có thể không thành hiện thực, nhưng điều đó là có thể.
**Li Zhifei:**Từ góc độ của một kỹ sư,**Nếu bạn nhìn nhận sự công bằng từ mục đích cuối cùng và hy vọng rằng mọi người đều có sự giàu có và trình độ năng lực như nhau, thì điều này chắc chắn sẽ dẫn đến ngày càng nhiều sự bất công. Nhưng nếu bạn nhìn vào sự công bằng ngay từ đầu, chẳng hạn như cung cấp các công cụ AI cho mọi người, điều này có thể tốt hơn để đạt được sự công bằng. **
**Zhang Peng: Bây giờ chúng ta thấy rằng một số công ty, chẳng hạn như Midjourney, một công ty của Wenshengtu, đã tạo ra thu nhập hàng trăm triệu đô la hàng năm chỉ với một tá người. Chúng ta có thể hiểu rằng AI đã thay đổi cơ bản năng suất không? Kết quả là các công ty trong tương lai sẽ trở nên nhỏ hơn và tinh gọn hơn? **
Kevin Kelly: Sức mạnh đáng kinh ngạc mà Internet và trí tuệ nhân tạo hiện sở hữu có thể đồng thời trao quyền cho các cá nhân, tập đoàn vừa và lớn. Nó giúp một cá nhân sở hữu một công ty dễ dàng hơn, vì vậy chúng ta sẽ thấy rất nhiều công ty mới chỉ là AI cộng với một số ít người. Nhưng đồng thời, chúng tôi cũng chứng kiến một số công ty trở nên lớn hơn nhờ sự tồn tại của trí tuệ nhân tạo, thậm chí tăng quy mô lên một triệu người.
**Vì vậy, chúng ta sẽ không đột ngột bước vào thế giới của những công ty chỉ có một hoặc hai người, điều đó sẽ không xảy ra. Đồng thời, chúng tôi sẽ không chỉ mang lại lợi ích cho các công ty lớn. Đó là vẻ đẹp của AI, nó có thể mang lại lợi ích và trao quyền cho tất cả mọi người. **
Li Zhifei: Tôi nghĩ hiệu ứng đuôi dài và hiệu ứng Matthew sẽ ngày càng rõ ràng hơn.
Một mặt, cái đuôi sẽ ngày càng dài ra, ngày càng nhiều công ty nhỏ xuất hiện và tự chúng sẽ trở thành một hệ thống hoàn chỉnh. Mặt khác, khi một công ty lớn có khả năng AI mạnh mẽ, sức mạnh tổ chức của nó sẽ trở nên mạnh mẽ hơn. Trước đây nó chỉ có thể tổ chức cho 1.000 người, nhưng bây giờ nó có thể tổ chức cho 10.000, 100.000 hoặc 1 triệu người. Ví dụ, ngành giao đồ ăn của Trung Quốc dựa vào một bộ hệ thống tự động hóa hoàn chỉnh để tổ chức một nhóm hành khách khổng lồ.
**Zhang Peng: Hiện tại, AI cũng là chủ đề nóng nhất ở Thung lũng Silicon, nhiều doanh nhân nghĩ về đổi mới kinh doanh lấy mô hình lớn làm cốt lõi. KK có bất kỳ quan sát nào về điều này không? **
Kevin Kelly: Điều này khiến tôi nhớ lại những ngày đầu của Internet. Khi internet lần đầu tiên xuất hiện, đột nhiên mọi doanh nghiệp nhận ra rằng họ phải đặt mình lên internet. Và giờ đây, mọi doanh nghiệp đang tận dụng giao diện đàm thoại của AI, bằng cách giới thiệu các mô hình ngôn ngữ lớn và trí tuệ nhân tạo để tiến hành kinh doanh. Một ví dụ là Wendy's, một cửa hàng bán đồ ăn nhanh thời thượng hiện đang sử dụng giao diện trò chuyện, cho phép khách hàng gọi đồ ăn trong xe và nói chuyện với một chiếc máy.
Ngoài ra, có một số dịch vụ và ý tưởng hoàn toàn mới vẫn chưa xuất hiện. Tôi không biết con số chính xác, nhưng điều tôi biết chắc chắn là hàng trăm tỷ đô la đang chảy vào không gian này ngay bây giờ. Thông thường, hầu hết trong số họ có thể sẽ không thành công, nhưng sẽ có đủ. Chúng ta sẽ thấy một số điều khá tuyệt vời trong ba năm tới và một số công ty hoàn toàn mới có thể trở nên thực sự lớn mạnh.
**Zhang Peng: Trong 5.000 ngày qua, KK đã đưa ra nhiều dự đoán chính xác và nắm bắt được nhiều hướng đi lớn về tương lai. Gần đây, bạn đã dự đoán rằng 5.000 ngày tới sẽ là một trong những giai đoạn quan trọng nhất trong lịch sử loài người. Chìa khóa của nút này ở đâu? Nhân loại sẽ dẫn đến ngã tư đường theo hướng nào? **
Kevin Kelly: Ngoài trí tuệ nhân tạo, còn có nhiều thứ khác đang diễn ra trên thế giới. Chúng ta đang đối mặt với thách thức của biến đổi khí hậu, kỹ thuật di truyền đang xuất hiện, thật dễ dàng để tưởng tượng trí tuệ nhân tạo đang hạ thấp phẩm giá, thật dễ dàng để thấy sự giám sát trở nên phổ biến và chúng ta mất kiểm soát. Chúng ta phải đối mặt với nhiều thách thức và cơ hội trên phạm vi toàn cầu.
**Đây là một giai đoạn chuyển tiếp hẹp và khẩn cấp, và chúng ta phải vượt qua nó. **Tôi nghĩ rằng chúng ta có thể tiếp cận cánh cổng hẹp này thông qua điện khí hóa, xe điện, năng lượng thay thế và thành công trong việc phát triển một loại vắc-xin mới. Hiện tại, hành tinh vẫn còn nhiều căng thẳng và chia rẽ chính trị, nhưng chúng ta cần hành động tập thể, cần đạt được sự đồng thuận trong các lĩnh vực công nghệ, môi trường, v.v., và cùng nhau giải quyết các vấn đề.
**Đây là lần đầu tiên trên Trái đất xuất hiện các nền văn hóa toàn cầu, nền kinh tế toàn cầu và tác động môi trường toàn cầu. Đây cũng là cơ hội để chúng ta trở thành một nền văn minh toàn cầu hơn trong 5000 ngày tới. **
Li Zhifei: KK nói rằng trong 5.000 ngày tới, thế giới sẽ có nhiều thách thức khác ngoài AI. Tôi nghĩ rằng 365 ngày tới cũng rất quan trọng chỉ từ góc độ AI. Trí tuệ nhân tạo đã trải qua nhiều vòng, mỗi lần người ta kỳ vọng cao vào nó, nhưng nó không hoạt động, rồi người ta lại kỳ vọng vào giá trị cao, và nó lại không hoạt động. Tôi nghĩ liệu làn sóng AGI ngày nay có trở thành thứ mà mọi người trong ngành cho là tuyệt vời hay liệu nó có trở thành một thứ rất quan trọng trong xã hội hay không, phần lớn phụ thuộc vào 365 ngày tới.
Kể cả việc phát triển mô hình lớn như thế nào, càng lớn càng tốt hay nên thêm đa phương thức, hay nên thêm giải pháp, v.v.? Bao gồm cả việc xem xét tỷ lệ thâm nhập. Hiện tại, chưa đến 5% người trên thế giới có thể đã sử dụng ChatGPT. Làm cách nào để chúng tôi có thể tăng tỷ lệ thâm nhập từ 5% lên 20%? Bao gồm cả quy định, con người nên đối phó với tác động của AI đối với xã hội như thế nào? Nó cũng bao gồm AI ngoài việc được áp dụng cho các ngành như Internet, thì nó nên được triển khai như thế nào trong các ngành truyền thống như chăm sóc y tế, ô tô và tài chính? vân vân.
Tôi nghĩ rằng có thể phải mất ít nhất một năm để mọi người thử nghiệm khác nhau trước khi họ có thể có nhận định rõ ràng hơn.
03 Người bình thường không cao quý, chúng tôi muốn AI tốt hơn người bình thường
**Zhang Peng: Trong nhiều trường hợp, con người có xu hướng tin tưởng vào công nghệ, chẳng hạn như có người ngủ trong xe tự lái và gây ra tai nạn. Có phải sự tin tưởng tinh tế vào công nghệ tiên tiến này là một thói quen của con người? Hậu quả là gì? **
Kevin Kelly: Xe tự lái không hoàn hảo nhưng chúng vẫn lái tốt hơn con người. Chúng ta có thể tin tưởng vào trí tuệ nhân tạo không? Trong các cuộc trò chuyện với chatbot, chúng tôi thấy rằng câu trả lời của họ không chính xác nên chúng tôi không thể tin tưởng hoàn toàn. Nhưng tôi nghĩ chúng ta sẽ sớm bắt đầu giải quyết vấn đề đó.
Ngày nay, hầu hết mọi người tin tưởng vào máy tính của họ. Bạn cho nó những con số, nó cho bạn câu trả lời và bạn hoàn toàn tin tưởng nó. Vì vậy, chúng tôi biết chiếc máy này đáng tin cậy và đó là thứ có thể được cải thiện. ** Và những thành kiến về AI bởi vì chúng được đào tạo trên những con người bình thường, những người phân biệt chủng tộc, phân biệt giới tính, ác ý, không cao quý. Chúng tôi thực sự muốn AI của mình tốt hơn con người. **
Giống như một chiếc máy tính tốt hơn một người bình thường, bạn nên dựa nhiều hơn vào câu trả lời mà chiếc máy tính đưa ra cho bạn hơn là một người bình thường. ** Niềm tin là điều chúng ta nên tập trung và nỗ lực, mặc dù còn nhiều thách thức nhưng cuối cùng tôi nghĩ chúng ta sẽ dựa vào và tin tưởng nhiều vào trí tuệ nhân tạo và máy móc. **
**Zhang Peng: Gần đây, nhiều người ở Hoa Kỳ tin rằng sự phát triển của AI quá nhanh và họ nên chậm lại hoặc thậm chí dừng lại và suy nghĩ về nó. Bạn có đồng ý với ý kiến này không? **
Kevin Kelly: Không, tôi không ủng hộ. Tôi nghĩ rằng điều này là sai lệch, gây hiểu lầm và không cần thiết. Tôi không nghĩ rằng nó thực sự có thể, cũng không nên.
**Zhang Peng: Trong hầu hết các bộ phim khoa học viễn tưởng hoặc tiểu thuyết về con người, AI là một nhân vật tương đối ảm đạm, đây là do con người thiếu trí tưởng tượng hay chúng ta có quá nhiều trí tưởng tượng không chính xác? **
**Kevin Kelly: Hollywood luôn miêu tả trí tuệ nhân tạo là lạc hậu, khủng khiếp và không mong muốn, điều mà tôi nghĩ là thiếu trí tưởng tượng. Bởi vì đó là quy luật của vũ trụ nên việc hình dung một điều gì đó sẽ thất bại như thế nào sẽ dễ dàng hơn nhiều so với việc nó sẽ thành công như thế nào. **Thành thật mà nói, thật khó để mọi người tưởng tượng ra một thế giới tuyệt vời trong 100 năm tới, nơi AI phổ biến, rẻ và có lợi cho nhân loại, mặc dù đó là thế giới mà chúng ta muốn sống.
Ngoài ra, những hãng phim đó rất giỏi kể chuyện và các yếu tố của một câu chuyện hay là xung đột, thảm họa và một số yếu tố mạnh mẽ. Có thể là chiến tranh, bão hoặc trí tuệ nhân tạo đang cố gắng hủy diệt thế giới. Do đó, khó có khả năng chúng ta sẽ thấy một viễn cảnh màu hồng về trí tuệ nhân tạo trong một bộ phim Hollywood bởi nó không góp phần tạo nên câu chuyện, dù khả năng có nhưng rất nhỏ.
Vì vậy, chúng ta không thể nhìn trí tuệ nhân tạo qua ấn tượng của Hollywood (phim ảnh). Thật không may, đó là những gì nhiều người làm. Khi nhắc đến trí tuệ nhân tạo, họ nghĩ ngay đến "Kẻ hủy diệt", "Chuyến du hành vũ trụ 2001" và "CÔ ẤY".
Li Zhifei: Tôi nghĩ rằng tất cả sự mất lòng tin là do sự thiếu hiểu biết. Khi chúng ta đối mặt với loại AGI mới, tôi không hiểu các khả năng của nó xuất hiện như thế nào, nó muốn gì và nó có thể làm gì.Đây là vấn đề cốt lõi.
Tôi nghĩ những gì con người có thể làm, một mặt là hiểu AGI nhiều hơn, mặt khác, học cách để AGI tự giải thích rõ ràng. Ví dụ, khi nó đưa ra câu trả lời cho bạn, bạn để nó nói ra quá trình hoạt động bên trong và độc thoại nội tâm. Điều này có thể tạo ra cảm giác tin tưởng mạnh mẽ hơn. **
**Zhang Peng: Đối với KK, có vẻ như "Đạo Đức Kinh" của Lão Tử đã truyền cảm hứng cho bạn rất nhiều. Bạn đã đề cập rằng "mức kiểm soát cao nhất là mất kiểm soát và mức độ kiểm soát thấp nhất là kiểm soát mọi thứ." Bạn nghĩ gì về sự gia tăng gần đây trong quy định của chính phủ và công nghệ về AI? **
Kevin Kelly: Tôi không nghĩ quy định hiện hành là tốt. Tất nhiên, quy định là quan trọng và cần thiết, phải đảm bảo mọi việc vận hành trơn tru, duy trì sân chơi bình đẳng, đảm bảo an toàn. Nhưng quy định sớm là đáng sợ. Vấn đề hiện nay là chúng ta cố gắng điều chỉnh một thứ mà chúng ta không biết rõ, và điều đó thường dẫn đến thảm họa.
**Lý Tri Phi:**Tại sao lại có sự giám sát? Về cơ bản, mọi người lo lắng rằng tác động tiêu cực của AGI sẽ lớn hơn tác động tích cực, rằng nó sẽ quá khả thi và không thể chấp nhận được về mặt xã hội. Nhưng ở giai đoạn này, phán đoán này là sai. Bởi vì ngày nay, tác động tích cực của AGI phải lớn hơn tác động tiêu cực của nó.
Thứ hai, vấn đề thực sự với AGI ngày nay là nó không đủ mạnh. Bao gồm khả năng lập kế hoạch, khả năng hòa nhập với thế giới vật chất, khả năng tự tiến hóa, v.v. Mặc dù chúng ta đã thấy hy vọng, nhưng nó vẫn còn rất xa so với nhận thức thực sự. Chúng ta có thể không bao giờ đạt được điều đó.
Vì vậy, quan điểm của tôi là, **chúng ta không thể chỉ nhìn thấy xu hướng AGI và tăng cường quy định một cách đáng kể. Điều này có thể cho phép chúng tôi tiêu diệt AGI trước khi chúng tôi đạt được nó. Giám sát chắc chắn là cần thiết, nhưng nó không nên được kiểm soát quá mức. **
**Zhang Peng: Trí tuệ nhân tạo đã được nói đến trong nhiều năm, và bây giờ có vẻ như nó đang bước vào một kỷ nguyên mới. Nếu AI thực sự có cơ hội trở thành một dạng sống có trí thông minh cao hơn con người trong tương lai, chúng ta nên hòa nhập chúng vào nền văn minh nhân loại hay đặt chúng dưới sự kiểm soát của con người? Con đường nào có thể thực sự nâng cấp nền văn minh nhân loại? **
**Kevin Kelly: Tôi nghĩ rằng có một khuôn khổ rất hữu ích để hiểu về trí tuệ nhân tạo (AI) của tương lai - không phải AI của ngày hôm nay khi chúng được so sánh với AI của 30, 50 hoặc 100 năm tới , Điều đó chưa đủ phức tạp -- đó là coi nó như một sinh vật ngoài hành tinh nhân tạo đến từ hành tinh khác. **
Rất nhiều AI sẽ là loài mà chúng ta chưa từng thấy trước đây, có suy nghĩ khác với con người. Họ sẽ thông minh như Yoda (nhân vật ảo trong "Star Wars") hay Spock (nhân vật ảo trong "Star Trek"), và thậm chí vượt qua con người ở một số khía cạnh. Chúng tôi sẽ tạo ra nhiều loại người ngoài hành tinh nhân tạo khác nhau, tôn trọng họ và sử dụng trí thông minh khác nhau của họ để giúp chúng tôi giải quyết các vấn đề khó khăn, chẳng hạn như tìm ra lực hấp dẫn lượng tử thực sự là gì.
Nhưng chúng tôi sẽ không trao quyền kiểm soát cho họ. Nếu chúng tôi không thích hành vi của họ, chúng tôi gửi chúng trở lại, đóng chúng lại. Chúng ta có thể lấy đi sức mạnh của họ nếu chúng ta nghĩ rằng họ đã đạt được quá nhiều sức mạnh. Chúng tôi không muốn AI quyết định số phận của mình.
Li Zhifei: AGI hiện tại giống như một con bướm, sau khi thu được rất nhiều chất dinh dưỡng từ ấu trùng, nó sẽ hoàn thành quá trình thăng hoa của chính mình. Nó tương đương với việc sử dụng tất cả kiến thức Internet của con người trong quá khứ để hoàn thành quá trình chuyển đổi của chính họ. Trong tương lai, AI chắc chắn sẽ vượt xa con người về nhiều mặt. Tôi nghĩ con người có thể là tổ tiên của AI, và điều đó thật đáng mừng.
KK nói rằng chúng ta phải coi AI như một người ngoài hành tinh, điều này nghe giống sự kiểm soát hơn. **Tôi nghĩ con người có thể đánh giá quá cao khả năng hoặc chỉ số IQ của mình. Bạn có thể tưởng tượng rằng, chẳng hạn, trong 50 năm nữa, trong số 100 tác nhân quyền lực và có ảnh hưởng nhất trên thế giới, có lẽ chỉ có 20 người là con người và 80 người còn lại sẽ là AI. Vì vậy, tôi nghĩ, cuối cùng, con người và AI phải là sự hợp nhất, không phải là sự kiểm soát. **
Xem bản gốc
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Trò chuyện với Kevin Kelly: Còn quá sớm để điều chỉnh AI và nên để “mất kiểm soát”
Đối thoại: Trương Bằng, Lý Tri Phi Kế hoạch: Wei Shijie, Li Shiyun
Ba mươi năm trước, khi Internet mới chỉ ở giai đoạn sơ khai và ngay cả máy tính cá nhân cũng rất hiếm, một nhà văn công nghệ đã bắt đầu khám phá biên giới của riêng mình về mọi tầng lớp xã hội vào thời điểm đó. Nói chuyện với một số bộ óc thông minh nhất thế giới, anh ấy đã thoáng thấy một số tương lai sẽ đạt đến đỉnh cao trong cuốn sách Out of Control (1994). Mãi đến hơn mười năm sau, khi thời đại của Internet di động và điện thoại thông minh đến, người ta mới ngỡ ngàng nhận ra rằng những khái niệm mới nhất “kết nối thông tin toàn cầu, hệ thống phân tán, tiền kỹ thuật số, điện toán đám mây, v.v.” đã được ông tiên đoán từ lâu. sách.
Nhà văn công nghệ là Kevin Kelly, còn được gọi là KK. Ông là người sáng lập tạp chí "Wired", nhà quan sát công nghệ và "nhà tiên tri". Năm 2010, phiên bản tiếng Trung của "Không kiểm soát" được ra mắt và KK cũng bắt đầu một loạt chuyến thăm ở Trung Quốc và dần trở nên quen thuộc với người dân Trung Quốc.
Đứng ở nút hôm nay, trí tuệ nhân tạo nói chung (AGI) đang nảy mầm và một cuộc cách mạng của thời đại sắp bắt đầu, điều này phảng phất lời tiên tri trong cuốn sách "Out of Control". KK đã dự đoán vào thời điểm đó rằng con người cuối cùng sẽ thống nhất với máy móc, "máy móc đang trở thành sinh học và các sinh vật đang được thiết kế." Nói theo cách riêng của anh, "Out of Control" chỉ nói về một điều, đó là cách xây dựng một "hệ thống phức hợp" - robot, trí tuệ nhân tạo (AI), v.v. có thể được coi là những hệ thống phức hợp, và anh tin rằng ý tưởng này ngày nay vẫn còn được áp dụng.
Cách đây không lâu, chúng tôi đã cùng KK trò chuyện với Lý Chí Phi, nhà sáng lập kiêm CEO của công ty khởi nghiệp người mẫu lớn Đi ra ngoài để hỏi.
Phần trước là từ góc độ thực tế của công nghệ và kinh doanh, trong khi phần sau là từ góc độ trừu tượng của con người, lịch sử và thậm chí cả vũ trụ, thảo luận về sự trỗi dậy, tác động và mối đe dọa của trí tuệ nhân tạo. Đây là một cuộc thảo luận khá "khoa học viễn tưởng" và "tưởng tượng", chúng ta thử "tiên đoán" lại tương lai của con người và trí tuệ nhân tạo.
Cả hai đều lập luận rằng, lần đầu tiên trong lịch sử loài người, trí tuệ nhân tạo ngày nay đã có hình dạng giống như sự sống. Li Zhifei cho biết AI hiện tại đã tương đương với chỉ số IQ của một đứa trẻ loài người và có những năng lực trí tuệ chung thực sự như kiến thức, logic, suy luận và lập kế hoạch. Và KK tin rằng với tư cách là một "sự sống dựa trên silicon", AI sẽ có khả năng thích nghi như con người và có thể tự học hỏi và phát triển.
Rất giống nhau, cả hai đều đón nhận sự lạc quan về công nghệ. KK tin rằng AI sẽ không khiến con người thất nghiệp mà chỉ khiến con người làm việc hiệu quả hơn và giải phóng họ khỏi những công việc "ghê tởm". AI dường như nới rộng khoảng cách giàu nghèo, nhưng nhiều khả năng nó sẽ đạt được sự công bằng và công bằng bằng cách làm cho chiếc bánh to hơn và tốt hơn giống như mọi thay đổi công nghệ trong lịch sử loài người. Về mặt tác động đối với kinh doanh, nó sẽ trao quyền cho các cá nhân, công ty vừa và nhỏ cũng như các công ty lớn cùng một lúc.
Như tên cuốn sách "Mất kiểm soát" - Kevin Kelly tin rằng để có thể tiếp thu tốt hơn sức mạnh của AI, con người nên cho phép các bộ phận của AI "mất kiểm soát". Rốt cuộc, ChatGPT đã ra đời trong tình trạng "xuất hiện" ngoài tầm kiểm soát đối với con người. Cả anh và Li Zhifei đều tin rằng trí thông minh hiện tại của AI vẫn còn non nớt và con người nên tiếp tục buông tay, thay vì kiểm soát (giám sát) quá sớm và quá mức. Loại thứ hai có thể bóp nghẹt sự đổi mới trong giai đoạn sơ khai.
Nhìn xa hơn, nếu một ngày nào đó AI thực sự trở thành một dạng siêu sống, con người nên làm thế nào để hòa hợp với nó?
Cả khoa học viễn tưởng và phim đều vẽ nên một tương lai ảm đạm thường kết thúc bằng việc AI thức tỉnh để giết con người. Nhưng Kevin Kelly tin rằng đây là biểu hiện của sự thiếu trí tưởng tượng của con người. Thất bại bao giờ cũng dễ hình dung hơn là thành công, và nó cũng đầy cám dỗ cho những câu chuyện. Về tương lai, không khó để hình dung lợi ích và giá trị của trí tuệ nhân tạo.
Đề xuất của ông là AI có thể được coi là "người ngoài hành tinh nhân tạo" và con người sẽ có thể sử dụng trí tuệ của AI để giải quyết vấn đề của chính họ và đạt được một mức độ "kiểm soát" nhất định. Li Zhifei tin rằng, với tư cách là "ông tổ" của AI, con người cuối cùng sẽ hợp nhất với AI thay vì kiểm soát nó.
Còn về việc liệu lời tiên tri này có thành sự thật hay không, nó phụ thuộc vào thế giới sau 5000 ngày.
Sau đây là toàn văn cuộc đối thoại:
01 Ngay cả khi OpenAI không tạo ra ChatGPT, các công ty khác sẽ sớm tạo ra nó
**Zhang Peng: Bất kể Trung Quốc hay Hoa Kỳ, gần đây mọi người đang thảo luận về các mô hình lớn. Bạn cảm thấy thế nào về làn sóng thay đổi công nghệ này trong các mô hình lớn? Bạn sẽ cảm thấy rất sốc? **
Kevin Kelly: Trí tuệ nhân tạo (AI) đã xuất hiện hàng chục năm nay. Một bước tiến lớn đã xảy ra khi các mô hình AI bắt đầu sử dụng mạng lưới thần kinh và học sâu, đồng thời chúng ngày càng trở nên lớn hơn. Khoảng 4 hoặc 5 năm trước, nó bắt đầu sản xuất các mô hình máy biến áp rất lớn (mô hình học sâu với cơ chế tự chú ý). Trong hai năm qua, nó đã bắt đầu giao tiếp với các mô hình ngôn ngữ lớn.
Trên thực tế, gần đây, sự thay đổi lớn trong AI không phải là khả năng của nó, và hiệu suất của nó trên phương diện này cũng không khá hơn là bao. **Điều đã thực sự thay đổi trong AI gần đây là nó cho phép chúng ta có giao diện người dùng đàm thoại có thể thực sự giao tiếp với AI bằng ngôn ngữ (tự nhiên). Trước đó, con người cần phải học rất nhiều kiến thức lập trình và rất thành thạo mới có thể sử dụng AI. Nhưng bây giờ, đột nhiên mọi người đều sử dụng AI. Đó là phần thực sự thú vị. **
Li Zhifei: Tôi đồng ý với những gì KK đã nói, thay đổi chính trong mô hình ngôn ngữ lớn hiện nay là cải thiện khả năng tương tác ngôn ngữ tự nhiên. Đây thực sự là điều mà nhiều người bình thường có thể cảm nhận được, và chính vì điều này mà ChatGPT ngày nay mới có sức ảnh hưởng xã hội lớn như vậy.
Nhưng tôi nghĩ rằng cũng có rất nhiều biến thể trong khả năng của các mô hình lớn ngày nay, và chính sự biến đổi đó làm cho khả năng tương tác tự nhiên của nó trở nên khả thi. Bởi đằng sau việc hiện thực hóa tương tác tự nhiên, AI cần phải có kiến thức vững chắc, khả năng hiểu biết, khả năng ngôn ngữ, khả năng suy luận và lập kế hoạch, v.v. AI phải có sự đột phá về những khả năng cơ bản này thì mới đạt được khả năng tương tác với ngôn ngữ tự nhiên.
Và tôi nghĩ khả năng của các mô hình lớn trong tương lai sẽ không chỉ là tương tác ngôn ngữ tự nhiên. Những thứ như viết chương trình, quy trình tự động hóa doanh nghiệp và tự động hóa robot không tương tác, nhưng chúng sẽ trở nên khả thi trong tương lai.
**Zhang Peng: Tôi rất đồng ý rằng khả năng giao tiếp tốt hơn với con người của AI sẽ mang lại sự thay đổi mô hình trong công nghệ và kinh doanh. Nếu ChatGPT là đường cong thứ hai của sự phát triển AI, thì sự xuất hiện của nó là tất yếu hay tình cờ? **
**Kevin Kelly:**ChatGPT có khả năng vượt quá mọi mong đợi. **Tôi không nghĩ có ai mong đợi điều này, kể cả những người trong lĩnh vực AI. Trên thực tế, hầu hết các nhà nghiên cứu không biết ChatGPT hoạt động như thế nào và họ cố gắng cải thiện nó, nhưng điều đó rất khó vì họ không biết nó hoạt động như thế nào. Do đó, sự xuất hiện của ChatGPT là một sự tình cờ. **
Mặc dù ChatGPT rất đáng ngạc nhiên, nhưng chúng tôi cũng thấy những hạn chế của nó. **Hạn chế chính của nó là mô hình được đào tạo dựa trên nội dung trung bình do con người tạo ra, do đó, nó có xu hướng tạo ra kết quả trung bình. Và những gì chúng ta thường muốn không phải là mức trung bình, mà là một cái gì đó trên mức trung bình. ** Điều này khó thực hiện.
Thứ hai, các mô hình này được tối ưu hóa cho tính hợp lý chứ không phải độ chính xác. Do đó, làm thế nào để làm cho chúng chính xác hơn là một thách thức lớn mà mọi người hiện đang vật lộn.
Li Zhifei: Tôi nghĩ rằng sự xuất hiện của ChatGPT là ngẫu nhiên trong ngắn hạn, nhưng không thể tránh khỏi trong dài hạn. Có thể nói, việc OpenAI tạo ra ChatGPT vào cuối năm ngoái là một sự tình cờ, nhưng ngay cả khi nó không thành công thì các công ty khác cũng sẽ sớm làm được. **
Điều này đã lặp đi lặp lại vô số lần trong lịch sử công nghệ. Lấy deep learning làm ví dụ, AlexNet là công ty đầu tiên thực hiện chú thích hình ảnh vào năm 2012, nhưng vào thời điểm đó, nhiều nhóm có niềm tin mạnh mẽ và khả năng kỹ thuật cũng đã làm điều đó. Nếu AlexNet không làm được thì những người khác sẽ làm. Ngoài ra, Google đã tạo ra một máy biến áp vào năm 2017 để giải quyết các vấn đề về khả năng mở rộng thấp của các mô hình trình tự như RNN và LSTM. Nếu Google không tạo ra nó, các nhóm khác sẽ tạo ra nó.
**Bối cảnh ra đời của ChatGPT là máy biến áp đã rất trưởng thành, chúng tôi có sức mạnh tính toán mạnh mẽ để đào tạo dữ liệu khổng lồ của Internet, tất cả các yếu tố cần thiết của ChatGPT đều đã có sẵn, và sự ra đời của nó là tất yếu. **Chỉ là OpenAI đã kết hợp nó tốt nhất vào thời điểm đó.
**Zhang Peng: Khi nói về tính tất yếu và ngẫu nhiên, tôi nghĩ đến một từ rất phổ biến gần đây, đó là "xuất hiện". Từ này đã xuất hiện ít nhất 88 lần trong bài "Out of Control" của KK, ngày nay chúng ta nên hiểu nghĩa của từ này như thế nào? **
Kevin Kelly: Theo quan điểm của người Anh, "sự xuất hiện" là một thuật ngữ chỉ hành vi của một hệ thống, một loạt các thứ được kết nối với nhau, chẳng hạn như Internet, rô-bốt, cơ thể, hệ sinh thái hoặc thậm chí là toàn bộ Thế giới, hành vi của nó không chứa trong hành vi của bất kỳ bộ phận đơn lẻ nào. Ví dụ, một tổ ong có thể ghi nhớ những thứ ngoài vòng đời của một con ong, vì vậy bản thân tổ ong có hành vi, khả năng và sức mạnh mà các bộ phận riêng lẻ không có. Chúng tôi gọi đây là "sự xuất hiện".
Tương tự như vậy, phần lớn AI đang được tạo ra cũng đang "xuất hiện". Bởi vì không có một vị trí nào trong mô hình giải thích nó đến từ đâu, nên cần có tất cả các bộ phận phối hợp với nhau để tạo ra khả năng mới này. Giống như không có "suy nghĩ" trong bộ não của chúng ta, "suy nghĩ" "xuất hiện" từ toàn bộ tế bào thần kinh. **Những thứ như suy nghĩ, tiến hóa và học tập đều có thể "xuất hiện" từ hệ thống.
Li Zhifei: Hiểu biết của tôi về "xuất hiện" bắt nguồn từ cuốn sách "Sự phức tạp", cuốn sách nói về "càng nhiều càng khác" và "càng nhiều càng khác". Giống như một câu nói cũ của Trung Quốc, "sự thay đổi về lượng dẫn đến sự thay đổi về chất". Lần đầu tiên mô hình lớn nói về "sự nổi lên" là một bài báo được xuất bản bởi Stanford và Google vào cuối năm ngoái. Thông qua các thí nghiệm, họ phát hiện ra rằng bằng cách tăng kích thước của mô hình lớn, khi đạt đến một điểm tới hạn nhất định, nó sẽ đột ngột "xuất hiện" trong một khả năng nhất định.
Bây giờ tôi cảm thấy rằng từ "xuất hiện" thực sự bị lạm dụng. Bởi vì chúng tôi không thể giải thích khả năng của mô hình lớn đến từ đâu, chúng tôi gọi nó là "sự xuất hiện", từ này không thể được giải thích hoặc vận dụng, và nó không giúp chúng tôi đào tạo và áp dụng mô hình lớn. Giờ đây, mọi người không còn nghiên cứu về "sự xuất hiện" nữa mà nghiên cứu thêm về mối quan hệ định lượng giữa đại lượng tham số của mô hình lớn và hiệu suất cuối cùng, điều này có thể hữu ích hơn cho chúng ta trong việc hiểu và kiểm soát mô hình lớn.
**Zhang Peng: Có thể hiểu “nổi lên” sẽ dẫn đến “mất kiểm soát” không? **
Kevin Kelly: Cách hiểu này không hoàn toàn chính xác. Tất nhiên, nó sẽ có "bộ phận ngoài tầm kiểm soát", nếu bạn muốn có thể sử dụng sức mạnh của hành vi "xuất hiện", bạn có thể cần phải chịu đựng một số điều nằm ngoài tầm kiểm soát của mình. Sự hiểu biết và kiểm soát của chúng tôi về nó có thể không đủ tốt trong AI ngay bây giờ, nhưng nó thực sự cần thiết để có kết quả tối ưu.
Nhưng đồng thời, chúng ta không thể để mọi thứ "vượt khỏi tầm kiểm soát", chúng ta phải thực hiện một mức độ "kiểm soát" nhất định, đó là hướng dẫn và quản lý trí tuệ nhân tạo. Một lần nữa, chúng tôi không muốn hạn chế quá mức, nhưng phải đạt được một mức độ kiểm soát nào đó. Tuy nhiên, chúng ta có thể sẽ không bao giờ có toàn quyền kiểm soát chúng, đặc biệt là với những trí tuệ nhân tạo mạnh mẽ hơn, chúng ta có thể sẽ không bao giờ hiểu đầy đủ cách chúng hoạt động. Đó là sự đánh đổi.
**Zhang Peng: Ông viết cuốn sách "Mất kiểm soát" đã nhiều năm rồi, đến thời điểm hiện nay, kết hợp với làn sóng cách mạng AI này, ông thấy cuốn "Mất kiểm soát" có phần nào đáng giá không? hiệu chuẩn lại? **
Kevin Kelly: Tôi không nghĩ mình đã nói quá nhiều về trí tuệ nhân tạo và sự mất kiểm soát trong cuốn sách "Out of Control", thực ra nó chủ yếu nói về cách biến những thứ đơn giản thành những thứ phức tạp. Có một thứ gọi là kiến trúc hệ thống con của Rodney Brooks, đề cập rằng bạn có thể tạo ra một rô-bốt phức tạp bằng cách nhúng các phần trí thông minh vào trong đó. Quá trình dẫn đến sự phức tạp là bạn đặt mọi thứ lên trên những thứ đã hoạt động. (Lý thuyết kiến trúc của Brooks đề xuất rằng hành vi cấp cao hơn cần chứa hành vi cấp thấp hơn).
** Giống như một con côn trùng, ngay cả khi bạn cắt đầu nó, nó vẫn có thể đi lại, bởi vì chức năng đi bộ đã được hoàn thành một phần. Giống như bộ não của chúng ta có một lõi chịu trách nhiệm về việc thở và các chức năng tự trị khác, chúng ta thêm nhiều lớp phức tạp hơn lên trên nó. Ý tưởng này vẫn còn giá trị cho đến ngày nay khi mọi người đang chế tạo robot và trí tuệ nhân tạo và cố gắng làm cho chúng trở nên phức tạp hơn. ** Đây thực sự là điều duy nhất tôi nói đến trong "Out of Control" và tôi nghĩ vấn đề vẫn còn nguyên giá trị.
**Zhang Peng: Tôi nhớ trước đây ông có một quan điểm thú vị, đó là “giả sử công nghệ là một loại sự sống”, khi nó xuất hiện với trí thông minh gần với con người, nó sẽ muốn gì tiếp theo? Điều này sẽ ảnh hưởng thế nào đến thế giới kinh doanh và xã hội loài người? **
**Kevin Kelly:**Tôi gọi công nghệ là "vương quốc thứ bảy của cuộc sống". Chúng tôi đã đẩy nhanh quá trình tiến hóa của sự sống thành một thế giới "khô" không còn cần môi trường "ẩm ướt" nữa mà có thể tồn tại trong silicon. Chúng ta có thể sử dụng tâm trí của mình để tạo ra các công nghệ giống như cuộc sống khác. Họ có thể thích nghi và có thể học hỏi và phát triển.
Quan điểm của tôi là công nghệ về cơ bản theo đuổi những thứ giống như cuộc sống. Ví dụ, chúng sẽ tăng tính đa dạng khi chúng tiến hóa và chúng cũng sẽ trở nên chuyên biệt và cụ thể hơn. Cơ thể chúng ta có 52 loại tế bào khác nhau, bao gồm tế bào tim, tế bào xương và tế bào xương. Chúng tôi cũng sẽ tạo ra các AI chuyên biệt thực hiện các tác vụ cụ thể như dịch ngôn ngữ, tạo hình ảnh và lái xe tự động. ** Ngoài ra, công nghệ sẽ trở nên phức tạp hơn giống như cuộc sống, đó là điều hiển nhiên.
Cuối cùng, công nghệ cũng sẽ “cùng có lợi và cộng sinh” như cuộc sống. Sự sống phát triển phức tạp đến mức nó chỉ tiếp xúc với sự sống khác, không bao giờ tiếp xúc với vật chất không sống. Giống như vi khuẩn trong ruột của bạn. Chúng chỉ được bao quanh bởi các tế bào sống khác. ** Trong tương lai, cũng sẽ có một số AI không được thiết kế cho con người, mà được thiết kế để phục vụ các AI khác. Ví dụ, sẽ có những AI chuyên duy trì các AI khác, những AI chỉ giao tiếp với các AI khác. **
**Li Zhifei:**Tôi muốn giải thích mối quan hệ giữa AI và cuộc sống từ góc nhìn của một kỹ sư. Vài năm trước, nhiều người luôn hỏi tôi: “Chỉ số IQ của Alphago (chương trình máy tính đầu tiên đánh bại nhà vô địch cờ vây thế giới) bao nhiêu tuổi?” Lúc đó, tôi không thích kiểu câu hỏi này vì tôi không thể. không trả lời nó. Vào thời điểm đó, mặc dù AI có thể chơi cờ vây và có chỉ số IQ cao nhưng nó không thể thực hiện các cuộc trò chuyện bằng ngôn ngữ tự nhiên như một đứa trẻ 3 tuổi. Vào thời điểm đó, cơ chế của nó về cơ bản khác với cơ chế của con người.
Nhưng những ngày này, tôi đặc biệt thích so sánh AI với một đứa trẻ. Tôi nghĩ cốt lõi là vì AI ngày nay đã sở hữu những khả năng trí tuệ chung thực sự mà trẻ em có, chẳng hạn như kiến thức, logic, suy luận, lập kế hoạch, v.v. **Vì vậy, tôi muốn nói rằng AI ngày nay giống một cơ thể sống hơn. Nó có chỉ số IQ của một đứa trẻ 5 tuổi và kiến thức của một giáo sư đại học cũng như của một đứa trẻ sơ sinh, tùy thuộc vào việc nó có xem dữ liệu hay không. **
Dựa trên sự hiểu biết này, tôi nghĩ chúng ta cần suy nghĩ lại về những gì AI thực sự muốn. Đối với trẻ 5 tuổi, đầu tiên trẻ sẽ tự thanh lọc, sau đó là tự tái tạo và hợp tác. Bản thân tôi không có câu trả lời hay cho câu hỏi này.
02 Trong 5000 ngày tới, chúng ta sẽ trải qua giai đoạn chuyển tiếp ngắn và khẩn cấp
**Zhang Peng: Khi khả năng của AI phát triển nhanh chóng, nhiều người bình thường cảm thấy lo lắng và sợ rằng họ sẽ mất khả năng cạnh tranh. KK có bất cứ suy nghĩ và đề nghị về vấn đề này? **
**Kevin Kelly:**Mặc dù công nghệ AI đã phát triển được 20 năm nhưng mọi người vẫn cảm thấy rằng đó là thành công chỉ sau một đêm và lo lắng về tốc độ phát triển cũng như khả năng của nó. **Chúng ta luôn có xu hướng tưởng tượng ra những tình huống xấu nhất hơn là những tình huống tốt nhất. Tôi nghĩ một cách để đối phó với sự lo lắng về thay đổi là nhìn lại quá khứ. Trên thực tế, con người đã từng có kiểu lo lắng này trong quá khứ, nhưng chưa bao giờ trong trường hợp xấu nhất mà chúng ta tưởng tượng. Nó có thể là như vậy thời gian này. **
Cách tốt nhất mà tôi thấy để đối phó với những lo lắng của mình là cố gắng sử dụng chúng. Tôi thấy rằng hầu hết sự lo lắng đến từ những người chưa sử dụng AI và họ duy trì cảm giác xa cách với AI. Trên thực tế, một khi họ bắt đầu thử và sử dụng nó, họ sẽ thấy rằng AI có cả lợi ích, hạn chế và tác hại. Điều này sẽ làm giảm sự lo lắng của họ.
Li Zhifei: Nếu AGI không xảy ra hôm nay, nó sẽ xảy ra vào ngày mai. Vì nó là không thể ngăn cản, bạn nên nắm lấy và hiểu nó. Đối với tôi lúc này, AGI là một đối tác có suy nghĩ. Tôi sẽ nói chuyện với anh ấy về nhiều vấn đề, kiến thức của anh ấy rất toàn diện và anh ấy có thể cho tôi lời khuyên từ một góc nhìn rộng và toàn diện. Tôi nghĩ rằng đây có thể là một hình thức tốt để con người đón nhận AI.
Đồng thời, chúng ta có thể thấy rằng các mô hình lớn ngày nay vẫn còn thiếu một số khả năng quan trọng từ AGI thực. Ví dụ như khả năng suy luận logic và lập kế hoạch công việc phức tạp, nếu bạn muốn AI phân tách các bước và đạt được mục tiêu dựa trên một mục tiêu nhất định thì hiện tại không tốt lắm.
**Zhang Peng: KK cũng là một người sáng tạo nội dung, bạn nghĩ giá trị cuối cùng của người sáng tạo mà AI trong thời đại AI không thể thay thế là gì? **
Kevin Kelly: Tôi đã sử dụng trí tuệ nhân tạo và các công cụ khác trong bài viết của mình. Tôi không nghĩ ai sẽ mất việc vì AI. **Bởi vì tôi không thể tìm thấy một ví dụ nào mà một nghệ sĩ bị mất việc vì AI. Đó là một nỗi sợ tưởng tượng, một vấn đề không tồn tại. Việc làm có lẽ là vấn đề ít nghiêm trọng nhất liên quan đến AI. **
Điều tôi muốn nói là những gì đã mất có thể là bản mô tả công việc của bạn, những gì bạn thực sự làm, có thể thay đổi. ** Một số người đã quan sát thấy rằng 50% công việc của họ có thể được thực hiện bởi AI, trong khi 50% còn lại sẽ được AI tăng cường và khuếch đại. **Vì vậy, trong tương lai, một nửa công việc có thể không cần con người làm nữa và con người có thể làm tốt hơn 50% công việc còn lại. Đây thường là mô hình chúng ta sẽ thấy.
**Tất nhiên, một số loại công việc sẽ biến mất, chẳng hạn như đặt món ăn và đếm tiền với tư cách là nhân viên thu ngân. Chúng tôi không muốn con người làm những công việc này, vì vậy chúng chắc chắn sẽ biến mất, và chúng sẽ biến mất. **
**Zhang Peng: Bạn đánh giá thế nào về khả năng cạnh tranh của người trẻ và người già trong thời đại AI? **
Kevin Kelly: Người lớn tuổi có rất nhiều lợi thế, họ có nhiều thông tin và kinh nghiệm. Tuổi trẻ cũng có rất nhiều lợi thế vì họ không biết điều gì là không thể. Tôi không nghĩ ai cạnh tranh hơn ai.
Tôi muốn nói rằng những người trẻ tuổi ngày nay thường nói về việc trở thành người bản địa kỹ thuật số và có lợi thế hơn công nghệ. Nhưng vì sự phát triển nhanh chóng của trí tuệ nhân tạo và những thứ khác, những người trẻ tuổi có thể là thổ dân ngày hôm qua và giống như "người già" vào ngày mai. Dù già hay trẻ, tất cả mọi người đều là “lính mới” trong thời đại mới và phải tiếp tục học hỏi những điều mới một cách nhanh chóng trong suốt cuộc đời của họ.
**Zhang Peng: Với sự làm chủ khác nhau của công nghệ AI, liệu điều này có mang lại những thay đổi về khoảng cách giàu nghèo? Đó là, những người sẽ sử dụng AI trong tương lai sẽ làm việc hiệu quả hơn và có khả năng cạnh tranh tốt hơn? **
Kevin Kelly: Vâng, khoảng cách giàu nghèo sẽ ngày càng lớn. **Tôi nghĩ rằng theo thời gian, khả năng làm việc với trí tuệ nhân tạo của bạn có thể quan trọng hơn việc bạn có học đại học hay không. Có lẽ mục đích của trường đại học sẽ là dạy bạn cách làm việc với trí tuệ nhân tạo. Đối với những người rất tham vọng, nếu họ học cách sử dụng trí tuệ nhân tạo, mức lương của họ sẽ tạo ra sự khác biệt lớn. **
Tuy nhiên, khi AI lan rộng khắp thế giới, trong tương lai chúng ta sẽ đạt được khả năng tiếp cận AI bình đẳng trên toàn cầu, giống như khả năng tiếp cận bình đẳng với giáo dục. Tôi biết những người bạn điều hành các công ty lớn ở Mỹ và họ thuê nhân viên làm việc từ xa, miễn là họ có khả năng, xuất thân không thành vấn đề. Do đó, nhiều người làm việc ở Nam Mỹ và Châu Phi sẽ được trả lương theo tiêu chuẩn lương của Mỹ. Họ sẽ kiếm được nhiều tiền hơn so với cách khác.
**Zhang Peng: Sự phát triển nhanh chóng của công nghệ có thể mang lại sự bất bình đẳng và bất công trong lĩnh vực xã hội, chúng ta nên làm thế nào để cân bằng giữa phát triển và công bằng và công lý? **
Kevin Kelly: Tôi nghĩ chúng ta có thể đạt được sự cân bằng giữa tiến bộ và công bằng. Trên thực tế, tôi nghĩ rằng một phần quan trọng của sự tiến bộ là phân bổ công bằng.
So với hàng trăm năm trước, thế giới rất bất công. Bạn sinh ra là nô lệ, nông nô hay nông dân, và không có cơ hội nào để vượt qua điều đó. Nhưng nhờ có sự tiến bộ, giờ đây chúng ta có một thế giới bình đẳng và công bằng hơn. Tôi tin rằng sự phát triển của công nghệ có thể làm tăng tính công bằng, mặc dù điều đó có thể không thành hiện thực, nhưng điều đó là có thể.
**Li Zhifei:**Từ góc độ của một kỹ sư,**Nếu bạn nhìn nhận sự công bằng từ mục đích cuối cùng và hy vọng rằng mọi người đều có sự giàu có và trình độ năng lực như nhau, thì điều này chắc chắn sẽ dẫn đến ngày càng nhiều sự bất công. Nhưng nếu bạn nhìn vào sự công bằng ngay từ đầu, chẳng hạn như cung cấp các công cụ AI cho mọi người, điều này có thể tốt hơn để đạt được sự công bằng. **
**Zhang Peng: Bây giờ chúng ta thấy rằng một số công ty, chẳng hạn như Midjourney, một công ty của Wenshengtu, đã tạo ra thu nhập hàng trăm triệu đô la hàng năm chỉ với một tá người. Chúng ta có thể hiểu rằng AI đã thay đổi cơ bản năng suất không? Kết quả là các công ty trong tương lai sẽ trở nên nhỏ hơn và tinh gọn hơn? **
Kevin Kelly: Sức mạnh đáng kinh ngạc mà Internet và trí tuệ nhân tạo hiện sở hữu có thể đồng thời trao quyền cho các cá nhân, tập đoàn vừa và lớn. Nó giúp một cá nhân sở hữu một công ty dễ dàng hơn, vì vậy chúng ta sẽ thấy rất nhiều công ty mới chỉ là AI cộng với một số ít người. Nhưng đồng thời, chúng tôi cũng chứng kiến một số công ty trở nên lớn hơn nhờ sự tồn tại của trí tuệ nhân tạo, thậm chí tăng quy mô lên một triệu người.
**Vì vậy, chúng ta sẽ không đột ngột bước vào thế giới của những công ty chỉ có một hoặc hai người, điều đó sẽ không xảy ra. Đồng thời, chúng tôi sẽ không chỉ mang lại lợi ích cho các công ty lớn. Đó là vẻ đẹp của AI, nó có thể mang lại lợi ích và trao quyền cho tất cả mọi người. **
Li Zhifei: Tôi nghĩ hiệu ứng đuôi dài và hiệu ứng Matthew sẽ ngày càng rõ ràng hơn.
Một mặt, cái đuôi sẽ ngày càng dài ra, ngày càng nhiều công ty nhỏ xuất hiện và tự chúng sẽ trở thành một hệ thống hoàn chỉnh. Mặt khác, khi một công ty lớn có khả năng AI mạnh mẽ, sức mạnh tổ chức của nó sẽ trở nên mạnh mẽ hơn. Trước đây nó chỉ có thể tổ chức cho 1.000 người, nhưng bây giờ nó có thể tổ chức cho 10.000, 100.000 hoặc 1 triệu người. Ví dụ, ngành giao đồ ăn của Trung Quốc dựa vào một bộ hệ thống tự động hóa hoàn chỉnh để tổ chức một nhóm hành khách khổng lồ.
**Zhang Peng: Hiện tại, AI cũng là chủ đề nóng nhất ở Thung lũng Silicon, nhiều doanh nhân nghĩ về đổi mới kinh doanh lấy mô hình lớn làm cốt lõi. KK có bất kỳ quan sát nào về điều này không? **
Kevin Kelly: Điều này khiến tôi nhớ lại những ngày đầu của Internet. Khi internet lần đầu tiên xuất hiện, đột nhiên mọi doanh nghiệp nhận ra rằng họ phải đặt mình lên internet. Và giờ đây, mọi doanh nghiệp đang tận dụng giao diện đàm thoại của AI, bằng cách giới thiệu các mô hình ngôn ngữ lớn và trí tuệ nhân tạo để tiến hành kinh doanh. Một ví dụ là Wendy's, một cửa hàng bán đồ ăn nhanh thời thượng hiện đang sử dụng giao diện trò chuyện, cho phép khách hàng gọi đồ ăn trong xe và nói chuyện với một chiếc máy.
Ngoài ra, có một số dịch vụ và ý tưởng hoàn toàn mới vẫn chưa xuất hiện. Tôi không biết con số chính xác, nhưng điều tôi biết chắc chắn là hàng trăm tỷ đô la đang chảy vào không gian này ngay bây giờ. Thông thường, hầu hết trong số họ có thể sẽ không thành công, nhưng sẽ có đủ. Chúng ta sẽ thấy một số điều khá tuyệt vời trong ba năm tới và một số công ty hoàn toàn mới có thể trở nên thực sự lớn mạnh.
**Zhang Peng: Trong 5.000 ngày qua, KK đã đưa ra nhiều dự đoán chính xác và nắm bắt được nhiều hướng đi lớn về tương lai. Gần đây, bạn đã dự đoán rằng 5.000 ngày tới sẽ là một trong những giai đoạn quan trọng nhất trong lịch sử loài người. Chìa khóa của nút này ở đâu? Nhân loại sẽ dẫn đến ngã tư đường theo hướng nào? **
Kevin Kelly: Ngoài trí tuệ nhân tạo, còn có nhiều thứ khác đang diễn ra trên thế giới. Chúng ta đang đối mặt với thách thức của biến đổi khí hậu, kỹ thuật di truyền đang xuất hiện, thật dễ dàng để tưởng tượng trí tuệ nhân tạo đang hạ thấp phẩm giá, thật dễ dàng để thấy sự giám sát trở nên phổ biến và chúng ta mất kiểm soát. Chúng ta phải đối mặt với nhiều thách thức và cơ hội trên phạm vi toàn cầu.
**Đây là một giai đoạn chuyển tiếp hẹp và khẩn cấp, và chúng ta phải vượt qua nó. **Tôi nghĩ rằng chúng ta có thể tiếp cận cánh cổng hẹp này thông qua điện khí hóa, xe điện, năng lượng thay thế và thành công trong việc phát triển một loại vắc-xin mới. Hiện tại, hành tinh vẫn còn nhiều căng thẳng và chia rẽ chính trị, nhưng chúng ta cần hành động tập thể, cần đạt được sự đồng thuận trong các lĩnh vực công nghệ, môi trường, v.v., và cùng nhau giải quyết các vấn đề.
**Đây là lần đầu tiên trên Trái đất xuất hiện các nền văn hóa toàn cầu, nền kinh tế toàn cầu và tác động môi trường toàn cầu. Đây cũng là cơ hội để chúng ta trở thành một nền văn minh toàn cầu hơn trong 5000 ngày tới. **
Li Zhifei: KK nói rằng trong 5.000 ngày tới, thế giới sẽ có nhiều thách thức khác ngoài AI. Tôi nghĩ rằng 365 ngày tới cũng rất quan trọng chỉ từ góc độ AI. Trí tuệ nhân tạo đã trải qua nhiều vòng, mỗi lần người ta kỳ vọng cao vào nó, nhưng nó không hoạt động, rồi người ta lại kỳ vọng vào giá trị cao, và nó lại không hoạt động. Tôi nghĩ liệu làn sóng AGI ngày nay có trở thành thứ mà mọi người trong ngành cho là tuyệt vời hay liệu nó có trở thành một thứ rất quan trọng trong xã hội hay không, phần lớn phụ thuộc vào 365 ngày tới.
Kể cả việc phát triển mô hình lớn như thế nào, càng lớn càng tốt hay nên thêm đa phương thức, hay nên thêm giải pháp, v.v.? Bao gồm cả việc xem xét tỷ lệ thâm nhập. Hiện tại, chưa đến 5% người trên thế giới có thể đã sử dụng ChatGPT. Làm cách nào để chúng tôi có thể tăng tỷ lệ thâm nhập từ 5% lên 20%? Bao gồm cả quy định, con người nên đối phó với tác động của AI đối với xã hội như thế nào? Nó cũng bao gồm AI ngoài việc được áp dụng cho các ngành như Internet, thì nó nên được triển khai như thế nào trong các ngành truyền thống như chăm sóc y tế, ô tô và tài chính? vân vân.
Tôi nghĩ rằng có thể phải mất ít nhất một năm để mọi người thử nghiệm khác nhau trước khi họ có thể có nhận định rõ ràng hơn.
03 Người bình thường không cao quý, chúng tôi muốn AI tốt hơn người bình thường
**Zhang Peng: Trong nhiều trường hợp, con người có xu hướng tin tưởng vào công nghệ, chẳng hạn như có người ngủ trong xe tự lái và gây ra tai nạn. Có phải sự tin tưởng tinh tế vào công nghệ tiên tiến này là một thói quen của con người? Hậu quả là gì? **
Kevin Kelly: Xe tự lái không hoàn hảo nhưng chúng vẫn lái tốt hơn con người. Chúng ta có thể tin tưởng vào trí tuệ nhân tạo không? Trong các cuộc trò chuyện với chatbot, chúng tôi thấy rằng câu trả lời của họ không chính xác nên chúng tôi không thể tin tưởng hoàn toàn. Nhưng tôi nghĩ chúng ta sẽ sớm bắt đầu giải quyết vấn đề đó.
Ngày nay, hầu hết mọi người tin tưởng vào máy tính của họ. Bạn cho nó những con số, nó cho bạn câu trả lời và bạn hoàn toàn tin tưởng nó. Vì vậy, chúng tôi biết chiếc máy này đáng tin cậy và đó là thứ có thể được cải thiện. ** Và những thành kiến về AI bởi vì chúng được đào tạo trên những con người bình thường, những người phân biệt chủng tộc, phân biệt giới tính, ác ý, không cao quý. Chúng tôi thực sự muốn AI của mình tốt hơn con người. **
Giống như một chiếc máy tính tốt hơn một người bình thường, bạn nên dựa nhiều hơn vào câu trả lời mà chiếc máy tính đưa ra cho bạn hơn là một người bình thường. ** Niềm tin là điều chúng ta nên tập trung và nỗ lực, mặc dù còn nhiều thách thức nhưng cuối cùng tôi nghĩ chúng ta sẽ dựa vào và tin tưởng nhiều vào trí tuệ nhân tạo và máy móc. **
**Zhang Peng: Gần đây, nhiều người ở Hoa Kỳ tin rằng sự phát triển của AI quá nhanh và họ nên chậm lại hoặc thậm chí dừng lại và suy nghĩ về nó. Bạn có đồng ý với ý kiến này không? **
Kevin Kelly: Không, tôi không ủng hộ. Tôi nghĩ rằng điều này là sai lệch, gây hiểu lầm và không cần thiết. Tôi không nghĩ rằng nó thực sự có thể, cũng không nên.
**Zhang Peng: Trong hầu hết các bộ phim khoa học viễn tưởng hoặc tiểu thuyết về con người, AI là một nhân vật tương đối ảm đạm, đây là do con người thiếu trí tưởng tượng hay chúng ta có quá nhiều trí tưởng tượng không chính xác? **
**Kevin Kelly: Hollywood luôn miêu tả trí tuệ nhân tạo là lạc hậu, khủng khiếp và không mong muốn, điều mà tôi nghĩ là thiếu trí tưởng tượng. Bởi vì đó là quy luật của vũ trụ nên việc hình dung một điều gì đó sẽ thất bại như thế nào sẽ dễ dàng hơn nhiều so với việc nó sẽ thành công như thế nào. **Thành thật mà nói, thật khó để mọi người tưởng tượng ra một thế giới tuyệt vời trong 100 năm tới, nơi AI phổ biến, rẻ và có lợi cho nhân loại, mặc dù đó là thế giới mà chúng ta muốn sống.
Ngoài ra, những hãng phim đó rất giỏi kể chuyện và các yếu tố của một câu chuyện hay là xung đột, thảm họa và một số yếu tố mạnh mẽ. Có thể là chiến tranh, bão hoặc trí tuệ nhân tạo đang cố gắng hủy diệt thế giới. Do đó, khó có khả năng chúng ta sẽ thấy một viễn cảnh màu hồng về trí tuệ nhân tạo trong một bộ phim Hollywood bởi nó không góp phần tạo nên câu chuyện, dù khả năng có nhưng rất nhỏ.
Vì vậy, chúng ta không thể nhìn trí tuệ nhân tạo qua ấn tượng của Hollywood (phim ảnh). Thật không may, đó là những gì nhiều người làm. Khi nhắc đến trí tuệ nhân tạo, họ nghĩ ngay đến "Kẻ hủy diệt", "Chuyến du hành vũ trụ 2001" và "CÔ ẤY".
Li Zhifei: Tôi nghĩ rằng tất cả sự mất lòng tin là do sự thiếu hiểu biết. Khi chúng ta đối mặt với loại AGI mới, tôi không hiểu các khả năng của nó xuất hiện như thế nào, nó muốn gì và nó có thể làm gì.Đây là vấn đề cốt lõi.
Tôi nghĩ những gì con người có thể làm, một mặt là hiểu AGI nhiều hơn, mặt khác, học cách để AGI tự giải thích rõ ràng. Ví dụ, khi nó đưa ra câu trả lời cho bạn, bạn để nó nói ra quá trình hoạt động bên trong và độc thoại nội tâm. Điều này có thể tạo ra cảm giác tin tưởng mạnh mẽ hơn. **
**Zhang Peng: Đối với KK, có vẻ như "Đạo Đức Kinh" của Lão Tử đã truyền cảm hứng cho bạn rất nhiều. Bạn đã đề cập rằng "mức kiểm soát cao nhất là mất kiểm soát và mức độ kiểm soát thấp nhất là kiểm soát mọi thứ." Bạn nghĩ gì về sự gia tăng gần đây trong quy định của chính phủ và công nghệ về AI? **
Kevin Kelly: Tôi không nghĩ quy định hiện hành là tốt. Tất nhiên, quy định là quan trọng và cần thiết, phải đảm bảo mọi việc vận hành trơn tru, duy trì sân chơi bình đẳng, đảm bảo an toàn. Nhưng quy định sớm là đáng sợ. Vấn đề hiện nay là chúng ta cố gắng điều chỉnh một thứ mà chúng ta không biết rõ, và điều đó thường dẫn đến thảm họa.
**Lý Tri Phi:**Tại sao lại có sự giám sát? Về cơ bản, mọi người lo lắng rằng tác động tiêu cực của AGI sẽ lớn hơn tác động tích cực, rằng nó sẽ quá khả thi và không thể chấp nhận được về mặt xã hội. Nhưng ở giai đoạn này, phán đoán này là sai. Bởi vì ngày nay, tác động tích cực của AGI phải lớn hơn tác động tiêu cực của nó.
Thứ hai, vấn đề thực sự với AGI ngày nay là nó không đủ mạnh. Bao gồm khả năng lập kế hoạch, khả năng hòa nhập với thế giới vật chất, khả năng tự tiến hóa, v.v. Mặc dù chúng ta đã thấy hy vọng, nhưng nó vẫn còn rất xa so với nhận thức thực sự. Chúng ta có thể không bao giờ đạt được điều đó.
Vì vậy, quan điểm của tôi là, **chúng ta không thể chỉ nhìn thấy xu hướng AGI và tăng cường quy định một cách đáng kể. Điều này có thể cho phép chúng tôi tiêu diệt AGI trước khi chúng tôi đạt được nó. Giám sát chắc chắn là cần thiết, nhưng nó không nên được kiểm soát quá mức. **
**Zhang Peng: Trí tuệ nhân tạo đã được nói đến trong nhiều năm, và bây giờ có vẻ như nó đang bước vào một kỷ nguyên mới. Nếu AI thực sự có cơ hội trở thành một dạng sống có trí thông minh cao hơn con người trong tương lai, chúng ta nên hòa nhập chúng vào nền văn minh nhân loại hay đặt chúng dưới sự kiểm soát của con người? Con đường nào có thể thực sự nâng cấp nền văn minh nhân loại? **
**Kevin Kelly: Tôi nghĩ rằng có một khuôn khổ rất hữu ích để hiểu về trí tuệ nhân tạo (AI) của tương lai - không phải AI của ngày hôm nay khi chúng được so sánh với AI của 30, 50 hoặc 100 năm tới , Điều đó chưa đủ phức tạp -- đó là coi nó như một sinh vật ngoài hành tinh nhân tạo đến từ hành tinh khác. **
Rất nhiều AI sẽ là loài mà chúng ta chưa từng thấy trước đây, có suy nghĩ khác với con người. Họ sẽ thông minh như Yoda (nhân vật ảo trong "Star Wars") hay Spock (nhân vật ảo trong "Star Trek"), và thậm chí vượt qua con người ở một số khía cạnh. Chúng tôi sẽ tạo ra nhiều loại người ngoài hành tinh nhân tạo khác nhau, tôn trọng họ và sử dụng trí thông minh khác nhau của họ để giúp chúng tôi giải quyết các vấn đề khó khăn, chẳng hạn như tìm ra lực hấp dẫn lượng tử thực sự là gì.
Nhưng chúng tôi sẽ không trao quyền kiểm soát cho họ. Nếu chúng tôi không thích hành vi của họ, chúng tôi gửi chúng trở lại, đóng chúng lại. Chúng ta có thể lấy đi sức mạnh của họ nếu chúng ta nghĩ rằng họ đã đạt được quá nhiều sức mạnh. Chúng tôi không muốn AI quyết định số phận của mình.
Li Zhifei: AGI hiện tại giống như một con bướm, sau khi thu được rất nhiều chất dinh dưỡng từ ấu trùng, nó sẽ hoàn thành quá trình thăng hoa của chính mình. Nó tương đương với việc sử dụng tất cả kiến thức Internet của con người trong quá khứ để hoàn thành quá trình chuyển đổi của chính họ. Trong tương lai, AI chắc chắn sẽ vượt xa con người về nhiều mặt. Tôi nghĩ con người có thể là tổ tiên của AI, và điều đó thật đáng mừng.
KK nói rằng chúng ta phải coi AI như một người ngoài hành tinh, điều này nghe giống sự kiểm soát hơn. **Tôi nghĩ con người có thể đánh giá quá cao khả năng hoặc chỉ số IQ của mình. Bạn có thể tưởng tượng rằng, chẳng hạn, trong 50 năm nữa, trong số 100 tác nhân quyền lực và có ảnh hưởng nhất trên thế giới, có lẽ chỉ có 20 người là con người và 80 người còn lại sẽ là AI. Vì vậy, tôi nghĩ, cuối cùng, con người và AI phải là sự hợp nhất, không phải là sự kiểm soát. **