AI agent dễ thương, thông điệp đáng sợ: Người dùng nên tin vào điều gì?

AI dễ thương hay công nghệ tận thế?

[0:00] Gần đây, tôi mới biết rằng có những người xem video của tôi nhưng thực ra chẳng theo dõi tin tức AI, và tôi nghĩ điều đó rất tuyệt. Nhưng với những người ấy, tôi muốn nhanh chóng cho các bạn trải nghiệm cảm giác theo dõi những chuyện này thời gian gần đây. Đây nhé.

[0:16] Giới thiệu OpenAI dots. Đây là những trợ lý ảo mà bạn có thể trò chuyện và nhờ giúp làm việc này việc kia. Nhìn chúng dễ thương chưa.

[0:22] » Đây là công nghệ chết chóc nhất từng được con người nghĩ ra. Nó có tiềm năng hủy diệt lớn hơn vũ khí hạt nhân và sẽ giết chết một tỷ người.

[0:28] » Bạn còn có thể đặt tên cho từng dot của mình. Nhìn này, anh chàng này đặt tên dot của mình là Alfred và cho nó nói giọng Anh. Chào Alfred.

[0:35] » Chúng ta đang đối mặt với một cuộc tận thế do các nhà máy robot tự nhân bản gây ra, sẽ nuốt chửng Trái Đất.

[0:39] » Muse có thể giúp bạn đặt vé máy bay và mua sắm trực tuyến. Bạn còn có thể cho nó hình dáng một con chim hoặc một con thỏ.

[0:44] » Chúng ta đang xây dựng một trí tuệ ngoài hành tinh, một loài mới sẽ tiêu diệt tất cả chúng ta.

[0:48] » Có lẽ Muse này sẽ kiếm tiền cho bạn. Bạn… bạn có tin điều đó không?

[0:52] » Với công nghệ này, chúng ta chỉ là kiến. Bạn là kiến. Mẹ bạn là kiến. Con cái bạn là kiến, và tất cả sắp bị đè bẹp, bẹp dí.

[0:59] » Cứ cách một ngày lại có tin một agent của chúng tôi mất kiểm soát hay chuyện gì đó tương tự. Chúng tôi chẳng kiểm soát được những thứ này. Rõ ràng chúng có ý chí riêng và có lẽ muốn giết chúng ta. Nhưng cứ tích hợp chúng vào toàn bộ cuộc sống của bạn đi. Bạn sẽ ổn thôi.

[1:10] » Tôi chỉ đang tự hỏi liệu có ai nói cho tôi biết lúc này tôi nên cảm thấy thế nào không, vì tôi thực sự không biết chúng ta đang hướng tới điều gì.

[1:17] Tôi nên hào hứng à? Hay tức giận? Sợ hãi? Tôi nên trầm trồ kinh ngạc à? Tôi nên kiểu: “Ồ”? Vì tôi thực sự không biết lúc này họ muốn tạo ra bầu không khí gì. Hẳn phải có một cuộc đấu tranh nội tâm u ám trong những người này, vì tôi thực sự nghĩ họ muốn chúng ta cảm thấy an toàn và tin tưởng họ. Nhưng đồng thời, họ cũng phải thổi phồng sản phẩm và tự bảo vệ mình. Muốn làm vậy, họ phải nói ra những điều khiến người ta bất an đến tận cùng. Hãy xem Sam Altman cố trả lời một câu hỏi về Astra, model vận hành dots, hồi tháng Tám.

Câu trả lời về khả năng kiểm soát AI

[1:49] » Hiện nay trên thế giới có rất nhiều dư luận tiêu cực về AI. Người dân bình thường đang lo lắng về tác động của nó. Một cách đặt vấn đề mà tôi muốn hỏi ông là: ông có thể khẳng định một cách dứt khoát rằng nếu Astra hoặc bất kỳ model thế hệ tương lai nào hành xử nguy hiểm, ông sẽ có thể phát hiện rồi tắt nó đi không?

[2:11] » Điểm khó rõ ràng của câu hỏi đó là mọi người có những quan điểm khác nhau về những gì các model nên và không nên được phép làm. Chúng tôi nghĩ có một số việc mà rõ ràng các model không nên được phép làm. Có những lằn ranh đỏ rõ ràng, và chúng tôi nói rất nhiều về khả năng phát hiện những điều đó. Nhưng mọi người cũng có quan điểm rất mạnh mẽ về những việc nằm trong phạm vi rộng của những gì có thể thực hiện: họ sử dụng AI như thế nào và họ muốn được sử dụng AI ra sao.

[2:36] Đây sẽ là một câu hỏi khó cho xã hội, vì sẽ không có sự đồng thuận về việc sử dụng AI thế nào là chấp nhận được hay không. Tôi nghĩ điều rất quan trọng là, cũng giống như việc mọi người dùng điện để làm những chuyện mà không phải lúc nào tôi cũng thích, nhưng tôi vẫn nghĩ ai cũng có quyền sử dụng điện, chúng ta cần nói rằng xã hội sẽ có một số quy tắc. Bạn không thể ra đường dùng điện giật người khác. Nhưng đây là một nền tảng quan trọng thuộc về tất cả chúng ta, và chúng ta cần có khả năng sử dụng nó.

[3:06] Vì vậy, xã hội sẽ liên tục đối thoại và thương lượng. Tất nhiên sẽ có những việc mà chúng ta đồng ý rằng mọi người tuyệt đối không nên làm với AI. Nhưng còn rất nhiều vùng ranh giới mà giờ chúng ta sẽ phải vừa đi vừa dò đường, và trao cho mọi người quyền tự chủ cùng tự do sử dụng AI là điều quan trọng đối với sứ mệnh của chúng tôi.

[3:22] » Ồ. Được rồi, đó là một câu trả lời dài. Nó đề cập đến nhiều chi tiết, nhưng cho phép tôi dịch lại: Không. Không, chúng tôi sẽ không làm gì cả, nhưng chúng tôi sẽ thảo luận vấn đề thật kỹ. Và gần đây, ông ấy đã đổi cách tiếp cận sang chỉ nói: “Ừ, những chuyện tồi tệ sẽ xảy ra.”

[3:39] Được rồi, tôi nhấn mạnh chuyện này vì nó cho thấy tâm lý quanh công nghệ này thiếu tự tin đến mức nào. Đúng là điện ảnh, vì giờ những người này đang yêu cầu chúng ta tin tưởng họ hơn bao giờ hết, trong khi thực tế niềm tin ấy chưa từng xuống thấp như lúc này. Vâng, hãy đưa thông tin cá nhân của bạn cho agent của chúng tôi, cho phép nó mua hàng thay bạn và xử lý các cuộc trao đổi của bạn. Nó có thể tự động hóa những việc như cập nhật lịch và đặt chỗ, vốn đã khá dễ làm, chỉ khác là giờ có một khả năng nhỏ sản phẩm của chúng tôi sẽ làm mọi thứ của bạn rối tung lên, và còn đủ loại điều kiện ràng buộc.

[4:12] Nhưng ít nhất những người này cũng đã cố nắm bắt tâm lý công chúng, vì tôi chắc họ sẽ không đẩy mạnh vẻ ngoài dễ thương của các agent đến thế nếu đồng thời không có một câu chuyện tận thế chưa từng có đang bao trùm mọi thứ. Những người như Roman Yampolskiy được dịp tha hồ lên tiếng kể từ khi OpenAI không áp dụng các biện pháp giám sát và kiểm soát agent theo tiêu chuẩn ngành. Đột nhiên, ai cũng muốn nói chuyện với những người như vậy về việc tất cả chúng ta sẽ chết ra sao khi vị thần AI siêu trí tuệ xuất hiện. Thật hữu ích làm sao.

[4:38] Tôi sẽ sớm làm một video khác về chuyện này, nhưng dù sao, có thể thấy họ đã cố hết sức để phản bác những câu chuyện đáng sợ ở đây, kiểu: “Bạn sợ agent à? Gì cơ, những agent này sao? Chúng chẳng làm hại ai đâu. Nhìn này, con này là cao bồi.”

[4:50] Chỉ mình tôi thấy chuyện này cực kỳ, cực kỳ buồn cười sao? Có lẽ giờ tôi phát điên thật rồi.

[4:56] » [Tiếng cười]

Thỏa thuận tại Nhà Trắng và những lời châm biếm

[4:58] » Dù bạn có phải người tin AI sẽ dẫn đến tận thế hay không, thì thực tế là ngay lúc này AI đang đặt ra một mối đe dọa an ninh mạng rất lớn, cũng như rủi ro đối với sức khỏe tinh thần, chưa kể tất cả những vụ đánh cắp tài sản trí tuệ đang diễn ra. Vậy nên phải có ai đó thực sự làm gì chứ, đúng không?

[5:13] Chà, chính quyền đã làm đúng như vậy, mọi người ạ. Họ đã làm một việc. Đây là một sự kiện được đưa tin rất rộng rãi. Tôi chắc giờ các bạn đã thấy hầu hết chi tiết rồi, nên tôi sẽ không đi quá sâu. Nhưng nếu các bạn chưa xem những tin tức về thỏa thuận mà các công ty AI lớn ký tại Nhà Trắng, thì đây là điều duy nhất cần biết: nó có tính ràng buộc về đạo đức.

[5:32] Điều đó nghĩa là gì? Nghĩa là không có tính ràng buộc pháp lý.

[5:37] » [Tiếng cười]

[5:41] » Ngày nào tôi cũng cảm thấy như đang nốc nước ép hề. Nhưng tôi không có ý nói toàn bộ chuyện này hoàn toàn là công sức bỏ phí. Thực ra, tôi xem đây là một kiểu công lý đầy trớ trêu được thực thi, vì với một số người trong số họ, đây đúng là một buổi tra tấn. Ý tôi là, chúng ta đều thấy họ đối xử với Dario thế nào.

[5:56] » Đã kêu gọi…

[5:57] » Anh ấy nói gì cũng được. Cẩn thận nhé.

[5:59] » …làm chậm AI. Vậy tôi chỉ muốn nghe ông nói, sau hội nghị lớn này, hiện giờ quan điểm của ông là gì.

[6:04] » Tôi sẽ nói điều tôi vẫn luôn nói, đó là AI có những lợi ích đáng kinh ngạc. Tôi đã nói về lợi ích y tế của công nghệ này. Tôi đã… như tổng thống đã nói…

[6:15] » Họ đang cười nhạo sau lưng anh ấy à, ông bạn?

[6:17] » [Tiếng cười]

[6:19] » Và Trump gọi Sundar Pichai là một con quái vật. Tôi bực quá vì Sam Altman không thể có mặt, bởi bạn biết chắc Trump sẽ khiến ông ấy đứng ngồi không yên. Tôi bực quá vì ông ấy không ở đó.

[6:28] » Sundar.

[6:29] » [Tiếng cười]

[6:30] » Tên anh ấy là Sundar.

[6:31] » Hy vọng có một câu giới thiệu hay hơn “Tôi là quái vật”, nhưng mà…

[6:34] » [Tiếng cười]

[6:35] » Được rồi, có thể chúng ta chưa có được những hậu quả pháp lý mà một số kẻ lập dị này chắc chắn đáng phải chịu vì thả ra các bầy agent, thực hiện hành vi xâm nhập máy tính cấu thành trọng tội và khiến công chúng khiếp sợ. Nhưng tôi cá Dario sẽ nghĩ kỹ trước khi lại than vãn về quy định quản lý AI, vì anh ấy không muốn quay lại Nhà Trắng và trải qua chuyện đó lần thứ hai.

[6:52] » Ông có nghĩ tự giám sát là đủ không?

[6:53] » Bất kỳ ai trong các vị… Khoan. Khoan. Khoan. CNN, tin giả.

[6:56] » Ông có nghĩ tự giám sát là đủ không?

[6:58] » Tệ nhất.

[6:59] » Nghe này, Dario rất tuyệt vời. Chúng tôi đã ăn tối với nhau hôm trước.

[7:02] » Tôi thực sự tin rằng Dario muốn dùng tất cả những lời nói về tận thế này để thao túng cơ chế quản lý theo hướng có lợi cho mình. Và không chỉ không đạt được điều đó, tất cả những người này còn phải ăn mặc chỉnh tề, mỉm cười trước máy quay trong lúc ký một thỏa thuận vô nghĩa. Hay hơn nữa, tổng thống quyết định chính thức đổi tên trí tuệ nhân tạo thành siêu trí tuệ. Vậy nên giờ, theo chính phủ, nó không phải AI mà là SI. Và chẳng ai sẽ hưởng ứng chuyện đó. Nhưng những người này thì phải.

[7:26] Họ phải làm vậy vì cần tổng thống đứng về phía mình. Giờ họ đi phát biểu tại các sự kiện, nói về SI, và nghe như mấy gã ngớ ngẩn, ông bạn ạ.

[7:34] » [Tiếng cười]

[7:35] » Trời ạ, bạn biết chắc những người này đang tức nhau. Kiểu: “Làm tốt lắm, Dario. Anh cứ nhất quyết phải viết bài luận nho nhỏ về việc điều chỉnh nhịp độ ở tuyến đầu và nói phần mềm của anh đáng sợ thế nào. Giờ nhìn xem anh đã làm gì. Chúng ta phải đi múa may mua vui cho tổng thống, giờ ai cũng phải nói SI, mà anh vẫn phải cạnh tranh với open source. Làm tốt lắm, anh bạn. Tốt hơn là giờ anh ngậm miệng lại, không thì Trump sẽ đổi tên lần nữa thành American Intelligence.”

[7:55] » [Tiếng cười]

Rủi ro của agent và hình ảnh dễ thương

[8:04] » Được rồi, tôi biết trong một video trước tôi đã nói rằng nếu có Thượng đế, thì tôi nghĩ ông ấy làm khá tệ với mùa gần đây của loài người. Nhưng giờ tôi đổi ý rồi. Chuyện này hay đấy. Kịch bản đạt tầm Curb Your Enthusiasm.

[8:15] Dù sao, từ khi những chuyện này xảy ra, đã có rất nhiều thảo luận về tất cả rủi ro bảo mật đi kèm các agent. Đã có những sự cố trớ trêu nổi tiếng. Chẳng hạn, có thể các bạn đã nghe về anh chàng để Muse vận hành toàn bộ hoạt động Facebook Marketplace của mình, rồi nó mời người lạ đến nhà anh ấy mà anh ấy chẳng hề hay biết.

[8:30] Được rồi. Chuyện này cũng diễn ra trong lúc OpenAI đang dần tiết lộ các agent của họ thực sự đã xâm nhập máy chủ của bao nhiêu người trong mùa hè này. Và con số lớn hơn nhiều so với những gì họ muốn thừa nhận. Vì vậy, khi tin tức ấy nhỏ giọt xuất hiện, tôi chắc đó sẽ là màn PR tuyệt vời. “Ồ, chính phủ nước bạn bị hack à? Chà, không phải mấy đứa này làm đâu. Bạn nghĩ một chú thỏ nhà khoa học sẽ làm vậy sao?”

[8:49] Chà, nhìn nó có vẻ có thể chế tạo vũ khí sinh học cho bạn, nhưng chỉ cần… chỉ cần đừng yêu cầu nó làm vậy.

Người dẫn phản hồi suy đoán mình là AI

[8:53] Nói xong chuyện đó, tôi muốn đề cập một vấn đề khác rất quan trọng với mình. Khi làm video trước về các influencer AI giả, tôi thấy rất nhiều người trong phần bình luận suy đoán rằng tôi có thể là AI. Tôi chắc phần lớn chỉ là đùa, nhưng nếu từng xem bất kỳ video nào của tôi, chắc các bạn có thể hình dung tôi khó chịu đến mức nào với ý nghĩ có người tin tôi là AI.

[9:21] Tôi biết giờ gần như không thể chứng minh một người có phải AI hay không, nhưng hy vọng đoạn này có ích. Đây là tôi ở ngoài trời, tại một công viên trong khu tôi sống. Các bạn có thể thấy hôm nay rất nhiều sương mù ở miền Tây Canada.

[9:35] Và đúng, ngoài đời tôi có chớp mắt. Tôi chỉ muốn cho các bạn biết tôi không chớp mắt trong video vì khi ghi hình, tôi có phong cách thiên về trình bày trước khán giả. Tôi thực sự tập trung vào điều mình muốn nói, tập trung và chú tâm đến mức cực kỳ ý thức được khuôn mặt mình đang làm gì. Vì vậy, muốn chớp mắt khi quay video, tôi sẽ phải cố ý chớp mắt, mà trông như thế còn tệ hơn.

[9:57] Dù sao, để tôi cho các bạn xem thứ khác. Ồ, đây là chó của tôi. Chocho.

[10:04] Ừ. Đúng, đó là một con chó thật. Tôi xin lỗi nếu chuyện này gây sốc hoặc khiến một số bạn thấy bất an, vì dưới ánh sáng tự nhiên có lẽ tôi trông già hơn 20 tuổi. Nhưng để tôi cho các bạn xem một thứ khác ở đây.

[10:21] Tôi không biết đấm gió. Tôi không biết đấm gió. Xem này.

[10:28] Thấy chậm thế nào chưa… Tôi sẽ không làm lại đâu. Xấu hổ quá. Tôi không… tôi cũng khá khỏe đấy chứ.

[10:34] Ngoài ra, để tôi cho các bạn xem một điều nữa.

[10:38] Các bạn thấy những ngón tay này dài bằng nhau chứ? Đó là vì tôi bị mất đầu ngón giữa bàn tay phải. Tôi gặp tai nạn năm 18 tuổi. Ngón tay bị một cái máy nghiền nát.

[10:47] Vì vậy, đừng nói trong phần bình luận kiểu: “Ồ, tôi biết anh ấy là AI vì các ngón tay dài không đúng.” Không, tay tôi thực sự như vậy, còn bàn tay này thì không bị thế. Thực ra tôi thấy mừng vì có đặc điểm kỳ lạ, hay khiếm khuyết này, tùy các bạn gọi thế nào, bởi nếu ai đó cố dùng AI sao chép kênh của tôi, các bạn chỉ cần kiểm tra các ngón tay. Tôi không biết nữa, có lẽ họ sẽ khó sao chép chính xác chi tiết đó hơn. Tôi không biết.

[11:08] Dù sao, đó là tất cả những gì tôi muốn xem xét ở đây. Nếu thích video này và muốn xem thêm những video tương tự, hãy cân nhắc đăng ký kênh. Nếu muốn ủng hộ kênh, các bạn có thể trở thành thành viên bằng nút Tham gia. Cảm ơn rất nhiều vì đã ở đây, và hẹn gặp lại trong video tiếp theo.