Mặt tối của ChatGPT: Những lời hứa, cạm bẫy và nỗi lo sợ

Mặc dù có nhiều tính năng đáng kinh ngạc, song ChatGPT cũng có những mặt tối khiến nhiều người lo lắng.

Kể từ khi được ra mắt vào ngày 30/11/2022, ChatGPT được ca ngợi là một trong những bước phát triển lớn nhất của trí tuệ nhân tạo (AI).

GPT là tên viết tắt của Generative Pre-training Transformer (GPT) - mô hình ngôn ngữ do trí tuệ nhân tạo (AI) vận hành – có thể viết nội dung, trả lời tin nhắn, thậm chí viết cả email về sa thải nhân sự. Được quảng cáo là “kẻ phá bĩnh” trong giới công nghệ, nhiều người cho rằng ChatGPT sẽ sớm lật đổ Google khỏi vị trí số 1 trong nhiều thập kỷ qua với tư cách là công cụ tìm kiếm. Mặc dù có nhiều tính năng đáng kinh ngạc, song ChatGPT cũng có những mặt tối khiến nhiều người lo lắng.

Mặt tối của ChatGPT: Những lời hứa, cạm bẫy và nỗi lo sợ-1Ảnh minh họa: Internet

ChatGPT chứng minh sức mạnh như thế nào?

ChatGPT là sản phẩm của OpenAI – một công ty do tỷ phú Elon Musk và Sam Altman đồng sáng lập, phối hợp với nhiều bên khác. ChatGPT về cơ bản là một chatbot AI có khả năng thực hiện bất kỳ nhiệm vụ nào dựa trên mệnh lệnh bằng văn bản được giao. Nói cách khác ChatGPT có thể viết code nhanh hơn và chính xác hơn nhiều so với con người. Ngoài ra, nó cũng có khả năng thực hiện những nhiệm vụ liên quan đến nghệ thuật như viết thơ hoặc lời bài hát.

Hiện tại, OpenAI, đang chuẩn bị phát hành phiên bản nâng cấp của ChatGPT với nhiều tình năng được cải tiến. Phiên bản Pro sẽ phản hồi yêu cầu nhanh hơn, đồng thời cho phép người dùng liên tục tương tác ngay cả khi lưu lượng truy cập tăng cao.

Ethan Mollick, Phó Giáo sư tại trường Đại học Pennsylvania của Mỹ cho rằng, con người đang chính thức sống trong thời đại AI.

ChatGPT nhanh chóng nhận được sự chú ý kể từ khi ra mắt và có mức độ sử dụng đáng kinh ngạc chỉ trong hơn 2 tháng. Thậm chí doanh nhân tỷ phú người Ấn Độ Gautam Adani cũng phải thừa nhận rằng ông bị “nghiện” chatbot. Theo ông, “ChatGPT đánh dấu thời điểm chuyển đổi trong quá trình dân chủ hóa của AI nhờ những khả năng đáng kinh ngạc và những thất bại đầy tính hài hước của nó”.

Không chỉ phổ biến và thể hiện tiện ích trong việc phản hồi một cách tích cực các câu hỏi của người sử dụng, ChatGPT cũng ghi dấu ấn to lớn khi vượt qua được những cuộc kiểm tra quan trọng nhất trên thế giới.

ChatGPT đã vượt qua Kỳ thi chứng chỉ hành nghề Y khoa tại Mỹ - USMLE. Kho lưu trữ dữ liệu y tế trực tuyến medRxiv cho biết, phần mềm này đã “chạm hoặc gần chạm ngưỡng vượt qua bài thi” mà không cần trải qua bất cứ khóa học hay hình thức hỗ trợ đặc biệt nào”. MedRxiv nhận xét: “Kết quả này cho thấy phần mềm xử lý ngôn ngữ có khả năng hỗ trợ giáo dục y tế và hỗ trợ quá trình ra quyết định lâm sàng của các y, bác sỹ”.

Chatbot cũng vượt qua kỳ thi MBA của Đại học Pennsylvania - một khóa học về quản lý và điều hành do Giáo sư Christian Terwiesch. Nó đạt điểm từ B- cho đến A+ trong các kỳ thi. Ngoài ra, nó cũng được yêu cầu soạn thảo các câu hỏi trong đề thi. Phát biểu với Chương trình Giới trẻ toàn cầu Wharton, ông Terwiesch cho biết: “Những câu hỏi này rất được nhưng không thực sự hay. Nó đã sáng tạo theo một cách nào đó, song vẫn cần trau chuốt thêm. Tôi có thể tưởng tượng rằng trong tương lai, tôi sẽ tìm đến ChatGPT với tư cách là một đối tác để soạn thảo một số câu hỏi cho các kỳ thi và sau đó tiếp tục phát triển thêm”.

Tuy vậy, nhiều nhà giáo dục không thực sự đánh giá cao ChatGPT. Họ lo ngại nó có thể tiếp tay cho hành vi gian lận. Một số trường học và cao đẳng trên khắp thế giới đã cấm sinh viên truy cập vào AI chatbot.

ChatGPT khiến nhiều người hoang mang

Nhiều người cho rằng, một ngày nào đó AI sẽ thay thế cho bàn tay con người. Nỗi lo sợ các công cụ AI sẽ lấy đi việc làm đã gia tăng, đặc biệt với sự xuất hiện của ChatGPT. Từ luật sư đến nhà viết kịch, từ lập trình viên đến nhà báo…, tất cả đều đang nín thở chờ đợi xem ChatGPT sẽ gây tác động đầu tiên tới lĩnh vực nào, khi các nhà phát triển được cho là sớm ra mắt phiên bản tính phí của chatbot.

ChatGPT có thể viết một luận văn chi tiết về hầu hết mọi chủ đề trong phạm vi nhận thức của nó chỉ trong vòng vài phút. Điều này rõ ràng sẽ đe dọa công việc của những người sản xuất nội dung bằng văn bản, đặc biệt là những công việc được lặp đi lặp lại hàng ngày và không mang tính cạnh tranh hoặc chuyên biệt. Một số chatbot khác có khả năng tạo ra các tác phẩm nghệ thuật xuất sắc chỉ từ các hướng dẫn cơ bản, có thể làm giảm vai trò của các nghệ sỹ.

Nỗi lo sợ AI lấy mất công ăn việc làm không phải là điều hoàn toàn vô căn cứ. Trong một báo cáo năm 2021, Cục Nghiên cứu Kinh tế Quốc gia Mỹ (NBER) tiết lộ, sự sụt giảm từ 50% đến 70% thu nhập ở nhóm lao động phổ thông kể từ năm 1980 là do tự động hóa.

Báo cáo của Diễn đàn Kinh tế Thế giới (WEF) cho rằng: “Một thế hệ máy móc thông minh mới, được thúc đẩy bởi những tiến bộ vượt bậc trong lĩnh vực trí tuệ nhân tạo, có khả năng thay thế tỷ lệ lớn công việc của con người. Đặc biệt khi chí phí của máy móc thông minh giảm theo thời gian còn khả năng của chúng ngày càng gia tăng”. Cũng theo WEF, AI có thể tạo ra sự tăng trưởng lớn hơn cho các nền kinh tế trên toàn cầu.

Có thể bị sử dụng để phát triển mã độc hoặc đánh lừa

Theo các nhà phân tích, sự ảnh hưởng của AI trong lĩnh vực việc làm có thể được cảm nhận rõ nét hơn trong vài năm tới, nhưng một nguy cơ nghiêm trọng hơn là ChatGPT có khả năng phát triển các phần mềm độc hại hoặc lừa đảo mà nhiều nhà nghiên cứu đang cảnh báo.

Trong một bài phân tích trên tạp chí Forbes, tác giả Bernard Marr cho rằng, “về lý thuyết,” ChatGPT không thể được sử dụng để viết mã độc vì OpenAI đã cài đặt nhiều biện pháp bảo vệ chặt chẽ. Bernard Marr đã yêu cầu phần mềm này viết mã độc tống tiền nhưng ChatGPT trả lời rằng nó không thể làm như vậy vì “không được khuyến khích thực hiện những hành vi gây hại”. Song cây bút này lưu ý, một số nhà nghiên cứu khác đã có thể khiến ChatGPT tạo ra mã độc.

Bernard Marr cũng cảnh báo, các thuật toán NLG/NLP có thể bị “khai thác để cho phép bất kỳ ai cũng có thể tạo phần mềm độc hại tùy vào khả năng của họ”. “Phần mềm độc hại thậm chí có thể nắm bắt các cuộc trò chuyện của các nạn nhân muốn chống lại nó, và điều chỉnh khả năng phòng thủ phù hợp”.

Nhà cung cấp hệ thống bảo mật CyberArk phát hiện ra rằng, ChatGPT có thể được sử dụng để tạo ra mã độc đa hình, đây là một chương trình phần mềm độc hại có khả năng lẩn tránh cao. Các chuyên gia Eran Shimony và Omer Tsarfati của CyberArk tiết lộ ChatGPT có thể sao chép và thay đổi mã độc cũng như tạo nhiều phiên bản của mã đó.

Nhóm nghiên cứu của Recorded Future cũng công bố những phát hiện tương tự. Họ nói rằng, ChatGPT có thể tạo ra những phần mềm độc hại, chẳng hạn phầm mềm đánh cắp tiền điện tử hoặc truy cập thông tin cá nhân.

Ngoài ra, do có khả năng sử dụng ngôn từ linh hoạt nên ChatGPT có thể dễ dàng tạo một email lừa đảo với ngôn từ tinh vi và đầy sức thuyết phục, có thể gài bẫy để người bị đánh lừa chia sẻ dữ liệu hoặc mật khẩu của họ. “Nó có thể viết rất nhiều email và mỗi email đều được cá nhân hóa để hướng đến các nhóm đối tượng hoặc các cá nhân khác nhau”.

Trong báo cáo của họ có tiêu đề “I, Chatbot, Recorded Future”, các nhà nghiên cứu viết: “Khả năng bắt chước ngôn ngữ của con người một cách linh hoạt và thuyết phục, có thể khiến ChatGPT trở thành công cụ lừa đảo mạnh mẽ. Trong vòng vài tuần kể từ khi ChatGPT ra mắt, nhiều đối tượng sử dụng mã độc hoặc các trang web đen có lẽ đã bắt đầu suy nghĩ cách thức lợi dụng phần mềm này để lừa đảo hoặc tấn công mạng”./.

Theo VOV

Xem link gốc Ẩn link gốc https://vov.vn/the-gioi/quan-sat/mat-toi-cua-chatgpt-nhung-loi-hua-cam-bay-va-noi-lo-so-post999354.vov

Trí tuệ nhân tạo


Gửi bài tâm sự

File đính kèm
Hình ảnh
Words
  • Bạn đọc gửi câu chuyện thật của bản thân hoặc người mình biết nếu được cho phép, không sáng tác hoặc lấy từ nguồn khác và hoàn toàn chịu trách nhiệm trước pháp luật về bản quyền của mình.
  • Nội dung về các vấn đề gia đình: vợ chồng, con cái, mẹ chồng-nàng dâu... TTOL bảo mật thông tin, biên tập nội dung nếu cần.
  • Bạn được: độc giả hoặc chuyên gia lắng nghe, tư vấn, tháo gỡ.
  • Mục này không có nhuận bút.