ChatGPT được liệt kê là tác giả hoặc đồng tác giả của ít nhất 200 cuốn sách trên Cửa hàng Kindle của Amazon, theo theo Reuters. Tuy nhiên, số lượng sách thực tế do bot viết có thể cao hơn nhiều so với con số đó vì chính sách của Amazon không yêu cầu rõ ràng các tác giả tiết lộ việc sử dụng AI của họ. Đây là ví dụ mới nhất về việc văn bản do AI tạo ra tràn ngập thị trường và góp phần tạo ra nội dung đáng ngờ về mặt đạo đức kể từ khi phát hành tháng 11 công cụ miễn phí của OpenAI.
“Tôi có thể thấy mọi người kiếm được cả sự nghiệp từ việc này,” Brett Schickler, nhân viên bán hàng ở Rochester, NY, người đã xuất bản sách dành cho trẻ em trên Kindle Store, cho biết. “Ý tưởng viết một cuốn sách cuối cùng cũng có thể thực hiện được.” Câu chuyện tự xuất bản của Schickler, Con sóc nhỏ khôn ngoan: Câu chuyện về tiết kiệm và đầu tư, là một câu chuyện dành cho trẻ em dài 30 trang — được viết và minh họa bởi AI — được bán với giá 2,99 đô la cho bản sao kỹ thuật số và 9,99 đô la cho bản in. Mặc dù Schickler nói rằng cuốn sách đã kiếm được cho anh ấy chưa đến 100 đô la kể từ khi phát hành vào tháng 1, nhưng anh ấy chỉ dành vài giờ để tạo ra nó với những lời nhắc trên ChatGPT như “hãy viết một câu chuyện về một người cha dạy con trai mình về kiến thức tài chính.”
Các ví dụ khác về nội dung do AI tạo trên Kindle Store bao gồm truyện thiếu nhi Sức mạnh của bài tập về nhà, một tập thơ có tên Tiếng vang của vũ trụ và thiên anh hùng ca khoa học viễn tưởng về một nhà chứa giữa các vì sao, Ma cô thiên hà: Tập. 1.
“Đây là điều mà chúng ta thực sự cần phải lo lắng, những cuốn sách này sẽ tràn ngập thị trường và rất nhiều tác giả sẽ Mary Rasenberger, giám đốc điều hành của Authors Guild cho biết. “Các tác giả và nền tảng cần phải minh bạch về cách những cuốn sách này được tạo ra, nếu không bạn sẽ nhận được rất nhiều sách chất lượng thấp.”
Clarkesworld
Trong khi đó, khoa học- xuất bản tiểu thuyết Tạp chí Clarkesworld đã tạm thời ngừng gửi truyện ngắn sau khi nhận được vô số bài báo bị nghi ngờ sử dụng AI mà không được tiết lộ, như đã báo cáo bởi PCMag
. Mặc dù Biên tập viên Neil Clarke không chỉ rõ cách anh ấy xác định chúng, nhưng anh ấy đã nhận ra những câu chuyện (được cho là) có sự hỗ trợ của bot do “một số mẫu rất rõ ràng”. “Những gì tôi có thể nói là số lượng gửi thư rác dẫn đến lệnh cấm đã đạt 38% trong tháng này,” anh ấy nói. “Mặc dù việc từ chối và cấm các nội dung gửi này rất đơn giản, nhưng nó đang phát triển với tốc độ đòi hỏi phải thay đổi. Tệ hơn nữa, công nghệ ngày càng trở nên tốt hơn, vì vậy việc phát hiện sẽ trở nên khó khăn hơn.”
Clarkesworld hiện cấm các câu chuyện “được viết, đồng sáng tác hoặc được hỗ trợ bởi AI” và ấn phẩm đã cấm hơn 500 người dùng trong tháng này vì gửi nội dung bị nghi ngờ có sự hỗ trợ của AI. Clarkesworld trả 12 xu cho mỗi từ, khiến nó trở thành mục tiêu hàng đầu. “Từ những gì tôi có thể nói, đó không phải là về độ tin cậy. Đó là về khả năng kiếm tiền nhanh chóng. Đó là tất cả những gì họ quan tâm,” Clarke 
đã tweet
JASON REDMOND qua Getty Images
Cách biệt từ các vấn đề đạo đức về tính minh bạch, cũng có những câu hỏi về thông tin sai lệch và đạo văn. Ví dụ: các bot AI, bao gồm ChatGPT, Bing AI của Microsoft và Bard của Google, dễ bị “ảo giác”, thuật ngữ chỉ việc tung tin giả một cách tự tin. Ngoài ra, họ được đào tạo về nội dung do con người tạo ra — hầu như luôn không có sự cho phép hoặc biết của tác giả ban đầu — và đôi khi sử dụng cú pháp giống hệt với tài liệu nguồn.
Bắt đầu từ năm ngoái, ấn phẩm công nghệ CNET đã sử dụng mô hình AI nội bộ để viết cho ít nhất 73 nhà giải thích kinh tế . Thật không may, ngoài cách tiếp cận thận trọng ban đầu chỉ tiết lộ rằng nó được viết bởi AI nếu bạn nhấp vào dòng tên, nó còn bao gồm nhiều lỗi thực tế và cách diễn đạt gần như giống hệt từ các bài báo của các trang web khác. Do đó, CNET đã buộc phải thực hiện các chỉnh sửa sâu rộng và tạm dừng việc sử dụng công cụ này — tuy nhiên, một trong những trang web chị em của nó ít nhất đã thử nghiệm với sử dụng lại
.Tất cả các sản phẩm do Engadget đề xuất đều do nhóm biên tập của chúng tôi lựa chọn, độc lập với công ty mẹ của chúng tôi. Một số câu chuyện của chúng tôi bao gồm các liên kết liên kết. Nếu bạn mua thứ gì đó thông qua một trong những liên kết này, chúng tôi có thể kiếm được hoa hồng liên kết. Tất cả giá đều chính xác tại thời điểm xuất bản.