Khi nói đến trò chơi trực tuyến, chúng ta đều biết nút “báo cáo” không có tác dụng gì. Bất kể thể loại, nhà phát hành hay ngân sách, trò chơi ra mắt mỗi ngày với hệ thống báo cáo người chơi lạm dụng không hiệu quả và một số tựa game lớn nhất thế giới luôn tồn tại trong tình trạng xin lỗi vì đã chứa chấp môi trường độc hại. Các nhượng quyền thương mại bao gồm League of Legends, Call of Duty, Counter-Strike, Dota 2, Overwatch, Ark và Valorant có các cộng đồng thù địch đến mức danh tiếng này là một phần của thương hiệu của họ – đề xuất những tựa game này cho người chơi mới bao gồm cảnh báo về vitriol mà họ sẽ kinh nghiệm trò chuyện.
Có cảm giác như nút báo cáo thường gửi trực tiếp các khiếu nại vào thùng rác, sau đó được bộ phận kiểm duyệt một người đốt cháy hàng quý. Theo huyền thoại Quake và Doom esports pro Dennis Fong (hay được biết đến với cái tên Thresh), điều đó không xa sự thật ở nhiều studio AAA.
“Tôi sẽ không nêu tên, nhưng một số Fong nói. “Nó đi đến một hộp thư đến mà không ai nhìn vào. Bạn cảm thấy điều đó với tư cách là một game thủ, phải không? Bạn cảm thấy chán nản vì bạn giống như, tôi đã báo cáo cùng một người đàn ông 15 lần và không có gì xảy ra. ”
Các nhà phát triển và phát hành trò chơi đã có nhiều thập kỷ để tìm ra cách chống lại độc tính của người chơi , nhưng họ vẫn chưa. Vì vậy, Fong đã làm.
Tuần này, anh ấy đã công bố GGWP, một hệ thống hỗ trợ AI thu thập và sắp xếp dữ liệu hành vi của người chơi trong bất kỳ trò chơi nào, cho phép các nhà phát triển giải quyết mọi báo cáo đến với sự kết hợp của các phản hồi tự động và đánh giá người thực. Sau khi nó được giới thiệu với một trò chơi – “Theo nghĩa đen, nó giống như một dòng mã”, Fong nói – API GGWP tổng hợp dữ liệu của người chơi để tạo ra điểm số sức khỏe cộng đồng và phân tích các loại độc tính phổ biến đối với tựa game đó. Xét cho cùng, mọi trò chơi đều là một bông tuyết thô thiển khi nói đến việc lạm dụng trong trò chuyện.
Hệ thống cũng có thể gán điểm danh tiếng cho từng người chơi, dựa trên phân tích do AI dẫn dắt về các trận đấu được báo cáo và sự hiểu biết phức tạp về văn hóa của mỗi trò chơi. Sau đó, các nhà phát triển có thể chỉ định phản hồi cho một số điểm danh tiếng nhất định và thậm chí cả các hành vi cụ thể, cảnh báo người chơi về sự sụt giảm xếp hạng của họ hoặc chỉ phá vỡ búa cấm. Hệ thống hoàn toàn có thể tùy chỉnh, cho phép một tiêu đề như Call of Duty: Warzone có các quy tắc khác với, say, Roblox .
“Chúng tôi rất nhanh chóng nhận ra rằng, đầu tiên Fong nói. “Và vì điều đó, bạn thực sự có thể sử dụng dữ liệu lớn và trí tuệ nhân tạo theo những cách để giúp phân loại nội dung này. Phần lớn những thứ này thực sự gần như hoàn hảo để AI giải quyết vấn đề này. Và chỉ là mọi người chưa “.
GGWP là sản phẩm trí tuệ của Fong, người sáng lập Crunchyroll Kun Gao, và chuyên gia dữ liệu và AI, Tiến sĩ George Ng. Cho đến nay, nó đã bảo đảm 12 triệu đô la tiền tài trợ hạt giống, được hỗ trợ bởi Quỹ đổi mới của Sony, Riot Games, người sáng lập YouTube Steve Chen, streamer Pokimane và người sáng tạo Twitch Emmett Shear và Kevin Lin, cùng các nhà đầu tư khác.
Fong và các đồng nghiệp của anh ấy đã bắt đầu xây dựng GGWP hơn một năm trước, và với mối quan hệ của họ với ngành, họ có thể ngồi lại với các giám đốc điều hành studio AAA và hỏi tại sao việc kiểm duyệt lại là một vấn đề dai dẳng như vậy. Họ phát hiện ra vấn đề gấp đôi: Thứ nhất, những hãng phim này không coi độc hại là vấn đề mà họ tạo ra, vì vậy họ không chịu trách nhiệm về nó (chúng ta có thể gọi điều này là Zuckerberg Special ). Và thứ hai, chỉ đơn giản là có quá nhiều lạm dụng để quản lý.
Chỉ trong một năm, một trò chơi lớn đã nhận được hơn 200 triệu báo cáo do người chơi gửi, Fong nói. Một số người đứng đầu studio khác, anh ấy cũng đã nói chuyện với các số liệu được chia sẻ trong chín chữ số, với những người chơi tạo ra hàng trăm triệu báo cáo hàng năm cho mỗi tiêu đề. Và vấn đề còn lớn hơn cả mà .
“Nếu bạn ‘đang nhận được 200 triệu cho một trò chơi mà người chơi báo cáo lẫn nhau, quy mô của vấn đề là rất lớn, “Fong nói. “Bởi vì như chúng ta vừa nói, mọi người đã bỏ cuộc vì nó không đi đến đâu. Họ chỉ ngừng báo cáo mọi người. ”
Các giám đốc điều hành nói với Fong rằng họ chỉ đơn giản là không thể thuê đủ người để theo kịp. Hơn nữa, họ thường không quan tâm đến việc thành lập một nhóm chỉ để tạo ra một giải pháp tự động – nếu họ có nhân viên AI trong nhân viên, họ muốn họ xây dựng trò chơi chứ không phải một hệ thống kiểm duyệt.
Trong cuối cùng, hầu hết các hãng phim AAA đã giải quyết khoảng 0,1% các báo cáo mà họ nhận được mỗi năm và đội kiểm duyệt của họ có xu hướng nhỏ đến mức buồn cười, Fong phát hiện ra.
“Một số nhà xuất bản lớn nhất trên thế giới, đội hành vi chống độc của người chơi của họ tổng cộng ít hơn 10 người,” Fong nói. “Nhóm của chúng tôi 35 tuổi và tất cả đều là các nhà khoa học sản phẩm, kỹ thuật và dữ liệu. Vì vậy, chúng tôi với tư cách là một nhóm lớn hơn hầu hết các nhóm của nhà xuất bản toàn cầu, điều này thật đáng buồn. Chúng tôi rất tận tâm và cam kết sẽ cố gắng giải quyết vấn đề này. ”
Fong muốn GGWP giới thiệu một cách suy nghĩ mới về sự tiết chế trong trò chơi, tập trung vào việc thực hiện những khoảnh khắc có thể dạy được, thay vì trừng phạt thẳng tay. Hệ thống có thể nhận ra hành vi hữu ích như chia sẻ vũ khí và hồi sinh đồng đội trong điều kiện bất lợi và có thể áp dụng tiền thưởng cho điểm danh tiếng của người chơi đó để đáp ứng. Nó cũng sẽ cho phép các nhà phát triển triển khai các thông báo trong trò chơi theo thời gian thực, chẳng hạn như một cảnh báo có nội dung “bạn đã mất 3 điểm danh tiếng” khi người chơi sử dụng một từ không được chấp nhận. Điều này hy vọng sẽ ngăn cản họ nói lại từ đó, làm giảm số lượng báo cáo tổng thể cho trò chơi đó, Fong nói. Theo Fong, một studio sẽ phải làm thêm một chút công việc để triển khai hệ thống thông báo như vậy, nhưng GGWP có thể xử lý nó.
“Chúng tôi đã hoàn toàn hiện đại hóa cách tiếp cận kiểm duyệt,” anh nói . “Họ chỉ cần sẵn lòng thử.”
Tất cả các sản phẩm do Engadget giới thiệu đều được lựa chọn bởi đội ngũ biên tập viên của chúng tôi, độc lập với công ty mẹ của chúng tôi. Một số câu chuyện của chúng tôi bao gồm các liên kết liên kết. Nếu bạn mua thứ gì đó thông qua một trong những liên kết này, chúng tôi có thể kiếm được hoa hồng liên kết.