Chuyện gì đã xảy ra thế: Vậy là bạn đã có CEO của Netflix, Ted Sarandos, nói về cách AI Đây có phải là công cụ mới tuyệt vời sẽ giúp mọi người “kể chuyện hay hơn, nhanh hơn và theo những cách mới”. Tất cả nghe có vẻ tuyệt vời phải không?
- Nhưng đây là thực tế: trong khi anh ấy nói điều đó, công cụ tạo video mới của OpenAI, Sora 2, đang được sử dụng để tràn ngập internet với một số tính năng nội dung xấu nhất có thể tưởng tượng được.
- Chúng ta đang nói về một làn sóng video “hài” thẳng thắn về chất béo và phân biệt chủng tộc trên Instagram, YouTube và TikTok. Mọi người đang sử dụng Sora 2 – thứ có thể tạo ra những clip chân thực đến khó tin – để tạo và chia sẻ video một cách tàn nhẫn.
- Những ví dụ thật khủng khiếp. Có một đoạn clip lan truyền, được xem gần một triệu lần, về một người phụ nữ thừa cân nhảy bungee, chỉ để cây cầu “sập” dưới chân cô ấy. Một bức khác cho thấy một người phụ nữ da đen “ngã xuống sàn của một cửa hàng KFC”, đây chỉ là sự kết hợp kinh tởm giữa phân biệt chủng tộc và sự xấu hổ về cơ thể. Sau đó, có những bức khác cho thấy cảnh tài xế giao hàng ngã qua hiên nhà hoặc “sưng tấy” sau khi ăn.
- Và phần đáng sợ nhất? Rất nhiều người xem những video này đều nghĩ chúng là thật.
Tại sao điều này lại quan trọng: Đây là vấn đề lớn của AI mà không ai muốn nói đến. Nó đã đặt việc tạo ra nội dung căm thù bằng steroid.
- Những gì trước đây khiến một người có kỹ năng sản xuất thực tế phải mất rất nhiều thời gian để thực hiện thì giờ đây bất kỳ người đáng ghét nào cũng có thể tạo ra chỉ trong vài giây.
- Đây không chỉ là “khẩu vị tồi” – đó là một cuộc khủng hoảng đạo đức thực sự. Đó là một cách để sản xuất hàng loạt và khuếch đại những định kiến có hại nhất về con người, tất cả chỉ nhằm mục đích gây cười rẻ tiền.
- Nó cũng chứng minh rằng các “hàng rào bảo vệ” mà các công ty AI này, như OpenAI, cho rằng các công cụ của họ đang thất bại. Khốn thay. Đáng lẽ nó phải chặn loại nội dung bạo lực, đáng ghét này, nhưng rõ ràng là không.
Bapt
Tại sao tôi nên quan tâm: Nếu bạn sử dụng phương tiện truyền thông xã hội, bạn đã thấy điều này. Đây không chỉ là trò troll trực tuyến vô hại.
- Thứ rác rưởi này định hình cách mọi người nhìn thế giới, đặc biệt là trẻ em.
- Và bởi vì rất nhiều người không thể phân biệt được sự khác biệt giữa những gì do AI tạo ra và những gì có thật, nên điều đó hoàn toàn xóa mờ ranh giới giữa thực tế, sự hài hước đen tối và sự căm ghét thuần túy, không pha trộn.
- Và tất nhiên, khi một trong những video này lan truyền, nó chỉ khuyến khích thêm hàng tá người tạo phiên bản của riêng họ để thu hút lượt nhấp chuột và lượt “thích”.
Video được đề xuất
Tiếp theo là gì: Cho đến nay, OpenAI vẫn hoàn toàn im lặng về làn sóng nội dung sợ béo mới này.
- Nhưng điều này đang buộc phải có một cuộc trò chuyện rất cần thiết và không thoải mái về việc ai phải chịu trách nhiệm khi những công cụ mạnh mẽ này được sử dụng để làm tổn thương và quấy rối mọi người.
- Các cơ quan quản lý chắc chắn đang bắt đầu chú ý. Khi các công cụ AI này trở nên dễ sử dụng như một bộ lọc, thách thức thực sự sẽ là tìm ra cách ngăn chặn tất cả “sự sáng tạo” này gây tổn hại đến nhân loại của chúng ta.
Nguồn DigitalTrend